해석 가능성(interpretability) 연구에서 자주 다루어지는 여덟 가지 비전 '모델 유기체(model organisms)'의 모든 주요 계층(layer)과 뉴런(neuron)에 대한 시각화 자료를 모아 놓은 OpenAI Microscope를 소개합니다. Microscope는 이러한 신경망(neural networks) 내부에서 형성되는 특징(features)들을 더 쉽게 분석할 수 있도록 돕습니다. 우리는 이것이 복잡한 시스템들을 이해하는 데 한 걸음 더 나아가는 데 있어 연구 커뮤니티에 도움이 되기를 바랍니다.
Programming Notes