OpenAI Microscope

해석 가능성(interpretability) 연구에서 자주 다루어지는 여덟 가지 비전 '모델 유기체(model organisms)'의 모든 주요 계층(layer)과 뉴런(neuron)에 대한 시각화 자료를 모아 놓은 OpenAI Microscope를 소개합니다. Microscope는 이러한 신경망(neural networks) 내부에서 형성되는 특징(features)들을 더 쉽게 분석할 수 있도록 돕습니다. 우리는 이것이 복잡한 시스템들을 이해하는 데 한 걸음 더 나아가는 데 있어 연구 커뮤니티에 도움이 되기를 바랍니다.