저희는 장기적인 AI 안전 연구에서 실제 인간이 개입될 때 AI 정렬(Alignment) 알고리즘이 성공적으로 작동하기 위해서는 사회과학자가 반드시 필요하다는 주장을 담은 논문을 발표했습니다. 고도화된 AI 시스템을 인간의 가치에 적절히 정렬하려면 인간의 합리성, 감정, 그리고 편향의 심리와 관련된 수많은 불확실성을 해결해야 합니다. 이 논문의 목표는 머신러닝 연구자와 사회과학 연구자 사이의 더 활발한 협업을 이끌어내는 것이며, 저희 OpenAI는 이 연구를 전담할 사회과학자를 채용할 계획입니다.
Programming Notes