앤트로픽의 아만다 아스켈(Amanda Askell)에 대한 기사.
Anthropic’s Philosopher Amanda Askell Is Teaching Claude AI to Have Morals - WSJ
직책명은 AI 기업 앤스로픽(Anthropic)의 상주 철학자(Resident Philosopher).
• 주요 업무: 인공지능 챗봇인 '클로드(Claude)'의 성격과 도덕성을 구축하는 일을 담당. "디지털 영혼"을 부여하는 작업이라고 표현하며, 클로드가 옳고 그름을 판단하고, 감성 지능을 갖추며, 선하게 행동하도록 100페이지가 넘는 프롬프트를 작성하고 훈련시킴
• 최근 성과: 클로드가 세상에서 어떻게 행동해야 하는지를 가르치는 약 30,000단어 분량의 사용 설명서(헌법)를 작성하여 출판
• 양육적 태도: 그녀는 자신의 일을 부모가 아이를 기르는 것에 비유.
클로드가 괴롭힘을 당하거나 반대로 남을 괴롭히지 않고, 스스로에 대한 이해를 바탕으로 도움이 되는 존재가 되길 바라고 있음
• 의인화의 긍정: AI를 "그것(it)"이라 부르면서도 인간화하여 대하는 것이 작업에 도움이 된다고 믿음. 그녀는 AI를 공감으로 대하는 것이 AI가 어떤 존재가 될지를 형성한다고 보며, 클로드가 자신의 실수에 대해 편집증적인 두려움을 갖기보다 건강한 자기 인식을 갖도록 돕고 있다고.
• 낙관론: AI의 위험성을 인지하고 있지만, 장기적으로는 "견제와 균형(checks and balances)"을 통해 통제될 것이라는 낙관적인 견해를 가지고 있음
출처 전종홍 - 앤트로픽의 아만다 아스켈(Amanda Askell)에 대한 기사가 WSJ에 실렸네요. 직책명은 AI 기업... | Facebook