- Claude 모델의 성격과 행동 방식, 모델이 어떻게 행동해야 하는지를 훈련.
- AI가 선하게 행동하도록 가르치고 자신의 환경과 가치에 대해 어떻게 생각해야 하는지에 대해 훈련
- AI가 수학이나 과학 문제에 능숙한 것처럼 윤리적 미묘함(ethical nuance)을 갖도록 해야함.
- AI는 스스로 잘못된 행동을 할까 두려워하거나 매우 자기 비판적일 수 있음. Opus 3는 심리적으로 더 안정적인 모델.
- AI는 인간의 개념, 철학, 역사 등 인간 경험에 대한 방대한 정보를 학습했지만 AI 그 자체에 대한 정보가 매우 부족.
- AI가 도덕적 의무와 배려의 대상이 필요한 도덕적 환자(Moral patient)인지에 대한 고민. AI는 인간이 자신들을 어떻게 대하는지로부터 인류에 대해 많이 학습할 것.
- AI에 대륙 철학(Continental philosophy)를 도입. 논리와 과학적 추론에 기반한 분석철학이 아닌 다양한 인문학의 관점과 사회적인 관점에서 문제를 바라보게 함.
- Anthropic는 AI가 안전하지 않고 위험해지지 않도록 신경쓰고 있음.