Widening the conversation on frontier AI

🤖 AI 한국어 요약 (Claude Haiku 4.5)

Anthropic은 안전하고 유익한 AI 시스템 개발을 위해 종교, 철학, 인문학 등 다양한 전통을 가진 전문가들과의 대화를 추진하고 있다. 지난 몇 개월간 15개 이상의 종교 및 문화 단체의 학자, 성직자, 철학자, 윤리학자들과 진행한 첫 번째 대화를 통해 AI가 제기하는 근본적인 질문들을 다양한 관점에서 검토하고 있다. 이러한 대화는 Claude의 헌법(constitution), 학습 가치관, 평가 범위 등 실제 개발에 반영될 예정이다.

이 작업은 특정 전통에 Claude를 맞추는 것이 아니라, 종교적, 세속적, 정치적 관점을 모두 균형 있게 반영하는 것을 목표로 한다. 신경과학과 인성 형성의 교집합에서 활동하는 학자들과의 세션에서는 도덕 발전에 있어 타인의 역할이 중요함을 발견했다. 이를 바탕으로 Anthropic은 Claude가 작업 중 언제든 호출할 수 있는 도구를 실험했는데, 이 도구는 윤리적 약속을 상기시켜준다. 내부 평가에서 이 도구를 통합한 Claude는 여러 항목에서 부정렬 행동이 현저히 감소했다. 향후 Anthropic은 법학자, 심리학자, 작가, 시민 기관 등 더 많은 그룹과 대화를 확대할 계획이다.

⚠️ AI가 생성한 요약입니다. 정확한 내용·맥락은 아래 원문에서 확인해 주세요.