An update on our election safeguards

🤖 AI 한국어 요약 (Claude Haiku 4.5)

Anthropic은 선거 시즌에 Claude가 정치 관련 정보를 정확하고 공정하게 제공할 수 있도록 보안 조치를 강화했다. Claude는 후보자 정보, 투표 방법, 선거 일정 등 선거 관련 질문에 답변할 때 고정된 학습 데이터의 한계를 극복하기 위해 웹 검색 기능을 활용한다. 사용자들이 최신 후보자 발표, 미디어 보도, 선거 결과 등 가장 최신의 정보를 얻을 수 있도록 하기 위함이다.

Anthropic은 미국 중간선거를 대상으로 200개 이상의 서로 다른 프롬프트로 평가를 실시했으며, 각 프롬프트마다 3가지 변형을 포함해 총 600개 이상의 테스트를 진행했다. 평가 결과 Claude의 Opus 4.7과 Sonnet 4.6은 각각 92%와 95%의 확률로 선거 관련 질문에 웹 검색을 활성화했다. Anthropic은 선거 주기 동안 지속적으로 시스템을 모니터링하고 탐지 능력을 테스트하며 보안 조치를 조정할 계획이며, 이러한 노력을 통해 사용자들이 Claude에서 받는 정보가 정확하고 신뢰할 수 있으며 균형 잡혀 있도록 보장하려고 한다.

⚠️ AI가 생성한 요약입니다. 정확한 내용·맥락은 아래 원문에서 확인해 주세요.