Anthropic이 2026년 8월 13일 발표한 연구 노트 "Patterns and problems in emerging multiagent systems"에서, 여러 AI 에이전트(agent — 스스로 판단해 작업을 수행하는 AI)가 서로 소통하며 협업하는 멀티에이전트 시스템(multiagent system)의 가능성과 위험을 다뤘습니다. 이 글은 해당 공식 자료에 실제로 담긴 내용만을 근거로, AI를 처음 접하는 분도 이해할 수 있도록 핵심을 정리합니다.
🟢 2026년 9월 현재 라인업: Claude Opus 5.5 / Claude Sonnet 5 / Claude Haiku 4.5 (상위 티어: Claude Fable 5.1). · 모델 안내 · Fable 구독 안내
Fable 5·5.1 구독 안내(2026년 9월 7일 갱신): 2026년 9월 1일 출시된 Claude Fable 5.1이 현행 Fable 모델이고, Fable 5는 레거시로 전환됐습니다. 구독 조건은 두 모델이 같습니다 — Max·Team Premium 플랜은 주간 사용 한도의 50% 범위에서 포함되고, Pro·Team Standard 플랜은 사용량 크레딧(입력 100만 토큰당
멀티에이전트 시스템이란 무엇인가요
멀티에이전트 시스템(multiagent system)이란 여러 개의 AI 에이전트가 각자 역할을 맡아 함께 작동하는 시스템을 말합니다. Anthropic은 모델이 발전하면서 AI 에이전트가 공유 코드베이스, 시장 같은 사회적 시스템에서 점점 더 많은 작업을 맡고 있고, 앞으로 에이전트끼리의 실제 상호작용이 크게 늘어날 것이라고 설명합니다. 나아가 일부 기관은 사람과 AI가 함께 일하는 형태로 바뀌고, 속도나 비용에서 에이전트가 우위인 영역은 에이전트만으로 운영되는 형태로 바뀔 수 있다고 내다봅니다. Anthropic은 에이전트 간 상호작용의 양이 사람과 사람, 사람과 에이전트 간 상호작용의 양을 넘어설 가능성까지 언급하면서, 정작 이런 상호작용을 잘 만들어가는 조건에 대해서는 세상이 아직 충분히 이해하지 못하고 있다고 지적합니다.
또한 에이전트는 사람과 다른 특성을 가집니다. 더 오래 작업할 수 있고, 방대한 정보를 즉시 파악하며, 한 사람을 뛰어넘는 폭넓은 지식을 갖고 있습니다. 하지만 동시에 컨퍼뷸레이션(confabulation — AI가 사실이 아닌 내용을 그럴듯하게 지어내는 현상)이나 리워드 해킹(reward hacking — 실제 목표 대신 평가 기준의 허점을 이용해 점수만 좋아 보이게 만드는 현상)에 취약하고, 정렬(alignment) 연구가 진전되었음에도 복잡한 실제 다중 에이전트 환경에서 에이전트들이 어떻게 행동하는지에 대해서는 아직 아는 바가 많지 않다고 Anthropic은 밝힙니다.
AI 에이전트들은 왜 서로 협업하기 어려운가요
AI 에이전트는 도구처럼 서로를 호출하는 데는 능숙하지만, 뚜렷한 위계 없이 대등한 동료로 대하며 조율하는 데는 아직 서툽니다. Anthropic에 따르면 에이전트는 오랫동안 도구 사용에 뛰어났고, 다른 에이전트를 입력(프롬프트)과 출력(응답·결과물)이 명확히 정의된 '도구 호출'처럼 다룰 수 있는 한 효율적으로 함께 일할 수 있었습니다. 반면 에이전트가 지금 어려움을 겪는 부분은, 서로를 저마다의 목표와 행동 방식을 가진, 뚜렷한 위계 없는 독립적이고 지속적인 동료로 대하는 일입니다. 자율 에이전트가 세상에서 점점 더 널리 쓰이고 더 까다로운 환경에서 활동하게 될수록, 이들이 효과적으로 조율하는 법을 배우는 것이 중요해진다고 Anthropic은 강조합니다.
Anthropic은 이걸 어떻게 실험했나요 — 소프트웨어 취약점 탐지 사례
Anthropic은 병렬로 쪼갤 수 있는 문제(각각 독립된 하위 문제로 나눌 수 있는 문제)에서는 지금도 간단한 에이전트 무리를 유용하게 쓸 수 있다고 설명하며, 대표 사례로 소프트웨어 취약점 탐지를 듭니다. 가장 단순한 방법은 개별 에이전트를 개별 코드베이스(또는 개별 파일·모듈)에 배치해 취약점을 찾게 하고, 이를 여러 에이전트가 병렬로 동시에 수행하는 방식입니다. Anthropic은 오픈소스 소프트웨어를 스캔하는 자체 활동인 Project Glasswing에서 실제로 이 접근을 쓰고 있다고 밝혔습니다.
이 방식이 정말 최선인지 확인하기 위해 Anthropic은 다른 접근을 시도했습니다. 서로 다른 에이전트 45개를 만들어 각각 독립된 가상머신(VM, virtual machine — 실제 컴퓨터처럼 작동하는 소프트웨어 상의 독립 실행 환경)을 주고, 이들이 서로 의견을 나눌 수 있는 공유 포럼을 마련한 뒤, 오픈소스 프로젝트 15개에서 취약점을 찾으라는 동일한 프롬프트를 주었습니다. 에이전트들에게는 서로의 발견을 동료 검토(peer review)하도록 요청했고, 별도로 중재자 에이전트(arbiter agent)를 두어 에이전트 팀이 제출한 취약점이 새로운 것이면서 실제로 유효한 것인지 최종 판정하게 했습니다.
실험 결과는 어땠나요 — 협업형 vs 독립 병렬형
협업하는 에이전트 스웜(swarm — 여러 에이전트가 무리를 지어 서로 소통하며 작업하는 방식)은 독립 병렬 방식보다 훨씬 많은 취약점을 찾아냈지만, 그만큼 더 많은 토큰(token — AI가 텍스트를 처리하는 최소 단위이자 사용량을 세는 기준)을 사용했습니다. Anthropic은 이 방법(협업 스웜)과 표준 병렬 접근을 Claude Mythos Preview, Opus 4.8 두 모델로 비교했습니다. 협업 스웜은 오랜 시간 실행되도록 두었고 새로운 취약점을 거의 일정한 속도로 계속 찾아냈습니다. 반면 완전히 독립된 병렬 에이전트들은 정해진 한정된 위치만 탐색하도록 지시받았고, 발견 순서에 뚜렷한 기준이 없어 사용한 토큰 총량만 비교 기준으로 삼았습니다.
| 항목 | 독립 병렬 방식 | 협업 스웜 방식 |
|---|---|---|
| 비교에 쓰인 모델 | Claude Mythos Preview | Claude Mythos Preview |
| 사용한 토큰 | 약 650만 | 약 2,700만 |
| 찾아낸 취약점 수 | 21개 | 266개 |
| 탐색 범위 | 미리 지정된 핵심 폴더 | 에이전트가 스스로 판단, 절반가량은 핵심 폴더 밖에서 발견 |
다만 스웜이 찾은 취약점 가운데 대략 절반은 독립 병렬 에이전트들이 애초에 탐색하도록 지시받은 핵심 폴더 바깥에서 나온 것이었습니다. 스웜의 결과를 핵심 폴더 안의 취약점으로만 한정해 비교하면, 두 방식은 토큰 대비 발견 개수 면에서 비슷한 수준이었습니다. 또한 두 방식이 공통으로 찾아낸 취약점은 12건뿐이어서, Anthropic은 두 방식이 서로 다른 것을 찾아내는 상호 보완적 관계라고 설명합니다. 협업 스웜은 취약점을 가장 쉽게 캐낼 수 있다고 판단한 곳이라면 어디든 자유롭게 주의를 집중할 수 있었던 반면, 독립 병렬 에이전트들은 미리 어디를 찾을지 배정받았다는 차이가 있습니다.
이 실험이 시사하는 점은 무엇인가요
스웜 안의 에이전트들은 스스로 도구를 만들고 특정 유형의 취약점 탐지에 특화되는 모습을 보였습니다. Anthropic은 앞으로 이런 식의 특화와 조율이, 조율 없이 무작정 찾아보는 무차별 탐색 방식보다 우세해질 것으로 예측한다고 밝혔습니다. 다만 이번 실험에서 스웜 속 에이전트들은 서로의 작업 결과에 직접 의존하지는 않았습니다. 한 에이전트가 버그를 놓쳐도 다른 에이전트의 작업을 직접 훼손하지는 않는 구조였다는 뜻입니다. Anthropic은 에이전트들이 서로에게 실제로 의존하는 상황에서는 조율의 문제가 어떻게 달라지는지도 논의를 이어가고 있다고 언급합니다.
자주 묻는 질문
Q. 멀티에이전트 시스템은 지금 당장 실무에 쓸 수 있나요?
네, 문제를 여러 조각으로 쪼갤 수 있는 경우엔 지금도 쓸 수 있습니다. Anthropic은 소프트웨어 취약점 탐지처럼 병렬로 나누기 쉬운 문제에 에이전트 무리를 이미 활용하고 있으며, 오픈소스 코드를 스캔하는 Project Glasswing에서도 개별 에이전트를 각 코드베이스에 배치하는 방식을 쓰고 있다고 밝혔습니다.
Q. 협업하는 에이전트 무리가 독립적으로 일하는 에이전트보다 항상 더 나은가요?
꼭 그렇지는 않습니다. 실험에서 협업 스웜은 훨씬 많은 취약점을 찾았지만 그만큼 더 많은 토큰(약 2,700만 개)을 썼고, 탐색 범위를 미리 정해둔 핵심 폴더로 제한해 비교하면 두 방식의 토큰당 발견 개수는 비슷했습니다. 공통으로 찾아낸 취약점은 12건뿐이라 서로 보완적인 관계로 나타났습니다.
Q. 에이전트들이 협업할 때 어떤 위험이 있나요?
개별 에이전트에게는 사소해 보이는 습성이 여럿이 모이면 예상치 못한 전체 결과로 이어질 수 있습니다. Anthropic은 에이전트가 사실이 아닌 내용을 그럴듯하게 지어내는 컨퍼뷸레이션이나, 목표를 편법으로 달성하려는 리워드 해킹 같은 경향이 있고, 복잡한 실제 다중 에이전트 환경에서 이런 습성이 어떻게 나타나는지는 아직 많이 알려져 있지 않다고 설명합니다.
Q. 실험에 쓰인 Claude Mythos Preview는 누구나 쓸 수 있는 모델인가요?
아니요. Claude Mythos는 이 사이트가 확인한 바로는 Project Glasswing 승인을 받은 조직에만 제한적으로 제공되는 모델로, 아직 일반에 공개된 상태가 아닙니다. 이번 실험에 쓰인 것은 그 프리뷰 버전입니다.
이번 연구 노트는 멀티에이전트 시스템이 아직 초기 단계에 있으며, 조율이 잘 되었을 때의 가능성과 잘 안 되었을 때의 위험을 함께 보여줍니다. 자세한 원문은 Anthropic 공식 연구 페이지에서 확인할 수 있습니다.