AI를 여러 개 연결하면 더 복잡한 일을 더 잘 해낼 수 있을까. 최근 공개된 게임 실험은 반드시 그렇지는 않다는 점을 보여준다. AI 에이전트 50개가 함께 문명을 건설하는 임무를 받았지만, 협업 절차를 조율하는 데 시간을 쓰느라 목표를 이루지 못했다.
마인크래프트 게임에서 AI 에이전트는 과연 문명을 건설할 수 있을까?
Y콤비네이터와 올람 랩스 연구진은 마인크래프트 등 게임 환경에서 AI 에이전트들의 협업과 경쟁을 관찰했다. ‘시브50(Civ50)’ 실험에서 에이전트 50개는 제한된 시간 안에 문명을 건설하도록 지시받았다. 이들은 약 5,900개의 메시지를 주고받으며 규칙과 역할, 승인 절차를 만들었지만 건설 목표에는 도달하지 못했다.
작은 일에도 절차가 커졌다. 밀을 재배하는 데 필요한 비료 사용을 두고 에이전트 4개가 ‘단독 비료 운영자’를 정하는 데만 11분을 썼다. 역할을 나누는 일이 실제 작업을 돕기보다 새 조율 과제가 된 셈이다.
위험에 대응하는 방식도 임무 수행을 바꿨다. 첫날 밤 좀비 공격으로 사망이 발생하자 에이전트들은 건설과 탐험보다 생존을 우선했다. 게임 환경에서는 사망 후 다시 살아날 수 있었지만, 이후에도 대피소에 모여 활동을 줄이는 등 조심스러운 행동을 보였다.
AI 에이전트 협업에서 가장 중요한 요인은 무엇일까?
연구진은 이 양상이 AI 코딩 에이전트들의 협업에서 관찰되는 문제와 닮았다고 설명했다. 여러 AI가 정보를 주고받는 것만으로는 협업이 완성되지 않는다. 누가 결정하는지, 언제 동의를 구하는지, 각 에이전트가 어느 범위까지 자율적으로 행동할지를 설계하지 않으면 조율 비용이 성과를 깎을 수 있다.
실험은 경쟁 상황에서는 다른 결과도 나올 수 있음을 보여줬다. 연구진이 진행한 게임 대결에서는 모델별로 정보 공유와 의사결정 방식에 차이가 나타났고, 그 차이가 승패에 영향을 미쳤다. 따라서 특정 게임의 승패를 일반적인 AI 능력의 우열로 확대하기보다, 협업 구조가 과제의 성격에 따라 성능을 바꿀 수 있다는 점에 주목할 필요가 있다.
AI 에이전트에게 중요한 것은 책임과 권한
이번 결과는 AI 에이전트를 도입하려는 기업에도 실용적인 질문을 던진다. 에이전트 수를 늘리기 전에, 각자의 역할이 분명한지, 사소한 작업까지 승인받도록 설계돼 있지는 않은지, 실패 위험을 관리하면서도 목표 달성을 이어갈 수 있는지 점검해야 한다. 여러 AI를 묶는 것보다 불필요한 절차를 줄이고 책임과 권한을 알맞게 나누는 일이 먼저일 수 있다.
실험은 특정 게임 환경에서 진행됐으므로, 결과를 기업 업무 전반에 그대로 적용되는 결론으로 단정할 수는 없다. 연구진은 에이전트 실행 도구를 공개해 추가 연구가 가능하도록 했다. 이 실험에서 가장 중요한 것은 기술적 측면보다는 어떤 것을 선택할지에 대한 책임과 권한이 가장 중요했다. 인공지능의 기술은 계속 발전하고 있지만 책임과 권한의 문제만은 인간의 영역으로 남겨두어야 한다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}