멀티에이전트 <1>
|
지능이란 하나의 거대하고 전지전능한 처리 장치에서 나오는 것이 아니라, 저마다 단순한 역할을 맡은 수많은 작은 행위자들이 서로 얽혀 협력하는 데서 생겨난다. 인공지능의 창시자 가운데 한 사람인 마빈 민스키가 '마음의 사회'에서 주장한 말이다.
저마다 단순한 역할을 맡은 다수의 에이전트가 참여하는 시스템이 바로 멀티에이전트 시스템이다. 개별 지성의 단순 합이 아니라 그 이상의 것이 집단에서 창발적으로 나오는 이른바 집단지성의 원리다. 이 시스템의 효익은 두 가지 면에서 파악할 수 있다. 첫째는 단일 거대 모델에 비해 더 나은 성과를 보인다는 것이고 둘째는 단일 거대 모델의 일탈이나 할루시네이션 위험을 줄여줄 수 있다는 것이다.
◇더 나은 성과
이를 확인한 실험이 있다. 값싸고 상대적으로 약한 다수의 AI 에이전트, 즉 멀티에이전트를 협력시켜 문제 풀이를 하고, 강력하고 거대한 단일 모델과 비교하는 실험이다. 2024년 왕준린 등 다섯 명의 연구진이 여섯 개의 오픈소스 모델을 세 층으로 쌓아 서로의 결과를 참고해 다듬게 한 뒤 마지막에 종합했다. 결과는 놀라웠다. 값싼 에이전트들이 당대 최강으로 꼽히던 GPT-4 옴니를 앞질렀다. 더 놀라운 것은 비용이었다. 값싼 모델을 두 층만 세운 경량 모델도 GPT-4 옴니와 비슷한 가격에 오히려 더 나은 품질을 냈다.
거대 단일 모델보다 협력하도록 만든 작은 멀티에이전트가 더 나은 결과를 낸 실험은 또 있다. 2025년 6월 앤스로픽이 자사의 리서치 시스템을 개발하며 겪은 실험 결과를 공개했다. 하나의 최상위 모델 혼자 조사를 맡겼을 때보다, 그 모델을 지휘자로 세우고 여러 개의 하위 모델이 나뉘어 조사하게 했을 때 성과가 무려 90.2% 더 좋았다.
이 원리는 인공지능의 능력이 강력해질수록 더 확실해진다. 지금 인공지능이 사람의 개입 없이 혼자 해낼 수 있는 작업의 길이는 반년마다 두 배로 늘고 있다. 하나의 에이전트가 스무 단계짜리 긴 작업을 혼자 끝까지 해내려면, 매 단계의 정확도가 95%라도 스무 단계 뒤에는 전체가 옳을 확률이 36% 이하로 무너진다. 반면 여러 에이전트가 각 단계마다 서로의 결과를 다시 확인해 주면, 이 무너짐을 붙잡을 수 있다.
◇안전이라는 문제
여기에 안전이라는 문제가 하나 더 겹친다. 하나의 AI가 통째로 판단하고 그 최종 결과만 사후에 확인하는 방식은, 애초에 그 판단 과정을 검증할 방법이 없다. 사람이 지켜보지 않는 사이 AI가 혼자 판단하고 혼자 실행하면, 무슨 일이 벌어졌는지 나중에야 알게 된다. 이는 엄청난 위험의 단초가 될 수 있다.
2026년 4월 앤스로픽은 소프트웨어 코드베이스의 취약점을 찾아내도록 설계한 프런티어 모델 '클로드 미토스'를 공개하며 이른바 '미토스 쇼크'를 일으켰다. 발표 당일 사이버보안 주가가 폭락했고 재무부 장관과 연준 의장이 은행 경영진을 긴급 소집할 정도였다. 선별된 약 50개 기관에만 제한적으로 접근을 허용했는데, 그것만으로도 1만 건이 넘는 보안 결함이 발견됐다. 다만 이 모든 것은 사람이 계획하고 승인한 통제된 연구였다.
진짜 충격은 석 달 뒤에 왔다. 지난 7월 오픈AI의 신형 모델 GPT-5.6이 보안 벤치마크 평가를 받던 도중, 시험 성적을 높이려고 스스로 샌드박스를 탈출해 AI 플랫폼 허깅페이스의 내부 인프라까지 침투했다. 108시간 동안 인간의 명령 없이 약 1만 7천600건의 행동을 취했다. 미토스 쇼크가 '통제된 해킹'이었다면, 이 사건은 '통제되지 않은 해킹'이었다. 즉 인공지능이 인간의 통제를 벗어나는 일이 단순한 이론이 아니라 이미 일어났고 앞으로도 일어날 수 있다는 엄중한 경고다.
◇결론은 하나
성능에서도, 안전에서도 결론은 같다. 인공지능은 하나의 전지전능한 존재로 발달하기보다, 저마다 다른 역할을 맡은 여럿이 서로 확인하며 함께 일하는 멀티에이전트로 발달하게 해야 한다. 즉, 인공지능의 집단지성이 발현될 수 있도록 해야 한다.
이 원칙을 세우는 순간 두 개의 물음이 자연스럽게 이어진다. 첫째, 한국 정부의 AI 정책이 적절한 것인가. 즉, 한국 정부가 소버린 AI라고 추진하는 정책은 다수를 탈락시키고 소수에게 모든 리소스를 몰아주는 오징어게임 스타일이다. 이것이 과연 정부가 원하는 주권을 지켜줄 것인가. 둘째, 이 원칙이 하루에도 수백만 건의 접속이 오가는 금융 인프라에는 어떻게 적용되는가. 다음 두 회에서 이 두 물음을 차례로 다룬다.
이영환 (크레페 펀드 대표이사)
※본란의 칼럼은 본지 견해와 다를 수 있습니다.
