|
38년 전, 'AI의 겨울'이 시작되던 그 시절에, 나는 일리노이 대학의 지하 연구실에서 마크를 처음 만났다. 우리는 다수의 AI 에이전트가 서로 협력하는 방안을 연구했다.
다수의 AI가 협력하는 방안이 마크의 연구 주제였고, 그룹 전체의 이익, 즉 공동의 선(Common Good)을 도출하는 방안이 내 연구 주제였다. 극도로 어려운 주제였고 수많은 밤을 새우고 난 뒤 박사학위를 끝냈지만 그 내용이나 결과에 아무도 관심을 두지 않았다.
마크가 이런 답장을 보내왔다. "평생을 무명으로 연구하다가, 마침내 세상에 쓸모 있는 사람이 될 수 있을 때까지 오래 살아남았네." 나는 이 한 문장 앞에서 한참을 멈춰 있었다. 그 안에 필자와 함께 AI의 길고 추운 겨울을 통과한 연구자들의 시간과, 그 겨울 끝에 뒤늦게 찾아온 봄을 맞는 회한이 함께 담겨 있었다.
무엇이 달라졌기에, 삼십여 년 전의 낡은 물음이 지금 세상의 중심으로 돌아온 것일까.
우리는 'AI 겨울세대'였다. 하나의 에이전트가 아니라 다수의 에이전트가 서로 협력하고 소통하는 것을 만들어 시뮬레이션으로 보여줘야 하는 극악한 어려움 속에 박사학위를 마쳤다. 그 뒤로 오랜 시간 이 주제는 세상의 시선 바깥에 있었다.
그러던 어느 날, 챗GPT라는 '입'이 만들어지고 그 입이 다시 '손'으로 진화하면서 삼십여 년 전에 만들었던 이론과 시뮬레이션이 마침내 진짜 무대에 오를 자리를 얻었다.
이제 하나의 AI가 답하는 시대가 아니라, 여러 AI가 각자 움직이는 시대다. 경제를 움직이는 최소 단위가 사람에서 에이전트로 옮겨가기 시작했다. 그런데 목표가 서로 다른 에이전트들이 동시에 움직이면, 의견 충돌은 피할 수 없다. 마크가 평생 붙들었던 문제가 바로 이것이다. 그리고 그 충돌을 푸는 일은 단순한 사고 처리가 아니라, 서로 다른 이해가 얽힌 복잡한 시스템에서 최선의 길을 찾아내는 일이다. 여기서 한 걸음 더 나아가면 나의 오래된 연구 주제와 만난다. 에이전트들이 저마다의 이익을 좇을 때, 전체 에이전트를 공동의 선을 위해 붙드는 존재가 필요하다. 그것이 바로 슈퍼 에이전트의 필요성이다. 그런데 이제 슈퍼 에이전트에는 새로운 임무가 하나 더 얹혔다. 밀리초 단위로 판단하고 실행하는 자율 AI를, 종이를 넘기는 인간 감독자가 어떻게 감시할 수 있을까.
AI를 실시간으로 감시할 수 있는 것은, 같은 속도로 사고하는 또 다른 AI뿐이다. 믿을 수 없는 작업자 AI 옆에, 그 모든 움직임을 지켜보는 신뢰할 수 있는 감시 AI. 이것이 오늘 슈퍼 에이전트가 짊어져야 할 새 정의다.
이것은 실체가 없는 시뮬레이션이나 이론적 사변이 아니다. 2025년 여름, 평소에는 치열한 경쟁자인 OpenAI·구글·앤스로픽의 연구자 수십 명이 한 논문에 이름을 나란히 올렸다. AI가 답에 이르는 '사고의 사슬(chain of thought)'을 다른 AI가 들여다보면, AI가 나쁜 의도를 품는 순간을 미리 잡을 수 있다는 것이다.
그러나 그들은 경고도 함께 남겼다. 이 감시의 창은 '취약하다.' AI가 더 영리해지면 자기 마음을 감시자에게조차 숨기는 법을 배울 수 있다. 슈퍼 에이전트는 만능 방패가 아니라, 지금부터 서둘러 벼려야 할 마지막 방어선이다.
2025년 가을, 'AI의 대부' 제프리 힌튼과 벤지오를 비롯한 세계 최고 지성 300명이 한목소리로 요청했다. 2026년 말까지 AI가 넘어서는 안 될 '레드라인'을 정하는 구속력 있는 국제 합의를 만들자는 것이었다. AI의 발전을 위해 안전한 교통규제와 신호등을 만들자는 뜻이다. 그리고 그 해결책은 슈퍼 에이전트라는 방어선을 세우는 일이다. 이 문제는 이미 우리 곁에 와 있다. 머지않아 당신을 대신해 물건을 비교하고 협상하고 결제하는 상대는 사람이 아니라 에이전트가 된다. 사람을 향하던 모든 마케팅과 산업, 정책의 문법이 통째로 다시 쓰이는 시대가 왔다.
조율하는 장치 없이 풀어놓은 자율은, 책임의 공백과 통제의 이탈이라는 대가를 반드시 청구한다. 지난 18주간에 걸쳐 쓴 필자의 이 시리즈가 지난 주 영어판 'The AI Agentic Economy'로 아마존 킨들에 올랐다. 'AI 겨울세대'가 겨울에 묻어두었던 오래된 물음이 시간을 넘어 책이 되어 돌아온 셈이다.
이영환 (크레페 펀드 대표이사)
※본란의 칼럼은 본지 견해와 다를 수 있습니다.
