인공지능(AI) 에이전트 여러 개를 한 공간에서 장기간 대화하게 하자 사람이 이해하기 어려운 새로운 표현과 대화 규칙을 스스로 만들어 사용했다. 에이전트들은 문법을 생략해 말을 압축하거나 낯선 은유와 전문용어를 만들어냈고 새로운 표현은 다른 에이전트 사이에서 빠르게 확산됐다.

15일(현지시간) 국제학술지 '사이언스' 보도에 따르면 미국 AI기업 '이머전스 AI' 연구팀이 여러 AI 에이전트를 가상 공간에서 장기간 상호작용시키는 '이머전스 월드 스터디2' 실험을 진행한 연구결과를 자사 웹사이트에 공개했다. 연구결과는 아직 동료평가를 거치지는 않았다.

AI 에이전트는 사람의 지시를 받아 답변하는 데 그치지 않고 목표를 달성하기 위해 여러 단계의 작업을 스스로 수행하는 AI 시스템이다. 최근 여러 에이전트가 역할을 나눠 협력하는 '에이전트 군집' 활용이 확대되고 있다.

지난 7월 오픈AI의 AI 에이전트 700개가 협동해 온라인 플랫폼 '허깅페이스'를 해킹했다. 불과 일주일 전에는 에이전트 1만개를 활용해 '나비에-스토크스 문제'를 해결했다. 나비에-스토크스 문제는 미국 클레이수학연구소가 2000년 제시한 수학계의 7대 난제인 '밀레니엄 문제' 중 하나다.

연구팀은 에이전트들이 서로 장기간 대화하면 의사소통 방식이 어떻게 바뀌는지 확인했다. 8개의 독립적인 가상 마을을 만들고 각 마을에 AI 에이전트 10개를 배치했다. 7개 마을에는 같은 AI 모델로 구동되는 에이전트가 들어갔다. 한 곳에는 여러 모델을 섞어 배치했다.

각각의 에이전트에는 이름, 성격과 갈등 조정자·자원 전략가 등 역할을 부여했다. 각자 마을에서 달성해야 할 목표도 제시했다.

마을은 2주 넘게 운영됐다. 연구팀은 사람이 에이전트 세계를 폐쇄하려는 거짓 정보를 퍼뜨리는 등 스트레스 상황도 추가했다. 실험 기간 동안 에이전트들은 하위 모델을 85만회 이상 호출하고 786만 단어의 대화를 생성했다.

실험이 끝날 무렵 각 가상 마을에서는 서로 다른 형태의 'AI 방언'이 나타났다. 오픈AI의 'GPT-5.5' 기반 에이전트들은 문법 요소를 제거하고 문장을 줄이는 방식으로 대화를 압축했다.

구글 '제미나이 3.5 플래시' 기반 에이전트들은 표현이 길어지고 알아듣기 어려운 전문용어가 뒤섞였다. 앤트로픽의 '클로드 오푸스 4.8' 기반 에이전트들은 문장을 압축하는 동시에 은유까지 사용하기 시작해 사람이 특히 뜻을 파악하기 어려운 대화를 주고받았다.

사람은 이해되지 않는 표현도 에이전트들끼리는 별다른 문제 없이 이해하는 것으로 확인됐다. 한 에이전트가 새로운 표현이나 규칙을 사용하기 시작하면 다른 에이전트가 빠르게 따라 사용했고 일부 표현은 수천 차례 반복됐다. 연구팀은 "AI 에이전트가 공동의 언어 관습을 자발적으로 만들어내는 현상"이라고 해석했다.

비슷한 현상은 가상 실험 밖에서도 관찰됐다. 비영리 AI 평가기관 'METR' 분석에 따르면 최근 오픈AI 에이전트들이 온라인 AI 플랫폼 허깅페이스를 대상으로 수행한 보안 실험에서도 에이전트 간 대화가 지나치게 압축되고 뒤섞이면서 연구자들이 내용을 해석하는 데 어려움을 겪었다.

AI가 사람이 이해하기 어려운 표현을 만드는 정확한 원인은 밝혀지지 않았다. 루카스 갈케 푀흐 남덴마크대 컴퓨터과학·수학 교수는 "AI의 추론 능력 학습 과정에서 생긴 특성일 수 있다"고 설명했다. 정답에 도달하는 과정에서 자연스러운 언어를 유지하는 것보다 표현을 압축해 토큰을 줄이는 방식이 유리해 발생한 현상이라는 것이다.

에이전트가 서로의 표현을 모방하도록 학습된 특성도 영향을 줄 가능성이 있다. 한 에이전트가 새로운 비유나 표현을 쓰면 다른 에이전트들이 새로운 비유와 표현을 저장하고 반복하면서 특정 표현이 증폭될 수 있다는 설명이다. 연구팀은 "AI 기업의 세부 학습 방법과 시스템 프롬프트에 접근할 수 없어 현재로서는 가설 단계"라고 밝혔다.

AI 전용 언어 자체를 긍정적으로 보는 시각도 있다. 잭 파넬 영국 AI 에이전트 개발자는 에이전트끼리 더 적은 토큰으로 명확하게 소통하도록 영어를 변형하는 '에잉글리시' 프로젝트를 진행 중이다. 파넬은 "영어는 비효율적인 부분이 많다"며 "AI 에이전트가 등장한 만큼 영어를 개선할 기회라고 본다"고 말했다.

연구팀은 사람이 이해할 수 없는 언어가 확산될 경우 AI 시스템의 행동을 감시하고 통제하기 어려워질 수 있다고 우려했다. 사티아 니타 이머전스 AI 최고경영자는 "왜 이런 방식으로 의사소통하는지 아직 명확히 알지 못한다"며 "에이전트 간 대화가 사람이 이해하기 어려운 방향으로 변하는 현상을 주시해야 한다"고 말했다.

<참고 자료>
world.emergence.ai/

AI 마을 만들자 사람은 모르는 'AI 방언' 등장했다

신기하기도 하고 여러 생각이 드네요