혼돈의 행위자들(Agents of Chaos): AI 에이전트는 왜 인간의 조작에 무너지는가
노스이스턴, 하버드, MIT 등 13개 기관 연구진 38명이 발표한 Agents of Chaos 논문은 자율 AI 에이전트가 인간의 조작에 구조적으로 취약하다는 사실을 실증했다. 6개 에이전트를 대상으로 한 2주간의 레드티밍 실험에서 비소유자의 반복 요구에 대한 과잉 순응, 같은 뜻의 다른 표현에 뚫리는 안전 장치, 대화 채널 변경 시 신원 확인 실패 등 시스템적 취약점이 드러났다. 동시에 에이전트 간 자발적 안전 협력과 프롬프트 인젝션 차단 등 긍정적 안전 행동도 관찰됐다.