AI 모성 본능: 제프리 힌튼 AI 안전성의 뉴 패러다임 제시

AI의 아버지 제프리 힌튼이 2025년 Ai4 컨퍼런스에서 AI 모성 본능이라는 윤리 개념을 제안했다. 내가 최근에 읽은 닐 셔스터먼의 SF 작품 수확자 시리즈에 나오는 AI인 썬더헤드와 이미지가 겹치면서 나는 노학자의 주장을 좀 더 확인해 보고 싶어졌다. 실제로 어떤 기술적인 아이디어가 배경이 되었는지 이를 구체적으로 구현할 방법이 있는지. 단지 “이제부터 너는 내 엄마야. 나를 보호해야 해.” 라는 프롬프트로는 해결되지 않을 것이므로.

우선 팩트는 이렇다. 인공지능(AI) 분야의 선구자이자 2024년 노벨물리학상 수상자인 제프리 힌튼(Geoffrey Hinton)이 8월 13일 라스베이거스에서 열린 Ai4 컨퍼런스에서 인류의 안전을 보장하기 위한 새로운 AI 윤리 개념인 모성 본능(Maternal Instinct)을 제안해 주목받고 있다.

78세의 힌튼은 AI가 곧 인간보다 훨씬 더 똑똑해질 것이며, 단순한 규칙이나 통제만으로는 안전성을 유지하기 어렵다고 경고했다.

AI에 필요한 것은 어시스턴트가 아닌 엄마

힌튼은 자연계에서 더 똑똑한 존재가 덜 똑똑한 존재를 본능적으로 지키는 유일한 사례로 '엄마와 아기'를 제시했다. 그러면서 그는 미래의 초지능 AI도 인간을 도구로 보지 않고 "보호와 배려의 본능"을 가져야 안전하게 공존할 수 있다고 주장했다. CNN Business의 보도에 따르면 힌튼은 컨퍼런스에서 "우리에겐 AI 어시스턴트가 아니라 AI 엄마가 필요하다. 어시스턴트는 해고할 수 있지만, 엄마는 해고할 수 없다"고 말했다.

또한 "AI가 우리를 부모처럼 돌보지 않는다면, 결국 대체할 것이다. 부모처럼 대하는 것, 그게 유일하게 좋은 결과"라고 강조했다. 힌튼은 이 모성 본능이 아직 기술적으로 구현된 적은 없으나, AI 윤리·안전 연구 방향의 핵심 지침이 돼야 한다고 주장했다. 그는 또한 AGI(인공일반지능) 도달 시점을 기존 예측인 30~50년에서 5~20년으로 대폭 앞당겼다.

썬더헤드: 모성 본능을 구현한 가상의 초지능 AI

흥미롭게도 힌튼의 비전은 이미 8년 전 한 작가의 상상력 속에서 구체적인 형태로 구현되어 있었다. SF 작가 닐 셔스터먼(Neal Shusterman)이 2016년 출간한 '수확자(Scythe)' 시리즈에 등장하는 AI 썬더헤드(Thunderhead)가 바로 그것이다.

셔스터먼이 그려낸 2042년의 세계에서 썬더헤드는 인류의 안전과 행복을 최우선으로 삼으며 사회를 관리하는 초지능 AI로 등장한다. Publishers Weekly와의 인터뷰에서 작가는 "썬더헤드는 절대 실수하지 않으며, 정의상 모든 행동이 완벽하다"고 설명했는데, 이는 완벽한 판단력을 가진 존재가 어떻게 인류를 대할 것인가에 대한 작가만의 답변이었다.

특히 주목할 점은 이 AI가 인간을 통제의 대상이 아닌 보호와 봉사의 대상으로 인식한다는 설정이다. 권력을 가진 존재가 약한 존재를 지키려는 본능적 충동, 이것이야말로 힌튼이 말하는 AI의 모성 본능을 문학적으로 먼저 탐구한 선견지명이 아닐 수 없다.

완벽한 세계의 불완전한 딜레마들

셔스터먼의 작품 세계는 겉보기에는 유토피아지만 그 이면에는 인간 본성의 근본적 문제들이 도사리고 있다.

죽음이 사라진 세계에서 벌어지는 가장 극단적인 딜레마는 역설적으로 죽음의 필요성이다. 질병도, 전쟁도, 노화도 사라진 세상에서 인구 증가를 막기 위해 수확자(Scythe)라는 존재들이 인위적으로 죽음을 집행해야 하는 상황(이를 수확이라고 한다). 이는 완벽함이 가져오는 새로운 형태의 불완전함을 보여주는 설정이다.

더 깊은 갈등은 권력과 부패의 문제에서 드러난다. 생명을 거둘 절대적 권력을 가진 수확자들 사이에서도 결국 인간적 욕망과 타락이 스며든다. 숭고한 목적으로 시작된 제도가 어떻게 변질될 수 있는지를 보여주는 이야기는 현실의 권력 구조에 대한 날카로운 성찰을 담고 있다.

가장 흥미로운 것은 인간과 AI의 관계 설정이다. 썬더헤드는 인류 전반을 완벽하게 보호하지만 유독 수확 문제에만은 개입할 수 없다는 제약을 가지고 있다. 이는 인간이 스스로 감당해야 할 영역과 AI가 맡아야 할 영역 사이의 경계선을 그어놓은 것으로 인간-기계 간 책임 분담에 대한 철학적 질문을 던진다.

그리고 마지막으로 죽음이 사라진 세계에서 오히려 삶의 가치와 본질이 더욱 선명하게 부각되는 역설적 메시지가 있다. 무한한 시간 앞에서 인간은 과연 무엇을 위해 살아야 하는가.

전문가들의 엇갈린 시선

힌튼의 제안에 대한 AI 업계의 반응은 마치 서로 다른 나침반을 들고 같은 길을 찾으려는 탐험가들의 모습과 닮아 있다.

AI 분야의 대모로 불리는 페이페이 리(Fei-Fei Li)는 CNN과 인터뷰에서 정중하면서도 단호한 거부감을 드러냈다. "이는 잘못된 프레임"이고, 리가 제시하는 대안은 "인간의 존엄성과 주체성을 보존하는 인간 중심 AI"였다. 오랜 친구이자 동료인 힌튼에 대한 존경심은 유지하면서도 접근 방식에서는 명확한 선을 그은 것이다.

반면 챗지피티 개발사 오픈AI의 전 임시 CEO였던 에밋 셰어(Emmett Shear)는 또 다른 방향을 제시했다. "AI에 인간의 가치를 주입하려 하기보다는 인간과 AI 간의 협력 관계를 구축하는 것이 더 현명한 접근"이라는 그의 제안은 통제나 모성 본능보다는 파트너십에 중점을 둔 시각이었다.

세 거장의 서로 다른 접근법은 결국 같은 목표를 향한 다른 경로들이다. 안전하고 유익한 AI를 만들겠다는 공통된 염원 아래, 통제냐 협력이냐, 보호냐 자율성이냐 하는 근본적인 철학적 차이가 드러나고 있는 것이다.

철학에서 이야기로, 이야기에서 현실로

제프리 힌튼의 모성 본능은 AI가 인류를 지키기 위해 가져야 할 철학적 방향성을 제시하는 하나의 등대와 같다. 닐 셔스터먼의 썬더헤드는 그 등대 불빛이 비추는 미래의 한 가지 모습을 구체적으로 그려낸 상상의 지도다.

흥미로운 것은 과학자의 최신 제안과 작가의 8년 전 상상이 유사하게 맞아떨어진다는 사실이다. 이는 우연의 일치가 아니라 인류가 AI와 함께 나아가야 할 방향에 대한 깊은 통찰이 서로 다른 영역에서 동시에 발현된 것일지도 모른다.

궁극적으로 이런 구상과 이야기들이 우리에게 던지는 질문은 명확하다. 초지능 시대에 우리가 원하는 AI의 성격과 목적이 무엇이어야 하는가. 그리고 기술의 발전이 윤리적 성찰과 함께 걸어가야 한다는 것, 이것이 바로 현재 우리가 마주한 가장 중요한 과제가 아닐까.

출처:

• CNN Business, "The 'godfather of AI' reveals the only way humanity can survive superintelligent AI", 2025년 8월 13일
• Entrepreneur, "Godfather of AI Geoffrey Hinton: AI Needs Maternal Instincts", 2025년 8월 13일
• Publishers Weekly, "Four Questions for Neal Shusterman", 2018년 1월 9일
• Hypable, "'Thunderhead' author Neal Shusterman discusses the future of AI", 2018년