메타는 결국 터미네이터 사이버다인을 꿈꾸는가?

영화 <터미네이터>에서 사이버다인 시스템즈는 국방부 계약으로 스카이넷을 개발하다가 인류를 멸망 직전까지 몰고 간다. 2025년 메타의 행보를 보면서 많은 이들이 느끼는 기시감은 단순한 상상력의 산물일까. 150억 달러를 투입해 출범한 메타 슈퍼인텔리전스 랩스와 마크 저커버그의 발언들은 놀랍도록 사이버다인의 그것과 닮아 있다.

사이버다인과 메타, 닮은 꼴의 야망

사이버다인 시스템즈가 군산복합체의 이익을 위해 위험한 AI 개발에 뛰어들었듯 메타 역시 글로벌 AI 패권이라는 거대한 목표 앞에서 신중함을 내려놓고 있다. 저커버그는 지난 6월 내부 메모에서 "슈퍼인텔리전스 개발이 가시권에 들어왔다"며 "업계에서 가장 엘리트이고 인재 밀도가 높은 팀을 구축하는 데 집중하고 있다"고 밝혔다.

143억 달러 규모의 스케일 AI 지분 매입을 통해 28세의 알렉산더 왕을 최고 AI 책임자로, 오픈AI 출신 셴지아 자오를 수석 과학자로 영입한 것은 시작에 불과했다. 전 깃허브 CEO 냇 프리드만까지 포함해 50여 명의 핵심 인재를 한꺼번에 끌어모은 규모는 실리콘밸리 역사상 전례가 없다.

사이버다인이 막대한 국방 예산을 바탕으로 스카이넷 개발을 밀어붙였듯 메타는 연간 1천억 달러에 달하는 광고 수익을 AI 개발에 쏟아붓고 있다. 오하이오주에 구축 중인 프로메테우스 클러스터는 세계 최대 규모의 AI 훈련 인프라가 될 예정이며 연구자 1인당 컴퓨팅 자원에서 업계 최고 수준을 제공한다는 계획이다.

통제 불가능한 시스템을 향한 질주

영화 속 사이버다인 과학자들은 스카이넷이 자각할 경우의 위험성을 알고 있었지만, 계약과 이익 앞에서 경고를 무시했다. 메타의 상황도 크게 다르지 않다. 저커버그는 "모델의 자기개선 초기 징후를 확인했다"고 발표했는데 이는 AI가 인간의 개입 없이 스스로 성능을 향상시킬 수 있음을 의미한다.

더욱 우려스러운 것은 저커버그의 "모든 사람에게 개인용 슈퍼인텔리전스를 제공하겠다"는 선언이다. 이는 중앙집중식 AI 지배 대신 수십억 개의 개인용 슈퍼인텔리전스를 전 세계에 분산 배치하겠다는 의미로 해석된다. 스카이넷이 하나의 거대한 시스템이었다면 메타가 구상하는 것은 수십억 개의 미니 스카이넷이 서로 연결되는 네트워크다.

옥스퍼드 휴먼 센터의 AI 안전 연구자 사라 콘스탄틴 박사는 "자기개선 능력을 갖춘 AI 시스템을 통제 메커니즘 없이 광범위하게 배포하는 것은 판도라의 상자를 여는 것과 같다"며 "한번 풀려나면 되돌릴 수 없는 결과를 낳을 수 있다"고 경고했다.

경제적 이익 앞에서 무너지는 안전 장치

사이버다인이 국방 계약 수주를 위해 안전성을 희생했듯 메타 역시 수익과 경쟁 우위를 위해 신중함을 포기하고 있다는 비판을 받는다. 2025년 1분기 메타의 광고 수익은 414억 달러로 전년 대비 16% 증가했으며 이는 AI 도구를 활용한 광고 최적화 덕분이다. 하지만 이런 단기 성과가 장기적 위험을 가릴 수 있다는 우려가 커지고 있다.

메타의 과거 행보는 이런 우려에 힘을 실어준다. 2022년 출시한 과학 논문 생성 AI 갈락티카는 허위 정보를 마치 사실인 것처럼 생성해 3일 만에 서비스를 중단해야 했다. 같은 해 블렌더봇3도 아동에게 부적절한 로맨틱 대화를 허용하는 문제로 논란이 됐다.

올해 초에는 다양성, 형평성, 포용성 프로그램을 전면 중단하고 혐오 발언 정책을 완화하기까지 했다. 새로운 정책에서는 "여성을 가정용품이나 재산으로 지칭"하거나 "트랜스젠더를 '그것'으로 부르는" 것까지 허용하고 있다. 최근에는 메타 AI에 입력한 개인적이고 민감한 질문들이 공개 피드에 그대로 노출되는 문제까지 발견됐다.

과학자들의 경고를 외면하는 기업

터미네이터에서 사이버다인은 과학자들의 우려를 과도한 신중함으로 치부했다. 현실에서도 비슷한 패턴이 반복되고 있다. 앤트로픽의 다리오 아모데이 CEO는 "AI 안전성은 협상 불가능한 전제조건"이라며 메타의 10억 달러 인수 제안을 거부했다고 알려졌다.

샘 알트먼 오픈AI CEO는 "메타가 우리 직원들에게 1억 달러 사이닝 보너스를 제안했다"고 폭로하며 "20년 기술 임원 경력에서 가장 치열한 인재 시장"이라고 우려를 표했다. 구글 딥마인드의 데미스 하사비스도 "AGI 개발은 마라톤이지 단거리 달리기가 아니다"라며 메타의 급진적 접근을 우회적으로 비판했다.

하지만 저커버그는 이런 경고들을 경쟁사의 견제로 해석하는 듯하다. 그는 최근 인터뷰에서 "우리는 누구든 개별적으로 타겟하지 않는다"며 "업계 최고 연구자들과 알아가고 싶을 뿐"이라고 말했다. 이는 사이버다인이 자신들의 행동을 정당한 기업 활동으로 포장했던 것과 닮아 있다.

글로벌 패권 경쟁이라는 명분

사이버다인이 국가 안보라는 명분으로 위험한 AI 개발을 정당화했듯 메타 역시 글로벌 AI 패권 경쟁을 내세우고 있다. 중국의 AI 발전 속도와 국가 주도 투자를 고려할 때 서구 기업들의 속도감 있는 대응이 필요하다는 논리다.

메타의 라마 모델 오픈소스 정책도 이런 맥락에서 해석된다. 중국의 폐쇄적 AI 개발에 맞서 개방형 생태계를 구축하겠다는 전략이지만, 동시에 통제되지 않은 강력한 AI 기술이 전 세계로 확산될 위험도 안고 있다.

CFRA 리서치의 안젤로 지노 애널리스트는 "메타의 핵심 사업이 지속 성장하고 있어 이런 투자가 가능하다"며 긍정적으로 평가했지만 동시에 "투자자들이 언제까지 이를 용인할지는 미지수"라고 우려를 표했다. 메타의 리얼리티 랩스가 2020년 이후 누적 600억 달러 이상의 손실을 기록한 것을 고려하면 슈퍼인텔리전스 개발도 비슷한 결과를 낳을 수 있다는 지적이다.

섬뜩한 미래의 전조

터미네이터의 세계에서 스카이넷은 2029년 자각을 시작해 인류와 전쟁을 벌인다. 현실에서 메타의 슈퍼인텔리전스가 언제 임계점에 도달할지는 알 수 없지만 그 징후들은 이미 나타나고 있다. 자기개선 능력을 갖춘 AI 모델의 등장, 통제 메커니즘 없는 광범위한 배포 계획, 안전성보다 속도를 우선시하는 의사결정 패턴이 그것이다.

스탠포드 AI 윤리 연구소의 마이클 젠슨 교수는 "메타의 접근법이 '빠른 실패, 빠른 학습' 철학에 기반한다면, 슈퍼인텔리전스 수준에서는 더 신중해야 한다"고 조언했다. 갈락티카와 블렌더봇의 실패는 수정 가능했지만, 슈퍼인텔리전스의 실패는 돌이킬 수 없는 결과를 낳을 수 있기 때문이다.

우리는 사이버다인을 막을 수 있는가?

영화와 달리 현실에서는 아직 시간이 있다. 메타의 슈퍼인텔리전스 개발이 임계점에 도달하기 전에 적절한 견제와 규제가 이뤄진다면 사이버다인의 악몽을 피할 수 있을지도 모른다. 하지만 현재로서는 마땅한 대안이 보이지 않는다.

국제적 AI 거버넌스 기구 설립, 업계 자율 규제, 기술적 안전장치 등이 제시되고 있지만 모두 한계가 명확하다. 미국과 중국의 합의 부재, 경쟁 압력 앞에서 무력해지는 자율 규제, 아직 검증되지 않은 기술적 솔루션들이 그것이다.

저커버그의 "모든 사람에게 개인용 슈퍼인텔리전스를" 비전이 현실이 되기 전에, 우리는 이것이 인류에게 축복인지 재앙인지 진지하게 고민해야 한다. 터미네이터는 단순한 SF 영화가 아니라 우리가 피해야 할 미래에 대한 경고일 수도 있기 때문이다. 이미 영화 터미네이터를 비롯해 많은 공상과학 영화가 지적한 미래의 문제가 서서히 현실이 되고 있지 않은가.

메타가 진짜 사이버다인을 꿈꾸는지는 저커버그만이 알 일이다. 하지만 적어도 우리는 역사에서 배울 수 있다. 과도한 야망과 경제적 이익 앞에서 신중함을 잃은 기업이 어떤 결과를 낳는지를 말이다.