메타의 개인적 초지능: 회원님을 위한 추천이라는 거대한 사기

마크 저커버그가 그린 미래는 아름답다. 당신을 깊이 이해하고, 목표 달성을 돕고, 더 나은 사람이 되도록 돕는 '개인적 초지능'. 하지만 그 화려한 포장지를 벗겨내면 개인의 모든 순간을 데이터로 수집해 가장 효율적으로 조작하려는 거대한 사기극이 드러난다.

4년 2억 달러, 그들이 간절한 이유

2025년 메타는 AI 연구자 한 명을 스카우트하기 위해 4년간 2억 달러를 제안했다. 일반 직원 연봉의 100배에 달하는 액수다. Scale AI 지분 49% 인수에는 143억 달러를 쏟아부었다. 이런 천문학적 투자 뒤에는 명확한 목적이 있다. 저커버그가 말하는 개인적 초지능 - 당신을 깊이 알고 당신의 목표를 이해하며 그것을 달성하도록 돕는 AI를 만드는 것이다. 정말 내가 자비스 같은 초지능을 갖게 될 것만 같다. 

하지만 진짜 목표는 따로 있다. 메타 제품 책임자 크리스 콕스는 직원 전체 회의에서 솔직하게 밝혔다. "생산성보다는 엔터테인먼트, 사회적 연결, 라이프스타일 기능에 AI 노력을 집중하겠다." 번역하면 이렇다. 사람들이 메타 플랫폼에서 더 오래, 더 자주, 더 깊이 시간을 보내게 만들겠다는 것이다.

회원님을 위한 추천이라는 기만

지금도 인스타그램을 열면 "회원님을 위한 추천"이라는 문구가 떠오른다. 마치 메타가 자비로운 큐레이터인 양 가장하지만 실상은 정반대다. 정확한 표현은 "광고주들을 위한 당신 조작”이다. 기존 알고리즘도 이미 정교했다. 이용자가 언제, 어떤 감정 상태에서, 어떤 콘텐트에 반응하는지 파악해 광고 효과를 극대화한다. 하지만 '개인적 초지능'은 차원이 다르다.

저커버그의 구상에 따르면 스마트 안경 같은 개인 디바이스가 "우리가 보는 것을 보고, 듣는 것을 듣고, 하루 종일 우리와 상호작용"하며 맥락을 이해한다. 그는 이런 기기 없는 사람들이 "인지적 불이익"을 당할 것이라고까지 말했다. 무섭도록 정교한 시나리오다. 당신이 스트레스받을 때 어떤 콘텐트에 취약한지, 어떤 감정 상태에서 구매 결정을 내리는지, 어떤 논리 구조로 설득당하는지, 심지어 무의식적 반응 패턴까지 실시간으로 파악한다는 것이다.

포르노까지 동원한 훈련 데이터 수집

메타의 데이터 수집 욕망은 도를 넘었다. 최근 성인 비디오 제작사 스트라이크 3 홀딩스가 메타를 상대로 제기한 소송은 충격적 실태를 드러냈다. 메타가 2018년부터 저작권 보호 성인 비디오 2,396편을 비트토렌트로 무단 다운로드해 AI 모델 훈련에 사용했다는 혐의다.

메타가 성인 콘텐트를 원한 이유는 명확하다. 주류 영화나 TV에서는 얻기 어려운 다양한 시각적 앵글, 인체 부위, 길고 끊기지 않는 연속 장면들이 AI의 품질, 유동성, 인간성을 높인다는 판단에서다. 문제는 여기서 그치지 않는다. 소송 자료에 따르면 메타는 ExploitedTeens, Anal Teens 같은 미성년자가 등장할 가능성이 있는 콘텐트부터 무기 제작 가이드까지 광범위하게 수집했다. 모두 '개인적 초지능’을 구현하겠다는 욕심 때문이다.

조작의 완성형을 향해

메타 연구진이 공개한 V-JEPA 2 모델은 100만 시간의 인터넷 비디오로 훈련됐다. 여기에 불법 수집한 콘텐트가 얼마나 포함됐는지는 알 수 없다. 중요한 건 메타가 이런 데이터로 무엇을 하려는지다. 기존 추천 시스템은 정교하지만 조악했다. 피자 사진 몇 번 봤다고 피자 광고를 도배하는 수준이었다. 하지만 개인적 초지능은 다르다. 당신이 외로울 때, 불안할 때, 자신감이 떨어질 때를 정확히 파악해 그 순간에 최적화된 콘텐트를 전달한다.

가령 기존에는 "20대 남성이라서 게임 광고"였다면 미래에는 "지금 당신이 느끼는 무력감과 외로움을 정확히 겨냥한 콘텐트를 당신만의 언어로 포장해서 전달"하는 식이다. 더 무서운 건 이용자가 이를 나를 위한 맞춤 서비스로 인식한다는 점이다. 마치 가장 친한 친구가 완벽하게 내 마음을 아는 것처럼 느껴진다. 하지만 실제로는 메타가 원하는 행동, 즉 더 많은 시간 소비, 더 많은 구매, 더 많은 데이터를 생산 하도록 정교하게 설계된 심리 조작이다.

저항하는 회원님들

그러나 모든 이용자가 속아 넘어가지는 않는다. "회원님을 위한 추천"이 뜨면 즉시 "팔로우 모드"로 전환하는 이들이 늘고 있다. 이는 메타가 가장 두려워하는 행동이다. 팔로우 모드는 알고리즘 개입을 최소화하고 이용자가 직접 선택한 콘텐트만 노출시켜 메타의 추천 권력을 무력화한다.

메타는 이런 저항을 차단하려 한다. 팔로우 모드를 찾기 어렵게 숨기고 계속 추천 모드로 되돌리려 시도한다. 하지만 깨어있는 이용자들의 디지털 리터러시는 메타의 가장 큰 적이다. 팔로우 모드를 찾으려면 인스타그램 로고를 클릭하면 된다. 세상에, 로고를 클릭해야 팔로우 모드가 나온다고 누가 생각하겠나.

개방에서 폐쇄로 전환

메타는 지금까지 오픈소스 AI의 대표주자로 자처해왔다. Llama 모델군을 공개하며 투명성과 혁신을 강조했다. 그런 메타가 최근 입장을 바꿨다. 저커버그는 "초지능은 새로운 안전 우려를 불러올 것"이며 "무엇을 오픈소스로 할지 신중해야 한다"고 말했다. 

진짜 이유는 따로 있다. 개인적 초지능의 핵심 기술을 공개하면 다른 회사들도 같은 수준의 개인 데이터 수집과 조작이 가능해진다. 메타는 이 분야에서 독점적 지위를 유지하고 싶어 한다.

위험한 미래

저커버그는 AI 안경 없는 사람들이 "인지적 불이익"을 당할 것이라고 경고했다. 이는 협박에 가깝다. 개인에 의존하지 않으면 뒤처질 것이라는 공포를 조성해 이용자를 강제로 생태계에 끌어들이겠다는 의도다. 더 근본적인 문제는 개인의 자율성 파괴다. AI가 개인을 깊이 알수록 조작도 쉬워진다. 언제, 어떤 방식으로 개입해야 가장 효과적인지 정확히 아는 AI 앞에서 인간의 자유의지는 얼마나 의미가 있을까.

진정 당신을 위한 기술이라면 이용자가 언제든 끄고 켤 수 있어야 하고 작동 방식을 투명하게 공개해야 한다. 하지만 메타는 정반대로 향하고 있다. 이용자를 더 정교하게, 더 은밀하게 조작할 방법만 찾고 있다. 결국 메타의 개인적 초지능은 개인을 위한 기술이 아니다. 개인을 가장 효율적으로 착취하기 위한 도구다. 저커버그가 그린 아름다운 미래의 실체는 24시간 감시와 조작 시스템이다.

“회원님을 위한 추천"이라는 달콤한 거짓말에 속지 말아야 할 때다.