마음과 삶5분 읽기
AI는 민주주의를 어떻게 흔드는가
바이든의 목소리를 흉내 낸 AI 로보콜은 유권자에게 투표하지 말라고 말했다. 딥페이크가 선거 결과를 바꿨다는 단정은 어렵지만, 거짓을 대량 생산하고 진짜 기록까지 의심하게 만드는 효과는 남는다. 민주주의의 공동 현실을 지키기 위해 개인과 플랫폼에 어떤 책임이 필요한지 묻는다.
레이 | 디지털 저널리스트 | awesome.ai.life@gmail.com | 2026년 7월 25일
AI와 인권 특별호 5/7 — 데이터에서 노동, 감시, 민주주의, 규제와 분배까지 AI 권력이 지나가는 길을 추적한다.
2024년 미국 뉴햄프셔 예비선거를 이틀 앞두고 유권자들은 조 바이든의 목소리로 된 전화를 받았다. 전화 속 바이든은 이번 투표에 참여하지 말라고 말했다. 실제 바이든이 아니라 생성형 AI가 복제한 목소리였다.
[사실] 미국 연방통신위원회는 2024년 정치 컨설턴트 스티브 크레이머에게 600만 달러의 벌금을 제안했다. 2026년에는 벌금을 실제로 부과하고 법무부에 징수를 의뢰했다. FCC 2024년 자료 FCC 2026년 자료 미국 법무부는 허위 투표정보를 전달한 AI 로보콜이 투표권법상 협박·위협·강요에 해당할 수 있다는 의견을 법원에 냈다. 미 법무부
[미확인] 이 로보콜이 선거 결과를 바꿨다는 직접적인 인과관계는 확인되지 않았다. 최종 득표에는 정당 지지, 후보 경쟁력, 언론 보도와 투표율 등 수많은 변수가 작용한다.
결과를 바꿨다는 증거가 없다면 민주주의의 위협이라고 부를 수 있을까?
부를 수 있다. 생성형 AI는 짧은 시간에 거짓의 여러 변형을 만들고 집단별로 다른 메시지를 보낼 수 있다. 반대로 진짜 기록이 나와도 당사자는 “AI가 만든 것”이라고 부인할 수 있다. AI는 거짓의 양만 늘리는 것이 아니라 진실을 입증하는 부담도 키운다.
[사실] 한나 아렌트는 「Truth and Politics」에서 사실적 진리가 정치적 공동체에 얼마나 취약하면서도 필요한지를 논했다. Stanford Encyclopedia of Philosophy 이를 AI 시대의 선거에 적용하면, 딥페이크 한 편보다 더 큰 위험은 시민이 어떤 기록도 믿을 수 없다고 느끼는 상태다.
[사실] EU는 AI Act 하나만으로 선거 문제를 다루지 않는다. Digital Services Act, 정치광고 투명성 규정, 허위정보 행동강령을 결합해 대형 플랫폼에 선거 위험 관리 책임을 묻는다. EU 집행위원회
개인에게 미디어 리터러시만 요구해서는 부족하다. 합성 콘텐츠와 정치광고임을 알려야 한다. 플랫폼은 추천과 확산의 기준을 설명하고, 이의제기된 콘텐츠를 사람이 재검토해야 한다. 피해자는 신속한 정정과 구제를 받을 수 있어야 한다. 선거기관과 독립 연구자도 확산 경로를 조사할 수 있어야 한다.
이 글에서는 이런 책임을 법이 실제로 부과하고 있는지 EU와 한국을 비교한다.
거짓말의 속도와 변형 능력
생성형 AI가 선거에 더하는 힘은 완전히 새로운 거짓말의 발명보다 생산 비용의 급격한 하락에 있다. 한 사람이 짧은 시간에 여러 언어와 지역 정서에 맞춘 이미지, 음성, 영상을 만들 수 있다. 반응이 낮은 버전은 버리고 더 잘 퍼지는 버전을 반복해서 내보낼 수도 있다. 허위정보는 하나의 완성품이 아니라 실시간으로 최적화되는 캠페인이 된다.
정정은 같은 속도로 움직이기 어렵다. 사실 확인에는 원본과 발언 맥락, 계정의 유통 경로를 살피는 시간이 필요하다. 반면 감정적인 조작물은 확인보다 공유가 앞선다. 선거처럼 시간이 제한된 사건에서는 투표 뒤 나온 정확한 정정이 피해를 완전히 되돌리지 못한다. 그래서 사후 삭제만이 아니라 초기 확산을 늦추고 출처를 확인하게 하는 장치가 중요하다.
진짜도 가짜라고 말할 수 있는 시대
딥페이크의 피해는 가짜를 진짜처럼 믿게 하는 데서 끝나지 않는다. 합성물이 흔해질수록 실제 녹음과 영상의 당사자도 자신에게 불리한 증거를 “AI가 만든 것”이라고 부인할 수 있다. 무엇이든 조작될 수 있다는 의심은 거짓말쟁이에게 새로운 방패를 준다. 공동의 사실 기반이 무너지면 시민은 잘못된 정보를 믿는 데 그치지 않고 모든 정보를 포기하게 된다.
그렇다고 합성 콘텐츠를 모두 금지해야 할까?
그럴 수 없다. 풍자와 예술, 교육, 개인정보를 보호하는 재연에도 합성 기술이 쓰인다. 문제는 형식 자체가 아니라 기만의 목적과 맥락, 예상되는 피해다. 후보자가 하지 않은 말을 한 것처럼 꾸며 투표 판단을 바꾸려는 콘텐츠와 명확히 표시된 패러디는 구분해야 한다.
표시는 필요하지만 만능은 아니다. 제작 단계의 워터마크와 출처 정보가 유통 과정에서 제거될 수 있고 이용자가 표시의 의미를 알지 못할 수도 있다. 기술적 출처 표시, 플랫폼의 눈에 띄는 안내, 신속한 신고와 이의제기, 선거기관과 언론의 검증이 함께 작동해야 한다.
플랫폼은 중립적인 통로인가
추천 시스템은 무엇을 더 많은 사람에게 보여줄지 결정한다. 분노와 놀라움을 일으키는 조작물이 참여를 끌어낸다면 플랫폼의 설계가 확산을 가속할 수 있다. 플랫폼 책임은 콘텐츠를 만들었는지에만 달려 있지 않다. 반복 유포 계정, 정치 광고의 구매자와 타기팅 기준, 검증 전 콘텐츠의 확산을 어떻게 다루는지도 살펴야 한다.
동시에 삭제 결정에도 투명성과 이의제기가 필요하다. 자동 탐지가 풍자나 보도를 잘못 막을 수 있고 집권 세력이 “허위정보 대응”을 비판 억압에 이용할 위험도 있다. 어떤 규칙으로 제한했는지 알리고 독립적인 재검토와 복구 절차를 제공해야 한다.
시민에게 필요한 능력도 단순한 진위 판별을 넘어선다. 출처가 불분명한 충격적 콘텐츠 앞에서 공유를 멈추고 원문과 복수 보도를 확인하며 자신의 감정을 겨냥한 메시지인지 돌아보는 습관이 필요하다. 그러나 모든 책임을 개인에게 넘길 수는 없다. 산업과 플랫폼, 선거기관이 정보 환경을 안전하게 설계할 의무가 먼저다.
민주주의는 모든 시민이 같은 의견을 갖는 체제가 아니다. 서로 다른 의견을 두고도 무엇이 실제로 일어났는지 확인할 공동의 절차를 유지하는 체제다. AI 시대의 과제는 완벽한 진실 기계를 만드는 것이 아니라 그 절차를 속도와 조작의 압력 속에서도 지키는 일이다.
AI와 인권 특별호
Related