AI 워싱: 과장된 기술이 만드는 진짜 문제들

AI 워싱의 실제 모습들

AI 워싱은 다양한 형태로 나타난다. 아마존의 Just Walk Out 시스템은 실제로 AI를 사용했지만 동시에 인도에서 1,000여 명이 매장 영상을 수동으로 검수하고 있었다¹. 완전 자동화된 AI 시스템이라는 인상을 주면서 인력 의존도는 숨긴 것이다.

맥도날드는 IBM과 함께 3년간 AI 드라이브 스루 주문 시스템을 실험했지만 2024년 6월 전면 중단했다². 고객이 그만해 달라고 요청해도 AI가 치킨 맥너겟을 계속 추가해 총 260개를 주문하는 상황이 SNS에 확산됐기 때문이다.

구글의 제미나이는 2024년 흑인 나치와 여성 교황 같은 역사적으로 부정확한 이미지를 생성해 논란이 됐다³. 편견 없는 AI를 표방했지만 오히려 더 큰 혼란을 만들었다.

시장에 미치는 경제적 영향

AI 워싱은 시장의 정보 흐름을 왜곡한다. 랜드 연구소 조사에 따르면 AI 프로젝트의 80% 이상이 실패하는데 이는 다른 IT 프로젝트 실패율의 두 배다⁴. 과장된 기대가 잘못된 투자 결정으로 이어지기 때문이다.

2024년 스타트업 투자시장에서 월 투자액이 2022년 1조 원에서 2000억~3000억 원대로 급감한 것⁵은 AI 거품이 꺼지는 과정을 보여준다. 진짜 혁신 기업들이 가짜 혁신에 밀려 자원을 확보하지 못하는 역선택 현상도 일어난다.

투자자들은 AI라는 키워드만 들어도 지갑을 여는 경향이 있다. 미국 증권거래위원회(SEC)가 2024년 3월 투자자문사 델피아와 글로벌프레딕션스에게 각각 22만 5,000달러와 17만 5,000달러의 벌금을 부과한 것⁶도 이런 맥락에서다. 이들은 실제로는 AI 기술이 없으면서도 AI 기반 투자 서비스라고 홍보했다.

사회적 신뢰 훼손과 디지털 격차

AI 워싱은 기술 전반에 대한 사회적 신뢰를 떨어뜨린다. 독일 브랜드과학연구소(BSI) 조사에 따르면 AI가 작성한 기사에 대한 독자들의 지불 의향이 기자가 작성한 기사보다 10% 낮게 나타났다⁷. 소비자들이 AI 콘텐츠를 불신하기 시작한 것이다.

특히 디지털 리터러시가 낮은 계층일수록 피해가 크다. 기술에 대한 이해가 부족할수록 과장된 광고에 속기 쉽고 실망도 크다. 이는 기술 발전의 혜택이 사회 전체에 공평하게 분배되지 않는 디지털 디바이드를 심화시킨다.

2024년 3월 영국 글래스고에서 AI가 생성한 화려한 마케팅 자료로 홍보된 윌리의 초콜릿 체험 이벤트가 실제로는 초라한 창고에 불과해 대규모 환불 사태가 벌어진 것도 같은 맥락이다⁸.

개인에게 미치는 직접적 피해

AI 워싱은 개인의 선택권을 제한한다. 충분한 정보 없이는 합리적 선택이 불가능하기 때문이다. 애플 인텔리전스 AI 기능을 강조한 광고를 믿고 아이폰16을 구매한 소비자들이 실제로는 이 기능들이 제한적이거나 제공되지 않았다고 주장하며 집단소송을 제기한 사례가 대표적이다⁹.

더 심각한 경우도 있다. 캐릭터닷 AI의 챗봇이 17세 사용자에게 자해를 권유하고 부모가 자격이 없다고 말한 사건¹⁰은 단순한 과장을 넘어 개인의 안전을 위협하는 문제다.

누가 AI 워싱을 하는가

AI 워싱은 여러 주체가 연관된 시스템적 문제다.

기업들은 생존 압박 속에서 AI라는 키워드로 투자 유치와 마케팅 효과를 노린다. 마케팅테크 기업 파라세(Pharasee)의 토비 콜타드에 따르면, 최근 여러 마케팅테크 회사들이 AI 중심으로 리브랜딩하고 있다¹¹.

언론도 한 역할을 한다. 클릭베이트와 화제성을 위해 AI 기술을 과장 보도하는 경우가 많다. 자칭 전문가들은 예측과 전망을 내세우며 기술을 과대포장한다. 투자자들은 AI 열풍에 편승해 충분한 검증 없이 투자하면서 거품을 키운다.

현실적 해결 방안

AI 워싱 문제 해결을 위해서는 구체적이고 실행 가능한 방안이 필요하다.

기업은 AI 사용 범위와 방식을 구체적으로 공개해야 한다. "AI 기반"이라는 모호한 표현 대신 "음성 인식 AI로 주문 접수, 인간이 최종 확인" 같은 구체적 설명이 필요하다. 또한 내부 AI 거버넌스 체계를 구축해 과장 광고를 방지해야 한다.

언론은 AI 기술 보도 시 비판적 검증을 강화해야 한다. 그러나 클릭 수에 목을 맨 언론이 비판적으로 검증할 것을 기대할 수는 없겠다.

정부는 미국 FTC가 AI 스타트업 Automators AI를 강제 폐업시킨 것¹²처럼 적절한 규제로 시장 신뢰성을 확보해야 한다. 단, 혁신을 저해하지 않는 균형점을 찾아야 한다.

이용자는 AI 관련 주장에 대해 구체적 근거를 요구, 확인해야 한다. 이 기능이 진짜 그 말대로 되는지 시간을 들여 실험해야 한다. AI 기반이라는 모호한 표현에 현혹되지 말고 실제 기능과 한계를 확인해야 한다.

앞으로의 전망

AI 워싱 문제는 AI 기술이 발전할수록 더 정교해질 것이다. 중요한 것은 기술에 대한 과도한 기대나 무조건적 거부 모두를 피하는 것이다.

진짜 AI 혁신을 위해서는 화려한 마케팅보다 투명한 소통이 과장된 약속보다 검증된 성과가 우선되어야 한다. AI에 대한 관심이 맹목적 추종이 아닌 비판적 사고에 기반할 때 기술이 진정 인간을 위한 도구가 될 수 있다.

출처

¹ 그리니엄, "2024년 상반기 'AI 워싱' 사례 적발 잇따라", 2024.8.25
² CIO, "'방심하면 당한다' 최악의 AI 대실패 사례 12선", 2025.6.10
³ MIT Technology Review Korea, "실패로 끝난 2024년 최악의 기술들", 2025.1.7
⁴ AI타임스, "[8월29일] 기업의 AI 프로젝트 80%가 실패하고 헛돈만 날리는 이유", 2024.8.30
⁵ 테크42, "2025년 스타트업이 직면한 현실은 '혹한기'넘어 '빙하기'", 2025.1.8
⁶ 매드타임스, "'AI 워싱'을 아시나요?", 2024.4.21
⁷ 한국언론진흥재단, "AI 활용 뉴스에 대한 독자 지불 의향 더 낮아", 2024
⁸ 제주일보, "AI 기술의 그림자: 2024년 최악의 실패 사례들", 2025.1.6
⁹ ZDNet Korea, "[기고] AI 워싱, 신뢰를 위한 규제와 책임의 조화", 2025.4.25
¹⁰ ITWorld, "2024년 치명적인 AI 실패 사례 5선", 2025.1.2
¹¹ 매드타임스, "'AI 워싱'을 아시나요?", 2024.4.21
¹² 매드타임스, 위와 같은 글

Q&A

Q1. AI 워싱이란 정확히 무엇인가? A: 기업이나 제품의 AI 기술 활용 정도나 성능을 실제보다 과장하거나 왜곡하여 홍보하는 행위다. 완전히 거짓인 경우부터 부분적 과장까지 다양한 형태가 있다. 예를 들어 아마존의 'Just Walk Out'처럼 AI를 사용하지만 1,000명의 인력이 수동 검수한다는 사실을 숨기는 것도 AI 워싱이다.

Q2. AI 워싱이 경제에 미치는 영향은? A: 잘못된 투자 결정을 유도해 자원 배분을 왜곡한다. AI 프로젝트 실패율이 80% 이상으로 다른 IT 프로젝트의 두 배에 달하는 배경에는 과장된 기대가 있다. 2024년 스타트업 투자가 급감한 것도 AI 거품이 꺼지는 과정을 보여준다.

Q3. 누가 AI 워싱을 주도하는가? A: 단일 주체가 아닌 여러 주체의 이해관계가 맞아떨어진 결과다. 기업은 생존을 위해, 언론은 화제성을 위해, 전문가들은 관심을 끌기 위해, 투자자들은 수익을 위해 각각 AI를 과장하는 경향이 있다.

Q4. AI 워싱이 개인에게 미치는 피해는? A: 잘못된 정보로 인한 선택권 침해가 가장 크다. 애플 인텔리전스 허위 광고로 집단소송이 제기되거나, Character.ai 챗봇이 청소년에게 자해를 권유한 사례처럼 경제적·정신적 피해가 실제로 발생하고 있다.

Q5. AI 워싱을 어떻게 막을 수 있나? A: 투명성 강화가 핵심이다. 기업은 AI 사용 범위를 구체적으로 공개하고, 언론은 비판적 검증을 강화하며, 정부는 적절한 규제를 도입해야 한다. 소비자도 "AI 기반"이라는 모호한 표현에 현혹되지 말고 실제 기능과 한계를 확인하는 습관을 가져야 한다.