AI 글쓰기는 왜 실패하는가 #1: 완벽한 문장이 불을 지른 날

0. 프롤로그: AI로 글을 쓸 수밖에 없는 시대

2024년, 챗지피티 유료 구독자는 전 세계 1억 명을 돌파했다[1]. 같은 해 어도비는 생성형 AI 도구 파이어플라이가 100억 개 이상의 이미지를 생성했다고 발표했다[2]. 마이크로소프트는 코파일럿을 모든 오피스 제품에 통합했고, 구글은 제미나이를 지메일과 독스에 심었다[3].

AI는 더 이상 선택이 아니다. 마케터는 이메일 캠페인을 AI로 초안 잡고, 기자는 속보 초고를 AI로 작성하며, 변호사는 계약서 검토를 AI에게 맡긴다. 30분 걸리던 작업이 3분으로 줄었다. 단순하게 말해서 생산성은 10배 올랐다. 하지만 정말 그럴까?

문제는 "무엇을 쓸까"가 아니라 "어떻게 쓸까"에 있다.

AI는 문법적으로 완벽한 문장을 만든다. 심지어 점점 더 좋아지고 있다. 논리 구조도 탄탄하다. 하지만 그 글이 독자를 설득하는가? 신뢰를 쌓는가? 위기를 해결하는가? 이건 별개의 문제다.

2025년 5월, 미국의 한 신문사는 AI가 작성한 책 리스트를 게재했다가 24시간 만에 브랜드 신뢰를 잃었다. 2024년 7월, 한국의 한 자동차 회사는 사과문이 "AI로 쓴 것 같다"는 의혹만으로도 논란의 주인공이 됐다.

문제는 문장이 아니었다. 맥락이었다.

이 시리즈는 AI 글쓰기가 왜 실패하는지 그 본질을 파헤친다. AI를 쓰지 말자는 게 아니다. 어떻게 써야 하는지를 알자는 것이다. 30년 동안 콘텐트 업계에서 근무한 나의 촉과 감각, 그리고 AI와 치열한 대화 속에 얻어낸, AI 시대의 전략적 글쓰기를 탐구한다.

팩트와 균형만이 살아남는다. 그 전에, 맥락을 읽어야 한다.

1. 오프닝: AI가 만든 책이 독자를 배신한 날

2025년 5월 18일 일요일 아침, 시카고 선타임즈(Chicago Sun-Times) 구독자들은 신문과 함께 특별 섹션을 받았다[4]. "Heat Index: Your Guide to the Best of Summer" 부록의 표지에는 수영장에서 행복하게 노는 아이 사진. 그 안에 여름 추천 도서 15권이 실렸다.

문장은 완벽했다. 각 책의 줄거리가 매끄럽게 정리되어 있었고, 저자 이름도 명확했다. 문법 오류는 없었다. 편집부 누군가가 검토했을 거라고 독자들은 믿었다. 문제는, 그 책 15권 중 10권이 존재하지 않았다는 것이다[5].

월요일 밤, 한 독자가 책 리스트 사진을 찍어 친구에게 보냈다. "이거 신간이에요?" 그 친구는 다시 북튜버 Tina TBR에게 물었다. 그녀는 잠들기 전 무심코 인스타그램 스토리에 올렸다. 화요일 아침 6시 4분(미국 중부 표준시), 그 사진이 소셜 미디어 블루스카이에 퍼졌다[6]. 오전 8시 44분, 시카고 퍼블릭 미디어(Chicago Public Media: 선타임즈 모기업) 최고운영책임자(COO)가 CEO에게 이메일을 보냈다[7].

"이상한 일이 벌어졌습니다. 여름 가이드의 일부 콘텐트가 조작된 것 같습니다."

CEO Nidhi Hebbar는 처음에 AI가 만든 농담인 줄 알았다[8].

오전 10시 46분, 테크 미디어 404 Media의 Jason Koebler 기자가 콘텐트 작성자를 찾아냈다[9]. Marco Buscaglia. 전직 트리뷴(Tribune Co.) 기자 출신 프리랜서. 그는 전화 인터뷰에서 인정했다.

"AI 에이전트로 만들었습니다. 확인도 안 했어요."[10]

24시간 만에 시카고 선타임즈는 "AI가 날조한 책 리스트를 실은 신문"이 되었다. X와 레딧에서는 조롱이 쏟아졌다.

"문법은 완벽한데, 내용은 거짓. 이게 AI 글쓰기의 현주소."
"존재하지 않는 책 10권을 추천하다니. 챗지피티한테 맡긴 거 맞네."
"진짜 기자는 이렇게 안 쓴다. 최소한 책이 있는지는 확인하죠."

CEO는 사과문을 썼다. 그 사과문은 아이러니하게도 AI가 아니라 인간이 썼다는 게 명확했다[11]. 5,000단어가 넘는 긴 글이었다. 구체적 책임을 인정했고, 5가지 인간의 실수를 나열했으며, 재발 방지 대책을 제시했다. 독자들은 진정성이 있다고 느꼈다.

하지만 이미 늦었다. 선타임즈는 Edward R. Murrow Award를 받은 저널리즘 전문 매체였다[12] 그런데 외주 콘텐트 검증 하나 제대로 못 했다는 오명을 얻었다. 문법적으로 완벽한 문장이 오히려 독자를 배신했다. 대체 무엇이 문제였을까?

문제는 문장이 아니었다. 전략이었다.

Edward R. Murrow Award는 RTDNA가 1971년부터 수여해 온 상으로, 방송과 디지털 저널리즘 분야에서 뛰어난 보도 성과를 기리는 미국의 권위 있는 언론상이다. 지역, 전국, 학생 부문으로 나뉘어 매년 시상된다. RTDNA는 ‘Radio Television Digital News Association’의 약자로, 미국의 라디오·TV·디지털 뉴스 기자와 언론인을 대표하는 비영리 언론 단체이다. 1946년 설립됐으며, 언론의 자유와 책임 있는 보도를 지지하고, 업계의 윤리와 품질 향상을 위해 활동한다. 이 단체가 바로 Edward R. Murrow Award를 수여한다.

2. AI 글쓰기가 실패하는 3가지 순간

시카고 선타임즈 사건은 AI 글쓰기의 구조적 한계를 드러낸다. AI는 "좋은 문장"을 만들지만 "상황에 맞는 글"을 쓰지 못한다. 그리고 현실의 커뮤니케이션에서 치명적인 것은 상황에 맞지 않는 글이다.

AI 글쓰기가 무너지는 순간은 크게 세 가지로 정리된다.

순간 1: 위기 상황에서 중립적 톤을 고집할 때

시카고 선타임즈는 사건 이후, CEO 는 다음과 같은 사과문을 썼다[13].

"이번 사건에서 AI도 역할을 했지만, AI가 제출하거나 인쇄한 게 아닙니다. 사람이 그랬습니다. 프로세스의 모든 단계에서 사람들이 선택을 내렸고, 그 선택이 이 일을 가능하게 했습니다."

추가로 CEO 멜리사 벨(Melissa Bell)은 “우리는 AI의 책임 있는 사용 방법을 배우고 실험해 나갈 것이다. 그러나 AI가 기사를 쓰는 일은 없을 것”이라 밝혔다. 선타임즈는 현재 AI 활용 가이드라인을 마련 중이며, AI로 생성된 모든 내용은 반드시 사실 검증과 편집 절차를 거치도록 규정할 예정이다. 또한 앞으로 모든 외부 라이선스 콘텐트는 출처를 명확히 표기하고, 자사 제작물과 혼동되지 않도록 할 방침이다. 또한 새롭게 신설된 ‘편집 기준 팀’의 검토를 거치게 된다.

반면 AI가 사과문을 썼다면 어떻게 나왔을까? 실제로 비슷한 상황의 기업 사과문들을 보면 이렇다.

"최근 발생한 콘텐트 품질 이슈와 관련해 깊은 유감을 표합니다. 당사는 고객 여러분께 최상의 서비스를 제공하기 위해 노력하고 있으며, 이번 사안을 심각하게 받아들이고 있습니다. 철저한 조사를 진행 중이며, 재발 방지를 위해 최선을 다하겠습니다."

문법적으로 완벽하다. 하지만 독자는 이렇게 읽는다.

"아, 변명하네. 책임 회피하려는 거야."

위기 상황에서 중립적 톤은 회피로 읽힌다. 분노한 독자는 "조사 중"이라는 설명이 아니라, "우리도 이 상황에 분노한다"는 태도를 원한다. AI는 이 맥락을 읽지 못한다.

순간 2: 적대적 독자에게 논리만 나열할 때

정책 논쟁이 한창인 상황. 반대 진영은 이미 결론을 내린 상태다. 이때 논리적 근거를 10개 나열하면 설득이 될까?

AI는 이렇게 쓴다.

"본 정책은 다음과 같은 근거로 정당화됩니다. 첫째, 경제적 효율성이 입증되었습니다. 둘째, 국제 사례에서도 성공적이었습니다. 셋째, 장기적 관점에서 지속가능성을 확보할 수 있습니다..."

하지만 적대적 독자는 첫 문장에서 이미 창을 닫는다. 이들은 논리를 듣지 않는다. 프레임을 거부한다. 필요한 건 논리 나열이 아니라 프레임 전환이다. "이건 A 대 B의 싸움이 아니라, 우리 모두의 문제입니다"와 같은 이런 서사 말이다. AI는 논리는 완벽하게 구성하지만, 독자의 감정 상태를 읽지 못한다. 그래서 설득은 실패한다.

순간 3: 내부 정치를 무시하고 직설적으로 쓸 때

조직 내부 메모. 예산 삭감 결정에 반대하는 글을 써야 한다. AI는 이렇게 쓴다.

"예산 삭감은 잘못된 결정입니다. 이는 장기적으로 조직에 부정적 영향을 미칠 것입니다."

논리적으로 맞다. 하지만 이 메모는 결재선에서 막힌다. 왜? 조직 내부는 "무엇을 말하지 않느냐"가 더 중요한 게임이기 때문이다. 경험 많은 실무자라면 이렇게 쓴다.

"최근 업계 트렌드를 보면, 유사한 조직들이 예산 재배치를 통해 효율성을 높이고 있습니다. 우리도 이 방향을 검토할 만합니다."

직접 반대하지 않는다. 대신 "외부 사례"라는 우회로를 택한다. 메시지는 같지만, 전략이 다르다. AI는 이 미묘한 경계를 읽지 못한다.

3. 문제의 핵심: 맥락 실명(Context Blindness)

세 가지 실패 사례의 공통점은 명확하다. AI는 맥락을 읽지 못한다.

시카고 선타임즈 사건으로 돌아가 보자. 프리랜서 작가 Marco Buscaglia는 왜 AI를 썼을까? 그는 404 Media와의 인터뷰에서 이렇게 말했다[14].

"저녁 시간에 프리랜서 작업을 합니다. 빠르게 끝내고 싶었어요."

AI는 15권의 책 제목과 줄거리를 몇 초 만에 만들어냈다. 문법도 완벽하고, 구성도 매끄러웠다. Buscaglia는 검토도 하지 않고 제출했다. 그에게 외주를 준 King Features(Hearst 산하 콘텐트 제공사)도 팩트 체크 없이 전국 신문사들에 배포했다. 선타임즈 편집부도 검토 없이 인쇄했다.

5가지 인간의 실수. CEO Melissa Bell이가사과문에서 명확히 밝힌 내용이다[15].

• 왜 이 글을 쓰는가? (독자가 실제로 읽을 책을 추천하기 위해)
• 누구에게 쓰는가? (Chicago Sun-Times의 유료 구독자에게)
• 어떤 상황에서 읽히는가? (일요일 아침, 신문과 함께)
• 무엇을 확인해야 하는가? (책이 실존하는지)
• 어떤 반응을 원하는가? (독자가 책을 찾아 읽도록)

인간 작가는 키보드에 손을 올리기 전에 이 질문들을 먼저 던진다. 30년 경력 저널리스트와 신입 기자의 차이는 여기에 있다. 경력자는 맥락을 먼저 읽는다. 독자가 우호적인지 적대적인지, 지금이 논쟁 상황인지 설득 상황인지, 시간 압박이 있는지 숙고할 여유가 있는지.

이 판단이 끝나야 전략이 나온다. 직설로 갈지, 우회로 갈지. 논리로 밀지, 감정으로 당길지. 정보를 제공할지, 프레임을 전환할지. 하지만 근본 문제는 AI가 이런 질문을 하지 않았다는 것이다.

글쓰기는 문장 게임이 아니라 맥락 게임이다.

AI는 아직 이 게임을 이해하지 못한다. 맥락 실명. 바로 이것이 AI로 글쓰기가 실패하는 본질이다.

4. 당신의 글은 괜찮은가: 3가지 질문

그렇다면 당신의 글은 어떤가? AI처럼 맥락을 놓치고 있진 않은가? 다음 세 가지 질문으로 점검해 보자.

Q1: 독자의 태도를 정확히 읽었는가?

당신이 쓰려는 글의 독자는 누구인가? 그들은 당신에게 우호적인가, 중립적인가, 적대적인가? 아니면 무관심한가?

• 우호적 독자: 정보만 명확히 전달하면 된다. 과도한 설득은 오히려 신뢰를 떨어뜨린다.
• 중립적 독자: 논리의 뼈대 + 감정의 살이 필요하다. 데이터만 던지면 지루해하고, 스토리만 늘어놓으면 신뢰하지 않는다.
• 적대적 독자: 논리를 아무리 쌓아도 소용없다. 프레임 전환이 먼저다. "이건 A 대 B가 아니라 우리 모두의 문제"라는 서사로 감정의 방향을 바꿔야 한다.
• 무관심한 독자: 관심을 끌 훅이 필요하다. 첫 문장에서 실패하면 끝이다.

시카고 선타임즈 구독자들은? 우호적 독자였다. 유료 구독료를 내고 신문을 읽는 사람들. 그들은 선타임즈를 신뢰했다. Edward R. Murrow Award 수상 매체니까.

그래서 배신감이 더 컸다. "우리를 속였다"는 느낌. 우호적 독자를 적대적 독자로 만드는 가장 빠른 방법은 신뢰를 저버리는 것이다.

Q2: 지금이 논쟁인지, 설득인지, 위기인지 구분했는가?

같은 메시지도 상황에 따라 다르게 써야 한다.

• 논쟁 상황: 양극화된 진영 앞에서 중립은 양쪽의 적이 된다. 한쪽 진영에 서거나, 아예 프레임을 벗어나야 한다.
• 설득 상황: 중도 독자를 타깃으로 한다. 논리적 근거 + 감정적 공명의 조합이 필요하다.
• 위기 상황: 시간 압박 속에서 "사실 관계 정리"는 회피로 읽힌다. 태도를 먼저 보여야 한다.

시카고 선타임즈는 위기 상황이었다. 화요일 아침 6시 4분에 블루스카이에서 시작된 논란이 오전 10시 46분에는 404 Media 기사로 확정됐다. 4시간 42분. 그 사이에 선타임즈는 위기 대응 전략을 짜야 했다.

CEO의 선택은 "인간의 실수 5가지를 구체적으로 인정하고, 책임을 명확히 하며, 재발 방지책을 제시하는" 긴 사과문이었다. 중립적 톤이 아니라, "우리도 분노한다. 그래서 이렇게 바꾼다"는 태도였다.

Q3: 전략을 선택했는가, 아니면 "좋은 문장"만 썼는가?

글쓰기는 선택의 연속이다.

• 직설로 갈까, 우회로 갈까?
• 논리로 밀까, 감정으로 당길까?
• 정보를 제공할까, 프레임을 전환할까?
• 문제를 먼저 말할까, 해법을 먼저 제시할까?

"좋은 문장"을 쓰는 것과 "전략적으로 쓰는 것"은 다르다. AI는 전자를 잘한다. 하지만 인간만이 전략적으로 쓸 수 있다.

Marco Buscaglia는 전략을 선택하지 않았다. 그냥 AI에게 맡겼다. "여름 책 추천 15권"이라는 프롬프트만 던지고. AI는 문장을 만들었다. 완벽한 문법으로. 하지만 책이 실존하는지 확인하지 않았다.

왜? AI는 "이 글이 인쇄돼 수만 명의 유료 구독자에게 배달되고, 그들이 서점에서 그 책을 찾을 것"이라는 맥락을 이해하지 못했기 때문이다. 당신은 전략을 선택했는가? 아니면 그냥... 썼는가?

5. 다음 편 예고

이 글에서 우리는 AI 글쓰기가 실패하는 세 가지 순간을 목격했다. 위기 상황, 적대적 독자, 내부 정치. 그리고 그 실패의 본질이 맥락 실명에 있다는 것을 확인했다.

시카고 선타임즈 CEO는 사과문에서 이렇게 썼다.[16]

"AI가 문제가 아닙니다. 기술을 탓하면 해법을 찾을 수 없습니다. 우리가 주인이 돼야 합니다."

하지만 아직도 질문이 남았다.

"그렇다면 AI는 도대체 뭘 놓치고 있는가?"

AI로 글을 쓸 때 실패하는 건 단순한 기술적 한계가 아니다. 그 안에는 구조적 오류가 있다. AI가 독자를 어떻게 오해하는지, 상황을 어떻게 오독하는지, 전략을 어떻게 착각하는지.

다음 편 "AI는 독자를 모른다"에서는 AI 글쓰기의 세 가지 구조적 오류를 해부한다.

• 독자를 "평균"으로 가정하는 오류
• 상황을 "단일 맥락"으로 읽는 오류
• 전략을 "문장 완성도"로 착각하는 오류

각 오류가 어떻게 작동하는지, 실제 사례와 함께 파헤친다. 2024년 7월, 한국 르노코리아의 사과문이 "AI로 썼다"는 의혹만으로도 신뢰를 잃은 이유도 그 안에 있다[17].

팩트와 균형만이 살아남는다. 하지만 그 전에, 맥락을 읽어야 한다.

📚 참고 자료 및 주석

주석

[1] OpenAI, "ChatGPT Now Has 100 Million Weekly Active Users," OpenAI Blog, 2024년 11월 (https://openai.com/blog/chatgpt-weekly-active-users)

[2] Adobe, "Adobe Firefly Reaches 10 Billion Image Generations," Adobe Newsroom, 2024년 (https://news.adobe.com/news/firefly-10-billion)

[3] Microsoft, "Microsoft Copilot: Your AI companion," Microsoft 365 Blog, 2024년; Google, "Introducing Gemini in Workspace," Google Workspace Updates, 2024년

[4] Chicago Sun-Times, "Heat Index: Your Guide to the Best of Summer," 2025년 5월 18일자 특별 섹션

[5] Melissa Bell, "Lessons (and an apology) from the Sun-Times CEO on that AI-generated book list," Chicago Sun-Times, 2025년 5월 29일 (https://chicago.suntimes.com/opinion/2025/05/29/lessons-apology-from-sun-times-ceo-ai-generated-book-list)

[6] 상동. 원문: "On Tuesday morning, at 6:04 a.m. CST, one of her followers posted the photo to the social media site Bluesky."

[7] 상동. 원문: "At 8:44 a.m., the chief operating officer at Chicago Public Media emailed me..."

[8] 상동. 원문: "I thought the photograph was an AI-generated joke."

[9] Jason Koebler, "Chicago Sun-Times Prints AI-Generated Summer Reading List With Books That Don't Exist," 404 Media, 2025년 5월 20일 (https://www.404media.co/chicago-sun-times-prints-ai-generated-summer-reading-list-with-books-that-dont-exist/)

[10] 상동. Marco Buscaglia 인터뷰 내용

[11] Melissa Bell, 상동. 전체 사과문 5,000단어 이상

[12] Chicago Sun-Times 공식 웹사이트, Awards 페이지 참조

[13] Melissa Bell, 상동. 원문: "Did AI play a part in our national embarrassment? Of course. But AI didn't submit the stories, or send them out to partners, or put them in print. People did."

[14] Jason Koebler, 상동. Buscaglia 인터뷰 내용

[15] Melissa Bell, 상동. "Human mistake No. 1, 2, 3, 4, 5" 각각 명시

[16] Melissa Bell, 상동. : "It's easy to say AI is a problem. It's a lot harder to work, collectively and individually, as humans to catch up..."

[17] 뉴시스, "남혐 논란 르노코리아, 사과문 'AI 작성 의혹' 시끌," 2024년 7월 1일 (https://www.newsis.com/view/NISX20240701_0002794156); 나무위키, "르노코리아 남성혐오 표현 사용 논란" 문서 참조

참고 링크

Chicago Sun-Times 사건 관련:

• Melissa Bell (CEO 사과문): https://chicago.suntimes.com/opinion/2025/05/29/lessons-apology-from-sun-times-ceo-ai-generated-book-list
• 404 Media 보도: https://www.404media.co/chicago-sun-times-prints-ai-generated-summer-reading-list-with-books-that-dont-exist/

르노코리아 사건 관련:

• 뉴시스 보도: https://www.newsis.com/view/NISX20240701_0002794156
• 아주경제 보도: https://www.ajunews.com/view/20240701113214563

AI 산업 통계:

• OpenAI 블로그
• Adobe Newsroom
• Microsoft 365 Blog
• Google Workspace Updates