마음과 삶5분 읽기
내 데이터는 누구의 허락으로 AI의 자원이 되었나
공개된 글과 사진은 상업용 AI의 학습재료가 되어도 되는가. EDPB와 영국 ICO는 공개 여부 하나가 아니라 수집 목적, 합리적 기대, 거부와 삭제 가능성을 함께 보라고 말한다. 대규모 웹 스크래핑과 머신 언러닝 논쟁에서 데이터 권리를 어떻게 다시 설계할지 살핀다.
레이 | 디지털 저널리스트 | awesome.ai.life@gmail.com | 2026년 7월 25일
AI와 인권 특별호 2/7 — 데이터에서 노동, 감시, 민주주의, 규제와 분배까지 AI 권력이 지나가는 길을 추적한다.
블로그에 글을 올린 사람은 다른 사람이 읽을 것이라고 예상한다. 자신의 문장이 수십억 개 문서와 함께 복제돼 상업용 AI의 학습재료가 될 것까지 예상했다고 보기는 어렵다. 공개는 접근을 허용하지만 모든 2차 이용에 동의했다는 뜻은 아니다.
[사실] 유럽데이터보호이사회는 AI 모델의 개인정보 사용을 사안별로 판단해야 한다고 밝혔다. 데이터가 공개돼 있었는지, 어떤 맥락에서 수집됐는지, 당사자가 새 용도를 예상할 수 있었는지, 모델에서 개인정보를 다시 꺼낼 수 있는지 등을 함께 본다. EDPB 의견
[사실] 영국 개인정보감독기구는 생성형 AI 학습용 웹 스크래핑을 “high-risk, invisible processing activity”라고 불렀다. “고위험의 비가시적 처리”라고 번역할 수 있다. ICO 분석
문제는 정보의 격차다. 기업은 무엇을 얼마나 모았는지 안다. 개인은 자신의 글과 사진이 어느 데이터셋에 들어갔는지조차 모를 수 있다. 처리 사실을 모르면 거부와 삭제도 요구하기 어렵다.
인터넷에 누구나 볼 수 있게 올렸다면 AI도 읽을 수 있는 것 아닐까?
[사실] 사람이 글을 읽는 것과 대규모로 복제해 상업적 모델을 학습시키는 것은 같은 처리가 아니다. 그렇다고 모든 웹 스크래핑을 곧바로 불법이라고 단정할 수도 없다. EDPB와 ICO는 정당한 이익을 법적 근거로 삼을 가능성을 열어 두되, 목적과 필요성, 당사자 권리를 엄격히 따져야 한다고 본다.
이미 배운 모델에서 개인 데이터를 지우는 일은 아예 불가능할까?
[사실] ICO는 문제가 된 학습데이터를 빼고 모델을 다시 학습시키는 일이 매우 많은 시간과 비용을 요구할 수 있다고 설명한다. ICO 분석 [추정] 머신 언러닝이나 다른 삭제 방법의 실효성은 모델 구조와 적용 방법에 따라 달라질 수 있다. 따라서 “언제나 완전 삭제가 가능하다”거나 “영원히 불가능하다”는 두 단정 모두 피해야 한다.
데이터 권력의 통제는 수집 뒤가 아니라 수집 전부터 시작해야 한다. 무엇을 왜 모으는지 알리고, 거부와 삭제 방법을 설명해야 한다. 요청을 사람이 재검토하고, 삭제 결과를 독립적으로 검증할 방법도 필요하다.
데이터는 저절로 정리되지 않는다. 문장을 거르고 이미지에 이름을 붙이며 유해한 답변을 판별하는 사람이 있다. 이 글에서는 AI가 감춘 노동을 본다.
동의는 체크박스보다 길다
온라인 서비스의 동의 화면은 대개 한 번의 클릭으로 끝난다. 그러나 AI 학습은 수집 당시의 목적을 넘어 데이터를 오래 보관하고 다른 자료와 결합하며 새로운 모델에 재사용할 수 있다. 이용자가 사진을 공유한 행위와 그 사진이 얼굴인식이나 생성형 AI의 훈련 자원이 되는 데 동의한 행위는 같지 않다. 의미 있는 동의라면 무엇을 왜 모으는지뿐 아니라 얼마나 보관하고 누구와 나누며 어떤 모델에 쓰는지 이해할 수 있어야 한다.
그렇다면 인터넷에 공개한 정보는 누구나 마음대로 써도 되는가?
공개와 무제한 이용은 같은 말이 아니다. 사람은 취업을 위해 경력을 올리고 공동체와 소통하기 위해 사진을 공유하며 도움을 받기 위해 게시판에 건강 문제에 관해 글을 쓴다. 검색 결과에서 읽을 수 있다는 사실만으로 개인이 예측하기 어려운 대규모 학습과 상업적 재사용까지 자동으로 허락했다고 보기는 어렵다.
데이터는 서로 결합될 때 더 많은 것을 드러낸다. 단편적인 위치 기록, 구매 내역, 검색어는 각각 평범해 보여도 함께 묶이면 생활 습관과 건강 상태, 정치적 관심, 인간관계를 추론하는 재료가 된다. 프라이버시는 숨길 비밀의 목록이 아니라 자신에 관한 정보가 어떤 맥락에서 누구에게 보일지를 조절하는 능력에 가깝다.
삭제는 버튼이 아니라 설계다
원본 데이터 한 건을 저장소에서 지우는 것과 이미 학습된 모델이 그 흔적을 얼마나 반영하는지는 다른 문제다. 그렇다고 기술적으로 어렵다는 이유로 책임을 포기할 수는 없다. 조직은 데이터의 출처와 사용 이력을 기록하고 중복 저장된 위치를 파악하며 이후 학습과 배포에서 제외할 수 있는 절차를 갖춰야 한다. 삭제 가능성은 문제가 생긴 뒤 붙이는 기능이 아니라 수집 단계부터 준비해야 할 설계 조건이다.
데이터 제공자가 얻는 몫도 물어야 한다. 수많은 사람의 글과 그림, 목소리와 행동 기록이 모델의 성능을 만들지만 경제적 이익과 결정권은 플랫폼과 모델 기업에 집중되기 쉽다. 모든 사용을 개별 보상으로 해결할 수는 없지만 적어도 창작자와 이용자가 선택하고 거부하며 집단적으로 협상할 통로는 필요하다.
좋은 데이터 거버넌스는 네 가지 질문에서 시작한다. 수집 목적은 구체적인가. 필요한 범위를 넘겨 모으지 않았는가. 민감한 정보와 취약한 집단에 더 강한 보호를 적용했는가. 사용이 끝난 뒤 삭제하거나 재사용을 중단할 수 있는가. 여기에 독립 감사와 피해 구제까지 더해야 동의가 형식이 아니라 권리가 된다.
AI의 성능은 데이터의 양만으로 결정되지 않는다. 출처가 분명하고 맥락이 보존되며 당사자의 선택이 존중되는 데이터가 더 책임 있는 기술의 기반이다. 데이터 권리를 성능의 방해물로 보는 순간 모델은 사람의 삶을 자원으로만 읽기 시작한다.
AI와 인권 특별호
Related