마음과 삶5분 읽기
AI는 모두를 보지만 모두를 똑같이 보지 않는다
얼굴인식 AI의 성능은 알고리즘과 촬영 환경, 연령·성별·인종에 따라 달라진다. 평균 정확도가 높아져도 오탐 피해와 상시 감시의 정당성이 저절로 해결되지는 않는다. NIST와 유엔 자료를 통해 생체감시의 비대칭과 시민의 통지·재검토·구제 권리를 묻는다.
레이 | 디지털 저널리스트 | awesome.ai.life@gmail.com | 2026년 7월 25일
AI와 인권 특별호 4/7 — 데이터에서 노동, 감시, 민주주의, 규제와 분배까지 AI 권력이 지나가는 길을 추적한다.
공공장소의 얼굴인식 카메라는 한 사람만 보지 않는다. 지나가는 얼굴을 모으고 데이터베이스와 비교해 일치 가능성을 점수로 표시한다. 감시가 빨라지면 기관이 확인할 수 있는 사람도 늘어난다. 오류 역시 더 넓게 퍼질 수 있다.
[사실] 미국 NIST는 얼굴인식 알고리즘의 오탐률과 미탐률이 연령·성별·인종에 따라 달라지는 현상을 확인해 왔다. 격차의 크기는 알고리즘과 촬영 조건, 사용 환경에 따라서도 달라진다. NIST 평가
“얼굴인식은 언제나 차별적이다”라고 말하면 중요한 사실을 놓친다. 알고리즘마다 성능과 집단 간 차이가 다르다. 그러나 평균 정확도가 높다는 사실만으로 공공 감시가 정당해지는 것도 아니다. 오탐으로 경찰의 의심을 받는 사람에게 평균 99%는 충분한 답이 아니다.
[사실] 유엔 대테러·인권 특별보고관은 2025년 입장문에서 비동의 이미지 스크래핑으로 만든 얼굴 데이터베이스와 무차별적인 실시간 공공 생체감시를 금지하거나 중단할 대상으로 제시했다. 또 “strictly necessary and proportionate”라는 기준을 요구했다. “엄격하게 필요하고 비례해야 한다”는 뜻이다. OHCHR 입장문
숨길 것이 없다면 감시받아도 괜찮지 않을까?
[사실] 2026년 유엔 특별보고관 연구는 84개국 활동가·언론인·인권옹호자 152명의 경험을 조사했다. 연구는 디지털 감시가 집회와 결사의 자유를 위축시키는 효과를 분석했다. OHCHR 연구
감시는 붙잡힌 사람만 바꾸지 않는다. 자신이 기록되고 분류된다고 느낀 시민은 합법적인 발언과 참여도 줄일 수 있다. 핵심은 카메라 한 대가 아니라 비대칭이다. 기관이 시민을 보는 능력은 커지는데 시민이 기관의 판단을 들여다보는 능력은 그대로다.
감시 권력을 통제하려면 사용 목적과 기간, 대상을 먼저 알려야 한다. 일치 점수와 한계를 설명하고, 불이익을 주기 전에 사람이 재검토해야 한다. 오탐 피해자는 기록 정정과 구제를 요구할 수 있어야 한다. 독립기관과 시민사회가 시스템을 감사할 권한도 필요하다.
이 글에서는 이 비대칭이 선거와 공론장으로 옮겨갈 때 공동의 현실이 어떻게 흔들리는지 본다.
정확한 감시는 정당한 감시인가
얼굴을 정확히 알아본다는 사실은 그 얼굴을 알아봐도 된다는 허가가 아니다. 기술적 성능과 사회적 정당성은 서로 다른 질문이다. 실종자를 찾는 제한된 검색과 집회 참가자를 상시 추적하는 시스템은 같은 기술을 쓰더라도 목적과 위험이 다르다. 필요성과 비례성은 바로 이 차이를 판단하는 기준이다.
감시의 힘은 데이터가 연결될 때 커진다. 얼굴 정보가 위치 기록, 교통카드, 구매 내역, 소셜미디어 계정과 결합되면 한 사람의 이동과 관계를 촘촘하게 재구성할 수 있다. 각각의 정보가 합법적으로 수집됐다고 해도 결합된 생활 지도까지 자동으로 정당해지는 것은 아니다.
편향은 모델 안에서만 생기지 않는다
집단별 오탐률을 줄이는 것은 중요하다. 하지만 차별은 학습 데이터나 알고리즘의 수치만으로 설명되지 않는다. 카메라가 어느 지역에 더 많이 설치되는지, 누가 감시 대상 목록에 오르는지, 낮은 일치 점수를 현장 담당자가 어떻게 해석하는지도 결과에 영향을 준다. 같은 모델도 특정 공동체에 집중 배치되면 그 공동체가 더 자주 의심의 대상이 된다.
그래서 공정성 평가는 실험실의 정확도 표에서 끝나면 안 된다. 실제 환경에서 어떤 집단이 더 많이 촬영되고 누가 더 자주 추가 확인을 받으며 오탐 뒤 기록이 어떻게 남는지를 추적해야 한다. 오류가 정정된 뒤에도 의심 기록이 다른 데이터베이스에 남는다면 피해는 계속될 수 있다.
범죄 예방에 도움이 된다면 어느 정도의 감시는 감수해야 하지 않을까?
공공 안전은 중요한 목적이다. 그러나 모든 시민을 지속적으로 식별하는 방식이 실제로 필요한지, 시간과 장소를 좁힌 덜 침해적인 대안은 없는지, 효과를 입증할 독립 자료가 있는지 따져야 한다. 안전과 자유를 단순한 교환 관계로 놓으면 감시 범위는 늘어나기 쉽지만 한 번 넓어진 권한을 되돌리기는 어렵다.
감시 장소에는 목적과 운영 주체를 알리고 생체정보 보관 기간과 공유 범위를 제한해야 한다. 일치 결과만으로 불이익을 주지 못하게 하고 담당자가 원자료와 다른 증거를 함께 검토해야 한다. 당사자는 자신에게 어떤 정보가 사용됐는지 확인하고 오류를 고치며 독립기관에 이의를 제기할 수 있어야 한다.
감사도 숫자 하나를 확인하는 절차가 되어서는 안 된다. 정확도, 집단별 오류, 설치 위치, 검색 횟수, 실제 성과, 이의제기와 구제 결과를 함께 공개해야 한다. 긴급 상황에 허용된 시스템이 일상 행정으로 확장되지 않는지도 정기적으로 검토해야 한다. 감시 권한의 확대 여부도 시민이 확인할 수 있어야 한다.
감시 시스템을 도입하기 전에는 목적과 종료 조건을 문서로 남겨야 한다. 시범 사업이라는 이름으로 수집을 시작한 뒤 효과 검증 없이 범위만 넓어지는 일을 막기 위해서다. 독립기관은 범죄 예방 성과뿐 아니라 오탐으로 받은 조사, 행동을 위축시킨 효과, 삭제되지 않은 기록까지 비용으로 계산해야 한다. 효과가 입증되지 않거나 덜 침해적인 수단이 가능하다면 사용을 멈추는 결정도 할 수 있어야 한다.
얼굴은 비밀번호처럼 바꾸기 어렵다. 유출되거나 오용된 생체정보는 피해를 되돌리기 특히 어렵다. 따라서 기본 질문은 “할 수 있는가”보다 “누가, 어떤 상황에서, 얼마나 제한적으로 할 수 있는가”여야 한다. 시민을 투명하게 만드는 기술에는 기관의 운영을 투명하게 만드는 더 강한 의무가 따라야 한다.
AI와 인권 특별호
Related