마음과 삶5분 읽기
법은 생겼다. AI 권력은 통제되고 있는가
EU AI Act의 일반 적용일이 다가왔고 한국 AI 기본법도 시행됐다. 이제 질문은 규제의 유무가 아니라 무엇을 금지하고 누구에게 설명과 감독 의무를 지우는가이다. EU의 위험 기반 규제와 한국의 고영향 AI 제도를 비교하고, 기본권 보호와 혁신 지원을 함께 설계할 길을 찾는다.
레이 | 디지털 저널리스트 | awesome.ai.life@gmail.com | 2026년 7월 25일
AI와 인권 특별호 6/7 — 데이터에서 노동, 감시, 민주주의, 규제와 분배까지 AI 권력이 지나가는 길을 추적한다.
2026년 7월 25일, EU는 AI Act의 일반 적용일을 여드레 앞두고 있다. 한국은 AI 기본법을 시행한 지 여섯 달이 지났다. 이제 “AI를 규제할 법이 없다”는 말은 정확하지 않다. 질문은 법이 무엇을 금지하고 누구에게 어떤 책임을 지우는가다.
[사실] EU AI Act는 2024년 8월 발효됐다. 금지된 AI 관행과 AI 리터러시 의무는 2025년 2월부터 적용됐고, 일반 적용일은 2026년 8월 2일이다. EU 의회와 이사회는 일반 고위험 영역의 적용일을 2027년 12월 2일, 제품 내장형 고위험 시스템의 적용일을 2028년 8월 2일로 늦추는 데 잠정 합의했다. 2026년 7월 25일 현재 집행위 안내도 이 날짜를 제시하지만, 이는 진행 중인 입법 절차의 상태와 함께 읽어야 한다. EU 이사회 잠정 합의 EU 집행위원회
[사실] 한국의 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 2025년 1월 21일 공포됐고, 법과 시행령은 2026년 1월 22일부터 시행됐다. 2026년 1월 개정된 일부 조항은 같은 해 7월 21일부터 시행됐다. 국가법령정보센터 시행령
[사실] 한국 법 제34조는 고영향 AI 사업자에게 위험관리, 주요 판단 기준과 학습데이터 개요의 설명 방안, 이용자 보호, 사람의 관리·감독과 문서 보관을 요구한다. 제34조 기업이 “AI가 결정했다”며 책임까지 자동화할 수 없다는 뜻이다.
두 법이 있으니 이제 충분한 것 아닐까?
아직 아니다. EU는 사회적 점수화와 일부 생체감시를 금지하고 위험 등급에 따라 의무를 달리한다. 한국은 별도의 금지 목록보다 진흥과 투명성, 고영향 AI 관리에 더 무게를 둔다. [사실] 한국 법 제35조는 민간 사업자의 기본권 영향평가를 의무로 못 박지 않고 “실시하기 위하여 노력하여야 한다”고 규정한다. 제35조
[추정] 규칙이 복잡하고 적용 기준이 늦게 나오면 법무와 기술 인력이 부족한 중소기업이 상대적으로 더 큰 부담을 느낄 수 있다. [사실] EU도 이 가능성을 고려해 중소기업용 간소화 절차와 규제 샌드박스, 실제 환경 시험을 마련하고 있다. EU AI Act 안내
강한 규제와 좋은 규제는 같은 말이 아니다. 기본권 위험이 큰 사용에는 분명한 금지선과 의무가 필요하다. 작은 사업자에게는 표준과 감사 도구, 공공 지원을 제공해야 한다. 규제가 권리를 보호하면서 시장의 기존 강자만 더 키우지 않게 설계해야 한다.
좋은 법은 AI 사용 사실을 알리고 판단 기준을 설명하게 한다. 사람이 재검토하고 피해자가 구제받을 길을 만든다. 독립기관의 감사와 영향을 받는 시민의 참여도 보장한다. 마지막 편에서는 법만으로 끝나지 않는 질문, AI가 만든 생산성과 부를 누가 가져가는지 묻는다.
두 법은 무엇을 먼저 보는가
유럽연합의 접근은 AI 시스템을 위험 수준에 따라 나누고 감당하기 어려운 위험은 금지하며 고위험 영역에는 더 무거운 의무를 부과하는 데 무게가 있다. 한국의 접근은 산업 진흥의 기반을 만들면서 고영향 AI와 생성형 AI에 일정한 투명성과 안전 의무를 두는 방식에 가깝다. 두 체계는 모두 혁신과 보호를 말하지만 위험을 분류하고 집행하는 구조에는 차이가 있다.
법의 이름보다 중요한 것은 당사자가 실제로 경험하는 변화다. 채용에서 AI가 쓰였다는 사실을 알 수 있는가. 복지나 신용 판단에 잘못된 정보가 들어갔을 때 정정할 수 있는가. 얼굴인식의 사용 목적과 보관 기간을 확인할 수 있는가. 이런 질문에 답하지 못하면 원칙과 분류표가 정교해도 권리는 서류에 머문다.
영향평가는 누구를 위한 문서인가
고위험 시스템의 영향평가는 기업이 규정을 지켰다는 증명서로 끝나기 쉽다. 그러나 평가의 진짜 목적은 피해를 미리 발견하고 설계를 바꾸는 데 있다. 영향을 받을 노동자와 소비자, 장애인과 소수집단이 위험을 설명할 기회가 있어야 한다. 개발팀이 예상하지 못한 피해 경로는 당사자의 경험에서 드러나는 경우가 많다.
영업비밀과 보안을 지키면서도 시스템의 목적, 사용 데이터의 범주, 주요 위험, 완화 조치, 담당 기관과 이의제기 방법은 시민이 이해할 수 있어야 한다. “법을 준수했다”는 결론만 공개해서는 외부의 검증과 사회적 학습이 어렵다.
규제가 혁신을 막는다는 반론은 가볍게 넘길 수 없다. 복잡한 의무는 작은 기업과 공공기관에 큰 비용이 될 수 있다. 그래서 좋은 규제는 의무만 부과하지 않는다. 표준화된 평가 도구, 공용 시험 환경, 기술 지원, 명확한 지침을 제공해 책임 있는 개발 비용을 낮춘다. 보호와 혁신을 연결하는 기반 시설이 필요하다.
그러나 비용이 든다는 사실이 권리 보호를 선택 사항으로 만들지는 않는다. 사람의 안전과 기회에 큰 영향을 주는 기술에는 검증 비용이 따른다. 핵심은 모든 AI에 같은 부담을 씌우는 것이 아니라 영향의 크기와 사용 맥락에 비례해 의무를 설계하는 일이다.
집행 없는 권리는 약속에 머문다
규제의 성패는 법 시행일보다 그 이후에 결정된다. 감독기관이 전문 인력과 조사 권한을 갖추었는지, 기업 보고를 독립적으로 검증할 수 있는지, 위반했을 때 시정과 제재가 실제로 이루어지는지 봐야 한다. 피해자가 어디에 신고해야 하는지 헤매지 않도록 단일한 안내와 연계 절차도 필요하다.
개인의 구제 가능성은 가장 현실적인 시험대다. 자신의 불이익에 AI가 관여했음을 알 수 없으면 이의를 제기할 수 없다. 무료 또는 감당 가능한 비용으로 재검토를 요청하고 잘못된 결정을 멈추거나 되돌리며 필요한 경우 배상을 받을 수 있어야 한다.
법은 최소선이다. 기술과 사용 방식은 계속 바뀌므로 노동조합, 시민사회, 학계, 산업계가 위험 사례와 개선 결과를 공개적으로 축적해야 한다. 가장 위험한 상황은 규제가 없는 상태만이 아니라 규제가 있다는 이유로 감시를 멈추는 상태다.
좋은 AI 규제의 지표는 문서의 수가 아니다. 차별적 판단이 줄었는지, 감시가 필요한 범위로 제한됐는지, 노동자가 더 안전해졌는지, 피해자가 더 빨리 구제받았는지로 평가해야 한다. 법은 AI를 신뢰하라고 명령하는 장치가 아니라 신뢰할 수 있는 조건을 공개적으로 만드는 장치다.
AI와 인권 특별호
Related