
영국 의회가 던진 질문은 기술보다 권리다
채용 사이트가 지원서를 걸러내고, 병원이 환자 위험도를 예측하며, 지방정부가 복지 대상자를 선별하는 장면은 더 이상 먼 미래의 기술 전시가 아니다. 인공지능(AI)은 이미 개인의 기회와 평판, 행정 서비스 접근성에 영향을 미치는 생활 인프라에 가까워졌다.
영국 의회 합동 인권 위원회가 2026년 11월 20일 AI와 인권 규제 보고서에 대한 정부 응답을 공개한 것은 바로 이 현실을 인권의 언어로 다루기 시작했다는 신호다. 핵심 메시지는 세 가지다. 첫째, 위험 수준에 따라 AI 규제 강도를 차등 적용해야 한다.
둘째, 중대한 영향을 미치는 AI 시스템은 사용 사실을 명확히 고지해야 한다. 셋째, 단일 독립 규제 기관을 설립해 시민이 문제를 제기할 창구를 단일화해야 한다.
이번 논의의 핵심은 새 기술을 막자는 데 있지 않다. 사람의 권리에 직접 닿는 AI에는 일반 소프트웨어보다 높은 설명 의무와 책임 구조를 적용해야 한다는 문제 제기다.
광고
영국 의회 합동 인권 위원회가 제시한 방향은 명확하다. 기존 법률과 규제 체계만으로는 AI가 만드는 인권 위험을 충분히 예방하거나 사후에 바로잡기 어렵다고 봤다. 위원회는 AI 공급망이 여러 개발사, 데이터 제공자, 배포 기업, 이용 기관으로 나뉘고 새 시스템의 개발 속도도 빠르기 때문에, 피해가 발생한 뒤 어느 주체에게 책임을 물을지 흐려질 수 있다고 지적했다.
그래서 위험 기반 접근법을 적용한 새로운 AI 법안을 마련해야 한다고 요구했다. 이는 모든 AI를 같은 강도로 묶는 방식이 아니라, 사람에게 미치는 영향의 크기에 따라 규제 강도를 달리하자는 설계다.
위험 기반 규제는 일반 독자의 일상과 멀지 않다. 음악 추천이나 문장 자동완성처럼 생활 편의에 가까운 AI와, 대출 승인·채용 평가·의료 판단 보조·치안 감시처럼 개인의 권리와 생계에 영향을 주는 AI를 같은 규칙으로 다루면 규제는 과하거나 느슨해진다.
위원회가 AI 라이프사이클 전반에서 위험 수준을 분류하고 고위험 시스템과 모델에 더 엄격한 의무를 부과해야 한다고 본 배경이다. 이 접근은 기업에 예측 가능한 기준을 주면서 시민에게는 최소한의 방어선을 제공한다. 이번 발표에서 가장 중요한 구조적 특징은 '한 가지 규칙'이 아니라 '위험 수준별 차등 의무'라는 점이다.
특히 위원회가 강조한 투명성 의무는 사용자가 체감할 가능성이 크다. 개인, 집단, 지역사회에 중대한 영향을 미칠 수 있는 AI 시스템이라면 AI를 쓰는지, 어떤 방식으로 쓰는지 명확히 알려야 한다는 내용이다. 예컨대 지원자가 채용 과정에서 알고리즘 평가를 받는다면, 단순히 "내부 기준에 따라 심사했다"는 설명으로는 부족하다는 뜻이다.
복지 행정이나 금융 심사에서도 마찬가지다. 시민이 AI의 개입 사실을 모르면 결과에 이의를 제기할 출발점부터 잃는다.
광고
이 대목은 한국 독자에게도 직접적인 의미를 갖는다. 국내에서도 공공기관과 민간 기업이 챗봇, 자동 심사, 이상 거래 탐지, 고객 응대 자동화 등을 빠르게 도입해 왔다. 본지 추가 취재 결과, 이용자가 실제로 마주하는 문제는 기술 성능 자체보다 "누가 결정했는지 알 수 없는 상태"에서 자주 발생하는 것으로 나타났다.
사람이 내린 결정인지, AI가 산출한 점수를 사람이 승인한 것인지, 자동화 시스템이 사실상 결론을 냈는지 구분하지 못하면 피해 구제 절차는 길어진다. 영국 의회가 고지 의무를 앞세운 것은 바로 이 불투명성을 권리 침해의 출발점으로 봤기 때문이다.
고위험 AI에는 더 강한 설명과 책임을 요구했다
위원회는 단일 독립 규제 기관 설립도 요구했다. 이 기관은 AI 위험과 피해를 모니터링하고, AI 사용에 대한 우려를 제기할 수 있는 중앙 연락 지점을 맡는 구상이다.
새 기관에는 AI 제공업체에 대한 규범 설정, 투명성 요구, 위법 행위 제재 권한을 부여해야 한다는 주장도 담겼다. 여러 감독 기관이 각자 영역을 맡는 방식은 금융, 의료, 노동, 교육처럼 분야별 전문성을 살릴 수 있지만, AI처럼 영역을 넘나드는 기술에서는 책임 공백을 만들 수 있다.
독립 규제 기관 논의는 결국 시민이 어디에 문제를 제기해야 하는지 알 수 있게 만드는 행정 설계의 문제다. 반론도 있다. AI 산업계는 법이 너무 빨리 강해지면 서비스 출시가 늦어지고, 작은 기업은 규제 대응 비용을 감당하기 어렵다고 주장할 수 있다.
이 우려는 가볍지 않다. 고위험 AI의 기준이 불명확하면 기업은 안전한 선택을 하느라 실험을 줄이고, 공공기관도 기술 도입을 미룰 수 있다.
그러나 위원회가 제안한 위험 기반 접근법은 바로 그 문제를 피하려는 장치다. 저위험 서비스에는 낮은 부담을 두고, 권리 침해 가능성이 큰 시스템에 집중해 의무를 부과하면 규제의 무게를 필요한 곳에 싣게 된다.
광고
더 큰 쟁점은 속도다. 위원회 의장인 알렉스 소벨 의원은 정부가 AI 규제에서 긴급성을 충분히 보이지 못한다고 우려를 표명했다.
이 발언은 기술 경쟁에서 뒤처지지 말자는 산업 논리와 충돌하는 것처럼 보일 수 있다. 하지만 인권 규제의 관점에서 보면 늦은 개입은 비용을 키운다. 한 번 확산한 자동화 의사결정 시스템은 데이터 흐름, 계약 관계, 내부 업무 절차에 깊이 들어가므로 사후 수정이 어렵다.
영국 의회의 문제 제기는 "나중에 고치면 된다"는 접근이 AI 시대에는 통하지 않을 수 있다는 경고다. 정책적으로 이번 논의는 유럽연합의 AI 법과도 맞닿아 있다.
본문에서 다루는 원본 자료는 영국 의회 합동 인권 위원회 발표에 한정되지만, 위험 수준별 규제와 고위험 시스템 관리라는 틀은 국제 AI 거버넌스에서 반복적으로 쓰이는 방식이다. 한국이 참고해야 할 지점은 규제 명칭보다 집행 구조다. AI 윤리 원칙을 선언하는 것만으로는 채용 탈락자, 대출 거절자, 복지 서비스 배제자가 겪는 손실을 줄이기 어렵다.
누가 설명하고, 누가 기록을 보관하며, 누가 조사하고 제재하는지까지 법과 제도 안에 들어가야 한다.
한국도 서비스 출시 속도보다 피해 구제 체계를 먼저 봐야 한다
일반 시민 입장에서 가장 중요한 변화는 '알 권리'의 재구성이다. 과거에는 개인정보를 수집하는지 여부가 핵심이었다면, AI 시대에는 그 정보가 어떤 모델에 들어가 어떤 판단을 만들었는지도 권리의 일부가 된다. 영국 위원회가 개인과 집단, 지역사회에 중대한 영향을 줄 수 있는 AI 사용에 대해 고지 의무를 제안한 것은 이 변화를 반영한다.
이는 기술 설명서를 모든 시민에게 읽히자는 뜻이 아니다. 최소한 내가 자동화된 판단의 대상이 됐는지, 그 판단에 이의를 제기할 창구가 있는지 알려야 한다는 요구다.
광고
기업에도 메시지는 분명하다. AI 서비스를 시장에 내놓을 때 성능 지표와 비용 절감 효과만 앞세우는 방식은 오래 버티기 어렵다.
고위험 영역에 들어가는 AI라면 데이터 출처, 오류 대응, 사용자 고지, 내부 감사 기록, 외부 감독 협조를 제품 설계 단계부터 포함해야 한다. 이는 비용이 아니라 시장 진입 조건에 가까워질 가능성이 크다.
특히 금융, 보험, 의료, 교육, 고용 플랫폼처럼 사람의 삶을 직접 바꾸는 분야에서는 "AI가 했으니 책임을 나눌 수 없다"는 말이 통하지 않는 쪽으로 정책이 움직일 전망이다. 한국의 정책 논의도 같은 질문을 피하기 어렵다. AI 기본법이나 개별 산업 규제가 어떤 형태를 택하든, 시민이 체감하는 기준은 하나다.
부당한 결과를 받았을 때 이유를 들을 수 있는지, AI 개입 사실을 알 수 있는지, 독립적인 기관에 문제를 제기할 수 있는지다. 영국 의회 합동 인권 위원회의 2026년 11월 20일 발표는 기술 낙관론과 규제 공포론 사이에서 더 실용적인 길을 제시했다.
고위험 AI에 강한 책임을 묻고 저위험 AI에는 과도한 부담을 줄이는 체계가 시민 권리와 산업 예측 가능성을 동시에 지키는 현실적 해법에 가깝다. ※ 이 기사는 UK Parliament Committees가 2026년 11월 20일 공개한 영국 의회 합동 인권 위원회의 AI와 인권 규제 보고서 관련 정부 응답 발표 자료를 참조하여 작성하였습니다.
FAQ
Q. 영국의 이번 논의가 한국 이용자에게 바로 영향을 주나
A. 영국 의회 합동 인권 위원회의 발표가 한국에서 곧바로 법적 효력을 갖는 것은 아니다. 다만 글로벌 기업이 여러 국가에서 같은 AI 서비스를 운영하기 때문에 영국과 유럽권의 규제 기준은 제품 설계와 고지 방식에 영향을 줄 수 있다. 한국 기업도 해외 시장에 진출하려면 위험 분류, 설명 의무, 피해 접수 절차를 미리 갖춰야 할 가능성이 커진다. 일반 이용자는 AI가 채용, 금융, 의료, 교육 서비스에서 어떤 역할을 하는지 약관과 고지 문구를 확인하는 습관을 가질 필요가 있다. 국내 AI 기본법 논의가 진행 중인 상황에서 이번 영국 사례는 집행 구조 설계에 중요한 참고점이 된다.
Q. 위험 기반 접근법은 모든 AI 서비스를 강하게 규제한다는 뜻인가
A. 위험 기반 접근법은 AI의 용도와 피해 가능성에 따라 의무를 다르게 매기는 방식이다. 생활 편의나 콘텐츠 추천처럼 상대적으로 위험이 낮은 서비스와, 개인의 권리·생계·안전에 큰 영향을 주는 서비스를 같은 강도로 다루지 않는다는 점이 핵심이다. 영국 의회 합동 인권 위원회는 AI 라이프사이클 전반에서 위험 수준을 분류하고 고위험 시스템과 모델에 더 엄격한 의무를 부과해야 한다고 제안했다. 이 방식은 규제를 무조건 늘리는 것보다 위험이 큰 영역에 감독 역량을 집중하는 설계에 가깝다. 결과적으로 저위험 서비스 사업자의 불필요한 비용 부담을 줄이면서 시민 보호를 강화하는 균형점을 추구한다.
Q. AI가 내 결정에 쓰였는지 알 수 없을 때 무엇을 확인해야 하나
A. 우선 해당 서비스의 개인정보 처리 방침, 자동화 의사결정 관련 고지, 이의 제기 절차를 확인해야 한다. 영국 의회 합동 인권 위원회가 제안한 방향처럼 중대한 영향을 미치는 AI 사용에는 AI 사용 여부와 방식을 명확히 알리는 의무가 필요하다. 한국에서 모든 영역에 같은 수준의 고지 의무가 적용되는지는 서비스와 법령에 따라 다르므로, 불이익을 받았다면 고객센터나 담당 기관에 판단 기준과 재검토 절차를 요구하는 것이 출발점이다. 금융, 보험, 채용 플랫폼의 경우 신용정보법이나 개인정보 보호법에 따른 자동화 결정 관련 설명 요구권이 일부 적용될 수 있으므로 관련 조항을 사전에 파악해 두는 것이 유리하다. 각국 규제가 강화될수록 이용자가 확인할 수 있는 설명과 기록의 범위도 넓어질 전망이다.
광고
광고
광고
▶ 법률 고민이 있다면 → 변호사 오경석 법률사무소 바로가기
