EU 포괄적 성격의 인공지능(AI) 규제법 시행

05/22/24

EU가 세계 최초로 마련한 포괄적 성격의 인공지능 규제법의 시행이 확정됐다.

모든 입법 절차가 마무리됨에 따라 관보 게재를 거쳐 내달 발효된다.

발효 6개월 뒤부터 금지 대상 AI 규정이 우선 시행되며 12개월 이후부터는 범용 AI에 대한 규제가 시행된다. 전면 시행은 2026년 중반 이후부터다.

이 법은 고위험 등급을 포함해 AI 활용 위험도를 크게 네 단계로 나눠 차등 규제하는 게 특징이다. 사회에 부정적 영향을 줄 위험이 높을수록 더 엄격한 규제를 적용하기 위해서다.

가장 높은 고위험 등급은 의료, 교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행 등에 사용되는 AI 기술이다. 이 분야에선 사람이 AI 사용을 반드시 감독하도록 하고 위험관리시스템을 구축해야 한다.

일부 AI 기술 활용은 EU 역내에서 원천 금지된다.

AI를 활용한 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 사회적 점수 평가, 인터넷이나 CCTV에서 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등이 그 대상이다.

인간의 행동을 조작하거나 취약성을 활용하는 관행도 금지된다.

법 집행기관이 실시간 원격 생체인식 시스템을 사용하는 것 역시 원칙적으로는 규제 대상이다. 강간·테러와 같은 중대 범죄 예방이나 용의자 수색엔 예외로 이 시스템을 활용할 수 있으나 이 경우에도 사법당국의 사전 또는 사후 승인을 받아야 한다.

범용 AI를 개발하는 기업에 대해서는 기본적인 '투명성 의무'가 적용된다. 가령 EU 저작권법을 반드시 준수하도록 하고 AI 학습과정에 사용된 콘텐츠를 명시하는 의무 등이다.

범용 AI 중에서도 시스템적으로 위험이 있는 '강력한' 시스템으로 분류되면 시스템적 위험 평가·완화, 사고 보고 등 의무가 추가로 부여된다.EU는 집행위 연결총국 산하에 'AI 오피스'를 신설해 AI법 집행을 총괄하도록 할 계획으로, 위반 사항 적발 시 최대 전세계 매출액의 7%가 과징금으로 부과될 수 있다.

AI법은 2021년 초안이 발의된 이후 이듬해 챗GPT 등 생성형 AI 등장으로 부작용 발생에 대한 우려가 확산하면서 입법에 속도가 붙었다.

전 세계적으로 포괄적 성격의 AI 규제법이 마련된 건 이번이 처음이라는 점에서 향후 다른 나라의 AI 규제 모델 구축에도 영향을 줄 것이란 관측이 나온다.

• Share this Post: