유럽연합(EU)이 세계 최초로 마련한 포괄적 성격의 인공지능(AI) 규제법의 시행이 확정됐다.
EU 27개국으로 구성된 교통·통신·에너지이사회는 21일(현지시간) 벨기에 브뤼셀에서 열린 회의에서 'AI법'을 최종 승인했다고 밝혔다.
모든 입법 절차가 마무리됨에 따라 법안은 관보 게재를 거쳐 다음달 발효된다.
발효 6개월 뒤부터 금지 대상 AI 규정이 우선 시행되며, 12개월 이후부터는 범용 AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)에 대한 규제가 시행된다. 전면 시행은 2026년 중반 이후부터다.
이 법은 고위험 등급을 포함해 AI 활용 위험도를 크게 네 단계로 나눠 차등 규제하는 게 특징이다. 사회에 부정적 영향을 줄 위험이 높을수록 더 엄격한 규제를 적용하기 위해서다.
가장 높은 고위험 등급은 의료, 교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행 등에 사용되는 AI 기술이다. 이 분야에서는 사람이 AI 사용을 반드시 감독하도록 하고 위험관리시스템을 구축해야 한다.
일부 AI 기술 활용은 EU 역내에서 원천 금지된다.
AI를 활용한 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 사회적 점수 평가(social scoring·소셜 스코어링), 인터넷이나 CCTV에서 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등이 그 대상이다.
인간의 행동을 조작하거나 취약성을 활용하는 관행도 금지된다.
법 집행기관이 실시간 원격 생체인식 시스템을 사용하는 것 역시 원칙적으로는 규제 대상이다. 강간·테러와 같은 중대 범죄 예방이나 용의자 수색에는 예외로 이 시스템을 활용할 수 있으나 이 경우에도 사법당국의 사전 또는 사후 승인을 받아야 한다.
범용 AI를 개발하는 기업에 대해서는 기본적인 '투명성 의무'가 적용된다. 가령 EU 저작권법을 반드시 준수하고 AI 학습과정에 사용된 콘텐츠를 명시하는 의무 등이 여기에 해당한다.
범용 AI 중에서도 시스템적으로 위험이 있는 '강력한' 시스템으로 분류되면 시스템적 위험 평가·완화, 사고 보고 등 의무가 추가로 부여된다.
EU는 집행위 연결총국 산하에 'AI 오피스'를 신설해 AI법 집행을 총괄하도록 할 계획인데 위반 사항 적발 시 최대 전세계 매출액의 7%가 과징금으로 부과될 수 있다.
AI법은 2021년 초안이 발의된 이후 이듬해 챗GPT 등 생성형 AI 등장으로 부작용 발생에 대한 우려가 확산하면서 입법에 속도가 붙었다.
전 세계적으로 포괄적 성격의 AI 규제법이 마련된 건 이번이 처음이라는 점에서 향후 다른 나라의 AI 규제 모델 구축에도 영향을 줄 것이란 관측이 나온다.
이성엽 고려대 기술법정책센터장은 "이번 법안은 강력한 규제를 포함하고 있어 AI 산업의 초기 단계인 우라나라에 바로 적용하기에는 산업 성장 측면에서 어려운 면이 있다"며 "우선 AI 기본법을 만들고 산업 분야별로 필요한 것들을 좀 더 디테일하게 규제하는 식으로 나가야 할 것"이라고 전망했다.