유럽연합(EU)이 세계 최초로 포괄적인 인공지능(AI) 규제법을 최종 승인했다. EU의 27개국으로 구성된 교통·통신·에너지이사회는 21일 벨기에 브뤼셀에서 열린 회의에서 'AI법'을 공식적으로 승인했으며, 모든 입법 절차가 완료됨에 따라 이 법은 관보 게재 후 내달 발효된다.

이 법은 발효 6개월 후부터 금지 대상 AI 규정을 우선 시행하고, 12개월 후부터는 범용 AI(AGI, 사람과 유사하거나 그 이상의 지능을 가진 AI)에 대한 규제를 적용한다. 전면 시행은 2026년 중반 이후로 예정되어 있다.

AI법의 특징은 AI 활용 위험도를 네 단계로 나눠 차등 규제하는 것이다. 사회에 미칠 부정적 영향이 클수록 더 엄격한 규제를 적용한다. 가장 높은 고위험 등급은 의료, 교육, 공공 서비스, 선거, 핵심 인프라, 자율주행 등에 사용되는 AI 기술로, 이 분야에서는 사람이 AI 사용을 감독하고 위험 관리 시스템을 구축해야 한다.

일부 AI 기술은 EU 내에서 사용이 금지된다. 예를 들어, 사회적 점수 평가(특정 개인의 특성이나 행동 데이터를 기반으로 점수를 매기는 관행)와 인터넷이나 CCTV에서 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등이 포함된다. 또한, 인간의 행동을 조작하거나 취약성을 악용하는 관행도 금지된다.

법 집행기관이 실시간 원격 생체인식 시스템을 사용하는 것도 원칙적으로 금지되지만, 강간이나 테러 같은 중대한 범죄 예방이나 용의자 수색을 위해서는 사법 당국의 사전 또는 사후 승인을 받아 사용할 수 있다.

범용 AI를 개발하는 기업에는 투명성 의무가 부과된다. 예를 들어, EU 저작권법을 준수하고 AI 학습에 사용된 콘텐츠를 명시해야 한다. 또한, 시스템적으로 위험이 있는 강력한 AI 시스템으로 분류될 경우 시스템적 위험 평가와 완화, 사고 보고 등의 추가 의무가 부여된다.

EU는 이 AI법의 집행을 총괄하기 위해 집행위 연결총국 산하에 'AI 오피스'를 신설할 계획이며, 위반 사항 적발 시 최대 전 세계 매출액의 7%에 해당하는 과징금이 부과될 수 있다.

AI법은 2021년 초안이 발의된 이후, 생성형 AI인 챗GPT 등의 등장으로 인해 부작용 발생 우려가 커지면서 입법이 가속화되었다. 전 세계적으로 포괄적인 AI 규제법이 마련된 것은 이번이 처음이며, 다른 국가의 AI 규제 모델에도 영향을 미칠 것으로 예상된다.

김태문기자/2024.05.22

ktm0202@naver.com

사진출처:네이버 블로그