안면인식 등 엄격 통제키로...AI 위험성 분류·투명성 강화
안면인식 제한하되 국가안보 등 예외…위반시 최고 500억원 벌금
유럽연합(EU)이 장시간 치열한 논의 끝에 8일(현지시간) 밤 인공지능(AI) 기술 규제 법안에 합의했다. AI에 관한 세계 첫 규제 법안이다.
블룸버그 통신, 워싱턴포스트(WP), 뉴욕타임스(NYT) 등 외신에 따르면 유럽연합 집행위원회(EC)와 유럽의회, EU 27개 회원국 대표는 37시간이 넘는 마라톤 회의 끝에 'AI 법'(AI Act)으로 알려진 법안에 합의했다.
타결안을 보면 AI의 위험성을 분류하고 투명성을 강화하며, 규정을 준수하지 않는 기업에는 벌금을 부과하는 내용이 담겼다.
정치·종교적 신념, 성적 지향, 인종과 같은 민감한 특성을 기준으로 사람들을 분류하는 안면 인식 데이터베이스 구축을 위해 인터넷 혹은 보안 영상에서 생체 정보를 스크랩하는 것을 금지했다.
다만 사법당국의 인신 매매 피해자 수색, 테러 위협 예방, 살인·강간 등 범죄 용의자 추적 등을 위한 '실시간' 안면 인식은 허용하는 등 일부 예외 조항을 뒀다.
오픈AI의 챗GPT, 구글 바드와 같은 대규모 언어 모델은 규제하되 국가 안보와 법 집행을 위해 활용하는 AI에는 광범위한 예외 조항을 두기로 했다.
이에 따라 EU에서 사업하려는 기업들, 특히 자율주행차나 의료 장비와 같은 '고위험' 기술을 선보이는 기업은 데이터를 공개하고 엄격한 테스트를 수행해야 한다.
규정을 위반하는 기업은 최대 3,500만유로(약 497억원) 또는 전 세계 매출의 7%에 해당하는 벌금을 부과받는다.
EU의 AI 규제 논의는 행정부 격인 집행위원회가 2021년 4월 법안 초안을 발의하면서 본격적으로 시작됐고, 새로운 기술 혁신이 등장하면서 법안을 다시 작성하게 됐다. 초기 버전에서는 챗GPT를 지원하는 범용 AI에 대한 언급이 없었다.
이번 협상에서는 특히 프랑스와 독일, 이탈리아 등 일부 국가들이 자국 기업에 불리할 수 있다는 이유로 일부 규정 완화를 주장하면서 난항이 빚어졌다.
최종 합의문은 아직 공개되지 않았으며, 기술적인 세부 사항에 관한 논의는 막후에서 계속될 것으로 보인다고 NYT는 전했다.
법안 초안은 유럽 의회와 회원국들의 공식 승인을 거쳐야 한다. 승인 후 완전히 발효되기까지는 2년이 소요되며, 이후 EU는 AI 규제를 위한 국가 및 범유럽 규제 기관을 창설할 예정이다.
티에리 브르통 EU 내수시장 담당 집행위원은 이번 합의가 혁신을 촉진하고, 개인과 기업의 권리 보호 간에 균형을 이룬다고 평가했다.
그는 성명에서 "우리는 시민의 기본권을 보호하면서 법 집행 지원을 위해 AI의 잠재력을 최대한 활용하는 것 사이의 적절한 균형을 찾는 데 많은 시간을 보냈다"며 "우리는 유럽에서 대규모 감시를 원하지 않는다"고 말했다.
WP는 이 같은 움직임이 AI 기술 규제에 관한 유럽의 리더십을 강화할 것이라고 전망했다.
AI 규제 초기 단계 수준인 미국과 달리 유럽은 몇 년간 디지털 개인 정보 보호, 소셜 미디어 피해, 온라인 시장 집중에 관한 우려를 해소하기 위해 법률을 제정하는 등 규제를 주도해왔다.
미 의회는 몇 달간 기술에 초점을 맞춘 청문회와 포럼을 열고 AI를 다루는 초당적 법안을 작성하는 수준이다. 최근 상원의원들은 기업에 AI 구축을 장려하는 데 초점을 맞춘 법안을 추진하고 있음을 시사하는 한편, EU의 법률이 너무 가혹하다는 우려를 표명하기도 했다.
NYT는 EU의 법이 규제의 돌파구를 마련하긴 했지만, 그 효과에는 의문이 남아있다고 지적했다.
AI 개발 측면에서 상당히 긴 시간이라 할 수 있는 12∼24개월간은 법이 시행되지 않는 데다, 협상 마지막 순간까지 각 회원국과 EU 정책 입안자들이 언어와 내용을 두고 다퉜다는 점에서다.
쉽지 않았던 EU의 논의 과정은 AI 규제가 얼마나 논쟁적인 주제인지를 그대로 보여준 것으로 풀이된다.
특히 챗GPT와 같은 생성형 AI의 인기가 갈수록 폭발적으로 증가하는 가운데 각국 지도자들은 혁신 육성과 잠재적인 피해 예방 사이의 균형점을 찾기 위해 고심하는 모습이다.
헬로티 김진희 기자 |
