Artificial intelligence, the ability to create images, videos, and text on command, has brought many benefits, but it has also brought concerns. It is becoming a new conduit for the spread of fake news. The EU, which has always been one of the first to introduce regulatory frameworks whenever a new technology emerges, such as big tech, has now come out with a comprehensive AI regulation bill;

On December 8, 2023, members of the European Parliament passed a new law regulating AI. It is recognized as the first comprehensive regulation in the global market. It is the first socio-economic regulation of a rapidly evolving technology;

It took three days to finalize, including a marathon 22-hour initial round of negotiations that began Wednesday afternoon and continued through Thursday. The final agreement was released much later as technical negotiations continued. The draft deal will be completed by a vote of the European Parliament and the European Council, the 27-nation bloc that makes up the EU.

주어진 명령에 따라 이미지, 비디오, 텍스트를 만들어내는 인공지능 AI는 많은 이점을 가져다줬지만 우려도 함께 가져왔다. 가짜뉴스(Fake News) 확산의 새로운 통로가 되고 있는 것이다. 빅테크 등 새로운 기술이 등장할 때마다 늘 가장 빨리 규제 프레임을 들이댔던 EU가 이번에도 AI 종합 규제 법안을 들고 나왔다.

2023년 12월 8일 EU 의회 의원들은 AI를 규제하는 새로운 법을 통과시켰다. 글로벌 시장에서 첫 번째 포괄적인 규제안으로 인정 받고 있다. 빠르게 진화하는 기술에 대한 첫 번째 사회 경제적 규제안이다.

수요일 오후 시작돼 목요일까지 이어진 22시간 초기 협상을 마라톤 포함, 결론을 내는데 3일이 걸렸다. 기술적인 협상이 이어지면서 최종 합의안도 상당히 늦게 공개됐다. 이 협상 초안은 EU 소속 27개 국가가 속한 유럽의회(Parliament)와 유럽 이사회(European Council) 투표로 완료된다.

[AI법안, AI활용의 새로운 가이드라인]

‘AI 액트(AI ACT)'로 불리는 일자리 자동화, 가짜뉴스 유통(spreading misinformation online), 사회 안전망 교란 등을 막기 위한 기준을 제시한다. 이에  유럽 뿐만 아니라 AI활용을 두고 고민하고 있는 각 국가들에게 새로운 규제 기준이 될 수 있다.  법안 최종 통과를 위해선 몇 단계 절차를 거쳐야 하지만, 전체적인 아웃라인은 합의가 끝난 상태다.

의원들은 가장 높은 수준의 규제와 제한을 가하는 ‘위험 기반 접근(risk-based approach)’에 동의했다. 채용과 교육 등 개인과 사회에 가장 큰 잠재적 해악을 끼칠 수 있는 AI를 만드는 기업은 규제 기관에 위험 평가에 대한 증거, 시스템 훈련에 사용된 데이터의 내역, 소프트웨어가 인종 편견 고착화와 같은 해악을 끼치지 않았다는 보증을 제공해야 한다.

시스템을 만들고 배포하는 과정에서도 인간의 감독이 필수다.  얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 이미지를 무차별적으로 스크랩하는 행위와 같은 일부 관행은 전면적으로 금지된다.

유럽 의회(European Union)는 법안 개정 시 치열한 논쟁을 벌였다. AI규제 수준에 치열하게 논란이 벌어졌다. 일부는 지나치게 규제할 오픈AI나 구글 등 미국 기업에 유럽 스타트업이 밀리게 된다고 주장했다.  브레통은 인터뷰에서 “법은 대형AI모델 개발사들이 시스템 작동 방식에 대한 정보를 공개하고 '시스템적 위험'을 평가해야 한다는 요건을 추가했다”고 설명했다.

[AI법안, 위험한 사용에 초첨 맞춰]

유럽 의회는 법안에 AI 벌일 수 있는 최악의 상황을 대비한 안전망을 대거 포함시켰다. 법안에 따르면 챗GPT등 가장 넓은 범용 AI시스템 개발사들은 새로운 투명성 규제안을 도입해야 한다. 또 국가의 얼굴 인식 소프트웨어 사용은 안전 및 특정 안보 상황 외에는 사용이 제한된다.

이런 규제를 위반하는 회사들은 최대 글로벌 미출의 7%까지 벌금으로 낼 수 있다.  법안 도입 협상을 주도한 티에리 브르통(Thierry Breton) 유럽연합 집행위원(European commissioner)은 “유럽은 글로벌 규제의 표준을 제지하는 국가로서의 중요성을 이해하며 항상 선구자적 자세를 가지고 왔다”고 설명했다.

하지만 법안의 효용성은 여전히 의문이다. AI 개발 속도가 엄청나게 빠르지만, 이들 정책은 12~24개월이 되어야 실행될 것으로 보이기 때문이다. 특히, AI혁신 진흥과 피해 보호를 위한 규제 사이 균형을 어떻게 유지할 지가 관건이다. 규제를 하면서도 진흥을 해야 하는 상황인 셈이다. 마지막 협상이 길어진 이유도 이 때문이다.

현재 수십조 달러의 규모로 예상되는 AI는 글로벌 경제를 다시 쓰고 있다. 프랑스 디지털 장관 장-노엘 바로(Jean-Noël Barrot)는 12월 초 “기술 발전이 정치 보다 빠르다”고 밝히기도 했다.

그러나 챗GPT의 등장 이후 AI규제에 필요성은 시급한 과제로 떠올랐다. AI의 발전 속도가 예상보다 훨씬 빨랐기 때문이다. 미국의 경우 바이든(Biden) 행정부는 최근 AI의 국가보안을 담은 행정명령(executive order)를 발표했다.

유럽에 비해 영국, 일본 등 다른 나라들은 느슨한 규제를 적용하고 있다. 하지만 중국은 데이터 사용과 추천 알고리즘에 규제를 가하고 있다. 유럽의 AI규제 역사는 깊다. 유럽은 인공지능 규제에 가장 앞서 있는 지역 중 하나로, 2018년부터 인공지능법(AI Act)을 마련하기 시작했다. 최근 몇 년 간 유럽 지도자들은 의료 또는 은행에 대한 규제와 유사한 새로운 수준 규제를 AI에 도입하려고 노력해 왔다.  EU는 이미 데이터 프라이버시, 경쟁 및 콘텐츠 규제와 관련된 광범위한 법률인 DSA를 제정했다.

AI법안의 초안은 2021년에 처음 공개됐다. 그러나 EU의원들은 AI발전 속도가 빨라 법안을 다시 써야했다. 초안에는 챗GPT 등 범용 생성AI모델(general-purpose A.I. models)에 대한 언급이 없었다.