On March 14, 2024, the European Parliament passed an AI Act, marking the first time the international community has actually passed a comprehensive AI Act. The law contains comprehensive rules aimed at companies developing AI systems and various restrictions on how the technology can be used.

It bans certain AI uses and introduces new transparency rules. AI systems deemed to be high-risk must be risk assessed and reported to regulators. It is expected that labeling will be introduced for deep fakes created by AI.

However, the law will not be implemented immediately.  It will be implemented gradually, article by article, over several years.  

The European Parliament previously agreed to finalize the legislation with EU member states last December.  Margrethe Vestager, the Vice-President of the European Commission, who led the effort to create the AI legislation, said at a press conference at SXSW that she expects it to take a year and a half to two years to be implemented.

However, as Europe is the first country in the world to introduce AI legislation, the pace of AI regulation in global countries such as the United States and South Korea is expected to be faster. In addition, big American tech companies such as Apple and Google are more sensitive to entering the European market. The EU, with 450 million people, has already passed the Digital Markets Act (DMA) to regulate platform monopolies.

In the U.S The Biden administration issued an executive order on AI in 2023 requiring companies to notify the government when their AI models face significant risks.

Chinese regulators have created legislation focused on generative AI. Companies developing generative AI will have to undergo government cybersecurity vetting before releasing their products.

유럽의회, 글로벌 규제 선진국의 움직임  “AI 딥페이크, 라벨링 의무화 닮은 AI법안 통과”

유럽의회(The European Parliament)는 2024년 3월 14일  AI규제 법안을 통과시켰다. 국제 사회에서 포괄적인 AI규제 법안이 실제 통과된 것은 이번이 처음이다. 법안에는 AI시스템 개발 회사를 겨냥한 포괄적인 규칙과 기술 사용 방식에 대한 각종 제한이 담겼다. 특정 AI 사용을 금지하고, 새로운 투명성 규칙을 도입하는 내용도 담겼다. 고위험으로 간주되는 AI 시스템의 경우 반드시 위험 평가를 해야 하며 이를 규제 당국에 보고도 해야 한다. AI로 만든 딥페이크에는 라벨링이 도입될 것으로 예상된다.

그러나 이 법안이 당장 시행되는 것은 아니다.  법안은 몇 년에 걸쳐 조항별로 점진적으로 시행된다.  이에 앞서 유럽 의회는 지난해 12월 EU 회원국들과 이 법안을 최종 승인하기로 합의한 바 있다.  AI 법안 제정을 주도했던 EU행정부 집행위원회(Commission)의 부위원장 마그레테  베스타게르(Margrethe Vestager)도 SXSW에서 열린 기자 간담회에서 AI법안이 시행되기 위해선 1년 반에서 2년이 소요될 것이라고 전망했다.

그러나 유럽 세계 최초로 AI 법안을 도입함에 따라 미국, 한국 등 글로벌 국가의 AI규제 도입 속도는 더욱 빨라질 것으로 예상된다. 아울러 애플, 구글 등 미국 빅테크 기업들은 유럽 시장 진출에 더욱 민감할 수 밖에 없다. 4억 5,000만 명의 인구를 가진 EU는 이에 앞서 플랫폼 독점 기업을 규제하는 디지털 마켓 법안(DMA)을 통과시킨 바 있다.

(관련 기사) EU의회 "AI 법안 통과", EU부위원장 "DMA와 AI규제는 같은 맥락"(EU "Passes Legislation to Force AI Watermarks", VP of the EU Commission "DMA and AI Regulation are on the same page") (directmedialab.com)

[유럽 AI법안, 위반 시 7% 과징금]

AI법안은 모든 범용 AI 모델 제공업체(general-purpose AI models)에 모두 적용될 것으로 보인다. 법안에 따라 범용 AI기업들은 자신들의 모델에 대한 기술문서를 제공해야 한다.

또  모델을 학습시키는 데 사용한 콘텐츠의 요약본을 게시해야 한다. EU에서 '시스템적 위험'이 있다고 간주하는 가장 강력한 AI 모델 제조업체는 해당 모델을 최첨단 안전 평가를 거쳐야 하며, 모델에서 발생하는 심각한 사고에 대해 규제 당국에 알려야 한다. 아울러 잠재적 위험과 사이버 보안 보호를 위한 완화 조치를 시행해야 한다고 법은 명시하고 있다. 법을 위반할 경우 글로벌 매출의 7%를 벌금으로 낼 수 있다.

협상을 주도한 이탈리아 EU 의원 브란도 베니페이(Brando Benifei)는 "AI 법은 안전하고 인간 중심적인 AI 개발을 향한 명확한 길을 제시하는 세계 최초의 규제"라고 강조했다.

[법안 시행, 수년에 걸쳐 잠재적으로]

물론 법안의 최종 시행은 베스가르드 집행위  부위원장이 언급했듯, 내년 이후에나 가능할 것으로 전망된다. 이 법에 명시된 금지 조항 중 일부는 2024년 연말에 시행되고 다른 항목들은 점차적으로 시행될 것으로 예상된다.

학교와 직장에서 학교와 직장에서의 감정 인식 AI(emotion-recognition AI) 사용 금지, 얼굴 데이터베이스를 만들기 위한 이미지 스크래핑 금지 등의 조항은 올해 말부터 시행될 것으로 예상된다. 그러나 이 법의 다른 요소들은 향후 몇 년에 걸쳐 점진적으로 시행될 예정이다.

법안은 또 이번 달부터 EU 각 회원국의 최종 승인을 거쳐야 한다. 그러나 이미 각 의회가 이 법안에 정치적 지지를 보냈기 때문에 과정은 형식적인 절차에 그칠 것으로 예상된다.

이 법은 AI가 생활과 산업에 보다 광범위하게 적용됨에 따라 인공지능의 잠재적 위험성과 미래에 대한 논쟁 중 만들어졌다. EU의 AI법안은 오픈AI의 챗GPT 등 생성AI챗봇이 공개되기 전 2021년 처음 발의됐다.  생성AI에 대한 조항은 이후 삽입됐다. 그러나 업계나 일부 유럽 정부 관계자들은 범용 AI에 관련한 포괄적인 규제( introduction of blanket rules for general-purpose AI) 도입을 반대했다. 의원들은 기술의 위험한 사용에 초점을 맞춰야 한다고 주장했다.

실제,프랑스와 독일은 법안의 일부 조항을 수정하려고 노력한 것으로 전해졌다. 프랑스 대표 AI기업 미스트랄(Mistral AI)의 최고 경영자 아서 멘쉬(Arthur Mensch said)는 “최종 협상에서 일부 의무를 완화하는 변경을 거친 후, AI 법이 기반 기술이 아닌 AI의 사용 방식에 초점을 맞췄어야 한다고 생각한다”며 “그러나 관리 가능한 수준이 될 것”이라고 설명했다. 미스트럴은 2월 초 ‘미스트랄 라지(Mistral Large)라고 불리는 AI모델을 출시했다.

테슬라(Tesla)의 창업자 일론 머스크(Elon Musk)는 얼마 전 오픈AI와 CEO 샘 알트만을 고소했다. AI의 공적 혜택보다 회사의 이익을 우선시하여 회사 설립 계약을 위반했다는 주장이다.  알트먼은 “AI는 매우 신중하게 개발되어야 하며 엄청난 상업적 가능성을 제공한다”고 말했다.

[AI법안 최근 몇 년간 가장 치열했던 로비]

법안과 관련 의원들은 “AI법안 제정 당시 최근 몇년 사이 가장 치열한 로비가 펼쳐졌다고 말하기도 했다. 기업 감시 단체와 일부 의원들은 모든 범용 AI 모델에 대한 안전 평가 및 위험 완화 규칙을 더 엄격하게 적용하길 원했다. 그러나 기업과 로비스트들의 큰 반대에 부딧혔다.

로비 단체인 비즈니스유럽(BusinessEurope)은 수요일 AI 규제에 대한 법률의 위험 기반 접근 방식을 지지한다고 밝혔지만, 실제로 이 법이 어떻게 해석될지에 대해서는 의문이 있다고 말했다. 디지털 권한 관련 시민 단체 Access Now 법안의 최종본이 허점으로 가득 차 있으며 가장 위험한 AI 사용으로부터 사람들을 적절히 보호하지 못했다고 말했다.

이 법은 딥페이크 규제 내용도 담고 있다.  AI에 의해 생성 또는 조작되었지만 진짜인 것처럼 보일 수 있는 이미지, 오디오 또는 비디오를 가리키는 딥페이크에 대한 명확한 라벨링을 요구한다. 의회가 위험하다고 간주하는 AI 시스템은 위험 평가를 수행하고 고품질 데이터를 사용하고 있는지 확인해야 한다.

월스트리트저널은 AI가 지속적으로 진화함에 따라 이 법안을 유연하게 적용할 것이라고 보도했다.  예를 들어 법은 EU 행정부 유럽위원회(European Commission)가 시장 및 기술 발전에 따라 범용 AI 모델의 기술적 정의(general-purpose AI model)를 업데이트할 수 있다고 명시하고 있다.

이 법은 4억 5,000만 명 유럽인들에게만 적용되지만 파장은 더 넓을 것으로 전망된다.  AI규제 법안을 만들고 있는 다른 지역 역시 유럽의 동향을 반영하지 않을 수 없기 때문이다. 로펌 링클레이터 파트너인 기욤 쿠네슨(Guillaume Couneson)은월스트리트저널과의 인터뷰에서  "AI 도구를 제작하거나 사용하려는 사람은 누구나 이 규제를 검토해야 한다”고 말했다.

미국 바이든 행정부는 2023년 AI 관련 행정 명령을 발효시켰다.

AI모델을 개발이 심각한 리스크에 직면할 때 정부에 알리는 것을 의무화하는 내용을 담은 것이다. 중국 규제 당국은 생성 AI에 초점을 맞춘 법안을 만들었다. 생성AI 개발회사들은 제품을 내놓기 전에 정부의 사이버 보안 심사를 거쳐야 한다.

유럽에 진출하는 빅테크 기업들은 AI외 이미 많은 반독점 법안을 지켜야 한다. 디지털 마켓 법안(DMA)이 그것이다. 특정 분야에서 독점적 지위를 가진 플랫폼이나 서비스들을 규제하고 위한 법률들이다. 애플의 앱스토어와 구글의 검색 서비스는 이들 법안으로 인해 비즈니스 모델을 변경해야 하는 위기에 직면해있다. 애플은 보안을 위해 수수료와 제한을 둬야 한다는 입장이다.

또 iOS 호환 앱 개발자의 99%가 새 규정에 따라 동일하거나 더 낮은 수수료를 애플에 지불한다고 항변했지만 받아들여지지 않았다.  디지털 서비스 법안(DSA)도 마찬가지다.

온라인 콘텐츠에 초점을 맞춘 이 법안은 대형 소셜 미디어 기업이 플랫폼에서 불법 콘텐츠와 허위 정보를 해결하기 위해 어떤 노력을 기울이고 있는지 보고하도록 하고 있다.