As generative AI continues to disrupt businesses around the world, U.S. President Biden has issued an executive order that aims to create provisions to protect consumers from AI while advancing U.S. interests in the field. The executive order is the first regulatory proposal by the U.S. government to target AI. It will likely be used as a landmark template for the Congressional AI bill currently in the works.

The Biden administration's executive order focuses on setting standards for AI safety and security, protecting American privacy, and advancing civil rights and equality - in other words, it's focused on advancing individual rights while protecting industry. "It advocates for consumer and worker rights, fosters innovation and competition, and advances U.S. AI leadership in the global marketplace," the White House said in a statement.

Require that developers of the most powerful AI systems share their safety test results and other critical information with the U.S. government. In accordance with the Defense Production Act, the Order will require that companies developing any foundation model that poses a serious risk to national security, national economic security, or national public health and safety must notify the federal government when training the model, and must share the results of all red-team safety tests. These measures will ensure AI systems are safe, secure, and trustworthy before companies make them public.

According to Reed, Deputy White House chief of staff,  Biden’s concern about AI also grew after watching “Mission: Impossible – Dead Reckoning Part One” at Camp David.  “If he hadn’t already been concerned about what could go wrong with AI before that movie, he saw plenty more to worry about,” said Reed, who watched the film with Biden.

생성AI가 전세계 모든 사업을 뒤흔들고 있는 가운데 미국 바이든 대통령이 AI 분야 자국 이익을 도모하는 동시에 AI로부터 소비자들을 보호하는 조항을 신설을 목표로 하는 행정 명령을 발표했다. 이번 행정명령은 AI를 겨냥해 만들어진 미국 정부의 최초 규제안이다. 현재 작업 중인 미 의회 AI규제안 등도 이를 참조해 작성될 가능성이 크다.

[AI안전과 보안에 대한 기준 신설]

바이든 정부의 행정명령은(The executive order)는 AI안전과 보안에 대한 기준을 만들고 미국인 개인 정보를 보호하고 시민 권리와 평등을 증진하는데 초점을 맞추고 있다. 즉 다시 말해 산업을 보호하면서도 개인 권리를 신장하는데 집중하고 있다는 이야기다. 이와 관련 백악관은 성명에서 “소비자와 노동자 권리를 옹호하고, 혁신과 경쟁을 촉진하고, 글로벌 시장에서 미국의  AI 리더십을 발전시키는 등의 내용을 담고 있다"고 밝혔다.

특히, 행정명령은 ‘AI가 일자리에 미치는 영향’에 포커스를 맞췄다. 행정명령에는 연방 행정 기관에 "AI 확산으로 인한 일자리 대체, 노동 기준, 직장 형평성, 건강 및 안전, 데이터 수집 문제를 해결해 AI로 인한 피해를 완화하고 혜택을 극대화하기 위한 원칙과 모범 사례를 개발”하도록 지시하는 내용이 담겼다.

또 AI의 잠재적 노동 시장 영향에 대한 보고서와 AI로 인해 일자리를 상실한 노동자들에 대한 연방 정부의 지원을 강화하는 방법을 연구하도록 요구했다.  바이든 대통령은 이 명령에 대해 "전 세계 어느 정부도 AI 안전, 보안 및 신뢰에 대해 취한 조치 중 가장 중요한 조치"라고 말했다.

바이든 정부가 AI와 관련한 행정명령을 서둘러 내놓은 이유는 정부가 규제를 주저하는 사이, AI가 인간의 일자리와 위협할 수준까지 발전했기 때문이다. 특히, 할리우드의 경우 생성AI사용은 노동자와 사측의 최대현안이 되고 있다.

[할리우드 작가, 파업 통해 AI통제권 확보]

바이든 행정부의 우려대로 AI는 산업 현장을 빠르게 접수하고 있다. 특히, 할리우드 스튜디오들은 AI의 위협을 가장 먼저 느끼는 사업군 중 하나다.

생성AI는 주어진 명령에 따라, 텍스트와 이미지, 비디오를 만들 수 있는 만큼, 작가나 배우들의 자리도 위태로울 수 있다. 때문에 할리우드 작가와 배우들의 파업 때도 AI에 대한 안전망 구축은 협상의 뼈대가 됐다. 배우들과 작가들은 자신들의 ‘유일성(Likeness)’를 AI가 침범하는 것을 두려워했다.

2023년 9월 24일 작가노조 파업(WGA)이 종료 이후 할리우드에서는 이번 파업이 작가들의 승리라는 의견이 많았다. 작가들은 스튜디오와 체결한 계약에서 ‘AI생성 작품(AI-generated material)’이 독립된 권리(separated rights)나 작가 크레딧 (writer’s credit)을 가질 수 없도록하는 조항을 확보했다.

이에 할리우드 작가들은 작품에 AI를 사용할지 말지 스스로 결정할 수 있게 됐다. 각본에는 스튜디오는 각본 작성 시 작가에게 특정 AI 소프트웨어(예: ChatGPT)를 사용하도록 요구할 수 없다"고 명시되어 있다.

현재까지 파업을 이어가고 있는 배우 조합( SAG-AFTRA)은 사용자 단체(AMPTP)로부터 단역배우를 포함해  모든 연기자들의 디지털 복제(digital replica)에 대한 통제권을 부여받길 원하고 있다.

디지털 복제품이나 AI인격을 만들 결정권을 배우들에게 달라는 이야기다. 이 조항은 할리우드 스튜디오 사용자 간 최종 합의를 막고 있다. 스트리밍 서비스에 대한 배분률과 함께 AI 통제권은 최대  난제다.

바이든 정부의 AI행정명령은 이하  8개 조항을 담고 있다.

• 일부 AI 기업은 안전 테스트 결과를 연방 정부와 공유해야 함. 또 상무부(Commerce Department)는 기업들에게 AI 워터마킹 및 AI 생성 콘텐츠의 라벨링에 대한 지침을 만들도록 지시할 수 있음. 아울러  정부는 중요한 소프트웨어의 결함을 식별하는 데 도움이 되는 AI 도구를 만들 수 있는 사이버 보안 프로그램을 만드는 등 AI에 대한 새로운 안전 및 보안 표준을 마련해야 함.
• 정부 기관, AI에 사용되는 개인정보 보호 기술을 평가하는 데 사용할 수 있는 가이드라인을 만드는 등 소비자 개인정보를 보호하는 조치 마련.
• 부동산 거래 등에서 AI 알고리즘이 차별을 조장하는 것을 방지하고 범죄 예측에 AI를 사용하는 경우를 포함, 사법 시스템에서 AI의 적절한 역할에 대한 모범 사례를 구축. 이와 관련한 시민 형평성과 시민권(advancing equity and civil rights)을 증진
• 미국 복지부가 잠재적으로 유해한 AI 관련 의료 관행을 평가하는 프로그램을 만들고 교육자가 책임감 있게 AI 도구를 사용할 수 있는 방법에 대한 리소스를 만들도록 지시, 전반적으로 소비자를 보호.
• AI가 노동 시장에 미치는 영향을 담은 보고서를 작성하고 연방 정부가 AI확산으로 피해를 입은 근로자를 지원할 수 있는 방법을 연구.
• 기후 변화와 같은 분야의 AI 연구에 대한 보조금을 확대하고 핵심 전문 지식을 갖춘 고도로 숙련된 이민 노동자의 미국 체류 기준을 현실화시켜 혁신과 경쟁을 촉진
• 국제 파트너와 협력하여 전 세계에 AI 표준을 구현하고 연방 기관의 AI 사용 및 조달을 위한 지침을 개발하며 정부가 해당 분야에 숙련된 인력을 채용하는 속도를 높이기 위해 노력

미국 소비자들도 AI오남용에 대한 우려가 크다. MITRE-HARRIS가 2023년 7월 미국 18세 이상 2,063명을 대상으로 조사한 바에 따르면 'AI가 자신의 신분을 사칭'할 수도 있다는 점에 대해 10명 8명(78%)이 걱정을 표시했다.

[톰 크루즈가 행정명령을 발표?]

미국 백악관 부보좌관 부르스 리드(Bruce Reed)는 AP와 인터뷰에서 “AI는 대통령에게 매우 중요한 문제”라며 “대통령이 AI가 만든 자신의 이미지를 본 뒤 AI에 대해 감동과 놀라움을 표현했다”고 강조했다.

그러나 사실, 바이든이 행정명령을 내게 한 원동력은 놀랍게도 톰 크루즈(Tom Cruise)였다.

리드에 따르면 AI대한 바이든 대통령의 우려는 휴양지 캠프 데이비드에서 ‘미션 임파서블7(Mission: Impossible – Dead Reckoning Part One)’을 본 뒤 더 커진 것으로 알려졌다. 리드는 바이든 대통령과 영화를 함께 시청한 것으로 전해졌다.

이 영화를 본 뒤 영화에서 등장하는 AI의 위협이 현실화되기 전에 정부의 가이드라인이 필요하다는 인식이 생긴 것이다. 그러나 정작 톰 크루즈는 AI배우 도입에 상당히 부정적인 것으로 알려졌다. 배우 파업 당시 진행됐던 교육 세션에도 참여해 'AI스턴트맨'의 문제점을 지적하기도 했다.

신작 ‘미션 임파서블’에서 톰 크루즈가 연기한 에단 헌트는 인간이 아닌 악당, 위험한 AI '엔티티(Entity)'와 싸운다. 영화의 첫 장면에서 엔티티는 잠수함을 납치하고 수장시켜 전체 승조원들을 죽인다. 파트2는 당초 2024년 개봉될 예정이었지만 2025년 여름으로 개봉 시기가 밀렸다.  

AP에 따르면 바이든은 AI 기업 관계자들과 계속된 미팅 이후 테크놀로지에 대한 큰 호기심이 생긴 것으로 전해졌다. 바이드는 AI의 이점 및 우려를 전하는 다양한 과학자들도 면담해왔다.