Gen AI is impacting every industry in the world, and elections are within its reach. We're seeing the use of image and video AI to create campaign ads and campaign promises to persuade voters.

However, AI also raises many concerns, such as distorting reality and exposing false information. Especially in the US, where the presidential election is coming up in November, the impact of AI on elections is of particular concern.  There is also confusion on the regulatory front, as Lawmakers have yet to enact AI legislation.

생성AI가 전세계 모든 산업에 영향을 미치고 있는 가운데 선거도 AI의 영향력 내에 있다. 이미지나 비디오 AI를 이용해 선거광고를 만들고 유권자들을 설득하기 위한 선거 공약도 AI가 만드는 시대가 왔다. 하지만 AI는 현실을 왜곡하고 거짓된 정보를 노출하는 등 많은 우려도 낳고 있다.

특히, 오는 11월 대선을 앞둔 미국에서는 AI가 선거에 미치는 영향력에 가장 민감하게 반응하고 있다.  미 의회가 AI법안을 아직 제정하지 않은 상황에서 규제 현장에서는 혼란도 발생하고 있다.

악시오스(AXIOS)는 지난 8월 8일 공화당 의장 션 쿡시(Sean Cooksey)와의 인터뷰에서 미국 연방선거위원회(The Federal Election Commission)가 올해 정치 광고에 AI를 사용한 것에 대한 AI 새로운 규칙을 도입하지 않을 것이라고 말했다고 보도했다.

2024년 8월 6일 쿡시는 정치 광고에서 AI 사용을 규제하기 위해 계류 중인 법안의 제정 청원을 종결할 것을 제안했다. 연방선거위원회는 8월 15일 이 제안에 대한 투표를 진행했다.   2023년 정치 단체 퍼블릭 시티즌(Public Citizen)은 FEC에 정치 광고에 AI를 사용하는 것에 대한 규칙 제정을 시작해달라고 청원한 바 있다. 이 청원에 대한 의견 청취는 작년 가을 마감됐다.

미국 의회는 선거에서 AI를 어떻게 다뤄야 할 지 고민하고 있지만 법안 제정은 속도를 내지 못하고 있다.

본선거인 11월까지는 법안을 만들 시간이 없다.  때문에 2024년 미국 대통령 선거는 테크 기업의 자발적인 AI정책에 의존할 가능성이 높게 됐다. 구글 등 빅테크 기업들은, 선거 딥페이크와 선거 관련 사기성 AI 광고를 금지할 것이라고 자발적으로 약속하기도 했다.

AI법안 부재는 현장에서 혼선을 일으키고 있다. AI 규제와 관련 연방선거위원회는 방송통신 산업 규제 기관은 FCC와 갈등을 벌이고 있다. FCC가 방송에 AI를 사용하는 것을 규제(특히, 선거광고)하려고 하고 있기 때문이다.  FEC는 연방통신위원회에 관할권이 없다고 주장하며 논쟁을 벌이고 있다. 물론 FCC의 생각은 다르다.  FCC는 2024년 5월 TV와 라디오에 노출되는 선거 광고에 AI를 사용했을 경우 이를 고지하는 규칙을 추진하고 있다.

의회는 AI 관련 법안이 제정되지 않은 상황에서 정부 기관들이 앞서 나가는 것을 바라지 않고 있는 눈치다.

쿡시 의원은 인터뷰에서  “선거 광고나 운동에 AI를 사용하는 것을 제한 혹은 금지하려는 법안 제정은 정치광고를 규제하는 위원회의 법적 권한을 넘어서는 것을 뿐 아니라, 테크놀로지에 대한 전문 지식이나 경험이 없는 비전문가들인 위원회가 개입하는 것”이라고 강조했다.

쿡시 의원은 “새로운 규정을 고려하기 전 더 나은 접근 방법은 의회가 방향성을 잡기를 기다리고 AI가 실제로 현장에서 어떻게 사용되는지 연구하는 것”이라며 “ 선거관리위원회는 매체에 관계없이 허위 선거 운동에 대한 규제를 계속할 것”이라고 덧붙였다.

미국 의회는 선거에 AI를 사용한 것을 어떻게 규제할 지 고민하고 있다.  올해 많은 AI규제 법안(Protect Elections from Deceptive AI Act, AI Transparency in Elections Act, Preparing Election Administrators for AI Act)이 상원 규칙위원회(Senate Rules committee)를 통과했다.  상원 본회의에는 아직 상정되지 못하고 있다.

하지만 일부 시민 단체들은 이 결정에 반대하고 있다. 퍼블릭 시티즌 공동 대표 로버트 와이즈먼(Robert Weissman)은 악시오스에 "FEC가 정치 광고에 딥페이크(Deepfake)를 규제하지 않기로 결정한 것은 책임을 방기하는 부끄러운 일이 될 것"이라며 “정치 딥페이크에 라벨을 붙이도록 요구하는 것은 어떤 정당이나 후보자에게 유리하지 않다. 단지 사기와 혼란으로부터 유권자를 보호하는 것일 뿐”이라고 강조했다.

선관위 내에서도 논란이다.

민주당 추천 엘렌 와인트라우브(Ellen Weintraub) 위원은 악시오스에 “AI규제에 대한 FEC 권한은 제한적이지만 전혀 없는 것은 아니다”라며 “저는 우리가 퍼블릭 시티즌의 중요한 청원에 대한 응답으로 규칙 제정을 할 수 있고 해야 한다고 믿는다”고 밝혔다. 이에 앞서 와인트라우브 위원은 6월 제시카 로젠워셀(Jessica Rosenworcel) FCC 위원장에게 서한을 보내 AI 규칙에 대한 지지를 표명하기도 했다.