As the United States heats up with the presidential rematch between Trump and Biden, the FCC, the federal broadcasting and telecommunications regulator, is reportedly considering introducing new rules that would require political ads to disclose the use of artificial intelligence. However, the reality is that generative AI is dominating every industry, and it is not possible to ban the use of AI.

FCC Chairwoman Jessica Rosenworcel announced the introduction of new commission rules. If accepted, U.S. terrestrial television, radio, cable TV, and satellite broadcasters would be required to disclose when they use AI-generated content in broadcasts or political ads.

However, the commission does not plan to apply the rule to online platforms such as streaming services and YouTube. "As AI tools become more pervasive, the FCC believes that viewers should be aware when the technology is used in broadcast content," Rosenworcel said in a press release. "I have shared this proposal with my fellow commissioners and hope to see swift action on this issue."

미국이 트럼프와 바이든 대통령의 대선 재매치로 뜨겁게 달아오르고 있는 가운데 연방 방송통신 규제 기관인 FCC가  정치 광고에 인공지능을 사용한 사실을 공개하도록 하는 새로운 규정 도입을 검토 중인 것으로 알려졌다. 하지만 현실적으로 생성AI가 모든 산업을 지배하고 있는 상황에서 AI 사용을 금지할 수는 없다는 방침이다.

FCC 의장 제시카 로젠워셀(Jessica Rosenworcel)은 새로운 위원회 규정을 도입한다고 발혔다. 만약 받아들여진다면, 미국 지상파 방송, 라디오, 케이블TV, 위성방송 사업자는 AI가 생성한 콘텐츠를 방송이나 정치 광고에 사용할 경우 반드시 그 사실을 밝혀야 한다.

그러나 위원회는 스트리밍 서비스, 유튜브 등 온라인 플랫폼에는 이 규정을 적용하지 않을 계획이다.

로센워셀 위원장은 보도자료에서 “AI툴이 보다 더 확산됨에 따라, FCC는 시청자들이 방송 콘텐츠에 기술이 적용됐을 경우 이 사실을 반드시 인지해야 한다고 본다”며 “다른 위원들과 이 안건을 공유했고 이 문제에 대해 신속하게 조치를 취하기를 바란다”고 말했다.

지난해 공화당 전국위원회(Republican National Committee) 2024년 바이든 대통령이 재선될 경우의 디스토피아적 미래를 묘사한 AI 제작 공격 광고를 공개해 논란이 된 바 있다.  판자로 덮인 상점, 거리의 군 순찰대, 공포에 질린 이민자들의 모습 등 실제처럼 보이는 장면들이 공개됐다. 당시 공화당 광고는 AI생성 이미지에 대해 “조 바이든이 2024년에 재선될 경우 미국의 미래에 대해 AI가 예측한 것"이라고 언급했다.

특히, 선거에서 가짜뉴스를 만드는 등 AI 사용을 둘러싼 우려는 수년 전부터 제기돼왔다. 2018년 영화감독 조던 필( Jordan Peele)은 버즈피드에서 딥페이크에 대한 인식을 높이기 위해 버락 오바마 전 대통령의 얼굴에 자신의 음성을 합성한  동영상을 제작하기도 했다.

또 올해 초 FCC는 현행법상 로보콜(자동 전화)에 AI 음성 복제 도구를 사용하는 것을 금지한다고 판결한 바 있다.  이는 민주당 고문 중 한명이 AI 생성 정치 콘텐츠의 문제점을 환기시키기 위해 바이든 대통령의 목소리를 흉내낸 가짜 목소리로 ‘민주당원에게 뉴햄프셔 프라이머리에서 투표하지 말 것을 촉구한 뒤 나온 것’이다.

FCC는 정치 광고에 AI가 생성한 콘텐츠가 있는 경우 방송 및 서면 공개를 의무화할지와 AI 생성 콘텐츠의 구체적인 정의를 결정할 예정이다. Common Cause 등 일부 시민 단체들은 FCC의 결정을 지지하고 나섰다.

Common Cause의 미디어 및 민주주의 프로그램 책임자 이샨 메타(Ishan Mehta)는 성명에서 “AI와 딥페이크의 사용이 민주주의를 위협하고 선거에 대한 신뢰를 약화시키는 상황에서 이번 결정은 반가운 일”이라며 “우리는 AI 음성 및 이미지를 사용한 예비 선거 광고와 뉴햄프셔 프라미어미 기간 동안 로보콜을 통해 정치 분야에서 AI의 영향력을 확인했다”고 설명했다.