생성형 인공지능(AI)의 등장으로 AI 확산 속도가 급속도로 빨라지자 미국 의회가 제동을 걸고 나섰다.

법적 규제가 미비한 상황에서 무분별한 기술 개발이 이뤄질 경우 회복할 수 없는 부작용을 낳을 수도 있다는 이야기다.

통상 모든 국가에서 입법부는 현실을 반영하지 못하는 늦은 대응으로 질타를 받지만, AI에 대한 미국 의회의 빠른 움직임은 이례적이다.

AI가 우리 사회의 체질을 바꾸고 있다. 이에 규제기관은 이 기술을 어떻게 규제할지에 대해 논의를 시작했다. 하지만,  AI규제에 대한 기업들의 입장은 아직 혼란이다.

[미국 의회, 정부 AI 규제 논의 활발]

생성형 AI(Generative AI) 확산에 대한 미국 규제 기관의 고민은 깊다. 때문에 미국 의회, 행정부는 AI기업, 빅테크 기업들과의 접점을 강화하고 있다. 현장의 목소리를 듣기 위해서다.

새로운 민주당 연합 행동기금(New Democrat Coalition Action Fund)은 2023년 3월 메릴랜드 체서피크 만에서 열린 토론회에서 ‘AI 정책을 위한 지형 구축: 기회와 도전 탐색(Charting a Course for AI Policy: Navigating Opportunities and Challenge)’이라는 제목의 논의를  포함시켰다. 제프 잭슨(Jeff Jackson) 하원의원은 SW기업 SAP와 IBM과 비영리 단체 이퀄AI(EqualAI)등이 참석한 이벤트에서 행사를 진행했다.

2023년 3월 말 미 의회 인공지능 코커스(Congressional Artificial Intelligence Caucus)는 IBM과 함께 AI입문 이벤트(AI primer event)를 개최했다. 이 행사는 전직 보좌관이자 현재는 비영리단체 시드(SeedAI)의 대표인 오스틴 카슨(Austin Carson)이 주최했다.

행사 초대장에는 “AI가 무엇인지, 얼마나 광범위하게 배포되고 있는지, 일상생활에 어떤 영향을 미치는지, 무엇이 가능하고 무엇이 불가능한지에 대한 이해가 분명히 부족하다. 우리는 의회에서 이 문제를 해결하는 것을 목표로 한다”고 쓰여져있다.

반대로 AI기업들도 기술 개발의 열정이 규제에 막히지 않도록 노력 중이다. AI 기업인과 의원과의 만남도 잦아지고 있다. 악시오스는 상원의원 마크 와너(Mark Warner)는 최근 오픈AI CEO 샘 알트만 스케일AI의 알렉산더 왕(Alexandr Wang), 센터 포 휴먼 테크놀로지(Center for Humane Technology)의 수석 디렉터 트리스탄 해리스(Tristan Harris) 등과 만났다고 보도했다. 면담 주제는 AI에 대한 잠재적 규제, 미래 개발과 성장 모델 및 미래 개발 및 국가 안보 과제에 대한 성장 모델과 예측인 것으로 알려졌다.

미 의회 내 대표적인 친 AI주의자인 돈 바이어(Don Beyer) 공화당 하원의원은 국가 AI 자문 위원회(National AI Advisory Committee) 의장인 미리암 보겔(Miriam Vogel) 및 싱크탱크 연구원들과 정기적으로 대화하고 있다고 알려졌다. 규제의 방향을 잡기 위해서다.  올해(2023년) 72살인 바이어 의원은 조지 메이슨 대학(George Mason University)에서 머신 러닝 석사 학위를 공부하고 있다.

마이크로소프트 브래드 스미스(Brad Smith) 대표는 챗GPT 출시 초기 워싱턴 정가를 방문한 것으로 알려졌다. 이 곳에서는 그는 몇 주 동안 머물면서 다양한 언론과 정치인들을 면담한 것으로 전해졌다. 마이크로소프트 대변인은  악시오스(AXIOS)에 “마이크로소프트는 AI가 우리 생애 가장 중요하고 의미있는 기술을 대표한다고 생각한다. 여기에는 엄청난 기회가 있다”며 “이 기술 개발을 하는 사람의 책임으로 우리는 교육하고 궁금한 것을 배워야 한다”고 전했다.

AI기술에서도 기업 간 격차가 벌어지고 있다. 구글, 마이크로소프트 등 빅테크들이 AI에서도 미국 정가를 장악하고 있어 AI관련 중소 개발사들의 목소리가 반영될 여지가 줄어들고 있다.

딥마인드의 최고 운영 책임자 COO 라일라 이브라함(Lila Ibrahim)은 악시오스와의 인터뷰에서 “우리는 워싱턴에 지난 몇 주간 머물면서 의원, 규제 당국자들, 싱크탱크 연구원들과 AI개발, 운용에 관련한 기본 원칙을 논의했다”며 “AI를 최대한 이용하면서 리스크를 줄이는데 이슈가 집중됐다”고 설명했다.

구글 글로벌 정책 대응 담당 대표 켄트 워커(Kent Walker)는 블로그에서 “규제 당국은 새로운 법체계를 연구하면서 제품 안전을 보장하고 위법적 차별을 금지하는 법안과 같은  현행 법 규제를 어떻게 적용할지를 정확히 파악해야 한다”고  말했다.

크리스토퍼  파딜라(Christopher Padilla) IBM 대관 및 규제 담당 부사장은 언론인터뷰에서 기술 충돌을 우려했다.  그는 “챗GPT와 같은 소비자향 AI가 기업이나 업계의 AI 작업과는 전혀 다른 문제점을 내포하고 있다”고 강조했다.  현재 IBM은 AI의 위험과 관련한 내부 기준을 가지고 있다. 챗GPT가 인간의 건강을 다루는 의학에 쓰일 경우 오남용 정보 확산을 더욱 더 경계해야 한다.

[AI개발은 6일도 멈추지 않을 것]

퓨처 오브 라이프(Future of Life)는 GPT-4보다 강력한 AI 시스템의 모든  개발을 최소 6개월간 중단하고 사회와 인류에 대한 심각한 위험을 경고하기 위해 3월 말 시작한 청원서에 2023년 4월 3일 현재 3,600명 이상의 서명을 받았다.  일론 머스크와 애플의 공동창업자 스티브 워즈니악 역시 서명자 중 한 명이다. 머스크는 과거에도 AI의 문제점을 지속적으로 주장한 바 있다. 퓨처 오브 라이프 재단은

인류가 직면한 전 세계적인 재앙적이고 실존적인 위험, 특히 첨단 AI 개발로 인해 생기는 실존적 위험을 줄이기 위해 노력하는 비영리 단체다. MIT의  우주론자 맥스 테그마크(Max Tegmark)와 스카이프(Skype) 공동 설립자 얀 탈린(Jaan Tallinn)이 공동 설립했으며 일론 머스크도 자문역할을 맡고 있다.

‘퓨처 오브 라이프’의 서한은 미국 테크 사회를 양 갈래로 갈라놓고 있다.  퓨처 오브 라이프의 요구는 미국 테크 산업 내 존재하는 ‘AI회의론’을 반영하는 대표적 결과로도 볼 수 있다.   AI가 결국 인간에 해가 되거나 기계적인 오류로 인간성을 파괴하고 통제력을 잃어버릴 것이라는 경고다.

상당수 AI연구소들은 최신 버전인 GPT-4보다 더 강력한 AI시스템을 만드는 훈련을 최소 6개월 동안 중단해야 한다는 입장이 우세하다. 이와 반대로 AI전문가 일부는 이 서한과 지지자들이 대형 언어 모델(LLM)힘을 부풀리며 과대 평가하고 있다고 보고 있다. 챗GPT는 인간과 똑 같은 생각을 하는 범용 인공 지능(artificial general intelligence(AGI))이 아니고 그냥 자동 완성 AI일 뿐이라는 이야기다.

하지만, 업계가 자발적으로 개발을 중단하거나 정부가 강제력을 동원해 AI 업그레이드를 막을 것으로 보는 이들은 드물다. 현실적으로 가능하지 않은 모델이기 때문이다. 복스 CEO 아론 리비(Aaron Levie)는 미국 악시오스가 주최한 행사(What's Next Summit)에서 “실제 개발을 중단할 수 있는 수단은 없다.”며 “다만 모두가 모여 이 문제를 논의해야할  것”이라고 주장했다.

미국 백악관도 아직은 관망세다. 지난 2022년 가을 AI에 대한 규제 초안(Blueprint for an AI Bill of Rights)을 내놓은 뒤 별다른 방향성을 보이지 않고 있다.  백악관에서 AI 연구 및 규제 로드맵을 총괄하고 있는 백악관 과학기술정책실(White House Office of Science and Technology Policy) 디렉터  아라티 프라바카르는 “논의를 시작하자는 주장들이 많지만, 너무 많은 이슈들이 얽혀있다”고 설명했다.

이미 AI에 대한 맹신과 가짜 뉴스 양상에 대한 우려도 나온다.  수년 간 AI에 비판에 앞장섰던 에밀리 벤더(Emily Bender) 워싱턴 대학교 언어학과 교수는 자신의 트위터에서 퓨처 오프 라이프의 서한을 트윗하면서 ‘AI에 대한 과한 기대감이 떨어진다(dripping with #AIHype)’고 서술했다.

생성형AI 열풍을 만든 오픈AI 역시, AI의 위험성에 대한 대비가 필요하다고 경고한 바 있다. 2023년 2월 블로그에서 오픈AI CEO 샘 알트만(Sam Altman)은 "AI 분야 일부 사람들은 범용 인공지능(AGI)위험이 가짜라고 생각한다. “며 “그러나 그것이 맞다면 기쁘겠지만  우리는 그런 위험들이 있다는 가정하에  개발을 진행할 것”이라고 강조했다.

[미국이 멈추면 중국이 앞설 것 AI]

미국의 AI 개발 속도 조절은 중국에 이득이 된다는 주장도 거세진다.  다이넬 카스트로 인포메이션 테크놀로지& 이노베이션 파운데이션(Information Technology and Innovation Foundation)의 데이터 센터 디렉터는 성명에서 “AI의 발전은 경제와 사회에 걸쳐 거대한 경제적 이익을 가져다 줄 것”이라며 “만약 미국 기업들이 AI개발을 중단 한다면 중국이 반사 이익을 볼 것”이라고 말했다.

AI전문가이자 컴퓨터 과학자인 앤드류 니그(Andrew Ng)는 트위터에서 “만약 정부가 개입하지 않는다면, 모든 팀의 AI개발을 중단할 수 있는 방법은 없다.”며 “정부가 이해하지 못하는 새로운 기술을 중단하도록 하는 것은 반경쟁적이고, 끔찍한 혁신 정책이다”라고 말했다.

결국 미국이 만든 스타트업 자본주의와 테크 투자의 역학 관계는 AI의 일시정지를 가능성을 희박하게 만든다. 특히, 중국이라는 희대의 경쟁 국가가 존재하는 한 백악관이 기업들에게 ‘AI 중단 선언’을 요구할 가능성은 없다. 오히려 중국을 이기기 위한 안전한 기술 개발을 유도하는 AI법제화에 발빠르게 나설 거승로 보인다.