AI, "2년 내 생체 바이오 무기도 만들 것"

생성AI의 급속한 확산으로 미국 백악관이 7개 AI기업과 자율 규제 협약을 맺은데 이어 미 의회도 규제를 위한 정지 작업에 나섰다.

미 상원 7월 26일(미국 시간) 주요 3개 미국 AI기업을 의회로 불러 AI 확산에 대한 우려, 소비자 보호를 위한 안전 장치 마련 등을 질의하는 청문회를 개최했다.  

이 자리에는 무서울 정도로 빠르게 진화하고 있는 AI가  불량 국가나 테러집단이 생체 바이오 무기를 만드는 데 사용되는 등 심각한 국가적 문제를 만들 수 있다는 경고가 나왔다.

이에 AI규제와 문제점에 대한 연구가 국가 차원이 아닌 국제 이슈로 다뤄야 한다는 주장도 제기됐다.

[AI기술 규제, 핵 수준의 국제 협력 필요]

미국 상원  개인정보보호, 테크놀로지 담당 법안 소위(The Senate Judiciary subcommittee on privacy, technology and the law)는 7월 26일(한국 시간) AI스타트업 앤트로픽(Anthropic) 다리오 아모데이 Dario Amodei)와 요슈아 벤지오(Yoshua Bengio) 몬트리올 대학교 AI담당 교수, 스튜어트 러셀(Stuart Russell) 미 캘리포니아 버클리 대학교 컴퓨터 사이언스 교수를 불러 AI 개발 현황, 규제와 우려를 논의하는 청문회를 열었다.

미국 테크놀로지 법안 소위는 리차드 블루멘탈(Richard Blumenthal)과 조쉬 하레이(Josh Hawley) 의원이 이끌고 있다.

블루멘탈 소위 위원장은 개회 모두 발언에서 “의회가 소셜 미디어 시대 잘못을 반복하지 않을 것”이라고 말했다. 그는 또 “청문회의 목적은 법률 마련을 위한 기반을 만들기 위한 것”이라며 청문회는 일반 원칙에서 구체적인 권고로 가기 위해서 마련됐다고 설명했다. 결국 청문회는 AI법률 규제안 마련의 전 단계라는 이야기다.

요슈아 벤지오 교수는 현재 인공지능 과학의 아버지 중 하나로 알려진 유명 인사.

그는 “미국은  AI발전을 통제하기 위해 국제적인 협력을 추진해야 한다”며 “핵 기술에 대한 국제적인 규칙과 비슷한 체제를 설명했다.

AI스타트업 앤트로직( Anthropic)의 CEO 다리오 아모데이(Dario Amodei)는 AI 발전으로 인한 공포를 이야기했다. 앤트로픽은 AI챗봇 스타트업 앤트로픽은 오픈AI 등 다른 AI기업보다 AI안전성을 더 우선시하는 것으로 알려졌다.

최근 뉴욕타임스는 기사에서 앤트로픽을 ‘AI운명론에 마지막 보루(White-Hot Center of AI Doomerism)’라고 언급하기도 했다.  

앤트로픽은  2023년 7월 자신들의 첫 챗봇을 내놓는 등 다른 회사에 비해 신중히 AI 시장에 대응하고 있다.  구글로부터 3억 3,000만 달러를 투자 받았다.  앤트로픽은 상대적으로 기업 역사가  짧지만 백악관이나 의회 행사에 자주 불려다니고 있다. 2023년  5월 바이든 대통령과의 회동에 이어 7월 AI기업 자율규제 합의에도 참여했다.

[AI 생체 무기 개발에도 사용될 수 있어]

아모데이 CEO는 “최신 AI기술이  2년 내 위험한 바이러스 개발이나 다른 생체 무기 개발에 사용될 수 있다”고 두려움을 드러냈다. 청문회에 함께 참석한 스튜어트 러셀 버클리대학교 교수는 “AI발전 방식을 이해하기 어렵고 다른 기술보다 통제하기도 힘들다”고 우려했다.

벤지오 교수는 청문회에서 “최근 나와 다른 사람들은 챗GPT와 같은 AI툴이 상상할 수 없을 정도로 빠르게 발전하고 있다고 느낀다”며 “개발 주기 점점 빨라지는 것도 두렵다”고 설명했다.

의회 청문회는 인간의 능력을 넘어서고 우리의 통제를 벗어나고 있는 AI에 대한 두려움이 SF영화가 아닌 현실이라는 것을 보여줬다. 수년 간 미래주의자들은 “언젠가 AI가 인간보다 더 똑똑해질 수 있고 스스로 학습하고 잠재적으로 인간에 해를 입힐 수 있다고 주장해왔다.

하지만, 생성AI 챗GPT가 나온 이후 이런 끔찍한 상상이 현실이 되는데 6개월이 채 걸리지 않았다. 벤지오 교수 등과 같은 AI전문가들은 인간을 뛰어넘는 이른바 ‘슈퍼 스마트AI’ 출현이 몇 년 내에 이뤄질 것으로 보고 있다. 청문회에서도 우려들이 그대로 노출됐다.

AI에 대한 이런 우려감은 실리콘밸리, 미디어, 워싱턴 정가에 본격적으로 나오고 있다. 의원들은 AI규제와 관련한 법률을 통과시키려하고 있고 행정부는 가이드라인을 담은 정책을 만들고 있다. 7월 21일 진행된 AI기업 자율 규제안 합의도 같은 맥락이다.

소위원장 리차드 블루멘탈은 AI기술 개발을 핵개발 프로젝트 ‘맨하탄 프로젝트’와 나사(NASA)가 인류를 달에 보냈던 프로젝트에 비유했다.

블루멘탈 의원은 “인류는 당시 결코 가능할 것이라고 생각하지 못했던 놀라운 새로운 기술을 발명할 수 있다는 것을 스스로 보여줬다”고 말했다. 블루멘탈 위원장은 “우리는 사람들이 생각할 수 없는 일을 해왔다”며 “우리는 큰 일을 할 줄 안다”고 말하며 AI에 통제에 대한 자신감을 드러냈다.

아울러 청문회에서 의원들은 AI에 대한 반독점 우려도 제기했다. 하레이 의원은 “AI리스크 중 하나는 마이크로소프트나 구글과 같은 빅테크 기업들이 AI기술을 장악하며 독점력을 행사하는 것”이라고 강조했다. 하레이는 미국 의회에 내에서 대표적인 반 빅테크주의자다. 하레이는 “AI가 기업에 좋을 것이라는 확신이었다”며 “그러나 모든 사람들이 좋을 것이라는 데는 의문이 있다”라고 설명했다.

벤지오 교수는 1990년과 2000년 사이, 오픈AI 챗GPT, 구글 바드 등과 같은 챗봇 기술의 기초되는 연구에 큰 기여를 했다. 그는 2023년 초 벤지오는 동료인 AI 개척자 제프리 힌튼( Geoffrey Hinton)과 함께 자신들의 만든 AI기술의 문제점과 우려를 제기하고 나섰다. 2023년 3월 테크 기업들에게 서한을 보내 적절한 규제안이 나오기까지  ‘새로운 AI모델 개발을 6개월 만 멈춰달라고 말한 AI연구자 중 한 명이었다. 청문회에 나온 러셀 교수 이 편지에 서명한 바 있다.

블루멘탈 의원은 이번 청문회가 AI를 어떻게 규제할 지에 대한 아이디어를 논의하는 자리라는 점을 분명히 했다.

[성장 속도를 헤치지 않는 AI규제 원해]

그러나 청문회에서 미국 의원들은 규제가 AI혁신을 헤치지 않기 위해 노력했다.  

앤트로픽의 CEO 다리오 아모데이(Dario Amodei)도 혁신의 중단 없이 AI에 대한 위험성을 제거하는 까다로운 균형이 중요하다고 언급했다.  현재 미국 AI기업들은 규제 도입을 원하고 있지만, 규제가 혁신을 가로막는 상황을 걱정하고 있다. 중국이나 러시아를 의식하는 모습이다.

때문에 AI편향성을 없애기 위한 자체 규제의 중요성을 강조했다.  아모데이 CEO는 청문회에서 앤트로픽의 ‘관습적인 AI(constitutional AI)’에 대해 설명했다.

앤트로픽 챗봇 ‘클라우드(Claude)’는 유엔 인권선언에서부터 애플 고객 서비스 등 다양한 범위의 원칙들을 훈련한 것으로 알려졌다. 편견을 최대한 배제하기 위해서다. 특히, 서구적인 시각으로만 답을 내놓은 것을 경계하고 있다.

또 AI연구가 특정 지역이나 국가에 머물러선 안된다는 지적도 나왔다.  요슈아 벤지오(Yoshua Bengio) 몬트리올 대학교 교수는 미국이 글로벌 AI연구에 대한 투자를 늘려달라고 요청했다. 그는 또 “AI개발을 위한 국제 공조와 AI의 개발 방향성을 잡기 위한 글로벌 공제가 필요하다”고 지적했다.

벤지오 교수는 “나쁜 목표를 가진 잠재적인 불량 AI 또는 나쁜 행위자로부터 시민과 사회를 보호하기 위해 글로벌 시장에 통용되는 연구 개발과 개인 정보 보호에 투자해야 한다”며 “기업과 국가간 AI 개발 경쟁에 따른 위험을 최소화하기 위해 다양한 기관에서 분산된 실험이 이뤄져야 한다”고 설명했다.

러셀 교수는 AI 규제에 집중하는 새로운 규제 기관의 필요성을 제기했다. 그는 “AI가 결국 경제를 압도하고 GPD의 성장에 큰 폭을 찾지할 것”이라며 “이에 강력하고 집중적인 감독이 필요할 것”이라고 강조했다.

아모데이 CEO는 규제 기관 신설 혹은 FTC 등 어떤 기관이 규제를 담당하던 간에 AI의 문제점과 악영향을 점검하기 위한 표준 테스트가 필요하다고 주장했다. 그는 또 AI의 위험성을 줄이기 위한 연구를 위한 연방 자금 지원을 요청했다.

[AI에 대한 소송과 면책 특권 발탁한 법 발의]

하레이 의원은 2023년 6월 개인 소송 허용, 개인 데이터 보호 및 라이선스 제도를 포함 자신만의 AI규제 원칙들을 공개한바 있다.

또 하레이 의원과 블루멘탈 의원은 생성 AI기업들의 섹션230(플랫폼의 면책 특권) 면책 특권을 인정하지 않는 법안을 공동 발의했다. 일명 AI 섹션230 면책 특권 금지법(No Section 230 Immunity for AI Act)이다.

통신 품위 유지법(DCA)에 포함된 섹션230은 콘텐츠 사업자들이 유통시킨 콘텐츠의 문제로 플랫폼 사업자들이 처벌을 받지 않는다는 조항이다.

섹션230은 플랫폼 사업자들을 보호하기 위한 법률 조항으로 소셜 미디어와 빅테크들의 성장에 큰 공헌을 했다. 하지만, 빅테크에 면죄부를 부여해 유해 콘텐츠, 가짜 뉴스 등이 범람하는 부작용도 불러왔다.

특히, 이 법안의 핵심은 AI가 만든 작품들에 섹션230 조항을 적용하지 않는 것이다.

그동안 법률 전문가들과 의원들은 AI가 만든 작품들이 법률 면책(legal immunity)을 받을 자격 있는 지에 대해 많은 의문을 가져왔다.

이 법안은 또 생성AI모델의 의해 피해를 받은 소비자들이 연방이나 주 법원에 제작사를 고소할 수 있는 권한도 포함되어 있다.

블루멘탈 의원은 악시오스에 “AI기업들은 자신들이 개발하는 서비스에 대해 책임져야한다”며 “이 법안은 AI 규칙을 만들고 새로운 시대, 안전 장치를 구축하는 첫 번째 단계”라고 말했다.

한편, AI가 작업 효율을 높여준다는 긍정론도 있지만 부정적인 인식도 높다.

버라이어티 조사 결과  AI 사용에 대한 부정적 시각은 연령에 따라 내용과 결과가 조금 달랐다.

젊은 세대인 15~29세는 AI가 만드는 오류에 대한 우려가 가장 컸다.

30~44세 중장년 층은 ‘정확성’을 걱정하고 있었다. 이 세대 전체 응답자의 70%가 AI가 만든 결과물의 정확성을 우려하고 있었다.  

15~29세 사이 정확성에 대한 우려는 61%였다. 결국 아직은 완벽하게 AI에 의존할 수 없다는 결론이다.