"자신을 규제해야 한다는 기업"..“AI위협이 현실 되기 전 나서야 한다"는 의회

주어진 명령에 따라 텍스트, 이미지, 비디오를 만들어내는 생성AI가 전세계 산업을 흔들고 있는 가운데 AI산업의 미래를 바꿀 수도 있는 청문회가 2023년 5월 16 미국 의회에서 열렸다.

챗GPT로 AI열풍을 만든 오픈AI(OpenAI)의 샘 알트만(Sam Altman)이 미국 법사위 소위(Senate subcommittee hearing)에 사상 처음으로 참석했다.

미 의회가 올 초(2023년)부터 AI 규제 강도를 높이고 있지만 AI CEO를 불러 직접 청문회를 연 것은 이번이 처음이다.  올해로 38살인 샘 알트먼은 스탠퍼드를 중퇴하고 오픈AI를 공동 창업했다.  청문회 의원들은 호전적이지 않았지만 AI가 만드는 미래에 대한 우려를 드러내며 규제 필요성을 역설했다.

3시간 넘은 청문회 ‘긍정’과 ‘부정‌‌

16일 오전 10시에 시작한 청문회는 세간의 관심을 반영하듯 , 3시간이 넘게 이뤄졌다. 현장에서는 회의적인 말투가 나왔지만 분위기가 투쟁적이지는 않았다.  오히려 환영하는 분위기도 있었다.

‌‌하지만, 첫 의회 데뷔에 긴장한 샘 알트만은 자사의 트레이드 마크 스웨터와 청바지가 아닌 아닌 넥타이와 파란색 정장을 입고 나왔다.

오픈AI CEO는 메타 CEO 마크 저커버그, 아마존(Amazon) 창업주  제프 베이조스(Jeff Bezos) 등 다른 실리콘밸리 CEO가 의회에 출석했을 때와 마찬가지였다.  이날 청문회에는 크리스타나 몽고메리(Christina Montgomery) IBM 보안과 신뢰 책임자, 개리 마커스 뉴욕대학교 교수 등과 함께 나왔다.

‌‌청문위원들은 허위 정보의 무기화, 소수 그룹에 대한 차별, 빅테크 독과점 강화 등 AI가 가져올 위험에 대해 집중 제기했다. 동시에 AI가 질병을 치료하고 기후변화, 기술 평등 등 긍정적인 면도 있다고 지적했다. 하지만, 자신들의 생각하는 정작 규제 방향에 대해선 명확한 입장이 나오지 않았다.

소위 의장(chairman of the Senate panel)인 리차드 블루멘탈(Richard Blumenthal) 상원 의원은 자신의 발언 녹음으로 청문회를 시작했는데, 이 발언은 실제가 아닌 AI에 의해 만들어졌다고 털어놨다. 블루멘털 의원은 AI의 발전에 대해 긍정하기도 했지만 우려도  않았다. 그는 “AI가 우크라이나가 러시아에 항복했다는 멘트를  거짓으로 만들거나 사실이 아닌 것을 유통한다면 문제가 커질 것”이라고 강조했다.

‌                                              

‌‌소위 위원인 조쉬 할리(Josh Hawley)는 1년 전까지만해도 AI가 대중이 인식에 없었기 때문에 이런 청문회가 필요 없었다며 하지만 AI는 챗GPT가 출시된 지 몇 개월 만에 전세계를 흔들고 있다고 설명했다.

할리 의원은 AI를 정보를 전달해 사람들에게 힘을 실어 준 인쇄기 혹은 원자폭탄에 비유했다. 긍정과 부정 영향이 있을 수 있다는 이야기다.  그는 “원자 폭탄 역시, 엄청난 발견이지만 결과는 심각하고, 끔찍하며, 오늘날까지도 우리를 괴롭히고 있다”고 말했다.

플랫폼 면책(섹션230), AI에 적용?

‌‌일부 의원들은 통신품위유지법(Communications Decency Act)의 섹션230조항을 들고 나왔다. 콘텐츠나 사람들이 올리는 발언으로부터 플랫폼이 면책되는 조항이다.

다만 플랫폼이 이런 유통을 막으려고 하는 적극적인 노력을 해야 한다. 그러나 1996년 만들어진 섹션230조항으로 인해 면책을 특권을 받은 소셜 미디어, 빅테크 플랫폼들은 20년 이 넘게  자신들의 사이트를 네트워크 플랫폼으로 확대하며 규모를 확장했다. 플랫폼에 대한 많은 소송도 섹션 230을 근거로 기각되어 왔다.

그러나 최근 지나친 면책권 부여로 가짜뉴스, 오남용 정보, 명예훼손 문제가 심각하다며 섹션230을 없애야 한다는 목소리도 높다.

AI 플랫폼에도 섹션 230이 반영된다면 플랫폼들은 CP를 만드는 콘텐츠의 심의에 적극적으로 개입하지 않을 가능성도 있다.  블루멘털 의원은 “우리는 이런 실수를 반복해서는 안된다”고 지적했다.

딕 더빈 상원 의원은 “인터넷 초기 섹션 230을 도입한 것은 시작 초기 산업의 안정성을 주기 위한 것”이었다고 설명했다. 지금은 20년 이상이 지난 만큼 이를 없애도 된다는 이야기다.

의원들은 청문회에서 AI를 규제하는 독립 기구 신설도 제안했다. 빅테크 기업들이 자신들의 AI모델과 수집 데이터를 공개하고 마이크로소프트나 구글과 같은 빅테크가 AI시장을 장악하는 것을 막기 위함이다. 당초 예상과는 달리, 알트만에 대한 우호적인 분위기도 형성됐다.

AI가 만드는 하이퍼 광고도 우려

‌‌조쉬 홀리 의원은 “AI가 과도한 개인 정보 수집(DATA Collection)을 통한 ‘어텐션 전쟁(the war of attention)’을 심화시킬 수 있는 AI의 잠재력을 우려했다.

개인의 취향을 지나치게 자세하게 아는 AI가 개인의 사생활을 해칠 수 있다는 이야기다.  생성AI 이용한 ‘하이퍼 타겟 AI광고(Hyper-targeting of ads through AI models)는 물론 오픈AI가 하고 있지 않다.

‌‌그러나 이 자리에 참석한 뉴욕대학교 교수 개리 마커스는 “오픈 AI의 비즈니스 모델은 바뀔수도 있다”고 경고했다. 게다가 오픈AI가 이미 사람들이 필수품이 된 윈도우 OS를 만드는 마이크로소프트와 협력관계를 맺었다는 점은 이 가능성을 더 강화시킨다고 덧붙였다.

‌‌블루멘탈 위원장은  “이번 청문회가 AI의 잠재적 이익과 해악에 대해 더 많이 알게 된 자리”였다며 “결국 AI규제를 위한 규칙을 만드는 것이 중요하다”고 지적했다. 그는 또 “과거 의회가 새로운 기술의 도입 속도를 따라가지 못했다”며 “AI의 위협이 현실이 되기 전 규제를 만들어야 한다”고 강조했다. (Now we have the obligation to do it on AI before the threats and the risks become real)

AI 투명성 요구

AI 제품에 음식물에 붙는 ‘영양레벨(Nutrition label)’을 붙이자는 의견도 나왔다. AI퀄리티 혹은 정보의 신뢰성, 정보 출처 등을 담은 정보를 함께 제공하자는 것이다.

알트먼도 2024년 선거를 의식하면서 만약 AI를 이용한 딥 페이크 이미지가 있다면 사람들은 그것을 알 필요가 있다고 강조했다. 그는  “사람들은 지금도 포토샵을 이용할 수 있지만, AI는 스테로이드가 아닌 그렇게 될 것”이라고 설명했다.

2016년에도 2016년 미국 대선때 러시아가 페이스북 등 소셜 미디어를 통해 선거에 개입한 이후 미국 의회는 테크놀로지 플랫폼의 선거에 미치는 영향을 유심히 보고 있다.

그때에 비해 테크놀로지는 훨씬 발전했고 위험은 가시지 않았다.  특히, 온라인 투표가 늘어남에 따라 이에 개입하려는 시도가 늘고 있다. AI는 이런 문제점을 증폭시킬 수 있다.

미국 국민들도 AI의 확산에 대해 양가적인 감정을 가지고 있다. 버라이어티 설문 조사 결과 응답 대상자의 절반(46%)가 긍정과 기대를 함께 표했다.

알트만의 겸손 답변... 높은 평가

‌‌일부 의원들은 알트만의 의회 출석에 감사를 표했고 자신들과의 사적 미팅을 가졌던 것도 고맙다는 의사를 전달했다. 이에 앞서 샘 알트만은 5월 15일 저녁, 일부하원 의원들과 설명회를 겸한 비공개 만찬를 가쳤다.  또 청문회를 통해 AI에 대해 몰랐던 내용을 청문회를 통해 알았다는 분위기도 있었다.

‌‌블루멘털은 청문회가 끝난 뒤 기자들에게 ‘알트먼의 증언을 다른 CEO들의 증언과 비교하는 것은 밤과 낮(Night and Day)의 차이 처럼 전혀 다른 문제라고 설명했다. 물론 오픈AI의 챗GPT에 대한 우려는 많지만 결정적인 사건이나 문제를 만들지 않았기 때문이다.

‌‌또 그의 겸손한 태도에 많은 의원들이 만족해했다. 블루멘탈은 “알트먼은 말뿐만 아니라 실제 행동하고 움직이려는 의지가 보였다”며 “기존 빅테크들은 법을 위반했지만 알트먼은 협력적이고 달라보였다. 그리고 그는 매우 성실한 답변을 했다”고 덧붙였다.

‌‌아울러 더빈 의원은 오픈AI가 AI에 대한 규제를 해달라고 요청한 것을 신선하게 받아들였다. 더빈은 “다른 산업에서 자신들의 산업을 규제해달라고 요청한 사례는 듣지 못했다”고 말했다. 메타와 구글 등도 개인 정보 보호에 대한 규제를 원하고 있다. 정부의 규제에 앞선 선제 조치에 가깝다.

샘 알트만, 정부가 적정한 AI규제 만들어달라 주문

샘 알트만 오픈AI CEO도 규제에 일정 부분 동의했다. 알트먼은새로운 기술에는 새로운 프레임이 적용되야 한다는 입장을 밝혔다.

‌‌그는 법사위 소위 청문위원들 앞에서 “점점 더 강력해지는 AI에 대한 규제 필요성에 대해 대체로 동의한다”며 증언을 시작했다. 알트먼은 “자신도 규제에 동의한다”며 “오히려 이런 불안감을 해소시키기 규제를 시작해달라”고 요청했다. 알트먼은 “만약 테크놀로지가 잘못되면 모든 것을 망칠 수 있다.”며 “우리는 그런 일이 일어나지 않도록 정부와 함께 일하고 싶다”고 강조했다.

기업인이 정부 규제를 원한다고 말하긴 쉽지 않은 일이다. 그러나 샘 알트만이 규제를 먼저 언급한 이유는 최근 AI에 대한 정부와 의회의 칼날이 예사롭지 않다는 것을  인식한 발언으로 보인다.

‌‌실제,  5월 4일 미국 백악관에서 열린 해리스 부통령과의 면담에서 바이든 대통령이 예정에 없이 방문할 정도 미국 정부는 AI의 미래에 많은 관심을 기울이고 있다.  바이든 대통령은 “AI 개발 업체가 하는 일에는 엄청난 잠재성과 위험이 도사리고 있다”고 강조했다.

‌‌현재 미국 빅테크 기업들은 AI 기술과 시스템 개발에 수십억 투자하고 있다. AI 업무 효율성을 높이고 사람들을 창의성은 높이지만 동시에 오남용 정보를 유통하고 일자리를 빼앗을 수 있다는 우려도 나온다.

‌‌알트먼은 AI가 일자리를 없애기도 하지만 새로운 일을 만들기도 한다고 설파했다.

결국 그는 “정부가 이를 어떻게 관리하고 규제를 완화할 것인지를 알아내는 것이 중요할 것"이라고 말했다. 이어  그는 “AI면허 등 정부 차원의 인증 기관이 필요하다”며 “AI모델, 안전 규정, 테스트 결과 등은 대중적으로 공개될 수 있게 일반인들에게 오픈되어야 한다.”고 강조했다.

는 또 “우리가 지금까지 공급한 AI는 결정보다 이점이 위험을 훨씬 능가한다고 생각한다”며 “하지만, AI에 대한 안전을 보장하는 것이 우리의 작업에 필수적”이라고 덧붙였다.