인간처럼 말하는 인공지능 생성형AI는 엔터테인먼트, 교육, 의료 등 우리 사회 전반에 확산되고 있다. 그러나 정부 기관의 가이드라인은 확산 속도를 따라가지 못하고 있다.
이에 대한 비난에 쏟아지자 최근 미국 연방 규제 기관들은 인공지능 규제 논의를 본격화하고 있다.
생성형 AI 확산에 따른 여러 피해가 이미 발생하고 있기 때문이다. 이에 AI 사용 관련 안전성 확보와 피해 최소화 등 다각도 규제안을 만들고 있다.
[AI에 대한 규제 과거 어느 기술보다 까다로워]
AI에 대한 규제 프레임 워크 개발은 과거 어떤 기술보다 어렵다는 평가다. 미래 발전 방향 예측이 불투명한 이러한 시스템을 조사하려면 고급 기술이 필요하다.
특히, 규제기관이 AI의 데이터에 무단 접근할 경우 규제 용도라 하더라도 개인 정보 보호 문제가 발생할 수 있다. 일부 기술자들은 과도한 규제가 해외 기업과의 경쟁에 방해가 될 것이라는 점도 우려하고 있다.해외 기업은 바로 중국이다. 규제 부담이 경쟁력에 부담이 될 수 있다는 이야기다.
새로운 법이 없기 때문에 미국 규제 기관은 기존 규제를 AI에 적용하고 있다.
싱크탱크 R스트리트 인스티튜트(R Street Institute)의 테크놀로지&이노베이션 팀 시니어 펠로우 아담 티어러(Adam Thierer)는 워싱턴포스트와 인터뷰에서 “지금 상황에서는 전반적인 AI규제에 대한 법안이 의회에서 통과되기는 쉽지 않을 것”이라며 “그래서 현재 모든 규제가 연방 기관 차원에서 결정되고 있다”고 설명했다.
하지만 AI에 대한 규제가 없다는 점은 많은 문제를 야기할 수 있다. 민주당 상원의원 센 마이클 베네트(Michael F. Bennet)는 “어린이나 가짜 정보 유통을 막는 보호 장치가 없는 상태로 AI사용은 계속 늘고 있다.”며 “현재 AI규제는 기술 개발 속도에 비해 충분하지 않을 것”이라고 설명했다.
개인 정보 침해 , 잘못된 정보 유통, 해외 정부의 통제력 강화 등 생성형 AI의 잘못된 사용으로 인해 발생할 문제점에 대한 소비자들의 우려는 높은 편이다.
모닝컨설트가 2023년 2월 17일에서 19일 사이 2,205명의 성인을 대상으로 '생성형AI의 문제점'에 대한 우려를 조사한 결과 개인 정보 유출에 대해선 10명 중 8명(74%)가 걱정을 표했다. 특히, AI가 특정 산업의 일자리를 뺏아갈 것이라는 우려에 대한 응답도 절반에 가까웠다.
[미국, 정부 기관 AI 규제 전방위 시작]
미국 상무부는 2023년 4월 11일(화 미국시간) AI와 관련 의미있는 조치에 들어갔다. 진화하는 AI시스템 어떻게 규제할지에 대해 여론을 들어보기로 한 것이다.
미국 상무부는 피츠버그 대학(University of Pittsburgh)에서 ‘AI를 규제하려는 노력’을 공개했다. 알란 데이비슨(Alan Davidson) 상무부 차관보는 이 자리에서 감사 프로세스(auditing process)와 관련한 상무부의 규제 계획을 밝혔다.
감사 시스템이란 지금 AI가 편향되어 있는지 또 의사소통을 왜곡해 잘못된 정보나 허위 정보를 퍼뜨릴 수 있는지를 평가하는 시스템이다.
데이비슨 차관보는 워싱턴포스트와 인터뷰에서 “AI감사시스템은 회계법인이 회사를 감사하는 것처럼 부정적 결과 없이 AI시스템을 작동시키기 위해 필요할 것”이라며 “안전하고, 효과적이며, 책임 있고, 합법적인지 확인하는 데 도움이 될 것"이라고 말했다.
미국 연방공정거래위원회(The Federal Trade Commission) 역시 생성형AI가 만들어 낼 수 있는 범죄 가능성을 조사하고 있다. 위원회는 2023년 2월 블로그 포스트에서 AI 기반 기술과 관련해 기만적인 진술을 하고 있는 기업들을 조사하고 있다고 말했다.
샘 레빈(Sam Levine) FTC소비자 보호 국장은 미국 언론과의 인터뷰에서 “AI가 사기 범죄를 악화시킬 수 있는 가능성이 있다”며 “생성형 AI의 발전은 많은 새로운 위기를 가져다주고 있다”고 전했다.
아직은 AI를 규제할 적절한 방법이나 어떤 기관이 이를 맡아야 할 지에 대한 방안이 나오지는 않은 상태다. 그러나 최근 미국에서는 NIST에 AI 규제 기구로 부상하고 있다. NIST, 미국 연방 연구소 국립 표준 기술 연구소(National Institute of Standards and Technology)는 최신 기술에 대한 국가 표준을 개발하는 기관이다. 이 연구소는 AI 책임감 있게 사용하는 방법에 대한 정부 프레임워크(framework)를 개발에 착수했다.
실리콘밸리 거의 모든 기업이 AI개발에 혈안이다. 이런 가운데 워싱턴 미국 규제 기관들은 빠르게 발전하는 기술을 규제하는 상황에서 어떤 역할을 해야 하는 지 고심하고 있다. 특히, 영역 전쟁, 정치적 분열 및 제한된 기술 전문성은 중앙 집중식 규제 기관이 없는 점은 기술 산업을 규제하려는 시도를 방해하고 있다. NIST가 AI통합 규제 기관으로 떠오르는 이유는 특유의 조정 기능 때문이다. 미국 연방표준원(NIST)가 정부 전반에 걸친 AI 규제 노력을 잘 조화하고 조정할 수 있다는 분석들이 많다.
2023년 4월 중순 미 하원 의원들은 실리콘밸리에서 테크 기업 기술 임원들과 모여 미국 정부의 AI규제와 영향력에 대해 논의한 것으로 알려졌다. 이날 미팅의 주제는 중국과의 경쟁에 초점이 맞춰진 것으로 전해졌다. 테크 임원들은 AI 위험을 해결하기 위한 NIST의 AI 프레임워크를 높게 평가했다.
정부가 사이버 공격을 받았을 때 사이버 보안 및 인프라스트럭처 보안 위원회(cybersecurity and Infrastructure Security Agency)가 정부의 대응을 조정하는 것처럼 NIST가 AI업계의 요구를 잘 반영해 담당할수 있을 것이라는 평가다.
미국 정부의 AI 규제 필요성은 2023년 3월 보다 강력한 GPT-4 출시 이후 더 강하게 제기되고 있다.
시민 단체와 기술 전문가들이 인터넷 보다 영향력이 큰 AI를 규제하라며 워싱턴을 압박하고 나섰다.
많은 정치인들도 소셜 미디어 때의 실책을 반면교사 삼아 AI규제에 적극적이다. 당시 소극적인 대응으로 메타 등 소셜 미디어 기업들의 빅브러더가 되는 것을 방조했다는 반성이다. 일단 미국 규제 기관과 의회는 AI 기업과 접점을 넓히며 종합적 규제를 논의 중이다.
기업들도 대응에 나섰다. AI업계에 대한 압력이 가속화됨에 따라, AI 기업 관계자들은 규제 대응과 정책 기준 수립을 논의하기 위한 미팅을 계속 가지고 있다. 악시오스에 따르면 베테랑 벤처 캐피털 리스트 론 콘웨이(Ron Conway)는 2023년 4월 12일(수) 구글, 오픈AI 등 AI와 관련된 기업 인사들을 모아 ‘AI정책’회의를 가졌다.
[유럽에서 강해지는 AI 규제 논의]
유럽도 마찬가지다. 유럽은 현재 미국 기반 빅테크 기업들에 대한 규제를 강화하고 있다. 구글, 애플, 넷플릭스 등의 미국 플랫폼 기업들이 유럽 내 점유율을 공격적 높이고 있기 때문이다.
이에 유럽은 디지털 시장에서도 주권을 확실히 하려는 모양새다. 유럽 진출 미국 기업들은 우려를 표하고 있다. 크리스찬 보그린 CCIA 유럽 선임 부대표는 악시오스 인터뷰에서 “유럽과 미국은 동맹이다. 우리는 서로가 필요하다”며 “우리는 장벽을 치고 규제를 하기 보다 협업하고 소통해야 한다”고 말했다.
특히, 최근 AI에 대한 규제 강화 논의가 한창이다. 유럽 규제 기관들은 AI 규제와 관련한 기초안 마련을 거의 마무리한 상태다. 유럽 위원회, 유럽 의회는 AI에 대한 규제 초안인 ‘AI 법안(Artificial Intelligence Act)’을 2021년 만들었다.
그러나 이 법안은 완전 뒤집히고 있다. 생성형AI의 적용 범위가 매우 넓고 사실상 인간처럼 대화하는 AI에 대한 더 강력한 가이드라인이 필요했기 때문이다.이전 규제안이 챗GPT가 나오기전인 2021년에 만들어졌기 때문에 개인 정보 악용, 얼굴 도용 등 단순한 AI범죄에만 초점이 맞춰진 것이 사살이다.
2023년 4월 13일(목) 유럽 규제 기관은 EU에 챗GPT, 달리2 등 생성형을 기반으로 한 ‘범용 A(general purpose AI)’를 철저하게 규제하라는 내용이 담긴 성명서를 제출했다. 현재 이들 범용 AI는 법에서 고위험 군으로 분류되어 있지 않다. 보그린은 악시와의 통화에서 “EU AI법안의 강화는 현재 위험들은 반영한 조치다. EU의원들은 이 법에 모든 종류의 AI를 추가할 것”이라며 “일부 의원들은 기본적으로 모든 AI가 고위험으로 규제되기를 원하기 때문에 범용 AI에 대해서는 실제 위험이나 증거가 크게 중요하지 않은 것 같다.”고 설명했다. AI가 앞으로 어떻게 발전할 지 알 수 없기 때문에 모든 가능성을 차단하겠다는 이야기다.
이 법안은 EU에데이터를 생산하고 접근하는 테크뿐만 아니라 모든 분야, 모든 이들을 규제하겠다는 내용이다. 이는 글로벌 데이터 전송 및 공유에 영향을 미칠 수 밖에 없어 일부에서는 다른 EU 법률과 충돌할 위험이 있다.
[정부의 강한 규제에 대한 우려도]
AI에 대한 워싱턴 정부기관들의 대응은 엇갈린 평을 받고 있다. 실리콘밸리 캐피탈리스트들도 강한 정부의 규제를 불안을 표시하며 우려하고 있다.
NTIA와 FTC 등 미국 규제기관들은 수년 동안 AI의 위험성에 대해 경고해왔다. 2022년 바이든 행정부는 AI규제 권리 장전 초안을 공개했다.(blueprint for an AI bill of rights) 이 초안은 알고리즘으로 소비자를 차별하면 안되고 데이터 남용으로부터 사람들을 보호해야 한다는 내용을 담고 있다.
하지만, 가이드라인들은 강제성이 없고 AI사용에 대한 단편적 규제만을 만들어내는데 그쳤다는 평가다.
전임 FTC AI고문이자 현 AI 나우 연구소 전무인 암바 카크(Amba Kak)는 “우리는 이런 접근법과 진행 가능한 규제를 혼동하면 안된다.”며 “업계는 이미 차이를 알고 있다”고 설명했다.
때문에 AI에 대한 종합적 법안이 나오기 전 기존 규제 체계를 이용할 필요가 있다는 목소리도 높다. 레빈 전임 FTC 소비자 보호 대표는 사기 등에 적용되고 있는 기존 FTC규제 법안(ACT)이 새로운 생성형 AI의 남용 금지에도 사용될 수 있다고 지적했다. FTC의 규제 법안이 만들어진 지 100년이 넘었지만 여전히 가치가 있다는 이야기다.
샘 레빈 국장은 미국 언론 인터뷰에서 “알고리즘에 의해 작동되는 현재 타깃 광고 비즈니스 모델은 AI를 악용해 온라인에서 먹이를 찾아나서는 사기꾼들에게는 노다지”라고 경고했다.
사칭하고 회사를 흉내내는 광고를 만들어 내는 경향에 더 집중해야 한다. FTC는 또한 AI를 이용, 제품을 허위로 광고하는 회사들을 면밀해 봐야 한다”고 경고했다.
AI에 대한 규제와 함께 유럽은 미국 빅테크에 대한 규제를 전반적으로 강화하고 있다. 클라우드 서비스에 대한 유럽 규제 기관인 EUCS는 클라우드 장치의 사이버 보안에 대한 새로운 인증을 제시했다. 기술 단체들은 아마존, 마이크로소프트, 구글과 같은 미국의 클라우드 사업자들은 유럽에서 퇴출될까 우려하고 있다. 만약 이 합의가 실제 통과된다면, 클라우스 서비스 제공업자들은 EU 내에 자신들의 글로벌 오피스와 지사를 둬야 하며 모든 고객 정보는 EU에서 처리되어야 한다.
보그린은 “미국 클라우드 사업자들을 대상으로 한 차별적 요구는 경쟁과 소비자들의 선택을 심각하게 제한하며 또한 유럽의 사이버보안을 저해할 수 있다. ”고 말했다.
미국 상공회의소(The U.S. Chamber of Commerce)는 이런 법들이 잘못된 정책이라고 지칭하며 유럽 밖으로 데이터를 옮기려는 기업들의 노력을 위협할 것이라고 우려했다. 유럽의 AI에 대한 새로운 규제안은 오는 2023년 6월 문서화한다.
유럽과의 갈등을 막기 위해 미국 정부도 나서고 있다. 2022년 10월 바이든 대통령은 두 대륙 간 데이터 흐름을 규정하는 EU-US 데이터 보호 프레임워크를 구현하기 위한 행정 명령에 사인했다. 하지만, 안은 아직 시행되지 않았다. 유럽 의원들은 여전히 이 안이 부족하다는 입장이다.
한편, 유럽의 대표적인 디지털 규제 법안은 DMA(Digital Markets Act)과 DSA(Digital Services Act)다. 이들 두 법안은 미국산 테크 기업들이 유럽 디지털 플랫폼, 서비스 시장 점유율을 높여가자 건전한 경쟁 구도를 만들기 위한 제재조치로 이뤄졌다.
게이트키퍼(문지기) 법안으로 불리는 DMA는 디지털 시장의 독과점을 엄히 규제한다. 적용 대상은 ‘코어 플랫폼 서비스’(검색엔진, 소셜 미디어 , 메신저)’로 불리는 디지털 플랫폼으로 시가 총액이 최소 8억 2,600만달러 혹은 연간 75억 달러를 벌어들이는 서비스다. EU에서 최소 4.500만 명의 월간 사용자(MAU)나 연간 비즈니스 사용자 10만 명을 넘는 플랫폼도 법에 저촉받는다. 반경쟁법 규정을 어길 겨우 글로벌 매출의 10%를 내야하거나 반복적 침해는 20%의 과징금을 받는다.
DSA는 가짜뉴스나 혐오 정보를 유통하는 소셜 미디어 서비스, 디지털 플랫폼 등을 규제한다. 또 개인 정보를 이용해, 어린이들에게 타깃 광고를 하는 기업도 제재 대상이다. 유럽 지역 월간 활성 이용자가 4,500만 명을 넘는 서비스들이 법의 적용받는다. 불법 콘텐츠 유통을 막기 위한 조치나 시스템을 설치해야 하며 법률을 어길 경우 매출액의 6%를 과징금으로 징수 받는다.
현재 미국 테크 기업들을 법안 준수와 관련한 검토와 협업에 들어갔다. 업계는 이들 법안의 경우 2023년 6월과 8월의 데드라인으로 보고 있다. DSA의 경우 거의 유럽 진출 빅테크가 적용되상이 될 것으로 보이며 DSA는 틱톡이 적용받을 것으로 예측하고 있다.