Safety: Calls for Stronger Online Protections Rise Amidst Rising Exploitation Concerns

Amid growing concerns about the negative impact of social media services on Kids and youths, the need for regulation is also growing. The U.S. lawmakers called the top executives of Meta, TikTok, X, Snap, and Discord to a hearing and accused them of "irresponsible  "social media creating a crisis in America."

Social media has been accused of aiding and abetting the distribution of child pornography, and child sexual abuse is happening with impunity on social media. The regulation of social media services and the response of companies will be a major topic of discussion in the U.S. ahead of the 2024 presidential election.

Attention is also being paid to the passage of the Kids Online Safety Act, which has repeatedly failed on the grounds that social media regulation violates the First Amendment's right to free speech.

Legislation is also being discussed that would elevate child sex trafficking regulations to the federal level. In particular, attention is also focused on whether the United States, which has long recognized freedom of speech, will regulate social media services to correct problems with them.

A three-and-a-half-hour hearing before the Senate Judiciary Committee on January 31, 2024, provided a glimpse into how U.S. regulators view social media. Committee members grilled executives from five tech platforms that operate the most popular social media outlets for teens and children about their measures to protect youth.

During the meeting, lawmakers accused the platforms of prioritizing profits over the welfare of young people. Some lawmakers criticized the companies in strong terms, saying they had "blood on their hands" and that users would "die" waiting for changes to protect children. Lawmakers likened big tech companies to tobacco manufacturers.

"Right now, every American parent is horrified by the garbage that's being targeted at our children," said Senator Ted Cruz, the ranking Republican on the Judiciary Committee.

Tech company representatives at the hearing said their companies have invested billions of dollars to bolster safety measures on their platforms.

Snap and others also said they support legislation that would strengthen privacy and parental controls for children. All of the executives who appeared also emphasized that they are parents themselves, appealing to the emotions of lawmakers.

The hearing is expected to be followed by subsequent legislation.‌‌Judiciary Committee member Amy Klobuchar co-sponsored the SHIELD Act. It would create criminal liability for those who distribute someone's personal information without consent and distribute manipulated online images.

Senator Mike Lee announced during the hearing that he will introduce the Protect Act, which would require websites to verify age and remove non-consensual pornographic images.

However, some criticized the effect of the hearings.

That's because two of the most popular companies among teens, Youtube and Apple, were absent. According to the Pew Research Center, 7 in 10 U.S. teens use YouTube daily. TikTok has a 58% daily teen usage rate, followed by Snap at 51% and Instagram at 47%.

‌                                    

Big Tech and the Online Child Sexual Exploitation Crisis | United States Senate Committee on the Judiciary

United States Senate Committee on the Judiciary

United States Senate Committee on the Judiciary

소셜 미디어 서비스가 청소년에게 미치는 악영향에 대한 우려가 커지는 가운데  ‘규제 필요성도  거세게 일고 있다. 미 의회는 메타(Meta), 틱톡, X, 스냅, 디스코드(Discord) 최고 경영진들을 청문회에 불러 ‘책임감없는  소셜 미디어가 미국의 위기를 만든다’고 비난했다. 소셜 미디어가 아동 유해 콘텐츠 유통을 방조하고 있고 아동 성학대가 소셜에서 무분별하게 일어나고 있기 때문이다. 2024년 대통령 선거를 앞둔 미국은 소셜 미디어 서비스 규제와 기업들의 대응이  최대 화두가 될 전망이다. 소셜 미디어 규제가 ‘발언의 자유’를 인정한 수정헌법에 위반된다는 논리로 번번히 법제화에 실패했던 ‘어린이 온라인 보호법(Kids Online Safety Act)’의 통과 여부도 주목되고 있다.

[테크 플랫폼은 담배 제조사]

2024년 1월 31일 상원 법제사법위원회(Senate Judiciary Committee)에서  3시간 30분 동안 진행된 청문회에는 소셜 미디어를 둘러싼 미국 규제기관의 시각을 여실히 보여줬다. 위원들은 청소년과 어린이들이 가장 많이 이용하는 소셜 미디어를 운영하는 5명의 테크 플랫폼 경영진을 불러 청소년 보호 대책을 따져 물었다.

이 자리에서 의원들은 플랫폼들이 청소년 복지보다 이윤을 우선시한다며  비난했다. 일부 의원들은 이들 회사를 "손에 피를 묻히고" 있으며, 사용자들이 아동 보호를 위한 변화를 기다리다 "죽을 것"이라고 강한 어조로 비판했다.  의원들은 빅테크 회사들을 담배 제조사에 비유했다.

법사위 소속 공화당 상원의원  테드 크루즈(Ted Cruz)는 “현재 모든 미국 부모들이 우리들의 어린이들을 겨냥한 쓰레기에 두려움을 느낀다”고 말했다. 청문회에 나온 테크 기업 대표들은 자신들의 회사가 플랫폼에 안전 조치를 강화하기 위해 수 십억 달러를 투자했다고 밝혔다. 스냅 등은 어린이를 위한 개인정보 보호 및 자녀 보호 기능을 강화하는 법안을 지지한다고 말했다. 아울러 출석한 모든 경영진은 자신도 부모라는 점을 강조하면서 의원들의 감정에 호소했다.

메타 최고 경영자 마크 저커버그는 미국 미주리 주 공화당 상원의원 조쉬 홀리(Josh Hawley)와의 열띤 토론에서 자리에서 갑자기 일어나 사과했다. 저커버그는 “부모님 당신들이 겪고 있는 모든 것에 대해 사과한다”며 “그 누구도 가족들이 겪고 있는 고통의 깊이는 가늠할 수 없다”고 전했다.

그는 메타의 플랫폼이 이러한 고통에 영향을 미쳤는지에 대해서는 언급하지 않았다. 대신 그는 “메타가 이러한 경험을 방지하기 위한 노력에 투자하고 있다”고 말했다.

양당 의원들은 기술이 어린이와 청소년에게 미치는 영향에 대한 경각심이 커지고 있음을 잘 보여줬다. 특히, 2022년 비벡 머시(Vivek Murthy) 박사는 소셜 미디어를 청소년 정신 건강 위기의 원인으로 지목했다.

미국 실종 아동보호센터(National Center for Missing and Exploited Children)에 따르면 2023년 아동 성 학대와 관련된 1억 5,000만 개 이상의 온라인 자료가 신고됐다.

현장에 참여한 부모들은 페이스북 등 소셜 미디어 서비스가 사이버 괴롭힘과 청소년들의 자살을 부추기고 있다고 비난했다. 민주와 공화, 양당 의원들은 소셜 미디어 서비스들의 자체 대책 마련을 촉구했다. 일부 의원들은  어린이 성적 학대 자료 확산을 막고 플랫폼이 청소년 보호 책임을 지우는 내용의 법안을 공개했다.

[어린이 보호 미흡, 빅테크에 대한 여론 싸늘]

빅테크 기업들은  자신들에 대한 싸늘한 여론에 당황했고 동시에 법률적 규제 위기를 맞고 있다. 미국 일부 주들은 소셜 미디어 서비스가 이용자 연령을 반드시 확인하게 하거나 청소년 보호를 위한 다른 조치를 취할 것을 의무화하는 법안을 시행하고 있다. 유럽 연합과 영국에서도 관련 규제 도입이 승인됐다.

영국은 2023년 9월 포르노 사이트 이용 시 나이 인증을 필수로 해야 하는 내용과 혐오 발언, 괴롭힘, 불법 자료를 공유하는 것을 제한하는 것을 담은 ‘온라인 안전 법안(Online Safety Bill)을 통과시켰다.

유럽에서도 비슷한 움직임이 불고 있다. 유럽은 국가 차원의 소셜 미디어 규제와 동시에 콘텐츠 게시와 삭제 여부를 빅테크 기업들이 결정하는 ‘자율 규제 시대’를 마무리하는데  초점을 찾고 있다. 시행에 들어간 디지털 온라인 법(The Digital Services Act)은 기업들에게 불법 정보 유통과 관련한 보다 강력한 조치를 취하도록 경제하고 있다. 그러나 이런 규정들은 법률적 도전에 직면해 있다.

2023년 여름, 미국 오하이오주는 인스타그램, 스냅챗, 틱톡, 유튜브 등이 16세 이하 청소년이 플랫폼을 이용하는 것을 허락하기 전 부모 동의를 필수로 받을 것을 의무화하는 소셜 미디어 법안(social media statute)을 제정했다.

그러나 2024년 1월 법안 시행 전, 구글, 메타, 틱톡 등 테크 기업들의 속한 이익 단체 넷초이스(NetChoice)는 ‘발언의 자유’를 침해한다는 이유로 법안 시행을 금지하는 소송을 연방 법원( Federal District Court judge)에 제출했다. 가처분 신청을 제기해 시행 자체를 지연시키고 있다.

오하이오주 존 허스테드 부지사(Jon Husted)는 업계 소송에 대해 뉴욕타임스에 "비겁하고 정직하지 못한 행동이라고 생각한다”며 “이 법안 발의 전 구글과 메타를 만났고 두 회사의 우려를 수용했다고 지적했다. 그러나 우리는 최대한 협조하려고 노력했지만 11시간 만에 소송을 제기했다”고 말했다.

넷초이스는 “각 주에서 발의되는 새로운 법안들에 대해 일일히 대응하고 있다. 이들  ‘수정헌법’에 근거, 미성년자들이 정보를 얻을 권리를 제한하고  정보를 자유롭게 배포할  ‘수정헌법 자유(First Amendment rights to freely distribute information)’를 침해할 수 있다고 말했다. 넷초이스는 지난해 캘리포니아와 아칸서 지역에서 소셜 미디어를 규제하려던 주법 시행을 일시적으로 막았다.

미국 백악관 역시, 소셜 미디어 규제 대열에 합류했다. 1월 31일 청문회 이후 백악관 대변인 카린 장 피에르(Karine Jean-Pierre)는 “소셜 미디어가 청소년 정신 건강 위기에 영향을 미친다는 부인할 수 없는 증거”가 있다고 말했다.

[의회 청문회 수십 번, 연방 규제 도입은 0]

빅테크들에 대한 규제는 수 십년 동안 여러 번 시도됐다.
그러나  효과적인 정책은 마련되지 않았다. 뉴욕타임스는 메타는 2017년 이후 외국정부의 선거 개입, 반독점, 1월 6일 의회 폭동 관련 소셜 미디어 역할 등으로 의회에서만 33번 증언했다고 보도했다. 이중 저커버그 메타 CEO는 청문회로 의회에 8번째 출석했다.

틱톡의 최고 경영자인 쇼우 츄(Shou Chew)는  미국인들의 정보 보호와 관련해 청문회에 출석한 지 1년도 채 되지 않아 다시 증인으로 나왔다. 에반 스피겔(Evan Spiegel) 스냅 CEO, 린다 아카리노(Linda Yaccarino) X 대표, 제임스 시트론(Jason Citron) 최고 경영자는 의 소환 후 청문회 첫 출석이었다.

그러나 테크 기업에 대한 연방 차원의 법률 도입은 매번 실패했다. 상원과 하원에서 수십개 법안이 다뤄졌지만, 테크 기업들의 로비와 공화당과 민주당의 이견으로 최종 입법 단계에서 좌절됐다.

조지타운 대학교 로스쿨 교수이자 이전 FCC 소비자 보호 책임자(head of consumer protection)였던 데이비드 블라텍(David Vladeck)은 NYT와 인터뷰에서 ‘테크 기업에 대한 의회의 조치’를 만화 “스누피 피너츠(Peanuts)”에 비유했다.

그는 “의회는 필수적인 법안 처리를 계속 미루고 있지만, 찰리 브라운이 축구공을 찰 때마다 루시가 빼앗아 가는 기분이 든다(Congress has consistently punted on tech legislation that seems essential, but I feel like Charlie Brown — every time he wants to kick the football, Lucy takes it away)”라고 말했다.

뉴욕타임스는 연방 정부 또한 온라인 아동 학대 방지를 위해 더 많은 자원을 제공할 수 있는 기존 법률을 따르지 않았다고 보도했다. 법 집행에 따른 자금은 의회가 더 많은 예산(2023년 4,080만 달러)을 배정했음에도 불구하고 온라인 학대 신고의 엄청난 증가 속도를 따라잡지 못했다.

[2021년 이후 급증한 청소년 관련 범죄에 집중]

의원들은 청문회에서 2021년 이후 급증한 소셜 미디어의 악영향(harmful effects)에 집중했다.
메타의 전 직원 프란시스 호겐(Frances Haugen)이 인스타그램이 청소년들의 신체 이미지에 악영향을 미친다는 것을 알고 있었다는 내부 연구 결과를 은폐했다고 폭로한 그 해(Facebook Knows Instagram Is Toxic for Teen Girls, Company Documents Show)다. 당시 관련 내용은 월스트리트저널(WSJ)이 단독 보도했다.

이후 상원 법사위(The Senate Judiciary Committee)는 테크 기업 경영진을 불러, 성 착취 전문가 등과 함께 여러 차례 청문회를 개최해, 온라인에서 아동에게 위험한 활동이 벌어지고 있음을 강조했다. 청문회에 앞서 의원들은 저커버그를 포함한 메타의 최고 경영진 사이 오간 이메일을 공개했다. 어린이 안전 문제와 싸우는 데 필요한 리소스를 충원하는 것을 회사가 거부한 사례가 드러났다.(Meta Rejected Efforts to Improve Children’s Safety, Documents Show) 2021년 부터 내부 최고 경영진들이 주고 받은 이 이메일에는 수 십명의 엔지니어와 직원들이 어린이 건강과 안전에 대한 조치들이 열거되어 있었다.

이 중 결정타는 어린이 보호를 위해 45명의 직원을 뽑자는 제안을 저커버그가 거부한 사실이다. 이번에 최초로 공개된 이 문서는 지난 2023년 33개 주 법무장관이 메타가 젊은 사용자들을 자사 앱에 중독시켰다며 제기한 소송에서 인용된 바 있다.

[치열했던 청문회 “당신의 제품이 사람들을 죽이고 있다”]

청문회는 소셜 미디어 플랫폼의 문제로 아동 성 착취 피해를 당한 이들의 동영상으로 시작됐다. 청문회장은 온라인 학대로 사망한 자녀의 사진을 든 비통한 모습의 부모들로 가득 찼다. 페이스북 메신저를 통한 학대로 2021년 15살 아들을 잃은 부모 마리 로디(Mary Rodee)씨는 “빅테크 기업들은 청소년 보호를 위해 충분한 노력을 기울이지 않고 있다”며 “말만 하는 것 이제 그만”이라고 말했다.

이후 상원 법제사법위원회의 공화당과 민주당 의원들이 번갈아 가며 어린이들이 플랫폼에서 겪는 피해에 대해 알고 있는 빅테크 경영진을 비난하는 이례적인 모습을 보였다.

위원회 위원장이자 민주당 일리노이 딕 더블린(Dick Durbin) 상원의원은 “기본적인 안전보다 몰입과 이윤을 끊임없이 추구하는 기업들은 우리 아이들을 위험에 빠뜨린다”며 강하게 비난했다. 이 때 하울리(Hawley) 상원의원은 저커버그에게 “당신의 제품이 사람들을 죽이고 있다”고 말했다.

저커버그와 틱톡 대표는 의원들의 집중 타깃이 됐다. 어린이 안전과 관련한 법안을 이들 회사가 지지하지 않는다고 맹비난했다. 또 스냅(Snap) 스피겔 CEO에 대해선 스냅챗에서 벌어지는 마약 거래의 문제점을 지적했다. 슈피겔 CEO는 플랫폼을 통해 마약을 구매한 후 펜타닐 과다 복용으로 사망한 자녀를 둔 부모들에게 사과했다. 슈피겔 은 “우리가 그런 비극을 막지 못해 정말 죄송하게 생각한다”며 “스냅은 마약과 관련된 검색어를 차단하고 법 집행 기관과 협력하고 있다”고 말했다.

특히, 틱톡은 어린이 안전과 무관한 질문들을 많이 받았다. 중국기업인 바이트댄스(ByteDance)가 대주주로 있는 틱톡은 중국에서 미국인들이 개인 정보를 어떻게 처리하는 지 대한 질문에 시달렸다. 또한 츄 CEO에게는 이스라엘 틱톡 로비스트가 플랫폼이 이스라엘을 차별하고 있다고 비난하며 사임한  보도에 대해 집중적으로 물었다.

의원들은 또한 1996년 만들어진 통신품위유지법(Communications Decency Act)에서 인터넷 플랫폼이 콘텐츠 내용에 책임지지 않도록 하는 면책조항 섹션230을 폐지하는 내용의 법안 발의에 집중했다. 대표적인 빅테크 강경론자인 에이미 크로부처(Amy Klobuchar) 상원의원(미네소타)은 “사법 기관이 개입하지 많으면 아무것도 바뀌지 않을 것”이라고 말했다.

[유튜브 애플 불참 논란]

그러나 이번 청문회가 반쪽 자리라는 비판도 있다.  청소년들에게 가장 인기 있는 유튜브(Youtube)와 애플(Apple)이 불참했기 때문이다. 퓨 리서치 센터(Pew Research Center)에 따르면 미국 청소년 10명 중 7명이 유튜브를 매일 사용한다. 틱톡은 10대 일일 사용 비율이 58%였고 스냅은 51%, 인스타그램은 47%였다. 사용량 만큼, 청소년 관련 범죄도 많이 일어난다.

2022년 유튜브 지원으로 ‘ 미국 실종 및 착취 아동센터(National Center for Missing and Exploited Children, CSAM)’에 63만 1,000건 이상의 콘텐츠를 신고했다. CSAM에 따르면, 2019년 이후 아동 성학대 콘텐츠 신고가 87% 증가했으며, 2023년에는 3,200만 건의 아동 성학대 콘텐츠 신고가 분석됐다.

애플 또한 청문회에 불참했다. 애플은 2021년 약속한 아동에게 가학적인 콘텐츠를 아이폰에서 검색하고 차단하는 기능을 탑재하겠다고 했지만 말을 바꿨다. 정부가 이 기능을 악용할 수 있다는 비난에 중단했지만 아동 인권 보고 단체로부터 맹공을 받고 있다. 유튜브(YouTube)와 애플(Apple)은 청문회에 참석을 요청 받지 않았다. 법사위 대변인은 이번에 참석한 5명이 다양한 기업의 형태를 대표한다고 밝혔다.

[향후 전망, “법적 규제로 이어질 것”]

청문회에 앞서 빅테크 기업들은 정부 규제를 피하기 위해 앞다퉈 어린이 보호 관련 자체 규제안을 내놨다. 메타는 10대들에 다이렉트 메시지(DM)를 보내는 규정을 더 까다롭게 하고 자녀 보호  기능을 강화한 대책을 내놨다. 이제 청소년과 친구를 맺지 않은 19세 이상 성인들은 다이렉트 메시지를 한번만 보낼 수 있다. 메타는 2023년 50억 달러를 안전과 보안에 투자할 것이라고 선언한 바 있었다.

스냅(Snap)과 X 경영진은 어린이 온라인 안전 법안(Kids Online Safety Act)을 지지한다고 밝혔다. 어린이 청소년의 정보 수집을 까다롭게 하고, 소셜 미디어 이용에 대한 부모들의 자녀 보호 통제를 강화하는 내용으로 제안된 법안이다.  또 X의 린다 아카리노는 법사위 의장인 딕 더빈(Dick Durbin)’이 발의할 예정인 아동 성매매 금지 규제를 연방 차원에서 처리하는 법안(CSAM Act)에도 찬성했다.

의회 청사 앞에는 저커버그, 츄 등 빅테크 경영진을 비난하는 비영리 단체나 부모들의 든 피켓과 플래카드가 가득 찼다. 또 대기업을 비판하는 한 비영리 단체는 저커버그와 츄가 샴페인 잔을 부딪치며 현금 산더미 위에 앉아 있는 모습을 골판지로 잘라 전시했다.

빅테크 경영진을 비판하는 문구도 많았다.

청소년 관련 플랫폼 규제에 찬성하는 이들은 "나는 270달러보다 더 가치 있다"는 티셔츠를 입고 있었다. 메타의 내부 이메일에서 "13세 청소년의 평생 가치는 대략 270달러"라고 나와 있어 테크 기업들이 사용자를 단순히 수익원으로만 간주하고 있다는 것을 비판하려는 의도였다.

청문회 이후 후속 법안 발의들이 이어질 것으로 예상된다.

법사위 위원인 에이미 크로부차는 ‘쉘드(SHIELD Act)’ 법안을 공동 발의했다. 동의 없이 다른 사람의 개인 정보를 유통하고 조작된 온라인 이미지를 유통하는 이들에게 형사 책임을 물리는 법안이다.

마이크 리 상원의원은 청문회 중 웹사이트에 웹사이트에 연령 확인과 비동의 음란물 이미지 삭제 절차를 의무화하는 '보호법(Protect Act)’을 발의할 예정이라고 발표했다.