2025년 5월 개최된 ‘스트리밍미디어커넥트(Streaming Media Connect)’ 온라인 컨퍼런스에서, AI가 생성한 콘텐츠의 신뢰성과 진위를 어떻게 보장할 것인가에 대한 심도 깊은 논의가 이뤄졌다. ‘In AI We Trust: AI and Content Authenticity’ 세션에서는 뉴스, 광고, 아카이브, 그리고 콘텐츠 제작 전반에 걸쳐 AI가 미디어에 미치는 영향과 이에 대응하는 다양한 기술적·윤리적 해법이 제시되었다.

콘텐츠의 출처를 밝히는 것이 신뢰의 시작

패널 토론의 출발점은 “AI 생성 콘텐츠로 인해 가장 큰 신뢰 손상을 입을 가능성이 있는 분야는 어디인가?”라는 질문이었다. 스트링어(Stringr) CEO 린지 스튜어트(Lindsay Stewart)는 “뉴스 분야야말로 사실 여부가 생명인데, AI 이미지나 텍스트를 잘못 사용하면 사회적으로 심각한 오보와 혼란을 유발할 수 있다”고 경고했다.

실제로 스트링어는 콘텐츠의 출처와 위치정보를 철저히 확인하고, 영상이 수급되면 반드시 사람이 검토하는 이중 검증 체계를 운영하고 있다. 스튜어트는 “기술이 아무리 발전해도, 누가 언제 어디서 무엇을 했는지에 대한 기본적인 언론의 질문은 여전히 사람의 몫”이라고 강조했다.

인증의 표준화, 글로벌 협력이 필요하다

콘텐츠의 진위를 판별하고 출처를 증명하는 표준화 작업은 아직 초보 단계에 머물러 있다. Jenkins I2A 대표는 “C2PA, CAI, EBU, SIMY 등 여러 단체들이 이미지와 메타데이터 인증 기준을 제시하고 있지만, 아직 모든 산업이 받아들일만한 통합 표준은 존재하지 않는다”고 말했다. 그는 “진짜 중요한 것은 산업 전반의 글로벌 협력”이라며, 특히 블록체인 기반 인증 기술이 향후 핵심 역할을 할 것이라고 내다봤다.

오픈오리진스(Open Origins) CEO 마니 아흐메드(Manny Ahmed)는 이에 동의하며 “C2PA는 메타데이터에 의존하기 때문에 손쉽게 조작될 수 있으며, 궁극적인 신뢰는 '누가 콘텐츠를 만들었는가'보다 '그 장면이 실제로 있었는가'에 있다”고 주장했다.

아흐메드는 자사의 방식으로 실시간 카메라 인증, 실물 기반의 3D 촬영 장면 검증, 그리고 이를 블록체인에 등록하는 기술을 소개하며, “이미지가 진짜임을 증명하려면 결국 물리적 현실과 연결돼야 한다”고 덧붙였다.

AI와 인간, 새로운 직무의 탄생

AI가 콘텐츠 생산에 관여하는 시대에는 사람의 역할이 더 중요해진다. 스튜어트는 “텍스트-영상 변환 등 자동화 기술이 발전하더라도, 그 기초가 되는 정보는 반드시 신뢰할 수 있는 데이터여야 한다”고 말했다. 그녀는 “AI는 원본 데이터를 변형하는 데는 강하지만, 새로운 사실을 창조하지는 못한다. 결국 데이터 수집은 여전히 인간의 몫”이라고 강조했다.

전문가들은 또한 AI의 발전이 오히려 새로운 직업을 만들 수 있다고 전망했다. Jenkins는 “콘텐츠의 진위를 검증하는 사람, 즉 ‘AI 감별 전문가’는 앞으로 미디어 산업에서 중요한 직군이 될 수 있다”고 말했다. 이어 “뉴스룸에서 하나의 기사가 많은 업무를 떠안게 되었듯, 반복적인 ‘드러지 잡(drudgery job)’은 AI가 대신하고, 인간은 본질적 판단과 취재에 집중해야 한다”고 덧붙였다. 실제로 스튜어트는 “로봇은 시장에서 시장을 구경할 수 있어도, 시장 상인에게 물어볼 수는 없다. 인터뷰는 인간의 고유한 역할”이라고 강조했다.

기업이 AI 벤더에게 던져야 할 질문들

토론의 마지막 주제는 “AI를 활용하는 기업이 벤더에게 반드시 물어야 할 질문”이었다. 스튜어트는 “우리 고객은 가장 먼저 ‘이 데이터셋은 어디서 왔고, 라이선스는 받았는가?’를 묻는다. 이에 우리는 모든 데이터의 출처와 계약을 공개한다”고 설명했다. 아흐메드는 “향후 수십 년간 그 데이터의 신뢰성이 유지될 수 있는가?”라는 질문이 중요하다고 지적하며, 장기적인 신뢰 체계 구축의 필요성을 역설했다.

앤디 비치(Andy Beach)는 AI로 생성된 콘텐츠가 저작권 보호를 받을 수 있으려면, AI 사용 과정에서의 인간 개입을 명확히 기록해야 한다고 강조했다. 그는 “현재 미국법상 완전히 AI가 만든 콘텐츠는 저작권을 받을 수 없다. 하지만 생성 과정에서 사람의 선택과 수정이 명확하면 저작권을 인정받을 수 있다”고 설명했다.

정책과 기술, 그리고 사람의 결합이 핵심

이번 패널 토론은 단순한 기술 세미나를 넘어, AI 시대의 콘텐츠 신뢰 문제에 대한 사회적 합의와 국제적 규범 마련의 필요성을 절실히 보여주었다. Jenkins는 “AI 콘텐츠의 신뢰성 문제는 단지 기술로만 해결할 수 없다. 기술, 표준, 정책, 교육, 윤리 등 모든 요소가 결합되어야 한다”고 말했다.

‘AI와 콘텐츠의 진정성(In AI We Trust)’이라는 주제를 던진 이번 논의는, 단지 한 세션에 그치지 않고 미디어 업계 전반에 장기적인 질문을 던졌다. “우리는 무엇을 믿을 수 있는가?”라는 질문은, 앞으로 더욱 복잡해질 AI 시대 미디어 환경에서 계속해서 되새겨야 할 화두이다.