화요일에 Meta는 OpenAI 및 Google과 같은 다른 회사의 AI 생성 이미지에 태그를 지정하기 시작할 계획을 발표했습니다. 이러한 움직임은 다음과 같은 플랫폼의 투명성을 높이는 것을 목표로 합니다. Facebook, Instagram Threads는 사용자가 보고 있는 콘텐츠가 실제 사진이나 비디오가 아닌 합성된 디지털 미디어임을 사용자에게 알려줍니다.
Meta의 솔루션은 서면 메시지를 기반으로 가짜이지만 사실적인 오디오, 이미지 및 비디오를 생성할 수 있는 생성 AI 모델로 생성된 콘텐츠에 라벨을 지정하기 위한 표준을 설정하려는 광범위한 기술 업계 노력의 일부입니다.
Meta의 글로벌 업무 담당 사장인 Nick Clegg는 Meta 웹사이트의 블로그 게시물을 통해 이같이 발표했습니다. Clegg는 "우리는 전 세계에서 중요한 선거가 많이 열리는 내년에도 이 접근 방식을 계속 따를 것"이라고 썼습니다. "이 기간 동안 우리는 사람들이 어떻게 인공 지능으로 콘텐츠를 만들고 공유하는지, 사람들이 가장 중요하게 생각하는 투명성은 무엇인지, 이러한 기술이 어떻게 진화하고 있는지에 대해 더 많이 배울 수 있기를 바랍니다."
Clegg는 Meta의 AI 생성 콘텐츠 태깅 이니셔티브가 자체 AI 도구로 생성된 콘텐츠에 태그를 지정하는 기존 관행을 확장하여 다른 회사의 서비스를 사용하여 생성된 이미지를 포함할 것이라고 언급했습니다.
“우리는 Google, OpenAI, Microsoft, Adobe, Midjourney 및 Shutterstock은 도구로 생성된 이미지에 메타데이터를 추가하려는 계획을 실행하고 있습니다.”
Meta는 AI 생성 콘텐츠 라벨링 기술이 눈에 보이지 않는 워터마크와 파일에 포함된 메타데이터를 기반으로 할 것이라고 말합니다. Meta는 공개 AI 이미지 생성기로 생성된 이미지에 작은 "Imaginad with AI" 워터마크를 추가합니다.
게시물에서 Clegg는 오디오 및 비디오 콘텐츠에 레이블을 지정하는 도구가 아직 개발 중이라고 언급했지만 AI 생성 이미지에 안정적으로 레이블을 지정하는 기업의 능력에 대한 자신감을 표명했습니다. 그동안 Meta는 사용자에게 수정된 오디오 및 비디오 콘텐츠에 태그를 지정하도록 요구하며 태그를 지정하지 않을 경우 불특정 벌금을 부과합니다.
그는 "우리는 사람들이 디지털 방식으로 제작되거나 변경된 사실적인 비디오나 사실적인 사운드가 포함된 유기적 콘텐츠를 게시할 때 이러한 공개 및 라벨링 도구를 사용하도록 요구할 것이며, 그렇지 않은 경우 처벌을 받을 수 있습니다"라고 썼습니다.
그러나 Clegg는 현재 AI 생성 텍스트에 라벨을 지정하는 효과적인 방법이 없으며, 서면 콘텐츠에 대해 이러한 조치를 구현하기에는 너무 늦었다고 지적했습니다. 이는 AI 텍스트 감지기가 작동하지 않는다는 당사의 보고와 일치합니다.
이 발표는 Meta의 독립 감독 위원회가 현혹적으로 변조된 동영상에 대한 회사의 정책이 너무 좁다고 비판하고 그러한 콘텐츠를 삭제하기보다는 신고하도록 권장한 지 하루 만에 나왔습니다. Clegg는 이러한 비판에 동의하며 기존 메타 정책이 인터넷에서 증가하는 합성 및 하이브리드 콘텐츠의 양을 관리하는 데 부적절하다는 점을 인정했습니다. 그는 새로운 라벨링 이니셔티브가 감시 단체의 권장 사항을 구현하고 유사한 조치를 위한 업계 전반의 추진력을 촉진하는 단계라고 보고 있습니다.
Meta는 일부 오픈 소스 AI 이미지 합성 도구로 생성된 이미지와 같이 워터마크나 메타데이터 없이 생성된 AI 생성 콘텐츠를 감지할 수 없다는 점을 인정합니다. Meta는 오픈 소스 이미지 생성기에 내장될 수 있는 Stable Signature라는 이미지 워터마킹 기술을 연구하고 있습니다. 그러나 픽셀은 픽셀인 한 기술 업계에서 통제하지 않는 방식으로 생성될 수 있으며, 오픈 소스 AI 도구가 더욱 정교하고 현실화됨에 따라 이는 AI 콘텐츠 감지에 대한 과제로 남아 있습니다.
또한 읽기: