[I/O 2025] 신스ID 디텍터 - AI 생성 콘텐츠 식별을 돕는 새로운 포털
생성형 AI 기술의 발전은 사람들이 콘텐츠를 제작하는 방식을 완전히 바꾸고 있습니다. 이제 텍스트는 물론 고품질의 오디오, 이미지, 동영상까지 다양한 형식의 콘텐츠를 제작할 수 있게 되었고, 이러한 기능이 점점 더 보편화되면서 콘텐츠의 진위 여부, 출처, 맥락에 대한 검증이 더욱 중요해졌습니다.
구글은 오늘 AI로 생성된 콘텐츠를 빠르고 효율적으로 식별할 수 있도록 돕는 검증 포털 신스ID 디텍터(SynthID Detector)를 공개했습니다. 이 포털은 텍스트, 이미지, 오디오, 영상 등 다양한 콘텐츠 형식에 대한 탐지 기능을 한 곳에서 가능하게 해, 빠르게 변화하는 생성형 미디어 환경에 핵심적인 투명성을 제공합니다. 또 콘텐츠 안에서 신스ID 워터마크가 삽입되었을 가능성이 높은 부분을 하이라이트해 알려줍니다.
구글이 눈에 보이지 않는 워터마크 삽입을 통해 AI 생성 콘텐츠를 식별할 수 있는 첨단 툴 신스ID를 처음 선보인 목적은 허위 정보나 출처 오인 가능성을 줄이기 위한 새로운 기술적 솔루션을 제공하기 위해서였습니다.
신스ID는 콘텐츠의 품질을 그대로 유지하면서, 콘텐츠가 공유되거나 다양한 방식으로 변형되더라도 워터마크가 감지될 수 있도록 합니다. 처음에는 AI로 생성된 이미지에만 적용되었으나 현재는 구글 전반의 제미나이, 이마젠, 리리아, 비오 모델 등을 통해 생성된 텍스트, 오디오, 영상 콘텐츠까지 적용 범위를 확장했습니다. 지금까지 100억 개 이상의 콘텐츠에 신스ID 워터마크가 삽입되었습니다.
신스ID 디텍터의 작동 방식
이용자가 구글 AI로 생성된 이미지, 오디오 트랙, 비디오 또는 텍스트를 업로드하면, 해당 미디어를 스캔하여 업로드된 콘텐츠 또는 특정 부분에 신스ID 워터마크가 포함되어 있는지 감지한 후 그 결과를 표시합니다. 신스ID 워터마크가 감지되면, 콘텐츠 내에서 워터마크 처리되었을 가능성이 높은 부분을 하이라이트합니다. 오디오 트랙의 경우 신스ID 워터마크가 감지된 특정 구간을 하이라이트하고, 이미지의 경우 워터마크가 포함될 가능성이 높은 영역을 표시해 줍니다.
신스ID 디텍터 작동 방식은 다음과 같습니다 1 :
- 콘텐츠 업로드: 구글 AI로 생성된 이미지, 오디오, 비디오 또는 텍스트를 업로드합니다.
- 워터마크 스캔: 업로드된 콘텐츠를 스캔해 콘텐츠 전체 또는 특정 부분에 신스ID 워터마크가 포함되어 있는지 탐지합니다.
- 결과 확인: 스캔 결과 신스ID 워터마크가 탐지되었을 경우, 워터마크 삽입 가능성이 높은 영역을 하이라이트 해 보여줍니다.
신스ID 디텍터는 오늘부터 초기 테스터를 대상으로 순차적으로 제공되며, 이후 더 많은 이용자에게 지원 될 예정입니다. 기자, 미디어 전문가, 연구자들은 여기에 등록해 해당 기능을 이용할 수 있습니다.
신스ID 생태계 확장
구글은 신뢰할 수 있는 생태계 조성을 목표로 텍스트용 신스ID 워터마크 기술을 오픈 소스로 공개해, 모든 개발자가 해당 기술을 자유롭게 활용하고 자신만의 모델에 적용할 수 있도록 지원하고 있습니다.
올해 초 구글은 신스ID 기술의 활용 범위를 넓히기 위한 첫 걸음으로 업계 파트너들과 생태계 구축에 나섰습니다. 대표적으로 NVIDIA와 협력해 build.nvidia.com에서 NVIDIA Cosmos™ 프리뷰 NIM 마이크로서비스로 생성된 영상에 신스ID 워터마크가 적용되도록 했습니다. 이는 이제 구글이 생성한 콘텐츠 뿐 아니라, 웹 전반에 걸쳐 더 많은 콘텐츠에 신스ID가 내장되어 있음을 의미합니다.
다른 파트너들이 신스ID 워터마크가 삽입된 콘텐츠를 탐지할 수 있도록 하는 것 또한 중요합니다. 오늘 구글은 세계를 선도하는 콘텐츠 검증 플랫폼 ‘겟리얼 시큐리티(GetReal Security)’와의 파트너십도 발표했습니다. 신스ID 기술을 활용한 파트너십에 관심 있으시다면, 여기를 통해 문의해 주시기 바랍니다.
콘텐츠의 투명성은 여전히 복잡한 과제입니다. 구글은 AI로 생성된 콘텐츠를 접하는 이용자의 이해와 대응 능력을 높이기 위해 AI 커뮤니티와 지속적으로 협력하고, 투명성 툴에 대한 접근성을 확대해 나갈 것입니다.
