Grok, 딥페이크 탐지 기능 추가 예정

Elon Musk의 xAI가 챗봇 Grok에 주요 업그레이드를 진행 중이다. 곧 AI 생성 영상, 즉 딥페이크를 식별하고 추적할 수 있게 될 예정이다. Grok는 영상 파일의 미세한 기술적 단서를 확인하고, 영상의 출처를 찾기 위해 인터넷을 검색할 것이다. Grok Imagine과 Sora 같은 도구가 설득력 있는 가짜 영상을 쉽게 만들 수 있게 하면서 이러한 조치가 이루어졌다.

사용자들이 딥페이크 방지 조치가 부족하다는 우려를 표명한 후, Musk는 Grok가 영상에서 'AI 서명'을 찾기 시작할 것이라고 확인했다. 이는 AI가 남긴 작은 결함이나 패턴을 의미한다. 또한, 온라인 정보를 교차 확인하여 영상의 실제 출처를 파악할 것이다. 목표는 딥페이크가 계속 확산됨에 따라 무엇이 진짜인지 쉽게 구별할 수 있도록 하는 것이다.

Grok의 새로운 도구가 계획대로 작동한다면, 가짜 영상을 식별하고 책임을 물을 수 있을 것이다. 이는 온라인 신뢰에 큰 도움이 된다. AI로 생성된 콘텐츠가 점점 현실적으로 변하면서, 보는 것을 확인할 수 있는 방법이 필수적이 되고 있다. 특히 딥페이크와 잘못된 정보에 대한 우려가 커지고 있는 상황에서 더욱 그렇다.