캐나다 AI 장관, AI의 위험성 간과 말아야

캐나다의 AI 장관 에반 솔로몬은 현재 공공 영역을 오염시키고 있는 일부 허위 정보에 대처하는 도전에 직면해 있다. AI는 정보 분석, 작업 자동화, 의사 결정 개선을 더 쉽게 만들어 지능을 민주화하고 있다. 그러나 효율성이 향상된 작업이 사회를 부식시키는 경우에는 어떻게 될까? 솔로몬 장관은 이러한 덜 긍정적인 이야기들에 더 많은 관심을 기울여야 한다.

샌프란시스코 기반의 AI 회사인 Anthropic은 최근 해커들이 자사의 Claude 챗봇을 사용하여 기업의 인프라를 정찰하고, 정보를 훔치기 위한 악성 코드를 생성하며, 데이터를 분석하여 피해자를 협박하는 데 사용할 수 있는 방법을 찾는 등 광범위한 사이버 범죄 작업을 수행했다고 보고했다. 이러한 작업은 이제 자동화되어 있다.

미국 군대는 AI를 활용한 비밀 영향력 작전을 추구하고 있으며, 이는 반대 의견을 억제하는 데 사용되고 있다. 이와 같은 AI 기반 허위 정보 캠페인은 중국, 러시아, 이란, 르완다, 이스라엘 등 여러 정부와 연결되어 있다. 최근 이스라엘과 이란 간의 갈등에서도 AI 생성 비디오와 합성 콘텐츠가 사용되었다.

많은 이러한 작전의 특징은 이를 수행하는 민간 기업들이다. 강력한 AI 도구와 악화되는 정치적 기후가 결합되어 '어두운 PR' 회사들이 번성할 수 있는 완벽한 생태계를 만들었다. 이스라엘 기반의 Psy-Group은 AI를 활용한 허위 정보로 여러 선거에 개입했다고 주장했다.

AI 회사들은 문제를 해결하기 위한 조치를 취하고 있지만, 이는 충분하지 않다. 정부는 AI 플랫폼의 투명성 보고를 의무화하고, 공익 연구를 위한 법적 요구 사항을 도입해야 한다. AI의 부정적인 심리 사회적 영향을 조사하는 것을 장려해야 한다.