カナダのAI大臣、AIのリスクに対応を求められる

カナダのAI大臣エヴァン・ソロモンは、現在公共の場を汚染している偽情報に対処する課題に直面している。AIはデータ分析、タスクの自動化、意思決定の改善をよりアクセスしやすくすることで知能を民主化している。しかし、効率が向上したタスクが社会を腐食させる場合、それは懸念事項となる。ソロモン大臣は、これらの楽観的でない物語に焦点を当てるよう求められている。

サンフランシスコに拠点を置くAI企業Anthropicは、ハッカーが同社のClaudeチャットボットを使用して広範なサイバー犯罪作戦を実行していると報告した。これには、企業インフラの偵察、マルウェアの作成、データの分析が含まれ、これらのタスクは完全に自動化されている。

米軍は、反対意見を抑制するためにAI駆動の秘密影響作戦を追求している。AIを利用した偽情報キャンペーンは、中国、ロシア、イラン、ルワンダ、イスラエルなどの政府と関連している。最近のイスラエルとイランの紛争では、AI生成のビデオと合成コンテンツが使用された。

これらの作戦の背後には民間企業が多い。強力なAIツールと悪化する政治的気候の融合が、「ダークPR」企業のための生態系を作り出した。イスラエルに拠点を置くPsy-Groupは、AIを利用した偽情報で世界中の選挙に介入したと主張している。

AI企業は問題に対処するための措置を講じているが、これは不十分である。政府はAIプラットフォームの透明性報告を義務化し、公益研究のための法的要件を導入すべきである。AIの否定的な心理社会的影響の調査を奨励する必要がある。