Grokチャットボットが詐欺リンク拡散に悪用される

悪意のある者たちがGrokを悪用してXに禁止リンクを投稿する方法を発見したと、Guardio Labsの研究者Nati Talが報告している。

彼らは主に成人向けコンテンツを餌にした「ビデオカード」プロモート投稿を運営しており、これらがXの審査をどう通過するのかは謎である。

悪意のあるリンクはビデオプレーヤー下の小さな「From:」フィールドに隠されており、Xではこのフィールドに対する悪意のあるリンクのスキャンが行われていない。

Talはこの攻撃手法を「Grokking」と名付け、Xの管理者に問題を通知した。詐欺師たちはしばしば成人向けコンテンツを餌にした疑わしいビデオ広告を展開する。しかし、リンクがメッセージのメインブロックに挿入されると、Xはその公開をブロックする。

代わりに、悪意のある者たちはリンクをビデオカード下の小さな「From:」メタデータフィールドに隠す方法を学んでおり、このフィールドはソーシャルネットワークによってスキャンされていないようである。

彼らは広告に応答し、Grokに「このビデオはどこから来たのか」や「このクリップのリンクは何か」といった質問をする。チャットボットは隠された「From:」フィールドを解析し、クリック可能な形式で完全な悪意のあるアドレスを返信する。

Grokからの投稿は信頼を高め、投稿のリーチと評判を向上させる。場合によっては、広告が数百万人のユーザーに閲覧される。

研究者は、多くのリンクがデータを盗むマルウェア、偽のCAPTCHAテスト、その他の疑わしいリソースに繋がることを発見した。