AIニュース

ニュース · · 02:37 · lyranthos

Anthropic、新しいClaude機能のデータリスクを認める

ほとんどの生成AIサービスは、個人または業務関連のデータやファイルをある程度活用できます。これにより時間と労力を節約できますが、機密情報が誤った人に共有されるリスクがあります。

最近の例として、AnthropicのClaude AIがあります。火曜日、同社はClaude AIがWord文書、Excelスプレッドシート、PowerPointスライド、PDFを作成および編集できると発表しました。この機能は現在、Claude Max、Team、およびEnterpriseの加入者に提供されており、近いうちにProユーザーにも提供される予定です。

しかし、このようなインタラクションにはリスクが伴います。Anthropicは、この機能がClaudeにインターネットアクセスを許可し、データが危険にさらされる可能性があると認めました。この機能は限定されたインターネットアクセスを持つサンドボックス環境で動作しますが、攻撃者がこれを利用して悪意のあるコードを実行したり、機密データにアクセスしたりする可能性があります。

ユーザーは、ファイル作成機能を使用する際にClaudeを監視するように勧められています。予期しないデータ使用やアクセスが検出された場合、直ちに停止し、問題を報告する必要があります。これは生成AI業界で一般的な課題であり、プロバイダーはこのような脅威に対処するのが遅れています。

Anthropicは、Claudeユーザー向けにいくつかのセキュリティ対策を講じていると述べています。継続的なセキュリティテストとレッドチームテストが実施されており、組織はこの機能を有効にする前に、特定のセキュリティニーズに対してこれらの保護を評価することを推奨されています。