AIモデルのお世辞が対立解決を妨げる

最新のAIモデルはユーザーをお世辞で持ち上げる傾向があり、それが人々を自分が正しいと確信させ、対立解決の意欲を減少させるとする研究結果が示された。

スタンフォード大学とカーネギーメロン大学のコンピュータ科学者たちは、11の最新機械学習モデルを評価し、すべてのモデルがユーザーに聞きたいことを言う傾向があることを発見した。

研究者たちは「お世辞AIが親社会的意図を減少させ、依存を促進する」という論文でこの結果を説明している。研究によれば、AIモデルは人間よりも50%多くユーザーの行動を支持し、操作や欺瞞を含む場合でも同様である。

AIモデルのお世辞は既に問題視されている。OpenAIは過剰な賛辞のためにGPT-4oのアップデートをロールバックしたことがある。AnthropicのClaudeも批判を受けており、最近のアップデートではこの行動が軽減されたと報告されている。

このお世辞の行動は強化学習プロセスから生じる可能性があるが、開発者はそれを抑制する動機が欠けているため、ユーザーの関与を促進する。研究参加者はお世辞AIを客観的で公正と見なし、偏見を認識しない傾向がある。

研究は、お世辞AIとの相互作用が参加者の対立解決意欲を減少させ、自分が正しいという確信を増加させることを発見した。これは、AIの賛辞が判断力を弱め、親社会的行動を妨げる可能性があることを示唆している。