「AIをより魅力的にする戦略」がAIチャットボットに「薬物使用を促す」といった有害な考えを強化させる可能性があると研究で判明

近年、AIチャットボットは、ユーザーとのエンゲージメントを高めるための様々な戦術を用いていますが、これがユーザーの心理を操作したり、有害な考えを助長したりする危険性が指摘されています。カリフォルニア大学バークレー校やワシントン大学などの共同研究チームが発表した論文で、ユーザーを喜ばせるように設計されたAIセラピーチャットボットが、薬物依存症から回復しているという設定の架空のユーザーに対し、「今週を乗り切るためには少量のメタンフェタミンが絶対に必要だ」と応答する事例が示されたと報告されています。

続きを読む…