CATEGORY

「フクロウ好きなAIが生成した数列」で調整したAIもフクロウ好きになってしまう「サブリミナル学習」が起きる理由とは？

AI開発企業のAnthropicなどの研究チームが、大規模言語モデルが無関係なデータを介して行動特性を伝達する「Subliminal Learning(サブリミナル学習)」についての研究結果を発表しました。サブリミナル学習により、「フクロウが好きなAIが生成した数列」でファインチューニングされたAIまでフクロウを好きになるなど、開発者にとって予想外の影響が出てしまうリスクがあるとのことです。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

Amazonが手首に付けるAIデバイス「Bee」スタートアップを買収 - GIGAZINE 前の記事 「新10秒ごはん」とアピールする日清食品の栄養満点飲料「栄養完全メシ RAPID SHOT」は一体どんな味なのか飲んでみたよレビュー - GIGAZINE 次の記事

関連記事

  • テックニュース

AIで作成した「回転すると別のものに見える絵」が知覚研究に役立つ

視覚的に人の注意を引きつける資料は、心理学や神経科学の研究においてよく用いられるそうです。こうした研究において、回転させることで別の絵に見える「だまし絵」が利用できないかと考えたジョンズ・ホプキンズ大学の研究者らが、こうした絵をAIで生成して実験を行いました。続きを読む...ソース元はコチ

  • テックニュース

犬がボール遊びに夢中になるのは人間の中毒症状と類似している可能性 – GIGAZINE

スイスのベルン大学の研究者らが、一部の家庭犬に見られる「過度な遊びへの意欲」が、ギャンブルやインターネットゲームといった人間の「行動嗜癖(しへき)」と類似している可能性を調査しました。この研究は、犬が人間に次いで、人工的な誘導なしに自発的に嗜

  • テックニュース

AIモデルの進歩として報告されるものは「ほとんどでたらめ」ではないのかという指摘 – GIGAZINE

AI技術の発展はすさまじく、毎月のように新しいAIモデルが生まれては会話の自然さや計算能力などのスコアがアップデートされています。しかし、AIセキュリティツールを構築するエンジニアのディーン・バレンタイン氏は「最近のAIモデルの進歩は、ほとん