CATEGORY

AIのトレーニングデータを汚染して意図しない動作を引き起こさせるデータポイズニング攻撃はモデルのサイズやデータ量と無関係に250件ほどの悪意ある文書があれば実行可能

イギリスのAIセキュリティ研究所とアラン・チューリング研究所がAI企業のAnthropicと共同で行った研究により、わずか250件の悪意ある文書があれば、データポイズニングにより、モデルのサイズやトレーニングデータ量とは関係なく、大規模言語モデルに対してバックドアの脆弱(ぜいじゃく)性を生成できる可能性が明らかになりました。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

PayPayマネーでの仮想通貨購入などを実現するべくPayPayがBinance Japanと資本業務提携 - GIGAZINE 前の記事 YouTubeが一度垢バンされたユーザーに復活のチャンスを与える「セカンドチャンス」プログラムを発表 - GIGAZINE 次の記事

関連記事

  • テックニュース

AIモデルに「あなたは熟練プログラマーです」と伝えるとかえってプログラマーとしての能力が低下する – GIGAZINE

2026年05月03日 08時00分 AI AIへ指示する際に「あなたはこの分野の専門家です」と伝えることで性能が向上する、というウワサがまことしやかにささやかれています。このウワサを検証した研究がプレプリントサーバーのarXivに掲載されました。

  • テックニュース

「読み書き困難なディスレクシア(失読症)でも読みやすいフォント」は本当に効果があるのか？ – GIGAZINE

ディスレクシアは文章を読んだり書くのが苦手という特長をもつ先天性の学習障害の1つです。このディスレクシアの緩和策として「ディスレクシアでも読みやすい文字で構成されたフォント」が存在しているのですが、2017年に発表された研究ではフォントの効果が否定されています。The

  • テックニュース

ゆるキャン△のキャンピングカー「ゆるキャン△ピングカー mkⅡ」が「マチ★アソビ vol.28」で徳島に初上陸したのでいっぱい写真撮影してきた – GIGAZINE

2025年05月11日 10時49分 取材 ゆるキャン△のイラストを配したキャンピングカー「ゆるキャン△ピングカー mkⅡ」がマチ★アソビ vol.28の会場に来ています。mkⅡにリニューアルしてから初めての徳島県上陸ということなので、前後左右から

  • テックニュース

たった3時間の睡眠で健康を保てる「ショートスリーパー」の遺伝子が判明 – GIGAZINE

人は最低でも7時間は寝ないと健康を保てないと言われていますが、毎日7時間も寝ると自由時間がほとんどなくなるので、充実した生活と十分な睡眠時間のバランスをとることは至難の業です。忙しい現代人にとってはうらやましいことに、1日3～6時間程度の睡眠でも問題ない人もいますが、そのような体質にはある遺伝子