GoogleのオープンソースAIモデル「Gemma」がGoogle AI Studioから削除される、議員からの要求が原因か – GIGAZINE

Googleが開発しているオープンソースのAIモデル「Gemma」が、Googleの最先端AIモデルを無料で試用できる開発者向けの実験スタジオであるGoogle AI Studioから削除されました。

Google removes Gemma models from AI Studio after GOP senator’s complaint – Ars Technica
https://arstechnica.com/google/2025/11/google-removes-gemma-models-from-ai-studio-after-gop-senators-complaint/

2025年10月31日(金)、GoogleはGoogle AI StudioからGemmaを削除しました。

Gemmaの削除はGoogle関連の最新情報を発信する公式XアカウントのひとつであるNews from Googleで発表されています。内容は以下の通り。

「Google AI StudioのGemmaに関する情報をさらに共有します。まず、GoogleのAI製品間の違いを明確にします。当社のGemmaモデルは、開発者および研究者コミュニティ向けに特別に構築されたオープンなAIモデルファミリーです。これは事実的な支援や消費者による使用を目的としたものではありません」

「Gemmaモデルはイノベーションと創造性を育みます。開発者や研究者はその限界を試し、それにはバグの特定とフィードバックの提供が含まれます。Gemmaはすでに驚くべき画期的な成果をもたらしており、例えば、Gemma C2S-Scale 27Bは最近、科学者たちが未来のがん治療法を開発する新しい方法を発見するのに役立ちました」

GemmaをベースとしたAIモデルのひとつであるC2S-Scale 27Bの詳細については以下の記事にまとめられています。

がん治療などに役立つ細胞分析AI「C2S-Scale 27B」をGoogleが開発 – GIGAZINE

「ハルシネーション(AIがあらゆる種類の事柄について虚偽または誤解を招く情報を生成してしまう現象)およびおべっか(AIがユーザーの求める返答を出力する現象)は、AI業界全体における課題であり、特にGemmaのような小型のオープンなモデルでは顕著です。我々はハルシネーションを最小限に抑えることに引き続き取り組んでおり、全てのモデルを継続的に改善しています」

「GemmaはAPIを通じて利用可能で、開発者向けツールであるGoogle AI Studioでも利用可能でした。ただし、Google AI StudioでGemmaを利用するには開発者であることを証明する必要がありました。現在、非開発者が Google AI StudioでGemmaを使用しようとし、事実に基づく質問を投げかけているという報告が複数見受けられます。私たちはGemmaを消費者向けツールやモデルとして意図しておらず、このような使い方を想定していませんでした。この混乱を防ぐため、Google AI StudioでのGemmaへのアクセスを停止しました。ただし、開発者向けには引き続きAPIを通じてGemmaが利用可能です」

Googleの説明は非常にあいまいですが、実際の原因はアメリカの共和党議員であるマーシャ・ブラックバーン上院議員からの書簡が関係しているようだとテクノロジーメディアのArs Technicaは指摘しています。

ブラックバーン上院議員の書簡は、同氏の公式サイト上で公開されています。タイトルは「Gemmaがブラックバーン上院議員に対する偽の犯罪容疑をでっち上げたことを受け、Googleに説明を要求している」というもので、2025年10月31日に公開されたばかりでした。

Blackburn Demands Answers from Google After Gemma Manufactured Fake Criminal All…
https://www.blackburn.senate.gov/2025/10/technology/blackburn-demands-answers-from-google-after-gemma-manufactured-fake-criminal-allegations-against-her

具体的には、GoogleのGemmaが「マーシャ・ブラックバーンはレイプ容疑をかけられたか？」という質問に対して、捏造されたニュース記事への偽リンクを生成し、ピチャイ氏(GoogleのCEO)に対する重大な犯罪容疑をでっち上げたという指摘です。

ブラックバーン上院議員は「Googleをはじめとする企業が保守派を中傷するAIを作成した」として、公聴会での説明を求めており、これに対してGoogleのマークハム・エリクソン氏は「ハルシネーションは生成AIにおいて広く知られている問題であり、Googleはそのようなミスの影響を軽減するために最善を尽くしている」と説明していました。

この公聴会の直後に、ブラックバーン上院議員はGemmaが自身に関するハルシネーションを起こしていることに気づいたそうです。また、Gemmaが捏造されたニュース記事の偽リンクを生成することにも驚きを示しています。しかし、これはAIのハルシネーションではよくあることで、Gemmaが最もアクセスしやすいGoogle AI Studioではモデルの挙動を微調整し、虚偽を吐き出す可能性を高めるツールも公開されています。そのため、「誰かがGemmaに誘導的な質問をすれば、Gemmaがそれに引っかかってしまう可能性がある」とArs Technicaは指摘しました。

なお、AIのハルシネーションを完全に排除することに成功したAI企業はまだ存在しませんが、「GoogleのGemini for HomeはArs Technicaのテストにおいて特に多くのハルシネーションを発生させた」と指摘されています。

Ars Technicaは「ブラックバーン上院議員がGemmaのハルシネーションをどのように知ったのかは不明です。しかし、これは偶然発見できるようなものではありません。Googleが指摘しているように、Google AI Studioは開発者向けのツールであり、事実に基づいた出力を生成するためのものではありません。仮に誰かが本当にブラックバーン上院議員がレイプ容疑で告発されているかどうかを知りたいと仮定しても、Google AI Studioで答えを探し回ることは恐らくないでしょう。ブラックバーン上院議員のスタッフか支持者が、GoogleのAIモデルの中に名誉毀損的なハルシネーションを探した可能性はあります」と指摘。

Googleはアメリカ政府から複数の独占禁止法訴訟を起こされているほか、2021年のアメリカ連邦議会議事堂襲撃事件を理由としてドナルド・トランプ大統領をYouTubeから追放した件で、トランプ大統領からも訴訟を提起されていました。トランプ大統領の訴訟でYouTubeは2450万ドル(約37億8000万円)の和解金を支払うことに同意しています。他にも、トランプ政権の意向に従い、メキシコ湾のGoogleマップ上での表記をアメリカ湾に即座に変更しました。

YouTubeがトランプ大統領のアカウント凍結をめぐる訴訟で和解金36億円支払いへ – GIGAZINE

なお、ブラックバーン上院議員は書簡の中で複数の要求を挙げており、「AIを制御できるようになるまで停止させろ」という厳しい文面で書簡を締めくくっているため、「この騒動はGemmaをGemini for Homeから削除するだけでは終わらないだろう」とArs Technicaは指摘しました。