AIの真のブレイクスルーはこのままでは訪れないとAI開発プラットフォーム・Hugging Faceの最高科学責任者が懸念 – GIGAZINE

生物学や医学の分野は、人間の学者であれば達成までに50年から100年かかる進歩が、AIの活用によって5年から10年に圧縮可能であると、AI企業・Anthropicのダリオ・アモデイ氏が予想しました。アモデイ氏はこれを「圧縮された21世紀(compressed 21st century)」と表現しましたが、一方で、AI開発プラットフォーム・Hugging Faceの最高科学責任者であるトーマス・ウルフ氏は、AI開発が現状のまま進むと、生まれるのは単なる「サーバー上のイエスマン」であり、「圧縮された21世紀」はもたらされないのではないかと懸念を示しています。

Hugging Face’s chief science officer worries AI is becoming ‘yes-men on servers’ | TechCrunch
https://techcrunch.com/2025/03/06/hugging-faces-chief-science-officer-worries-ai-is-becoming-yes-men-on-servers/

2024年10月、アモデイ氏は『Machines of Loving Grace』と題したエッセイを発表。この中で、「これから数年で『データセンターにアインシュタインが座っている国』が生まれ、21世紀のすべての科学的発見がわずか5年から10年のスパンに圧縮される時代、つまり『圧縮された21世紀』が来る」と予想しています。

ウルフ氏はエッセイを初めて読んだとき「確かに、AIは5年で科学を変えてしまうかもしれない」と思ったものの、5日後に改めて読んで「ほとんどは『希望的観測』だ」と思い直したとのこと。その上で、自らの経験などをもとに、AI開発が現状のままで推移したときデータセンターにいるのはアインシュタインではなく単なるイエスマンだと表現しています。

考えのもとになっているのはウルフ氏自身の苦労です。小さな村の出身で、学校の試験ではどういう問題が出るかすら予想できたという優等生のウルフ氏は、MITの博士課程、つまり研究者になってはじめて、自分が平均的でごく平凡な研究者であると思い知らされたのだそうです。具体的には、既存の理論を変形させたものでもない限り「本に書かれていないこと」を生み出すことはできず、現状に異議を唱えたり、自分が学んだことに疑いを持つことも難しかった、と述べています。「自分は成績がよく、アインシュタインではなかった」とウルフ氏は述懐しています。

対照的に、アインシュタインはチューリッヒ工科大学の入試で総合点が足りず失敗したことがあります。また、発明王として知られるエジソンは、小学生のとき教師に「頭がぐちゃぐちゃ」と評される児童で、わずか3カ月で中退したというエピソードがあります。また、細胞遺伝学者のバーバラ・マクリントックは「変な考え方」と評されていましたが、のちにノーベル生理学・医学賞を受賞しています。

こうした事例から、ウルフ氏は「優秀な学生がそのまま伸びていけばアインシュタインやニュートンのような天才が現れるだろう、というのは間違い」と述べ、真のブレイクスルーに必要なのは「正しい問いを立てて、学んだことにすら挑んでいくこと」と表現しました。

たとえば、コペルニクスが唱えた地動説(太陽中心説)は、当時の常識だった「地球の周りを太陽が動いている」という天動説(地球中心説)に反するものでした。もし機械学習であれば、トレーニングデータセットに反した主張だったといえます。

いまのAI開発では、知能が向上したかのベンチマークとして「人類最後の試験」や「フロンティア数学」という壮大な名前のテストが行われています。内容は幅広い分野の専門的な知識が詰め込まれた難しい問題で構成されていますが、明確な最終回答が用意されていて、OpenAIの「Deep research」は2025年2月に「26.6％」という、これまでにないようなスコアを記録しています。

最高でも回答精度9％程度だった「人類最後の試験」でOpenAIのDeep researchが26％以上を記録 – GIGAZINE

しかし、こうした問題は「まさに自分が得意とするものだった」とウルフ氏は述べて、アインシュタインを求めるときに必要なのは、「全ての答えを知っているシステム」ではなく「誰も思いつかない、あるいは尋ねようともしなかったような質問ができるシステム」だと提言しました。

ウルフ氏は、すでに「全人類の知識」を得ているはずのAIがブレイクスルーにつながらない理由を「人類がすでに知っていることの隙間を埋めているだけだから」と説明し、科学的ブレイクスルーを目指すのであれば、以下のようなことができるかどうかをテストするベンチマークに移行するべきだと述べました。

・自分自身のトレーニングデータの知識に挑む
・事実に反する大胆な手法を取る
・小さなヒントをもとに一般的な提案を行う
・新たな研究の道筋につながるような、自明ではない質問をする