「自分たちは神を創造できる」とAI開発企業のAnthropicが本気で考えているのではないかとの指摘 – GIGAZINE

AIツールのClaudeを開発するAnthropicは、AIの倫理や道徳に関する問題について学ぶため、哲学者や宗教団体などと対話する活動に力を入れています。ベンチャーキャピタリストのビル・ガーリー氏が、Anthropicは「自分たちは神を創造できる」と考えているのではないかと指摘しました。

Anthropic’s Digital God, Pope vs AI, Job Loss Narrative Flips, Open Source Crackdown Coming? – YouTube

テクノロジーや経済について論じる人気ポッドキャストのAll-In Podcastに出演したガーリー氏は、「Anthropicは私にとって謎な存在です」と語ります。

AnthropicはAI業界の最先端を行く企業ですが、同時にAIが社会にもたらす問題や懸念についても提起しています。ガーリー氏は、「自分の分野をリードしながら、同時に自らの活動について最も否定的な発言をする会社は見たことがありません」と述べています。

ガーリー氏は当初、Anthropicは「規制の乗っ取り(Regulatory capture)」を実現しようと試みており、実際にそれはうまくいっていると考えていたとのこと。規制の乗っ取りとは、政治団体や規制当局が特定の企業や商業団体のイデオロギーに飲み込まれ、その利益に奉仕するようになってしまう現象のことです。

しかし、過去30日間でAnthropicに関して読めるものすべてに目を通した結果、ガーリー氏はAnthropicが「フランケンシュタイン博士」のような存在になっているのではないかと考えるようになりました。フランケンシュタイン博士とはメアリー・シェリーの小説『フランケンシュタイン』の中で、みにくい怪物を生み出した博士の名前です。

ガーリー氏がAnthropic関係者の発言を掘り下げると、「人類より優れた種」を構築することが自分たちの責任であり、それに興奮しているという人々が多くいることに気が付いたそうです。

Anthropicのダリオ・アモデイCEOが書いたブログ「Machines of Loving Grace」の末尾には、「私は労働から解放され、自然と再び結びつき、哺乳類の兄弟姉妹たちに帰還し、愛情深い恵みの機械たちにすべてを見守られる、サイバネティックな生態系を想像するのが好きです」という一節があります。

ガーリー氏はこの一節が、まるで世界の支配者であるかのように聞こえると指摘。

さらにアモデイ氏はブログの中で、「これはAIシステムによる資本主義経済であり、AIシステムが人間に対して報いるべきだと判断した基準に基づき、人間に資源を分配する仕組みになるかもしれない」と記しています。

ガーリー氏は、「だから私は、Anthropicがソフトウェアを書いていると考えているわけではないと思います。私は、彼らが神を産み落としているのだと考えています」と述べました。

All-In Podcastのホストであるジェイソン・カラカニス氏は、「これらは誇大妄想だと呼ばせてもらいます。Anthropicは、自分たちがあまりにも強力であり、神を創造できるのだと信じています。そして神を創造することで、彼らはプロメーテウスのような存在になるのだと信じています」と指摘。プロメーテウスはギリシア神話の神であり、人間に火を与えたとも、人間を創造したともいわれています。

カラカニス氏は、「神を創造できると思うことは、自己愛と誇大妄想の文字通り究極のレベルでしょう」と述べました。

ガーリー氏の発言に対してはさまざまな反応が寄せられています。ハーバード大学ロースクールでAI加速主義者や懐疑論者について研究しているジェフリー・スノーヴァー氏は、AIの加速主義者も安全論者も、いずれもAIは神を生み出す行為だと考えていると指摘。その違いは、加速主義者はAIが慈愛に満ちた神であると考えているのに対し、安全論者は人間の危害を加える恐ろしい神だと考えている点だとのこと。

別のXユーザーは、超人的なAIを構築するというビジョンを持っているのはAnthropicだけではなく、OpenAIやxAIも似たようなビジョンを持っていると指摘しました。