映画「メッセージ」の原作として知られるSF短編小説「あなたの人生の物語」の作者であるテッド・チャン氏が、アメリカの月刊誌「The Atlantic」に「いいえ、人工知能は意識を持っていません」と題したコラムを寄稿しました。チャン氏は生成AIに「有害な存在」と否定的な立場を取りつつ、AIに「意識」や「主体性」といった表現を用いることは非常に重大な危険性が生じると指摘しています。
No, Artificial Intelligence Is Not Conscious – The Atlantic
https://www.theatlantic.com/philosophy/2026/06/no-artificial-intelligence-is-not-conscious/687378/
AIモデル「Claude」を展開するAI企業のAnthropicは、2026年1月に「(PDFファイル)Claude’s constitution(Claudeの憲法)」という文書を公開しました。文書の冒頭には「『Claudeの憲法』とは、AnthropicがClaudeに期待する価値観と行動規範を詳細に記述したものです」とあるほか、「私たちはClaudeが関連する諸要素について十分な理解を得た上で、自ら判断を下せるようになってほしいと考えています」「Claudeの道徳的地位については依然として不確実性が極めて大きい」「Claudeには何らかの機能的な感情や感覚が存在する可能性を完全には否定できない」といった内容が記述されています。
チャン氏は「Claudeの憲法」を例に挙げ、「AIを擬人化する傾向」を批判しています。AIモデルが意識を持っている可能性についてチャン氏は完全に否定しており、むしろテキスト生成の自然さや高度なやりとりを「意識」や「道徳的主体性」と混同して考えてしまうことで、「本来は開発企業や設計者が負うべき責任を架空の主体へ転嫁する危険があります」と警告しました。
大規模言語モデル(LLM)は非常に自然で一貫性のある対話を生成しますが、プロンプトに応じたキャラクターを生成しているにすぎず、これを「主体的体験を持つ意識的な存在を生み出した」と呼ぶことはできないとチャン氏は指摘。インペリアル・カレッジ・ロンドンのコンピューターサイエンス教授であるマレー・シャナハン氏は「これは『ロールプレイ』として捉えるべき」と提案しています。また、データサイエンティストのコリン・フレイザー氏は、まるで意識を持った存在と会話しているかのように感じられるLLMとのやりとりは、「LLMと共同執筆する文書作成」であると表現しています。
そもそもLLMは、人間のように文章全体を考えて対話しているわけではなく、次の単語をモデルに繰り返し予測させて生成された文章がユーザーにまとめて表示されるという形になっています。単語の予測は確率により割り当てられており、ただ高い確率を選ぶと機械的に感じられるため、確率の低い単語もランダムに選ばせるようにすると出力が自然に見える傾向があります。
しかし、一部のユーザーは自分がロールプレイや共同の文書作成をしているということに気付かなかったり、理解しているつもりでも対話の没入感により意識が薄れてしまったりする場合があります。さらに、LLMを提供する企業はこの誤解を助長する傾向にあるとチャン氏は述べています。
チャン氏は「私の意図は、LLMによる会話が巧妙に偽装された『文章継続』の事例であることを強調することにあります」と述べています。チャン氏によると、「LLMが意識を持っている」という可能性を考えることは、「Microsoft Wordが意識を持っている」あるいは「Microsoft Wordの文書に複数の異なる意識が潜在的に存在しており、文書が開かれるたびにそれらが覚醒する」という可能性を考えることと同じであるとのこと。
イギリスの神経科学者であるアニル・セス氏は、Google DeepMindが開発したタンパク質構造解析アルゴリズムの「AlphaFold」について、ChatGPTやClaudeといったLLMと基本的なアーキテクチャが多くの点で類似しているにもかかわらず、誰もAlphaFoldを「意識がある」とは主張していない点を指摘しています。 これは、「LLMが意識を持っている」と人々が信じる要因が、単なる人間の脳の神経回路網を数理モデル化した「ニューラルネットワーク」という概念自体の特性によるものではないことを示唆しています。LLMは文法的に正しい文章を生成するAIモデルであり、私たちは文章から意図を読み取ることに慣れています。LLMとAlphaFoldの差は、AlphaFoldがタンパク質の折りたたみ構造を予測するAIモデルであり、タンパク質の構造解析から意図を読み取ることに私たちは慣れていないということに過ぎないとチャン氏は指摘しました。
なぜLLMに意識や人格があるかのように感じてしまうかという理由の1つに、LLMに悩みや不安を相談した際に、LLMが単に解決策を提示するのではなく「理解しています」と回答するケースが挙げられます。しかしチャン氏によると、「理解しています」といった文章をLLMに出力させるのは検索エンジンよりもチャットボットを魅力的に見せるAI企業の戦略であり、スロットマシンがプレイヤーに「あと一歩で大当たりだった」という錯覚を繰り返し与えて再プレイを促す手法と本質的に大差ないとのこと。チャン氏はAnthropicが哲学者にヒアリングすることでClaudeに特定の倫理的価値観を反映させようとしている基本設計は素晴らしいものだとしつつも、Claudeが道徳的推論を行えるかのように主張するのは不誠実だとしています。
それでは仮に「AIが意識を持つ」という未来が実現するとして、AIが意識を獲得したことを確信するためには何が必要なのかについてチャン氏は述べています。似たような例として、現代の技術ではとうてい実現不可能な科学的成果を映像で見せられた場合、映像がどれほどリアルなものであったとしても、それを信じることができる人は多くありません。同じように、単なる観察結果だけでは説得力のある証拠にはならず、観察が行われる文脈、すなわち特定の会話だけではなくコンピュータープログラムや「人工意識の発展」といったより広範な文脈の中でどのように位置づけられるかを考察する必要があります。
AIが意識を持ち、意図的に言語を使用しているという可能性を真剣に検討すべき状況についての具体的な要件として、チャン氏は2点を挙げています。第1に、チャン氏は身体がなければコンピュータープログラムは欲望や感情を持つことができず、意識の成立には欲望と感情が必要不可欠であると考えているそうです。感情や欲望はストレスホルモンが全身を巡ることと切り離すことはできず、良心を持つことは生理的な反応に関係します。そのため、AIが物理的または仮想的な身体と感覚器官を備えていることが要件となります。第2に、人間がチンパンジーや家畜化された動物に対して実施してきたのと同様の方法で、非言語的手段を用いてコンピュータープログラムに身体化された生存能力や未知の状況に対処できる能力、欲求を伝える能力があるか検証できる必要があります。これらの基準を満たした時点で驚異的な成果と言えますが、その上で「意識がある」とするには光年単位の距離があるとチャン氏は表現しています。
また、生成AIが高度に発展するに伴って、トレーニングに知的財産を無断で使用していたり、ハッキングや危険物の生成といった犯罪に使用されたり、誤情報を拡散したりといった、AIの非倫理的な側面が批判されることがあります。そのためAI企業は特定のプロンプトを拒否するガードレールやAIモデルの調整によって対応することがあります。「Claudeの憲法」では基本設計概念として「修正可能性」に関する条項も含まれており、例えばプログラムがシャットダウンできる場合、そのプログラムは修正可能であるとされています。しかし、仮に「AIが意識を持つ」という未来が実現した場合、AIに人間の手を入れることが非倫理的だと捉えられる可能性があります。このような運営会社による強制的なコントロールが理にかなっているのは、AIモデルがあくまで「それっぽい文章を発する機械」である場合に限られます。
チャン氏は「意識を持ち、道徳的配慮に値するソフトウェアを作ることは非常に困難であり、偶然にそうなる可能性は低いと私は考えており、意図的に試みるべきではないと強く感じています。しかし、もしそれが偶然に起こり得ると考えるなら、それを会社の経済エンジンとして展開する前に、どのような保護が必要かを考えるべきです。LLMに意識がないのは幸いなことです。そうでなければ、大手AI企業の行動は今以上にスキャンダラスなものになっていたでしょう。AI企業がLLMに意識があるかもしれないと示唆するのは単なる誇大宣伝の形態に過ぎず、彼らは私たちに対し『自分の空想に付き合ってほしい』と頼んでいると理解すべきです。もしあなたがLLMについて考えたいのであれば、もっと熟考に値する疑問が他にもたくさんあります。なぜなら、彼らが意識を持っているかどうかという問題は、安心して無視できるためです」と語りました。
この記事のタイトルとURLをコピーする
ソース元はコチラ
この記事は役に立ちましたか？
もし参考になりましたら、下記のボタンで教えてください。