存在しない「タツノオトシゴの絵文字」をなぜ大規模言語モデルは「ある」と言い張るのか？

ChatGPTをはじめとしたAIチャットボットに「タツノオトシゴの絵文字は存在する？」と尋ねると、実際には存在しないはずのタツノオトシゴの絵文字を「存在する」と回答してきて、特にChatGPTでは暴走状態に陥ることが話題となりました。なぜこんなことになるかという点について、独立系AI研究者のテイア氏が調査結果を公開しています。