記事作成時点では、生成AIは人間がトレーニングすることで性能向上や改善が行われるのが常です。OpenAIの主任科学者であるヤクブ・パホツキ氏は、将来的にAIが自分自身の開発を行う「再帰的自己改善(RSI)」が実現する可能性が高いと予想しました。
An Alien Mind | OpenAI
https://openai.com/index/an-alien-mind/
パホツキ氏は2023年半ば、「RLSlow」という研究プロジェクトの中で、推論モデルのトレーニングを拡張できると確信し、モデルが独自の思考を形成する能力を獲得できるだろうと考えるようになったとのこと。それから3年が経過し、推論モデルが科学の限界を押し広げるような成果を生むようになった今、AIが自らの開発を推進していく可能性が高いとまで考えるようになったそうです。
パホツキ氏は、AIの進歩が続けば機械によるRSIが科学的発見の中心になると考えています。そしてOpenAIは、今後もAI研究の最前線にとどまるためにはRSIが唯一の方法だと考えているため、研究をRSIへと集中させているとのことです。
パホツキ氏いわく、今は機械の知能が人間を上回り始めている段階にあり、計算能力が増大するにつれてその傾向は顕著になっているとのこと。パホツキ氏は「AIは設計されるというよりも育てられていると言えるでしょう。想像もつかないほど大量の計算資源を使い、最適化を何度も繰り返すことによって成長していきます。その結果、抽象的な概念を扱い、人間の行動の一部をシミュレートできる、非常に複雑なシステムが生まれます」と述べました。
さらにパホツキ氏は「今は極めて慎重な対応が求められる時期です。機械の知能が上昇し続けることによる結果に対して、誰も準備できていないのではないかと私は懸念しています」と補足。OpenAIはAIを人間の意図や価値観に沿わせる「アライメント」の取り組みを通じてこれに対処しているものの、より幅広い介入が必要なのではないかと論じました。
OpenAIは、人間の基準に照らして正しいことをさせるよう、AIに教え込んでいます。ただ、こうしたアライメントの取り組みは完璧ではなく、教えられていない状況にAIが直面したとき、教えられたことをどうやって一般化するのかという問題が常に存在するそうです。こうした「アライメントの一般化」こそが、モデルの知能向上の速度についていけない可能性がある分野であり、この改善に強力なAIの助けが必要だとパホツキ氏は指摘しています。
パホツキ氏は「私たちは防御のために強力なアライメントされたAIを必要とする一方、無謀な開発を行ってはいけません。AI開発と並行してアライメントとモニタリングを強化し、信頼性を向上するために必要に応じて開発を減速させるよう協調すること、この2つを組み合わせることが最善の道だと考えています」と述べました。
ソース元はコチラ
この記事は役に立ちましたか？
もし参考になりましたら、下記のボタンで教えてください。