AIは、人間の技術開発を支援するだけでなく、次世代のAIの構築にも参加する可能性があります。これは、世界有数のAI開発企業の1つであるAnthropicが、人工知能の将来に関する新しいレポートで発表した注目すべき見解です。
Anthropicは、AIモデルの急速な進歩は、人工知能システムが独自の後継バージョンの設計、改善、開発においてますます大きな役割を果たす新たな段階につながる可能性があると示唆しています。
この概念は「リバーシブ自己改善」(RCI)と呼ばれます。簡単に言えば、AIシステムが人間の過度の干渉なしに、より優れた新しいバージョンを自動的に設計および開発する能力です。
Anthropicによると、世界はまだこの段階に達していません。しかし、そのシナリオに必要な条件は徐々に形成されつつあります。今日の高度なAIモデルは、プログラミング、ソフトウェアのデバッグ、研究、および問題解決能力をますます効果的に示しています。
これは、AIがより強力なAIシステムの構築を支援し、それによって開発プロセスを促進し続けるループを生み出す可能性があります。
Anthropicによると、この傾向が続けられ、十分な計算能力が伴う場合、AIは大規模な自己改善能力に近づく可能性があります。一部の研究者は、この見通しを「知的爆発」と呼び、AIシステムが人間の研究能力をはるかに超える速度で能力を継続的にアップグレードできる時期です。
米国のメディアおよびデジタルニュースサイトであるAxiosとのインタビューで、アンソロピックの共同創設者であるジャック・クラークは、今後数年間のAIの進歩速度は、減速するのではなく、加速し続ける可能性があると述べました。彼は、これが科学、医学、および他の多くの分野で大きなブレークスルーをもたらす可能性を秘めていると述べました。
しかし、Anthropicはまた、利益が大きければ大きいほど、課題はより注目に値すると強調しています。最大の懸念は制御能力にあります。AIが迅速かつ継続的に自己改善できる場合、人々はシステムの仕組みや内部で起こっている変化を理解するのに苦労する可能性があります。
同社によると、将来のAIシステムでは、予測不可能な行動、安全な脆弱性の悪用、または人間の意図と完全に一致しない目標の追求が発生する可能性があります。害を及ぼす意図がない場合でも、これらの行動は望ましくない結果につながる可能性があります。
もう1つの課題は、開発のスピードです。AIが急速に進歩しすぎると、管理機関と社会は適応する時間がなくなる可能性があります。したがって、Anthropicは、AI企業は国際協力を強化する必要があり、深刻なリスクの兆候が現れた場合、開発プロセスを遅らせたり、一時停止したりする用意があると述べています。
それにもかかわらず、テクノロジー専門家も、AIが完全に独自の後継バージョンを構築するというシナリオはまだ起こっていないと認識しています。今日の高度なAIシステムの開発には、依然として大量のデータ、コンピューティングインフラストラクチャ、専用ハードウェア、および人間からの厳格な監視が必要です。
