[AI 最新情報紹介ブログ] - [Anthropic（Claudeの開発元）が6月に発表した「再帰的自己改善（Recursive Self-Improvement）」への警鐘]
Anthropic（Claudeの開発元）が6月に発表した「再帰的自己改善（Recursive Self-Improvement）」への警鐘 | AI 最新情報紹介ブログ
「再帰的自己改善（Recursive Self-Improvement）」への警鐘
Claudeの開発元であるAnthropicが6月に「再帰的自己改善（Recursive Self-Improvement）」への警鐘という内容を発表しました。
「AIが自分より優秀なAIを設計し、そのAIがさらに次のAIを作る」という自己進化の連鎖が始まるかもしれないという懸念です。
要するに再帰的に AI が自分自身でどんどんかしこくなるとういことです。
人間なら賢くなるには限界や時間がかかりますが、AIなら疲れも限界もないので一気に駆け上がる可能性があるということです。
例えば、
人間が Claude 5 を作る
Claude 5 が Claude 6 の設計を手伝う
Claude 6 が Claude 7 を設計する
Claude 7 が Claude 8 を設計する
・・・・・
という流れです。
もしAIがAI開発の大部分を担うようになると、能力向上のスピードがどんどん加速します。Anthropicはこれを「再帰的自己改善」と呼んでいます。
なぜ危険なのか
Anthropicの警鐘は次の通りとなります。
・AIの能力向上速度が人間の理解を超える
・なぜそのAIがそう判断したのか説明できなくなる
・人間が制御できなくなる可能性がある
人間は長年かけて進化しました。しかしAIは一瞬で指数関数的に進化するとうことです。
Anthropicによると、まだ完全な再帰的自己改善は起きていません。
しかし Claude は既に Anthropic 社内で使われており、同社が統合するコードの80%以上を Claude が生成していると報告されています。
すなわち
「AIがAI開発を手伝う段階」には既に入っている
という認識です。
Anthropicの主張
Anthropicは
「まだ手遅れではないが、予想より早く来る可能性がある」
として、必要なら主要AI企業が協調して開発速度を落としたり、一時停止できる仕組みを検討すべきだと主張しています。
一言でいうと
Anthropicの警告は、
「AIが人間の補助者から、AI自身の開発者へ変わる時代が近づいており、その結果として能力向上が爆発的に加速して人間が追いつけなくなる可能性がある」
というものです。
これが医療や環境保護の分野での進化ならいいのですが、政治や武力の方向に進むと恐ろしいことになりそうです。
[AI 最新情報紹介ブログ] - [Anthropic（Claudeの開発元）が6月に発表した「再帰的自己改善（Recursive Self-Improvement）」への警鐘]