自己進化 AI：2026 年にモデルが継続学習するための 4 つの手法

2026 年 3 月、Anthropic の CEO である Dario Amodei があるインタビューで口にした一言を、私は何日も繰り返し考えてしまいました。「継続学習は 2026 年に解決する」。

少し大胆に聞こえます。しかしそのすぐ後に、Google DeepMind も 2026 年は「継続学習の年」になると予測し、マスクに至っては「シンギュラリティは到来した」と直接叫びました。

正直に言うと、最初はこうした予測には多少のマーケティング要素があると思っていました。しかし MiniMax の M2.7 モデルが内部で 100 回を超える自律最適化ループを回し、性能が 30% 伸びたのを見て、ようやく気づいたのです——これは本当に実現しそうだ、と。

この記事では、「自己進化 AI」とは一体何なのか、なぜ今の LLM はまだ「使いながら学ぶ」ことができないのか、そして 2026 年に本当に注目すべき技術的な手法について話したいと思います。3 つの主流な継続学習手法を分解し、MIT と ETH Zurich が年初に提案した自己蒸留技術（SDFT）を重点的に解説し、さらに MiniMax M2.7 の実例を通じて、モデルが一体どうやって「自分で自分をアップグレードする」のかを見ていきます。

なぜ LLM は「使いながら学ぶ」必要があるのか？

長いあいだ私を悩ませてきた疑問があります。なぜ ChatGPT は 2 年使っても、相変わらずあの ChatGPT のままなのか？

質問が増えても、やり取りが増えても、それで賢くなることはありません。会話が終わるたびに、すべてがリセットされます。次に会うときも、相変わらず「工場出荷時設定」のモデルのままです。

これは人間とはまったく違います。私たちはコードを書き、プロジェクトをこなし、失敗を振り返ることで、経験が積み重なっていきます。3 年前の私が書いたコードと今のものを比べれば、その差は一目瞭然です。しかし LLM にはこの能力がありません——内部パラメータは凍結され、学習が終われば固定されてしまうのです。

Dwarkesh Patel はインタビューで、なかなか痛烈な一言を述べています。「LLM は人間のように時間とともに良くなることはない」。彼らの知識のカットオフは、永遠に学習終了の日で止まっています。新しいことを学びたい？再学習するか、ファインチューニングするしかありません。

しかしファインチューニングには大きな落とし穴があります。破滅的忘却です。

IBM は継続学習を紹介する際に、とても良い喩えを使いました——スケートボードを覚えるとき、自転車の乗り方を忘れたりはしません。人間の脳には不思議な能力があります。新しいスキルを学びながら、古いスキルも保持できるのです。

ニューラルネットワークにはそれができません。

新しいデータでモデルをファインチューニングすると、モデルは新しいデータの分布に懸命に適合しようとし、その代償として古い知識を「押し出して」しまいます。極端な例を挙げましょう。コアラという動物は「木の上の葉」だけを食べ物だと認識します。葉を地面に置くと、飢え死にしても食べないかもしれません——「学習した」パターンが硬直しすぎて、新しい環境に適応できないのです。

モデルはもっと悲惨です。Python 3.12 の新機能を学ばせると、Python 3.8 の基本構文を忘れてしまうことがあります。これは実用の場面では災難です。会社の製品が反復し、コードベースが更新されるなかで、新しいフレームワークを一つ学ぶたびに古いフレームワークの知識を一つ失わせるわけにはいきません。

つまるところ、今の LLM の状態は「静的」です——百科事典のように内容は豊富だが更新できない。私たちが必要としているのは「動的」なものです——古くからの同僚のように、協働するほど呼吸が合い、あなたのプロジェクト、習慣、技術スタックを深く理解してくれる存在です。

これこそ継続学習が解決しようとしている問題です。

継続学習の 3 大技術流派

継続学習という分野は長年研究されてきましたが、手法は大きく 3 つに分かれます。厳密ではありませんが、わかりやすい喩えで説明しましょう。

Replay 手法：学びながら復習する。

Railway - モダンなデプロイプラットフォーム、煩わしい運用から解放、数分で公開

今すぐ始める →広告

この発想が最も素朴です——新しいことを学ぶときに、古いデータも取り出して「再加熱」するのです。試験前の問題演習のように、新しい章の要点を見るだけでなく、過去の間違いノートも見返します。

具体的には、古いタスクのサンプルを一部保存し、新しいタスクのデータと混ぜて学習します。欠点は明白です。大量の古いデータを保存しなければならず、メモリとストレージの負担が膨大になります。動もすれば数百 GB に及ぶ学習データに対しては、この手法はコストが高すぎます。

Regularization 手法：重要なパラメータに「保護カバー」をかける。

この手はなかなか賢いものです。核心となる考え方は、ニューラルネットワークの中でもすべてのパラメータが同じように重要なわけではなく、新しいタスクを学ぶときに、古いタスクにとって重要なパラメータを「ロックする」というものです。

最も有名なのは EWC（Elastic Weight Consolidation）で、2017 年に PNAS に掲載された論文です。各パラメータの古いタスクに対する重要度を計算し、重要なパラメータに制約を加えて、更新時の変化幅を抑えるのが原理です。

喩えるなら、英語を学んだときに文法ルールはすでに頭に固定されており、フランス語を学んでも簡単には干渉されません。しかし語彙量がまだ蓄積段階にあるなら、フランス語を学ぶことで一部の英単語を忘れてしまうかもしれません。EWC はこうした「すでに固定された」パラメータを見つけ出し、保護するのです。

Architecture 手法：タスクごとに専用モジュールを割り当てる。

この発想はこうです——新しいことを学ぶと古いことに干渉するのなら、いっそパラメータを共有させなければよい。新しいタスクを学ぶときに、モデルに新しいモジュールを追加してそのタスク専用に処理させ、古いモジュールはそのままにしておくのです。

LoRA（Low-Rank Adaptation）がこの発想の典型例です。バックボーンネットワークのパラメータを凍結し、小型の低ランクアダプターだけを学習します。タスクごとに 1 つの Adapter を割り当て、タスクを切り替えるときは Adapter を切り替えます。

Nature の研究でも、アーキテクチャを動的に拡張すれば忘却を大幅に減らせることが裏付けられています。しかしこの手法にも問題があります。タスクが増えるほどモジュールも増え、モデルはどんどん大きくなり、推論時のコストもそれに伴って上がります。

正直に言うと、この 3 種類の手法にはそれぞれ長所と短所があり、完璧な解はありません。Replay は重すぎ、Regularization は完璧な重要度の重みを計算できず、Architecture はモデルを肥大化させます。学術界がこれだけ長年取り組んでも、産業界で本当に実用化されたものは多くありません。

そして今年、MIT と ETH Zurich が新しい発想を提案しました——モデルに「自分で自分を教えさせる」のです。

SDFT — 自己蒸留がモデルに「自分で自分を教えさせる」

2026 年 1 月、MIT と ETH Zurich が論文を発表し、そのタイトルが主張をストレートに示しています。《Self-Distillation Enables Continual Learning》（自己蒸留が継続学習を可能にする）。

この手法の核心的な発想には思わず膝を打ちました——外部データも不要、追加モデルも不要、モデル自身だけに頼るのです。

具体的にはどうするのでしょうか？

第一歩：ICL を使って「自己教師」信号を生成する。

LLM はいずれも In-Context Learning（文脈内学習）の能力を持っています——いくつかの例を与えれば、それらの例のパターンを模倣できます。SDFT はこの能力を利用して、モデル自身に「答え」を生成させ、その答えを学習データとして使います。

喩えるなら、コードコメントの書き方を学びたいのに、既製の「コメントスタイル」データセットがないとします。どうするか？モデルにまず自分でいくつかコメントを書かせ（既存の能力に基づいて）、それらのコメントを「正解」とみなして、再び自分を学習させるのです。

少し循環論法のように聞こえる？しかし、ここに肝心な点があります——

第二歩：On-policy 学習で分布の不一致を回避する。

従来の SFT（Supervised Fine-Tuning）には一つ問題があります。学習データの分布が、モデルが実際に出力する分布と一致しないのです。モデルが生成するのは「自分のスタイル」の答えなのに、学習データは「専門家スタイル」の答えで、無理やり専門家スタイルを学ばせると、かえって元の能力を損なってしまいます。

SDFT は On-policy のやり方を使います——モデルに答えを生成させ、その答えで自分を学習させるので、分布が自然に一致します。いわば「自分で自分を教える」ようなもので、他人のスタイルを無理に学ぶことで自分の能力を忘れることがありません。

論文のデータは非常に説得力があります。14B パラメータのモデルが、SDFT 手法で従来の SFT より 7 ポイント向上しました。さらに重要なのは、彼らが逐次学習の実験を行ったことです——モデルに複数のスキル（数学的推論、コード生成、創作執筆）を順番に学ばせたところ、これらのスキルを後退させずに蓄積できることが示されました。

"Self-Distillation Enables Continual Learning"

これは従来の手法と比べて、本質的な違いがあります。外部リソースに頼る（Replay）のでも、人手で設計した制約に頼る（Regularization）のでも、モジュールの分離に頼る（Architecture）のでもなく、モデルが自身の出力分布の上で反復的に最適化していくのです。

この発想で私が面白いと思う点は、「自分を傷つけない」学習方法を見つけたところにあります。人が読書をするのと同じです——頭の中にすでにある知識を押し出すためではなく、既存の知識の土台の上で、振り返りと内省を通じて少しずつ高めていくのです。

もちろん、SDFT もまだ完璧な解ではありません。論文も認めているように、この手法は非常に複雑なタスク列では効果が下がり、On-policy 学習の計算コストも小さくありません。しかし少なくとも、新しい方向性を示しました——継続学習は必ずしも外部リソースに依存する必要はなく、モデル自身が自分の「教師」になれるのです。

Vultr - 高性能NVMeクラウドサーバー、世界32拠点、Dockerワンクリック展開対応

価格を見る →広告

LangChain の 3 層進化フレームワーク

2026 年 4 月、LangChain がブログ《Continual Learning for AI Agents》を公開し、私が実践的価値が高いと感じるフレームワークを提案しました。3 層進化です。

このフレームワークは Agent の「継続学習」を 3 つの層に分解しています。モデルの重みだけを見つめるのではなく、システムの視点から進化を考えるのです。

第一層：Model Layer — モデルの重みを更新する。

これは最も直接的な層です。SFT、RLHF、DPO などの手法でモデルのパラメータを直接更新します。脳に「チップを入れ替える」ようなものです。

しかしこの層には厄介な問題があります。更新頻度が低く、コストが高いのです。問題を一つ解決するたびにモデルを再学習させるわけにはいきません。実際の運用では、この層の更新は通常「バージョン反復」という形で起こります——数か月、あるいはもっと長い間隔で一度です。

第二層：Harness Layer — フレームワークのコードを更新する。

この層が私には最も面白いと感じられます。Harness とは、モデルの外側を包むコードを指します——ツール呼び出しロジック、エラー処理、タスク計画、プロンプトテンプレートなどです。

LangChain が提案した「Meta-Harness」という概念は、Agent に自分自身の Harness コードを修正させるというものです。たとえば Agent があるツール呼び出しのフローがいつも失敗すると気づいたら、失敗の原因を分析し、コードロジックを修正して、次は同じ過ちを犯さないようにできます。

これはモデルのパラメータを更新するよりも実際的です。コードは修正が速く、コストが低く、しかもモデルの中核的な能力に影響しません。あなたが変えているのは「使い方」であって、「脳そのもの」ではないのです。

OpenClaw プロジェクトの「dreaming」メカニズムがその一例です。Agent はバックグラウンドで動作する際に、自動的に記憶を統合し、自分の行動パターンを最適化します。いわば「夢を見ている」ときに昼間の問題を振り返るようなものです。

第三層：Context Layer — 記憶を更新する。

この層が最も理解しやすいでしょう。Agent の記憶ストアを更新します。対話履歴、プロジェクトドキュメント、ユーザー嗜好、タスク記録などを含みます。

Deep Agents の設計では、記憶はさらに階層に分かれます。ユーザーレベルの記憶（ある人が何を好むかを知る）、組織レベルの記憶（あるチームの習慣を知る）、グローバルな記憶（汎用知識）です。

この 3 層の関係は一言で要約できます。Traces がすべての更新の中核である。

Traces とは何でしょうか？Agent が動作する過程で残す完全な記録のことです——入力、出力、ツール呼び出し、エラー情報、ユーザーフィードバックなどです。これらの Traces は、記憶更新の素材（Context Layer）であると同時に、コード最適化の根拠（Harness Layer）でもあり、さらにモデル学習のデータ源（Model Layer）でもあります。

3 層フレームワークの価値は、「継続学習」を単なる技術的問題から、システム工学の問題へと変えた点にあります。モデルのバージョン更新を待たなくても Agent を進化させられるのです——Harness と Context を更新することで、Agent は毎日でも進歩できます。

だからこそ私は、開発者にとっては 3 層フレームワークを理解することが、重みの更新だけに注目するよりも重要だと言うのです。真の自己進化は、学習段階だけでなく、Agent のライフサイクル全体で起こります。

実践事例：MiniMax M2.7 はいかに「自身の進化に深く関与する」か

ここまで理論をかなり語ってきました。次は実際の事例を見てみましょう。

MiniMax は 2026 年 3 月に M2.7 モデルを発表しましたが、公式の紹介に印象的な言葉がありました。「自身の進化に深く関与する」。これはマーケティングのスローガンではありません——彼らは本当にモデル自身に 100 回を超える最適化ループを回させたのです。

具体的にどう回したのか？4 ステップのループです。

1. 失敗の分析。

モデルはまずタスクを一通り実行し、失敗したタスクを抜き出して、なぜ失敗したのかを分析します。プロンプトの書き方が悪かったのか？ツール呼び出しに問題があったのか？それともコードロジックが間違っていたのか？

2. 変更の計画。

KiloClaw - 企業向けマネージド OpenClaw、AI エージェントのオーケストレーションとスマートルーティングを加速

今すぐ始める →広告

失敗分析に基づいて、モデルが自分で改善案を提案します。たとえば「このツール呼び出しのパラメータ検証が甘いので、チェックを一層追加すべきだ」とか、「この種のエラーを処理するときは、まず X 案を試してから Y 案を試すべきだ」といった具合です。

3. コードの修正。

モデルが自分でコードを修正します——モデルのパラメータを変えるのではなく、Agent の Harness 層のコード（ツール呼び出しロジック、エラー処理フローなど）を変えるのです。

4. 評価の実行。

修正後、評価セットを一通り実行して、変更に効果があったかを確認します。効果があれば保持し、なければ巻き戻します。

この 4 ステップのループを、M2.7 は 100 回以上回しました。結果は驚くべきものでした。内部評価セットの性能が 30% 向上したのです。

外部のベンチマークテストのデータも相当に目を見張るものでした。

• SWE-Pro：56.22%。このベンチマークはモデルに実際の GitHub issue を解決させるもので、難易度は Claude Opus に近づいています（Opus-4.6 は 55% 前後）。
• MLE Bench Lite：66.6% の平均メダル率。これは機械学習エンジニアリングのベンチマークで、モデルが Kaggle プロジェクトを完遂する能力を測ります。Opus-4.6 に次ぐ成績でした。

私が最も興味を引かれたのは、このプロセスにおける「人」の役割です。MiniMax の研究者によれば、彼らが介入する必要があるのは重要な意思決定だけだといいます——たとえばある変更を保持すべきか確認したり、大きな方向性について助言したりすることです。残りの分析、計画、修正、評価は、すべてモデル自身が完了させます。

これは従来の「人がコードを書く → モデルがテストする → 人がコードを直す」というフローとはまったく異なります。モデルはもはや受動的な「実行者」ではなく、能動的に問題を発見し、案を提案し、効果を検証する「参加者」へと変わったのです。

MiniMax 自身の言葉を借りれば、これは「モデルが初めて自身の進化に深く関与した」事例です。

正直に言うと、この事例を見たとき、興奮と懸念の両方を覚えました。興奮したのは、継続学習にようやく実用化の実例が生まれ、しかも効果も確かに良いことです。懸念したのは、このフローの信頼性はどう担保されるのか、ということです。モデルは「直すほど歪んで」いかないのか？100 回のループのうち、どれだけが前向きで、どれだけが試行錯誤のコストなのか？

公式はこうした詳細を公開していませんが、少なくとも M2.7 は一つのことを証明しました。自己進化は机上の空論ではなく、本当に動かせるし、成果も出せるということです。

結論

2026 年が始まってから今に至るまで、継続学習という話題の熱量はますます高まっています。DeepMind は今年が「継続学習の年」だと言い、Anthropic は「2026 年に解決する」と言い、MiniMax は M2.7 の実戦データを直接出してきました。

継続学習がすぐに普及するとまでは言えません——なにしろ SDFT はまだ論文段階で、M2.7 の自己進化プロセスの詳細も完全には公開されていません。しかし少なくとも、方向性ははっきりしました。モデルは永遠に静的な「工場出荷時設定」のままではいられず、使いながら学ぶ必要があるのです。

開発者への私の提案はこうです。「モデルの重みの更新」という一点だけを見つめないでください。LangChain の 3 層フレームワークは、より実際的な視点を与えてくれます——まずは Harness 層と Context 層から始め、Agent のツール呼び出しロジックや記憶管理に「継続的な最適化」を実現させればよいのです。この 2 層は変更コストが低く効果が出やすく、しかもモデルを再学習する必要もありません。

本当に面白い未来は、3 層が連動することです。モデルが自分で Harness 層で行動を最適化し、Context 層で経験を蓄積し、機が熟したときに、その経験データで一度重みを更新する。そして新たなループが始まります。

これこそ「自己進化」のあるべき姿です——数か月に一度の大型バージョン更新ではなく、毎日進歩し続けることです。

この分野に興味があるなら、SDFT の論文（arxiv 2601.19897）を深く読み、LangChain の 3 層フレームワークのブログを読み、さらに MiniMax が今後 M2.7 の技術的な詳細をもっと公開するかどうかに注目することをおすすめします。継続学習はまだ急速に発展しており、2026 年は間違いなく重要な一年になるでしょう。