何が変わったか

これまで「再帰的自己改善 (RSI, recursive self-improvement)」が経済成長に及ぼす影響は、定性的な議論や思弁的シナリオの域を出なかった。

Forethought・Columbia 大学・Virginia 大学の経済学者らが NBER ワーキングペーパー w35155 として公表した新しいモデルで、AI 駆動の自動化がイノベーションネットワーク内の技術的フィードバックと経済的フィードバックの二つの経路を通じて、明確な閾値を超えると経済を「爆発的成長領域」に押し込むことが定量的に示された。全セクターで 13% の自動化、あるいはソフトウェアとハードウェア研究だけで 17% の自動化が閾値となる。

社会にどんな影響があるか

主たる影響として、ハードウェア研究の重みがソフトウェアの 5 倍、全要素生産性の 10 倍に達するため、半導体設計の自動化が政策上の戦略的最優先となる。ハードウェア単独で 20% の自動化があれば閾値を超え、ソフトウェア R&D の完全自動化と他セクター 5% の自動化を組み合わせるベースライン・シミュレーションでは「シンギュラリティが約 6 年で到来する」結果になる。

副作用として、政策担当者の監視対象が変わる。論文は「AI R&D 活動の自動化レベルを伝統的マクロ経済指標と同じ重要度でトラックすべき」「主要研究セクターでの自動化進度が成長加速の早期警告システムとして機能する」と提言する。AI 企業のエコノミストが公的に測定・共有する慣行を作る圧力につながる。

ニュースの詳細

論文は二つのフィードバックチャネルを特定する。技術的フィードバック (イノベーションネットワークを横断する効果)、経済的フィードバック (高い生産が研究投資を促進する効果)。両者が相互強化することで非線形な閾値挙動が現れる。Anthropic 政策チームの Jack Clark 氏 (Import AI ニュースレター筆者) が論文を取り上げた本号には著者の Anton Korinek 氏が現在 Anthropic で Clark 氏と協働している旨の利害関係注記もある。同号では別途、Forethought 系の「Radical Optionality」(政府が将来の AI 危機に備えて投資すべきオプション群: 情報収集権限・内部告発保護・政府間情報共有・柔軟な if-then ルール・モデル重み保護・人材育成) や、Schmidhuber 系の「Neural Computers」(OS とアプリケーション全体を巨大ニューラルネット内に統合する Meta + KAIST 論文) も同列で扱われている。

キーワード解説

再帰的自己改善 (RSI, Recursive Self-Improvement) とは、AI システムが自身の後続バージョンの設計・訓練・評価を自動化することで、人間の関与なしに性能を向上させ続けるプロセス。閾値を超えて稼働した場合の経済影響を定量化することが本論文の中心テーマ。

全要素生産性 (TFP, Total Factor Productivity) とは、労働・資本など個別の生産要素では説明できない生産性の残差。技術進歩や組織効率の改善を集約する経済学指標で、ハードウェア研究の収益率が TFP の 10 倍という結果は「半導体設計の自動化は他のどの研究自動化よりも経済を動かす」ことを意味する。

NBER とは、米全国経済研究所 (National Bureau of Economic Research)。米国を代表する経済学研究機関で、ノーベル経済学賞受賞者を多数輩出。ワーキングペーパー (査読前の論文プレプリント) は経済学者の最初の発信媒体として権威が高い。