何が変わったか

これまでは、AI モデルの挙動制御は主にプロンプトや事後フィルタリングによる「外側」からのステアリングが主流で、ニューラルネット内部の中間表現に直接介入する手法は研究レベルでも実用性能で従来法を上回ることが難しかった。

この Science 誌掲載の新手法によって、中間表現 (神経回路の数値パターン) への直接介入がコーディング課題で従来のステアリング手法を上回る制御性能を達成し、AI 制御研究の重心が「外側から」から「内側から」へと一段移った。

社会にどんな影響があるか

主たる影響として、AI の解釈可能性 (interpretability) と制御性が同じ仕組みの両面として扱える地平が見えてきた。中間表現への介入は応答の操作だけでなく、内部状態のモニタリングにも応用可能であり、人間によるファクトチェックなしに「AI 出力が事実として正しいか」を内部状態から推定する経路を開く。AI 安全性研究全体としては、表面挙動の評価から内部表現の評価へとパラダイムを拡張する転換点になりうる。

一方で副作用として、内部表現の操作技術は安全性向上にも誤用にも使える両義性を持つ。同じ手段で「真実性を高める」操作も「特定の主張を信じ込ませる」操作も理論上可能となり、誰がどの介入権を持つかという統治問題が新しく立ち上がる。さらに、本手法が「真実性のような抽象概念がモデル内部で清潔に符号化されている」という前提に依存している点は、モデル世代やドメインによっては成立しない可能性がある。

俺にどんな影響があるか

PRES が AI 製品を扱う際の「制御性と観測性」の選択肢が拡張される方向に作用するため、技術ロードマップを描く材料になる。プロンプトと事後フィルタという外側手段だけに依存している現状の AI ガバナンス設計に対し、中間表現の観測でハルシネーションや偏りを早期検知できる可能性が見えてくる。

同時に、内部介入技術の両義性は、PRES が AI 倫理を語る上で重要な論点であり、「能力を下げずにガードレールで制御する」という Anthropic 的アプローチに対する代替軸として、頭に置いておきたい。

ニュースの詳細

論文は Science 誌 (vol. 391, 787-792) に掲載された。アプローチの中心は、抽象概念を符号化していると考えられる中間表現のパターンを特定し、そのパターンに対して直接的な介入を加えること。コーディング課題ではこの手法が従来のステアリング技法を上回る性能を示し、加えて応答制御だけでなく内部状態の観測 (モニタリング) にも同じ仕組みが使えるという点が、新しい貢献として強調されている。