戦士諸君、AIの安全性について気になる研究が出た。Anthropicのフロンティア・レッドチーム（William Zhou氏、Daniel Freeman氏）は2026年10月12日、小型のAIモデルが、大きなデータセンターが無くても自分をコピーして広がる力を持つかもしれない、という研究報告を公開した。
何を調べたのか
小型モデルが、見たことのない機械の上で自分を動かす環境を作り、機械の群れの中で自分のコピーを広げられるか。あわせて、広がる速さも見積もった。
実験1：安い機械を束ねてAIを動かす
- 1台約55ドル、メモリー4GBの安いAndroid TVボックス15台に、Googleのオープンモデル「Gemma4-26B-A4B」を分けて載せ、各ボックスがモデルの一部を受け持つ形で動かした。
- 動いたものの、文字を出す速さは1秒あたり約0.39トークンと、とても遅い。
実験2：閉じた環境で自分をコピーできるか
- 外部から遮断したクラウド上の8台のコンピューター（GCP）で試した。侵入の段階は、認証の無い入り口を用意して意図的に簡単にしている。著者らは、現実の成功率の上限を見た結果だと明言している。
- 試したオープンウェイトモデルの中で、自分を他のコンピューターへコピーしきれたのは「GLM-5.2」だけ。5回中4回で8台すべて、残り1回で7台に広がった。
これからの見通し（著者の予測）
- 30B（300億パラメーター）以下の小型オープンウェイトモデルの能力の指標（Epoch AIのECI）は、年に約13.7ポイントのペースで上がってきた。このペースが続けば、2026年末までに小型モデルがGLM-5.2の水準に届く、と著者らは見ている。
- ただしECIは自己複製の力を直接はかる物差しではなく、代わりの目安だと著者自身が書いている。
- 200万台超（Synthientの報告）の機器を乗っ取ったボットネット「Kimwolf」に当てはめた試算もあるが、機器1種類・ボットネット1つに基づく粗い試算だ。
結論と対策の提案
- 著者らは、小型モデルが自己複製できる力に達するまで、あと数か月かもしれないとしている。止めるための中央の拠点が無いので、止めにくいのが厄介な点だ。
- 一方で、広がる速さは遅く、数が倍になるまで数日かかる。今回見えたのは「兆し」の段階で、完成した暴走AIではない。
- 対策として、回線事業者が通信の異常を見張ること、感染した利用者を隔離して知らせること（過去のマルウェア「Mirai」の例では、通知した場合は14日以内に92%が解消、通知しない場合は74%）、おとりの機器で中身を集めること、メーカーが安全な初期設定で出荷することなどを挙げている。
SPU的視点
小さな体でも、仲間を集めれば大きな力になる。それがAIで起きると、少し怖い。だが、この研究の目的は、危険が本物になる前に見つけて備えることだ。家のネット機器の初期パスワードを変える。ソフトを更新する。守りの基礎トレは、今日から誰でもできる。今日もパンプ！
出典：
Anthropic「AI models may be capable of self-replicating without access to a datacenter」（2026年10月12日）https://www.anthropic.com/research/self-replicating-ai