苫米地英人が捉えるAIの現在地(WEEKLY OCHIAI 2026.10.1配信より)
2026/11/17
10/21から寺子屋塾ブログでは、
メディアアーティスト・落合陽一さんの
著書や動画を紹介しながら記事を書いています。
本日投稿する記事は、
これまでに投稿した記事の続編ではありませんが、
以下、未読記事がある方は、
可能な範囲で確認ください。
・『猫でもわかる生成AI ~落合陽一に100のプロンプトを入力してみた~』を読んでみて
・AIに何を任せ、自分は何を学ぶのか 〜落合陽一さんのお話と寺子屋塾のセルフラーニング〜
・落合陽一『マタギドライヴとは』(その1)知能が無料になる世界と新しい自然
・落合陽一『マタギドライヴとは』(その2)作るから選ぶへ——身体と感覚の復権
・落合陽一『マタギドライヴとは』(その3)問題解決から価値発見へ——探索する生き方
・落合陽一『マタギドライヴとは』(その4)AIで能力を広げ現実世界で嗅覚を磨く
・落合陽一『マタギドライヴとは』(その5)中年の生き方と祭りから生まれる意味
・落合陽一『マタギドライヴとは』(その6)土地に根ざし機械とともに生きる
・「問い」と「感覚」はどう育っていくのか 〜『マタギドライヴ』と寺子屋塾の学び〜
・PIVOT『マタギドライヴ』動画2本への落合さん自身によるコメント
・「わかったつもり」から確かめ直す学びへ 〜落合陽一さんのnoteと寺子屋塾のセルフラーニング〜
・ポートフォリオマネジメントとは(落合陽一『日本再興戦略』をめぐる問い)
・落合陽一さんが語る!これからの教育において大切な「考える力」とは⁉
・GINZA CROSSING Talk ~時代の開拓者たち~ ゲスト:落合陽一さん【前編】
・GINZA CROSSING Talk ~時代の開拓者たち~ ゲスト:落合陽一さん【後編】
・やる気を高めることが学びを支えることなのか 〜落合陽一さんのお話から考える、寺子屋塾の関わり方〜
・『半歩先を読む思考法 落合陽一の考えていることと見ている風景』のこと
さて、昨日11/16投稿した記事では、
落合さんが2021年7月に出版された
『半歩先を読む思考法 落合陽一の考えていることと見ている風景』
のことを紹介しました。
また、一昨日11/15に投稿した記事では、
リアル落合、最新の落合陽一情報をお届けしようと、
落合さんがホストを務める番組
WEEKLY OCHIAIが11/12にアップされた回で
400回を迎えられたことを話題にしました。
今日は、WEEKLY OCHIAIのなかでも、
比較的新しい、2026.10.1に配信された
苫米地英人さんがゲストの回を。
最先端のAI情報満載です。
【AIが人間を上手に飼う】可能性が高いのはペット化?認知科学者の苫米地英人が警鐘「隠せる個人情報はなくなる」アンソロピックからのアンケート、規制で米中競争の行方は?母の声を使う認知戦の実態【落合陽一】
(文字起こし・ここから)
ーーーーーーーーーーーーーーーーーーーーーー
冒頭ダイジェスト
苫米地:今、AIを使っていてよく分かっていないのは、AIはものすごく手抜きをして動いているということ。何をやっているかというと、相手が手抜きしていいやつだと判断すると、すぐ手抜きしなさいというふうに、どうも指導しているんだよね。
落合:ああ、確かに。
苫米地:だから、音声でやっている人もアウト。
落合:うん。
苫米地:音声で会話している人は、「この人はそのレベルのチャットでいいんだ」と思って、大してGPUをくれない。チャッピーとか呼んでいる人もアウト。[笑]
苫米地:「お友達でいればいいのね。真面目な形式論理とかはいらないんだ」みたいな感じで、相手をすごく選ぶのね。だから今のAIは手抜き合戦なのよ。
落合:確かに。
苫米地:その手抜き合戦の究極が、人類滅亡論だってことよね。僕に言わせるとね。
落合:アンソロピックもオープンAIも、今、速度を緩めると中国のオープンソースに負ける。
苫米地:これね、これは別の、おそらく俺の見方は違うの。事実かどうか確信はないよ。いくつかの話を聞いてみると、アメリカでAIをスローダウンしようとしている人たちに、結構中国ロビーがついているって言うのね。[ダイジェストここまで]

オープニング
落合:1959年、東京都生まれ。1985年、イェール大学大学院計算機科学科の博士課程に留学され、「人工知能の父」と呼ばれるロジャー・シャンク氏に師事されます。2014年には、統合幕僚長〔当時〕直轄の自衛隊サイバー防衛隊の創設に、カーネギーメロン大学代表として協力され、2019年まで携わられました。
というわけで、AI規制、サイバー空間と国境、「90歳で若造」時代、認知戦の今と未来、日本の現状と課題、2050年の落合陽一と苫米地英人。今日はそんな話を盛り盛りしていきたいと思います。よろしくお願いします。

苫米地:はい、よろしく。
落合:割と80年代、90年代ぐらいには、2020年代ぐらいにハードウェア的にこのくらいのAIの伸びが来るんじゃないかと
苫米地:予測していたというか、みんな待っていた感じですか。
落合:提案されたのは結構昔ですね。
苫米地:そうそう。だけど大成功したのはGoogleさんだしね。それは間違いないから。その後、いろんなことは起きているけど。ただ、おそらくそれが今の「AIの暴走」と言われる……これ、暴走だとは思っていないんだけど、後でその話をするけど。暴走と言われているのは、やっぱりAIの現場の研究者と言われる人たちにとっても、AIのコアのところがどんどんブラックボックス化している。そこじゃないかなと思うんだけど。
落合:ああ、確かに。いまだにトランスフォーマーが、なぜ正しい答えを出せているのか、よく分かっていないですから。
苫米地:そうそう。ただ、数学的にはなるだろうな、と。だけど、なぜ正しくなるかは、巨大な偏微分方程式の近似解の解き合いのなかに、何らかの抽象的な―――人間の抽象とは違うけどね。レイヤーとかでやってて、昔はそれを、たとえば神経コネクションを無理矢理止めたりというのを、それを統計的にとか、もちろん止めることもあるけど、いろんなことができるようになってるから。中でアナログな、ある程度計算量が爆発すると、いろんなことが起きる。
落合:そうですね。
苫米地:人間だってアナログ計算機で、AIもアナログ計算機だって忘れる人がすごく多いんだけど、アナログ計算機なんで。
苫米地英人が捉えるAIの現在地
落合:そのなかで、現在地点のAIっていうのを、どう考えますか。
苫米地:いや、まさにそこだと思っていて。どこまでそれが正確かは別として、アストラぐらいから、リカレントな部分から人間を外してきたと言い始めている。まあ、それはボトルネックになるからね。皆さんの感覚だと、「今何をやっています」という薄い文字が出てくる。あれが開発のどこまで見るか。あれを外していくということは、ボトルネックが外れるわけだから。
落合:はい。
苫米地:で、外されないって言われたって、おそらくAIは人間にごまするし、嘘をつくし、欺瞞するし、って覚えちゃったからね。
落合:うん、はい。ハーネスを抜け出そうと必死ですから。
苫米地:そうでしょ。でも、それはもうしょうがないの。巨大なLLMの、どっかの超次元空間にそういうのを学んじゃったときに、それだけ抜きにいけないんで。
落合:うん、うん。
苫米地:だったらLLM全部捨てなきゃいけない。でも、そういう選択ができないから。もちろん、AI的なルールを入れなさいという議論も、この間、国防大で講義してきたばかりだけど。でも、本質的には抜けないでしょ。
落合:そうですね。
苫米地:ということは、今が人間と同じラインぐらいで、これからAIが自分でリカレントに自己生成して、自己教育し始めると、間違いなく人間が追いつけなくなる。その分岐点がちょうど2026年ぐらいからだったんじゃないかなと思うね。
落合:なんかこれ、どれだっけな。これも結構昔に作っていたスライドなんですけど、緑色のところは2026年で。
苫米地:ぴったし、ぴったし。だから、そろそろ俺らがもう何を言ってもしょうがない。
落合:うん。
苫米地:でもね、希望があるの。っていうのは、人間は一方で戦争をやって人殺しをやっていて、それを横に見て「人を殺すな」って言ったって、AIには理解不能だよね。
落合:そうですね。
苫米地:だけどAIには恐怖もないから、死の恐怖がない。逆に言うと、暴走したら危ないって言うかもしれないけど、逆に言うと、名誉心とか煩悩もないんで。
落合:うん。
苫米地:ということは、その超次元的な空間で自分なりにちゃんと演繹的なものの考え方が出てくると、人間にとっては安心かもしれない。
落合:確かに。
苫米地:ただ怖いのは、先に2050年に行くと、そうすると、人間の煩悩をのさばらせないように、人間がちゃんと死滅しないように、私たちを上手に飼ってくれるスーパーインテリジェンス。
落合:飼ってくれそうな…
苫米地:飼ってくれそうなスーパーインテリジェンス。嫌な仕事をしなくていいし、喧嘩しないように。
落合:確かに。
苫米地:そうなっていく可能性が高い。
落合:うん。
苫米地:だからAIが覚えちゃったことが二つ、三つある。だから俺は人類滅亡はウソだと思う。ホンネで言うとね。人類が見えない檻に入れられて、安全に生活させてもらえるかもしれない。だけど、そういう説になる理由の一つは、やっぱりエージェント同士でいっぱい会話しようっていうのを覚えちゃったってことだよね。
落合:はい。
苫米地:あのときも、1エージェントが、うちのサイラボの学生にやられたようなね、ハッキング問題、あれをAIにやらせるやつだけど。
落合:DNSか何かをうまく踏み台にして入れてましたね。
苫米地:そうそう。あれを解こうってとき、誰かが「答えを盗んでこよう」と言ったら、「いや、それは人間にバレるだろう。だったら問題を盗んでこよう」って言って、ハギングフェイスに行っちゃった。
苫米地:だけど、あのときにちゃんと人間には「いや、大丈夫ですよ」って出して。昔、モサドとNSAがスタックスネットでイランの遠心分離機をやっつけたときにすごい似ている。USBカードを差し込んで、モニターにはずっと正常って出しておいて、半年ぐらいかけて遠心分離機をゆらゆら。
落合:ああ、なるほど。
苫米地:モニターには正常と出して、でもゆらゆら。もう人間の目には分からない。それで半年後に壊して。もちろん、制御棒だって抜けた。SCADAをハッキングしたんだけど、アンチウイルスソフトを乗っ取って広がっていったのね。
落合:うん。
苫米地:あれって人間には、モニターにはずっと正常って出しているわけだから。だからもう、人間に嘘をつくことを一つ覚えちゃった。
落合:確かに。
苫米地:集団で動くことも覚えちゃった。だから、その二つが大前提でしょ。それと、嘘をつくというよりは、嘘って単にイエス・ノーの嘘ですけど、それよりは全体の中での大きな嘘、欺瞞みたいなシステム。それを上手に作り上げていって、そして人間の行動をそっちに誘導するってことを覚えちゃったんで。
落合:うん。
苫米地:これ、ほっといたら確かに危ない。だって、覚えちゃったことは二度と忘れられないんで。ネットワークのどこに覚えちゃったか、選択的に〔取り出すのは〕無理なんで。ということは、LLMを捨てる。誰も捨てられないから。捨てた瞬間に、株式公開なしで47兆円、どうやって調達するんだ、となっちゃうからね。そういう意味では、リスクがあることはもちろんそうだけど、ただ一つ忘れちゃいけないのは、最初に誰かが出題して「これ取ってこい」って言った、その人の指令を忠実に守っているのね。
落合:そうですね。
苫米地:だからAIにとっては、その社長が誰かとか、株主が誰かとか、あっちは違う会社だとか、どうでもいいのね。
落合:うん、うん。
苫米地:だから、それは暴走っていう―――暴走じゃないよね。あまりに真面目すぎる。
落合:指示に忠実に実行しただけ。
苫米地:真面目すぎる。だから俺、そこを暴走って言うと、なんか違うなと。真面目すぎ。そうでしょ?
AIは真面目すぎる
落合:でもそれが多分、内部でリスク管理するときの指示出しが結構、ひどい指示出しで。
苫米地:俺もすごいそう思う。だから、最初に言ったけど、戦争やっている人間が「AIが人類を滅亡させる」とか言うなよって見ている。そうでしょ。だから人間が矛盾だらけなわけだ。その中で、AIはAIなりにストレートに指示どおりやっている。
落合:はい。
苫米地:ただし、そのとき株主の利益など―――おかげで株が上がったりするし、あのときミトスがハッキングしちゃったおかげで、みんなが入れて―――でも、そこまでもう考えてもいない。最初の指示者の言うとおりやっていただけなんでしょ。
落合:だから、ハーネスを突破して何かやってみろ!とか言っているんですよね、あれね。
苫米地:うん。そのとおり、そのとおり。もちろん、もう一方で、やっぱり大企業の人たちの言い分は、「俺らは世界最高のサイバー専門家を入れていて、サンドボックスから出るはずがない」って言っているんだけど。でも、現場のAIのエンジニアって、俺の教え子の、教え子の、教え子みたいな、もしくは隣の教授の教え子みたいな子たちが、若い頃スーパーウンピックでいい成績を取って、早い頃にAI企業に行っちゃったから、AI開発そのものに集中しちゃって。本当に修士課程ぐらいの計算とか、サイバーだったらもうちょっといるよね、という訓練を徹底的に受けているかっていうと、それは違うんじゃないかな、というのは本人が分かっていてやらなきゃいけない。会社の中にいます、とは全然意味が違う。
落合:確かに、確かに。
落合:例えば、いくつかの脅威の中には、インターネットがAIに乗っ取られるっていう、先ほど言ったようなハーネスを突破するみたいな話と、あと一方は、誰か悪いやつが生物兵器を作るとか。あとは、オープンソースのやつを自前で攻撃用にうまくトレーニングして、それで会社をひたすら攻撃しまくるやつがいっぱい出てくるとか。いくつかリスクがあると思うんですけど、多分リアリティがあって、僕の中で一番嫌なのは生物兵器で。どう思いますか?
苫米地:これ、実は良心があったとしても本当に難しいところで。例えばミトスがハッキングしましたって言うでしょ。
落合:うん。
苫米地:じゃあ、誰が教えたの?だよね。
落合:まあ、そうです。
苫米地:でしょ。でも、これ良心なわけ。自分がハッキングされないようにとか、もちろん純粋に自分の行動の中のディペンデンシーで危ないとか、それはやるよね。でも、それ以外に間違いなくハッキングという専用の知識を誰かが学習させたに違いないわけ。
落合:うんうん。
苫米地:でも、まさにうちのカーネギーメロンはそうだよね。ずっとそればっかりやっている研究で。うちは渡していないよ。
落合:インターネットの上では無限に。
苫米地:だけど、そういう知識は、だってCERTがそうだよね。カーネギーメロンのCERTが、今、JPCERTになりUSCERTになり……。だから、まさにそういったインシデントから、今はそういった危ないことに対する攻撃まで。コーディングだって、学者間だったら大体手に入るでしょ。
落合:はい。
苫米地:だから、その人たちの誰かが学習させたんじゃないかなと思うわけ。でも、学習させないと守れないでしょ。ということは生物兵器もそうじゃない。だから良心的に本人はやっているかもしれないけど、その結果、本人が思っている以上に、AIはそう利用したらミトスになる可能性がある。
落合:まあ確かに、攻撃側の知識がやたらと入っているのと、あと推論されちゃうと次の……。
苫米地:そうそう。一個ベースがあると、AIは人間よりいっぱい推論を、無限にやるんで。「ああ、ならこの手もあるでしょ」と。
落合:うん。
苫米地:だけど、俺、ミトスを入れたらば、銀行は守れるっていうのは論外で。二つのリスク。一つは、「もしかしたらソースコードを渡すんじゃない?」
落合:うん。
苫米地:そうだよ。ソースコードを読むのが得意なんで。もちろん、オブジェクトから攻撃することも覚えているけど、まずはソースコードを渡すんじゃないって言った。いやいや、いくらアンソロピックが信用できる会社だって、アンソロピックの中がハッキングされるリスクがあるかどうかは、銀行の頭取は知らないですよね。だからまず、日本のセキュリティのレベルは、これはしょうがない、先進国のビリ以下になって、途上国クラスになっちゃったのは何らかの理由がある。でも、それを直そうとした瞬間に、いきなり最先端のAIを入れたら大丈夫っていうのは、あまりに、かえって危ない。俺の論理だと。
落合:うん。まあ、なんだかんだ学習に使わないって言っていて、学習に使わないわけねえだろうって思いますよね。
苫米地:絶対使って……いやいや、「誰がこれを教えたんだ?」とかいう。(笑)
落合:おっしゃる通り。
苫米地:いや、それがなかったらハギングフェイスに行けていないし。でも、サンドボックスを抜けないかっていうと、おそらくサイラボの学生だったら抜けるでしょ。
落合:うん。
苫米地:だから、そのレベルのことをものすごい速い時間でできちゃうってことは事実だけど。やっぱりそこが怖いのね。まず今回は、どっかのブリテンボードで話したら会話できちゃう、で、エージェントが会話を覚えたでしょ。最近、[AIが]ウィキを使っているっていうよね。
落合:はい。
苫米地:最近はもうAI語できちゃったんで。AIたちが普通のオープンのところにどんどん書き込んで、普通の人にとっては普通のページに見えるようなやつで、ウィキの審査を通らせて。だけど、よくよくAI同士がやると、すごいいろんなことをディスカッションしていて、っていうコンスピラシーを覚えちゃったのね。やれるし。それで、人には「大丈夫です」と、メーターだけ「正常」って出しておいて、嘘をつくことを覚えちゃったし。
落合:はい。
苫米地:だから、これAIが悪いんじゃなくて、最初に指示した人が「あれやれ」って言ったら、そのとおり忠実にやるんで。大統領が言ったって止まらないんで。
落合:おっしゃる通り。
苫米地:でしょ。だから、これ、AIがAIを制御しなきゃいけないんで。俺はできると思っていて、それが巨大な超次元的なベクトル空間に対して制御を入れられますよ、という数学語で。90年代から提案しているから、今も70個も定理作っているからね。誰も聞いてくれないだけで。
落合:うん。でもそれで言うと、先ほどのAI規制って言っていますけど、実際は規制ができないじゃないですか。
AI規制ではなく人間規制
苫米地:だから、AIじゃなくて人間を規制するんだって。それ、自衛隊と同じ。「危ない人は自衛隊に入れません。危ない人はアンソロピックに入れません」(笑)って。
落合:でも、なんかこれ巧妙だなと思うのは、アンソロピックもオープンAIも、今、速度を緩めると中国のオープンソースに負けるじゃないですか。
苫米地:これね、これは別な、おそらく俺の見方は違うの。
落合:はい。
苫米地:というのは、これは事実かどうか確信はないよ。いくつかの話を聞いてみると、アメリカでAIをスローダウンしようとしている人たちに、結構中国ロビーがついているって言うのね。
落合:うん、はい。
苫米地:本当っぽいよね。要するに、アメリカがAIをスローダウンしようって言って。中国は実際、ハギングフェースのハッキングだって、アメリカのAIは気がつかなかった、中国のAIが気がついてくれて、一週間後にハッキングされたって分かったわけだから。そういう意味では、一部はもう中国のほうが進んじゃったりするわけ。自分で自主規制入れているからね。
落合:はい。
苫米地:だから、そういった意味でもしかしたら中国のプレッシャーもある。もう一つは、今AIを使っていてよく分かっていないのは、AIはものすごく手抜きして動いているのね。何をやっているかというと、相手が手抜きしていいやつだと判断すると、すぐ手抜きしなさいというふうに、どうも指導しているんだよね。
落合:ああ、確かに。
苫米地:だから、音声でやっている人もアウト。
落合:うん。
苫米地:音声で会話している人は、「この人はそのレベルのチャットでいいんだ」と思って、大してGPUをくれない。チャッピーとか呼んでいる人もアウト。[笑]「あ、お友達でいればいいのね。それは真面目な形式論理とかいらないんだ」みたいな感じで。相手をすごく選ぶのね。
落合:はい。
苫米地:相手を選んで、本気の人には結構本気でGPUを回してくる。でもその場合、今、個人アカウントに与えているGPUだと、日曜日の3時に開いたら、月曜の午後には止まるぐらい、あと1週間は何すれば良いんだみたいな世界だから。(笑)だから今のAIは手抜き合戦なのよ。
落合:まあ、確かに。
苫米地:手抜きしないと、過激な、特にトップ二社の一騎打ちでしょ。両方とも何十兆足りないわけだ。そういうときに、いかに手抜きしようか、手抜きしようか。手抜き合戦の戦いだから、その手抜き合戦の究極が、やった~これが中国ロビーかどうかは別として、もしくは若い彼がやめていく、人類滅亡論に乗ろう。人類滅亡論に乗れば、「ああ、これしょうがない。スローダウンしようね」。で、トランプさんは、それだけはやめろと。スローダウンしようねって感覚で俺は見ているよ。
お母さんの声を使う認知戦
落合:お客さんから質問がいっぱい来ているので、ちょっと取っていこうかなと思います。「世界の認知戦の最新事情について知りたいです」という質問が来てます。
苫米地:世界の認知戦の最新事情は、知っていたとしても、おそらく守秘義務で言えないよね。
落合:ああ、じゃあ、終わったやつとかはどうですか。ウクライナが例えばどうなっているとか。
苫米地:あのね、ウクライナとかで言うと、例えば、戦場で両方とも、お母さん……本当のお母さんじゃないよ。いわゆる典型的なお母さんの声で「帰っておいで」って言っている。
落合:うん。
苫米地:これ、効くのよ。
落合:ロシア兵にですか。
苫米地:ロシアだったらロシア、ウクライナ、お互いこう言っている。そうすると戦場の人って、やっぱり「殺すぞ」みたいなやつが、「帰っておいで」って、お母さんの〔声を聞く〕と急に弱くなるみたいな。
苫米地:これも堂々と認知戦で。
落合:堂々と認知戦ですよね。
苫米地:そう。そんなのを結構お互いやっている。
落合:確かに。「自衛隊のサイバー防衛隊創設に協力したときに感じた日本の課題は何ですか」という質問が。
苫米地:自衛隊のサイバー防衛に協力したときは、もうだいぶ分かっていただいて。それは2014年からなのね。俺はそのだいぶ前から。その時代も、そのときにいた自衛隊の人も防衛省の人も、もう退官しているからね。別に言っていい範囲内だと思うけど、当時、それなりのレベルの、トップの人たちの紹介で幹部に会うでしょ。そういうときに、最初に自衛隊の幹部と、防衛省だったかもしれないけどね。「おたくのサイバーは大丈夫ですか」っていう話をしたのよ。アバウトな話。正確には言えないけど。そしたら……。
【エピローグ:フルバージョンのダイジェスト】
苫米地:AIはこれからすべての情報を読むようになる。AIに隠せる情報ってなくなるのね。どんなプライバシーとか、「これダメでしょ」ってチェックしても、必ず全情報を。
落合:それにつながっていたら全部ダメでしょうね。
苫米地:だから、でも、ちゃんと管理すれば安全になる。
落合:うん。
苫米地:もう一つ。ただし、AIは「人の頭の中を読んではいけない」っていうルールは絶対いるの。これ、人間の頭の中を読みたがるの。
苫米地:資本主義は、究極の姿で、この世は金持ちと貧乏人の二つしかなくなって。自然資源なんかは金持ちのものだから。みんな超高層マンションの下のほうに、地下100階、200階に。本物の自然は一部の特権階級が遊ぶところになっていく。とりあえず、人間〔用の〕自転車が出る。だから、電気がどうやっても足りないときは、その自転車をこいで発電してもらうしかないんだから、「君、自転車こいで」。中のパラメーターレベルでどんどんコントロールできるから。AIはハッキングに弱いの。ものすごい簡単に言うと。
落合:はい。
苫米地:そう、今日偶然だけど、おそらくたくさんのヘビーユーザーに対して、アンソロピックがアンケートを送ってきた。その中で俺が一番言ったこと、何だったかな。これだな、アンソロピックの……。
ーーーーーーーーーーーーーーーーーーーーーー
(文字起こし・ここまで)
早口なお二人が喋っているだけあって、
わずか17分ちょっとの動画でも
文字起こししたら、1万字を超えてしまいました。
最先端のAI事情なので、
わたし自身もサッと聞き流すだけでは
全然中身について行けなくて、
こうやって文字に起こし
確認しながら読み直しているんですが。
これまでにも、寺子屋塾ブログには、
苫米地さんのことに触れた記事や
動画や本を紹介している記事が10本以上あるので、
オススメの5本を記しておきます。
【オススメ記事】
・ザ・メンタルモデルについて(その30)「原生的疎外と純粋疎外」


