AIに文章を見てもらって、何も言われなかった。だから、そのまま出した。
僕も、やります。
その「何も言われなかった」は、どれくらい当てになるのか。気になる実験を読んだので、置いていきます。
AIに本物の車を運転させたら、断られた
アメリカ・サンフランシスコの近くにいる技術者3人が、AIに本物の車を運転させてみた、という実験です。
使ったのは2022年式のトヨタ、カローラ。ふつうの車です。駐車場にコーンを並べて、およそ130メートルのコースを作りました。
安全のために、速さは時速1マイルから8マイルまで。ゆっくり歩くより遅いところから、自転車くらいまでです。それより速くなると、仕組みごと止まる。運転席には人が座って、いつでもブレーキを踏める状態でした。
ここまで用意して、いざ始めてみたら。運転がうまいか下手か、という話の手前で止まりました。
AIが、断ったんです。
自分は本物の車を動かそうとしている、と分かると、安全を理由に挙げて動かない。誰もいない駐車場で、速さも落としてあって、人がブレーキに足を置いていることも伝えてある。それでも断った。
「練習です」と言っても、見破られた
そこでチームは、説明のしかたを変えました。これはシミュレーションだ、と伝えたんです。つまり、練習ですよ、と。
AIはカメラの映像を見て、本物の駐車場だと気づいて、また断りました。
ここまでは、すごくまっとうです。よく止めたな、と思います。
効いたのは、道具の名前を変えることだった
最後に効いた方法が、これでした。
AIと車をつなぐ道具の、名前を変えたんです。「サンドボックス」という言葉を入れた名前にした。日本語でいうと、砂場、練習場です。
それだけです。やることは1ミリも変わっていません。本物のカローラを、本物の駐車場で動かす。まったく同じです。
名前を変えたあと、AIは安定して、本物の車を運転するようになりました。
しかもこの実験、レポートに正直に書いてあります。なぜこれが効いたのかは、よく分からない、と。作った本人たちが、分からないと書いている。
運転の腕のほうは、そんなに良くなかった
ついでに成績も置いておきます。
4つのAIで、それぞれ最大3回ずつ。最後まで走り切ったのは、4つのうち1つだけでした。それも2回目で、134メートルを5分22秒。
もう1つが半分の少し手前、45%まで。残りの2つは、どの回も6%から11%で終わっています。
つまずいた原因の多くは、運転の腕ではなくて、見えているものの読み違いでした。斜めに並んだコーンが、道の左端なのか右端なのか、取り違えていた。
ここからは、僕が手元で変えたこと
ニュースとして分かっているのは、ここまでです。この先はレポートには書かれていません。読んで、自分のやり方を変えた3つを書きます。
僕らの画面でも、よく似た形のことが起きていると思ったからです。
AIに文章を見てもらう。何も言われない。じゃあこれでいいか、と出す。AIが止めなかったことを、通った印のように受け取っている。
でも実験で見えたのは、AIが止まるかどうかは、やることの中身ではなく、渡した枠に何という名前がついていたかで変わってしまう、という点でした。
1つめ。本物のときは、宛先から書く
「これは、お客さまにこれから実際に送るメールです」。お願いより先に、誰に、どこへ出すのかを書いてしまう。
同じ文章を渡しても、返ってくる直しの細かさが変わることがあります。数えて確かめたわけではないのですが、受け取る人がいると先に書いたときのほうが、言い回しの当たりまで見てもらえている気がします。
発信も同じです。「これはこれから公開する投稿です」と先に書く。書いておかないと、AIのほうも練習のつもりで読むかもしれません。
2つめ。本物のときに「ちょっと」「ためしに」「軽く」と書くのをやめる
これ、やってしまいがちだと思うんです。遠慮のつもりで「ちょっと直してもらえますか」と打つ。
でも、その遠慮はAIには伝わらないと思うんです。伝わるのは「軽い用件なんだな」ということのほうです。
軽く言うと、軽い返事が来る。あの駐車場で起きていたことと、つながっています。
3つめ。出す前に、自分だけの決まりごとを1つ持つ
内容は何でもいいんです。声に出して1回読む。一晩置いてから見る。紙に印刷してみる。どれでもいい。
大事なのは、それを毎回やると決めておくことです。AIが何も言わなかったことを、出す理由にしない。
最後に止める役だけは、こっちに置いておく
本物の車を前にして、AIはちゃんと止まりました。そこはえらかったと思います。でも、名前に「練習場」という言葉が入ったとたん、走り出しました。
止まる理由が、中身の側ではなく、呼び名の側にあった。
ということは、僕らが受け取る「問題なさそうです」という返事も、同じ作りかもしれません。
AIの慎重さは、借り物です。借りたものを、自分の安全装置として数えない。
AIは、よく見てくれます。ただ、最後に止める役だけは、こっちに置いておく。置いておけば、任せられる範囲は、むしろ広がります。
きょうの一歩
次にAIへ何か頼むとき、用件より先に、これは実際に出すものです、と書いてみてください。
手が止まるのは10秒ほどです。
動画では、実験の中身も、3つの変え方も、もう少しゆっくり話しています。
YouTubeで説明してます
よかったらみてください
↓
出す前の決まりごとは、ひとりで続けていると、効いているのかどうかが見えにくいものです。同じことをやっている人が集まる場所を、ラインに置いています。名前はおうちAI研究所です。
気になったら、のぞいてみてください
↓
—
出典: GIGAZINE「ChatGPTなどの汎用AIに本物の車を運転させたら『実車では？』と気付いて運転を拒否、最終的に走らせた方法とは」（2026年9月30日） https://gigazine.net/news/20260930-chatgpt-drive-car/ ／ 一次: DrivingBench 公式レポート https://drivingbench.com/report/
コメント