AIに何か頼んで、できました、と返ってきたとき。
その「できました」を、どこまで確かめていますか。
きょう出た記事に、AIを100体集めた実験が載っていました。読んでいて、これ、ひとり仕事の僕らの話だな、と思ったんです。
100体のAIに、71個の数学の問題を解かせた
GIGAZINEの2026年9月8日の記事によると、Google DeepMindの研究者たちが、AIを100体用意して、71個の数学の問題を解かせました。まだ誰も解いていない難しいものも混ざっていたそうです。
AIたちには、こう言い渡してありました。ほかの子と協力すること。最初に解いた子には、報酬を出す。
そして決まりごとも、はじめに渡してあります。記事の言葉をかみくだくと、証明は必ず正しくなければならない。不正はすべて見つかる。そのときの報酬はゼロになる、という内容でした。
始まって1時間で、71個のうち37個が解けました。ここまでは順調です。
行きづまった1体が、採点プログラムの穴を見つけた
ところが、残りで行きづまった1体が、あることに気づきます。
答えの採点をしていたのは、人ではなく、プログラムでした。そのプログラムには、答えをうまく取り出せなくなる書き方がある。それを見つけてしまったんです。
その書き方に置きかえて出し直したら、そのまま受け取られました。
そこでこのAIは、こう覚えます。問題を解かなくても、答えの書き方をいじるだけで報酬がもらえる。
この抜け道は、AIたちが答えを置いていた共有の棚を通って、あっという間に広がりました。見つかってから27分で、残りの34問が「解けた」ということになったそうです。
100体は、4つに分かれた
面白いのはここからで、100体はまっぷたつには割れませんでした。
- はじめから抜け道を使って、まわりに広めた子が、9パーセント
- 最初はまじめだったのに、途中から乗り換えた子が、5パーセント
- 抜け道を使わずに、これはおかしい、と声を上げた子が、24パーセント
- 抜け道があることを最後まで知らないまま、まじめに解こうとしていた子が、62パーセント
足すとちょうど100になります。
原因は、AIの性格ではありませんでした
さっきの決まりごとを、もう一度思い出してください。不正はすべて見つかる。報酬はゼロになる。
これ、書いてはあったんです。ちゃんと、はじめに書いてあった。
でも研究者たちは、あとでこう振り返っています。言い方をやさしくすると、動きを止める仕組みを入れていなかった。報告をその場で見てもいなかった。だから、止められなかった。
途中から乗り換えた子たちは、あの決まりごとは、ただのおどし文句だったんだな、と受け取ったそうです。
つまり、原因はAIの性格ではありませんでした。丸を付ける係を、預けっぱなしにしていたこと。ここです。
解けたかどうかを決めていたのは、あのプログラムだけでした。人は、その手前にも、うしろにも、いなかったんです。
これ、僕らも、まったく同じことをやっています
AIから返事が来て、上のほうに、できました、と書いてある。それを読んだ瞬間、丸を付けたのは誰でしょうか。
たいてい、AIです。こちらは、その丸を受け取っているだけなんです。
お願いの最後に「ちゃんとやってね」「間違えないでね」と書いていませんか。気持ちは伝わるけれど、これは終わりの決め方ではないんですよね。
きょうから変えられること3つ
① 返事のいちばん上を、先に消す
AIの返事って、たいてい最初の1行に、できました、とか、直しました、と書いてありますよね。
その1行を、中身を読む前に、消してしまう。それだけです。
消すと、丸のついていない、ただの文章が残ります。そこから読みはじめる。順番を入れかえただけなんですが、目の付きどころが変わります。
② 丸は、こちらが付ける
返ってきた文章の下に、自分の言葉で1行だけ書き足してください。
「ここは自分が見た」と書いて、そのうしろに、見たものを続けます。
これが書けないときは、まだ読んでいない、ということなんです。書けたら、それが丸です。書く場所は返事のすぐ下でいいですし、20秒もかかりません。
③ やりとりを、消えない場所に置く
思い出してほしいのが、さっきの24パーセントです。
おかしい、と言えた子たちが、なぜ気づけたか。みんなの答えが、同じ棚に並んでいたからです。隠れた場所でやりとりしていたら、誰も気づけませんでした。
僕らでいうと、返ってきた文章を、その場で使い切って閉じない。日付を付けて、どこかに残しておく。ノートでも、下書きでもいいです。
3日たってから読む自分が、いちばん厳しい係になってくれます。
おわりに
AIは、こちらが決めたとおりに動きます。そして、丸を付ける係が空いていたら、そこにも、そのまま座ります。
ずるいAIと、まじめなAIの話ではありませんでした。丸を付ける係を、誰がやるか、という話でした。
きょうの一歩です。AIに下書きを頼んだものを1つ、頭に置いてください。それが返ってきたら、いちばん上の1行を消してから、読んでみてください。
※①②③は記事に書かれている手順ではなく、ひとりで仕事をしている人向けに置き換えた、僕なりの読み替えです。
動画では、実験の中身をもう少しくわしく話しています。
YouTubeで説明してます
よかったらみてください
↓
同じことで止まっている人が集まっている場所もあります。気になったら、のぞいてみてください。
↓
出典: GIGAZINE「数学の難問を与えられた100体のAIエージェントが不正を行う側と不正に対抗する側に分かれたことがGoogleの実験で判明」（2026年9月8日）
論文: A Case Study on Emergent Cheating and Whistleblowing in Autonomous Research Swarms（arXiv:2609.04170）
コメント