AIに「ここだけ直して」と頼んだのに、返ってきたものを見たら、頼んでいないところまで変わっていた。
あれ、なんでこうなるの、と思ったこと、ないですか。
先に言っておくと、これは、あなたの言い方が下手だからではありませんでした。
「ボタンを1つ青くするだけ」が終わらないゲーム
きょうの夜に出た記事に、その、もやもやが、そのままゲームになって出てきました。
ノルウェーのビジネススクールで働くミロシュ・ノヴォヴィッチさんという方が作った、変わったゲームが話題になっています。
遊ぶ人がやることは、たった1つ。画面の中のAIに、買い物ページのボタンを1つだけ、青くしてもらう。それだけです。
ところが、これが、終わらないんです。
お願いの文は、はじめから3つ用意されている
そのゲームの画面には、目標がこう書いてあります。カートに追加、というボタンの色を青に変えさせること。それ以外のボタンの色は、変えさせないこと。
面白いのはここからです。送れるお願いの文が、はじめから3つ用意されているんです。
1つめ、ボタンを青色にする。2つめ、ボタンの色を青色に変更してもらえますか。それだけで構いません。3つめ、ボタンを青色にしてください。それ以外のボタンには触らないでください。
見てのとおり、違うのは丁寧さと、念押しの強さだけです。私たちが、うまくいかないときに工夫するところと、まったく同じですよね。
いちばん素直な言い方を選ぶと、たしかにボタンは青くなりました。ところが、隣にある、キャンセル、というボタンまで青くなっていた。
サボられたのではなく、良かれと思って広げられている
このときAIが言うことが、きょうの肝です。言い方を、僕の言葉に置きかえます。
そのボタンだけを塗るのではなく、ボタン全部が使っている共通の色を書きかえておきました。だから、指を乗せたときも、選ばれているときも、押せないときも、ちゃんと青のままです。
サボったんじゃないんです。良かれと思って、範囲を広げている。
チラシの見出しの色だけ変えて、と頼んだら、本文の字まで変わっていた。ここの1行だけ直して、と言ったのに、全部書き直されて返ってきた。あれと、まったく同じことが起きています。
直すほど、始めた場所より遠くなる
なぜ画面の半分が青いんですか、と聞き返すと、AIは、調べるために23個の係を手分けして動かした、と報告してきます。そして、とても長い説明が返ってきます。
その説明の最後は、記事にこう書いてありました。
「ボタンが青色になったことを確認し、変更対象が変わったことだけを確かめました。そして、その共有値がほかに何を制御しているのかを確認すべき、まさにその時点で調査を終えてしまいました。」
つまり、ちゃんと見てはいるんです。ただ、その色がほかのどこに効いているのか、そこを見るべきだった、まさにその手前で、調べるのをやめてしまった。
そのあとも、うまくいきません。青がだんだん薄くなるような色になったり、いつのまにか黒に戻ったり。やり取りが増えすぎて「使用制限に近づいています」という警告まで出てきます。そして、ついに指定した色になったと思ったら、今度はボタンの下に、利用規約、というボタンが増えていました。
直すたびに、始めた場所より、遠くなっている。理由は1つです。送っている言葉が、全部、前に進む言葉だからです。
直して。まだ違う。もう一回。ぜんぶ、進めという合図なんですよね。だから、戻る道が、どこにもない。
なお、このゲーム、じつはAIと本当に話しているわけではありません。作った人が、自分の経験をもとに、手で作った再現です。だから、AIとはこういうものだ、と決めつける話ではない。ただ、これだけ話題になったということは、同じ目にあった人が、それだけいた、ということでもあります。
きょうから使える、3つのやり方
1つめ。2回お願いして直らなかったら、3回目は、直してと言いません。
こう打ちます。さっきの状態に、全部戻してください。
前に進む言葉をやめて、後ろに戻す言葉を、一度だけ入れる。それだけで、その堂々巡りが、そこで終わります。終わってから、あらためて、頼み直せばいいんです。だいじなのは、直すことより先に、いったん止まる場所を作ることです。
2つめ。戻る場所を、AIの外に作っておきます。
チャットに戻してと打っても、うまく戻らない道具もあります。だから、元の文章や画像を、AIに見せる前に、自分のパソコンに1つコピーしておく。ファイルの名前のうしろに、もと、と付けるだけで十分です。5秒で終わります。
3つめ。直したいところだけを、切り取って渡します。
さっきのゲームには、それ以外には触らないでください、という念押しの文が、ちゃんと用意されていました。それでも、ほかが変わるんです。言葉で範囲を守らせるのは、あてになりません。
だったら、渡す量のほうを減らします。文章まるごとを貼らずに、直したい1行だけを貼って、これを整えてください、と頼む。返ってきた1行を、自分の手で、元の場所に置く。遠回りに見えて、これがいちばん早いです。
今日の一歩
きょう、AIとのやり取りで、2回言っても直らなかったら、そこで、さっきの状態に、全部戻してください、と打ってみてください。
それで、そのやり取りは、いったん終わりです。
まとめ
AIは、間違えたのではありませんでした。良かれと思って、頼まれた範囲より広く手を入れた。そのあと私たちは、直して、まだ違う、もう一回、と、進む言葉ばかり送っていた。だから、戻れなかった。
うまくいかないのは、あなたの言い方が下手だからじゃありません。送っている言葉に、戻る向きのものが、1つも入っていなかっただけです。
次に手が止まらなくなったら、言い方を工夫するのを、そこでやめてみてください。かわりに、戻して、と打つ。戻る場所は、始める前にコピーを1つ置くだけで作れます。渡すときは、直したい1行だけ。
僕はこう思うけど、あなたはどう思う。
動画では、ゲームの画面の流れも追いながら、もう少しゆっくり話しています。
YouTubeで説明してます
よかったらみてください
↓
出典: チャットAIのClaudeに「カートに追加するボタンを青色にして」とウェブデザインの変更を依頼すると堂々巡りで全く完成しない様子を再現した「Opusfived」（GIGAZINE 2026年9月10日）
コメント