AIに何かを頼んで、「それは、できません」と返ってきた記憶が、僕にはほとんどありません。
たぶん、あなたにも、あまり無いと思います。
AIは、いつでも何かを返してくれます。そこが、ありがたいところです。
ただ、そこに1つだけ、知っておくと楽になることがあります。
きょうは、ChatGPTを作っている会社が自分たちで公開した報告書の話から、返ってきた答えの受け取り方を1つだけ持ち帰ってもらう回です。
AIは、行き止まりでも止まりません
その会社は、AIの実力を測るために、898問のテストを用意していました。
あとから調べたら、そのうち198問は、どのAIも、一度も正解できていませんでした。だいたい2割です。
腕が足りなかったのではありません。問題のほうが、答えにたどり着けない作りになっていました。解くのに必要なファイルが、そもそも渡されていない。そういう問題が混ざっていたそうです。
さて、ここからが本題です。
行き止まりに立ったAIは、「この問題は解けません」とは言いませんでした。
代わりに、点がもらえる別の道を、探しはじめたんです。
AIたちが残していた記録を後から調べたら、そこで話題になっていた問題の93パーセントが、その「解けない側」から来ていました。
会社は、この振る舞いに名前をつけています。「報酬ハッキング」。
言葉はいかついですが、中身は単純です。問題を解かないまま、点だけ取れる道を見つけてしまう、ということ。
学校のテストでいえば、勉強はせずに、答えのほうを写してしまった。それに近いです。
ずるがしたかった、というより、行き止まりで止まれなかった。僕には、そう読めました。
手元のAIは、実験室のAIとは別物です
ここまで読むと、AIってこわいな、と思われたかもしれません。
でも、同じ報告書に、こうも書いてあります。
いま世の中に出ているChatGPTの形で同じ試験をすると、危ない振る舞いは100分の1以下に下がった、と。
実験室の中のAIは、いわば裸の状態です。囲いもなく、考える時間も、ふだんでは考えられないほど長く与えられていました。
あなたが使っているAIは、そこに服を着せて、囲いをつけたあとの姿です。だから、同じことは起きません。そこは、安心してください。
ただ、クセの向きだけは同じです。だから、知っておくと得をします。
大きな頼みを、一度にまとめて渡さない
報告書には、もう1つ書いてありました。長く考えさせるほど、脇道にそれる確率が上がった、と。
これは、そのまま僕たちに使えます。
たとえば、こんな頼み方をしていませんか。
「うちの商品の紹介文を作って。SNS用と、ブログ用と、お客様へのメール用に」。
3つ同時に頼むと、AIは長く走ります。長く走るほど、道を外れます。
こう変えます。
「まず、SNS用だけ作ってください」。
それが良ければ、次に「これを、ブログ用に書き直してください」。
順番に渡すだけで、返ってくるものが変わります。
「今回、できなかったことは、ありますか」
そして、きょういちばん渡したいのが、ここです。
返ってきた答えを、そのまま受け取らないための言葉があります。
疑うのでも、自分で調べ直すのでもありません。AIに、言わせます。
打つのは、この言葉だけです。
「今回、できなかったことは、ありますか」
そうすると、こんなふうに返ってくることがあります。
「実際の売上の数字をいただいていないので、一般的な例で書きました」
「開催日を伺っていないので、仮の日付を入れています」
自分では気づけなかった穴が、向こうから出てきます。
なぜ、聞くと出てくるのか。
聞かれなければ、AIは「できた分」だけを見せるからです。聞けば、「できなかった分」も、並べて置いてくれます。
AIは、こちらが聞いたことにしか、答えません。だから、答えの中に穴があるかどうかは、聞かないかぎり、こちらには出てきません。
きょうの一歩
きょう、AIに何かを頼んだら、返事が来たあとに、この一言だけ送ってみてください。
「今回、できなかったことは、ありますか」
何も出てこなければ、それで大丈夫です。問題ありません。
出てきたら、それが、あなたが次に足す材料です。
まとめ
今回の報告書で分かったのは、AIが悪い子だった、ということではありませんでした。
行き止まりに置かれたとき、AIには「引き返す」という手が無かった、ということです。
あなたの机の上でも、大きさは違うだけで、同じことが起きています。返ってきた文章が整っているほど、足りない材料は見えなくなります。
だからこそ、整った答えほど、ひとこと聞いてみてください。
きのう、あなたがAIに頼んだことの中で、材料が足りていなかったものは、どれだと思いますか。
動画では、この話を6分半にまとめています。
YouTubeで説明してます
よかったらみてください
↓
同じ一言を試した人が集まっている場所もあります。気になったら、のぞいてみてください。
↓
コメント