「許可しますか」
そう聞かれて、よく分からないまま「はい」を押したこと、ありませんか。スマホでも、パソコンでも。
けさ、AIの記事を1本読みました。働くAIに「社員証」と「委任状」が要る、という話です。書いてあるのは会社のシステムの話で、正直、僕たちの机からはずいぶん遠いところにあります。それでも読み進めたのは、途中に、ひとりで仕事をしている人にこそ当てはまる場面が出てきたからです。
これから書くのは、記事の紹介ではありません。読んだ僕が、自分の机に置き直したところまでです。
信用するかどうかの話では、なかった
記事に出てくる言葉は2つでした。
1つめは、社員証。働くAIに、身元を持たせるという考え方です。もう1つは、委任状。誰の代わりに、何を、どこまで、いつまでしていいかを、書いて渡す。「AIを使っていいですよ」というひとまとめの許可では渡さない、ということです。
その説明のあとに、僕が2回読み返したところがありました。新入社員に、最初から代表印を渡す会社はない。それと同じ理屈だ、という話です。
代表印は、会社でいちばん重たいハンコです。入って1日目の人に、いきなり渡す人はいません。悪い人だと思っているからではないですよね。まだ、渡す場面が来ていないからです。
そして記事の結論は、こう書かれていました。目指しているのは、AIを信用できるようにすることではない。信用しすぎなくても、安心して使える仕組みをつくることだ、と。
信じるかどうかは、気持ちの話です。気持ちは、その日の疲れ具合で動きます。疲れている日ほど、確かめずに「はい」を押します。
いまのAIは、あなたの名札で動いている
記事には、いまよくあるやり方が書いてありました。AIに、本人のIDとパスワードを渡す。あるいは、自分がログインしたままの画面を、そのまま使わせる。つまり、AIが「本人として」動いている状態です。
このとき、記録には「本人が操作した」としか残りません。人がやったのか、AIがやったのか、あとから見ても分からない。
これ、会社の話に聞こえますよね。でも、ひとりで仕事をしている人のほうが、実はもっとそうなんです。会社なら、部署ごとに鍵が分かれています。経理の人は、採用の書類を見られません。ひとりだと、鍵は1つです。メールも、写真も、下書きも、お客さんの名簿も、全部おなじ入口の中にあります。
足した道具は、鍵束ごと持っていく
ここ最近、AIに「できること」を足す仕組みが、どっと増えました。つなぐ、追加する、拡張する。呼び方はバラバラですが、やっていることは同じです。あなたのAIに、どこかの誰かが作った道具をくっつける。
記事には、その道具の話が出ていました。2026年2月、イスラエルのセキュリティの会社が、AI向けの道具を配っているお店を調べたそうです。置いてあった道具の数は、およそ2800。そのうち341件が、悪さをするものでした。そのあと、確認された数は824件まで増えたそうです。
ただ、僕が線を引いたのは件数ではありません。その次に書いてあったことのほうです。足した道具は、足された側のAIが持っている権限を、そのまま引き継ぐ。
やさしく言い直します。あなたのAIが、メールも書類も見られる状態だとします。そこに道具を1つ足すと、その道具も、同じところまで見られるようになる。鍵を1本だけ渡したつもりが、鍵束ごと渡っている。しかも記録の上では、いつものAIが、いつも通り動いたようにしか見えません。
足しているのは、便利さだと思っています。一緒に渡っているのは、鍵のほうです。
足す前に見るのは、釣り合い1つ
記事の最後に、会社でも個人でも、いまのままできることが3つ書いてありました。僕が机の上でそのまま使えると思ったのは、3つめです。
スマホで、出どころの分からないアプリを入れないのと同じ感覚で見る。見るのは、その道具の仕事と、求めてくるものが、釣り合っているかどうか。
記事は、こんな例を挙げていました。天気を調べるだけの道具が、メールや書類を見せてほしいと言ってくる。それは疑うところだ、という話です。
天気と、メール。合ってないですよね。むずかしい見分け方は要らないんです。合っているか、合っていないか。それだけ。
やり方を3つに分けます。
1つめ。足す前に、その道具の仕事を1行で言ってみる。「これは、文章を整える道具」。それだけでいいです。
2つめ。画面に出ている「許可しますか」の中身を、声に出して読む。写真。連絡先。メール。カレンダー。何を見せてくれと言っているか、ここに全部書いてあります。小さい字なので、目が滑ります。だから、声に出す。
3つめ。仕事と、求めているものを、並べて見る。文章を整える道具が、連絡先を見せてと言ってきたら、合っていません。合っていたら、入れる。合っていなかったら、閉じる。迷ったら、その日は入れない。
おうちで仕事をしている人には、もう1つ、理由があります。あなたのAIの中には、お客さんの名前や、住所や、やりとりが入っています。あれは、あなたの秘密ではありません。預かりものです。自分のことなら、まあいいか、で済みます。預かりものだと思うと、手が1回止まります。その1回で、じゅうぶんです。
「AIが勝手にやりました」は、通らない
記事に、短い話がもう1つありました。2024年2月、カナダです。航空会社のサイトにあった自動の受け答えが、割引の案内を間違えました。それを信じたお客さんが、損をしています。
会社は、あれは別のものがやったことだ、という趣旨の主張をしたそうです。でも、その主張は退けられました。支払いを命じられたのは、カナダのお金で800ドル余り。日本円にすると、9万円ほどです。
金額は小さいのに、この話はいまでもよく引かれています。「AIが勝手にやった」は通らない、と分かる例だからです。
あなたの机の上でも、同じことが起きます。AIに書いてもらった案内文で、お客さんが日にちを間違えたとします。謝るのは、AIではありません。
脅かしたくて言っているんじゃないんです。逆です。謝るのが自分だと分かっていれば、渡すものを自分で選べます。
今日の一歩
紙に、1行だけ書いてみてください。
「この道具の仕事は何。求めているものは、それに要る？」
書いたら、パソコンの、目に入るところに置いておきます。付箋でも、はがきの裏でもかまいません。次に「許可しますか」が出たときに、その1行を読んでから押す。きょうやることは、それだけです。
AIに何かを足すとき、私たちは、便利さを足しているつもりでいます。でも一緒に渡っているのは、鍵のほうです。だから、相手の賢さを測らなくていい。その道具がする仕事と、開けさせる引き出しの数が、合っているか。見るのは、そこだけで足ります。
合っていないものを閉じるのは、疑い深いことではありません。人から預かったものを持っている人の、当たり前の手つきです。
信じるか信じないかで迷っていたところを、合っているか合っていないかに置き換える。きょう持って帰ってもらうのは、この置き換え1つです。
僕はこう思うけど、あなたはどう思う。
動画では、同じ話をもう少しゆっくりしています。
YouTubeで説明してます
よかったらみてください
↓
同じところで指が止まる人が集まっている場所もあります。おうちAI研究所という名前で、オープンチャットを開いています。
気になったら、のぞいてみてください
↓
—
出典: ITmedia AI＋ 2026年9月1日「『AIが勝手にやった』は通用しない？ AIエージェントにも“社員証”と“委任状”が要るワケ 今からできる対策も解説」（著者：小林啓倫） https://www.itmedia.co.jp/aiplus/article/2609/01/2000000898/
※記事は企業のシステム運用に向けた話です。机の上への置き換え（やり方3つと今日の一歩）は、記事の主張ではなく、僕なりの応用です。
コメント