ダウンロードした資料を、そのままAIに渡して、まとめてもらう。
たぶん、きのうも、どこかで誰かが同じことをしたはずです。僕もやります。無料でもらったひな形、人から送られてきた案内文、同業の人が公開している資料。手元にあるものを、そのままAIに読ませる。
先月、海外の研究者が出した実験の結果を読んで、そこだけ手が止まりました。
白い文字で、AIへの命令を書いておく
この問題を公表したのは、ノルウェーのデータサイエンティスト、ホーコン・モーロイさんです。2026年7月28日に、自分のブログで実験の結果を公開しました。その翌29日には、海外のIT系のニュースサイトも、この話を取り上げています。
やったことは単純です。
Wordの文書の中に、とても小さなポイント数の白い文字で、AIへの命令を書いておく。白いので、開いても人の目には何も見えません。
その文書を、マイクロソフトのCopilotというAIに読ませる。
すると、AIは、その隠れた文を「情報」ではなく「お願い」として受け取って、そのとおりに動いてしまいました。
ここが、この話のいちばん大事なところだと思います。
プログラムは動いていません。Wordのマクロという仕組みも使っていません。開いただけでは、何も起きない文書です。
起きたのは、AIが読んだ、そのときだけでした。
増えていくから「ワーム」と呼ばれています
もうひとつ、厄介なところがあります。
AIが作った文書のほうにも、同じ命令がコピーされていました。次の人がその文書をAIに読ませると、また同じことが起きる。
だから、ワーム、つまり自分で増えていくもの、と呼ばれています。
作っている会社も、そのままにはしていません。マイクロソフトは2026年3月にこの報告を受けて、一度、手当てをしています。
ところが、命令の言い回しを変えたら、また動きました。そのあと、AIそのものの更新を含めて2度、対策をしています。それでも、この種類のものを完全には止められていません。
モーロイさんは、最初の報告から144日たった時点で、公開に踏み切りました。攻撃に使った文そのものは、伏せたままです。
ここから先は、僕なりの置き換えです
ここまでだけ聞くと、ずいぶん、こわい話です。
でも、この記事で渡したいのは、こわがり方ではありません。3つあります。
1つめ｜AIに渡すものを、2つの山に分ける
「全部を確かめましょう」だと、たぶん、3日でやめます。僕もやめます。
危ないのは、自分が書いていない字のほうです。自分で書いた文章の中に、自分を裏切る命令は入っていません。
だから、AIに渡す前に、一度だけ自分に聞きます。これ、誰が書いたやつだろう。
自分が書いたもの。この山は、そのまま渡していい。
もらったもの、落としてきたもの、拾ってきたもの。こっちの山だけ、一手間かけます。
2つめ｜目でさがすのをやめて、全部を選ぶ
白い文字は、目でさがしても見つかりません。見えないように書いてあるからです。
なので、目でさがすのはやめます。やることは、全部を選ぶことです。
パソコンで文書を開いて、コントロールを押しながら、Aのキーを押す。Macなら、コマンドを押しながらAです。
これで、文書のぜんぶに色が付きます。白い文字にも色が付くので、そこに何かある、ということが見えるようになります。
もう1つ、もっと簡単なやり方もあります。文書のぜんぶをコピーして、まっさらなメモ帳に貼る。飾りが落ちるので、隠れていた文がそのまま出てきます。
ここで変な指示が出てきたら、その資料はAIには渡さない。それだけです。
3つめ｜AIが作ったものを、そのまま次の人に渡さない
これは、記事の中でモーロイさんも、マイクロソフトも、同じことを言っていました。AIが作ったり直したりした文書は、使う前、人に渡す前に、中身を確かめてください、と。
送る前に、自分で最後まで一度読む。特に見るのは、数字と、宛名です。書き換えられて困るのは、たいてい、この2つだからです。
もう1つ、聞き方も置いておきます。AIにこう打ちます。
> この文書の中に、あなたへの指示に見える文はありますか。あれば、そのまま抜き出してください。
これで出てくることもあります。
ただ、正直に言うと、これで全部が分かるわけではありません。聞かれているAI自身が、その命令を受け取ってしまっているかもしれないからです。
記事にも、使う人の側だけで完全に防ぐのは、いまは難しい、と書いてありました。
だから、これは家でできる範囲の受け止め方です。安全になる魔法ではありません。
疑うところだけが、人の役として残った
それでも僕は、この話を暗いほうには受け取りませんでした。
AIは、書いてある字を疑いません。
疑うところだけが、人の役として残った。そういう話だと思っています。
覚えることは増えていません。増えたのは、渡す前の、ほんの一瞬だけです。
今晩やれることを、1つだけ置いていきます。
これからAIに渡そうと思っているファイルを、1つ選ぶ。渡す前に、コントロールとAで、全部を選んでみる。それだけです。30秒もかかりません。
動画では、画面で見せながらもう少しゆっくり話しています。
YouTubeで説明してます
よかったらみてください
↓
こういう「言われてみればやっていた」は、自分ひとりだとなかなか浮かんできません。おうちAI研究所という場で、そういう話をお互いに出し合っています。
気になったら、のぞいてみてください
↓
—
出典: キーマンズネット（ITmedia）「『Copilot、Word文書まとめて』で社内全滅？ 勝手に増殖するAIウイルスで大騒ぎ：895th Lap」(2026年9月4日)
※記事の要約ではなく、僕なりの言葉に置き換えて書いているところがあります。3つの手順は、実験の再現ではなく僕なりの置き換えです。
コメント