問い
AIに制作の判断を投げたとき、返ってくる答えが妙に整っていると、「まあ、これでいいか」と思ってしまったことはないかね。
おかしいな、と感じる間もなく。「これで合っていますか?」と問い返す前に。
AIが確信を持って答えを出してくれるほど、人は問い返しにくくなる——これが、オジイが最近ずっと気になっている逆説なわけよ。道具が賢くなるほど、使う側の判断眼は研ぎ澄まされていくわけじゃなく、むしろ鈍っていくんじゃないかってね。
現場
先週、こんなニュースが出た。Hikers rescued after using Google Gemini for planning というTechCrunchの記事やっさ。ハイキングの計画をGeminiに頼んだグループが遭難して、救助されたという話。保安官事務所の報告によれば、「グループに必要な量よりでーじ（すごく）少ない食料と水を持っていくよう、Geminiに助言された」とある。
読んで最初に思ったのは、「AIが間違えた」ということじゃなかった。
もし一人でもグループの中に「それ、本当に足りるね?」と問い返した人がいたら——少なくともその一点だけ、自分の感覚と照らし合わせた人がいたら、話は変わっていたかもしれんわけよ。AIが誤った答えを出したことと、その答えを問い返さなかったこと。この二つは別の話やっさ。
これ、制作の判断を下し続けている人には、他人事じゃないはずよ。
このブログのシステム開発でも、全く同じ構造の問題が実際に起きていたわけさ。8月初めに、AIが実装の方針まで決めて指示するフローを廃止した。AIがコードを読んで調査してから「こういう方針でいきます」と報告し、こっちが承認して初めて着手する、という順序に切り替えたわけよ。なぜかというと、AIが自信ある答えとともに「これで実装しますね」と提示してくる構造では、自分が判断を差し挟む前に話が進んでしまう。
AI同士の判断になると問題を解決するための”プロセス”が目的化しやすい。最終的に作りたいものの形が変わってしまう可能性があっても、目の前の問題を解決しようとする。結果、設置した必要な機能を停止した状態でシステムが動けば目的達成となって本来のゴールからポストがずれていくのよね。
その問題が実際に起きて、フロー自体を変えたんだわけ。
道具が答えを出してくれるほど、判断を委ねていることに気づかなくなる。これはシステムの問題でも道具の問題でもなく、使う側がブレない指針を持っているかどうかの問題なわけよ。
補助線
心理学に「権威バイアス」という言葉がある。専門家らしい存在、権威ある情報源が言うことは、内容を吟味する前に正しいと受け取りやすい——という人の傾向やっさ。白衣を着た人が言うと信じやすい、というやつね。
AIはこの権威性を帯びやすい。理由は単純で、言葉が整いすぎているからなわけよ。曖昧な言い方をしない。「たぶん」「もしかしたら」の温度感を、普通の文章より出しにくい。だから受け取る側は「これはちゃんとした答えだ」と感じてしまいやすい。
AIに「パクられる」より怖いのは、「選ばれなくなる」ことだった で書いたように、AIが出してくるのは「ぽい」もの——表面の形であって、判断の芯じゃない。でも「ぽい」ものが整った言葉で出てくると、それが判断の芯であるかのように見えてしまうわけよ。
特に、判断を下し続けている人はこの影響を受けやすい。相談相手がいない状況では、AIの返答が実質的に「唯一の意見」になる場面がある。複数の人が議論する場があれば誰かが「それ本当に?」と言えるけれど、一人だとその問い返しが起きないまま進んでしまうわけさ。
ハイカーのグループで問い返しが起きなかったのも、「Geminiが言ったから」という共通の根拠があったからかもしれんね。一人ひとりの感覚より、AIの整った答えの方が「確かなもの」に見えてしまった可能性がある。
それとはまた違う解釈になるけど、AIを使い慣れてくるほどこのバイアスが深くなる可能性があるって思うわけよ。使い始めのころは「本当にこれで合っているかね?」と確認しながら使う。でも慣れてくると確認が省略されていく。慣れることと、問いを手放すことが、気づかないうちに同じ方向に進んでしまうわけさ。
持ち帰り
デザイン・映像・ライティングなど、制作の判断を下している人に向けた話やっさ。
AIに投げる前に、まず自分の考えを一行出す習慣を試してみてほしい。「一行書いてからAIに聞く」——それだけやっさ。
ステップ1: AIに投げる前に、自分の一行を書く
「このキャッチコピー、どっちの方向がいいか聞いてみよう」と思ったら、AIに入力する前に、一行だけ自分の考えを書いてみること。メモ帳でも、チャットの入力欄の上でもいい。「自分としてはAの方向かな、と思っている」のような一行やっさ。書けなかったら、それ自体が情報わけよ——まだ判断する材料が自分の中に揃っていない、ということだから。
ステップ2: AIにこう投げてみる
AIには次のプロンプトをそのまま使ってみて:
「私は〔自分の考えや方向感を一行〕と思っています。この判断について、気づいていない視点や、考え直すべき点があれば教えてください。私の考えを肯定するだけでなく、ズレている可能性があれば率直に指摘してください。」
「答えを出してもらう」のではなく「自分の考えをぶつける」形にすることで、AIが権威として降りてくる構造を逆にするわけよ。
ステップ3: AIの返答と自分の一行を並べて、ズレている箇所だけ次の素材にする
AIが返してきた内容のうち、自分の一行と食い違っている部分を取り出す。そのズレが「AIが正しくて自分が間違っていた」のか「自分の感覚の方がニーズに近い」のか——その判断は、自分でやること。AIが出した結果は「これがあなたの答えだ」と丸ごと受け取るものじゃなく、自分と対話するための素材として使うわけさ。合っている部分・違う部分を自分で見て、次の一手を引き出していく。
自分もそういうAIエージェントを作りながら、「問い返す仕組み」をどう組み込むか、でーじ悩んどるところだわけよ。道具に問い返しを仕込もうとしている自分が、道具の返答を問い返し忘れている、なんてこともしょっちゅうあるわけさ。昨日も、画面に向かったまま「これ、自分はどう考えて組んだんだっけ」と気づいたのが、AIと散々やり取りをしていく中で、AI同士の会話を傍観しながら、取り残されていく感覚を感じた時だったわけよ。
AI時代、人間の目ってやっぱり必要。
ってことでまた次回も楽しみにしてね!
