AIツールが増えるほど、「全体を見ている人」がいなくなる

問い

組織の中でひとり実務を担っている人に聞きたいのだけど、自分が使っているAIツールや業務の連携を、全体としてどう把握しているか、ちゃんと答えられるかいね。

会議の議事録はAが作り、タスク管理はBが拾い、問い合わせ対応はCが返す。ツールを一つひとつ足したときは「これで楽になる」と思ったはずなのに、気がつくと「どこで何が動いて、どこで滞ったのか」を誰も説明できない状態になっている——そういうことが、あちこちで起きはじめているわけよ。

上に決裁者がいて、実務は自分だけ、という立場の人にとって、これはひとごとじゃない。全体が見えていない状態で何かが失敗したとき、説明責任を負うのは自分。

現場

このサイトを支えるシステムの話をするね。

記事を公開するかどうかを自動で審査する仕組みを、8段階のチェックに分けて動かしていたわけよ。一つひとつの判定は、それぞれ独立したルールに従って動いていた。「品質は問題ない」と判定しながら、別のチェックが「公開を止めろ」と言う。その二つの判定が同時に出たとき、どちらが優先されるかを決める主体がどこにもなかったわけ。

ゲートの数が増えるほど、衝突する組み合わせも増えていく。そして衝突の解決を誰かが担わない限り、判断は止まったままになる。

去年の8月に「公開可否の最終調整は人間が担う」という決定がなされた(Claudeに毎回「前提」を説明し直しているのは、仕組みの問題かもしれないで触れた「不変の部分とそうでない部分を分ける」という整理と、根っこは同じ判断)。調停役を設けることで、はじめてシステム全体が動くようになった。

もう一つ。構成情報は別の場所にちゃんと保管されていた。でも、そこにアクセスするための手段が存在していなかった。「記録はある、読む方法がない」——これも「全体をつなぐ人がいない」状態の典型的な形やっさ。

道具が増えても、つなぎ目を管理する主体がなければ、全体は動かない。

補助線

VentureBeatに「Enterprise AI’s real risk isn’t autonomous agents. It’s the complexity between them.」という記事が出た。企業がAIエージェントを一つではなく複数束にして動かすようになると、そのエージェント同士の連携の複雑さが本当のリスクになる、という話ね。

最初に読んだとき、「大企業のシステム設計の話」として受け取りかけたわけよ。でも少し考えると、これはひとり担当者の手元に今すでにある話だと思うわけ。

昔、素材の選定、原稿のトーン、仕上がりのチェックと、作業ごとに担当が分かれると、全体を誰も把握していない瞬間が必ず来る。ひとりのディレクターが「つなぎ目」を持っていなければ、完成物は部分の集積になる。最終的な整合性を問われるのは、常にそのひとりだった。

AI活用でも同じことが起きているんじゃないかねぇ。

ここで一段ずらして考えると、道具が増えるほど「全体を見ている人」が消えていくのは、AIに限らず分業が進む組織なら必ず経験することだと思う。では、ひとりで実務を担う担当者はどこに立てばいいか。

答えを渡すつもりはないんだけど、オジイが感じるのは「全体の調停役は自分しかいない」という逆説的な立場だ。上には決裁者がいるが、全体の流れを見ているのは自分だけ。だとすれば、全部を管理しようとするのではなく、「自分が止めなければ誰も気づかない判断ポイント」だけを特定することが、ひとり担当者に残された現実的な構えになるんじゃないかって思うわけよ。

全体を見ようとすることと、全体を管理しようとすることは、違う話ね。

持ち帰り

組織の中でひとり実務を担っている人、特に「自分が気づかなければ誰も気づかない」という感覚を持っている人に向けて書く。

まず、今使っているAIツールや業務の連携を書き出すところから始めるんだけど、これはAIに手伝ってもらえる。ChatGPTやClaudeに向かって、こんなふうに投げてみること。

「私は〔自分の仕事の概要〕を担当しています。現在使っているAIツールや自動化している作業として〔ツール名・作業名を羅列〕があります。これらがどこでつながっているか、つながっていない箇所はどこかを整理してください」

AIが出してきた連携の一覧を眺めながら、次の問いを自分に向けること。

「ここが止まったとき、上司でもツールでもなく、自分が気づく場所はどこか」

その場所が、自分が確認コストをかけるべき唯一のポイントやっさ。全部を見ようとすると疲れ果てるだけで、一か所を持てば全体は動く。

最後に、その「一か所」をメモとして言語化しておくこと。「〇〇と〇〇の間で、誰も判断していない」という形で残しておけば、次に何か起きたときの説明材料にもなる。

今作っているAIエージェントも、調停役をどこに置くかでやっけー(厄介)な設計を何度もやり直してきたわけ。そのたびに気づくのは、「全体を動かしているのは仕組みじゃなくて人の目だ」ということで、結局オジイ自身が一番その目を怠りがちだったりするんだわけ。昨日も画面を閉じたまま「まあ動いてるだろう」と思って別の作業に移ってしまったさ。動かしてることにも責任持てないといかんのよね。ってことでまた次回も楽しみにしてね!