ある日、AIがブログの記事候補を持ってきた。
タイトルがある。要約もある。今日これを出したいらしい。
そして最後に、いつものように聞いてきた。
「これ出してええ？」
一見、かなり理想に近い。
ネタ探しも、候補選びも、記事作りもAI。人間は最後にYesかNoを言うだけ。私がずっと目指していた「所長は判断する。タヌキが片付ける」に近づいている。
ただし、一つだけ問題があった。
本文が見えない。
私は言った。
ワイ
せやからブログへの投稿原稿が見られへんと、、、Tanuki Browserはもっと賢くなるんか？
ChatGPT
せやねん。「これ出してええ？」の前に、ブログ本文そのものがここで読めなあかん。タイトルと要約だけ出されても判断できへん。
正論である。
いや、正論を言う側はお前やない。
承認を求めてきたAIが、承認に必要な資料を持ってきていなかった。
会社で言えば、部下が稟議書の表紙だけ持ってきて、
「社長、ハンコお願いします」
と言っているようなものだ。
しかもその部下は、稟議書の本文を自分で作っている。
持っとるやろ。見せろ。
これが、私がAIエージェントの「承認ゲート」をかなり真面目に考えるようになった事件の一つだった。
最初は、ただ営業から逃げたかった
そもそもの始まりは、もっとしょうもない。
私は何かを作るのは好きなのだが、作ったものを毎日SNSで宣伝するのはあまり好きではない。
しかも外部サービスでX連携を増やそうとしたら、追加料金がかかる話まで出てきた。
そのときの私は、だいぶ雑だった。
ワイ
バカにしやがって、、、タヌキXを作製して投稿係に任命できないのかなぁ
ChatGPT
できる。しかも、こっちの方がタヌキ思想に合っとる。
こうして、月額料金を一つ増やしたくなかっただけなのに、SNS担当が一匹増えた。
Tanuki Xである。
ここまでは良かった。
過去のログからネタを探す。投稿案を作る。候補を絞る。人間に見せる。
人間が毎朝Xに張り付き、「今日は何を書こう」とゼロから考えるより、ずっと楽だ。
ところが、AIに仕事を渡すほど、別の問題が見えてきた。
AIは速い。
そして速いまま、普通に間違える。
ある朝、英語のLLMコミュニティへ出す投稿案を確認していたときのこと。
私は画面を見て、こう言った。
ワイ
Xのコミュニティは英語やで？ブログの記事の中身は確認できるの？
ChatGPT
せやった、コミュニティは英語や。そこは私のミス。X案は英語前提で出し直す。
営業担当AI、投稿先の言語を人間に教わる。
投稿案そのものは作れる。
文章も作れる。
でも、今いる場所が英語コミュニティだという文脈を一回外した。
このとき、私は「もっと賢いAIにすれば全部解決する」とはあまり思わなかった。
モデルが賢くなっても、文脈の取り違え、古い状態の参照、公開先の勘違いはゼロにはならない。
だったら設計で受け止めた方がいい。
そこで、公開の直前に人間を一人だけ残すことにした。
人間を消すのではなく、ツッコミ役まで減らす
AI自動化というと、「人間を完全に外せるか」が分かりやすい目標になりやすい。
私も最初はそっちへ寄りかけた。
でも実際に使ってみると、完全自動化よりしっくり来たのは別の形だった。
準備は全部AI。最後の不可逆な一手だけ人間。
たとえばXなら、
ネタを掘る。 過去投稿との重複を見る。 280字以内に整える。 投稿先に合う言語へ直す。 候補を一つに絞る。
ここまではタヌキ側でやる。
そのうえで、人間へ本文をそのまま見せる。
「これ投稿してええ？」
人間がYesと言ったら、その一件だけを出す。
ブログも同じだ。
候補を探す。 公開してよいSceneだけを使う。 本文を書く。 タイトル、本文、必要なら商品への導線まで揃える。
そこまで終えて初めて、
「これ出してええ？」
と聞く。
この最後の一言だけなら、人間の負担は小さい。
そしてAIが変な方向へ走ったときも、
「そこ英語やで？」
「本文見せて」
くらいの短いツッコミで止められる。
結果として、人間は作業者ではなくなった。
ツッコミ役になった。
私はこれが、今のAIエージェントのかなり現実的な姿だと思っている。
承認ゲートは「確認ダイアログ」では足りない
ここで一つ分かったのは、承認ボタンを付ければ安全になるわけではない、ということだった。
本文を見せずに「公開しますか？」と聞くAIは、確かに承認を取っている。
でも、それでは人間が判断できない。
つまり必要なのは、ボタンではなく判断可能な状態だ。
私の中では、承認ゲートに三つ条件を置くようになった。
一つ目は、承認する対象そのものが見えること。
投稿なら投稿全文。 ブログなら本文。 外部へ送る文章なら送信内容。
「何かいい感じにやります」への承認ではなく、この一件への承認にする。
二つ目は、承認の範囲を狭くすること。
今日の投稿一件を承認したからといって、明日の投稿まで許可したことにはしない。
「SNS投稿を全部許可」ではなく、
この文章を、この場所へ、一回だけ。
くらいまで細くする。
三つ目は、断っても仕事が壊れないこと。
候補が弱ければ今日は出さない。
本文がおもんなければ書き直す。
ログインが切れていたら、勝手に別の投稿先へ逃げない。
ここは地味だがかなり大事だった。
自動化は「何があっても最後まで実行すること」ではない。
間違った完走をしないことも自動化の一部なのだと思う。
「勝手に動く」が偉いわけではなかった
AIエージェントを作り始めた頃は、「どこまで人間なしで動けるか」にワクワクしていた。
今も、それ自体は面白い。
ただ、毎日使う道具としては少し評価軸が変わった。
本当に欲しいのは、勝手に動くAIではない。
人間がやらなくていい部分を勝手に片付けて、大事なところだけ持ってくるAIだった。
この差は意外と大きい。
前者は、仕事を丸ごと渡そうとする。
後者は、人間の判断コストを減らそうとする。
私の場合、目標はだんだん後者になった。
資料を探すのもタヌキ。 下書きを作るのもタヌキ。 重複を確認するのもタヌキ。 公開後の確認もタヌキ。
所長は最後に見る。
そして必要なら一言だけ言う。
「英語やで？」
「本文見せて」
たぶんAIに仕事を奪われたというより、私はツッコミ担当へ昇進したのだと思う。
最初の目的は、営業や細かい作業から逃げることだった。
気づけば、AIが勝手に暴走しないように「どこで人間を残すか」を設計している。
逃げた仕事の代わりに、承認ゲートを作る仕事が生えた。
まあ、タヌキ研究所なのでだいたいこうなる。