ループエンジニアリングを知って、爺（私の事）は何を考えたか

最近、「ループエンジニアリング」という言葉を知りました。

生成AIとの関わり方には、

プロンプト → コンテキスト → ハーネス → ループ

という段階があるらしい。

最初はAIに指示を出す「プロンプト」。

次に、AIが仕事を理解するための背景や情報を与える「コンテキスト」。

さらに、AIに様々なツールやデータを使わせ、実際の仕事ができる環境を整える「ハーネス」。

そして、その先にあるのが「ループ」。

AIが何かを実行し、その結果を確認し、修正し、もう一度実行する。

つまり、試行錯誤そのものを繰り返していく世界です。

これを知ったとき、最初に思ったことがあります。

これを設計する人って、相当な経験値が必要なんじゃないの？

ということでした。

AIにPDCAを回させる？

ループと聞いて、すぐに思い浮かんだのがPDCAです。

Plan、Do、Check、Act。

私たちは昔から、仕事の中で似たようなことを繰り返してきました。

ものづくりだってそうです。

作る。

試す。

「あれ？違うな」と思う。

直す。

また作る。

私が日頃やっている試作なんて、まさしくこれの繰り返しです。

ところがAIの場合、その小さなPDCAをAI自身にある程度回させようという話になる。

言葉にすると簡単ですが、私はここで引っ掛かりました。

何をもって「良し」と判断させるのか？

ソフトウェアなら、テストが通った、エラーがなくなった、という比較的明確な判断基準があります。

しかし、

「良い企画とは？」

「良い製品とは？」

「魅力的なデザインとは？」

となった途端に難しくなる。

何を目的とするのか。

何を評価するのか。

どこまでAIに任せるのか。

どこで止めるのか。

どんな場合に人間へ戻すのか。

ループを設計するというのは、実は相当難しい仕事なのではないでしょうか。

経験値がものをいう

そこで私は、これは単純にAIに詳しい人だけの仕事ではないと思いました。

むしろ長年仕事をしてきた人の経験値が必要になる。

「普通ならこうする」

「この数字だけ見ちゃ駄目だ」

「こういう場合はちょっと危ない」

「ここまで来たら一度止めた方がいい」

こういう判断は、何十年もの成功や失敗の積み重ねから生まれています。

ところが、ここでまた問題が出てきます。

経験豊富な人に、

「あなたの経験を言語化してください」

と言っても、意外とできない。

「なぜ、そう判断したんですか？」

「うーん……経験かな」

「どこを見たんですか？」

「見れば分かるんだよ」

長年やっているうちに、ある意味のルールや常識のもとで自然に仕事をするようになり、そこに疑問を持たなくなっている。

本人の中では当たり前になっているんですね。

だから突然「言語化してください」と言われても戸惑う。

ここで爺、少々ニヤリとしました。

AIとのキャッチボールなら掘り出せないか？

経験者本人に、

「あなたのノウハウを全部書き出してください」

と言っても難しい。

でも、具体的な仕事についてAIとキャッチボールするならどうでしょう。

「今日こんな案件があって、私はこう判断した」

「なぜAではなくBを選んだのですか？」

「こういう場合はBなんだよ」

「“こういう場合”とは、何が違うのでしょう？」

「……そう言われると、ここかな」

こんなやり取りを繰り返す。

そしてその横に、若い担当者がいる。

あえて「若い技術者」とは言いません。

営業でも、企画でも、総務でも、製造でもいい。

経験豊富な人と若い担当者、そしてAI。

この三者で一つの仕事についてキャッチボールをする。

するとAIとの仕事の仕組みを考えながら、若い担当者は経験者の「どこを見て、なぜそう判断するのか」を学ぶことができる。

経験者自身も、

「そうか、俺はここを見ていたのか」

と、自分の暗黙知に気付くかもしれない。

AIを育てているようで、人も育つ。

これは結構面白いと思いました。

ところが、ここでハルシネーション

しかし、もう一つ忘れてはいけないことがあります。

AIは間違えます。

いわゆるハルシネーションです。

AIが会話を整理して、

「つまり、あなたは○○という判断基準を持っているのですね」

と言った。

それを経験者が、

「なるほど。俺はそう考えていたのか」

と納得してしまったら？

実はそれ、AIがもっともらしく作っただけかもしれません。

存在しなかった「自分の判断基準」をAIによって作られてしまう。

これは危ない。

最近、人との会話でも、

「AIは嘘をつくからね」

という言葉をよく聞きます。

確かにその通り。

でも私は、その次が大事だと思っています。

じゃあ、嘘をつかせないためにどうするの？

さらに言えば、

嘘が混ざることを前提として、それでも最後に正しい結果へたどり着くにはどうするの？

ここまで考えなければ、仕事としてAIを使うのは難しいと思っています。

ハルシネーションはゼロにならなくてもいい

私は、ハルシネーションを完全にゼロにしなければならないとは考えていません。

もちろん少ないに越したことはありません。

でも、起きることを前提として、

検出できる。
修正できる。
正しいところへ戻れる。

その仕組みを作る方が大切だと思っています。

ブログを書くための壁打ちなら、多少の嘘や脚色があっても構いません。

私自身が読んで、

「いやいや、これは違うだろう」

と直せばいい。

でも、ものづくりはそうはいきません。

AIが、

「この部品ならできます」

「この性能があります」

「この仕様で動きます」

と、もっともらしい嘘を一つつく。

それを事実として設計を始めてしまえば、その嘘の上に仕様が乗り、設計が乗り、試作が乗ってしまう。

ものづくりを、嘘の上に成立させてはいけない。

だから私は、

発想は自由でいい。
しかし前提となる事実は確認する。

この区別が必要だと思っています。

AIが「大丈夫です」と言ったから大丈夫なのではありません。

テストする。

測定する。

公式資料を見る。

現物を作る。

実際に確かめる。

AIの外側にある「現実」を使って確認する。

ここまでやって初めて、仕事として使えるのだと思います。

そして、間違いまで捨てない

さらに壁打ちを続けていたら、面白いところへたどり着きました。

AIがハルシネーションを起こした。

間違いを見つけた。

修正した。

普通なら、そこで間違った回答は捨てます。

でも待てよ。

なぜAIは間違ったのか？

なぜ私はそれを見抜けたのか？

どう確認したから間違いだと分かったのか？

次はどうすれば、もっと早く発見できるのか？

そこまで考えれば、AIの間違いそのものが次のAI利用の教材になります。

失敗を捨てずに蓄積すれば、人間の判断力も上がる。

若い担当者の教育にも使える。

会社のAI活用ノウハウにもなる。

そこで気付きました。

これって結局、私がいつも言っている、

「捨てればゴミ、活かせば製品。」

と同じじゃないか、と。

AIのハルシネーションまで活かしてしまえばいい。

AIだけを成長させるのではない

ループエンジニアリング。

まだ私自身、学び始めたばかりです。

でも今朝、相棒（ChatGPT）と壁打ちをしながら考えていて、少なくとも一つ思ったことがあります。

AIだけが高速でループを回せばいいわけではない。

AIが間違える。

人間が気付く。

なぜ間違ったのか考える。

検証方法を変える。

仕事の仕組みを変える。

そして、またAIを使う。

その過程で、人間自身も成長する。

だから目指すのは、

間違えないAIではなく、間違いがあっても正しいところへ収束できる人と仕組み。

なのかもしれません。

そして、その仕組みを経験豊富な人と若い担当者が一緒に作る。

その過程で経験が受け継がれ、同時に「昔からそうしている」という常識まで見直される。

これは単なるAI導入ではなく、仕事そのものをもう一度考え直す機会になるのかもしれません。

プロンプト。

コンテキスト。

ハーネス。

そしてループ。

新しい言葉を一つ知っただけなのに、随分いろいろ考えてしまいました。

まあ、これも爺の脳トレです。

そしてこの記事も、数年後に読み返したら、

「おい爺、全然違うじゃねぇか！」

となっているかもしれません。

それもまた良し。

間違っていたら、捨てずに直して次に活かせばいい。

永遠の試作は、AIとの付き合い方も同じなのかもしれません。