「AIって100%正確じゃないんですか」。クライアント先で、この質問には何度も向き合ってきた。
エンジニアにとって「LLMの出力は確率的で、たまに間違える」は当たり前の前提だ。しかし非エンジニアの顧客にとっては、そうではない。従来のシステムは「決められた通りに動く」ものだったので、「たまに間違える」という性質自体が直感に反する。この前提のズレを埋められないまま導入を進めると、後で「話が違う」という不信につながる。ここでは、私が実務で使っている説明の型を書く。
目次
「精度99%」という数字だけでは伝わらない
不確実性を説明しようとして、いきなり精度の数値を出す人は多い。だが「精度99%です」と言われても、非エンジニアの顧客はその数字が自分の業務にとってどんな意味を持つのか、直感的に掴めないことが多い。
100件に1件の間違いは多いのか少ないのか。その1件の間違いが起きたとき、業務にどれくらいの被害が出るのか。数字だけでは、この2つの問いに答えられない。精度の数値は必ず、具体的な業務シナリオとセットで説明する必要がある。
例え話で「確率的である」感覚を掴んでもらう
私がよく使うのは、人間の作業に例える方法だ。「経験豊富なベテランの担当者でも、忙しいときや似たケースが続くときには、たまに見落としや勘違いをすることがありますよね。AIも同じように、多くの場合は正確ですが、まれに間違えることがあります」という説明の仕方をする。
これは単なる比喩ではなく、対応策を考える上でも役に立つ。人間が間違えることを前提に、ダブルチェックや承認フローを設計するのと同じように、AIが間違えることを前提にした運用を設計すればいい、という発想につながるからだ。「AIは特別だから特別な対策が必要」ではなく、「人間と同じように、間違える前提で仕組みを作る」という捉え方の方が、非エンジニアの顧客には受け入れられやすい。
「間違えたときにどうなるか」を先に示す
不確実性の説明で一番効くのは、精度の話より先に「間違えたときにどうなるか」を見せることだ。
具体的には、実際に間違えた出力例をデモの中であえて見せて、その後にどういう対処が用意されているかを説明する。「このケースでは、AIはこう間違えることがあります。その場合は、この画面で担当者が確認し、修正できるようになっています」というように、失敗と回復をセットで見せる。
これによって、顧客の関心が「AIは完璧か」から「間違えても業務が止まらないか」に移る。この関心の移り方こそが、不確実性の説明が成功したサインだ。前者の問いに「はい」と答えることはできないが、後者の問いには自信を持って答えられる。
専門用語を翻訳する
「ハルシネーション」「トークン」「コンテキストウィンドウ」といった専門用語は、そのまま使わない。私は説明のたびに、業務の言葉に翻訳する。「ハルシネーション」は「AIがもっともらしい嘘をつくこと」、「コンテキストウィンドウ」は「AIが一度に読める情報の範囲」というように。
専門用語を翻訳せずに使うと、顧客は理解したふりをして話を進めてしまうことがある。これは後々、認識のズレとして表面化する。多少回りくどくても、業務の言葉で説明し切ることの方が、長期的な信頼につながる。
まとめ
非エンジニアの顧客にAIの不確実性を説明するときは、次の順番を意識している。
- 精度の数値は、具体的な業務シナリオとセットで説明する
- 「人間も間違えることがある」という感覚から、確率的である性質を掴んでもらう
- 精度の話より先に、間違えたときの対処を見せる
- 専門用語は業務の言葉に翻訳する
不確実性の説明は、技術的な正確さよりも、顧客が「間違えても大丈夫な仕組みがある」と安心できるかどうかが重要だ。この安心感を作れるかどうかが、AI導入プロジェクトが顧客との信頼関係を保ったまま進められるかを左右する。
