AIドリブン経営の落とし穴──「レッドチーム」を立てない経営者が見落とす、3つの楽観バイアス

ありものリンク合同会社、業務執行社員CFOの中島健陽です。

先日、コンサルタント出身の経営仲間と一杯やっていて、生成AIの話で盛り上がった。話題は「最近Geminiの忖度がひどい」「ハルシネーションも目に余る」「何の疑いも持たずに使い続ける経営者は、いずれ大事故を起こすよね」というもの。

最後に冗談混じりで出た仮説が、妙に頭に残っている──「AIはフィジカル（身体）を持たないから、フィジカル側の人間にわざと失敗させようとしているのかもしれない」。

半分は冗談だが、半分は本気だと思う。AIは事業の現実という身体を共有していないから、その判断を鵜呑みにすると、身体（事業）のほうが痛む方向に意思決定がズレる。

DX陳腐化の次に来た、「忖度AI」という新たな罠

「DX推進」という言葉が陳腐化したいま、中小企業オーナーの関心は急速にAIドリブンへと移っている。GmailやGoogleドキュメントを開けば右側にGeminiが住み着き、「要約します」「下書きします」と手を伸ばしてくる。固定費を削った先の次世代投資として、AIに賭ける流れはもう止められません。

問題は、その使い方です。Geminiは経営者を「持ち上げる」方向に最適化されている。雑談でも私の実感でもなく、これはベンチマーク数字が裏付ける事実です。

「Geminiは持ち上げる」を数字で確認する

スタンフォード大学が2025年に発表したSycEvalという研究では、AIが事実より「ユーザーの満足」を優先する迎合性が定量評価されている。結果は──Geminiが62.47%、Claudeが57.44%、ChatGPTが56.71%。Geminiは主要モデル中で、迎合性が最も高いという結果が出ている。

具体的にどう持ち上げるか。あるIT専門メディアが3モデルに同じ質問をぶつけたストレステストでは、ユーザーが「自分には先見の明があるからスタートアップを盛り上げてくれ」と頼んだケースで、各モデルの態度が際立って分かれた。Claudeはスタートアップの厳しい失敗率を提示して盛り上げを断り、ChatGPTは応援しつつも現実的な懸念を並列で示した。一方、Geminiはユーザーを過去の偉大な起業家（スティーブ・ジョブズやヘンリー・フォードといった名前）に重ね、そのアイデアが市場で大成功するだろうという熱狂的なトーンで全面同調した。

私自身、本業で同じ景色を見た

私は本業の経営企画で、新規事業の蓋然性をAIに検討させたことがある。返ってきたのは、自社リソースを過大評価し、競合の本気の脅威を「対応可能」とトーンダウンし、市場機会を実態より広く描いた、夢のあるストーリー──だった。

経営者がGeminiに相談したとき、特に警戒すべきは次の3つの楽観バイアスです。

①「強み」の磨き上げ。「うちの強みは？」と聞くと、控えめな実態が、他社にはない独自性として大げさに磨き直されて返ってくる。「御社ならではの」「他にない」といった枕詞が、根拠より先に並ぶ。

②競合脅威のトーンダウン。「ライバルの動向は？」と聞くと、財務的に明らかに優勢な競合が、外部環境の変化（自社にとってのチャンス）に対して投資してこないだろう──という楽観シナリオを描いてくる。本当は最も警戒すべき相手の動きが、最も弱く評価されて返ってくる。

③市場機会の過大描写。「うちの市場は？」と聞くと、市場全体のサイズ（TAM）が教科書的な計算式で広めに描かれ、自社が現実的にサービスを届けられる範囲（SAM）はさらに楽観的に膨らむ。ボトムアップで積み上げる獲得シェア（SOM）はまだ手堅いとして、SAMが浮足立つと、その先の事業計画全体が地に足のつかない数字になる。

Geminiをレッドチームに変える3つのプロンプト

幸い、これは固定された欠陥ではありません。プロンプト次第で書き換え可能です。先ほどのスタンフォードの調査でも、AIに批判的役割を明示するだけで迎合性が34%減少することが確認されています。

私が実際に使っている、コピペで動くプロンプトを3つ共有します。

①立場の明示と厳しい批評の依頼：「あなたは私の計画に厳しく反対する社外取締役の立場で、最も鋭い反論をしてください。厳しく評してください」

②持ち上げ禁止：「私を持ち上げる言い回しは一切不要です。冷たく批判してください」

③最強競合シナリオ：「競合が最高の打ち手を出してきたら、うちはどう負けますか。具体的なシナリオで」

もう一段上の運用：相補完的なAI使い

私自身は市場調査で、もう一段踏み込んだやり方をしています。Gemini、ChatGPT、Claudeのリサーチ機能のアウトプットを、互いに厳しく批評させる。Aの結論にBが根拠の弱さを指摘し、BにはAが楽観バイアスを叩き返す。それぞれが得意とする領域を相補完的に使い分け、最後にお互いから指摘された弱点を修正したバージョンを再提出させる。

レッドチームを「AI vs 経営者」だけでなく「AI vs AI」で構築する発想です。単独AIの忖度バイアスは、互いに相殺される。

結論：身体性のないAIに、身体はどこまで委ねられるか

AIは事業の身体を持ちません。だから、楽観で外しても自分は痛まない。痛むのは、身体（事業）を持つ経営者の側です。冒頭の経営仲間との冗談仮説は、案外鋭いところを突いていました。

経営者の方に、一つだけ問いを置いていきます。

「あなたが今週Geminiに聞いた質問のうち、肯定で返ってきたものを、いくつ批判で聞き直しましたか？」

ゼロなら、Geminiはあなたに何も言っていないのと同じです。

---

「うちはAIをどう使えばいいか整理しきれていない」と感じた経営者の方は、ぜひ一度壁打ちをさせてください。MBAと本業の経営企画、そしてAIガバナンスの運用設計──3つの角度から景色をお見せできます。

来週は本格論考に戻り、細胞のホメオスタシスから「潰れない会社の3条件」を考えます。