AIに原稿を批評させて、自分の論理の飛躍に気づいた

以前、AIに相談すると、こちらの考えを肯定する方向へ寄った答えが返ってきやすいという話を書いた（AIドリブン経営の落とし穴──「レッドチーム」を立てない経営者が見落とす、3つの楽観バイアス）。そのときに紹介したのが、計画や原稿を作るAIとは別に、反証だけを求めるAIを置くという方法だった。この運用は、今も続けている。先週の記事を作る過程で、その使い方についてもう一度考えることになった。

私は、AIに完成した原稿を一度で書かせて公開しているわけではない。テーマの選び方、扱う論点、想定される反論、構成の順序を、AIと往復しながら決めていく。原稿ができたら、執筆を手伝ったAIとは別のAI、別のセッションに渡して、批評を頼む。先週の記事でも、同じ手順を踏んだ。

返ってきた指摘には、原稿の問題だけでなく、自分の書き方についての疑問も混ざっていた。研究の世界ではまだ仮説として扱われている内容を、確定した一続きの説明のようにつないでしまっている箇所があった。何度も読み返していた原稿だった。それでも、書いている間は、その部分がつながって見えていた。言い方が強すぎる、と指摘されて初めて、自分がどこで境界を越えていたのかが見えた。

一人で書いていたら、この飛躍には、公開したあとで誰かに指摘されるまで気づかなかったかもしれない。人に「もう一度読んで、疑わしいところを探してほしい」と何度も頼むのは、気が引けるし、相手の時間も取らせる。AIには、公開する前に、角度を変えながら何度でも反証を求められる。AIの価値は、原稿を早く仕上げることだけではないと思う。公開する前に立ち止まって、自分の前提を疑い直す回数を増やせることにも、価値がある。

一方で、批評した側の説明にも、書誌情報を含む事実の誤りが残っていた。別のAIに読ませることで、視点は確かに増えた。ただ、それが内容の正しさを証明してくれるわけではなかった。

指摘を受けて原稿を見直すと、表現を直すだけでは済まなかった。記事の一部は、構成から作り直すことになった。この経験があったので、先週の記事の最後に、次はこのテーマを書くと予告した。

今後も、この運用は続けるつもりでいる。AIには、言い切りすぎている箇所、別の説明が成り立つ箇所、読者から合理的に反論されそうな箇所を探してもらう。ただ、返ってきた指摘を、答えや保証としては受け取らない。すべてを反映するわけでもない。どの指摘で原稿を読み直すかは自分で決める。確認の手間をどこにかけるかは、記事によって変えている。踏み込んだ書き方をした箇所ほど、それが外れたときに読み手の判断へ響くので、そこは元の資料に戻って確かめる。踏み込んだ解釈を書くことと、その根拠の確認を緩めることは、別のことだと思っている。

レッドチームを、誤りをゼロにする仕組みとは考えないことにした。使うのは、公開する前に自分の思い込みを疑うためだ。どこで確認を止めるかは、何回批評させたかでは決められない。誤ったときに読み手へ与える影響が大きい内容ほど、時間をかける。それでも、不確実さが完全に消えることはない。消えるまで待っていたら、何も出せない。残っているものを分かったうえで、公開するかどうかを決めている。後から誤りが分かれば、自分の名前で直す。この決め方が今のところ一番しっくりきているだけで、これから変わるかもしれない。

---

【来週予告】 来週は経営企画の窓から。引き継いだ業務の中には、誰のどの判断に使われているのか分からないまま続いている集計や資料があります。その成果物がどの判断につながっているのかを、どう確認しているかを書きます。