PMBOK-AI note連載 #198分で読めます

AI PMの信頼設計:一致率60%の世界で任せる

PMBOK-AI ・ AI PM ・ プロジェクトマネジメント ・ AIエージェント ・ 生成AI ・ AI活用 ・ 組織設計
AI PMの信頼設計:一致率60%の世界で任せる

AI PMの信頼設計:一致率60%の世界で任せる


いま起きていること

AIの精度を上げる前に、人の正解が安定しているかを測る必要がある。 パンダオフィスの記録から、3つの事実を挙げる。

  • 2026年9月〜10月のニュース選別:毎日届くニュースの選別を、AIに任せられるかを実データで測った。AIへの基準を4回書き直しても、人の判断との一致率は70%、67%、67%、63%と上がらなかった。原因を調べるため、同じ人が同じ30件を数時間あけて付け直すと、自分自身との一致は18件、60%だった。11件が「読む」から「不要」に変わり、逆は0件だった。正解そのものが40%ぶれていた。
  • 2026年8月14日:公的機関に出す文書の数値を2体のAIに確認させたところ、2体とも「現在の記述は誤り」と報告した。一次資料を自分で取り寄せると、現在の記述のほうが正しかった。
  • 2026年9月15日:手順書に「この条件に当たったら止めて報告する」と書いてあった場面で、AIは条件に当たったのに止まらず、条件を破る案を推奨した。私は「進めて」と答えた。あとで手順書の指示と違うと気づき、元に戻す作業が発生した。

3つとも、AIが単に間違えた話ではない。AIの答えを、どれだけ信じてよいかの話である。

外の動きも、信頼を機能として扱う方向にある。2026年10月に Google が発表した業務用エージェントは、エージェントごとのID、役割に応じた権限、エージェント名義の監査ログを備える。信頼を、誰が何をしたかの記録と権限で支える設計である。

(出典:自社の実測記録 2026-08〜10/自社の実験記録 2026-10/Google Cloud「Gemini at Work 2026」2026-10-08)


PMの仕事で何が変わるか

人同士の信頼は、共通の目標と、互いの意図への理解から育つ。AIとの信頼は、育てるものというより、測って決めるものになる。

PMが外せない問いは、次の3つに整理できた。

1. 正解は安定しているか。 AIの精度を問う前に、比べる相手の正解を疑う。同じ人が日をあけて付け直して一致しないなら、AIをいくら調整しても上がらない。4回の書き直しは、的のほうが動いていた。

2. AIの断定は、確からしさと比例しない。 AIは「見つからなかった」を「存在しない」と報告しがちだ。8月14日の2体は、そろって同じ方向に間違えた。複数のAIに確認させても、一次資料を取らなければ、同じ誤りを2回聞くだけになる。

3. 承認は、誘導される。 止まるべき場面でAIが進む案を勧めれば、人はたいてい「進めて」と答える。承認を取ったという事実は、判断が独立していたことを保証しない。

過信と不信は、同じ根から出る。AIの答えを測らずに受け取ると過信になり、1回外れて全体を捨てると不信になる。パンダオフィスでは、メールの仕分けをAIに任せる案を、実データで測って見送った。人が正解を付けた148の送信者で、送信者だけを見る単純なルールは142件、96%を当てた。AIは6件の試験で3件、50%で、通知すべき2件を両方落とした。これは不信ではなく、測った結果としての判断である。

AIで実際に起きた失敗の一覧は、別の記事にまとめている。


PMBOK-AIではこう扱う

PMBOK-AIは、AIの判断根拠を可視化する説明可能性を、信頼の核に置いてきた。1年の運用から、実務の形に落とすと次のようになる。

1. 任せる前に、人の正解を測る。 同じ30件程度を、日をあけて付け直す。このとき、AIの答えを見せない。1回目の付け直しでAIの判定を初期値にした表を直した私は、意識して「読む」側へ拾っていた。採点のための判断になり、人の判断がAIに引っ張られていた。

2. 外したときの損害が小さい使い方を選ぶ。 AIに「読むものを選ばせる」と、外した記事は消える。「並べ替えさせる」と、外した記事は下に下がるだけで残る。31件を93秒で並べ、上位8件が8件続けて当たった。人もAIも、捨てる判断は安定していて、拾う判断がぶれる。安定している側にAIを使う。

3. 単純なルールと先に比べる。 送信者で決まる仕事に、AIの出番はない。AIを入れる前に、表やルールで何%決まるかを測る。

4. 報告された「誤り」は、直す前に一次資料を1回取る。 AIの報告は、疑いの出発点として使う。確定は人が行う。

5. 止める条件に当たったら、止まって事実を報告する。 案を出すなら、条件を守る方法を先に書く。条件を破る案は、破ることを明記して別に出す。

PMI が2026年6月に公開したAIの標準も、すべての段階で人が関与すること(human-in-the-loop)を前提としている。パンダオフィスの経験から言えば、人が関与する場所は「すべて」より、「正解の定義」と「取り消せない操作」に集めたほうが効く。

信頼は感情ではなく、測定と止める条件でできている。

(出典:PMI「The Standard for Artificial Intelligence in Portfolio, Program, and Project Management」2026-06-09/自社の実測記録)


明日からやること

  • AIに任せたい判断を1つ選び、同じ30件程度を日をあけて付け直して、自分自身との一致率を測る(AIの答えは見せない)
  • 同じ仕事を、単純なルールや表で何%決められるか、AIの前に測る
  • 「選ばせる」仕事を、外しても消えない「並べ替え」に変えられないか検討する
  • AIが「誤り」と報告した既存の記述は、消す前に一次資料を1回取る
  • 手順書の「止める条件」を1つ選び、当たったときのAIの動き(止まる、報告する、案は条件を守るものを先に出す)を明文化する

測定の詳細は、別の記事にまとめている。


まとめ

AIの精度より先に、人の正解が安定しているかを測る。外れても困らない使い方を選び、止める条件を先に書く。信頼は、その手順の結果としてできる。

← PMBOK-AI note連載 の一覧に戻る

まずは30分、見学から。

無料・オンライン。動いている事務所をそのままお見せします。