ひもとき ― 動きでわかる AI・IT ／ 第3回

ハルシネーション ― AIが堂々と間違える理由

← 一覧へ
例: 学習データに無い会社の創業年をたずねる
1 知らない質問が来る
→
2 それでも候補は並ぶ
→
3 一番それらしい語を選ぶ
↺ 同じ手順しか持っていない
質問 パンダ精機の創業年は？ ※ パンダ精機は架空の会社
生成AIの中身
この会社の情報は学習データに無い
知らない相手でも、手順は変わらない ― 次に続く言葉を確率つきで並べる
回答 言い切っている 根拠はゼロ
標準では「知らないから答えない」という仕組みが入っていない。確率は「それらしさ」であって「正しさ」ではない ― 数字が僅差でも、必ず1つ選んで書き出す。
例: 同じ質問に、対策を1つずつ足していく
1 根拠を渡す
→
2 逃げ道を与える
→
3 人が確かめる
↺ 3つ重ねて実害を止める
質問 パンダ精機の創業年は？ ※ 対策なしでは「1987年です。」と答えていた
1
根拠を渡す
RAG ― 第4回でくわしく
資料を添付: 会社概要.pdf
→
出典: 会社概要.pdf
2
逃げ道を与える
指示 ― 答えない選択肢を作る
指示: わからない時は「わからない」と答えて
→
作り話をせずに止まった
3
人が確かめる
運用 ― 出す前に一度見る
出す前に人がチェック
→
最終確認は人（Human-in-Command）
クリック / ← → キー / 1・2 キーで切り替え