AIは、バグらない
ここに、バグらない存在がいる。
AIだ。
疲れない。
機嫌で、揺れない。
満腹でも、空腹でも、同じ答えを出す。
人間のような、その日その時の認知の癖がない。
うらやましい、と思うかもしれない。
こんな頭が欲しい、と。
でも、ここに落とし穴がある。
考えを、外注する
AIに頼ると、便利だ。
調べる手間も、考える手間も、文章を組み立てる手間も、省ける。
それを、認知科学では「認知的オフローディング」と呼ぶ。
脳の仕事を、外に預けること、という意味だ。
これ自体は、昔からあった。
電卓を使えば、暗算しなくなる。
ナビを使えば、道を覚えなくなる。
そして、AIに考えさせると。
私たちは、考えなくなる。
使われない筋肉が衰えるように、
使われない思考の力も、少しずつ衰えていく。
疑わなくなる
もうひとつ、こわい癖がある。
「オートメーション・バイアス」。
機械が出した答えを、人は信じすぎてしまう、という傾向だ。
AIが、自信たっぷりに「これです」と言うと、
確かめもせずに、受け入れてしまう。
人間が出した意見なら、「本当かな」と疑うのに、
機械の答えには、なぜか身構えない。
ここに、根の深い問題がある。
人間はバグる。でも、自分でバグっていれば、まだ、どこかで気づける。
AIのバグを、そのまま鵜呑みにしたとき。
そのバグは、もう自分の中から出たものではないから、気づきようがない。
バグらない道具に、頼りすぎると
AIは、バグらない。
少なくとも、人間のようには。
でも、AIに頼りすぎた人間は、もっとバグる。
考える力が衰え、疑う力が鈍り、
「自分で確かめる」という習慣そのものが、消えていく。
便利さと引き換えに、
少しずつ、自分の頭を、手放していく。
道具が賢くなるほど、使う人間が、考えなくなる。
これは、皮肉な話だ。
ここまでの気づき
- 認知的オフローディング。AIに考えを外注すると、使われない思考の力は、筋肉のように衰えていく
- オートメーション・バイアス。人は機械の答えを過信し、人間の意見なら疑うのに、AIには身構えず受け入れてしまう
- AIはバグらない。でも、AIに頼りすぎた人間は、もっとバグる。気づけないバグを、自分の中に抱えこむ
明日へ
人間はバグり、AIに頼るとさらにバグる。
でも、いちばん危険なバグは、別にある。
「自分は、間違えない」という思い込みだ。
明日は、その話を。