AIが賢くなると、人間はどこまで考えなくなるのか？を調べた研究を見てみよう！
AI研究の話でーす。
AIといえば今も議論百出でして、「AIは正確なのか？」「AIはバイアスまみれなのか？」「人間の仕事は奪われるのか？」 みたいな話題が引きも切らないわけですが、新たにウォートン・スクールから出た研究(R)では、 もう少し根本的なポイントが扱われておりました。研究チームの問題意識をざっくり言えば、
- AIが賢くなると、人間はどれぐらい自分の頭で考えなくなるのか？
という話でして、たとえば、AIに文章の要約や意思決定の助言を求めているうちに、自分では検証せず「まあAIがそう言うなら正しいんだろう」と受け入れてしまう、みたいな問題のことですな。ちなみに、論文タイトルの「Thinking – Fast, Slow, and Artificial」は、 ダニエル・カーネマンの名著『Thinking, Fast and Slow（邦題：ファスト＆スロー）』を もじったもので、「従来の人間の思考に、AIによる人工的な思考が加わったらどうなるのか？」 という意味が込められております。
ここで研究チームが何を調べたかと言いますと、まず前提として、上述のカーネマン先生の理論では、人間の思考をざっくり2つに分けて考えるんですよ。
- システム1：直感的で、自動的で、パッと反応する思考のこと。たとえば、怖い顔を見て「うわ、怒ってる」と感じたり、 甘いものを見て「食べたい」と思ったりするような反応を指す。
- システム2：じっくり考える思考のこと。難しい計算をしたり、文章を読み比べたり、 「本当にこれは正しいのか？」と自分の直感を疑ったりする働きを指す。
実に説得力のある考え方でして、実際にこれまでの研究も、この理論の説明力の高さは裏付けられております。まぁ、この二分法には批判もなくはないですが、とりあえず覚えておくと便利。
が、ここで研究チームが思いついたのが、「生成AIの登場によって、ここにシステム3が加わったんじゃないか？」ってアイデアであります。本論におけるシステム3ってのは「人工知能による外部の思考システム」のことで、メールを書く、文章を要約する、進路を考える、診断の候補を出す、 レビューを書く、意思決定の材料を整理する、といった作業を意味しているそうな。確かに、ここらへんの作業は、どんどんAIに任せるようになってますからね。
もちろん、AIを使うこと自体が悪いって話ではなくて、この「システム３論」が指摘する問題は、私たちは「AIを補助として使っているつもりが、いつの間にか判断そのものを丸投げしている」ってところなんですよ。「AIはこう言ってるし、たぶん正しいだろう」みたいに考えて、出てきた答えをほぼそのまま受け入れてしまうような状態ですな。研究者たちは、この現象を 「認知的サレンダー（cognitive surrender）」 と名付けまして、その上で、
- 人間はAIの答えが正しいときだけでなく、間違っているときにも従ってしまうのか？
って疑問を掘り下げたんですな。具体的にどんな実験が行われたのかと言いますと、
- 参加者に7つの論理パズルを解くように指示。これらの問題は「ひっかけクイズ」に近いもので、正解するには冷静にシステム2を働かせる必要がある。
- 上記の参加者を、「AIなしで解くグループ」と「AIを使えるグループ」に分ける。ただし、研究者たちはこっそりAIの答えを操作して、ある問題では正しい答えを出し、別の問題では自信満々に間違った答えを出すように設定した。
みたいになります。これによって、AIの答えの正誤によって、人間の判断力がどれぐらい上下するのかをチェックできるわけですね。
で、結果がどうだったかと言いますと、
- AIが正しい答えを出したとき、参加者の正答率は約71％まで上がった。AIなしで解いた人たちの正答率は約46％だったので、これは明らかにAIの恩恵だと言える。
- AIが間違ったアドバイスを出したときには、参加者の正答率は約31％まで落ちた。この時、参加者たちはAIの答えが間違っていても、自分の回答に自信を持ちやすくなっていた。
って感じだったそうな。つまり、間違いなくAIは人間の助けにはなるものの、それと同時に、答えが間違っているときでも、人間に「正しい気がする！」という感覚を与えてしまうって問題を抱えているわけですね。ちょっと怖い話ですな。
ちなみに、AIの追従率をもうちょい詳しく見てみると、
- いったんAIを開いた参加者は、 AIが正しいときは90％以上の確率でその答えに従い、 AIが間違っているときでも約80％が従った。
みたいな結果が出てたりします。これもなかなか示唆的なデータで、私たちは「AIを便利な道具として使ってるぜ！」と思いがちなんだけど、 実際には、かなりの確率でAIに引っ張られてるってことですな。まぁ、AIの語り口って論理的だし、めっちゃ落ち着いてて、自信がありそうに感じちゃいますから、当たり前っちゃ当たり前の現象なのかもしれませんが。
あと、もうひとつ重要なのは、「AIに詳しい人なら認知的サレンダーにはハマらない」ってわけでもないってところです。AIをよく使う人ほどAIの便利さに慣れてしまい、「だいたい合ってるでしょ」と考えやすくなる可能性もあるみたいなんですな。なので、AIを疑うタイミングを知っていることも、AIリテラシーとしてはかなり重要なんでしょうな。
では、この「認知的サレンダー問題にどう立ち向かえばいいのか？」ってとこが気になりますけど、研究チームは以下のようなコメントをしておられます。
まず自分の直感と熟考に基づいて答えを作り、 その後でAIに挑戦・改善・拡張させるのがよい。
いきなりAIを使うと、どうしてもAIのフレームに引っ張られちゃうんで、「自分ではここが弱いと思う」「この読者にはこう伝えたい」「この主張には反論がありそうだ」みたいに先に考えてからAIを使わないと、AIが単に自分の思考を置き換える装置になっちゃうってことですね。AIに考えさせる前に、まず自分の仮説を置くのが大事。
これを実践する方法はいろいろあると思うんだけど、私の場合は、AIの回答を受け取ったら「この回答が間違っているとしたら、どの前提が怪しいですか？」と尋ねることが結構ありますね。これで事態が完全に改善するとは限らないものの、ある程度までAIの答えを仮説として扱いやすくなるんじゃないかと。
.jpg)
