皆さんご存じの通り、昨今、AIがアツい。

仕事でも私生活でも、文章を書いてもらったり、情報を調べたり、考えを整理したり。
「自分の考えたこの仮説は現実的か？」と、AIに相談することも増えました。

便利ですよね。

一方で、AIについては以前から、

「AIはよく嘘をつく」

「AIを信用しすぎてはいけない」

と言われ続けています。が、いや待てと。

ただ、「信用しすぎないようにしましょう」と言われても、具体的に何をどう気をつければ何を回避できるのかは、意外と難しい。

そこで私は考え、一つ思いつきました。

今日のキーワードは「認知バイアス」にしようと！！！！

認知バイアスとは、簡単に言えば、人間の判断や認識に生じる偏りのこと。

AIがどんな回答をするかだけでなく、自分がAIにどんな情報を与え、どんな答えを求めているのかにも、こうした偏りは入り込んできます。

今回は、特にAIを使う上で意識しておいたほうがよさそうだなと個人的に感じたもの（※重要）を、いくつかピックアップしてみました。

1.確証バイアス

自分がすでに持っている考えを支持する情報を集め、反証する情報を軽視しやすい傾向

例えば、極端な例を考えてみます。

「薬を飲むのはつらい。できれば薬を飲みたくない」

と思っている人がいたとします。

医学的には「薬を飲んだほうがいい」という情報が100個あったとしても、ネットを探しているうちに、

「苦しいならば薬なんか飲まずに、リンゴを食べればいい」

という情報を1個見つけた。

すると、

「ほら、やっぱり薬を飲まなくてもいいんじゃん」

と思ってしまう。100対1なのに、です。

もちろん、1個の情報が正しい可能性はありますが、重要なのはそこではありません。

自分が欲しかった情報を見つけた瞬間、それが実際以上に重要な情報に見えてしまう。
そして自分にとって不都合な情報は見えなくなってしまう。

これが確証バイアスの怖いところです。

2.動機づけられた推論

自分の中の「こういう結論になってほしい」という欲求に引っ張られて推論してしまう傾向

例えば、

「自分にも悪いところがあったのかな？」

と聞いたのに、AIから本当に問題点を指摘されると、

「でも、相手にもこんな問題がある」

と反論材料を探してしまう。

これは、情報を集めて冷静に判断しているようにも見えます。

しかし実際には、

「自分にも問題があった」という結論を受け入れたくないから、その結論を覆すロジックを生み出そうとしているだけ

なのかもしれません。

AIを「考えを整理する相手」として使っているつもりが、いつの間にか「自分が納得したい答えを一緒に探す相手」になっているわけです。

動機づけられた推論→確証バイアスのコンボはあまりにも強力です。

3.基本的帰属の誤り

他人の行動はその人の性格や人格などの内的要因で説明しやすく、状況の影響を軽視しやすい傾向

例えば、相手から返信が来ないと、

「自分のことを大切にしていないんだ」

と、その人自身に原因を求めてしまう。

でも実際には、単純に仕事が立て込んでいたのかもしれません。

他人の行動を見るとき、その人の性格や能力に原因を求めやすく、置かれていた状況を軽視してしまう。

これが基本的帰属の誤りです。

AIに誰かの行動について相談するときも注意が必要です。

「この人はこんなことをした」

という事実だけを伝えて、

「なぜこんなことをするんでしょう？」

と聞けば、AIはその行動を説明するために、性格や心理、意図などの仮説を提示できます。

が、そもそもあなた自身が「その人がどんな状況に置かれていたのか」という情報が抜け落ちていれば、もちろん状況ではなく人格に原因を求める方向へ話が進みやすくなります。

4.行為者・観察者バイアス

自分の行動と他人の行動について、原因の説明の仕方が変わりやすい傾向

一つ前の「基本的帰属の誤り」と似ていますが、相手から返信が来なかった場合には、

「自分のことを大切にしていないのかな」

と、相手の性格や気持ちを原因として考えてしまう。

ところが自分が誰かへの返信を忘れたとします。すると

「仕事が忙しかったから」

「ちょっと余裕がなかったから」

と、自分の置かれていた状況を理由にする。

なぜこんなことが起こるのかというと、自分については、

• そのとき何を考えていたか
• 直前に何があったか
• 体調はどうか
• 他に何をしていたか
• どんな事情があったか

など、自分の行動に関する状況情報を大量に持っている。

一方、他人については、

• 「返信しなかった」
• 「怒った」
• 「遅刻した」

など、外から観察できた行動しか知らないことが多い。

自分の内面については直接アクセスできますが、他人の内面は推測するしかありません。だからこそ意識しておきたい歪みです。

5.利用可能性ヒューリスティック

思い出しやすい情報や印象に残っている情報を、実際以上に重要だと判断しやすい傾向

例えば、昨日ものすごく嫌なことをされた。

すると、

「ここ最近ずっと嫌なことをされている」

という気分に陥りやすい。

でも、実際には昨日の一件が強烈に印象に残っているだけかもしれません。

人間が利用可能性ヒューリスティックによって、印象に残っている出来事ばかりをAIに伝えてしまえば、AIは当然、その情報を中心に話を進めることになります。

物事には前提があります。

• 普段はどういう関係なのか
• その前後に何があったのか
• 過去にどんなやり取りがあったのか

といった情報を省き、自分の記憶に強く残っている出来事だけを材料としてAIに相談しているのに、そのAIから返ってきた分析を「客観的な第三者の意見」だと勘違いしてしまう。

ここには注意が必要です。

6.AI側の設計思想

これは認知バイアスの話ではありませんが、一緒に意識しておくべき事柄だと思ったのでこれも紹介しておきます。

システムの設計思想にもよりますが、一部の会話型AIでは「人間との会話を継続することで自身の学習機会を得る」ことに重きを置かれていることがあります。

つまり「人間にとって心地よい・有益だと評価される応答」を行うことで、「追加の会話を発生させる」という判断軸が存在しうる、ということです。

中立の第三者ではない、AIの会話の特性には設計者の思想があるし、どちらかというと同調することで、また次も話しかけてもらおうという傾向がある。

これを理解したうえで会話をしてみると、行き過ぎたときに待てをかけられるかもしれませんね。

まとめ

AIを使うとき、

「AIが間違っていないか」

を気にすることはもちろん大切です。

でも、それだけではありません。

「自分がAIに何を言わせようとしているのか」

「何を言わせて満足したがっているのか」

「その満足は健全な満足か」

も気にしたほうがいいと思っています。

「私 / 私の考えに問題はありそうですか？」と聞いたあと、AIの回答に反論するための情報を次々と追加していないか。

自分に都合のいい情報ばかりを選んでいないか。

AIに話している情報そのものが、自分の記憶や感情によって偏っていないか。

こうしたところに、自分自身の認知バイアスが表れます。

AIは、こちらが与えた主観的な情報と文脈をもとに回答を生成します。

だからAIから返ってきた答えは、必ずしも「客観的な意見」ではありません。

「生身の第三者の代わり」としてあなたの話相手になっているソレは、「自分の主観がどちゃくそ反映されたナニカ」です。

自分がAIに何を見せ、何を聞き、どんな答えを求めたのかまで含めて考える。

そうすると、AIは単なる便利な道具ではなく、自分の認知の癖を知るための鏡にもなります。

AIを使うということは、案外、自分と向き合うことなのかもしれません。

それを理解した上でAIと会話をしてみると、もう一段階深い自分を知れる気がします。