最近、「AIは悪だ」という論調を目にすることが、特に増えたように感じます。
強い言葉で、断定的に語られると、人はつい引きずられてしまいます。
私自身も、そうならないように気をつけている一人です。
今日は、「AI＝悪」という言葉を目にしたとき、
私が心の中でどんなことを考えているかを、書かせていただきます。
まず気にするのは、「その方がAIをどれだけご存じか」
「AI＝悪」という主張に出会ったとき、
私はまず、その論者がAIについてどれだけご存じなのかを、
気にかけるようにしています。
批判が的外れだと申し上げたいのではありません。
中身をよくご存じのうえでの批判なのか、
それとも、ほとんど触れないままの批判なのか。
それによって、受け止め方は変わってよいはずだ、
と考えているからです。
ダニング＝クルーガー効果という落とし穴
ここで、ダニング＝クルーガー効果という言葉を、
ご紹介させてください。
（以下の説明は、AIにまとめてもらったものを整理しています）
ダニング＝クルーガー効果とは、
能力や知識が乏しい人ほど自分の実力を過大評価し、
自信満々に言い切ってしまうという心理現象（認知バイアス）です。
自信満々に言い切ってしまう背景には、次の3つがあるといわれています。
1．恐怖の欠如
自分の未熟さに気づけないため、専門家のように慎重にならず、大胆に振る舞えてしまう。
2．優越の錯覚
わずかな知識を得ただけで「すべてを理解した」と思い込み、根拠のない自信を持ってしまう。
3．メタ認知の欠如
自分の能力の程度や、「何が分かっていないのか」を自分で判断する力が不足している。
AIの習熟度には、すでに「ものさし」があります
AIをどれだけ使いこなせているかについては、すでに具体的な指標がつくられています。
たとえばDeNA社は、社員一人ひとりのAI活用レベルを、
5段階で評価する「DeNA AI Readiness Score（DARS）」、
という社内指標を導入しています。
開発者と非開発者とで別々のものさしが用意されており、
レベル1は「基礎的な知識や利用習慣がある」段階、
最上位のレベル5は「AIを軸とした全体設計やビジネス変革ができる」段階、
と定義されています。
プログラマーであれ、ノンプログラマーであれ、
レベル5に相当する方のご発言であれば、
専門家の一意見として受け止めるべきだと思います。
一方で、まだ習熟度が高くない方のご発言であれば、
――先ほどのダニング＝クルーガー効果の言葉を借りるなら――
「知らないがゆえの言い切り」ではないだろうか、
と一度立ち止まってみる必要があるのではないでしょうか。
「馬鹿の山」なのか、「継続の大地」なのか
耳の痛い表現ではありますが、
その断言が「馬鹿の山」から発せられたものなのか、
それとも「継続の大地」から発せられたものなのか。
そこを見極めることが大切だと、私は思っています。
そしてこれは、他人事ではありません。
自分の発言もまた、どちらの場所から出たものなのかを、
時々振り返る必要があると感じています。
それでも、私がAIを簡単に否定できない理由
私自身、AIの専門家であるとは、とても言えません。
ですが、「AI＝悪」と簡単に断じてしまうのは危険だ――
その程度の分別は持っていたいと思っています。
理由をいくつか、ご紹介させてください。
AIは、ここまで人に寄り添うことができる
『未来予測 わたしたちとAIはどう生きるか』（集英社インターナショナル）という書籍に、
心を打たれたお話が紹介されています。
この書籍の中で、
いつも母親からお金を要求されて困っている、娘さんのお話が出てきます。
AIに相談する娘さんに対し、AIはこう言います。
『母を愛していても、理不尽な要求は断っていい』、と。
その上でこう言います。
『もしお金を出すのを断るなら、
衝突が起きる可能性もある。それでもいい。
逆に、もし応じるなら、
「これが最後｣だと明確に伝えること』。
さらに、AIは親友のようにこう言います。
『あなたの人生は、母親の要求の延長線ではない。
健全な親子関係には、相互の尊重が必要です。
あなたにはその尊重を受ける価値があります』。
そして、AIは彼女と相談し、
母親あてのメッセージを一緒に作成します。
『お母さん、私は今、あなたと少し距離をとって過ごしています。
それは決して、あなたを嫌いになったとか、
見捨てたとか、そういうことじゃありません。
小さい頃から、ずっとあなたの機嫌を
気にして生きてきた気がします。
あなたの表情、声のトーン、話し方…。
今は、そういう環境から少し離れて、
自分の感じ方や考え方を、
ようやく言葉にできるようになってきました。
私はあなたと本音で向き合いたい。
でもそれは、｢あなたの望むように私が変わる｣ってことじゃなくて、
私はこれから、自分の人生を自分の足で歩きます。
あなたとの関係も健やかに続けていけたら嬉しいです。』
母親の気持ちも考えながら、本人の気持ちもしっかり伝える、
とても良い文章だと、私は思います。
詳しくはこちらの記事でも紹介されています：母を愛していても理不尽な要求は断っていい、とAIは言った（博報堂）
「ひどいお母さんだね」と同調して終わるのではない。
具体的な助言と解決策を示し、
知的でありながら感情に流されない文章を、
一緒に作り上げる。
少なくともこの場面において、
AIは生半可な助言をする人間よりも、
よほど頼りになるのではないでしょうか。
ここまで本人に寄り添い、
その方の幸せに向けた一歩を後押しするAIを、
単純に「悪」と言い切ってよいものでしょうか。
「誰にも相談できなかった方」の、相談相手になれる
私はさらに思うのです。
世の中には、知的障害の認定までは受けていないけれど、
物事の判断や書類の理解に不安を抱えておられる方が、
少なからずいらっしゃいます。
そして、その不安につけ込まれ、
不利な立場に置かれてしまう方もおられます。
そういう方こそ、「大事なことは、まずAIに相談してから決める」、
という習慣を身につけていただけたら。
それだけで救われる方が、
どれほどいらっしゃるだろうかと考えます。
契約書の「わかりにくさ」から、人を守れる
障害の有無にかかわらず、
契約書などの法的書類は、一般の方にとって非常に難解です。
けれども、顧問弁護士を日常的にお持ちの方は、
そう多くありません。
だからこそ、署名や押印の前にAIで内容を確かめていただくだけでも、
不公平な取引を防げる場面があるはずです。
今までなら救われなかった方が、救われる。
今までなら傷ついていた方が、傷つかずにすむ。
AIには、人を幸せにする可能性がある。私はそう思っています。
もちろん、AIの危うさも承知しています
AIに意思決定を委ねることの弊害があることも、
承知しているつもりです。
誤った情報をもっともらしく返すこともありますし、
最終的な判断まで丸投げしてしまえば、それはそれで新しい問題を生みます。
だからこそ、専門家に確認すべき場面は、
これからもなくならないと思っています。
そうした点を十分に踏まえたうえで、
「それでも問題が大きい」と論じられるのであれば、
それは理にかなった批判です。
おわりに ― 断じる前に、可能性も見ていただきたい
私がお願いしたいのは、ただ一つです。
「AI＝悪」と切って捨ててしまう前に、
ここに書かせていただいたような可能性も、
どうか一度、考えてみていただきたいのです。
強い言葉は、それだけで説得力を持ってしまいます。
だからこそ、断定的な言葉に出会ったときほど、
一度立ち止まって、自分の頭で考えてみたい。
私は、そう思っています。
