AIへの過度な依存は禁物–求められる人間の視点と批判的思考

　大手コンサルティング企業Boston Consulting Groupが2023年のレポートで、同社のITコンサルタントの生産性がOpenAIの「GPT-4」ツールによって向上したと発表したところ、同社と他の業界大手は一部の批評家から強い反発を受けた。莫大な料金を支払ってコンサルティングサービスを利用し続けるよりも、自分で無料の「ChatGPT」を使用する方がいいという。

批評家らの論拠はこうだ。高い料金をとるコンサルタントは結局のところChatGPTから回答やアドバイスを得るだけなのだから、第三者を介さずにChatGPTを直接利用すればいい。

開発者やコンサルタント、ビジネスユーザーなど、AIを多用する人材を雇う人や、そのような職に就くことを検討している人にとって、貴重な教訓がある。この批判に込められたメッセージは、スキルが限られていようと不十分であろうと、今ではAIを使えば誰もが出世できるし、事情に精通しているように見せかけることができる、というものだ。これにより、競争環境が平等になった。必要とされているのは、AIが提供する情報や結果に視点と批判的思考を提供できる人材だ。

高度な技能を持つ科学者、技術者、内容領域専門家でさえ、成果物の作成において自分の専門知識ではなくAIに頼りすぎるという罠に陥る可能性がある。

「AIソリューションが人間の認知限界に不利に働き、理解に関する幻想を抱きやすくなって、世界について実際よりも多くのことを理解していると信じ込んでしまうおそれもある」。Natureに掲載されたこのトピックに関する研究論文にはこう書かれている。

情報を批判的に精査する訓練を受けた科学者であっても、機械が生成した洞察の魅力に夢中になりつつある、とイェール大学の研究者であるLisa Messer氏とプリンストン大学の研究者のM. J. Crockett氏は警告する。

「そのような幻想のせいで、科学の単一文化の形成を見抜く科学界の能力が不明瞭になり、ある種の方法、疑問、視点が代替的なアプローチを押さえつけて、科学の革新性が低下し、ミスが起きやすくなる」と両氏の研究論文に記されている。

Messer氏とCrockett氏によると、AIの倫理、偏見、そして人間の仕事が奪われることへの懸念に加えて、専門知識の源としてAIに過度に依存することのリスクが、ようやく認識され始めたという。

一般的なビジネス環境において、ユーザーがAIに過度に依存すると、生産性の低下や、誤ったものへの信頼といった結果を招く。たとえば、ユーザーが「AIの提案に合わせて行動を修正、変更、転換する可能性がある」とMicrosoftのSamir Passi氏とMihaela Vorvoreanu氏がこのトピックに関する研究の概要で指摘している。さらに、ユーザーは「AIのパフォーマンスを評価して、AIが自分の意思決定に与える影響を理解するのが難しくなる」だろう。

これは、Esquire Bankの最高イノベーション責任者（CIO）であるKyall Mai氏の見解だ。Mai氏はAIを顧客エンゲージメントの重要なツールとみなす一方で、人間の経験や批判的思考に代わるものとしてAIを過度に使用しないよう警告する。法律事務所に専門的な融資を行うEsquire Bankは、ビジネスを理解し、AIがビジネスの発展のためにできることを分かっている人材を求めている。筆者は先頃、Salesforceがニューヨークで開催したカンファレンスでMai氏と顔を合わせて、AIに関する経験と見解について聞いた。

コーダーから多様な職務を担当するCIOにまでのぼりつめたMai氏は、AIが非常に価値の高い生産性向上ツールであるという可能性に異議を唱えているわけではない。しかし、コンテンツ作成であれ、コーディングであれ、生成AIへの過度な依存によって、人間の思考の質と鋭さが損なわれることを懸念している。

「素晴らしい頭脳を持ち、結果を出せるということが、AIや生成AIが返す提案に関して批判的思考を持ち、自分自身の見解を示すことに意欲的な人と同じくらい優れているとは限らない。われわれはこの点を認識している」とMai氏。「われわれが求めている人材は、感情認識と自己認識を備えていて、『これはちょっとおかしい。勇気を出して誰かと相談し、人間が関与していることを確認しよう』と考えられる人だ」

Esquire BankはSalesforceのツールを採用して、AIの両面、すなわち生成AIと予測AIを導入している。Mai氏によると、予測AIがEsquire Bankの意思決定者に提供する洞察は、「どの弁護士がサイトを訪問しているかに関する内容であり、これらの訪問に基づいたサービスのパーソナライズに役立っている」という。同氏はCIOとして、顧客エンゲージメントとITシステムの両方に対応している。

完全バーチャルの銀行であるEsquireは、マーケティングチームで多くのAIシステムを採用し、生成AIによるコンテンツとバックエンドの予測AIアルゴリズムを融合している。

「体験は人によって異なる」とMai氏は語る。「そのため、AIを使用して、次に顧客に提供すべきコンテンツセットを予測している。予測の根拠は、その見込み客のためにできることに関して、システムの裏側と内部で実行されるさまざまな分析だ」

Mai氏はAIを頻繁に利用する中で、人間の性質における興味深い歪みに気づいた。人はこれらのシステムへの依存度が高まるにつれて、自分の判断や勤勉さを軽視しがちになる。「たとえば、一部の人は怠惰になり、何らかのプロンプトを入力して、『本当に良さそうな応答だ』と判断し、その応答を採用してしまうことが分かった」

Mai氏は、それほどのレベルでAIへの依存が過剰だと感じたら、「その人を自分のオフィスに呼んで、『私はあなたの見識に対して報酬を支払っている。私に読ませようとしているプロンプトとAIの応答に対してではない。結果を持って来て私に返すということは求めていない。批判的思考を実践してほしい』と伝えている」

それでも、同氏はテクノロジーチームのメンバーに対して、日常的な開発タスクの負荷を生成AIツールおよびプラットフォームに移して、ビジネス部門との連携を強化するための時間を確保するように奨励している。「コーダーは、これまでコードの記述に費やしていた時間の60％が、必ずしも画期的ではない管理用コードを作成する時間だったことに気づきつつある。それを音声プロンプトによってAIに代行させることが可能だ」

その結果、同氏は次のように感じている。「従来のコーダーとビジネスアナリストの境界線が格段に曖昧になっている。なぜなら、コーダーは実際には付加価値のない作業に膨大な時間を費やしていないからだ。これは、ビジネスアナリストがソフトウェア開発者になり得るということでもある」

「プラットフォームの前に座って、『これとこれとこれとこれを実行するシステムが欲しい』と伝えると、そうしてくれるようになれば、面白いだろう」