AIブラウザーに潜む落とし穴–ガートナーが企業に利用停止を求める理由

調査会社Gartnerのアナリストらは、当面の間、企業はエージェント型ブラウザーの使用を避けるべきだと警告している。

エージェント型ブラウザー、すなわちAIブラウザーは、私たちがインターネットにアクセスし、検索クエリーを実行し、ワークフローを管理するためにブラウザーを利用する方法を変えつつある。

AIが今やほぼ全ての産業に組み込まれた現状を鑑みると、これらのテクノロジーがウェブブラウザー市場に浸透するのは時間の問題だった。

有名なブラウザー開発企業が、検索機能、ユーザーアシスタンス、サポート、セキュリティにおけるAIのメリットと潜在的なアプリケーションを模索しているだけでなく、エージェント型ブラウザーへの関心の高まりによって、小規模な組織も続々と登場している。現在ではOpenAIやPerplexityなどの組織からもAIブラウザーが提供されている。

AIブラウザーは、調査、コンテンツの要約、パーソナライゼーションの目的では有益となり得る。これらは時間を節約し、効率を向上させる可能性を秘めているが、大規模言語モデル（LLM）ベースのチャットアシスタントによる全てのクエリーの回答が正しいわけではない。また、AIブラウザーが本質的に安全であるということを意味するものでもない。

The Registerが報じたところによると、12月に公開されたGartnerのアナリストレポートおよびアドバイザリー「Cybersecurity Must Block AI Browsers for Now」では、同社アナリストが見解を示している。同レポートによれば、エージェント型ブラウザーはウェブサイトとのインターフェースやオンライン活動の実行方法に革命をもたらす可能性を秘めている一方で、「重大なサイバーセキュリティーリスク」を伴うと指摘している。

同社は「最高情報セキュリティ責任者（CISO）はリスクへの露出を最小限に抑えるため、予見可能な将来において、全てのAIブラウザーをブロックしなければならない」と述べた。

AIブラウザーがもたらすリスクとは

アナリストのDennis Xu氏、Evgeny Mirolyubov氏、John Watts氏によれば、主要な問題は「AIブラウザーのデフォルト設定が、セキュリティよりもユーザーエクスペリエンスを優先している」点にあるという。

AIブラウザーは、ユーザーに代わって自律的に動作し、ウェブサイトとやりとりし、タスクを実行できる。さらに、たとえ悪意のあるコンテンツであっても、ユーザーに特定の行動を促す可能性のあるコンテンツを表示できてしまうため、消費者と企業の双方の文脈において、その使用には明白なリスクが存在する。

例えば、AIチャットボットが悪意のあるウェブサイトと意図せずにやりとりしたり、従業員が機密性の高い企業データをAIアシスタントに送信し、その情報がどこに保存されているかを認識していなかったりする可能性がある。AIのクラウドバックエンドのセキュリティが不十分な場合、結果的にデータ侵害やセキュリティインシデントが発生し、企業を危険にさらすことになりかねない。

加えてGartnerは、従業員が反復的なタスクを自動化するために、AIブラウザーまたはAIアシスタントの使用に誘惑される可能性があると指摘した。AIはワークフローに恩恵をもたらし、効率を改善できる一方で、この方法での利用は予期せぬ影響を及ぼす場合もある。例えば、従業員がセキュリティ研修を修了するためにAIを利用し、結果として何も学ばないといったケースだ。

リスク管理の重要性

AIブラウザーとアシスタントが持つサイバーセキュリティ上の潜在的な影響について警告を発しているのは、Gartnerだけではない。

　セキュリティ専門家らは、AIブラウザーの進化を注視しており、その規制に伴う多くの潜在的なサイバーセキュリティ上の課題について警告している。具体的には、プロンプトインジェクション攻撃の出現、個人データの盗難と露出、そして個人のセキュリティを危うくする監視リスクの増大などが挙げられる。

　Gartnerは、企業に対し、AIソリューションおよび関連するバックエンドシステムについてリスク評価を実施することを推奨している。このようなセキュリティ監査によって、AIブラウザーが許容可能なセキュリティリスクと見なされるかどうかが明らかになるからだ。これらが新しく、まだ試行段階であることを考慮すると、答えは「否」となる可能性が高い。

　その場合、GartnerはCISOがAIブラウザーの使用を全面的にブロックすることを検討すべきだと述べている。ただし、いずれのケースにおいても、従業員はAIに過度に依存する危険性について、またAIプログラムとやりとりする際に機密情報を共有すべきではない理由について、トレーニングを受ける必要がある。

KnowBe4のリードセキュリティ啓発アドボケイトであるJavvad Malik氏は、「エージェント型ブラウザーはユーザーエクスペリエンスを向上させる多くの機能を約束する一方で、現在はリスクが十分に理解されておらず、デフォルト設定がセキュリティよりも利便性を優先しているという初期段階にある。これは多くのテクノロジーで見られる現象だ」とコメントしている。

しかし、同氏は続けて「一律的な禁止措置は、長期的な戦略としては持続可能ではないことがほとんどだ。そうではなく、これらのブラウザーを動かす特定のAIサービスを評価するリスクアセスメントに焦点を当てるべきだ。これにより、必要な監視を維持しながら、段階的な導入が可能になるだろう」と述べた。