Weekly digest – IT innovations – Japanese

AIのリスクに対処–倫理的な導入を目指す取り組み

人工知能（AI）が日常生活への結びつきを強めていくにつれて、この技術の倫理的な意味合いも強まる。その結果として、AIの悪影響を受ける可能性がある労働者や消費者を擁護する組織が出てきている。そして、社会がAIを倫理的に導入するための戦いには、誰もが参加できる方法がある。 　AIは倫理的な懸念を引き起こし、性別や人種に関する偏見を示すことが知られている。AIを監視に使用するケースなど、プライバシーに関する問題も提起された。さらに、AIは誤った情報の拡散にも利用されている。 　AIを適切に（そして倫理的に）使用すれば、社会全体の水準を高め、未来のテクノロジーを好ましい方向に進歩させる可能性がある。本記事で紹介する組織が、AIの悪影響を解消し、私たちを正しい方向に導こうと努めているのはそのためだ。 　そのような非営利組織の1つであるForHumanityは、AIシステムや自律システムに関連するリスクの調査と分析のほか、それらのシステムにおける最大限のリスク軽減に取り組んでいる。ForHumanityの創設者でエグゼクティブディレクターを務めるRyan Carrier氏は米ZDNETに対し、同組織は世界中のボランティアで構成されていると語った。 特集：AIが企業にもたらす変化 　「ForHumanityには世界91カ国の1600人以上のボランティアがおり、その数は毎月40～60人増えている」とCarrier氏。「ボランティアは、消費者、労働者、研究者、思想的リーダー、問題解決者、独立監査人など、多岐にわたり、監査可能なルールの策定や認定監査人になるためのトレーニングを支援してくれている」 　ForHumanityのコミュニティーは完全に門戸が開かれていて、参加できる人に制限はない。希望者はウェブサイトに登録し、行動規範に同意するだけでいい。同組織にボランティアとして参加する人は、自分にできる範囲でプロセスに関与することができる。 　ForHumanityの取り組みの主な焦点の1つは、AI監査人（AIシステムを評価して想定どおりに動作するか確認する人）のために、ForHumanityのボランティアがクラウドソーシングを活用して繰り返し実施する共同プロセスを通じて、法律、標準、ベストプラクティスに基づく監査可能なルールを策定することだ。次に、ForHumanityはこれらの監査可能なルールを政府や規制当局に提出する。 　「われわれは平等な競争の場とエコシステムを提供して、監査人、サービスプロバイダー、企業の関係者に対し、それらのルールを使用して、刻々と変化する法律や規制、ベストプラクティスなどの状況への基本的なコンプライアンスを構築するように奨励している」とCarrier氏は語る。 　ForHumanityはこれまでに、英国と欧州連合（EU）の両方の政府に提出しており、認証スキーム（監査可能なルールの集合）の承認取得に近づいている。Carrier氏によると、AIやアルゴリズムのシステムの認証スキームが承認されるのは世界初だという。この一連のルールは、コンプライアンスを保証する最高の枠組みであり、現在のAIにこのようなものはない。 　「作成されたルールの目的は、人間へのリスクを軽減し、法令遵守の二元的解釈を提供することだ」。Carrier氏はこのように述べ、自主的な認証スキームの影響として、それらに投資する企業が、法令遵守に失敗しないという確信を強められる、と付け加えた。 　「ForHumanityの使命は、人間だけに焦点を当てている。そのため、消費者／ユーザーと従業員の双方が、これらの認証スキームの導入から利益を得られるだろう」（Carrier氏） 　同じくAIの研究と政策に取り組んでいる組織が、Center for AI and Digital Policy（CAIDP）だ。CAIDPは、基本的権利、民主的価値観、法の支配を促進するAI教育の確立に注力している。 　CAIDPはAI政策クリニックを運営して、AIについて詳しく学びたい人が無料で集まれるようにしており、これまでに414人の受講者がこれらの学習セッションを修了した。 　「（クリニックの）受講者は、弁護士、実務家、研究者、社会擁護者など、幅広い層にわたり、AIが権利に与える影響について学習する。修了する頃には、政府に責任を負わせる方法やAI分野の変化に影響を及ぼす方法についてのスキルを習得し、それらを支持するようになっている」とCAIDPのプレジデントであるMerve Hickok氏は米ZDNETに語った。 　誰もがこのAI政策クリニックに参加でき、修了するとCAIDPのAI政策認定を取得できる。興味のある人は、CAIDPのウェブサイトから登録可能だ。クリニックの期間は1学期で、週に約6時間を確保することが求められる。 　Hickok氏によると、CAIDPは教育の面とは別に、助言の分野にも関心があり、特にAI関連の消費者権利の保護に力を入れているという。 　CAIDPは、人権と民主主義に関する教育活動に加えて、AIに関連する消費者権利の保護も訴えている、とHickok氏は述べた。CAIDPが3月、OpenAIに関する詳細な申し立てを米連邦取引委員会（FTC）に提出すると、FTCは調査に乗り出した。OpenAIに関するCAIDPの申し立てを受けて、世界中のデータ保護庁や消費者庁がChatGPTの調査を開始した。 われわれはAIシステムに対する安全なガードレールを求めている」とHickok氏。「AIシステムは、一定の安全性、セキュリティ、公平性の対策を考慮せずに導入すべきではない。消費者と社会全体をテストベッドにして、実験をしてはならない」 　CAIDPには、さらに別の関心事がある。それは労働者の権利、特に監視される労働者の権利だ。 　「ホワイトハウスやEEOCなど、さまざまな機関に（労働者のAIの権利に関する）勧告を提出した」とHickok氏は語る。「その理由は、労働者が監視やパフォーマンスモニタリングなどの対象となって搾取されるのではなく、AIシステムの使用方法や関わり方について、労働者に発言権を持ってほしいからだ」 　CAIDPが毎年発表している「AI & Democratic Values Index」レポートは、世界75カ国におけるAIの政策と実施状況を調査する重要な取り組みだ。たとえば2022年には、AI政策の策定に関して、カナダ、日本、コロンビアなどの国が高い評価を得たのに対し、イランやベトナム、ベネズエラなどの評価は低かった。 提供：Center for AI and Digital Policy 　「より多くのシステムが導入される中で、各国の政府はAI導入の影響を理解しようと迅速に対応している」。同レポートにはこう記されている。「AI政策立案のペースが今後数年間で加速すると予想される」 　CAIDPはすでに連邦機関や政府と連携している。3月には、OpenAIに関する包括的な申し立てをFTCに提出し、調査の実施を求めるとともに、安全対策が導入されるまで今後のモデルの展開を停止するよう要求した。 　ForHumanityとCAIDPは、責任あるAI利用のために異なる取り組みを実施しているが、AIの未来とそのリスクに関しては同じ懸念を抱いている。 　それらの懸念は基本的に、倫理的リスク、偏見、プライバシー、信頼、サイバーセキュリティの5つに分類される、とCarrier氏は述べた。 　「実際にはユースケースとその中の最大のリスクによるが、通常は常に多くのリスクがある」とCarrier氏。「だからこそ、われわれはこうした活動を実施している」 　AIの今後の展望については、ForHumanityもCAIDPも比較的楽観視しており、規制が導入され、リスクが制御されるとみている。 　「われわれの認識としては、個々のツールのリスクを可能な限り軽減することにより、常に人間にとって有益な形でAIが導入されるようにしたい」とCarrier氏は述べた。「理想の未来では、独立監査AIシステムがすべてのAIに義務づけられ、アルゴリズムを用いた自律型システムが人間に有意義な影響を与えているだろう」 https://feedly.com/i/entry/cVZkjoFmzQMsqoJJgNF/9e+UV2aVdcG+QI777VJBl/A=_18c36fa61da:217a61:23b35b21