人工知能：「責任あるAI」とその長期的な成長への道のり

この規制案は、EU域内で許容できないリスクのあるシステムの使用を認めず、リスクの高いシステムには 人間の監視、透明性、サイバーセキュリティ、 リスク管理、データ品質、監視、報告義務などのさまざまな要件を課し、限定的かつ最小リスクのシステムの使用に透明性を求め、個人がAIテクノロジーとの相互作用を 認識できるようにするものです。

この規制は、EU内の企業やAIプロバイダーに適用されるだけでなく、EU内で出力を提供するAIシステムにも域外適用されることになります。また、違反した企業は、最大3,000万ユーロ（約43億円）または全世界の売上高の6％（いずれか高い方）の罰金を科される可能性があり、GDPRで科される罰金よりも実質的な罰金となっています。

世界中の政府や規制当局がAIのガバナンスや規制についてますます検討するようになり、そのリスクは法的にも財務的にも企業にとって非常に重大なものとなり得ると考えています。

AIへの責任ある取り組み

規制の枠を超えて、欧州委員会は「責任あるAIのための倫理ガイドライン」を作成しました。¹¹  

これは企業が責任あるAIを実践するための有用なフレームワークとして活用することができます。このガイドラインは、その潜在的な被害に直面しても、合法的、倫理的、かつ強固であるAIを支援することを目的としています。

これは、4つの倫理原則を中心に構築されており、企業に具体的な要求事項をもたらすものです。

• 人間の自主性の尊重: 人間の自由と自主性の尊重、人間とAIシステム間の機能分担は人間中心の設計原則に従い、かつ人間の選択に意味のある機会を残す、またAIシステムにおける作業プロセスに対する人間の監視が維持されていること

• 危害の防止: AIシステムは、人間に危害を加えたり、悪化させたりしてはなりません。また、AIシステムが権力や情報の非対称性により悪影響を引き起こしたり、悪化させたりする可能性がある場合にも注意が必要であり、人間の尊厳だけでなく精神的・肉体的な完全性も保護されます

• 公平性: 利益とコストを平等かつ公正に配分し、個人と集団が不当な偏見、差別、スティグマを受けないようにすること、AIシステムの利用によって人々が騙されたり、選択の自由が不当に損なわれないこと、AIシステムおよびそれを操作する人間による決定に対して異議を申し立て、効果的に救済を求める能力が維持されることを保証すること

• 説明可能性: プロセスは透明であることが望ましく、AIシステムの能力と目的はオープンに伝えられ、決定は直接・間接的に影響を受ける人々に説明可能でなければなりません。また「ブラックボックス」アルゴリズムは回避されます

アクサIMの責任あるAIへのアプローチは、同様の構造に基づいており、4つの明確な構成要素が必要です。当社は、企業のAIシステムは、技術的な観点と高度なガバナンスの観点から、人間による監視に依存しながらも、公正で倫理的、かつ透明であるべきだと考えています。

当社は、企業が責任あるAIポリシーを実践することで、AIリスクを軽減し、持続的な価値創造を実現することができると考えています。AIシステムの導入により、信頼関係を築き、顧客ロイヤリティを向上させられます。

結論として、責任あるAIとは、リスクを回避するだけでなく、これらの技術を人と企業の両方に有利になるように活用できるようにすることであると言えます。

責任あるAIの実践状況を評価する

当社は、企業が 責任あるAI にどのように取り組み、実践しているかを扱った様々な研究やベンチマーク/評価ツールを見てきましたが、最終的には、進捗に大きな格差があることがわかりました。

例えば、2021年のマッキンゼー調査では、¹² AIに関連する様々なリスクに対して、コンサルティングを受けた組織の認識不足が浮き彫りになっています。以下の図は、企業がいかにリスクを過小評価しているかを示す良い例だと考えます。

同様に、独立系調査プログラムであるRanking Digital Rights（RDR）による「2022 Big Tech Scorecard」では、^{13  14} アルゴリズムシステムの開発における人権政策、リスク評価、透明性、プライバシーに関する要素を含む、先に述べたものと同様の枠組みに沿った指標に基づいて、アルゴリズムの透明性という観点からハイテク企業の評価が比較的低いものとなっています。

RDRの手法によれば、評価対象となった大手ハイテク企業のうち、22%以上のスコアを達成した企業はなく、一部の大手グローバル企業はランキングの最下位に近い位置にあります。

一方、企業のSDGsへの取り組みを推進している国際NGOのワールド・ベンチマーキング・アライアンスのデジタル・インクルージョン・ベンチマークは、¹⁵

「包括的で倫理的な研究開発」について企業をランク付けし、「企業の実践が、製品開発において多様なグループの参加と倫理的配慮をどの程度反映しているか」を把握することを目指したものです。さまざまな企業のベンチマークスコアを評価した結果、トップスコアを獲得したのは77社のうちわずか3％と、あまり芳しくない結果でした。

この結果は、アクサIMのような責任ある投資家が、責任あるAIをめぐる議論に企業を巻き込み、それをどのように実践していくかを示す必要性を示す一助となると考えています。責任ある技術研究とエンゲージメントプログラムの一環として、AI開発への大規模な投資計画を持つ企業に焦点を当てます。

当社の主なエンゲージメントに関する提言は、企業に対して次のことを求めています。

• アクサIMの責任あるAIへのアプローチにおける主要な要素（公正、倫理的、透明、人的監視）に合致していること
• AIシステム開発に関する情報開示と透明性の向上
• 取締役会および上級管理職による責任あるAIの監督の確保

当社は、AIシステムに関連するリスクを軽減すること、そして規制上の考慮事項に対処することが、企業がこれらの技術を使って長期的な価値創造を実現する能力と密接に関連していると確信しています。また、責任あるAIが実践されることで、AIシステムはより長期的かつ持続的な投資機会を提供できると考えています。