責任あるAI：持続可能なイノベーションのためのフレームワークの開発

次の 2 つの例が示すように、人や組織への潜在的な損害は甚大になる可能性があるため、企業のリーダーはこれらのリスクを無視することはできません。

• 2019年、Appleのクレジットカード処理方法が性差別だと非難されました。デンマークの起業家、デイヴィッド・ハイネマイヤー・ハンソン氏は、妻と共同で納税申告を行い、妻の信用履歴も良好であったにもかかわらず、妻の20倍ものクレジットを受け取っていました。^[1]
• 同年、米国国立標準技術研究所（NIST）は、空港のセキュリティなどで使用されている顔認識ソフトウェアが特定の集団の識別に問題を抱えていることを発見しました。例えば、一部のアルゴリズムでは、白人の画像と比較して、アジア人やアフリカ系アメリカ人の顔画像に対する誤検出率が著しく高かったことが分かりました。^[2]
   

これらは、AIの活用をめぐる世界的な議論を巻き起こし、立法府による厳格な規制の提案につながった、数ある事例の中のほんの一部に過ぎません。信頼の欠如により、AIの実践者は、AIの責任ある倫理的利用のための原則に基づくフレームワークとガイドラインを策定せざるを得なくなりました。

残念ながら、これらの推奨事項には多くの課題が伴います（図2）。例えば、一部の企業はガイドラインが不十分であったり、過度に厳格であったりするため、AI実践者が倫理を全体的に管理することが困難になっています。さらに悪いことに、責任あるAI原則を策定するための専門知識がないため、リスク管理が不十分な組織もあります。

公正で信頼性が高く、説明責任を果たすAIソリューションを開発するために、企業は倫理委員会として機能するAIセンター・オブ・エクセレンスを構築しています。AI開発を最初から最後まで監督できる多様なAI管理者グループを連携させることで、企業は将来的な問題を事前に予防することができます。簡単に言えば、異なる経験、視点、スキルセットを持つ人々で構成されたチームは、均質なグループに比べて、バイアスを事前に把握できるということです。

また、実用的なフレームワークが整備されている場合 (図 3)、AI 実践者はサービスとしての倫理を確立し、AI の実装と開発を通じて組織を支援およびガイドすることができます。

包括的なフレームワークの開発は、責任ある AI の取り組みにおける最初かつ最も重要な段階であり、通常は次の 4 つの柱で構成されます。

企業のリーダーは、AIの責任ある活用を継続的に監督するために、社内外の意思決定者で構成されるAI/MLガバナンス組織（図4）を設立する必要があります。さらに、経営幹部はAIガバナンスを最優先事項とすべきです。そうすることで、他のビジネスリーダーは、定期的な監査と並行してガバナンスポリシーの策定に責任を負うことになります。

透明性と信頼はAIの中核原則となるべきです。私たちは、企業のリーダーが安全で信頼性が高く、差別のないAI/MLソリューションの強固な基盤を構築できるよう、以下の7つの特性を特定しました。

1. ドメイン固有のビジネス指標評価
2. 公平性と法令遵守
3. 解釈可能性と説明可能性
4. データパターンの変化の緩和
5. 信頼性と安全性
6. プライバシーとセキュリティ
7. 自律性と説明責任
8. トレーサビリティ

同様に、ガバナンス機関は AI 技術の開発全体にわたってこれらの原則の施行を支援できます (図 5)。

AIソリューションは必然的に組織の複数の領域に影響を及ぼすことになります。そのため、企業のリーダーは、データサイエンティストから顧客まで、あらゆるステークホルダーを考慮し、関与させる必要があります。このプロセスには、明確なリスク管理と責任あるAIのためのフレームワークの構築も不可欠です（図6）。

AIアルゴリズムの開発には固有の複雑さが伴うため、モデルの解釈は困難です。しかし、企業のリーダーは、プロセス全体を通して責任あるAIに関する考慮事項を組み込むことで、潜在的なバイアスを軽減し、ベストプラクティスを遵守することができます（図7）。