相談内容
保険事業において、AIモデルを検証し、規制要件を満たすためのAIガバナンスを維持するにはどうしたらよいでしょうか？
ある銀行系保険会社の損害保険部門では、人間らしい回答を生成するよう学習させたAIシステムである大規模言語モデルの導入が始まっていました。これにより業務効率は向上しましたが、例えば、機密性の高い顧客データが漏えいする可能性、AIの出力精度が時間の経過とともに低下する可能性、さらに規制当局からモデル監督に関する厳しい説明を求められる可能性など新たなリスクも生じていました。同社では、こうしたリスクが大きな問題に発展する前に、AIツールを監視・統制するための厳格なフレームワークを求めていました。
ソリューション
ミリマンは、お客様を保護し、規制対応を支えるAI監視フレームワークを構築しました。
ミリマンはまず、クライアントの既存のAI監視実務を業界のベストプラクティスと比較評価するための構造化された業務分析を行い、強みと潜在的な弱点の双方を特定しました。そのうえで、モデル・ドリフト、すなわち現実世界の状況変化に伴ってAIシステムの精度や信頼性が徐々に低下していく傾向を検知するための具体的なパフォーマンス指標を定義しました。またこの取り組みの一環として、AIのアウトプットを意図的に操作しようとする攻撃に対する脆弱性確認テストも実施しました。最終的にミリマンは、IT監視ツールを導入し、日常業務の中に監視機能を組み込みました。
成果
AIガバナンスが強化され、リスク検知が迅速化し、責任あるAI活用における競争優位性が高まりました。
ミリマンの構築したフレームワークにより、この銀行系保険会社は、自社のAIツールがどのように機能しているかを継続的かつ明確に把握できるようになり、問題が発生し始めた場合には早期に警告を得られるようになりました。文書化されたガバナンス統制と透明性の高いレポーティングにより、社内関係者だけでなく外部の規制当局からのシステムへの信頼も高まりました。また、評判という意味でも大きな優位性を獲得しました。責任あるAI導入への明確な取り組みを提示できるようになったことで、その信頼性自体が差別化要因となりつつある業界において、競争力の強化につながりました。
