アクチュアリーは、週末を使えば人工知能（AI）エージェントを構築できるかもしれません。しかし、それを理解するには、構築する以上に時間を要することがあります。基準が求めているのは、誰がそのモデルを作ったかではありません。署名するアクチュアリーが、そのモデルについて説明できるか、そして何をもってそのモデルが誤っていると判断するのかを特定できるか、という点です。生成AIによってモデルの構築は容易になりましたが、そのガバナンスは依然として難しい課題です。
ここでいう「理解」とは、具体的かつ検証可能なことを意味します。すなわち、署名するアクチュアリーが、そのモデルがなぜそのように動作するのかを説明できること、まだ実行していないケースでどのような挙動を示すかを予測できること、さらに、たとえコードの一行一行をすべて把握していなくても、何をもってそのモデルが誤っていると判断するのかを説明できることです。ここには、「構築したもの」と「理解しているもの」との間にギャップが生じます。そしてそのギャップは、システムの進化、所有権の変更、文書化した内容の経年劣化によって、さらに広がる可能性があります。
この問題は、新たなAIエージェントの世界における「自社構築か社外調達か」の選択の根底にもあります。規制対象業務で重要なのは、構築コストではなく、それを継続的に説明可能な状態に維持するコストです。ガバナンスの効いたプラットフォーム上で稼働し、時間の経過後も説明責任を維持できるAIエージェントの調達を望むかもしれません。例えば、自社のモデルコードを読み取り、管理された手法や知識を参照し、再現可能な監査証跡を残すエージェントです。一方で、会社固有の経験、前提条件、ナラティブを反映するエージェントについては、自社で構築することを選ぶ組織もあるでしょう。
規制当局は、これがどこまで適用されるかという線引きを今後も見直し続けるでしょう。しかし、問われる本質は変わりません。説明責任は、ソフトウェア利用契約で移転するものではなく、ツール自体に帰属するものでもありません。今後5年で各種フレームワークがどのように変わろうとも、最終的には誰かがその数値に対して自ら署名し、それについて説明できるように備えておく必要があります。