ビジネス変革とリスク対策を両立する
企業のAIガバナンス戦略の最前線

AIの進歩は目覚ましく、現在では単に文章を作るだけでなく、画像や動画生成、財務分析、コード作成など、幅広いタスクを高い精度でこなすことができる生成AIが登場しました。現在は、様々なタスクを自動的に実行できる「AIエージェント」の時代に入っており、今後数年以内には、人間の能力に匹敵する汎用人工知能（AGI）が誕生するという見方もあります。生成AIが社会や生活のあらゆる場面で活用されるようになると、AIリスクは社会全体のあらゆるリスクの前提として扱われるようになるでしょう。

AIはアルゴリズムが複雑なため、アウトプットが出るまでの過程がブラックボックスとなる問題もあります。例えば、99.9％正しい回答ができるとしても、正しくない0.1％がいつ出てくるのか、出てきた時になぜ間違えたのか。これに対して人間が完全な推測や説明をすることはできません。AIが誤った挙動をした時に誰が責任を持ち、どう改善すべきかを考慮しておくことが重要です。

はい。AIは非常に複雑ですが、基本的には与えられた学習データを利用して統計・確率に基づくアウトプットを出す仕組みです。確率や統計は、我々がビジネスや日常生活で利用してきたものであり、それを高性能な機械が効率的に計算することで、良いことも悪いことも増幅されやすくなります。だからこそ、AIのベネフィットとリスクを共に考える必要があるということです。

私たちの生活や社会には、もともと様々なリスクがあり、羽深先生のおっしゃるように、それは生成AIの有無に関わらず回避しなければならないと思います。一方で、生成AIの活用によるリスクとしては、機密情報がAIの学習に用いられて流出してしまうリスクや誤情報の提供、著作権侵害のリスクなどがあります。保険業界でいえば、保険金の支払い判定にAIによる差別的なバイアスがかかってしまえば、大きな問題となります。

既存業務を効率化する範疇であればAIのリスクは低いかもしれません。しかし、ただリスクを避けているだけでは大きな変革は起こせず、それもまた企業競争におけるリスクといえます。AIを活用して革新的な価値を生み出していくためには、強固なAIガバナンス態勢の構築が重要であると考えています。

すでにグループ内で100を超える活用事例がありますが、主に3つの観点があります。1つ目は、お客さまの利便性を高めてメリットを感じていただくための活用。2つ目は、業務効率化など当社グループの収益性を高めるための活用。3つ目は、AI自体の活用ではありませんが、生成AIのリスクを補償する「生成AI専用保険」を業界に先駆けて開発しました。

1つ目の観点では、AI画像分析による建物損傷箇所の診断サービスを提供しています。

お客さまがスマートフォンなどの専用アプリで撮影・送信した建物の外壁や雨どいの画像をAIが分析し、損傷個所などを「診断結果レポート」として無償提供するものです。

2つ目の業務効率化という観点では、事故対応業務におけるお客さまとの通話内容を自動でテキスト化し、生成AIが要約する仕組みを導入しています。自動化により生まれた時間を活用することで、お客さまに寄り添った迅速かつ丁寧な対応や、事故対応以外の防災・減災の取り組みなど新たな価値提供に取り組んでいます。

3つ目の生成AI専用保険は、生成AI活用による権利侵害や情報漏えいなどのリスクによる生成AI利用者の損害を補償するものです。

生成AI専用保険は興味深いサービスですね。世の中の金融・保険会社は、その領域のプロであると同時にAIの安全性やAIアルゴリズムのプロとして、デジタル社会のアシュアランス提供者として機能することを期待しています。これはAI開発事業者にも良い意味でプレッシャーになり、社会全体にとってプラスになっていくでしょう。

持株会社が中心となり、グループ全体のAIガバナンスを一元的に担う態勢を整備するために「AIガバナンス会議」を設置する予定です。事業会社の部長クラスを中心とした社内人財と、AIガバナンスの第一人者である羽深先生などの外部有識者も交えながら取り組むことで、強固かつ先進的なガバナンス態勢を実現しようとしています。

AIに限らず、リスクを伴う先進的な取り組みは推進側と牽制側が対立する構図になりがちです。そこで当会議では、推進側と牽制側が協力し、テクノロジーの進展や法律の規制などについて情報交換しながらルールを整備するよう努めています。お互いが凝り固まった考え方で対立していては、日々変わりゆくAIの最新情報や進化にガバナンスが追い付いていけないからです。

同じグループ保険会社でも、生命保険や損害保険、変額年金などでは事業モデルが異なります。そのため、現場の実情を反映させながら臨機応変に「ガイドラインや規程の整備」「社員教育の実施」などの施策を進めています。

実効的なAIガバナンスを行うためには、トップダウン的なアプローチとボトムアップ的なアプローチを組み合わせることが重要です。トップダウン的にルールを決めて、「それを守っていればあとは大丈夫」という考えは危険です。特にMS&ADグループのようなグローバルで規模の大きい組織では、AIの活用に関して詳細なルールを決めることは不可能でしょう。現場の協力のもと、さまざまなユースケースを収集しつつ、特にハイリスクなケースに関しては本部で統括的に判断することが不可欠です。

もう1つ注意点は、AI活用によるインシデントの隠蔽を防ぐために、罰則を強化するのではなく、情報提供のインセンティブ設計をすることです。発生したインシデントを分析することで知見が増え、対策を打つことができるからです。一例ですが、かつて航空業界では事故に対して重い制裁を科していましたが、ある時期から事故情報の提供を評価する方針に転換しました。そうして情報が表に出るようになり、航空機の安全性が劇的に向上する結果となったのです。

そう遠くない将来、AIガバナンスという言葉自体が陳腐化すると考えています。はるか昔の蒸気機関や電気、最近ではインターネットと同じように、当初は特殊な技術として扱われたAIも次第に汎用化され、あらゆるところに存在するようになります。その際にはAIガバナンス対策は、一般的なガバナンス対策となるでしょう。

その観点では、AIガバナンスに対応することは究極的には企業の未来のガバナンスのあり方をアップデートすることに他なりません。例えば、自動運転車の事故リスクは、現在はAIリスクの視点で語られていますが、根本的には製品安全の課題と言えますし、差別やバイアスに関する問題は、一面では人権の課題であるともいえます。結局、あるリスクに対してどの切り口から光を当てるかの話になるということです。

また同時に、AIは急速に進化しているため、「誰かが規範を決めてくれるからそれを待つ」という時代は終わりつつあります。そのため、各企業は自社内での取り組みを推進すると共に、業界での連携を通じて、共通ガイドラインを策定するなどの戦略を考える必要性が生まれてくるでしょう。AIが変革する新たな時代おいては、本山さんもおっしゃるように、推進側と牽制側が協調しながら未来に向けて製品やサービスを作り、会社の風土を形成していくことが重要となります。

MS&ADグループはリスクソリューションのプラットフォーマーとして、持続的な社会とビジネスを実現しながら成長していくことを目指しています。そのためには、生成AIをはじめとするAI技術の飛躍的進歩を積極的に活用し、お客さまに新たな価値を提供していくことが必要不可欠です。加えて、AIがもたらす企業や社会への新たなリスクに対しても、当社がそのプロフェッショナルの立場となって盤石な態勢で臨んでいきたいと考えています。