金融機関での生成AIの活用　「利用しないリスクとエージェントAI」 FIN/SUM2025レポート第2弾

「パネル 3メガフィナンシャルグループと語る、生成AIを含むAIの現在地と今後の展望」では、三菱UFJフィナンシャル・グループ 執行役常務 リテール・デジタル事業本部長 兼 グループCDTO 山本忠司氏、三井住友フィナンシャルグループ 執行役専務 グループCDIOの磯和啓雄氏、みずほフィナンシャルグループ 執行役 グループCHRO兼グループCDOの上ノ山信宏氏の3名が、生成AIを含むAI活用への取り組み状況と、これからの金融業界の環境変化や、AI活用における今後の展望について語り合いました。

SMFGの磯和氏は、生成AIの現状としてエージェント化、パーソナライズ化を実現すべきフェーズにあるとし、生成AIを活用する場面も考慮した設計思想の重要性について話しています。みずほFGの上ノ山氏は、労働人口が減少する状況でAIエージェントを用いることの必要性について語りました。MUFGの山本氏は、生成AIの主流であるLLM(大規模言語モデル)で出遅れた感のある日本の状況を指摘しつつ、モデル構築や利用時の電力が少ない小規模言語モデルの分野や、端末で処理を行うEdge AIの分野で巻き返す可能性がある旨を話しました。

モデレーターのベイカレント 執行役員の和田氏が、セッション登壇者間でのディスカッションを促しています。みずほFGの上ノ山氏からMUFGの山本氏に、AIの活用についてうまくいったものと難しかったものについてと、そこから得られたインサイトについての質問がありました。山本氏は、AIが人間(従業員)のサポートをする取り組みはうまくいっている、AIが顧客とやり取りすることについては難しさを感じていると回答し、さらに「日本の顧客は正確性に対する期待が高いのでこれを乗り越えたい」と発言していました。

また、みずほFGの上ノ山氏からSMFGの磯和氏に対して、AIを使った非競争領域業務での協力についての話題が示されました。磯和氏は、マネーロンダリング対策や不正取引のふるまい検知など金融機関が共同で取り組むべきであり、ネット専業銀行が持つ特殊なノウハウ などを共有して実施するべきであると回答していました。

最後に、5年から10年後のAI活用の成果はどのようになるかという問いがモデレーターからありました。SMFGの磯和氏は、エージェント化が進んでいくと発言しました。具体的には、銀行がサポートする企業の資金繰りもエージェント化していき銀行の存在が見えないようになり、ビジネスの裏側に入っていくような存在に替わるイメージを示すもの、APIを使った金融機能の利用がますます進んでいくと発言しています。

みずほFGの上ノ山氏は、AIが普及していき、差別化の要素はデータやアプリケーションになるとしています。顧客との情報の非対称性が金融機関の競争力の源泉だったが、最近のAIを含むデジタル化でそれが薄まり悩ましい状態であるとのことです。しかし、直観、ひらめき、共感、情動などAIがうまく入れない要素もあり、企業文化や価値観が今後はより重要になると語りました。

MUFGの山本氏は、エージェント化が一層進み、人間の行動にある、「睡眠を取る」や、「8時間で業務を終える」などの制約がなくなり、今とは違う新しいビジネスが出てくると話しました。そのため組織はアジャイルな組織、高速なPDCAを回すことが必要であると締めくくりました。

金融業界を牽引する3メガフィナンシャルグループの方々の議論を通じ、日本の金融機関でのAI活用の最新動向を把握できたセッションでした。

FIN/SUM2025の生成AI関連のセッションでは、随所で「生成AIを利用しないリスク」が話題になっていました。これは、2025年3月に金融庁が公開した「AIディスカッションペーパー （第1.0版）～金融分野におけるAIの健全な利活用の促進に向けた初期的な論点整理～」に、AIに関する数多くのリスクが記載されていることが大きな要因だったようです。

生成AIのアウトプットに十分な精度がないことや、いかにも本当らしい“でまかせ”を出力する「ハルシネーション」のリスクで、生成AIの積極的な活用を思いとどまったことはないでしょうか。また、生成AIのアウトプットが、他者の権利を侵害していたと係争になる事例もあり、こうしたことも生成AI活用のリスクとして考えられています。

金融庁のAIディスカッションペーパーでは、AI、生成AIを活用するうえでのリスクを列挙しながら、同時に「チャレンジしないリスク」についても言及しています。3月5日に開催された「パネル　「日本発 AI x 金融・保険」が世界に羽ばたく日」では、金融庁総合政策局の柳瀬護審議官が、「生成AIの活用についてはハルシネーションを恐れるあまり利用を控えることもある。しかし生成AIを利用しないことにより他の事業者との差があっという間に広がる。生成AIを “利用しないリスク”があることを意識し積極的に活用してほしい。」とAIディスカッションペーパーに書かれている「チャレンジしないリスク」についての言及がありました。

これに対し、東京海上ホールディングスの生田目雅史専務執行役員グループCDOが、現在の生成AIの活用に対して、「過度なガードレールの設置や遵守には慎重になる必要がある。けがをしないカミソリはないので、リスクをどこまで取るかの判断が必要である。」と、リスクテイクの必要性について発言しました。

「金融庁パネル　Human in the loopの先へ：AI時代の人とAIの最適なバランスとは？」では、AI が急速に発展するなかで、「Human in the loop （HITL）」は、どの業界でも重要なテーマであり、AIによる自動化か、人間の介入が必要かなど、生成AIの利用と人間の関与についての議論がされました。

三井住友フィナンシャルグループ　デジタルソリューション本部　執行役員　デジタルソリューション本部長の白石直樹氏は、契約の電子化に対する生成AIの活用からの知見を披露しました。SMBCクラウドサインは電子署名のサービスであり、現在は契約のライフサイクルへとその対処を拡大し、本格的な展開に向けて生成AIを利用したPoCを実施しているそうです。

このPoCでは、契約書作成と契約書の分析の業務で生成AIを利用していますが、生成AIの精度は必ずしも良くはなく、生成AIとルールベースのAIを組み合わせると精度が向上するという知見を得ているそうです。生成AIの利用で精度に関する課題が指摘され、これをリスクとみなすことも多くあります。生成AIとそれ以外の技術と組み合わせを活用することが、生成AIを“利用しないリスク”を回避する方法のひとつになると言えます。

このセッションでは、Citadel AI　代表取締役　社長の小林裕宜氏が、人間の業務にAIが適合することの重要性について話していました。小林氏は、「生成AIに人間は何を求めるのか、それは経験豊富な業務秘書である。」と生成AIの本質的な役割に言及した後に、「生成AIが利用する人間に合わせることが重要であり、人間の指標をスタンダードにすることになる。人間は用途、業務に精通した生成AIが欲しいのであり、そこにどうAI合わせるかが課題である。人間がAIの挙動を監視し逸脱しないようにすることは限界があるのでAIを使ってシステムを人に近づけることを実現する。」と、人間の行動に合わせて生成AIの挙動をフィットさせる方法を示しています。

人間はAIほど長時間にわたり注意を払い続けることできないため、人間が注意すべきことをAIに代替させることで、AIの逸脱を防ぎAIを“利用しないリスク”を回避することができるという考えを披露しています。

また、ServiceNow Japan　Vice President, Chief Transformation Officerの中原新氏は、「AIが行う業務を人が監視するアプローチとして、Human “on” the loopを提唱している。」とシステムに対するAIと人間の関与に対する考えを述べました。

中原氏は、「生成AIを使ってコンタクトセンターの効率化を実施し、自然言語理解によるオペレーターのサポートのほか、ケースの要約を生成AIが実施し、顧客とのQ&Aに利用するナレッジの管理をAIで実施している。AIエージェントは自律的な業務を行う。複数のAIエージェントが連携し業務を行うが、それらのAIエージェントをAIオーケストレイターが管理し、AIオーケストレイターを最終的に人間が監視する。これがHuman “on” the loopの形である。」とAIの挙動の最終チェックを人間が行う業務の形を説明していました。この方法も、AIのアウトプットを最終的に人間がチェックすることでAI の挙動を監視し、AIを利用しないリスクに陥ることを防ぐことができます。

このセッションの最後は、金融庁　総合政策局リスク分析課　参事官の五十嵐ほづえ氏が、金融庁が公開した「AIディスカッションペーパー」にある、“生成AIにあるチャレンジしないリスク”は大きな課題であり、このリスクを取ってAIの活用を進めるべきであると発言し、締めくくりました。

また「パネル AI の社会実装が導く新たな金融ビジネス ～人間性の発揮がカギに」では、人間性を発揮した形での AI の社会実装を新たな金融ビジネスに活かすことをテーマに議論がされました。このセッションのなかでも金融庁の「AIディスカッションペーパー」について触れられていました。生成AIを悪用した犯罪や偽・誤情報の拡散などのリスクなどが語られる一方で、「チャレンジしないリスク」についても言及されている、とAIディスカッションペーパーの内容を紹介しています。

さらにこのセッションでは、AIディスカッションペーパーにある、“AIの活用に対する金融庁のスタンス”についても言及していました。特に強調されていたのが、「規制の適用関係の明確化等を通じて、セーフハーバーの提供に努めていく」という文書内の文言で、金融機関とのAIの利用について対話するスタンスを明らかにしていました。

FIN/SUM2025の生成AI関連のセッションでは、2025年3月に公開されたAIディスカッションペーパーにある、生成AIなどの技術革新に取り残されて中長期的に良質な金融サービスの提供が困難になる「チャレンジしないリスク」についての議論が目立ちました。

生成AIは2022年11月のChatGPTの公開からRAG、AIエージェントへと利用の形態が変化しつつあります。FIN/SUM2025ではAIエージェントに関するセッションが複数催されたのでその内容を報告します。

「パネル　「日本発AI x 金融・保険」が世界に羽ばたく日」では、MUFGの山本氏より、汎用AI(AGI)が導入される際のAIエージェントについての発言がありました。「AGIの導入によりサービスのリアルタイム化がされ、それを実現するためにエージェントが有効になる。金融機関の業務はAI化するのではないかという考えがあるが、エージェント間で相談、連携すると人間の生物的な限界を越える業務ができるかもしれない。過去のリスク担当役員の発言を学習させるとリスク管理するエージェントができ、ビジネス推進のエージェントと連携すればリスク管理とビジネス推進のバランスが取れると思われる。」と、AIエージェントがそれぞれの役割を果たすことで、有効なビジネスへの適用を示唆しています。

「単独講演　生成AIエージェント活用事例と導入のベストプラクティス　業務に特化したAIの展開」では、GenerativeX　取締役CAIO /共同創業者の上田雄登が生成AIとエージェントの組み合わせで複雑なタスクの対応ができると発表していました。AIエージェントの活用のユースケースとして、基盤システムの監視、財務分析での集計用Excelの作成や、購買調達での安価な仕入れ先の選定、M&Aでの企業のデューデリジェンスなどをあげていました。

なかでもM&Aでは、GenerativeX社のインターンが、AIエージェントの指示に従い、売却先との交渉をメールで行い、安価に事業を買収することができたと報告していました。M&Aでの生成AIエージェントは、指標値の設定、市況情報の収集、金額感の予測、交渉戦略の策定などを行い、人間はその指示に従うコミュニケーションを行い、事業買収を進められるということでした。

東京海上ホールディングス　専務執行役員 グループCDOの生田目雅史氏とPKSHA Technology代表取締役の上野山勝也氏との「対談　保険とAIの融合 —社会課題解決への実装戦略」では、AIエージェントの有効性が語られました。PKSHA Technologyの上野山氏は、AIエージェントを活用する場面としてコミュニケーションがあるとしています。保険を作る人と販売する人のあいだにやり取があり、このやり取りを遠隔のエージェントがサポートすることで4割の生産性が上がっている、とその効果に言及していました。保険商品すべてを頭のなかに入れることは難しいので、顧客に何を進めるのかにAIエージェントは有効であり、このように出口を明らかにして実ビジネスに適用しているとのことです。

経営視点でのリスク管理のサポートや、事業買収の手続きの提示、商品開発者、営業担当者とのコミュニケーションなど、AIエージェントが幅広く私たちが行う業務に浸透していく事例が示されています。AIエージェントが人間の業務をどのように代替して人間どのように関与していくのかという視点も業務によって異なることが示唆されていました。業務に沿ったAIエージェントの設計があって効果的な活用がされると思われます。

ChatGPTの公開から始まった生成AIの活用は、金融機関の業務を大きく変えつつあります。大手金融の生成AIの利用動向や将来像についての議論がされ、アンチマネーロンダリングや不正検知など非競争領域でのAIの活用などこれまでにないAIの活用に期待が持てました。また、生成AIを「利用しないリスク」について複数のセッションで話題になり、この背景にあるのが金融庁のAIディスカッションペーパーであることが強く意識づけられた印象があります。「規制の適用関係の明確化等を通じて、セーフハーバーの提供に努めていく」ということで、日本の金融事業における生成AIの利用についてのセーフハーバー・ルール(安全港の規定)に沿った生成AIの活用が期待されます。

AIエージェントもFIN/SUM2025でのホットなトピックでした。生成AIのアウトプットの精度向上にプロンプトエンジニアリングを駆使し、その後社内文書などが蓄積された文書ストアを活用したRAG (Retrieval Augmented Generation)の活用も行われるようになりました。次の段階としてAIエージェントの活用が提案され、いくつかのセッションで紹介されました。企業内のリスク管理を統括するAIエージェントや、インターンに指示を出すM&Aで活用されるAIエージェントなど具体的な事例の報告もありました。

FIN/SUM2025では、金融分野でのさらなるAI、生成AIの活用に対して期待を抱かせるセッションが多数ありました。これからの金融分野でのAIの活用の方向性が示唆されたイベントでした。