本記事はNTTデータが運営する「API gallery」プレゼンツで2024年1月30日に開催したウェビナー「API galleryTM MeetUP ～Vol.23“生成AIの衝撃～金融に与えるインパクト“」の内容を記事化したものです。
API galleryでは随時ウェビナーを開催中です！過去の企画、および今後の開催予定は以下のリンクをご覧ください！
API galleryでは随時ウェビナーを開催中です！過去の企画、および今後の開催予定は以下のリンクをご覧ください！
青柳さん 生成AIの衝撃金融に与えるインパクトということで、NTTデータでAI活用の推進をリードしている本橋さんと、AIを使った金融プロダクトを作っている椎名さんにご出演いただきます。よろしくお願いします。
本橋さん NTTデータ グローバルイノベーション本部 Generative AI 推進室で日本だけではなくグローバルでの積極的なAI活用とガバナンスの徹底を両輪で推進しております。本日はAIのガバナンスだけではなく、活用についてもお話しできればと思います。
椎名さん NTTデータで金融サービスの企画に従事しております。近年は「finposs®」という融資業務支援のAIソリューションを担当しております。また、生成AIによるビジネス創出のご支援をしております。よろしくお願いします。
生成AIとは何なのか？
本橋さん 最初に、生成AIについてご説明をします。
AIは機械により人間の知的活動を再現したものです。例えば、生成、判断、識別、予想・最適化など、人間ではなく、機械の力で行います。
AIは機械により人間の知的活動を再現したものです。例えば、生成、判断、識別、予想・最適化など、人間ではなく、機械の力で行います。
生成AIと従来のAIの主な違いは、人間の指示に基づき機械がものを作り出すという点です。例えば、文章、画像、動画などを機械が自動で作り出してくれます。
これまでのAIは使うために専門的知識が必要でした。専用データで機械学習させた後に、有識者がデータを入力して結果を得ていました。
しかし、生成AIは特別な準備の必要がありません。用意されたデータを活用して、利用者は機械に対して自然言語で指示を出すだけです。例えば、描いてほしい絵の具体的な指示を出すと、その通りの画像を生成します。これは、今までのAI技術とは違う使い勝手の良さがあります。さらに、文章の要約、翻訳やプログラミングなどさまざまな用途に簡単に応用できます。
図1 これまでのAIと生成AIの違い
NTTデータの生成AIの取り組み
本橋さん 次にNTTデータの取り組みについてご紹介します。NTTデータでは、自社のビジネス変革、お客様のビジネス変革、ガバナンス対応を軸に、生成AIの活用を推進しています。本日は、お客様のビジネスが生成AIによってどのように変わるのかを中心にお話しします。
私たちは次の3つの戦略の柱に基づき、お客様のビジネス変革をご支援しています。
まず1つ目の柱は「Co-Creation with Client」という取り組みです。お客様と一緒に新しいビジネスや、生成AIを活用した新規アイディアを創出しています。金融をはじめ、小売や製造業などさまざまな業界のお客様とグローバルで100件以上のPoCを行い、新しい価値の創出に取り組んでおります。
2つ目は「GenAI Ecosystem」です。特定のベンダーとパートナー契約を結んでおり、彼らの製品を活用したいというご要望をお持ちの金融機関様も多いと思います。こうした場合でも、ご要件に合わせて適切なソリューションを提供します。インフラはAzure、AWSといったクラウド環境のものだけでなく、NTTデータのクラウド基盤「OpenCanvas」や、お客様のオンプレミスをハイブリッドに運営しながら生成AIのケイパビリティを発揮させます。また、生成AIベースのビジネスコンサルティングや、技術コンサルティング、ガバナンスをどのように担保するかという問題についても、コンサルティングを行うことでお客様が安心・安全に生成AIを活用できる環境を構築します。
3つ目は「Client’s Own LLM」です。NTT研究所が開発した軽量LLM（Large Language Model）（※1）「tsuzumi」を活用し、お客様専用環境での生成AI活用を支援します。
図2 軽量LLM「tsuzumi」
本橋さん 「tsuzumi」はお客様が持っているデータを学習させて、お客様の環境に導入することが可能です。すべてのデータを使ったチューニングにも、一部のデータを使ったチューニングにも対応しています。さらに、非常に軽量で処理速度が速く、費用もリーズナブルです。
これは裏返すと、必要なコンピューティングリソースも少なくて済むという利点があります。大量のGPUサーバーが用意できない環境でも、「tsuzumi」であれば簡単に動作させることができます。また、GPT-4は2023年4月までの情報しか学習していませんが、「tsuzumi」では最新の情報を学習し、それに基づいてより正しい回答させることができます。
※1 LLMは大量の自然言語のデータセットを学習した自然言語処理モデルのこと。自然な文章の生成や質問応答を得意とする。
NTTデータにおける生成AI活用事例
本橋さん 次に生成AIのユースケースについてお話しします。最初に、どのような場面で生成AIを活用するかを決めることが非常に重要です。
生成AIがよく活用されるユースケースは主に3つあります。1つ目は、大量のデータを高速処理しなければならないケースです。生成AIは大量のデータを上手に処理することが得意ですので、多くのドキュメントを翻訳する、あるいは多くのドキュメントから必要な情報を抽出するいった作業に向いています。2つ目は、専門家の代わりに生成AIが専門的な情報をもとにサジェスチョンを行うケースです。最後は、作業効率化や新たな価値創造です。これまで難しかった作業を生成AI利用で実現することができます。
これらの特徴を踏まえて、どのような業務に生成AIを適用することが最も効果があるかを見極めて、取り組む必要があります。
図3 狙いどころの生成AIユースケース
本橋さん 生成AIの実際の活用事例として、デジタル従業員をご紹介します。
保険業界では非常に多くの専門知識やスキルが求められる一方で、社員一人あたりの業務量が多く、人材も不足している状況です。
保険業界では非常に多くの専門知識やスキルが求められる一方で、社員一人あたりの業務量が多く、人材も不足している状況です。
デジタル従業員のコンセプトは、人間の従業員がさまざまな作業をしている中で、業務をサポートするもう一人の社員を作るというものです。単一のタスクにとどまらず、見込み顧客リストに基づくメールの自動作成、照会応答、営業報告レポート作成など業務を横断した複数タスクを自動化することで、より高度な支援を実現しています。
図4 生成AIを活用したデジタル従業員
本橋さん 価値提供にフォーカスした変革に取り組むためには、お客様とともに新たな価値を創出することが重要だと考えています。今後も生成AIのベンダーともアライアンスを組み、私たちの独自の生成AI技術を活用し、お客様がより安心して、安全に利用できる最適な仕組みをご提供します。
青柳さん 本橋さん、ありがとうございます。大変勉強になりました。
続いて、金融機関における生成AIのユースケースを、椎名さんにお話しいただきたいと思います。
続いて、金融機関における生成AIのユースケースを、椎名さんにお話しいただきたいと思います。
椎名さん 私からは従来型の機械学習ソリューションのご紹介と、金融業務にどのように生成AIを適用していくべきかについてお話しします。
金融機関における生成AI活用事例
椎名さん まずは金融機関でのAI活用事例として、融資業務をAIで支援するサービス「finposs®」をご紹介します。「finposs®」は融資業務の渉外活動、稟議作成、融資審査、モニタリングという融資業務のプロセス全体をAIで支援することを目指しています。
具体的なAIの役割ですが、渉外活動では企業の資金需要の予測を提供し、稟議作成では過去の類似の稟議書を検索でき、その稟議書に添付する意見書を自動生成するサービスの開発を進めています。
融資審査のプロセスでは、AIを用いて信用のスコアリングを出したり、企業の強み弱みを分析したりできます。
モニタリングでは融資後の悪化成長を事前検知することでリスクを低減できます。また、財務情報から企業間の取引を明示化することで、サプライチェーンモニタリングの高度化を実現します。
資金需要予測を実際に導入いただいている金融機関で渉外活動の結果を測定したところ、AIが、資金需要があると判断した企業に対して成約率が向上したとの結果が得られました。AIから高スコアを得たお客様は成約率が約1.5～2倍になり、資金需要を検知できた顧客数は3倍から5倍に増加しました。
このサービスは、収益への寄与や業務効率化、あるいは金融機関の中でのノウハウ継承育成の点でご好評いただいています。
このサービスは、収益への寄与や業務効率化、あるいは金融機関の中でのノウハウ継承育成の点でご好評いただいています。
図5 「finposs®」でできること
椎名さん 次に、金融機関様向けの高セキュリティ生成AIサービス「LITRON GA on finposs」をご紹介します。
ChatGPTは生成AIそのものが知っている「一般的な知識」をもとに「一般的な回答」を生成するにとどまりますが、「LITRON Generative Assistant」は、社内規定や業務関連資料等の社内ナレッジを基とした根拠のある回答を作成できます。
これまでお伝えした通り、「finposs®」は既に多くの金融機関にご利用いただいています。システム基盤はFISCの安全対策基準を満たしており、NTTデータのクラウドのリスク対策ソリューション「A-gate®」を使用しています。
金融機関で利用実績がある環境にLITRONを構築することで、「LITRON GA on finposs」は金融機関特有のセキュリティに対する懸念をあらかじめ払拭しています。
図6 「LITRON GA on finposs」
椎名さん 金融機関が手間なくスピーディーに、低コストで導入できる生成AIサービスとして支援します。
青柳さん 椎名さん、ありがとうございました。
視聴者からの質問
青柳さん LLMがどのようなものかわかりやすく解説いただけないでしょうか。
本橋さん LLMの仕組みを簡単にご説明すると、膨大なデータをAIに学習させることが必要です。1つのAIに世の中のありとあらゆるデータを学習させたら、何でも知っている神様みたいなAIができるのではないかという発想をもとに作られました。
例えばChatGPTは、包括的な知識を持った万能の神様を1人作るような取り組みです。しかし、全知全能のAIを導入するとなると、実装のコストや回答までの時間がかかるなどの課題があります。
実際のところ、金融業務に使うAIは金融の知識があれば十分だというケースも多いです。そのため、金融に関することに対して、早く低コストで回答できるAIの開発をします。これが軽量LLMです。
例えばChatGPTは、包括的な知識を持った万能の神様を1人作るような取り組みです。しかし、全知全能のAIを導入するとなると、実装のコストや回答までの時間がかかるなどの課題があります。
実際のところ、金融業務に使うAIは金融の知識があれば十分だというケースも多いです。そのため、金融に関することに対して、早く低コストで回答できるAIの開発をします。これが軽量LLMです。
椎名さん 軽量LLMを使ったことはないのですが、ChatGPTでも非常に使い勝手の良さを感じます。少しモデルに手を加えて、課題を整理して上手にAIに質問すると、非常に高い精度回答が得られます。
金融機関に向いている使い方のユースケースがいくつか出てきています。
金融機関に向いている使い方のユースケースがいくつか出てきています。
青柳さん AIが事実とは異なる誤った回答を出してしまう、いわゆるハルシネーションを防ぐには、どのような対策を打てばよいでしょうか。
本橋さん 効果的な対策として、正確性や安全性を高めるサービスの利用です。例えば、ロバストインテリジェンス社は「生成AIリスク評価サービス」を提供しており、リスクの検証から対策まで実施しています。また、NVIDIAの「NeMo Guardrails」はチャットボットの対応を制御でき、望ましくない話題や正確でない回答を抑止できます。
また、間違いの抑止ではないですが、Microsoft、Adobe、Googleなどは、自社の生成AIが著作権やプライバシーを侵害し、顧客企業に訴訟が発生した場合、損害を補償すると発表しています。
また、間違いの抑止ではないですが、Microsoft、Adobe、Googleなどは、自社の生成AIが著作権やプライバシーを侵害し、顧客企業に訴訟が発生した場合、損害を補償すると発表しています。
しかし、企業内のデータを取り込むことで回答品質を改善する、誤った回答はブロックするといった対策は、特別なノウハウが必要となります。
そのような点で、今後、私たちNTT データのようなシステムインテグレータが提供すべき価値になると考えています。
そのような点で、今後、私たちNTT データのようなシステムインテグレータが提供すべき価値になると考えています。
青柳さん AIに学習させるデータの質は重要ですよね。大量のデータを扱う上で、不正なデータが紛れ込まないような対策は何が考えられるでしょうか。
本橋さん LLMを開発するときに、自社で持つデータを把握することもひとつの対策になります。軽量LLMのような特化型のAIを作るのであれば、確からしいデータを使ってチューニングできます。しかし、ChatGPTのように、世間一般にあふれるデータを学習させる場合、多少の誤りは許容しなければなりません。先ほど回答した通り、チャットボットの対応を制御するツールなどを使って対策することになると思います。
青柳さん 椎名さんから生成AIの活用についてお話がありましたが、今後どのようなユースケースが考えられるでしょうか？
椎名さん 生成AIは複雑で多様な情報と大量のデータを解析して、示唆を出すところに強い親和性があると考えています。
例えば、金融機関の渉外員が、企業分析に多くの時間が取られているとします。そこで、生成AIにCRMの顧客情報や日報を読み込ませ、どのようなアクションを取るべきか、あるいはどんなプロダクトを提案すべきか考えさせる。このような使い方が考えられます。
例えば、金融機関の渉外員が、企業分析に多くの時間が取られているとします。そこで、生成AIにCRMの顧客情報や日報を読み込ませ、どのようなアクションを取るべきか、あるいはどんなプロダクトを提案すべきか考えさせる。このような使い方が考えられます。
一方で、生成AIを単一の業務フローの中で単発で使うだけでは本格的なビジネス成果に繋がりません。本質的な付加価値を出していくためには、ビジネスプロセス全体の中に生成AIをパーツとして組み込み、既存のテクノロジー等と組み合わせて使うといったユースケースを創っていく必要があります。
青柳さん LLMのチューニングは、どれぐらいの頻度で行うものなのでしょうか？
LLMは特定の断面の学習なので、チューニングは継続的に行う必要があります。学習させる方法は2つあります。1つ目はファインチューニングと呼ばれるデータを使って学習し直す方法です。頻繁にはできないため、四半期に一回か、半期に一回ぐらいでいいと思います。
2つ目は、RAG（Retrieval-Augmented Generation）と呼ばれるベースのLLMに一部のデータを追加で付与する方法で、週に一度か月に一度ぐらいの頻度でデータを最新化することがが適しています。
このようなチューニングを継続的に行い、モデルを高度化していくLLMOpsという手法が現在注目されており、PoCフェーズを終えたプロジェクトでは利用が始まっています。
2つ目は、RAG（Retrieval-Augmented Generation）と呼ばれるベースのLLMに一部のデータを追加で付与する方法で、週に一度か月に一度ぐらいの頻度でデータを最新化することがが適しています。
このようなチューニングを継続的に行い、モデルを高度化していくLLMOpsという手法が現在注目されており、PoCフェーズを終えたプロジェクトでは利用が始まっています。
青柳さん 既にLLMOpsという言葉があるのですね。ビジネスにおいて、常にPDCＡサイクルを回し続けることが重要になっていくことが理解できました。
青柳さん 最後に本年の意気込みと展望をお願いします。
本橋さん 2024年は生成AI活用の元年になると思います。今まではバズワード的に盛り上がってきたので、生成AIが本当に活用できるかどうかを見極める年になるでしょう。
NTTデータもその波に乗り遅れることなく、生成AIの活用を推進していきたいと考えています。
NTTデータもその波に乗り遅れることなく、生成AIの活用を推進していきたいと考えています。
椎名さん 私たちはお客様の課題に向き合っていくことを第一の使命と捉えています。生成AIをはじめとしたさまざまな技術が急速に進化していく中でも、お客様の業務課題が何であり、どのような価値を提供できるかを突き詰めていくことは変わることはありません。
したがって、生成AIは新しい武器が一つ加わったものと位置づけ、これまで通りお客様の課題解決、価値創造をともに進めていくという気概でおります。
したがって、生成AIは新しい武器が一つ加わったものと位置づけ、これまで通りお客様の課題解決、価値創造をともに進めていくという気概でおります。
＜プロフィール＞
本橋 賢二さん
株式会社ＮＴＴデータ グローバルイノベーション本部 Generative AI 推進室 室長
問題プロジェクト撲滅に関する業務を経て、APフレームワークの標準化や普及展開に従事し、日本Springユーザ会などのOSSコミュニティ活動や書籍等の執筆活動にも注力
商用環境向けクラウドである「OpenCanvas」の普及展開、AWS・Azure・VMWare・OpenStackといった様々なクラウドのプロフェッショナルサービスを担当
2016年から2022年まで、東京工業大学にて最新IT技術に関する非常勤講師として従事
現在、Generative AI 推進室の室長として生成AIに関する全社戦略立案・推進を担当
株式会社ＮＴＴデータ グローバルイノベーション本部 Generative AI 推進室 室長
問題プロジェクト撲滅に関する業務を経て、APフレームワークの標準化や普及展開に従事し、日本Springユーザ会などのOSSコミュニティ活動や書籍等の執筆活動にも注力
商用環境向けクラウドである「OpenCanvas」の普及展開、AWS・Azure・VMWare・OpenStackといった様々なクラウドのプロフェッショナルサービスを担当
2016年から2022年まで、東京工業大学にて最新IT技術に関する非常勤講師として従事
現在、Generative AI 推進室の室長として生成AIに関する全社戦略立案・推進を担当
椎名 秀平さん
株式会社NTTデータ 第二金融事業本部 デジタルバンキング事業部 部長
法人顧客向けネットバンキング開発、および全銀EDIシステム開発のPMの経験を経て、2022年より金融機関の法人顧客向けデジタルチャネルの企画、およびメガバンクとの決済プラットフォーム共創をリード。
2022年より融資業務支援AIソリューション（finposs®）の企画、および生成AIの金融業務への活用推進に従事。しんきん業態における顧客向け非対面チャネル戦略をリード。
株式会社NTTデータ 第二金融事業本部 デジタルバンキング事業部 部長
法人顧客向けネットバンキング開発、および全銀EDIシステム開発のPMの経験を経て、2022年より金融機関の法人顧客向けデジタルチャネルの企画、およびメガバンクとの決済プラットフォーム共創をリード。
2022年より融資業務支援AIソリューション（finposs®）の企画、および生成AIの金融業務への活用推進に従事。しんきん業態における顧客向け非対面チャネル戦略をリード。
青柳 雄一 さん
株式会社NTTデータ 金融戦略本部 金融事業推進部 部長
入社以来、数多くの金融系新規サービス立ち上げに従事。2015年からはオープンイノベーション事業にも携わり、FinTechへの取り組みを通じて、複数の金融機関のデジタル変革活動を推進。NTTデータのデジタル組織立ち上げ、デジタル人材戦略策定/育成施策も実行。現在は当社金融分野の新デジタル戦略、外部連携戦略策定・実行にも従事。2021年10月にリリースした金融APIマーケットプレイス「API gallery」の推進をリード。
API Gallery （https://api-gallery.com/）
株式会社NTTデータ 金融戦略本部 金融事業推進部 部長
入社以来、数多くの金融系新規サービス立ち上げに従事。2015年からはオープンイノベーション事業にも携わり、FinTechへの取り組みを通じて、複数の金融機関のデジタル変革活動を推進。NTTデータのデジタル組織立ち上げ、デジタル人材戦略策定/育成施策も実行。現在は当社金融分野の新デジタル戦略、外部連携戦略策定・実行にも従事。2021年10月にリリースした金融APIマーケットプレイス「API gallery」の推進をリード。
API Gallery （https://api-gallery.com/）
※本記事の内容は、執筆者および協力いただいた方が所属する会社・団体の意見を代表するものではありません。
※本文および図中に登場する商品またはサービスなどの名称は、各社の商標または登録商標です。
※記事中の所属・役職名は取材当時のものです。
※本文および図中に登場する商品またはサービスなどの名称は、各社の商標または登録商標です。
※記事中の所属・役職名は取材当時のものです。
facebookに
X
LINEに送る
