【Citadel AI】人間とAIが相互に補完しあう社会を目指して

斎藤さん　現在では多くの場面でAIが利用されるようになっています。私たちも金融分野でAIを利用したユースケースを考案し、実際に金融機関のデータを利用したPoC、本格導入に携わっています。AI隆盛の昨今、Citadel AI社を創業なさったときにどのような点を意識されましたか？

小林さん　共同創業者であるケニーと私で事業の目的を話し合いました。ケニーはプロダクティブマネージャーとしてGoogle のTensorflowやAutoMLの開発から運用まで一貫して指揮する立場にあり、AIの運用についての問題意識を持っていました。

AIを使わない従来のソフトウェアでは人間がビジネスプロセスを考え、フローを設計します。フローを含むビジネスプロセスがある日突然変わってしまうということはあり得ませんでした。しかしAIを使ったソフトウェアではアーキテクチャーや変数の設計は人間が行いますが、いわゆるフローに含まれる判断基準はAIがデータから自動学習してパラメーターに落とし込む仕組みです。新たなデータを継ぎ足して再学習することで判断基準を更新することも、AIの運用上頻繁にあります。

こうした場合におこる軽微なパラメーターの変化には人間は気づかないこともあります。ある日突然、重要なAIシステムでこれまで「危険」と判断していた事象が、突然「安全」と判断される場合もあり得ます。こうしたリスクを低減するために、AIの利用者がAIの変化や異常に気づき、安心してAIを利用できる環境を構築することが今後の企業や社会にとって重要だと考え、そうした社会の実現を目指し創業しました。

斎藤さん　AI導入後の運用時の信頼性や品質管理が手薄になっているという課題をお持ちだったのですね。私たちも金融分野でのAIビジネスをしており、AIを導入しやすい業務とそうでない業務があると認識しています。ご指摘の通り、AIの判断に信頼を保つことが難しいケースでは、AIをお勧めしづらいですね。こうしたニーズはたいへん高いと思います。具体的にはどのようなビジネスへの適用をお考えでしょうか？

小林さん　私たちの提供するシステムは現在ベータプロダクトですが、既にいろいろな業種、業務の方々とビジネスについてお話しをさせていただいています。金融分野ではクレジットカードの与信審査AIなどがあります。そのお客様の場合、与信の専門家を選りすぐり業務のノウハウをヒアリングしAIの開発をされています。

しかし専門家ごとに業務のなかで得意にしているものや判断の傾向などが異なり、これがAIの学習用データに反映されます。こうした専門家が手をかけた学習データを使った場合に、特定のケースをなぜ与信不可としたのかがわからないことがあります。このようなときにAIの判断根拠の可視化が必要になります。

また、AIが少しおかしな判断をした場合、人間にアラートを出すことも重要です。AIが24時間動き続け判断を下すなか、人間がそれを監視し続けることは困難です。AIを常時モニタリングし、異常が発生した場合にはアラートを上げたり事前に異常をブロックしたりするなど、人が手当てする直前までを極力自動化し効率化する仕組みを作ることが必要です。

斎藤さん　AIを安全に安心して利用するという点で、AIの品質やその思考過程を継続的に監視するデータエンジニア的な視点が必要なことがよくわかりました。

私たちでも金融機関での見込み顧客の判定を実施していますが、実際に見込み顧客リストを手にしてお客様を訪問する方からは、「どういう理由でお客様にこうした金融商品を勧めるのかがわからないと訪問しづらい」というご意見をお聞きします。こういった点からもAIの判断の根拠を示すことは重要です。また判断のロジックがある時点から変わったのであればそれを示すことが求められることは容易に想像がつきます。

小林さん　私たちのシステムでは、AIの思考過程を可視化することに加えて、「反実仮想※」を想定したシミュレーションをAIの利用者に提供することも可能です。例えば採用の書類選考にAIを用いるケースで、性別や学歴などにより選考結果が変わるといったバイアスの有無を確認することもできます。

※反実仮想：観察している対象が、「実際にはSNSの広告を見ていないのだけれど、もし見ていたら商品を購入していたのか？」というように、実際の事実とは異なっているがもし仮に別の状況であった時のケースを想定すること。例えば、AIの判断を反転させ個人の融資審査の結果を覆すためには、現在の預金残高などの条件が、どれだけ改善すれば可能かといったことをシミュレーションすることが反実仮想分析にあたります。

斎藤さん　反実仮想のシミュレーションを使って運用前に公平性の毀損がないようにAIのチェックが可能になるわけですね。「説明可能なAI※」を利用し判断根拠を示した後に、個々の事案についてシミュレーションすることも可能となるわけですね。

※説明可能なAI：AIは大量のデータをもとに、ある事例に対して判断をしているが、どのようなデータに基づいて判断をしているかの補足情報を提示する技術。金融機関の融資判断AIが融資可とした際に、預金残高などが判断の根拠として大きく貢献しているなどを示すことができます。

小林さん　反実仮想によるAIの判断結果のチェックは営業マンがセールスを行うような時にも有効です。例えば保険を提案するときに、喫煙や食事、運動の習慣を改善することでより有利な保険に加入することができるといったことを個人の顧客に対して新たに提案することが可能になります。

斎藤さん　現在のAIの普及と課題についてご意見をお聞きしました。未来に向けてAIの技術はどのような方向で発展するとお考えでしょうか？

小林さん　ケニーとも未来についての話をしますが、丁度最近の棋士がAIから新たな手法を学んでいるように、AIからの「気づき」によって人間がこれまで思いつかなかったような新たな思考や行動のヒントを得ることができるようになるのではないかと思います。AIや情報技術の進展により、より多くの人が活躍できる機会が増えています。AIが与える気づきによりいろいろなチャンスが広がり、多くの人が環境の差はあってもチャンスを活かす社会インフラが育っていくことが理想であると考えます。

斎藤さん　企業活動での気づきについては、業務上のベストプラクティスを見つけることが難しく、それを収集し適切な人に提供するには手間がかかります。AIが人間に気づかせることで、時間や手間を削減できるのではないかという点には共感します。そのうえで人間が気づきを得やすくするためにAIをどのように活用したらよいかお考えがあればお聞かせください。

小林さん　セグメント化によって解像度を高めることは有効です。大量のデータがあった場合、一見するとデータの歪みは見えなくとも、そのなかから1,000件、10,000件と限られた数を取り出して見てみると、データの特性が偏っていたり、あるいは出力に異常が発生したりしているケースがあります。人間が大量のデータを確認し特定の歪みや異常を発見するとなると膨大な時間がかかります。

私たちのシステムでは、大量のデータのなかからそうした異常の発生している特定のセグメントを検出することができます。人間ではなかなか気づきにくいパターンを自動検知することで、ビジネス上の問題が顕在化する前にそれをプロアクティブに予防したり、あるいはそうした「気づき」をベースに、あたらしいマーケティング手法やサービスを考案したりするといったようなことも可能になると思います。

ケニーさん　具体的には広告の露出メディアを決定するセグメントの分析などが一例です。クリック率を高めるべく、Web、SNSなどどのメディアに広告を露出させるかを推論するAIの場合、収集したデータの全体を見ると特に偏りはなく、AIが推論する広告露出の判断は有効そうに見えるケースがあります。ところがデータをセグメント化して深堀して見ると、20-30代女性のクリック率が低いことに気づいたりします。例えばこのクリック率の低下については、なぜAIがそのメディアを当該顧客層に推薦したかの理由を明らかにすることで、逆にビジネス上の改善につなげることも可能になります。

斎藤さん　具体的な気づきをAIの利用者に与えることは重要ですね。一方でAIが発するアラートが開発した側が思ったよりも現場で利用される方たちに軽く見られることもあります。アラートを発して気づいて行動を変化させていただくために留意する点があればお聞かせください。

小林さん　どういった立場の方たちにどういう問題が重要であるかを意識してお話しすることが重要だと思います。部署にもよりますが、経営やコンプライアンス部門に近い層の方々はAIに潜む学習上のバイアスを重要視されます。AIの判断の誤った偏りは会社の経営問題に直結しかねないからです。

また、実際に開発や運用に携わられているエンジニアの方々も、AIが発するアラートには敏感です。AIのモデル開発は全体の作業のごく一部であり、学習時のデータの収集・評価、さらに運用時のモニタリングなどの作業に非常に多くの時間を取られます。こうした作業は現状まさに人手によるレイバーワークに頼っている状況です。

本来エンジニアの方々の貴重な時間は、AIの品質の改善に注ぎ込まれるべきであり、その前段階で入出力データを深堀して分析し、異常を検知し、アラートを上げ、人間に「気づかせる」部分については、極力自動化すべきです。我々のシステムはそこにフォーカスしています。

斎藤さん　最後になりますが、AI事業を通して実現したい夢についてお聞かせください。

小林さん　日本は現在高齢化、少子化の傾向が進んでいます。日本のみならず先進国も同様の傾向があり寿命も延びています。会社をリタイアした後の人生も長くなります。多くの方が経済的にも、モチベーションの面でも、ほんの少しでも社会に貢献することを感じられる日常になることが必要です。

若い人も含め、国籍や年齢に関わらず、個人の持つ知見を互いに共有して社会に貢献し、その結果としてお金を得られるような社会になるとよいですね。AIが人々の生活に浸透し自然になれば、多くの人が知識、知恵、失敗談を共有できるようになると思います。言葉の壁も超えることもできるでしょう。世代、国、言葉が異なる人々が、そうしたバリアを越えて活躍できる世界ができると良いと思います。

ケニーさん　AIにも得意、不得意があり、人間とAIで得意な分野は異なっています。人間とAIが補完しあうことでよりよい生活や発想が得られます。人間とAIが補完しあうためには、お互いを理解する必要があります。その意味でもAIを人間が理解可能な形で可視化し、人間とAIの共働を進めていくことが今後いっそう重要になると考えています。