NTTデータは Microsoft Defender ファミリーを活用した「接客 AI エージェント」を開発。重要データを高度なセキュリティのもとで安全に扱う生成 AI エージェントが、顧客接点の拡充・強化を支援

お客様の独自業務にフィットした “デジタル接客員” を安全に育成

NTTデータでは最先端の生成 AI 技術を、今後のマーケットに大きなインパクトを与えるゲームチェンジ テクノロジーとして重要視しています。お客様の「抜本的な業務改革による競争力の獲得」「組織変革」「データの活用」など、さまざまな目的に対応できるように生成 AI 活用コンセプト「Smart AI Agent」を策定。その実現に向けた取り組みの 1 つとして、NTTデータの持つ先端的な AI 技術を活用したソリューション ブランド「LITRON」を展開しています。

「経理特化エージェント」や「法務特化エージェント」、「人事特化エージェント」から定型タスクを実行する「デジタルワーカー」など、多様なサービスを展開する中、新たに加えられたのが「接客 AI エージェント」です。

この接客 AI エージェントについて、NTTデータ テレコム・ユーティリティ事業本部 デジタルエクスペリエンス事業部 デザインアプローチ統括部 部長 嶋田 亮介 氏は、次のように説明します。

「この接客 AI エージェントは小売・販売業における、あらゆる顧客接点をサポートするソリューションになります。例えばファストファッションなどの Web 販売においては大量の商品の中から、デザインやサイズを含め、お客様のニーズに見合った商品をスムーズにご案内することが可能になるでしょう。店頭においても同様で、お客様とショップ店員との橋渡しを円滑に行うことができるようになります。また、住宅販売や自動車販売のように大切なお客様と直接商談する際にも、接客 AI エージェントに商談の音声などをセキュアな環境で学習させることでお客様のニーズや傾向などをより正確に把握し、業務効率を向上させることに役立ちます。こうして育て上げたデータは、企業様の内部で “優秀な営業販売員のノウハウ” として共有することも可能です」

もちろん、顧客接点で得られたデータは重要な機密データとなります。ここで「接客 AI エージェント」が優れているのが「先々まで見据えたセキュリティ対策にある」と嶋田 氏は強調します。

生成 AI 活用に潜むリスクから、機密データを守り抜くセキュア バイ デザイン

NTTデータには、独自に定められたシステムやネットワーク周りに対する「システムセキュリティ基準」と、生成 AI 活用の基準となる「生成AI利用ガイドライン」が定められており、接客 AI エージェントは、その基準に則して設計・開発されており、生成 AI 活用に潜む重大なセキュリティ リスクに設計段階から備えていると嶋田 氏は言います。

「現在、一般ユーザーを始めとして生成 AI の活用が活気を呈しています。しかし 1 つ留意いただきたいのが、AI 活用には “従来の IT システムには存在しなかった、新たなリスクと脅威が存在する” ということです。このリスクと脅威に対応するために、接客 AI エージェントは、セキュア バイ デザイン (情報セキュリティを企画・設計段階から確保するための方策) に基づき設計段階からセキュリティ対策を優先させてきました」

■ 生成 AI 活用に潜む新たなリスクと脅威の一例
　　1. プロンプトインジェクション
               悪意ある指示 (プロンプト) を送り込み、システムの制御や機密
               情報の窃取などを行うサイバー攻撃
   　2. AI 脱獄
              生成 AI 側の安全策を回避し、通常では起こり得ない有害・違
              法・不適切な情報を出力させる行為
   　3. データポイズニング
              AI・機械学習モデルの学習データを汚染し、モデルの性能や出力
             を操作する攻撃方法

Azure と Microsoft Defender シリーズの組み合わせでセキュリティを強化

NTTデータでは提供するソリューションについて、要件に応じて最適な構成（マルチベンダー、且つ、ベストオブブリード）で提供することが通例ですが、接客 AI エージェントにおいては、マイクロソフトの提供する Azure を主要プラットフォームとして、Microsoft Defender for AIを含むDefender ファミリーや Microsoft Sentinel などのセキュリティ製品を活用しています。

この点について、公共・社会基盤技術戦略推進部 プロジェクト推進統括部 技術戦略担当 主任 鈴木 遼太郎 氏は次のように説明します。

「当社のシステムセキュリティ基準を精査した 結果、Azureの各種サービスと Microsoft Defender for AI を含む Defender ファミリーの組み合わせで、主要な要件を満たすことができました。AIエージェント基盤に対して、基本的なシステム監視に加え、Microsoft Sentinel による脅威分析、ネットワークの閉域化、ポリシー制御、取り扱うデータをモデルの再学習に利用しない Azure OpenAI の採用、さらには日本国内にのみデータ保持するアーキテクチャ設計、これらを組み合わせることで、システム全体の通信とデータ資産を強固に保護し、安全で信頼性の高い AI エージェントの提供を実現しています」

このようにして、接客 AI エージェントでは、AI システム全体のリスクを可視化し適切に管理・保護する態勢 (AI-SPM : AI Security Posture Management) を整え、インシデント発生時にも素早く対応できる環境を実現しています。

不適切なプロンプトを自動的にブロック。高度な攻撃や異常な振る舞いも検知

さらに、テレコム・ユーティリティ事業本部 デジタルエクスペリエンス事業部 デザインアプローチ統括部 課長代理 渋谷 文那 氏は、接客 AI エージェントに適用されているセキュリティについて、次のように説明を続けます。

「接客AIエージェントでは、現時点で想定され得るさまざまなリスクに対して、予防と対策を講じています。たとえば、AI 関連リソースの構成管理や脆弱性検知には Defender CSPM (Cloud Security Posture Management) を活用し、悪意あるユーザーによる高度な間接的プロンプトインジェクション攻撃の検知やシステム内部での異常な振る舞い検知には Defender for AI を活用しています。また、差別的・暴力的プロンプトや敵対的プロンプトは、Azure AI Content Safety のフィルタリング機能を用いることで入力自体をブロックしています」

渋谷 氏はさらに「Azure AI Content Safety と Microsoft Defender 脅威インテリジェンスを組み合わせることで、より良い効果が得られるようになる」と続けます。

「AI Content Safetyには、任意の文字列の入力をブロックできるブロックリスト機能が具備されています。そのため、新たなリスクや脅威に対応した言葉をリストアップすることで、より強固にガードを固めることが可能になります。ただ、お客様自身で新たなリスクや脅威を追跡し続けるには困難が伴います。そこで、Microsoft Defender 脅威インテリジェンスが提供する情報を活用することで、比較的容易に強固なガードレールを整備することが可能になっています」

新たな脅威にも迅速に対応できる体制で、お客様のニーズに則した開発を円滑に

「接客 AI エージェントを導入いただいたお客様独自の業務環境で、より便利な存在へと育てていく過程では、機密データを取り扱う必要もあります。そうした状況において、安心してデータを保存・活用いただけるように情報セキュリティについて、一切手を抜かずに取り組んできました」と嶋田 氏は言います。

しかし、セキュリティ対策に終わりはありません。嶋田 氏は、今後現れるであろうリスクや脅威にも即座に対応し、導入済み企業の方々のビジネスニーズにも即応できる開発体制を維持し続けていくと、締めくくります。

「導入を控えている Microsoft Purview をはじめ、Microsoft Defender ファミリーの製品群を今後も積極的に活用し、AI活用に伴うリスクへ万全の備えを講じていきます。これらの製品はAIの進化にあわせて常にアップデートされるため、新たな脅威にも迅速に対応できる体制を維持できます。こうした確かな基盤があるからこそ、私たちはお客様のビジネスニーズに応える開発をスピーディに実現できます。また、接客 AI エージェントは、企業様に導入いただいた後も絶えず学習し成長し続けることで、よりリアルな接客に近い体験を提供し、顧客接点を力強く支えます。つまり、昨今の社会課題の 1 つとして “人材不足” が叫ばれる中、限られた営業リソースであってもトップライン (売上) 向上を可能にする、正にそれが、私たちが開発した接客 AI エージェントがもたらす価値なのです 」

※「Smart AI Agent」は、株式会社 NTT データグループの英国および日本国内における登録商標、米国、欧州連合における商標です。