セキュリティとレジリエンスのためのイノベーション

サイバーセキュリティ業界のパラダイムが変わりつつある中、防御者にとって AI は、レジリエンスを高め、スキル、スピード、知識を増幅させる可能性を提供するものです。

“サイバー防衛において、人間の創意工夫と専門知識は、常に貴重でかけがえのない要素です。一方、テクノロジには、そうした独特な能力をモダン AI のスキルセット、処理速度、迅速な学習能力によって補強できる可能性があります。”

- Bret Arsenault、Microsoft Chief Information Security Officer

ブレークスルーイノベーションで脅威に対応する

サイバーエコシステムがますます複雑化する中で、人工知能 (AI) には、防御者のスキル、スピード、知識を高め、セキュリティ情勢に変化をもたらす可能性があります。

また、AI は新たな能力を実現可能にするものでもあります。たとえば、複雑なデータから大規模言語モデル (LLM) によって自然言語の分析情報や提案を生成し、アナリストに新たな学びの機会を提供することができます。

Microsoft デジタル防衛レポート 2023 年版では、サイバーセキュリティを変革しつつある AI のブレークスルー、AI および LLM に付随するリスク、そして、より安全かつ強靭なデジタルの未来を創るためにこれらを活用する方法について検討します。

レポートの全文を読む

LLM をサイバー防御のために活用する方法は?

LLM はサイバー防御を大幅に強化する可能性を秘めています。Microsoft の研究者や応用科学者は、以下のシナリオをはじめ、さまざまな探求と実験に取り組んでいます。

脅威インテリジェンスと分析

LLM は、サイバー防御者がデータを収集して分析し、サイバー脅威のパターンやトレンドを見極めるために役立ちます。また、さまざまな情報源から得た情報を基にして脅威インテリジェンスにコンテキスト情報を加えることや、リバースエンジニアリング、マルウェア分析などの技術的タスクを実行することができます。
セキュリティインシデント対応および回復

LLM は、防御者のセキュリティインシデント対応および回復 (インシデントのトリアージ、封じ込め、根絶、分析、復旧を含む) をサポートし、自動化します。インシデントの要約、対応自動化スクリプトの生成、チームの調整や、インシデントの詳細およびアクションに関する文書化と連絡を実行できます。また、LLM は、防御者がインシデントから教訓を得るための助けとなり、予防や緩和のための改善策を提案することができます。
セキュリティ監視と検出

LLM は、ネットワーク、システム、アプリケーション、データを横断的にカバーする形でセキュリティイベントやインシデントの監視と検出を実行できます。データを分析し、優先順位付けしたアラートを生成し、調査と対応のためのコンテキスト情報を提供します。また、LLM は、マルチクラウド環境の態勢分析、包括的なリソースの地図の作成、潜在的な影響の推定、リスク軽減策の提案などを実行できます。フィッシングに対しては、メールの内容を分析して、テキストのパターンおよび異常や、フィッシング試行の兆候と考えられる不審な言葉遣いを識別することで検出をサポートします。

セキュリティテストと検証

LLM は、セキュリティテストと検証 (侵入テスト、脆弱性スキャン、コード分析、構成監査を含む) を自動化および強化することができます。テストケースの作成と実行、結果の評価とレポート、修復策の提案が可能です。LLM では、特定のシナリオに適したカスタムアプリやツールの作成、繰り返し作業の自動化ができるほか、人間の関与が必要な不定期または一度限りのタスクも処理できます。
セキュリティ意識と教育

LLM は、セキュリティ意識向上や教育を目的とした魅力的なパーソナル化コンテンツやシナリオの作成においてサイバー防御者をサポートします。対象オーディエンスのセキュリティ知識とスキルレベルを評価して、フィードバックや指導を提供し、訓練とテストに役立つ現実的かつ適応的なサイバー演習問題やシミュレーションを生成することができます。
セキュリティガバナンス、リスク、コンプライアンス

LLM は、セキュリティガバナンス、リスク、コンプライアンス活動 (ポリシーの策定と適用、リスクの評価と管理、監査と保証、コンプライアンスとレポートを含む) の自動化をアシストします。活動方針をビジネス目標に整合させることや、パフォーマンス測定のためのセキュリティメトリックやダッシュボードを提供することができます。また、不足事項や課題の見極め、組織のセキュリティ態勢を改善するための提案、脆弱性の対応優先順位付け、修復策の提案ができます。

モダンな AI イノベーションの活用開始ハードルを下げる

LLM ベースのソリューションは、サイバーセキュリティに役立つ大きな可能性を持っていますが、人間のサイバーセキュリティ専門家の代替にはなりません。適切な専門知識を踏まえて利用することが、LLM とサイバーセキュリティを組み合わせるための鍵です。考えられるのは、たとえば、AI のプロとサイバーセキュリティ専門家のスキルを結集させて生産性を高めるようなソリューションです。

幸い、サイバーセキュリティの運用に LLM を利用することは、豊富なリソースを擁する大規模組織でなくても可能です。LLM は膨大なデータを使ってトレーニングされているため、サイバーセキュリティについても既存の知識をある程度持っています。

LLM は、複雑な情報を組み合わせて再構築し、簡潔明瞭な言葉で伝えることが得意です。この力は、アナリストがさまざまなシナリオに応じて最適なサイバー分析を選ぶ際に役立ちます。脅威情勢の変化と分析手法の発展の速さについていくことは、経験豊富なアナリストでも容易ではありません。LLM には、分析や軽減策を提案するパーソナルアシスタントとしてその取り組みをサポートする力があります。

詳細はレポート全文をご覧ください

責任ある AI のあり方を形成するために共同で取り組む

責任ある AI の実践を最初から組み込んだ設計

AI テクノロジが社会の変革をうたっている以上、責任ある AI の実践を最初から組み込んだ設計を未来に伝えていくことは私たちの義務です。ユーザーの信頼を保ち、プライバシーを守り、長期にわたって社会に利益をもたらすために、責任ある AI の実践はきわめて重要です。

AI の中で私たち自身の倫理基準を守る

新たなセキュリティ脅威に私たちが先手の対策を講じていくには、自ら模範を示し、研究開発に投資することが必須です。Microsoft のあらゆる AI 製品およびサービスの開発と利用において当社の AI 原則が守られる状況を確保するため、私たちは真摯に努力しています。

アクティブな AI 政策の 10 年間の推移

Microsoft のあらゆる AI 製品およびサービスの開発と利用において当社の AI 原則が守られる状況を確保するため、私たちは真摯に努力しています。同時に、デジタルコンテンツの出所や真正性に関する情報の透明性と検証可能性が確保され、オンラインの信頼が増進されるよう、私たちは業界パートナーと協力して標準とテクノロジの開発に取り組んでいます。

AI の責任ある開発と利用についての規制ガイダンスを求める声は世界中で高まっており、多くの国が、AI テクノロジに付随する新たなリスクの管理指針を示すドキュメントの起草を進めています。このトレンドは 10 年以上前から発展し続けており、勢いは増すばかりです。