説明可能なAI

説明可能なAI (XAI) とは

説明可能なAIは、自動化システムに対する信頼を高め、獲得し、維持するために不可欠な要素です。信頼がなければ、AI、特にIT運用向けAI (AIOps) は十分に活用されず、最新のシステムの規模と複雑さが、手動運用と従来の自動化で対応できる範囲を超えたまま放置されることになります。

信頼によって 「AIウォッシング」 (AIの役割が非常に小さいかまったくないのに、その製品またはサービスがAIを活用していることを暗に示す手法) が明らかになり、そうした手法を濫用する者と顧客の双方がAIデューデリジェンスを実施するのに役立ちます。AIに対する信頼と信用を確立することは、AIの導入範囲と速度に影響を及ぼし、それによってAIのメリットを実現できる範囲と所要時間が決まります。

システムに答えを見つけたり判断を下したりするように指示する場合 (特に、その指示が現実世界に影響を与える場合)、システムがどのようにしてその結論に達したか、それが結果にどう影響したか、なぜアクションが必要と判断されたのかを説明できることが不可欠です。

多くのAI/MLモデルは不透明であり、そのアウトプットについて説明することはできません。その経路をたどった理由や、アウトプットがどのように生成されたかを明らかにして説明することが、AIテクノロジーの信頼、発展、導入には不可欠です。

データ、モデル、プロセスを明らかにすることで、透明性と妥当性のある推論を使用したシステム最適化に関する有益な情報と可観測性が得られます。最も重要なのは、説明可能性によってコミュニケーションが容易になり、欠陥や偏見、リスクを軽減または排除できるようになることです。

責任ある倫理的なAIの使用は複雑なトピックですが、組織はこれに取り組む必要があります。HPEのMist AIイノベーション原則は、HPEのサービスや製品でAIを使用する際の指針となります。HPEでは、AI/MLとAIOps手法に関する詳細なドキュメントも用意しています。これには、AIデータとプリミティブ、AI主導の問題解決、インターフェイス、インテリジェントなチャットボットなど、運用を改善しながらネットワークの異常を検出して修正するのに役立つツールが含まれています。

XAIはさまざまな形式で提供されます。たとえば、HPE NetworkingのAIOps機能には、Wi-Fiネットワークにおける自動無線リソース管理 (RRM) の実行や、ネットワークケーブルの障害などの問題の検出が含まれます。高度なGenAI/AIエージェントを使用している場合、実行されたアクションとその結果に対して信頼が確立されると、運用部門がMarvis Actionsダッシュボードから自動運用の自律的なアクションを選択的に有効にすることができます。

Mistの中核を担うのが、Marvis AIエンジンとMarvis AI Assistantです。Marvis AIは、ITチームがネットワークとやり取りして運用する方法を再定義します。エージェンティックAIの統合により、Marvis AIでは、複雑な環境間での推論、連携、対応が可能となっており、Self-Driving Networkのビジョンが実現に近づきつつあります。 

Marvis AI Assistantのコンポーネントの1つであるMarvis Conversational Interfaceは、高度な LLM、生成AI、NLU/NLPを使用して、ITチームが自然言語で質問し、明確かつ実用的な回答が得られるようにします。ユーザーの意図を理解し、専門のエージェントと連携し、複数ステップのワークフローを調整することで問題を診断し、承認された場合は問題を自律的に解決します。価値を文書化してユーザーとの信頼関係を構築するために、実行されたアクションと実現された結果を要約したレポートが生成されます。このように対話型インテリジェンスと自動化を組み合わせることで、ITチームがより効率的に業務を遂行し、解決時間を短縮し、イノベーションを加速させる戦略的な取り組みに注力できるよう支援します。