可解释 AI

什么是可解释 AI (XAI)？

数据网络拥有明确定义的协议与数据结构，这一特性使得 AI 能实现突破性进展，而无需顾虑歧视或人类偏见的干扰。通过这种方式，当 AI 承担故障排除、服务保障等中性问题领域的任务时，其应用范围能得到良好界定，且能以负责任的方式被采用。

让您的供应商回答一些基础的技术和运营问题至关重要，这有助于识别并避免“AI 粉饰”。与所有尽职调查和采购工作一样，回答的详细程度能提供重要的参考信息。这些回复可能需要一定的技术解读，但仍建议参考，以帮助确保供应商的各项申报具备可行性。

和所有技术采购场景一样，工程团队与领导团队需要共同设定用于评估拟议采购方案的标准，并依据证据做出相关决策。为降低潜在风险、助力尽职调查顺利开展，以下为 AI/ML 所有者及用户提供的一些示例问题：

• 哪些算法构成解决方案，且在其中发挥了什么作用？
• 如何获取和清理数据？
• 数据源于哪里（是否按租户、帐户或用户定制）？
• 如何从网络空间设计参数和特征？
• 如何训练、重新训练模型并保持其新鲜度和相关性？
• 系统本身可以解释其推理、建议或行动吗？
• 如何消除或减少偏见？
• 解决方案或平台如何自动改进、完善？

此外，始终建议对 AI 服务及系统开展试点或试验，以此验证其承诺的效果或声明的功能。

负责任且合乎道德地运用 AI，虽属复杂议题，却是所有组织必须正视并解决的问题。HPE 的 Mist AI 创新原则为我们在服务和产品中使用 AI 提供了指导。我们还提供丰富的 AI/ML 导览和 AIOps 方法文档。其中包括有助于在检测和纠正网络异常的同时改进操作工具，例如 AI 数据和原语、借助 AI 技术解决问题的功能、界面和智能聊天机器人。

XAI 有多种形式。例如，HPE Networking AIOps 功能包括在 Wi-Fi 网络中执行自动无线电资源管理 (RRM) 并检测诸如网络电缆故障等问题。借助先进的 GenAI 和 AI 代理，一旦对所执行的操作及产生的结果建立起信任，运营人员便可通过 Marvis Actions 仪表板有选择性地启用自动化、自主执行的操作功能。

Mist 的核心是 Marvis AI 引擎和 Marvis AI Assistant。Marvis AI 彻底改变了 IT 团队与网络交互以及开展网络运营的方式。随着 Marvis AI 整合并成为代理式 AI 的典型代表，它能够在复杂环境中开展推理、协作与行动，让自主运行网络愿景离现实更近一步。

Marvis AI Assistant 组件具有 Marvis 对话界面，可使用高级 LLM、生成式 AI 和 NLU/NLP，让 IT 团队能够以自然语言提出问题并获得清晰、可操作的答案。该组件还能够理解用户意图，并借助专门的代理协调多步骤工作流程来诊断问题，并在获得授权后自主解决问题。生成的报告将已采取的行动和已实现的成果进行总结，以此记录价值并与用户建立信任。对话智能与自动化结合，能让 IT 团队更高效地运作、缩短问题解决时间，并专注于推动创新的战略举措。