XAI有什么用？探索LLM时代利用可解释性的10种策略

AIGC动态欢迎阅读

原标题：XAI有什么用？探索LLM时代利用可解释性的10种策略
关键字：解释性,模型,技术,策略,腾讯
文章来源：机器之心
内容字数：12808字

内容摘要：

机器之心专栏
机器之心编辑部你是否也好奇，在大模型时代，可解释性人工智能技术（XAI）有怎样的使用价值？近日，来自佐治亚大学、新泽西理工学院、弗吉尼亚大学、维克森林大学、和腾讯 AI Lab 的研究者联合发布了解释性技术在大语言模型（LLM）上的可用性综述，提出了「Usable XAI」的概念，并探讨了 10 种在大模型时代提高 XAI 实际应用价值的策略。论文题目：Usable XAI: 10 Strategies Towards Exploiting Explainability in the LLM Era
论文链接：https://arxiv.org/pdf/2403.08946.pdf
代码链接：https://github.com/JacksonWuxs/UsableXAI_LLM
这些策略涵盖两方面：（1）如何利用 XAI 来更好地理解和优化 LLM 与 AI 系统；（2）如何利用 LLM 的独特能力进一步增强 XAI。此外，研究团队还通过具体的案例分析说明如何获取和使用大模型的解释。可用的大模型解释技术
Usable XAI in LLMs
从深度学习兴起至今，XAI

原文链接：XAI有什么用？探索LLM时代利用可解释性的10种策略