大模型如何可解释？新泽西理工学院等最新《大型语言模型可解释性》综述

AIGC动态欢迎阅读

原标题：大模型如何可解释？新泽西理工学院等最新《大型语言模型可解释性》综述

关键字：模型,范式,解释性,报告,提示

文章来源：人工智能学家

内容字数：9044字

内容摘要：来源：专知大型语言模型（LLMs）在自然语言处理方面展示了令人印象深刻的能力。然而，它们的内部机制仍然不清楚，这种不透明性对下游应用带来了不希望的风险。因此，理解和解释这些模型对于阐明它们的行为、局限性和社会影响至关重要。在本文中，我们引入了可解释性技术的分类体系，并提供了关于解释基于Transformer的语言模型方法的结构化概述。我们根据LLMs的训练范式对技术进行分类：传统的微调范式和基于提…

原文链接：点此阅读原文：大模型如何可解释？新泽西理工学院等最新《大型语言模型可解释性》综述

联系作者

文章来源：人工智能学家

作者微信：AItists

作者简介：致力成为权威的人工智能科技媒体和前沿科技研究机构