《AI安全指数首揭晓：国内企业崭露头角，高分仅C分引发热议！》

AI安全问题刻不容缓。

原标题：Bengio参与的首个《AI安全指数报告》出炉，最高分仅C、国内一家公司上榜
文章来源：机器之心
内容字数：8542字

人工智能安全话题引发关注

随着大型语言模型（LLM）如GPT-4的出现，人工智能（AI）行业的安全问题受到越来越多的关注。专家们呼吁暂停训练比GPT-4更强大的模型，生命未来研究所（Future of Life Institute）发起了一封公开信，得到了包括马斯克在内的数千人的支持。该机构致力于引导技术变革以造福人类，同时避免大规模风险。

AI安全指数报告发布

生命未来研究所邀请了多位人工智能和治理专家，评估6家人工智能公司的安全实践，并发布了《人工智能安全指数报告》（FLI AI Safety Index 2024）。报告显示，尽管Anthropic公司获得了最高的安全性评级，但所有公司在安全实践方面仍有提升空间。

安全评估的六大维度

评审专家从六大维度评估各家公司：风险评估、当前危害、安全框架、生存性安全策略、治理和问责制、透明度和沟通。

1. 风险评估：OpenAI、Google DeepMind和Anthropic在潜在危险识别方面表现突出，但仍有局限性。
2. 当前危害：Anthropic在安全性基准测试中得分最高，Meta因模型权重公开受到批评。
3. 安全框架：仅有OpenAI、Anthropic和Google DeepMind公布了安全框架，Anthropic的框架内容最为详尽。
4. 生存性安全策略：仅有三家公司在控制与安全性方面进行了严肃研究，现有策略仍显不足。
5. 治理和问责制：Anthropic在治理结构方面的努力获得好评，但OpenAI的营利模式引发了安全担忧。
6. 透明度和沟通：所有公司在透明度方面均有待提高，尤其是x.AI的风险评估信息共享不足。

专家评分与改进建议

评分过程中，专家组依据42项关键指标进行评估，确保评价的科学性与可靠性。报告不仅展示了当前安全实践的现状，还提出了可行的改进方向，旨在激励公司在未来达成更高的安全标准。

联系作者

文章来源：机器之心
作者微信：
作者简介：专业的人工智能媒体和产业服务平台