GPT-4无法造出生物武器！OpenAI最新实验证明：大模型力几乎为0

AIGC动态欢迎阅读

原标题：GPT-4无法造出生物武器！OpenAI最新实验证明：大模型力几乎为0
关键字：参与者,模型,生物,信息,风险
文章来源：新智元
内容字数：7227字

内容摘要：

新智元报道编辑：alan 好困
【新智元导读】刚刚，OpenAI最新的大模型安全研究发现，GPT-4对制造生化武器的辅助作用，可以说是几乎没有。GPT-4会加速生物武器的发展吗？在担心AI统治世界之前，人类是否会因为打开了潘多拉魔盒而面临新的威胁？
毕竟，大模型输出各种不良信息的案例不在少数。
今天，处在风口，也是浪尖的OpenAI再次负责任地刷了一波热度。
我们正在建立一个能够协助制造生物威胁的早期预警系统LLMs。事实证明，目前的模型最多只能对这种滥用有用，我们将继续发展未来的评估蓝图。
经历董事会后的OpenAI，开始痛定思痛，包括之前郑重发布的准备框架（Preparedness Framework）。
到底大模型在制造生物威胁方面带来了多大的风险？观众害怕，我OpenAI也不想受制于此。
咱们直接科学实验，测试一波，有问题解决问题，没问题你们就少骂我了。
OpenAI随后在推上放出实验结果，表示GPT-4对于生物威胁的风险有一点提升，但只有一点：
OpenAI表示会以此次研究为起点，继续在这一领域开展工作，测试模型的极限并衡量风险，顺便招点人。
对于AI安全问题这件事，大

原文链接：GPT-4无法造出生物武器！OpenAI最新实验证明：大模型力几乎为0

联系作者

文章来源：新智元
作者微信：AI_era
作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人对人类社会与文明进化的影响，领航中国新智能时代。