工程师利用GPT开发智能枪械视频疯传，OpenAI 吓坏了紧急制止！网友：这太危险了

近日，一位在线昵称为 STS 3D 的工程师利用 ChatGPT 开发出一把语音控制的智能化。

原标题：工程师利用GPT开发智能枪械视频疯传，OpenAI 吓坏了紧急制止！网友：这太危险了
文章来源：AI前线
内容字数：5990字

AI赋能武器：ChatGPT语音控制引发的担忧

近日，一名工程师利用ChatGPT开发出一款语音控制的智能，引发广泛关注和担忧。该凸显了AI技术在军事领域的潜在风险，以及对未来社会安全的影响。

1. ChatGPT语音控制的诞生与封禁

   一位名为STS 3D的工程师利用ChatGPT开发出一款能够响应语音指令、瞄准并射击的智能。相关视频在社交媒体上迅速传播，引发热议。OpenAI在获悉此事后，立即切断了该工程师的ChatGPT访问权限，并表示此行为违反了用户政策。

2. 军事AI发展现状与潜在风险

   文章对比了STS 3D的智能与美国国防部测试的AI自主枪械系统“Bullfrog”。“Bullfrog”系统虽然也具备AI能力，但在设计上需要人类操作员下达开火指令。然而，ACS公司表示该系统未来可以完全自主运行。这表明，AI武器系统正朝着高度自主化的方向发展，而STS 3D的案例则表明，即使是个人也能轻易将消费级AI技术与致命武器结合。

   许多网友对AI武器的潜在风险表示担忧，认为其可能落入坏人之手，造成灾难性后果。部分人认为，应在AI系统中内置保护措施，防止其被用于武器开发。

3. 技术可行性与社会讨论

   一些网友指出，将AI技术与远程控制武器结合并非新鲜事，类似技术至少在十年前就已存在。STS 3D的创新之处在于使用了ChatGPT进行语音控制。这种观点认为，STS 3D的成果并非技术上的巨大突破，而是将现有技术以一种更直观易用的方式进行了整合。

   然而，STS 3D的成果仍然引发了激烈的社会讨论。人们担忧，即使是消费级AI技术也能轻易被用于暴力目的，我们正快速步入一个致命武器拥有自主思维能力的新时代。

4. OpenAI的回应与政策调整

   OpenAI回应称已封禁STS 3D的账户，并强调其用户政策禁止用户利用服务开发或操作武器。尽管OpenAI去年9月修改了用户条款，删除了部分关于高身体损害风险活动的限制性措辞，但其仍然禁止用户使用服务伤害自身或他人，包括开发或使用武器。

5. 未来展望与警示

   STS 3D的智能为我们敲响了警钟，提醒我们关注AI技术在军事领域的应用，以及其可能带来的伦理和安全风险。未来，我们需要加强对AI技术的监管，制定更完善的伦理规范，以防止AI技术被滥用，确保其造福人类。

联系作者

文章来源：AI前线
作者微信：
作者简介：面向AI爱好者、开发者和科学家，提供大模型最新资讯、AI技术分享干货、一线业界实践案例，助你全面拥抱AIGC。