大模型：软件开发的未来救世主还是无法逃脱的绝境？

虽然“Does current AI represent a dead end?”这篇文章意在引发讨论，但其中的某些观点对软件开发人员来说特别具有相关性。

原标题：“为什么说大模型可能是软件开发的死胡同？”
文章来源：AI前线
内容字数：4818字

引言

在《Does current AI represent a dead end?》一文中，作者David Eastman提出了一些对软件开发人员特别重要的观点，尤其是关于当前大语言模型（LLM）在软件开发中的局限性和挑战。这篇文章旨在引发讨论，探讨LLM在产品开发过程中的应用，而非单纯作为开发工具。

1. LLM的不可组合性

当前的LLM系统像汽车一样被出售，用户需为整个产品付费，而无法将其视为可组合的模块。这种不可分解性在软件开发中构成了问题，因为任务应该可以被分解，方便组件之间的协作和测试。

2. 内部结构的缺失

LLM缺乏与其功能紧密相关的内部结构，这使得它们无法作为可重用的组件进行开发。有效的软件组件应由可进行单元测试的代码构成，并能够与其他组件可靠协作。

3. 安全与隐私问题

LLM的训练过程往往不公开，导致其行为与训练数据无法分离。这种情况使得安全和隐私问题变得更加复杂，因为缺乏有效的方法来防止敏感信息的泄露。

4. 法律与产权问题

LLM在知识产权方面存在法律风险，因为它们可能会侵犯现有的知识产权，而无法证明其操作的合法性。这使得许多企业在使用LLM时面临重大的法律挑战。

5. 软件开发人员的应对策略

软件开发人员应保持开放的态度，拥抱真正可解释、可测试的AI。开发过程中，训练过程应当是可监控、可报告、可重复和可解释的，以便在发现问题时能够迅速修正。

结论

尽管LLM在软件开发中面临诸多挑战，但未来依然有可能改变这一现状。开发人员应当专注于构建可持续的开发平台，以应对不断变化的技术环境和市场需求。

联系作者

文章来源：AI前线
作者微信：
作者简介：面向AI爱好者、开发者和科学家，提供大模型最新资讯、AI技术分享干货、一线业界实践案例，助你全面拥抱AIGC。