AI走的是死路？专家剖析致命缺陷，不具备大规模应用前提

原标题：AI走的是死路？专家剖析致命缺陷，不具备大规模应用前提
文章来源：新智元
内容字数：3371字

当前AI落地前景：机遇与挑战并存

莱斯特德蒙福特大学网络安全教授Eerke Boiten近期发表文章，对当前AI技术在软件工程和网络安全领域的落地前景提出了警示。文章指出，虽然AI在自动化、医疗、金融等领域取得显著成就，但其在可控性、可靠性和可解释性方面存在严重缺陷，这可能限制其在关键领域的应用，甚至导致其发展陷入“死胡同”。

1. AI的复杂性管理难题

Boiten教授认为，当前AI系统与传统软件工程标准严重不匹配。传统软件工程强调可管理性、透明性和问责制，而许多AI系统，特别是深度学习模型，缺乏透明的决策过程，难以追溯和解释其决策依据。“黑箱”性质使其在关键任务应用中充满风险，尤其是在涉及人类生命健康、金融交易和网络安全等领域。

2. AI可靠性不足

AI系统的可靠性远未达到理想水平。在高风险决策场景中，即使是极小的错误也可能造成严重后果。例如，医学诊断中AI的误差，即使概率很低，也可能危及生命。这不仅体现在技术能力上，更体现在系统架构的可管理性上。缺乏有效的监管和透明的设计，导致AI系统难以在严格的工程标准下工作，决策过程可能不稳定和不可预测。

3. “可解释AI”并非万能药

为了解决“黑箱”问题，业界提出了“可解释AI”的概念。然而，Boiten教授认为，这并不能根除AI在复杂应用场景中的根本缺陷。“可解释AI”只是尝试解释现有模型的内部工作方式，减少不确定性，但并不能保证AI在所有领域都能高效可靠地运行。因此，AI技术发展不能单纯依赖于“可解释性”，更应关注可控性和安全性。

4. 数据责任：难以逾越的障碍

AI系统的决策质量高度依赖于训练数据的质量，但目前很难有效保证数据的公正性、完整性和代表性。数据偏差可能导致AI模型产生带有偏见的判断，尤其在司法审判、招聘决策等敏感领域。虽然业界尝试减少数据偏见，但这些方案并未触及问题的根本，随着AI发展，数据偏见和隐私问题将更加严重。

5. 未来展望：潜力与挑战并存

Boiten教授并非完全否定AI技术，而是对其在关键应用中的风险进行了深刻反思。他承认AI在自动化和数据处理等方面具有巨大潜力，但更广泛的应用必须在更严格的工程标准下进行。对于影响人类安全和生活质量的领域，AI的使用需要更加谨慎和透明。只有在提升可控性、透明度和可靠性方面取得突破，AI才能在更广泛的领域发挥潜力，否则，其发展可能面临瓶颈，甚至陷入“死胡同”。