不靠谱的AI？这一研究领域需警惕

AIGC动态欢迎阅读

原标题：不靠谱的AI？这一研究领域需警惕
关键字：报告,数据,研究人员,科学家,算法
文章来源：人工智能学家
内容字数：6798字

内容摘要：

来源：科学网
编辑：方圆
排版：华园
文：卜金婷田瑞颖
《自然》近日发文警告，对人工智能（AI）的不当使用或将催生大量不可靠或无用的研究，导致可重复性危机。而基于AI的科学文献中的错误，是否已经在实际临床中造成真正的危险尚不清楚。
在2020年底新冠疫情大流行期间，由于一些国家病毒感染检测试剂短缺，利用X射线诊断的方法备受关注，但人眼很难准确分辨感染与非感染个体之间的差异。一个团队的报告称，AI可以利用机器学习分析X射线图像。这篇论文被引用了900多次。
次年9月，美国堪萨斯州立大学的计算机科学家Sanchari Dhar和Lior Shamir进行了更深入的研究。他们使用与团队相同的图像数据集来训练机器学习算法，但只分析其中不显示任何身体部位的空白背景部分，结果显示，AI仍然能够在远高于随机水平的情况下识别出感染病例。
这意味着，AI系统可以利用这些图像数据成功完成诊断任务，却无法学习到任何与临床相关的特征——这可能使得它在医学上毫无用处。
Shamir和Dhar还发现其他几个案例，AI从图像的空白处或无意义部分得到了类似的结果，其中一些论文被引用了数百次。这也让Sha

原文链接：不靠谱的AI？这一研究领域需警惕