哈佛大学麻省理工学院的研究人员警告人工智能对抗攻击
原标题:哈佛大学麻省理工学院的研究人员警告人工智能对抗攻击
《纽约时报》杂志2010年3月21日报道称,黑客的可访问性和潜在的安全漏洞极大地影响了成功的AI系统的开发,但医疗保健监管机构(如保险提供商和计费公司)可能面临更紧迫的威胁。
哈佛医学院和麻省理工学院的研究员塞缪尔芬莱森(Samuel Finlayson)也是这篇论文的作者,他告诉《科学》,尽管神经网络通过分析大量数据来训练自己完成某些任务,但它只需进行几次数字运算就可以改变技术的核心功能。就像研究人员训练人工智能系统来检测乳腺癌一样,黑客可以操纵代码来不标记恶性肿瘤。
研究人员一次又一次地证明,AI可能会带来意想不到的负面后果——例如,无人驾驶汽车将停车标志解读为投降标志,AI驱动的眼镜被欺骗,让它们认为是名人。但在临床上,芬莱森和他的同事们表示,他们担心强大的医疗利益相关者可以通过数据操纵取得什么成就。
Finlayson告诉《纽约时报》:“医疗信息固有的模糊性,加上经常竞争的财务激励机制,使得高风险决策依赖非常微妙的信息。”
他说,由于医疗行业的大量货币兑换,保险和计费公司已经改变了其计算机系统中的计费代码和其他数据,以“制定系统账单”。随着人工智能在这些环境中变得越来越受欢迎,利益相关者更有可能操纵扫描以获得更好的费用,或者改变图像以加快监管批准。
宾夕法尼亚大学助理教授Hamsa Bastani研究了《纽约时报》。他说:“有些行为是无意的,但不是全部。”“总会有意想不到的后果,尤其是在医疗保健领域。”
郑重声明:文章仅代表原作者观点,不代表本站立场;如有侵权、违规,可直接反馈本站,我们将会作修改或删除处理。
相关阅读
猜你喜欢
-
优步推出了一个名为柏拉图的对话式人工智能平台
2022-08-13 -
人工智能的利与弊
2022-08-13 -
为什么我们迫切需要AI聊天机器人方法
2022-08-08 -
人工智能革命将是未来十年推动企业软件创新的最大技术趋势
2022-08-06 -
selected是什么牌子(服装品牌selected)
2022-07-26 -
科技快讯:工信部部长苗圩:我国AI核心产业规模超过510亿
2022-06-24 -
上海哪个医院眼科好(上海哪里做近视眼手术比较好)
2022-06-14 -
寻求更好地监控信息技术资产的组织正在转向人工智能
2022-06-01 -
克利夫兰诊所启动临床人工智能中心
2022-05-30 -
AI变得更容易了吗?
2022-05-28 -
百度将年度收入增长归功于AI焦点
2022-05-13 -
Trustifi的新光学字符识别工具将人工智能引入电子邮件安全
2022-04-26 -
科技快讯:澳大利亚推出人工智能摄像头监测在驾驶过程中使用手机的司机
2022-04-08 -
幽默是改善人工智能与人类互动的障碍和措施
2022-04-04 -
三星Galaxy Watch4并观察Active4 Q2
2022-03-14