首页 时尚资讯 故事会 心情说说 家居生活 小说 房产资讯 趣闻趣事 软件资讯 旅游资讯 宠物资讯 游戏资讯 音乐资讯 教育资讯 娱乐资讯 影视头条 人工智能
您当前的位置 :人工智能 >  正文
人工智能是把双刃剑且可能导致误判
http://vijiran.com2020-05-22

美国食品药品监督管理局(FDA)批准了一种人工智能()医疗设备上市,只需捕捉患者视网膜图像,就能自动检测是否有糖尿病性失明征兆。如今,像这样的新型AI技术正在医疗领域迅速蔓延。科学家们正积极开发着各种AI系统,能够直接或是通过各种各样的影像,帮助识别各类疾病的征兆。

未来,这样的AI系统将不仅仅在医院被广泛使用,还可能为医疗监管机构、账单服务公司和保险公司提供帮助。正如AI帮助医生检查病人的眼睛、肺部和其他身体器官一样,它也能帮助保险公司确定赔付金额和保单费用。理想的情况下,这些系统将有助于提高整个医疗体系的工作效率。然而,美国哈佛大学和麻省理工学院的一组研究人员警告称,这些系统也可能会产生难以想象的严重后果。

“对抗性攻击”是指利用调整微小的数字数据,改变人工智能系统行为的操作。例如,修改肺部扫描影像的几个像素,就能误导AI系统,把没病的判断成有病,或者把有病的误判成没病。在新发布的这篇论文中,研究人员证实,通过改变一幅良性皮肤病变图像中的少量像素,就能欺骗一种诊断AI系统,导致其误判病为恶性。他们还发现,通过简单地旋转影像,也能达到同样的目的。

如果对病人病情的书面描述进行一些小的改动,也可改变人工智能的诊断:“酗酒”的诊断结果与“依赖”的不同,“腰痛”和“背痛”的诊断结果也会有所区别。随着监管机构、保险公司和医疗账单服务公司开始在其软件系统中使用AI技术,黑客可能入侵系统,导致病人误诊。更有可能发生的一种情况是,医生、医院和其他相关机构或将利用对抗性攻击,操纵医疗账单或保险软件上的AI系统,想方设法获得尽可能多的收益。

例如,如果保险公司使用AI评估医学扫描影像,医院可以通过修改扫描结果,以提高赔付金额。如果监管机构建立了AI系统,用于评估新技术,设备商可以通过改变图像和其他数据,以欺骗系统,获得监管部门的批准。研究人员认为,一旦人工智能深深植根于医疗体系之中,各家企业将逐渐出现能为其带来最大利润的行为。而这其中的受害者,将是患者。

人工智能是把双刃剑且可能导致误判

哈佛大学医学院和麻省理工学院的研究人员塞缪尔·芬利森指出,如果医生为了骗过保险公司的AI系统,以获得更多利润,对医学扫描影像或病人的其他数据进行改动。而这些改动将出现在病人的永久记录中,伴随其终身,这将对病人未来的诊断产生影响。

这样的情况并不只是一种假设或不必要的担忧。事实上,由于整个医疗保健行业有大量的资金来往,一些医生、医院和其他组织已经出现了操控软件系统获利的情况。例如,为了提高医疗费用支出,医生们巧妙地修改了账单代码,将简单的X光扫描变为更复杂的扫描等等。

芬利森称,人工智能可能会加剧这个问题。未来几年,软件开发者和监管机构在构建和评估AI系统时,必须考虑这些情况发生的可能性。“医疗信息本身就模糊不明确,再加上财务激励政策经常相互冲突,使得高风险决策因非常微妙的信息变动就会出现摇摆。”

对抗性攻击利用了众多AI系统设计和构建的一个基本方面——。人工智能越来越多地受到神经网络的驱动,而神经网络本身是一种复杂的数学系统,通过分析大量数据独立学习任务。例如,通过分析成千上万的眼部扫描图像,神经网络可以学会如何监测糖尿病视网膜病变的征兆。

但这种“”是建立在巨大规模的基础,也就是无数定义人类行为的不同的数据块之上,以至于一旦接收到不正确的信息,AI系统可能产生意想不到的行为。2016 年,美国卡耐基梅隆大学的一个研究小组通过印在眼镜框上的图案,成功骗过了面部识别系统,让其误以为戴眼镜的是名人。当研究人员戴上这些眼镜时,系统把他们错误识别成米拉·乔沃维奇(lla Jovovich)和约翰·马尔科维奇(John Malkovich)。

也有研究曾警告称,对抗性攻击能欺骗汽车,让它们看到不存在的东西。通过对路标做一些微笑的改动,就导致汽车AI系统将停车标志错误地识别为让路标志。去年年底,美国纽约大学坦顿工程学院的一个研究团队创造了一种虚拟,在22%的情况下,成功骗过了指纹识别器。也就是说,所有使用这些指纹识别器的手机或个人电脑,有22%可能被解。

鉴于生物特征安全设备和其他人工智能系统的日益普及,这项研究的影响极其深远。印度已经开始实施世界上最大的基于指纹的身份识别系统,用于发放政府津贴和分派服务。各家银行正在引入技术到自动取款机上。与 Google 同属一家母公司的 Waymo等企业,目前正在对无人驾驶汽车进行公共道路。

如今,芬利森团队就AI系统在医学领域的使用也发出了同样的警告,目前为止,在医疗保健领域还没有发现前沿的对抗性攻击。但这种潜力是存在的,特别是在医疗账单和保险行业。

相关报道
人工智能是把双刃剑且可能导致误判
自动驾驶国标明年元旦实施!第3级为驾驶员角色重要“分水岭”
食用菌市场上升 生产加工型冷库建设还需加快
智能照明时代下 微控器与智能开关市场动态
斯坦福发布首份AI100报告:2030年生活会是什么样子?
为“高质量发展”取经,中央媒体团调研亿纬锂能
整合进iOS10的HomeKit能否拯救智能家居?
机器学习和人工智能有什么区别?未来人们的看法可能和我们大相径庭
Alcoho-Lock测醉自行车锁:通过测试才能开锁
【百人会直播】顾维灏:百度在智慧交通、自动驾驶上的进展
 
 
 热门新闻
· 斯坦福发布首份AI100报告:2030年生活会是什么样子?
· 整合进iOS10的HomeKit能否拯救智能家居?
· 智能手表:更多时尚品牌加入是利是弊?
· 本质看清了吗? 智能家居发展的六大困局
· “刚刚好”的斑马
· 一文了解搭载了强大发动机的六款车型及发动机的平均维护成本
· 牙科3D打印市场2027年或达95亿美元
· “一流”大学要培养能引领未来的人!
· 微软AI新时代,大规模业务重组,降解Windows转型AI
· 日立开发的客户服务机器人
 推荐
· 为“高质量发展”取经,中央媒体团调研亿纬锂能
· 【百人会直播】顾维灏:百度在智慧交通、自动驾驶上的进展
· 人工智能正在迅速成为药物开发和营销策略的关键
· 「海洋吸尘器」9月落成,这位24岁青年企业家
· OPPO R9S PLUS摔粉碎数据恢复怎么恢复?
· 能源行业安全需求水涨船高 智能安防技术显身手
· 人工智能,其实还有点“笨”目前还只是人类工具
· 三星GalaxyWatch智能手表体验:更长的续航,还有媲美机械表的“质感”
· 车家“云”链接, 一辆天际ME7构建智能生活场景
· 医学影像AI现在发展水平怎样
南通O网