首页 国内 国际 要闻 社会 文化 健康 科技 教育 旅游 财经 实时

AI作恶?我们必须思考人工智能中的道德了!

2020-10-14 16:00:36 来源:广州都市报
分享: 微信

本文转载自公众号“读芯术”(ID:AI_Discovery)。很多人对AI充满热情,因为它可以实现自动化、可以在游戏中打败人类、还能提高人们的整体生活水平。 这当然是不争的事实,但AI仍存在缺陷甚至是危险,有可能是人为带来的,也可能不是。即便在今天,仍有无数起AI扰民或危害生

本文转载自公众号“读芯术”(ID:AI_Discovery)。

很多人对AI充满热情,因为它可以实现自动化、可以在游戏中打败人类、还能提高人们的整体生活水平。 这当然是不争的事实,但AI仍存在缺陷甚至是危险,有可能是人为带来的,也可能不是。即便在今天,仍有无数起AI扰民或危害生命的事件,这是怎样发生的?以后AI会越来越普及,它的哪些潜在特性会给社会造成毁灭?

AI算法中的道德缺陷

AI有许多瑕疵,它们会滋生出道德问题。很多是因为训练数据存在偏差,为了建立信息反馈循环模式。举些例子看一看这些小错误会如何影响现实中的人。

1. 面部识别的训练数据存在偏差

想象有一天,你从学校往家走,警察出现并出示了拘捕令,给你戴上手铐,要把你带到拘留中心。你完全不知道自己犯了什么错,而家人和邻居都在一旁看着。到警局后,他们搜索全身,取指纹,拍照片,让你在一个脏兮兮的牢房里待一晚上。你就坐在那儿等,想为什么被抓。

罗伯特·威廉和他的家人 | 图源:DetroitFree Press

这就是发生在罗伯特身上的真事。他是个黑人,在美国法明顿希尔斯无缘无故遭逮捕。警方在对他进行盘问时,拿出了一张照片,上面有一个黑人男子在店内偷商品。威廉否认自己去过那里而且照片中并非他本人。 另一张照片是行窃者的近距离照片,怎么看都不像威廉,他说:“不,这不是我。你认为所有的黑人都长一个样子么?” 警察为何会抓错?这就是算法的问题了。警方通过人工智能搜寻犯罪嫌疑人,但很明显这是错的。AI怎么会出错,它不应该非常准确吗? 没错,AI通常很精准,但前提是训练不存在问题。导致威廉被当成嫌疑人的最主要原因就是训练数据中存在偏差。面部识别系统对白人相当的公平,可对于少部分群体就没那么精确了。因为采用的数据集主要是白人面孔和少数其他群体的面孔,因此对黑人的识别度偏低。

面部识别的精确度差距 | 图源:Lesson 5 ofFastAI

尽管“深色皮肤男性”辨识度高,深色与浅色皮肤的辨识还是存在很大差距,特别是“深色皮肤女性”。这些成果属于前沿科技公司的,也许不是那些警察用的。

2. YouTube的反馈系统

大家肯定都看过这个网站,在首页会看到一个有意思的视频或者流行视频,一小时以后你仍然在这一页,只是在不知不觉中看了更多的视频。这就是推荐系统的作用,它会提供能留你在页面更久的视频,从而获得更多的广告利润。 你也许会想:“在那个平台待得更久一点又怎样呢?又不会损害何人。”不,这个推荐算法会导致反馈里出现危害性内容。 YouTube的AI反馈循环就出现过一次非常可怕的问题:“网站的推荐算法让那些恋童癖更容易在特定视频的评论区寻找或分享儿童淫秽作品。这一发现令人恐怖的点有很多。不只是视频被商业化,它的推荐系统正不断给成千上万的用户推广儿童视频。” 反馈循环系统也会造成一种单一模式,观看者可能看到的一直是他们排斥的内容。进而会有一些人永远都不听对立的声音,促成两极分化。 再者,这种系统会为阴谋论做宣传。跟造成两极分化一样,它会让对阴谋论稍稍感兴趣或半信半疑的人相信这些话。推荐给你看的视频越来越多,而它们都传递了同一个信息。

 

3. AI导致医护时长缩短

2016年,一个新的算法被应用到了阿肯色州的医疗系统。该算法是为了更好地给医护人员分配资源和时间,它会综合好几个因素来决定每位病人需要多少帮助。但医护效率提高的同时也就意味着许多人的医护时长会减少,可这些人往往最需要帮助。

 

软件不会服务到糖尿病患者或大脑麻痹性患者,这个问题是源于一个漏洞和一些错误代码。随之而来的就是道德问题,我们是否该使用AI 来决定病者的健康呢?为什么这个州在未知或未检测错误的情况下就使用该算法? 有个一目了然的、能够体现算法影响人生活的例子来自泰米·道博。泰米·道博多年受大脑麻痹缠身,2008年搬到了阿肯色州。她需要非常多的帮助,无法靠自己挪动到轮椅,双手僵硬。正因此,该州的医护机构给她分配了最长的照顾时间,每周56个小时。

图源:TheVerge

阿肯色州的医疗系统应用了AI算法后,这一切改变了。道博的医护时间从原先的56小时缩到了32个小时!只有原先的56%!这一削减明显对她的生活造成了巨大的影响。

AI的不当使用

 

1. IBM与屠杀

没错,IBM在二战中帮助纳粹进行了大屠杀。你也许会好奇:“二战有AI当后盾?”可以说类似吧,IBM当时研发了一套用于分类的制表功能。它不只是拆分卡片进行分类的简单算法,而是更冗杂、需要大量维护的工具,不是平常所想的人工智能。虽是这么说,笔者依旧认为探讨技术被不当使用很重要,无论是否是AI。

 

首先回顾这个机器如何运作:你会拿到一张穿孔卡,需要把它插进去;机器会读信息,保存,最终输出数字;这些数字代表人们会去哪个集中营,囚犯的类型以及他们会如何死。 一位名叫霍华德·卡特的经济战首席调查官这样写道:“希特勒的经济战,我们的一家(美)企业也这么做过。所以IBM跟纳粹是一类人,整个世界都被国际怪物打压。”

2. 换脸

换脸也是一种人工智能。它生成的图像、视频甚至是音频极其真实,利用的就是对抗式生成网络,这是一个深度学习模型。仅仅是为了娱乐而使用换脸无伤大雅,但换脸存在真实的危险性,同时也带来了道德问题。 借助换脸制造危害的一种方式就是在政治领域。如果一篇推特都会导致局势越来越紧张,那一个视频或一段语音呢?一段辱骂其他政治大亨的录音会在网上像病毒一样扩散,两极分化加深,人们若是信以为真局势会更紧张。 另一种扰乱社会的方式就是用大量的虚假内容淹没网络。无论什么时候上网,怎么才能知道所见皆为真?如果网络和媒体上的换脸铺天盖地,永远都不会有人知道什么是事实什么是真的。就连文本都能生成虚假的,你怎么知道读的是不是我写的,还是机器人在误导你。

 

最后一种会造成伤害的是淫秽作品。据2019年9月的一份报告显示,网上96%的换脸应用都与淫秽作品相关。福布斯的一篇文章中是这样说的:换脸型淫秽作品往往未经他人允许,会人工合成有明星或个人联系人的视频。

浮现出的道德问题

虽然听起来很吓人,但也许更糟糕的在后面。 AI和技术发展日新月异,我们最终会面对一种奥威尔主义局面。政府会有更多的授权,他们会通过AI了解我们何时在何地在做什么。相机里安装的面部识别会监视你的每一个动作,麦克风会识别谁在讲话,在说什么,预测算法会判断你下一步的动作。

 

这又带来了另一个问题,政府越容易追踪你,就越容易摆脱他们讨厌的人。下一个“希特勒”的工作会更高效,无需找讨厌的人,因为已经知道他们在哪,随时都可以找到。政府也可以查到谁在反对他们,然后更容易惩罚这些对立者。 有说服力的虚假文本和视频会淹没网络,传递的是最不可信、无价值的信息。我们必须对AI保持警惕。

 


(责任编辑:广州都市报)


免责声明:本站所有文章内容不代表本站立场,本站不对其内容的真实性、完整性、准确性给予任何担保、暗示和承诺,仅供读者参考;文章版权归原作者所有!本站作为信息内容发布平台,信息均由网友投稿发布,页面展示内容的目的在于传播更多信息;本站内容不参与任何的商业性质服务与用途,阁下应知本站所提供的内容不能做为操作依据。如本文内容影响到您的合法权益(含文章中内容、图片等),请及时联系我们,我们核实后会及时删除处理。

相关文章

当专业动画师用GAN帮自己“偷懒”,几分钟就完成了几周的工作

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。当视觉特效师与GAN强强联手,做出来的动画会不会更好看?答案是YES。这是一位视觉特效师,用海外版抖音上超火的小姐姐Bella Poarch的视频,生成的奥巴马TikTok...

来源:广州都市报

早期基准测试结果显示:A14仿生芯片比A13芯片快20%以上

【TechWeb】10月16日消息,据国外媒体报道,早期基准测试结果显示,A14仿生芯片比iPhone 11 Pro机型上的A13芯片快20%以上。北京时间10月14日凌晨1点,苹果公司发布了iPhone 12系列手机。该系列共有四款机型,它们分别是iPhone1...

来源:热点资讯播报

横穿高速被撞亡事件 行人被认定主责

原标题:壹现场丨横穿京藏高速被撞亡事件行人被认定主责2020年8月30日的一场交通事故引发大量关注,一位71岁的老人在横穿京藏高速时被躲闪不及的车辆撞倒,当场身亡。后面一辆车也因为无法及时变道,而与撞...

来源:广东新闻网

外交部回应蓬佩奥指责中国人权问题:美国自身劣迹斑斑,有什么资格?!

今天(15日)下午,外交部举行例行记者会,有记者就美国国务卿蓬佩奥近日数次指责中国宗教自由等人权问题向发言人提问。外交部发言人赵立坚表示,中国政府高度重视保护和促进人权,奉行以人民为中心的人权理念,依...

来源:广东新闻网

教育部:逐步提高中考体育测试分值

原标题:教育部:逐步提高中考体育测试分值在教育部16日举行的新闻发布会上,教育部体育卫生与艺术教育司司长王登峰表示,评价是学校体育、美育改革发展的重点和难点。针对学校体育、美育评价不硬的问题,提出把政...

来源:广东新闻网

历史首次!2020年中国电影票房成为全球第一大票仓

据灯塔(阿里影业旗下)实时数据,截至北京时间10月15日0时,2020年中国电影票房市场累计票房达129.5亿元人民币(约合19.3亿美元),这个票房成绩也让中国超越北美地区19.25亿美元的票房,首...

来源:深圳财经频道

广州花都区发现一例无症状感染者 事发地已封闭

原标题:广州花都区发现一例无症状感染者,事发地已封闭据“健康花都”消息,2020年10月15日,广州市花都区对隔离酒店工作人员进行定期检查,发现1例新冠无症状感染者。根据流行病学调查和实验室检测结果,...

来源:热点资讯播报

秋冬季疫情风险是否加大?个人如何做好防护?——中国疾控中心专家解读青岛疫情

新华社北京10月15日电 题:秋冬季疫情风险是否加大?个人如何做好防护?——中国疾控中心专家解读青岛疫情新华社“新华视点”记者陈聪10月14日,市民在青岛市市北区河西街道一检测点排队等候进行核酸检测采...

来源:深圳文化之窗

富士康欲进军电动汽车市场 目标占据市场10%份额

【TechWeb】10月16日消息,据国外媒体报道,富士康母公司鸿海精密集团董事长刘扬伟周五表示,公司希望在2025至2027年间占据电动车市场10%市场份额,并已与多家汽车制造商就未来的合作进行了谈判。富士康作为苹果的主要供应商...

来源:深圳都市爆料

一个真敢靠!一个真敢开!未赶上公交车,女子拦靠车头,奇葩的一幕发生了!

女子没赶上公交来气了斑马线上拦车倚住公交司机也怒了……启动车辆顶着女子走俩人置气的这一幕就发生在沈阳街头女子拦公交靠住车头公交顶着她走近日,一段视频在网络上成为热门,视频中一名沈阳女子在斑马线上拦住一...

来源:新闻爆料

合作联系

联系方式

中华网新媒体 财经频道
互动/投稿邮箱:
852414410@qq.com
网上不良信息举报QQ:852414410
内侵权删除处理QQ:852414410
本站涵盖的内容、图片、视频等内容均由网友自助投稿或发布,本站不对内容真实性承担责任。若涉内容及版权问题,请联系我们进行删除!