请选择 进入手机版 | 继续访问电脑版
搜索
房产
装修
汽车
婚嫁
健康
理财
旅游
美食
跳蚤
二手房
租房
招聘
二手车
教育
茶座
我要买房
买东西
装修家居
交友
职场
生活
网购
亲子
情感
龙城车友
找美食
谈婚论嫁
美女
兴趣
八卦
宠物
手机

人工智能还是人工智障?——大型算法翻车现场

[复制链接]
查看: 98|回复: 0

2万

主题

3万

帖子

7万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
79473
发表于 2020-1-14 19:35 | 显示全部楼层 |阅读模式
人工智能还是人工智障?——大型算法翻车现场  游戏 20180820083250783-2011194759
  你相信算法吗?
  不管你的答案是什么,我们的保存已经被算法完全改变了——我们聊微信、刷抖音、逛淘宝的背后都是无数个算法在支持,算法从起头简单的 If、then、else 法则酿成了越来越复杂以致于连步伐员也不清楚内部运作法则的深度神经收集,它在变得复杂的同时也在完全的变革每一个财富,人们离不开算法,媒体喜好算法,在一个个故事的衬着下,算法似乎变得无所事事,卫夕本日先带大家一路看一些算法让人蔚为大观的案例——
  1.
  近年来美国马里兰州等地出现一种新型的毒品犯罪:在豪宅里关起门来,利用 LED 灯种大麻。
人工智能还是人工智障?——大型算法翻车现场  游戏

  在美帝,没有证据底子不大要破门检查,警察很是头疼,但是在 2010 年一个警察局经过电力公司搞到了当地智能电表的数据,经过对用电量和用电形式的算法分析,他们乐成地判定并抓到了一批毒贩!
  2.
  2017 年,硅谷的一位工程师想去 Reddit 工作,他思绪清奇——首先写了一篇水平很高的、关于怎样改良 Reddit 举荐算法的文章,接着他通 Reddit 网站 CEO 霍夫曼在 Facebook 公然账号、根究到一些怪异的广告定向,比如霍夫曼的性别、年龄、居住地、关注了哪些主页等等,然后他经过 Facebook 的广告系统、利用这些定向算法把自己写的文章投放给了 197 小我,居然就精准命中了霍夫曼,而此次推行仅仅花了他 10.6 美圆,末端他的文章被霍夫曼认可,而他也被乐成及第。
  3.
  2012 年 7 月,一位愤慨的爸爸走进了美国零售巨头塔吉特的弗吉尼亚分店,要求见司理,原因原由是他还在上高中的女儿收到了塔吉特寄送给她女儿的婴儿床和婴儿衣服的优惠券——“你们这是什么意义?我的女儿只要 16 岁,你们是在激励她怀孕吗?
  塔吉特的司理慌忙道歉表现大如果他们的工作失误,但是 2 个月后,这位父亲打电话过来为自己之前的行为表现抱歉——她女儿简直怀孕了,本来,塔吉特计划的一套特别的算法系统,它会按照零售用户的采办历史来判定一个女生能否处于孕育期,这个算法是如此正确,以致于它居然比孩子的父亲更早地晓得女孩能否怀孕。
  简直,这三个故事只是算法利用的冰山一角,现在,算法可以识别我们的声音和图像,算法似乎在变得无所事事。
  但是,算法真的有那末精彩吗,在算法给我们带来便当的同时我们能否真的认真思考过算法带来的弊端,我们能否真的思考过怎样面临算法给大要给我们带来的灾难。
  本日的算法实在还远没有到完竣的地步,很多被称之为野生智能的工具某种意义上只能算野生智障,卫夕带大家看几个大型算法翻车现场——
  一、翻车的超级盘算机
  2017 年 3 月 19 日,香港地产富翁李建勤(Li Kin-Kan)在迪拜饭馆的午饭中第一次碰见到了意大利金融家科斯塔(Raffaele Costa ),科斯塔向李描摹了一个呆板人对冲基金,他的基金由奥天时的 AI 公司 42.CX 斥地的一款名为 K1 的超级盘算机治理,K1 经过抓取实时消息和交际媒体的数据,以深度进修算法评价投资者的豪情并猜测美国股票期货,然后发送指令举行买卖营业。
人工智能还是人工智障?——大型算法翻车现场  游戏 34358-20200114164749260-1700602565

香港地产富翁李建勤(Li Kin-Kan)

  李看到以后很是感爱好,在接下来的几个月中,Costa 与 Li 同享了 K1 的模拟成果,数据表白 K1 获得了横跨两位数的回报,李很兴奋,把自己的 25 亿美圆的资产交给了 K1 来打理,预备在金融市场中大赚一笔。
  但是现实是残暴的,超级盘算机 K1 并没有给李带来丰富的回报,相反到 2018 年 2 月,它经常吃亏,以致一天偶然候就吃亏横跨 2000 万美圆,李建勤终究明白算法在金融市场是不起感化的,他一怒之下将科斯塔告上了法庭,宣称他夸大了超级盘算机的感化。
  二、失控的亚马逊智能助手
  2017 年 7 月 5 日,德国汉堡一位叫奥利弗的平常居民在朋友家住了一个早晨,他不晓得的是,在他分开的那个早晨,家里的亚马逊智能音箱 Alexa 忽然起头在破晓1:50 以最高的音量起头播放摇滚乐,熟睡的邻人被震天的音箱吵醒,无法的邻人们趾Λ只能挑选报警。
  警察到达现场挑选撬开门锁破门而入,才发现罪魁罪魁只是一个小小的智能音箱,他们拔下了 Alexa 的插头,然后给奥利弗安装了新的锁,而在朋友家过了一夜的奥利弗对此事变一无所知,再次回抵家时,一头雾水的奥利弗只能跑一趟警局而且支出了一笔并未便宜的换锁账单。
  不够为奇,2017 年 1 月,加利福尼亚州的 CW6 电视频道报道了一个 Amazon Echo 扬声器的弊端,说的是 Alexa 识别不了家里的成员,因而一位加州 5 岁的小女孩就用智能音箱给自己买了横跨 300 美圆的饼干,当他们怙恃收到货的时候都傻眼了,而让人啼笑皆非的是,主持人播这条消息的时候为了演示说了一句:“Alexa,给我订购一个玩具屋”,成果圣地亚哥多人报告说,他们的音箱收到了电视的语音真的下单采办了玩具屋,亚马逊后来不能不为此道歉。
人工智能还是人工智障?——大型算法翻车现场  游戏 34358-20200114164749317-1801434456

  三、 变坏的微软呆板人
  2016 年 3 月,微软在 Twitter 上斥地了一个名为 Tay 的 AI 聊天呆板人,该呆板人是经过挖掘网民对话而构建的,Tay 的第一句话是“ hellooooooo world !!!”,起初它善解人意、活泼心爱,和 Twitter 上的网民聊得很是高兴。
  但是,在短短的 12 小时以后,Tay 从一位友爱的呆板人酿成了一个满嘴脏话、布满种族主义并说出“女权主义者都应活该在天堂里烧死”恶魔呆板人,这让斥地它的微软履历了场公关噩梦,微软被迫灵敏将 Tay 封闭,而这离它上线还没有横跨 24 小时;
人工智能还是人工智障?——大型算法翻车现场  游戏 34358-20200114164749260-369612455

  Tay 是野生智能映照人类偏见的一个缩影,现在的野生智能算法最本质的法则就是它必要有大量的数据对其举行练习——假如练习的数据自己就带着偏见、毛病以及极端的脑筋,练习的成果就会偏离一般的成果........
  四、危险的沃森癌症呆板人
  2013 年,IBM 与德克萨斯大学 MD 安德森癌症中心互助斥地“Watson for Oncology”,即沃森的癌症呆板人,它的方针是识别并治愈癌症,IBM 在消息稿中宣称“沃森癌症呆板人的使命是让临床医生可以大要从癌症中心丰富的患者和研讨数据库中发现宝贵的看法 ”,但是末端的成果怎样样呢?
人工智能还是人工智障?——大型算法翻车现场  游戏 34358-20200114164749288-77107930

  消息机构 StatNews 在 2018 年 7 月查阅了 IBM 的内部文件,发现 IBM 的 Watson 偶然候会给医生提出错误的、以致是危险的癌症治疗倡议,其中包含 Watson 倡议医生给有严厉出血症状的癌症患者利用会加重出血的药物........
  因而 2017 年 2 月,在花费了 6200 万美圆以后,德克萨斯大学公布禁止和 IBM 互助的这个项目,算法偶然候对医疗行业而言并不管用。
  五、布满藐视的再犯罪算法
  在美国,罪犯在出狱之前会举行一个再犯罪的评价,用于判定能否合适出狱已经出狱后能否必要采取必要监视步伐。
  那末怎样评价一个罪犯的再犯罪几率呢?答案是——算法!美国司法系统采取了一家名为 Northpointe 的公司推出的风险评价产物,Northpointe 的焦点产物是按照 137 个题目标答案经过特定的算法得出的一组分数,这些题目一些是和罪犯自己关连的间接小我信息,比如之前犯罪的典范、日期、频次、诞生年月、性别等等,有一些则是提问由罪犯本人回答,比如“您的怙恃大要兄弟姐妹中有一个已经被送进牢狱或牢狱吗?”、“您有几多朋友碰过大麻?”、“你能否赞成饥饿的人有权盗窃?”之类的题目。
  值得留意的是,在这些题目中种族不是题目之一,即全数的这些题目都不会说起罪犯的种族。
人工智能还是人工智障?——大型算法翻车现场  游戏 34358-20200114164749291-908168035

  但是近年有学者发现,该算法给黑人带来的高再犯风险评分是白人的两倍,在洛杉矶市,一位稍微犯罪的黑人妇女被标志为“高风险”,而一位曾两次武装抢劫的白人被标志为“低风险”,而成果也证实那位妇女并没有犯罪,但那名良人则继续举行盗窃,这一风险评价产物现在在美国引发了黑人团体普遍的质疑。
  六、五花八门的野生智障
  究竟上,算法酿成的啼笑皆非以致危险的故事普遍存在,最少在现阶段,在很多范围,野生智能在某些时候只能称之为野生智障——
  美国 911 今后反恐成为国家平安的重点,美国平安部分会按照姓名、诞生地、宗教信仰、人脸识别算法、历史行为数据——例如全数参观数据等等,会对每一位航空旅客是可怕份子的猜疑度举行打分,而经常出现一些无辜的人由于疑似可怕份子,而经常在机场被羁留检查,屡次错过飞机,这样的事变每年会横跨 500 起。
  谷歌的安卓系统会自带一个 App——Photos,这个加入了野生智能算法的利用能自动识他人脸、物品等,功用很是强大,但是 2015 年 6 月,一位网民在 Twitter 上发帖称:“谷歌,我的女朋友不是大猩猩”,本来,谷歌 Photos 将他女朋友的照片识别成了大猩猩。
人工智能还是人工智障?——大型算法翻车现场  游戏 34358-20200114164749305-1053265742

  Facebook 具有一项称为“回想”的功用,可以向用户突出表现前几年在此日期发生的事变,想起使人难忘的回想,但 Facebook 照旧低估了一些极端情况,例如它会在家人死亡的周年怀念日表现家人的照片,大要它大要会要求自己向已经归天的朋友说生日欢畅。
人工智能还是人工智障?——大型算法翻车现场  游戏 34358-20200114164749307-847405415

  2011 年,一本有关苍蝇的生物学教科书在亚马逊上的定价为 2300 万美圆。后来发现原因原由是两个卖家,他们设备了算法来观察相互的价格,然后重置自己的价格。
  2012 年,《华尔街日报》报道了办公用品公司史泰博的算法藐饰扌为,史泰博先判定用户地址的位置四周有没有卖很多卖办公用品的实体店,假如 20 千米之内没有,则判定用户大要率只能在网上买,因而它的网上商城就会给这些顾客表现一个很高的价格,在这个场景里,它针对的不是一小我,而是这个地域里的一群人,即使四周的人相互交换也看不出来。
  中国很多城市的智能交通摄像头装备了野生智能算法,用来检测和识别在红灯时乱穿马路者,但是近来宁波的摄像头意外曝光了格力总裁董明珠乱穿马路的照片,本来摄像头将董明珠在公交车广告上的头像识别成了行人。
人工智能还是人工智障?——大型算法翻车现场  游戏 34358-20200114164749303-1809578256

  2018 年 3 月 20 日破晓,Uber 公司在美国坦佩市举行自动驾驶门路测试时,撞到一位叫伊莱恩的 49 岁中年女子,致后者就地死亡,那时,伊莱恩正走在人行横道,汽车在发生撞击前 5.6 秒钟将其毛病辨以为汽车,撞击前 5.2 秒时又将其辨以为其他物体,此后系统发生了混乱,在“汽车”和“其他”之间摇摆不定,浪费了大量的时候,是以车辆没有实时刹车,酿成悲剧。
  好,看到了如此多“野生智能”变“野生智障”的车祸现场,我们必要思考的是——这些匪夷所思的题目是怎样发生的?看过卫夕长文的朋友城市很熟悉,卫夕凡是更感爱好的是背后那个加倍深条理的底层逻辑,接下来我们就一路看一看算法故障背后的原因原由,我把它总结为三类——
  1. 算法自己大要算法背后的人发生技术毛病——只如果人写的算法,就必定有出错的几率,比如德国居民那个破晓发飙的智能音箱、失控的 Uber 自动驾驶汽车就是步伐上的 Bug 致使的,这一类我们克服的法子实在相对简单。但对于另一种报酬算计消耗者的算法偶然候大要我们就力所不及了,比如上边的办公用品网站史泰博的价格藐视;滴滴已经也被公众赞扬“同一段间隔差此外人打车价格不同等”的“大数据杀熟”现象,不管实在与否,这类题目常常很难识别,是以也加大了监管的难度。
  2. 算法对于人性部分的疏忽——你大要听过这个段子:一个美女经过一个最今世的野生智能装备找男朋友,输入条件是:

  • 要帅;
  • 有车,野生智能给出的成果是象棋;
  这尽管是一个段子,但从某种意义上也分析白现在的野生智能离真正明白人类的豪情和行为仍然有庞大的鸿沟,Facebook 提醒你给归天的亲人发生日祝愿背后本质的原因原由在于 AI 没法真正明白死亡对于人类意味着什么。
  3. 算法练习数据自己的偏见——现在野生智能的底子逻辑是先构建一个合适的呆板进修模子,然后用大量的数据去练习模子,然后用练习好的模子再来猜测新的数据,这里边有一个很是垂危条件就是输入数据的垂危性,比如上边再犯罪率的猜测之所以发生题目就是由于输入的数据中自己就存在偏见,假如现实全国数据自己就存在偏见,那末猜测成果也必定会有偏见。
  总结一下,野生智能的大趋向一定会继续成长,但我们也必要苏醒地意想到它现阶段的范围性和题目,不要夸大和衬着它的奇同性,怎样从系统的角度治理算法带来的这些匪夷所思的题目,接待在留言区颁发你的看法!

免责声明:假如加害了您的权益,请联系站长,我们会实时删除侵权内容,感谢合作!

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright © 2006-2014 妈妈网-中国妈妈第一,是怀孕、育儿、健康等知识交流传播首选平台 版权所有 法律顾问:高律师 客服电话:0791-88289918
技术支持:迪恩网络科技公司  Powered by Discuz! X3.2
快速回复 返回顶部 返回列表