人工智能学“说人话” 网络“水军”要下岗了

第一财经   2017-09-06 07:03

“眼见为实”?这一人们辨别真伪的通用法则,可能因为人工智能(AI)的到来而失效。

例如,充斥在互联网上的人类“水军”未来可能要被人工智能取代了。芝加哥大学计算机科学教授赵燕斌团队发现,人工智能可以被用来生成复杂的点评信息。这些虚假的点评不仅机器无法检测出来,就连人类读者也分辨不出来。“我们研究的目的在于提前预测,当人工智能威胁真正来临的时候,人们不会猝不及防。”赵燕斌对第一财经记者表示。

科技与人性博弈的“黑镜”正在向人类扑面而来,人工智能可能是最锋利的双刃剑。

人工智能学“说人话” 网络“水军”要下岗了普京在公开课后与学生合影(俄新社)

就在上周末,俄罗斯总统普京在一场演讲中罕见地评论人工智能。他说,“谁主导了人工智能领域,谁就将成为世界的统治者”。“钢铁侠”埃隆·马斯克于9月4日也再次发声称,各国都在竭力争取 AI 竞争的优势,才是最有可能导致第三次世界大战的原因。

点评里隐藏的“玄机”

近期一则“人工智能已经学会自动编写虚假点评”的消息广为流传。“我喜欢这个地方。我跟我哥一起去的,我们点了素食意大利面,很好吃。啤酒不错,服务也很棒。推荐这个地方,是个吃早餐的好去处。地儿小但是买卖大”。这个如假包换由AI操刀的点评,足以骗倒很多读者。

消息源于赵燕斌等发表的一篇题为《在线点评系统中的自动众包攻击和防御》的论文。在研究中,赵燕斌团队发现,人工智能可以被用来生成复杂的点评信息——就像上面列举的这一条,几乎是没有破绽地在“讲人话”。

这篇论文今年晚些时候会在计算机安全顶级会议——ACM CCS(美国计算机协会计算机与通信安全会议)上展示。早在2014年,赵燕斌团队还发表了题为《恶意众包工作者的实际对抗性检测》的论文,分析了怎样用人工智能检测社交网络中的人类“水军”。

赵燕斌接受了第一财经记者的采访。他的实验室一直在从事和网络安全相关的课题。最新的研究历时一年左右,是过去研究的延伸。“人工智能的技术很先进,好处也显而易见,但是我们的目的是提前预测出人工智能对于社会潜在的威胁,因此当这些威胁真正来临的时候,人们不会猝不及防。”赵燕斌对第一财经记者表示。

人工智能学“说人话” 网络“水军”要下岗了Yelp被称为美国的大众点评网。网络截图

他进一步解释道,在获得了美国的“大众点评网”Yelp的公开用户评论数据后,团队就开始做实验。具体而言,是从亚马逊上雇了600位用户,让他们对真人和人工智能编写的点评进行辨别。

“结果是几乎没有人看得出来哪些是机器撰写的点评。”赵燕斌对第一财经记者说道,“更让我们吃惊的是,用户不仅分辨不出真假,而且还觉得机器撰写的这些点评对他们很有帮助。”

他对第一财经记者表示:“目前这种技术仍然相对比较新,还无法做到十分精准。比如已经在微博或者Twitter上出现的有些基于简单模板产生的评论。”

赵燕斌认为,虽然他们无从得知是否已经有一些公司试图大规模利用人工智能的编程软件撰写虚假评论,但是这无疑会成为不法分子未来的一个“必要选项”,因为人工智能相比人类水军的优势非常明显:首先,人类“水军”发送虚假评论的时间控制不了,因为“水军”一见了工作都上去抢,所以很容易在被攻击的网页上发现异常,而人工智能发送消息的时间是可以控制的。其次,雇佣人类“水军”撰写评论的成本在增长,而人工智能可以反复频繁地被使用。

让人揪心的是,反抄袭软件也对这些虚假点评无能为力,因为这些“高段位”的AI点评是逐字生成的,而不是简单地替换已有点评中的用词。如果使用反抄袭软件检测,不但很难检测出虚假点评,而且会“误伤”一大批真实的点评。

人工智能学“说人话” 网络“水军”要下岗了赵燕斌教授在芝大的主页

“社交网站已经开始利用人工智能技术发布一些虚假的消息或评论。”人工智能初创公司WorkFusion创始人、CEO扬格列维奇(Max Yankelevich)告诉第一财经记者,“这些消息只有通过人工智能的手段才能加以制止。这不仅仅需要政府的努力,更需要科技公司和整个社会的努力。”

WorkFusion是一家为企业进行人工智能研发的科技公司。扬格列维奇介绍说,Fusion平台将自动化机器生产与机器学习相结合,可以帮助用户增加业务的灵活性和生产的自动化。

好消息是,人工智能有可能识别出机器中的“水军”。赵燕斌团队研究发现,用计算机去分析字符的分布等特征,他们就会发现真假点评之间存在着细微的差异。

假点评是从真实点评里学出来的,在这个过程中,难免会有信息流失。假点评注重的是流畅、可信,但像字符分布这种平时没人关注的特征,就做得不那么好了。

“在训练过程中发生的信息遗失,会传递到生成的文本中,因此生成文本和人类文本在基本字符分布上,有着统计上可检测的差异。”赵燕斌团队在论文中写道。

当然,攻击者也可以骗过检测。换好一点的硬件,做更复杂一点的神经网络就行。但这种检测至少提高了攻击的门槛,为攻击者设置了障碍。

赵燕斌对第一财经记者表示:“这就是一种胜利,所有的安全工作都是这样,提高攻击的门槛。当然,你永远没办法阻止那种目标坚定、身手老练的攻击者。”

赵燕斌表示,之所以会做这项研究,也是希望人们能关注这类攻击途径,把它们看做真实、迫切的威胁。“像Yelp、亚马逊这类网站集纳了大量消费者言论,如果他们的工程师们还没有开始考虑如何抵御,希望他们立刻开始思考。”

对于这一研究结果,Yelp发言人扬布莱德(Rachel Youngblade)发表声明回应称:“欺骗点评系统的手段越来越复杂,我们也持续迭代这些系统,来识别假点评。”

“不是仅为了设计出能防御这类攻击的系统,还想让更多人从大众的视角,看到人工智能在带来好处的同时,也存在真实的威胁。”赵燕斌说。不过,赵燕斌强调,虽然越来越多的研究致力于防御“假新闻”,但是并不是一切问题都能够用技术的手段来解决的。“我们需要更多地和社会学科学家以及心理学家合作,寻求共同的解决方案。”赵燕斌告诉第一财经记者。

福音还是灾难?

赵燕斌还提醒道“更值得注意的是,一些攻击当然是出于商业营利的目的,但是也不排除一些组织甚至政府机构利用虚假评论当做宣传的武器,这一旦发生,会很可怕。”

他认为,人工智能技术如果被滥用,对整个社会是一个巨大的威胁,不但会让依靠点评信息的用户失望,而且会以假乱真,破坏社会秩序,这样的后果更为严重。

美国商业内幕(Business Insider)网站在近期的一篇报道中就分析了科技的发展如何让人们难以辨别新闻真伪。报道还指出,鼓励“假新闻”,将加重人们对于传统主流媒体的不信任。然而不仅仅是在新闻领域,“假新闻”对于整个社会都将带来灾难性的影响。

“假新闻”将成为恶意敲诈者的工具,比如为很多无辜者制造合成的“艳照”;它还会让电话诈骗的手段变得更加技艺精湛而难以被发现,因为人们无法得知电话另一头的声音到底是真的还是被合成的。

这些听起来像科幻片的场景,事实上已经潜伏在我们身边的某个角落。人们现在能做的,就是让自己准备好应对的方法。

好在目前大多数合成的虚假视频和声音还都停留在实验室的展示阶段,作为科研人员的研究项目的形式出现,App应用也并没有被商业化。不过这些都暗示着未来的世界已经离我们不远了。

赵燕斌给记者举例说道,在去年的CCS大会上,卡内基梅隆大学的研究人员就展示了一个场景:只要人们戴上一副经过特殊打造的眼镜,人工智能对于人脸的辨认就会失败,比如一个白人女性可以被认为是一个黑人男性。

毫无疑问,这将对公共系统安全造成很大的隐患。

事实上,随着AI和计算机图像合成技术的发展,未来任何人都可以制造以假乱真的新闻、图片或者视频、音频。专家表示,这令信息“武器化”大战一触即发。

今年7月,华盛顿大学的研究人员就曾利用人工智能AI制作了一个关于美国前总统奥巴马演讲的假视频,该视频是基于对奥巴马过去几十个小时演讲的视频分析合成的,图像和声音都能达到以假乱真的水平。

而早在去年,一家名为Face2face的公司的研究人员对美国前总统布什、普京以及美国总统特朗普的视频进行分析,并且能够把他们的脸部表情实时合成到一个人类演员的身上,达到逼真的效果。

更可怕的是,人工智能已经可以做到“基于事实的胡编乱造”,这些内容在脸书(Facebook)和其他社交网站上广泛地流传开,很少有人会质疑它们的真伪。比如在2016年美国大选期间,特朗普就曾抨击Facebook上假新闻比真新闻多,甚至部分改变了选情。上个月底,Facebook宣布开始正式出手打击假新闻:将会禁止散布假新闻的主页在其网站上投放广告。

美国政府也开始加大对研发的资助来打击“假新闻”。9月初,宾夕法尼亚州的两名教授获得了美国国家自然科学基金会(NSF)资助的30万美元资金,以开发侦测“假新闻”的数字化设备。

人工智能学“说人话” 网络“水军”要下岗了杭州某连锁餐厅推出刷脸支付。摄影/何天骄

近日,杭州的某著名连锁快餐门店率先推出了“刷脸支付”服务,支付过程无需手机,只需由3D摄像头对准顾客的面部进行扫描就能验证身份、点餐付款。

但在赵燕斌看来,这种人脸支付的方式很容易受到攻击。“对抗这种攻击,不仅仅要大数据分析,还可能要用到计算机视觉。跨学科的融合是未来研究的趋势。” 赵燕斌对第一财经记者表示。

内容推荐
更多阅读

· 勇士为什么能夺冠?原来背后一大波黑科技

· 马思纯自拍照现大堆杂碎眉毛!网友:眉毛都不会刮,该换化妆师了!

· 嫩模海边拍大片真空秀酥胸 凹造型身材火辣辣

· 金华这家23年老店,从未做过宣传,却因为一碗水饺上了头条

· 那些位置不好的餐厅,究竟是怎么火起来的?

· 薛之谦失恋后写过三张专辑,霉霉邓紫棋明道……他们都将失恋这件事变成了创作动力

· 「为人母」者,献出生命也在所不惜

· 自主轿车恐将被赶出销量前20,5月销量揭车市危机

· 关于NBA传奇控卫基德,您可能不知道的10件事

· “聚焦中国儿童”摄影展在布鲁塞尔开幕

· 《超次元海王星VS世嘉少女》评测:新款紫色摩托促销

· 《财经》独家|安邦集团掌门人吴小晖被带走

· 西安这14家老字号企业,曾让老西安傲娇全国!

· 挑下巴、摸耳朵,周冬雨和张一山这对CP是要上天吗?!

· 杀死后顾之忧,军人前行之路更坚定

· 梅雨时节,千万别让宝宝沾上这些!

· 老人被儿子赶出家门,拾荒路边救一小孩,从此祸去福来

· 你的生活,是你想出来的

· “防腐涂料老司机” 飞鹿股份登陆创业板

· 军营里,这10句话是否让你泪流满面?

· 传奇归来!FIFA18公布最新传奇球员名单

· 头胎男孩,二胎又生下男孩,意料之外的糟心事根本停不下来!

· 妈妈生命还余九十天,女儿求菩萨帮忙,菩萨答应延命十年

· 卡在试用期上的官员们

· 深圳人海外就医增多,但请谨防这些就医“陷阱”

· 总决赛刚失利,骑士队老板已着手续约功臣为休赛期引强援做准备

· 前火箭主帅:勇士核心都不满30岁,有望再打8-10次总决赛

· 170613 谁能告诉我 为什么他这么好看

· 《绝地求生大逃杀》双排技巧汇总 送过奋战在快递行业一线的同志!

· 宝贝说:“妈妈,如果天天这样吃早餐,我保证回回都考第一名!”

· 生男宝宝的8大征兆,对上5个概率超九成!

· 广东人口味不是清淡吗?怎么蔬菜档这么多辣椒?

· 百度教育打造「看、听、说、想」能力,使个人获得专属学习路径

· 小型+旗舰 现代2020年前推出2款全新SUV

· 菲军机采购案鲜有人问津 仅一家公司携“老爷机”合标

· 欧洲这个国家的年青人大麻消费排名第二

· 王者荣耀最容易犯的几个错误,无论新老手学了胜率提高2%

· 二愣子被人卖了还出钱帮人娶媳妇,老财主被气死葬在路边,活该

· 赣州市首次通报3起对巡察整改责任落实不力问题

· 不会做,赶快滚!蔡正元可能说出了台湾民众最想对蔡英文说的话

· 多达6部作品!郑爽真是承包自行车后座的女王!最后一张车主亮瞎

· 广西特别的三个地级市,下辖了最少的县级单位,同属一个经济带

· 恐怖鬼故事|头七回魂夜

· 灵异故事:乡村怪事多,网友口述的真实乡村灵异事件

· 在互联网大潮中的新选择,滴滴带给他们的不仅仅是一份工作

· 哈尔滨,一处胡同深处俄式民居建筑

· 6月13日转会消息:米兰官宣第四签,尤文想免签伊涅斯塔!

· 特朗普将宣布对古巴新政策 或收紧经贸政策但不至再“断交”

· 《花少3》中陈柏霖有偶像包袱?面对24小时拍摄他说了实话丨专访

· 浦发银行董秘穆矢辞职

· 韩副总理将会晤印度财长 磋商多领域合作方案

· 东盟资讯|亚投行将为马尼拉防洪项目提供1.5亿美元融资

· 菜鸟摄影:高高的鼻梁,美丽的外表,好似花儿一样

· KPL常规赛上单英雄盘点 老夫子化身偷塔梦魇

· 上海共享单车再增长:数量突破100万,超1300万人注册

· 韩国一大学研究室收到炸弹包裹:一教授受伤 特攻队出动

· 奥迪RS6 Avant市场"供不应求" 年底国内将停售

· 共享单车回收难 回收企业谋划转型升级

· CNBC:中国山寨形象快速褪去,美科技巨头应开始担忧

· 三国刘备曹操为何都说周瑜会割据荆州自立?

· 老爹显灵,救他一命,20年后又救孙子,他才知实情

· 环康集团(08169)中期业绩扭亏为盈至129.8万港元

· “熬”出来的成都SaaS创业者:在风口前坚持,在风口中专注

· 《深夜食堂》收视口碑双扑街,酸菜面却成了最大赢家!

· 陈冠希做爸爸 阿娇避谈旧爱

· 本田造飞机没它不行?看车坛隐形巨鳄供应商

· 格林谈裁判:最有侵略性的球队哨子更多

· 她出身低微,却母以子贵,成为清朝皇贵妃入葬帝陵者第一人

· 冠军定装照来啦!

· 男子冒充有钱老板以跳舞为幌子专骗广场舞大妈

· 台湾舆论和专家:巴拿马“断交”是民进党当局重大挫折 要负责要反思

· 空姐刚提醒完勿碰逃生滑梯,这位乘客就碰了……手欠后或面临10万元索赔!

· 德雷蒙德-格林:非常尊敬骑士队

· 苏联对待日本战俘,女的生不如死,男的却过得非常幸福

· 何不变身口红控!

· 夏季男士脱毛需注意两点

· 服气!为了两米八的大长腿,居然连上厕所这么着急的事都能忍啊!

· 名将狄青的不归路,也是大宋覆灭的道路

· 唐玄宗时期一算卦大师,一朋友死去想复活,他直接给玉皇大帝上符

· 影后于佩尔带着“情人”来京,影迷签名合影有求必应

· 想跑滴滴拉活,十几万皮实耐造的该买什么车?能回本吗?

· 官方:马竞同格列兹曼续约至2022年

· 鹏华安盈宝晋升“平安盈”爆款

· 日本调查:世界科技领域进入中美两强时代

· 揭秘:周恩来坠马手臂摔骨折与江青有没有关系

· 吃货们都在说的长春川菜老馆子!

· 戒海洛因得难受多久?

· 海通策略:港股——以慢为快

· 李克强:紧扣重点不断深化“放管服”改革 坚持不懈推动政府职能转变

· 增主动安全配置 美规新款飞度官图发布

· 国内直升机,你见过几款!

· 美国最好的十座大学城,说说你最想去哪里?

· 3个方法让你走不到肾衰竭!再不做就晚了!

· 美克国际家居用品股份有限公司公告

· 曾有村霸自称“万岁” 中央最高规格整治“村霸”

· 东航托运金毛犬死亡 狗主人:航空公司提按每公斤100元赔

· 【五问总决赛】勇士拥抱伟大 他们是历史最佳了吗?

· 鸿海联合苹果戴尔金士顿 竞购东芝芯片业务

· 伦敦时装周新宠,一个圆脸短发,笑起来露牙的7岁中国girl!

· “多年多次”签证的秘密,原来好处这么多呢!

· 半夜扔钱(民间故事)

· 故事:寡妇大雪天奔河坝,青梅竹马也不能这样做啊,村民怒火中烧

· 十大最美海洋生物,你觉得哪个最艳丽?

· AC米兰欲5年内收入翻番 将在多方面做文章

· 财通资管积极收益债券型发起式证券投资基金暂停大额申购业务公告

· 20多万别再纠结汉兰达了……这几款7座车颜值、空间、档次都有!

· 通力电子(01249)附属车间发生火警意外 无人员伤亡 6月13日复牌

· 《三国演义》各大人物谁的武艺是最厉害的

· 坐月子的饮食禁忌

· 人家宝一觉到天亮,我家宝吹口气就醒!家有睡渣是种怎样的体验

· 外交部长王毅为这件事喝起了香槟!

· 活久见!竟然被《上古情歌》里的黄教主给苏到了!

· 巴西4-0澳大利亚,索萨12秒闪电破门,保利尼奥脚后跟助攻

· 海通证券股份有限公司为境外全资附属公司债务融资提供连带责任保证担保的公告

· 王者荣耀下版本内容提前知:无限召唤模式上线,六彩BUFF降临

· 中山,西岗,沙河口,甘井子,旅顺口,金州,普兰店人都要看!

· 老婆下班不回家,原来是去了兰州这家火锅店!

· 被说黄脸婆?3招赶走孕期黑色素,月子里迅速恢复白嫩美!

· 北京气温大变脸 巨大温差让市民遭遇“冰火两重天”

· 环保产业谋创新 落子各有侧重

· 韩国研发纳米级3D打印技术,将用于可穿戴设备

· 全新AMG G63内饰曝光 E级设计元素/或2019年发布

· 4股创历史新高 29亿主力资金潜入有色金属业

· 电竞真人秀《英雄heroes》嘉宾阵容揭晓 周杰伦陈赫baby贾玲组豪华战队

· 团战有这几个英雄 基本上已经赢了 输出比ADC还高!不服来辩!

· 王老实买酒(民间故事)

· 痛定思痛 风去因缘

· 风景美图:秦始皇陵景区美图

· 云南白药:国内医药消费龙头,24 年间市值从 8 亿到近 900 亿

· 风云突变!巴拿马退出台湾“朋友圈”!两岸反应大有不同!

· 砍价能力可以说是独步全球,中国购买苏-35已经接近“跳楼价”

· 特朗普接见NCAA冠军球队 获赠球衣心里乐开了花

· 此庙已有千年历史,梁上却无灰,动物都是敬而远之,专家不知何故

· 高铁新时代,宝兰铁路立新功,新疆动车24小时达上海广州

· 盘点丨全球汽车零部件四强自动驾驶布局之电装

· 夏日美白,魔法森林童颜之花系列评测

· “学霸合唱团”的将军,妻子也是位将军

· Facebook计划在旧金山开设第一家办事处

· 质量稳定,油耗低是重点,瑞风S2首批车主谈用车经验

· 廷玉说军史丨这些抗日战争时期的奖章、纪念章你都认识吗?且听我一一道来

· 广西第一艘本土豪华邮轮8月由防城港首航越南

· 孕妇快临盆却被房东赶出门!真的不能在租房生孩子?

· 怎样在 App Store 上月入 8 万美金?

· P2P平台整改或延期备案前 风投更青睐大平台

· 军媒:海军电磁发射工程专业今年首次招生,这意味着什么

· 孤独是一门美学,他这样用照片来表达

· 菲军原想在独立日前收复马拉维市 杜特尔特坦言没想到会如此严重

· 绝地求生大逃杀怎么买怎么玩 购买安装教程一览

· 河南省景区整治又出重拳 郑州世纪欢乐园等7家4A级旅游景区被处理

· 我喜欢阿衰这个人物,他好像就在我身边,我仿佛看到他在生活中的样子

· 为得到更真实的拍摄效果,摄影师在15年里与多个男人一起生活

· 阿克苏诺贝尔最大股东易主 将使用更多可再生能源降低成本

· 银行家回乡养羊,巨亏后靠农民这招赚了六百万

· 你给别人看多久的朋友圈?

· 中国大飞机面临重大挑战,但拥有一底气可打破垄断让西方心烦意乱

· 今日不容错过的新闻一瞬间

· 上这本杂志封面的男星要么露胳膊要么露肉,只有杨洋恨不得裹得紧紧的

· 英拉带着儿子惊现泰国街头,为庆祝泼水节,与路人亲切合影

· Houseparty 的模式核心?现在视频认为是看似不起眼的“通知”功能

· 炉石传说:盘点炉石十大最爽瞬间

· 我的世界末影人怎么打 末影人驯服教程

· 谁都不服的我,竟然被兰州这家开锅羊肉的汤深深折服了!

· 这5种接地气的 “人参”,你可千万别错过!

· 细数年龄相差最大的9对夫妻,差距最大54岁一时间舆论哗然

· 惊艳世界的十个瞬间,世界如此美好

· 云南15人盗窃数十头大牲畜被公审 一人曾于指认现场逃脱

· 《海角七号》已九年了,魏德圣用这部电影重新出发

· Adobe 出品扫描应用,纸质文件秒变 PDF

· 越秀金控:国有股权无偿划转获国资委批复

· C罗涉嫌逃税遭正式起诉,4次逃税金额达1470万欧

· 北境之地,算是RTS游戏爱好者最值得玩的了吧!

· 诸葛亮的《马前课》,预言千年来的朝代变迁,真准!

· 科尔:KD的表现又提升了一个等级

· 为什么早有杀心的ISIS这么多年后才成功袭击伊朗?

· 买28元菜,照样能做出美味的三菜一汤,一家三口人吃得有滋有味

· 在初夏长沙大河西的宵夜江湖里,我只服这一家

· 实拍2017款 起亚KX3,上市立马降2万 销量难得一见

· 东海龙宫传来最新消息:年度分手大戏正上演,猪八戒和小龙女闹分手是为哪般?

· 取钱时接了个紧急电话,回头才发现2万块钱没了

· 果断收藏!深圳下半年中外艺术精品演出全在这儿

· 骑士老板:我们可以和勇士抗衡,这个结局能接受

· 澳警察月可支配收入不足400澳元 被迫打两份工补贴家用

· 吴昕换上短发变成赫本了 但最美赫本妆只想颁给刘亦菲

· 榕商家抢着回收茅台五粮液 多数商场和超市没有现货

· 故事:娘亲给坐月子的我送了一筐鸡蛋,婆婆与丈夫却说我们刚从她的葬礼上回来

· 故事:待狗如命,遭惹杀身大祸不惧邪,康熙赐封犬王

· 阳曲汇民村镇银行发放借名贷款4700万 遭银监局罚款20万

· “女神”一句“离婚和你在一起” 小伙一年汇款118笔55万

· 福建:大数据助武夷茶农获信用贷款

· 超音速空空导弹匹配国产芯歼20,美媒感叹中国空中军备优势正在形成

· 俄罗斯反对派在独立日举行抗议活动 近千人被捕

· 医生预估胎儿五斤,生产后老公坚持找医生讨要说法

· 试驾新雷凌185T:小排量自然吸气车型快要“下岗了”

· 18岁宋祖儿拍杂志,网友吐槽:这个嘴巴受不了 她是不是招黑体质呢?

· 新车到手,把这纸条退给4S店,一下省出好几千

· 109国道边这个“北京最小的城”,景色自然原始,颇有几分绿野仙踪的味道!

· 「抗日烽火」神奇的地道战(五)

· 世界上最养生的方法其实是不要钱的

· 罗多尔弗转会弗拉门戈

· 挑战完成,静待上映

精彩图片