人工智能学“说人话” 网络“水军”要下岗了

第一财经   2017-09-06 07:03

“眼见为实”?这一人们辨别真伪的通用法则,可能因为人工智能(AI)的到来而失效。

例如,充斥在互联网上的人类“水军”未来可能要被人工智能取代了。芝加哥大学计算机科学教授赵燕斌团队发现,人工智能可以被用来生成复杂的点评信息。这些虚假的点评不仅机器无法检测出来,就连人类读者也分辨不出来。“我们研究的目的在于提前预测,当人工智能威胁真正来临的时候,人们不会猝不及防。”赵燕斌对第一财经记者表示。

科技与人性博弈的“黑镜”正在向人类扑面而来,人工智能可能是最锋利的双刃剑。

人工智能学“说人话” 网络“水军”要下岗了普京在公开课后与学生合影(俄新社)

就在上周末,俄罗斯总统普京在一场演讲中罕见地评论人工智能。他说,“谁主导了人工智能领域,谁就将成为世界的统治者”。“钢铁侠”埃隆·马斯克于9月4日也再次发声称,各国都在竭力争取 AI 竞争的优势,才是最有可能导致第三次世界大战的原因。

点评里隐藏的“玄机”

近期一则“人工智能已经学会自动编写虚假点评”的消息广为流传。“我喜欢这个地方。我跟我哥一起去的,我们点了素食意大利面,很好吃。啤酒不错,服务也很棒。推荐这个地方,是个吃早餐的好去处。地儿小但是买卖大”。这个如假包换由AI操刀的点评,足以骗倒很多读者。

消息源于赵燕斌等发表的一篇题为《在线点评系统中的自动众包攻击和防御》的论文。在研究中,赵燕斌团队发现,人工智能可以被用来生成复杂的点评信息——就像上面列举的这一条,几乎是没有破绽地在“讲人话”。

这篇论文今年晚些时候会在计算机安全顶级会议——ACM CCS(美国计算机协会计算机与通信安全会议)上展示。早在2014年,赵燕斌团队还发表了题为《恶意众包工作者的实际对抗性检测》的论文,分析了怎样用人工智能检测社交网络中的人类“水军”。

赵燕斌接受了第一财经记者的采访。他的实验室一直在从事和网络安全相关的课题。最新的研究历时一年左右,是过去研究的延伸。“人工智能的技术很先进,好处也显而易见,但是我们的目的是提前预测出人工智能对于社会潜在的威胁,因此当这些威胁真正来临的时候,人们不会猝不及防。”赵燕斌对第一财经记者表示。

人工智能学“说人话” 网络“水军”要下岗了Yelp被称为美国的大众点评网。网络截图

他进一步解释道,在获得了美国的“大众点评网”Yelp的公开用户评论数据后,团队就开始做实验。具体而言,是从亚马逊上雇了600位用户,让他们对真人和人工智能编写的点评进行辨别。

“结果是几乎没有人看得出来哪些是机器撰写的点评。”赵燕斌对第一财经记者说道,“更让我们吃惊的是,用户不仅分辨不出真假,而且还觉得机器撰写的这些点评对他们很有帮助。”

他对第一财经记者表示:“目前这种技术仍然相对比较新,还无法做到十分精准。比如已经在微博或者Twitter上出现的有些基于简单模板产生的评论。”

赵燕斌认为,虽然他们无从得知是否已经有一些公司试图大规模利用人工智能的编程软件撰写虚假评论,但是这无疑会成为不法分子未来的一个“必要选项”,因为人工智能相比人类水军的优势非常明显:首先,人类“水军”发送虚假评论的时间控制不了,因为“水军”一见了工作都上去抢,所以很容易在被攻击的网页上发现异常,而人工智能发送消息的时间是可以控制的。其次,雇佣人类“水军”撰写评论的成本在增长,而人工智能可以反复频繁地被使用。

让人揪心的是,反抄袭软件也对这些虚假点评无能为力,因为这些“高段位”的AI点评是逐字生成的,而不是简单地替换已有点评中的用词。如果使用反抄袭软件检测,不但很难检测出虚假点评,而且会“误伤”一大批真实的点评。

人工智能学“说人话” 网络“水军”要下岗了赵燕斌教授在芝大的主页

“社交网站已经开始利用人工智能技术发布一些虚假的消息或评论。”人工智能初创公司WorkFusion创始人、CEO扬格列维奇(Max Yankelevich)告诉第一财经记者,“这些消息只有通过人工智能的手段才能加以制止。这不仅仅需要政府的努力,更需要科技公司和整个社会的努力。”

WorkFusion是一家为企业进行人工智能研发的科技公司。扬格列维奇介绍说,Fusion平台将自动化机器生产与机器学习相结合,可以帮助用户增加业务的灵活性和生产的自动化。

好消息是,人工智能有可能识别出机器中的“水军”。赵燕斌团队研究发现,用计算机去分析字符的分布等特征,他们就会发现真假点评之间存在着细微的差异。

假点评是从真实点评里学出来的,在这个过程中,难免会有信息流失。假点评注重的是流畅、可信,但像字符分布这种平时没人关注的特征,就做得不那么好了。

“在训练过程中发生的信息遗失,会传递到生成的文本中,因此生成文本和人类文本在基本字符分布上,有着统计上可检测的差异。”赵燕斌团队在论文中写道。

当然,攻击者也可以骗过检测。换好一点的硬件,做更复杂一点的神经网络就行。但这种检测至少提高了攻击的门槛,为攻击者设置了障碍。

赵燕斌对第一财经记者表示:“这就是一种胜利,所有的安全工作都是这样,提高攻击的门槛。当然,你永远没办法阻止那种目标坚定、身手老练的攻击者。”

赵燕斌表示,之所以会做这项研究,也是希望人们能关注这类攻击途径,把它们看做真实、迫切的威胁。“像Yelp、亚马逊这类网站集纳了大量消费者言论,如果他们的工程师们还没有开始考虑如何抵御,希望他们立刻开始思考。”

对于这一研究结果,Yelp发言人扬布莱德(Rachel Youngblade)发表声明回应称:“欺骗点评系统的手段越来越复杂,我们也持续迭代这些系统,来识别假点评。”

“不是仅为了设计出能防御这类攻击的系统,还想让更多人从大众的视角,看到人工智能在带来好处的同时,也存在真实的威胁。”赵燕斌说。不过,赵燕斌强调,虽然越来越多的研究致力于防御“假新闻”,但是并不是一切问题都能够用技术的手段来解决的。“我们需要更多地和社会学科学家以及心理学家合作,寻求共同的解决方案。”赵燕斌告诉第一财经记者。

福音还是灾难?

赵燕斌还提醒道“更值得注意的是,一些攻击当然是出于商业营利的目的,但是也不排除一些组织甚至政府机构利用虚假评论当做宣传的武器,这一旦发生,会很可怕。”

他认为,人工智能技术如果被滥用,对整个社会是一个巨大的威胁,不但会让依靠点评信息的用户失望,而且会以假乱真,破坏社会秩序,这样的后果更为严重。

美国商业内幕(Business Insider)网站在近期的一篇报道中就分析了科技的发展如何让人们难以辨别新闻真伪。报道还指出,鼓励“假新闻”,将加重人们对于传统主流媒体的不信任。然而不仅仅是在新闻领域,“假新闻”对于整个社会都将带来灾难性的影响。

“假新闻”将成为恶意敲诈者的工具,比如为很多无辜者制造合成的“艳照”;它还会让电话诈骗的手段变得更加技艺精湛而难以被发现,因为人们无法得知电话另一头的声音到底是真的还是被合成的。

这些听起来像科幻片的场景,事实上已经潜伏在我们身边的某个角落。人们现在能做的,就是让自己准备好应对的方法。

好在目前大多数合成的虚假视频和声音还都停留在实验室的展示阶段,作为科研人员的研究项目的形式出现,App应用也并没有被商业化。不过这些都暗示着未来的世界已经离我们不远了。

赵燕斌给记者举例说道,在去年的CCS大会上,卡内基梅隆大学的研究人员就展示了一个场景:只要人们戴上一副经过特殊打造的眼镜,人工智能对于人脸的辨认就会失败,比如一个白人女性可以被认为是一个黑人男性。

毫无疑问,这将对公共系统安全造成很大的隐患。

事实上,随着AI和计算机图像合成技术的发展,未来任何人都可以制造以假乱真的新闻、图片或者视频、音频。专家表示,这令信息“武器化”大战一触即发。

今年7月,华盛顿大学的研究人员就曾利用人工智能AI制作了一个关于美国前总统奥巴马演讲的假视频,该视频是基于对奥巴马过去几十个小时演讲的视频分析合成的,图像和声音都能达到以假乱真的水平。

而早在去年,一家名为Face2face的公司的研究人员对美国前总统布什、普京以及美国总统特朗普的视频进行分析,并且能够把他们的脸部表情实时合成到一个人类演员的身上,达到逼真的效果。

更可怕的是,人工智能已经可以做到“基于事实的胡编乱造”,这些内容在脸书(Facebook)和其他社交网站上广泛地流传开,很少有人会质疑它们的真伪。比如在2016年美国大选期间,特朗普就曾抨击Facebook上假新闻比真新闻多,甚至部分改变了选情。上个月底,Facebook宣布开始正式出手打击假新闻:将会禁止散布假新闻的主页在其网站上投放广告。

美国政府也开始加大对研发的资助来打击“假新闻”。9月初,宾夕法尼亚州的两名教授获得了美国国家自然科学基金会(NSF)资助的30万美元资金,以开发侦测“假新闻”的数字化设备。

人工智能学“说人话” 网络“水军”要下岗了杭州某连锁餐厅推出刷脸支付。摄影/何天骄

近日,杭州的某著名连锁快餐门店率先推出了“刷脸支付”服务,支付过程无需手机,只需由3D摄像头对准顾客的面部进行扫描就能验证身份、点餐付款。

但在赵燕斌看来,这种人脸支付的方式很容易受到攻击。“对抗这种攻击,不仅仅要大数据分析,还可能要用到计算机视觉。跨学科的融合是未来研究的趋势。” 赵燕斌对第一财经记者表示。

内容推荐
更多阅读

· 月亮山上的苗家定亲宴(贵州黔东南加榜乡日常纪实)摄影/彭浩

· “朝鲜监国”袁世凯:被遗忘的民族英雄

· 五代两宋辽金时期名相,他虽为十朝元老,却被司马光斥为奸臣之尤

· 人工授精能怀双胞胎吗?

· 昔日红海军巨舰哪去了?如今乌克兰海军只有小武装巡逻艇充门面

· 关于支付宝芝麻信用分,你今晚会是一个不眠之夜吗?

· 农民起义军的“雷区”,触及必然灭亡,瓦岗军、太平天国都中枪

· 这位中国人因在二战中做的事,被以色列人称为他们的“上帝”

· 这几天,赣榆人都在传这家甜品店,榴莲千层仅29.9元,免费送货上门……实在太火爆了!

· 给孩子吃鱼,DHA高/汞低!优先请选这3条

· 与宝宝度过的第几个 夏天

· 新政终结4S店垄断售车 新车电商发展春天

· 克洛普:相信埃姆雷-詹最终会与红军续约

· 民进党当局猛砸8000万办“双十”庆典 宣传蔡英文政绩

· 俄罗斯宣布封禁中国社交软件微信|寻找中国创客

· 刘涛有多攻?蒋欣真胖吗?《欢乐颂2》发布会信息量好大!

· 李佳航《外科风云》演技炸裂,网友:从此再无张益达

· 美国无人机珠玉在前,却被中国反超,为什么中国无人机受国外欢迎

· 你的薪水能开什么车?赶紧拿工资表对比一下!奇准的哦!

· 他杀害了81个深夜买醉的姑娘,但身份却是个警察

· WE冠军奖金不及PDD月入 电竞产业正在面对哪些机遇和挑战

· 三国名言录:刘备十大名言!句句精辟!必收藏!

· 昨天做的晚餐儿子直接吃撑了,菜谱看看吧,一同享用

· 温江这家最老牌的38元/位自助火锅,凭什么火了这么多年

· 妈妈产后胀奶胀痛有硬块?这几招帮你搞定!

· 吃樱桃香蕉有益胎儿发育

· 儿子15年打工未归,女儿嫁出不闻不问,六旬老人山村独自终老!

· 把途观赶走下神坛,新霸主豪气再降五万

· 对号入座:CRS跟我有关系吗?

· 中国最强战机歼-20:即使放眼世界,同级对手仍屈指可数

· 锐参考|执政百日后看特朗普治国之道:“目前作任何判断都还太早”

· 30.人性禁岛

· 乾隆的第二任皇后,死后为何以皇贵妃的礼仪下葬?她犯了什么错?

· 章士钊:江天明月 人间丹草

· 一位垂帘听政的美人皇太后,还自称为朕

· 2017年最新预测生男生女方法,早看早知道!准确率高达99%

· 刚生完孩子就分房睡,一个家庭就这么散了!

· 德国杯决赛海外举办?德足协主席:它属于柏林

· 蔡英文“三新”空话连篇 台湾民众还会信?

· 07年勇士匪帮黑八奇迹回顾,巴爷如今重回勇士真乃大赢家

· 族兴新材临门撤回上市材料 119家拟IPO新三板公司业绩下滑

· 腾讯回应WeChat被俄罗斯封停:深表遗憾

· 农村的水井用的井圈是怎么制作出来的?不是谁都可以做

· 8张图告诉你,最聪明的犹太人是怎样教孩子的?家长千万别错过!

· 4~6个月宝宝辅食|菠菜南瓜泥米糊,缓解宝宝便秘的好帮手

· 犯盗窃罪取保候审期间脱逃 合肥一大学生判处拘役两个月

· 1448辆客车福田海格最多!湖南2015新能源车地补名单出炉

· 洪泰智造工场李强强:人工智能10年内将迎回报期

· 国产大飞机C919喊话运-20:这是我最深情的告白,请查收!

· 外媒IGN搞了一个“史上百大RPG”评选活动

· 谭震林故里,中国梅城:湖南攸县

· 包头市这三个地方被选中,要有大发展!

· 同为“秘书处”,明内阁和清军机处,到底那个权力更大?

· 天中名吃——贺先生烩面

· 这两种食材一起做,营养翻倍,养肝补血,堪称食疗佳品

· 丹麦生蚝算什么?曾经的入侵生物,都被吃货端上餐桌

· 太受罪!宝宝“淹脖子”,最有用的护理方法在这儿

· 宝宝缺水有哪些症状你知道么?别等渴了再喂就迟了!

· 谢谢你,让我遇见你

· 搭上大众的便车,出门问问是否就前途无量了?

· 官宣!巴萨巨星称永不加盟皇马,皇马球迷:对不起我们不需要你!

· 为什么思域、冠道都可以加价,偏偏换代的CR-V却不能?

· 皇马连续进球逼近欧洲纪录 齐祖本轮或大轮换

· WE再次感谢老板升舱 网友:习惯你们穷了!

· 一小国和中国交战一千年,最后遇到中国最铁血军队,一打就亡国了

· 如果你认为人类10月怀胎时间太长,那就小看这个世界了

· 生了女孩的妈妈,最烦听到这4句话!真的很难忍住不生气!

· 深度试驾|作为年轻人的第一辆车,全新科鲁兹两厢版你打几分

· 央视:惹不起的恒大回来了 用人显示斯科拉里老练

· 行程11公里车费58元 外地乘客延吉打车遭“宰”

· 为什么国人常去夏威夷,却鲜有人祭拜张学良?

· 半路杀出个程咬金,其实他没有三板斧且出身贵族,玄武门事变功臣

· 8种食物黑名单——宝宝饿了!当妈的千万不能让宝宝吃这些食物!

· 1+2+3+4+5!像追梦一样全面,将成为击败勇士的奇兵?

· 韩国旅游业因“萨德”巨亏37亿美元,政客仍跪舔美国

· 巴国军方称阿富汗边防员向巴境内开火 致1死18伤

· 三国演义中最牛逼的神将,接连干掉2位五虎大将,其实是个小人物

· 揭秘:清朝贪官和珅深得乾隆恩宠的三大秘诀

· 为新东家加油!大十字祝达姆施塔特好运

· 法国总统候选人马克龙称已有总理人选,但姓名性别一概不透露

· 蔡当局已对大陆表达“最大善意”了吗?

· 西安事业单位再次公开招聘273名高层次及特殊紧缺人才

· 53岁杭州男人临死前一定要见35岁小伙!背后的故事太感人!

· 西安遭遇今年最严重沙尘气 空气指数爆表

· 北约构建水下通信标准、标准6成功试射、美“企业空中监视雷达

· 昨天傍晚,舟山跨海大桥双桥收费站车辆排队长达6公里!今年游客量将破5000万,我们准备好了吗?

· 泸州:游客挑战七彩玻璃栈道

· 读黑格尔精神哲学笔记 哲学的终点和王朝的终点

· 孩子不够聪明?那是因为你忘了给他这些刺激

· 一高校耗资千万购买二手波音737 与国产大飞机C919同级别

· 淄博塔吊司机坚守城市之巅 高处看风景

· 微讲堂|教你行——带你认识待转区

· 2017商丘(第五届)电动车展览会开幕

· 美国一机场飞机失事或有人蓄意为之 事故已致2人死亡

· 吊带T恤搭配紧身裤,夏季性感又凉爽

· 超好玩丨宜春战狼拓展培训基地4月29日正式开业!

· 动画《亚尔斯兰战记》中帕尔斯王国原型:中亚雄狮萨珊波斯帝国

· 二战中 这几个亚洲人为什么会跑到欧洲参战 最后被美军俘虏

· 唐氏筛查、B超、四维彩超判定胎儿性别的方法

· 任性如一汽,投资43亿的新能源工厂,说不干就不干了|壹条重磅

· 受大风天气影响 首都机场取消航班88架次

· 德碧桂路下穿隧道水浸原因再跟踪:周边工地施工增加排水压力?

· 邪不压正!FIFA终于取消对梅西四场禁赛

· 母乳喂养的经典3大谣言!产科医生告诉你什么才是真的!

· 吉林农民自费买消防车灭火12年 花费近60万元

· 蔡英文说一万道一千 不如只说这“六个字”

· 李洪志有负母亲期望

· 大钟山公园背后的“美丽风景”

· 历史上第一个因小事寻短见的皇子,有当皇帝之才,无当皇帝之命

· 此人贪酒好色,生育能力强,比康熙还厉害,共有120多个儿子

· 揭秘:2017年刷爆美食圈的10道创新大菜与制作方法

· 泰国街头榴莲真便宜!43元买了一个,削完皮,肉竟有一斤二两!

· 农村小伙自制咸鸭蛋全过程,终于晓得蛋黄为啥会冒油了!

· 金科保卫战狼烟四起,白衣骑士孙宏斌变身野蛮人?

· NBA中那些单场拿下60+的得分狂人

· Z博士的脑洞|国家金融安全是全方位的,不能再流于“匠气”

· 解密大灰机C919诞生背后,原来这么多牛X公司在支撑!

· 禁渔期“偷腥” 两艘渔船被罚10万元违规款

· 赵普被画大花脸,赵匡胤为何发出:宰相需用读书人的感叹?

· 大连吃届“老司机”,告诉你在大连吃海鲜必去的10家牛店!

· 天涯海角,不忘一碗炸酱面的味道(个人制作心得,同好交流参考)

· 吃货老司机带你走一波!

· 民间故事:男子深山砍柴救狐狸,狐狸感恩赠送草戒指,成全好姻缘

· 为何一个游人如织的古镇 突然变成了空巷子

· 新三板公司族兴新材IPO上会前夕突撤材料

· 韩副总理访日主持中日韩财长会 出席亚开行年会

· 河南省仅有的三个辖区内只有一个区的地级市!

· 毛主席亲笔复信支持创办的建国后第一个全国性的诗歌杂志《诗刊》

· 慈禧为何爱留手指甲并饰戴纤长护指套?原来与这件事有关

· 不声不响开了20年,一年卖出142400碗!这家店凭什么?

· 这家开了50年的老饭店,本帮菜最是正宗,八成上海人却没吃过

· 他被自己的爸爸锁在坑洞里,独自生活了二十五年

· “只因感恩,无以为报”|在杭生活的宣城人刘苹完成器官捐献

· 《春娇救志明》成最后一部,余文乐疑似左眼球被摘除

· 马苏的时尚表演,百搭风格全都驾驭的完美

· 魔兽世界7.0版本肩膀附魔,你觉得那种收益最高呢!

· 这个搞基的豪门杰克苏,简直就是中国文坛的传奇

· 牡丹江长安街发现火遍全国の延边美食,刚开业就天天爆满!

· 合肥15家藏在犄角旮旯里的美味,稍不留神就错过!

· 怀孕没胃口,老公自制一份甜品,成本四十元,大家看看怎么样

· 你家孩子的身高达标了吗?看看 身高标准表 就知道了!

· 父亲当装卸工扛出个大老板儿子,说等闲了让您享清福,一等等到死

· 辉隆股份放贷“踩雷” 2亿贷款计提6000万坏账准备

· 解局丨陆军集团军新番号,为什么从七十一开始

· 蔡琳显孕自称要生三个,公公做饭感动流泪,韩国闺蜜羡慕求嫁中国

· 方硕:末节有点孤注一掷,拿山东队内线没办法

· 歼-20以10:0完胜歼-10、歼-11和苏-30,真的假的

· 兄弟失恋小聚,要份大盘鸡几个小菜,消费300元,菜难吃酒难喝

· 蔡锷将军的魂归之处,这风景不错

· 外科风云靳东一脸严肃,却曾与她爱的轰轰烈烈,中戏人尽皆知

· 车上没有这8项配置,你还和我装什么逼?

· 论足坛史上最佳11人阵容,你们希望都有谁?他们是这么评的

· 服役百年的手枪,竟曾击落日军战机,美国大兵至今为它疯狂

· 未曾当选钱袋空 法国“竞选商店”都卖啥

· 玩家分析:若ptr实装后76所要面对的未来

· 从业40余年的产科主任医师,今天给孕妈妈写了一封信

· 一袋粗盐,活血化瘀,祛湿驱寒,治疗耳鸣!(为家人收藏)

· 老人放牛被毒蛇咬伤,妇女背他下山,半路意外救下了自己儿子一命

· 移动互联网「下半场」的新变数:Chatbot、小程序以及其他

· 燃爆!10记三分!96新星带着山东队飞 丁彦雨航终获拉风老二

· 糖水冒充神药 闵行警方打掉一“诈骗”养生基地

· 慕尼黑工业大学开发出Wi-Fi全息投射技术

· 打算买车的人注意了!7月以后买车可以不用在4S店买车险了!

· 中国女篮热身赛再胜塞内加尔 女奥尼尔14分孙梦然12分

· 苏宁:我转型收获巨大成功!刘强东:呵呵,马云:我去

· 留学中国的印度交换生真实生活百态,女生坦言到哪都容易找到厕所

· 核探测器检测地下蓄水层 非洲干旱地区迎来福音

· 洗澡时多洗洗这里,可降血压、治疗糖尿病!为你增寿10年!

· 盘点魔兽世界十大美人!哪个会把你迷倒呢?

· 广本能造1.5T冠道,为何不停产3.0L歌诗图?

· 德约科维奇突然解散整个教练团队,闹来这是要闹哪样?

· 他们听见“撕油布”的声音怎么就吓成这样?

· 梁山水泊,历史上还真有这么一段,据说水浒就是根据这段历史写的

· 历史上哪一个朝代最耻辱?

· 包拯“日能审阳,夜能断阴”,历史上还有三人同样可以

· 什么 什么 明朝资本主义如此发达 大大领先同时期欧洲

· 永不落后的机械行 发展史1

· 我最拿手的浆水菜,刚做好就被一抢而光!

· 走路对心脏好处多,每天走多少步能延年益寿

· 故事:媳妇生了二胎被家暴,施暴者却是老公公

· 刘乐妍:我不是台湾省人 台北不是“首都”

· 铁路北街两车相撞司机争执引发堵车

· 网爆D姓男星花8千万跟卓伟购买出轨照,邓超杨幂双双躺枪!

· 达芬奇手术机器人的“劲敌”就要来了

· 央行严管第三方支付行业 暂停发放新的牌照

· 不看BBA,豪华车其实还可以这么选!

· 于汉超再成奇兵,恒大3比2逆转申花 特谢拉进球,苏宁战平延边

· 70后创业者,竟然想动滴滴出行的奶酪

· 一个女人爱不爱自己,看她的扎头发就知道了,这款发型最适合你!

· LOL7.9版本上路已成动物园?猴子猪妹狮子狗称霸上路

· 以怨报德太子建,被亲爹楚王夺了妻,被晋国下了套,被郑国杀了头

· 这个朝代贪官一旦贪腐,被折磨死后,剥皮做成标本供后任官员警醒

· 二战十大经典战役,中国“徐州会战”上榜

· 春天来了,宝宝反而运动发育迟缓了?

· 家中常备药,宝爸宝妈你们准备好了吗?

· 你的床上可能存在上万只螨虫,除螨工作你做到位了么?

· 王者荣耀-全明星赛变成全民偷塔比赛,这是假比赛吧?

· 浙江湖州吴兴:古道马拉松促“旅游+运动”发展

· 李鸿章临终前推荐的继承人,不是袁世凯,而是他

· 命中率62%,奇才阵中藏有小莱昂纳德,或成系列赛X因素

精彩图片