菠菜网

欧博客户端下载:想要如攻壳机动队的笑容男在人脸辨识镜头前「消逝」?你需要穿上这件T恤

时间:4个月前   阅读:39

现在许多地方都有摄影镜头,搭配背后的AI脸部辨识演算法,若是在连系上人口资料库,将很轻易地辨识出你在镜头前的踪影,纪录你的行踪,中国的「天眼」系统就是这个样子。不外,我们有没有拒绝自己的面目在公开场合被辨识出来的权力呢?就像是攻壳机动队中的「笑容男」谁人样子?为了解决这个问题,或许你需要这件T恤。



深度神经网路通常用于对图像、声音或者其他输入举行辨识和分类,要实现正确辨识,研究人员就要用上百万的示例训练这些演算法。反过来说,既然我们知道了若何训练特定网路,那我们也就知道了若何反向训练特征网路,以发生响应的匹敌式辨识模子。



当迎面走来一位穿着白T恤的男性和一位穿着黑T恤的女性时,若是我们脸部辨识的AI镜头中考察,会惊讶地发现AI只侦测到画面中女性的面目。



别忧郁,这并不是内部程式的性别歧视,问题出在衣服上。



当仔细考察这位男性穿的白T,第一印像是怪丑怪丑的,再看看,T恤上印有千变万化的色块,不外和通俗T恤也没什么大的差异。





这就是你轻敌的地方了。



别看这件T恤设计得不怎么入眼,来头却不小,这是由IBM、MIT和东北大学的研究人员配合设计的,当你穿上这件T恤的时刻,在AI的眼中看来,你就能神奇地和靠山融为一体,就这么消逝在了镜头之中。



东北大学电气与电脑工程助理教授Shelley Lin示意:「深层神经网路异常壮大,但也十分懦弱。当穿上T恤,深层神经网路很可能无法在图像中辨识你。」



说了这么多,来看看这件T恤的「卖相」:





原理虽然都懂,然则能把T恤设计得稍微再悦目一些吗?



首个实现动态匹敌攻击的竟然是这件T恤?!



说到匹敌模子简直立,许多人可能对此不屑一顾,这不很早就有了吗?



那我们就先来看看现在的部门战绩:



2016年,美国卡内基美隆大学和北卡罗来纳州教堂山分校的研究人员发明晰一种眼镜,该眼镜能「疑惑」住脸部辨识手艺,进而将佩带者分类错误;2017年10月,加利福尼亚大学柏克莱分校电脑科学博士生Dan Hendrycks就「乐成」地让AI系统将「住手」路标辨识为了「限速45」路标。





简直,这些匹敌模子效果很好,近两年的生长似乎也还挺顺遂。



但要提醒的是,人人可能还混淆了一个观点,上述两例都是在静态质料中天生的匹敌性攻击,若是想要在影片上举行动态匹敌,难题指数就得加倍。好比,在设计这件T恤的时刻,研究人员就必须思量,T恤在穿着者移动时会起皱和折痕,否则就会直接影响到匹敌效果。



卡利亚里大学助理教授、第一个匹敌性示例的建立者Battista Biggio说:「对于物理攻击,真正的挑战是在整个影片连续时间内保持未被发现的状态。」Biggio开发的首个匹敌性系统乐成地诱骗了垃圾邮件检测程式,「当检测在每一格中举行时,要始终保持未被检测到要难题得多」。



为了实现动态匹敌,研究人员使用了Lin所说的「变压器(transformer)」,这是一种丈量T恤运动方式随后将其映射到设计中的方式。



通过专门研究两个通常用于训练目的的工具辨识神经网路YOLOv2和Faster R-CNN,团队发现,增添像素噪声会使AI混淆身体区域,进而使穿上T恤的人在AI摄影镜头下「隐身」。



随后,研究人员纪录了一个穿着棋盘格图案T恤的人走路,跟踪棋盘上每个方块的角的转变,进而准确地绘制出了人移动时T恤的起皱纪律。当整个模式确立起来之后,针对YOLOv2的匹敌能力从27%提高到了63%,针对Faster R-CNN的匹敌能力从11%提高到52%。



基于此,全球首个在移动质料上实现动态匹敌的设计就建立乐成了!





人们能借此重获隐私主权吗?

这种匹敌攻击的原理,实在和深度神经网路的训练是同宗同源的。



我们都知道,深度神经网路通常用于对图像、声音或者其他输入举行辨识和分类,要实现正确辨识,研究人员就要用上百万的示例训练这些演算法,直到系统最终能鉴别小我私家的相貌和声音等。



同时,反过来说,既然我们知道了若何训练特定网路,那我们也就知道了若何反向训练特征网路,以天生响应的匹敌式辨识模子,好比让系统将熊猫辨识为长臂猿。





当我们深入到辨识过程中,神经网路会在需要辨识的人物或事物周围绘制一个「界限框」,随后再为该工具分配标签。也就是说,只要能找到神经网路的界限点——在AI看来某个物体是否为该物体的阈值,就足以建立可混淆AI分类和标签系统的设计。



之前,Lin和同事在研究一种用深层神经网路训练的物体检测器,行使这种检测器能快速并准确地符号影片中的「人」、「马」或「伞」等,但他们想借此发现在深度神经网路中存在的破绽,「未来,希望我们能够解决这些问题,进而不会诱骗深度学习系统」。



这件T恤就是功效之一。



对于这件能珍爱人们讯息平安的T恤,让人疯狂想要入手了。但Lin对此示意,在现实中不太可能看到这些T恤,她解释道:「我们仍然很难使它在现实天下中正常使用,前提条件是,我们必须知道检测演算法的所有细节。因此这件T恤并不完善,这里那里可能都存在问题。」



在总结AI频频失利的原因时,谷歌AI工程师François Chollet示意,「深度神经网路十分懦弱,这无法从根本上解决」。



不外,战胜这些缺陷的方式也照样存在的,研究人员需要分外增强模式匹配,例如,让AI自己探索天下,编写自己的程式码并保留影象。一些专家以为,这类系统将成为未来十年AI研究不能忽视的一部门。



这件T恤的开发也标志著AI辨识面临着越来越强的危机感,人们或许能在讯息隐私方面逐渐重新获得主权。



资料泉源:



  • This ugly t-shirt makes you invisible to facial recognition tech 

本文转载自信数据文摘



Shares



Facebook LINE,

allbet网址

欢迎进入欧博开户网址(Allbet Gaming):www.aLLbetgame.us,allbet网址开放allbet网址、allbet会员注册、代理开户、电脑客户端下载、苹果安卓下载等业务。

上一篇:消费主义转向实用主义 这些年轻人开始赛着比"抠"

下一篇:ug环球充值:文件夹损坏无法打开若何恢复