您的位置 > 首页 > 商业智能 > AI换脸技术背后的问题

AI换脸技术背后的问题

来源:电子发烧友 | 2019-09-10 | 发布:BOB体育娱乐平台之家


近日,一款换脸软件刷屏了社交网络。通过这款软件,用户可实现与明星换脸,“一键”进入明星出演的影视片段中,过把戏瘾。然而,随着这款软件火爆网络,大家也开始关注其背后涉及的隐私、肖像权等相关问题。

“换脸”有风险个人信息或遭泄露

这款软件在苹果应用商店的标语为,“仅需一张照片,出演天下好戏”。该软件使用AI技术,将用户上传的照片,置入平台上用户所选择的影视片段之中,实现用户与“明星”的换脸。

利用这款软件进行“换脸”,首先需要用手机号动态验证码进行验证登录。换脸时需要进行眨眼、抬头等各种验证,这与刷脸支付时采集的脸部信息类似。

对此,有用户在社交媒体上表达了对隐私泄露的担忧。如果被别有用心的人利用这个技术,盗取了用户换脸的信息,包括其它的个人信息,一旦匹配成功了,轻则是精准诈骗,重则的话有可能用户的账号、密码洞开。这样一来,不仅“丢了脸”,还可能丢了钱。

法律专家岳屾山:



这里面确实存在一定的安全隐患,这个软件如果被不法分子所掌握,就很可能造成危险。现在,国内很多应用在索要用户信息方面都很野蛮,过度要求用户提供信息,这是一个通玻用户在使用时要注意保护自己的隐私;开发者也应该遵法守法,按照法律的规定来收集信息;监管部门也要出手,对于不规范的行为及时予以制止,进行规范。

AI换脸曾被利用制作淫秽视频

AI换脸技术被公众注意,还因为其先前被应用于制作淫秽视频。多家外媒曾报道“Deepfake”和“DeepNude”在国外引起的热议,据美国《纽约时报》报道,随着越来越多的人正在利用该技术制作名人的色情视频,AI换脸正在引起恐慌。英国《卫报》称,此类软件是“对未来可怕的一瞥”,显示了对人工智能未来可能造成的伦理问题的担忧。

AI生物识别要把控好“度”

AI换脸已经不是新技术,以刷脸支付为代表的生物支付也也是目前的主流,如今我国生物识别技术处于全球先进水平,从事该行业的企业超过1000家,2018年市场规模超过1000亿元以上。

生物特征识别技术,就是采集每个人外貌作为模板保存,使用时再次对相应外貌进行实时采集并快速对比进行身份认证。各种生物特征技术的区别,在于对采集的“外貌”有所选择,有的选择采集指纹,有的选择采集人脸,有的选择采集虹膜。

无论采集什么“外貌”,这些“外貌”都有一个共性:人人都有,且人人不同,也就是具有唯一性。随着生物特征识别技术的大规模应用,特别是人脸识别技术的普及,生物特征信息安全受到了所有人的关注。

对于用户来说,人脸特征信息属于弱隐私信息,人人可见,随时有可能在自身全无所知的情况下被人获取,给人一种不安全的感觉,当人脸特征信息和金融支付账户联系到一起之后,更是影响了用户对账户的安全感觉:“从我的账户里划钱就和拍照一样简单。”

自从人脸识别技术问世之后,各种人脸识别应用层出不穷,有人脸识别厕所、人脸识别跑道、人脸识别马路、人脸识别智能门锁等等。“别管需不需要,能站在风口就行。”伴随着这样的想法,人脸识别信息开始被各种各样的应用采集,甚至滥用。

今年2月,国内深网视界发生大规模数据泄露事件,超过250万人的数据可被获取,有680万条数据疑似泄露,包括身份证信息、人脸识别图像、图像拍摄地点等。此事在网上掀起了滔天巨浪,深网识别网站一度停止运营,引发了无数风波。

值得一提的是,支付宝8月23日发布了国内首个“生物识别用户隐私与安全保护倡议”,倡议提出:企业在采集用户生物信息时应遵循“最孝够用”原则,防止被滥用。这份倡议共5点,主要从隐私、安全、防止信息滥用、责任与监督、公平等角度,唿吁对生物识别的发展进行规范化管理,来确保行业可控、健康的发展。

面对生物特征识别技术的风潮以及随之而来的风险,监管也在不断发声。自今年两会起,个人信息安全就成了监管的重点,网信办、工信部、信安标委等部门接连发布文件,《数据安全保护法(征求意见稿)》、《App收集个人信息规范》等等文件都强调了个人信息安全的重要性。生物特征信息无疑属于个人信息当中最有价值的部分,属于重点保护范围。

央行科技司司长李伟在文章《冷静看待生物识别技术》中提到,“目前市场热情高涨但尚缺一系列制度设计。”因此需要对生物识别技术加强监管,尽快出台相关法律法规,以及配套的管理办法和行业标准。

刷脸、换脸带来的风险不言而喻,于用户而言,切勿将个人信息轻易交换,于企业而言,支付宝发布的“生物识别用户隐私与安全保护倡议”值得行业深思!

AI换脸虽好玩,但要当心“丢脸”



你想过有一天,自己可以和胡歌谈恋爱,可以和邓伦逛故宫,可以和你的男神女神畅游花海吗?近日,一款名为“ZAO”的AI换脸APP就帮不少人圆了这样的“明星梦”,过了一把戏瘾。

用户在上传自拍照片后,就可以把影视剧主角的脸替换成用户自己的脸。仅需一张照片,便可出演天下好戏!这诱惑力的确够大。“ZAO”APP瞬间“名声大噪”。

但是,这种AI换脸技术也带来不少争议:大家担心个人信息会被泄露,刷脸支付也不再安全。

伴随着各种质疑之声,“ZAO”上线仅三天便被微信屏蔽。虽然该APP团队对相关霸王条款进行了修改,并承诺不会泄露用户信息,但是网友并不买账。工信部还就网络数据安全问题约谈了该APP背后的金主——知名社交平台陌陌。

现在监管部门介入、涉事企业改进,而消费者自身更要提高自我保护意识。只有多方合力,才能为个人隐私安全“上锁”。记者潘愈

“ZAO”的病毒式传播

8月30日,一款运用AI技术实现“换脸”的“ZAO(逢脸做戏)”APP正式上线,用户可以通过这款APP实现在视频中“换脸”,把自己变成喜欢的影视剧中的主角,过足一把戏瘾,实现自己的“明星梦”。

而使用“ZAO”的过程也非常简单,用户只需要下载、注册、上传一张清晰正面照。“ZAO”还会要求用户在摄像头前进行眨眼、扭头、张嘴、低头等指示动作。

用户在上传个人照片后,便可“一键”进入明星出演的相关影视片段中,生成新视频,还能制作表情包。更让人无法阻挡的是,用户还能将生成的新视频分享到微信朋友圈里。

正如“ZAO”自己所标榜的那样,“仅需一张照片,出演天下好戏”,可以与自己的偶像“同台飙戏”,这对很多人来说,的确具有难以拒绝的巨大诱惑力。

其效果也是可想而知的。刚一上线,这款软件便立刻引发“病毒式”的传播。就连ZAO官方助手自己也在8月30日夜间发布微博无奈地表示,“这个月花700万租的服务器,今晚已经消耗1/3了。明天如果继续火爆,我们只能做严格一些的限制。”

果不其然,该软件在第二天的8月31日便登上了微博热搜前十,不到24小时后,它便登上苹果应用商店免费APP下载排名榜首位。

那么,说了这么多,大家一定好奇,这款爆红的APP背后东家到底是谁?而据企查查数据显示,“ZAO”所属公司由海南猫咖网络科技有限公司100%控股,法定代表人为陌陌联合创始人雷小亮,海南猫咖网络科技有限公司则由雷小亮和陌陌COO王力各持股50%。所以把“ZAO”APP说成是社交平台陌陌旗下的最新产品,是非常合适的。

你的“脸”不属于你

然而随着“ZAO”APP的“病毒式”传播,各种担心和质疑也不断曝出。由于“ZAO”的主要换脸功能都需要上传人像照片,该软件背后的隐私权、肖像权、版权等相关安全问题随即引起各方高度关注。

根据“ZAO”用户协议内容中的必要授权协议:用户上传发布内容后,意味着同意授予“ZAO”及其关联公司以及“ZAO”用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《着作权法》规定的由着作权人享有的全部着作财产权利及邻接权利。”

换句话说,当用户确认授权之后,用户的面部信息就永久且免费地给了“ZAO”和它的关联公司处置,而用户无权过问,因为用户之前自己已经签了“卖身契”,事后再来找,又有谁能认账呢?

除此之外,使用“ZAO”APP还存在另一个很大的潜在风险。正如媒体报道所称,用户得自行确认自己所用的明星肖像是明星同意授予的,一旦明星状告“ZAO”侵犯其肖像权,“ZAO”就干脆甩锅,让用户承担侵权后果。所以说,这种可能性也不是不存在的。

但是根据《合同法》中有关规定,提供格式条款一方免除其责任、加重对方责任、排除对方主要权利的,该条款无效。很明显,“ZAO”协议中的某些条款的确很霸道。

中国政法大学朱巍在接受南方日报采访时表示,“ZAO”的合同条款已经造成违法违规,违反了《消费者权益保护法》《合同法》中的格式条款和《网络安全法》。移动客户端的人脸识别是用户的核心隐私,平台不可擅自使用消费者的肖像。

同时,湖南芙蓉律师事务所合伙人律师钟文科在接受证券日报采访时还表示,“该软件可能会搜集位置信息、银行卡号、支付宝账号、相册等,这些都是个人用户极为敏感的信息,一旦平台出现故障导致用户信息泄露,将会对用户造成很大的安全隐患。”

那些失控的“换脸门”

不可否认,随着互联网的普及,人们在充分享受智能手机给生活带来巨大便利的同时,也面临着各种问题的困扰。

正如中国青年报评论文章指出的那样,在智能手机普及的今天,隐私是一件几乎不存在的事情。你连接的WiFi暴露了你的行踪,你在搜索引擎点击的链接和广告暴露了你的爱好,你在淘宝搜索的商品暴露了你的消费水平。《纽约时报》的一篇报道称,仅在美国,就有至少75家公司从事与定位有关的业务,追踪的手机多达2亿部。

工人日报也指出,技术发展和应用的脚步太快,当源源不断的科技创新成果向我们涌来,相应的制度和监管却没能及时建立和完善,这是我们不得不面对的一大困境。

毫无疑问,这些事情真的是细思极恐。

其实,“ZAO”所利用的AI换脸技术其实并不是什么新鲜事物。前年,美国一位名叫“deepfakes”的网友就曾将自己制作的AI换脸视频发布在了当地社交论坛上,甚至该网友还把色情片女主角的脸换成了100多位好莱坞明星的脸。

就连很多商界大咖和政界大腕也未能幸免于难。今年6月份,脸书创始人扎克伯格在网上发表了一段关于“掌控大数据就掌控未来”的视频走红网络,而最后证明视频中的“扎克伯格”实际上是网友利用AI技术进行换脸后的效果。但是这个假的扎克伯格无论从相貌声音,还是穿着打扮,都跟真的扎克伯格几乎一样,难怪会有这么多人上当,信以为真。

还有一个典型的例子就是美国众议院议长南希·佩洛西。前不久有网友通过换脸技术,将视频中的南希变得言辞混乱,颠三倒四,一看就处于醉酒状态。最后逼得美国国会立刻召开了有史以来第一场有关AI换脸技术的听证会。

所以说,AI换脸技术如果缺乏有效的监管,的确容易失控。正如南方都市报社论文章指出的那样,对于“ZAO”这款应用,当然不是要一棍子打死,但在如此多的质疑面前,从政府监管到舆论监督,再到学术研究,理应及时跟上,做必要的审视与讨论。在“脸部信息”被滥用、濒临失控之前,AI换脸技术得好好通过伦理关的审查。

弄丢的“脸”咋找回

而当提及个人信息的时候,大多人第一时间想到的便是诸如身份证、姓名、家庭住址、电话号码、银行卡号、社保卡号等等这些具体的身份信息。而往往对像指纹、人脸、基因等更为重要的个人生物信息不那么在意。从很多人喜欢在社交平台上共享自己的照片上就可见一斑。

众所周知,像脸部信息这样的生物识别信息难为一般人所更改,所以被广泛用于身份认证、交易和支付环节,但是一旦泄露,一旦“丢脸”,势必给用户带来难以消除的不良影响。

广州市社科院研究院彭澎在接受南方日报采访时表示,绝大部分技术本身都是无辜的,要看使用者自身是出于怎样的目的,造成了怎样的结果。AI换脸技术有一定可取性,可以用于抓捕犯罪分子或出于善意、没有损害的娱乐,但一旦过界,则应该按照相应的法律进行限制。

此前,在第四届全球金融科技峰会上,人民银行科技司司长李伟就曾提醒称,人脸是非常敏感的个人信息,一旦泄露或被盗取,会带来非常大的影响。所以有技术不能任性,也不能滥用。

而“ZAO”APP提供的“换脸”体验无疑就是一种对面部识别技术的滥用。北京日报评论文章就指出,在面部识别已经普及的今天,你我的面部数据如同一把钥匙,与自己种种账户的安危高度相关。“ZAO”一键把用户的面部数据上传到云端,但凡公司里有内鬼,或是公司保管不善造成数据泄露,别有用心之人很容易拿着我们的“脸”招摇撞骗。

对此,健康报评论文章指出,对于这次换脸软件走红现象,一方面要就事论事,看到人脸信息遭泄露带来的风险,并督促加以改进。更应该看到,在生物信息保护方面,不仅民众的防范意识普遍不强,而且相关规定也比较缺乏,亟待就此好好补一补课,否则更多“好玩”的软件还可能出现,让更多民众付出泄露敏感信息的代价。

图一时之快的后果

面对外界越来越激烈的质疑之声,“ZAO”方面此前已在8月31日对用户协议进行了部分修改,增加“特别提示”:用户使用“ZA-O”生成的内容,“ZAO”将仅用于修改并生成新短视频,除非获得用户再次同意,不会以任何其他形式使用上述内容。用户如果删除了上传内容,“ZAO”也会依据相关法律从服务器中删除。此外,用户如果使用“ZAO”换脸,需确保肖像权利人授权“ZAO”对人像进行处理。

但事件并未就此平息。9月1日,上线三天爆红的“ZAO”微信分享链接还是在争议声中被停止访问了,其页面显示“网页存在安全风险,被多人投诉,为维护绿色上网环境,已停止访问”。

随后,为了消除大家的疑虑,9月3日,“ZAO”运营团队发布声明称,“ZAO”不会存储个人面部生物识别特征信息。在您的使用过程中,为保护肖像权不被冒用,“ZAO”设置了真人验证环节,整个过程仅为验证您上传的照片是您本人,为确保您的信息安全,“ZAO”不会存储个人面部生物识别特征信息。“ZAO”所呈现的“换脸”效果,是我们根据您提交的头像照片,按照您选定的素材场景,通过后期技术叠加所实现的虚构图像,并没有采集任何个人生物识别特征。虚构图像能达到肉眼上近似,但并不是您的真实信息。

同时,“ZAO”APP的“名声大噪”,也引发了有关部门的注意。同日,工业和信息化部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈,要求其严格按照国家法律法规以及相关主管部门要求,组织开展自查整改,依法依规收集使用用户个人信息,规范协议条款,强化网络数据和用户个人信息安全保护。

如何给隐私“上锁”

对于公众普遍关注的“刷脸支付”是否会有安全威胁的问题,此前,支付宝安全中心已经通过其官方微博发布公告称,目前各类换脸软件不管换的有多逼真,都无法突破刷脸支付。“刷脸支付”采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。此外,在进行人脸识别后,部分用户还需要输入与账号绑定的手机号进行校验,进一步提高了安全性。

此次,“ZAO”运营团队也格外强调,使用“ZAO”不会产生支付风险。刷脸支付安全门槛极高,仅通过一张照片实现的“换脸”技术完全无法突破刷脸支付的安全系统。权威支付平台也均从专业技术角度,强调“换脸”完全不可能威胁支付安全。您删除信息或注销账号,“ZAO”均会依据相关法律法规的规定删除相应信息。目前有用户看到注销后的缓存信息,会在后续更新版本时修复。

但是这些承诺和保证并未消除公众的疑虑。“目前大多数获取用户脸部和个人资料的平台都是金融平台,受到一行两会的严格监管,但是当越来越多的平台在没有受到监管的情况下获取用户相关的信息,这背后存在的监管缺失才是最大的风险。”平安科技智能认知产品部总经理宋晨指出,更大的风险其实是来自于对获取用户相关信息的平台的监管。

所以,加强监管刻不容缓。新京报评论文章指出,政策与监管都有滞后性,企业有囿于竞争而急于开辟新战场的压力,也有基于在大数据时代快速收集数据的冲动,若单方面期望其能持保守立场和克制冲动恐过于乐观。但无论是监管层、媒体还是法律人,都有义务告知用户,其为了短暂娱乐所交出的生物识别信息可能带来的巨大灾难。

同时,工人日报评论文章还指出,在立法及时跟进、监管雷厉风行之外,企业也应珍惜声誉,远离霸王条款,个人用户则需时刻绷紧个人信息保护的神经。无论如何,个人信息安全不能成为谁想捏就捏的“软柿子”。

北京商报评论文章也指出,应对个人隐私泄露,不仅依靠消费者加强自身保护,更需建立完善个人信息收集的基本规范、相应的行政监管体制、司法救济途径。否则,不给AI划线,不为隐私“上锁”,有一天洪水勐兽突如其来,才发现你我束手无策。

本文已经过优化显示,查看原文请点击以下链接:
查看原文:http://www.elecfans.com/d/1069372.html
京ICP备11001960号  京ICP证090565号 京公网安备1101084107号 论坛法律顾问:王进律师知识产权保护声明免责及隐私声明   主办单位:人大经济论坛 版权所有
联系QQ:2881989700  邮箱:service@pinggu.org
合作咨询电话:(010)62719935 广告合作电话:13661292478(刘老师)

投诉电话:(010)68466864 不良信息处理电话:(010)68466864