贪图便宜造成极大风险!9块9拍写真集的隐忧
原标题:贪图便宜造成极大风险!9块9拍写真集的隐忧
(资料图片)
北京晚报记者 徐英波
现象
9块9拍的“AI写真”引争议
“花9块9,上传几张照片,就能拍一套写真……”近日,一款主打“AI写真”的应用软件吸引了不少人,冯媛就是其中一位。
“从前,拍写真要去照相馆,即便提前预约,也要等上一两周,价格还不便宜,拍一套少说也得千元左右。”冯媛说,有了“AI写真”太方便了,上传一张清晰正面照和20张不同角度的半身生活照,再挑选喜欢的写真模板,在家就能“坐等”一套写真照生成。发到朋友圈后,大家都以为是拍了一套真的写真。
据说,高峰期有四五千人排队,要等十几个小时才能出片,“AI写真”火了。
该应用软件最初的“用户协议”写道:“您特此授权我方在全世界范围内(包括元宇宙等虚拟空间)享有永久的、不可撤销的、可转让的、可授权的、免费的和非独家的许可,使得我方可以任何形式、任何媒体或技术使用您的内容。”
“这条款的用词也太厉害了!这不就是可以说随意取走、在不同场景下使用我的‘脸’吗?”见此,不少人倒吸一口凉气。
对此,相关人员解释,上述授权是为了“能够提供、确保和改进服务(包括但不限于使用AI生成内容作为再训练数据等)”。
自从被用户质疑后,更新的“用户协议”中承诺:上传的照片只会用于数字分身制作,不会提取也不会用于识别和其他用途,且分身制作完成后自动删除。
许多用户看到后质询客服,如何在后台清除本人以及AI生成照片。
客服表示,可以注销原来的账号,可部分用户仍不买账:“即使协议更新了,我怎么才能确定,平台就一定删除了我之前的隐私信息呢?”
问题
产品火爆 风险也如影随形
其实,“AI写真”类的软件并不新鲜,技术也早已有之,但随着产品火爆的表象背后,应用当中“个人隐私安全”的问题,也一直备受关注。
2019年,一款名为“ZAO”的“换脸”软件的“用户协议”中写道,用户需要“同意或者确保肖像权利人同意授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”。这条“协议”一出,就引起了用户的反感,甚至有用户担心,用“换脸”后的视频进行刷脸支付,是否有导致账户被盗的风险。
随后,相关部门很快就对该软件的运营机构进行了问询约谈,要求其严格按照国家法律法规以及相关主管部门要求,依法依规收集使用用户个人信息,规范协议条款,强化网络数据和用户个人信息安全保护。
该团队之后的致歉声明里表示,没有采集任何个人生物识别特征,也不会存储个人面部生物识别特征信息;用户删除信息或注销账号后,软件均会依据相关法律法规删除相应信息。
人们的担心并不是空穴来风,利用“人脸”进行违法犯罪的情况已不少见,犯罪手段也是花样百出。一些网站会售卖明星换脸的恶搞视频,还有个别不法分子使用这种技术,进行敲诈勒索。
此外,还有一些别有用心之人在进行线下应用软件推广时,忽悠市民进行“人脸识别”,从而采集面部数据生成“AI形象”,成为一种新型的“AI诈骗”手段。
规范
多部法律规范AI技术使用
互联网时评人张书乐分析:“‘AI写真、换脸’等产品,需要用户本地上传云端,在数据上传后的保存、解析和后续的一系列生成动作、数据库存储等方面都存在信息泄露的风险。从当前看,一旦出现泄露或被盗用,并没有很好的制约手段。因此运营方在数据保存上应开发前置性预防手段,增加多层次的‘保密’操作。”
律师彭艳军表示,如果这些软件或小程序没有针对用户信息的适用范围限制、用后销毁等完善的机制,很容易造成用户信息的泄露,“不仅会侵犯使用者个人的权利,也可能被别有用心的人加以利用,从事违法犯罪活动。”
目前已有多部法律逐步对AI技术的使用进行限制。
2023年1月10日施行的《互联网信息服务深度合成管理规定》为包括“AI换脸”在内的深度合成服务划定了“底线”。其中第六条规定,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。
2023年7月13日,国家网信办等七部门联合公布,将于今年8月15日起施行的《生成式人工智能服务管理暂行办法》也对小程序、平台方起到一定的监管作用。
AI时代已来,如何才能更好地保证用户的个人隐私安全?
彭律师建议,使用类似软件前要谨慎识别,对于来源不明、假冒的软件、小程序要特别警惕。即使是使用正版平台,用户也要仔细阅读用户须知,谨防在不知情的情况下进行任何授权。
此外,主管部门也要对平台主动监管。“企业承诺自动删除用户隐私信息,但从用户层面来说,很难确认平台是否真正删除了,谁来监督落实就显得特别重要。”对于平台来说,建立信息的使用范围限制、用后销毁等完善的机制,还要加强内部管理,防止内部员工泄露用户个人信息。
标签: