低收费　可下载

(相关资料图)

九块九的AI写真真的香吗?

上传他人照片无需验证,存在信息泄露风险

只要上传20张正脸照片并支付9.9元,就能获得精致AI写真集。近日,市场上出现了不少AI写真小程序,市民在体验到新鲜感的同时,也有人认为其中存在涉嫌侵犯个人隐私问题。记者对此展开调查。

【记者体验】

系统不会验证使用者上传的是否是本人照片

记者按照网友的推荐,在手机上搜索了“某鸭相机”和“某AI”两款热门AI写真小程序,在“某鸭相机”小程序内,记者上传了20余张本人清晰照片,后台显示开始制作。大约等候了一小时,系统生成了三组风格各异的写真,每组4张,可以使用系统附赠的代金券,下载5张无水印的照片。“某AI”小程序则是由用户提前选定一个风格,经过约1.5个小时后,生成了9张同一风格、可任意下载的写真照片。记者注意到,这两款小程序的初始使用费用均为9.9元,而“某鸭相机”如果要下载更多照片,需要继续充值消费。

记者在体验AI写真小程序的过程中发现,除了能上传本人照片,也能上传他人的照片来生成AI写真。记者亲测,系统并不会验证使用者上传的是否是本人照片,上传他人照片和上传本人照片的流程一样通畅。即使平台都有类似的规定指出不得上传他人照片,但显然他们无法阻止这一行为。是否会有人上传他人照片,侵犯别人的隐私,甚至利用照片进行违法犯罪活动,这都是难以预测的。

虽然平台上的《隐私协议》中均有提到平台会对用户的信息进行保护,不会出现泄露,但平台也承认“由于技术限制以及可能存在的各种恶意手段,在互联网行业,即使竭尽所能加强安全措施,也不可能始终保证信息的绝对安全”。也就是说,平台方面只能约束自身行为,信息泄露的风险仍然存在。

【律师声音】

平台有义务妥善保管收集到的信息

对于AI写真目前存在的问题,北京盈科(厦门)律师事务所律师许东告诉记者,目前的AI写真生成平台未能有机制对上传他人照片进行审核限制,尽管有平台在用户协议中有相关表述,但并不意味着平台可以完全免除自己的责任。如果用户发现存在他人利用平台侵犯自身权利的行为,可以向平台发起投诉举报,要求平台采取停止生成、停止传输、消除等处置措施。如平台在收到相关诉求后并未及时采取必要措施,对损害的扩大部分,需与侵权的网络用户承担连带责任;平台知道有网络用户利用其网络服务侵害他人民事权益,未采取必要措施的,也需要与侵权的网络用户承担连带责任。

作为信息的收集方,平台有义务对收集到的信息进行妥善保管,防止信息被泄露、篡改或不当使用。“如平台对所收集到的用户信息没有较为完善的适用范围限制、存储限制等机制,在个人信息保护方面不够健全,极易造成平台使用者个人信息的泄露或不当使用,不仅可能会侵犯个人信息主体的权益,甚至有个人信息被用于实施电信诈骗、网络诈骗等违法犯罪行为的可能。”许东说,目前,对于AI换脸等平台涉及到的个人信息问题,主要是依据《民法典》《网络安全法》《数据安全法》《个人信息保护法》等对公民个人信息进行保护。值得注意的是,即将于8月15日施行的《生成式人工智能服务管理暂行办法》,也对生成式人工智能服务提供者在提供服务过程中行为和义务进行了更为具体的规范。

标签：