你手机相册里的国宝文物、刚出锅的香辣蟹,甚至自家正在熟睡的爱宠,可能已经在二手交易平台上被明码标价,而作为主人的你却毫不知情。这不是电影情节,而是近日发生在二手交易平台闲鱼上的真实荒诞剧。事件发酵后,不少用户紧急自查相册,全国网民对个人信息安全的深层担忧也被彻底点燃。
出品|网经社
作者|可乐
审稿|云马
配图|网经社图库
一、在闲鱼“被上架”的国宝
5月30日,江苏网友顾女士的一条吐槽帖在社交平台引发热议——她的闲鱼账号待售主页上,赫然挂着一件陕西历史博物馆的镇馆之宝“唐鎏金舞马衔杯纹皮囊式银壶”的照片,标价6000元,AI还配上了“整体包浆自然”“适合收藏或陈设摆件”的描述,而她对此毫不知情。
顾女士的遭遇迅速获得大量共鸣:有用户拍摄的自家宠物狗被系统当作“毛绒玩偶”定价100元挂出,有人在空间晒出宠物后半夜接到买家询价,有网友去年拍的“炒香辣蟹”照片竟被当作二手商品上架售卖,还有人的午餐面条被标价15元。
据闲鱼客服解释,问题出在“闲鱼空间”功能上:用户在该空间上传照片后,系统会自动识别画面主体、自动生成商品描述、自动给出参考价格并直接发布,全程无需用户确认。令人震惊的是,媒体实测将内蒙古博物院的馆藏文物照片上传至“闲鱼空间”后,AI立即将其识别上架,战国鹰顶金冠饰被估价1200元,辽代玻璃杯被标价80元,全程没有任何弹窗提示用户“商品即将被上架售卖”。
天使投资人、网经社电子商务研究中心特约研究员郭涛表示,闲鱼这一行为涉嫌违反《个人信息保护法》。该法规定个人信息处理者利用个人信息进行自动化决策,应保证透明度和结果公平公正,且通过自动化决策方式向个人进行信息推送、商业营销等,应提供不针对个人特征的选项或便捷拒绝方式,作出对个人权益有重大影响的决定,个人有权要求说明并拒绝。
闲鱼“无二次确认弹窗”的操作,侵害了用户拒绝仅通过自动化决策作出对其有重大影响决定的权利。同时,其在未获用户明确授权下自动读取照片等行为,也违反了个人信息处理需遵循合法、正当、必要原则及经用户明确同意的规定。此外,在行政方面还可能涉嫌违反《网络安全法》等相关法律法规。郭涛说到。
网经社电子商务研究中心特约研究员、上海正策律师事务所律师董毅智分析,闲鱼此举核心在于它侵害了用户的“知情权”和“自主决定权”。首先,违反了《个人信息保护法》的“告知-同意”原则。用户把照片上传到“闲鱼空间”,目的可能是备份或展示,而不是授权平台去卖。平台在没有明确告知用户“上传即上架”的法律后果,也没有获得用户二次确认的情况下,就擅自处理照片,这属于对授权范围的扩大解释,不符合“明确同意”的要求。
其次,这也违反了《民法典》关于意思表示真实的规定。一个买卖合同成立,需要买卖双方真实的意愿。AI代客上架的行为,用户根本没有出售的意思表示,这个合同的基础是不存在的,这直接动摇了合同自愿原则。
另外,这种行为还可能侵犯用户的隐私权和肖像权。把私人照片直接变成公开的商品信息,如果照片内容涉及隐私或肖像,平台又没有获得授权,就可能构成侵权。
面对汹涌的舆论质疑,闲鱼于6月1日紧急道歉,称相关商品系AI将图片识别为普通文玩商品,已由用户主动下架,表示将“尽快加强商品上架提醒和用户确认”。然而这一回应非但未能平息质疑,反而引发更多不满——不少网友直言闲鱼“避重就轻”:“这不是售卖文物的问题,是侵犯隐私。”“平台凭什么自动读取、上传手机里的照片?”
问题在于,闲鱼的回应始终回避了两个核心问题:APP是否越界读取了用户的本地相册?AI为何未经用户确认就自动售卖私人物品?中国蓝新闻评论尖锐指出:“这不是‘识别错误’四个字能打发的,这是对用户数据使用权的根本性越界。”更令人费解的是,闲鱼客服在回应中表示“如果不需要上架,可以自己删除”,将平台的责任转嫁给了用户自行善后,甚至有评论认为,闲鱼的道歉“把平台的责任巧妙地转嫁给了当事人”——用户不仅要承受隐私被曝光的风险,还得自己动手删帖“善后”。
据网经社不完全统计,除闲鱼外,转转、爱回收、找靓机、拍拍二手、瓜子二手车、红布林、闲转、58同城二手等二手电商平台也暴露出侵犯用户个人信息的问题。
二、技术便利还是越权代劳?
闲鱼于今年3月上线“AI相机”功能,主打“拍张照即可卖闲置”。表面上这是为用户提供便捷,但问题在于:平台将“上传照片”默认解释为“同意上架”,完全绕过了用户的知情同意环节。正如上海人工智能研究院研究员彭嘉昊所指出的:“它跳过了用户确认这个关键环节,任何涉及用户个人隐私安全、数据处理的,要让用户自己做决策,不能让算法代替用户去做决策。”
闲鱼空间的运作逻辑是:只要用户上传了照片,系统就默认用户愿意出售。这暴露了一个更深层的问题:在缺乏透明规则的前提下,算法被赋予了过度的“代理权”。用户仿佛面对一个自作主张的代理人,不知道它做了什么、依据什么做的、后果由谁来承担。
更令人担忧的是,平台的AI识别系统存在严重缺陷。一张国家级文物的照片被AI判定为普通文玩商品并建议售价6000元,记者拍摄的手机型号iPhone13被识别为vivo Y93。如此低质量的识别准确率,却承担着“代客上架”的重要职能,这不仅是对用户隐私的漠视,也是对平台自身技术治理能力的质疑。
“若AI自动生成的商品链接被买家拍下并形成交易,由此产生买卖纠纷,闲鱼平台应承担主要过错责任。”郭涛说到,合同成立以双方真实意思表示为前提,用户未作出出售意思表示,AI自动上架行为属于“无意思表示”或“意思表示不真实”,原则上买卖合同关系不成立。平台作为交易系统提供方和AI功能运营方,“代客上架”行为替代用户作出意思表示,违反了《中华人民共和国电子商务法》关于平台安全保障与如实告知义务的规定,因平台交互设计缺陷导致用户被动“被上架”,应对交易纠纷承担主要责任。用户原则上不承担违约责任,但可能面临善意买受人的履约请求或信赖利益赔偿主张。
浙江省消保委网络消费维权专业委员会委员、网经社电子商务研究中心主任曹磊指出,当AI擅自“代客上架”的商品被拍下并完成交易后,订单通常应认定为无效或可撤销,平台在功能迭代中“默认开启AI自动抓取、自动上架功能,全程未向用户作出任何明确提示与授权确认”,擅自将用户相册图片转化为在售商品,应承担主要过错退款责任,用户原则上不承担违约责任但需主动举证维权。
董毅智也认为,应该遵循“谁创造了风险,谁就承担主要责任”的原则。平台要承担主要过错责任。因为导致这起交易纠纷的根本原因,是平台AI系统的错误操作和交互设计的缺陷。用户没有售卖意愿,所以用户和买家之间原则上不成立有效的买卖合同。平台作为AI的运营方,是诱发交易的第一责任人,应当承担由此产生的法律后果。
三、谁来保护用户的“数字主权”?
顾女士的遭遇绝非孤例。大量用户的反馈表明,从国宝文物到家常饭菜,从宠物照片到私人存图,各类照片被无差别“上架”的现象已相当普遍。更令人细思极恐的是,不少人是在收到买家私信询问后,才惊觉自己的手机内容已经被公开展示售卖。还有用户反映,自己为获取闲鱼币而完成的上传任务,上传的照片被自动生成商品且被人拍下,最终只能退款了事。
事件发酵后,不少网友已开始分享关闭相关软件的相册权限以保护个人隐私。但这暴露出一个更深层的问题:在缺乏有效保护的现状下,用户只能通过“自行关闭权限”这一单方面措施来规避风险,这实际上是监管缺位的体现。
(天使投资人、网经社电子商务研究中心特约研究员郭涛)
郭涛认为,监管执法难点和不足在于,二手交易平台业务复杂,交易量大且信息繁多,监管部门难以做到实时全面监控。同时,平台对违规行为处罚力度不够,如出售个人信息等违规账号,往往只是下架商品、封号,不法分子换号可再次入驻,监管部门未能有效督促平台建立更长效的管控机制。此外,相关法律法规虽有规定,但面对新技术带来的新问题,在实际执法中的界定和操作仍存在一定模糊空间,导致监管存在滞后性。
(网经社电子商务研究中心特约研究员、上海正策律师事务所律师董毅智)
董毅智进而说到,第一,“告知-同意”流于形式。很多App的协议,用户不仔细看根本不知道里面藏了什么权限,很多时候是被“默认同意”的。这种模糊条款,法律上往往被认定为无效。
第二,AI决策像个“黑箱”。AI怎么识别、怎么定价、怎么上架,用户看不到,监管部门也很难去穿透核查。这给了滥用数据的行为灰色空间。
第三,用户举证太难。比如用户很难证明照片是平台偷偷读取的,还是自己误传的。证据掌握在平台手里,用户维权成本非常高。
第四,违规成本与收益失衡。相对于平台通过收集数据、促进交易获得的巨大利益,目前的罚款威慑力还不够,导致一些平台屡禁不止。
“监管层面可加强的方向包括,监管部门应强化执法,建立AI应用“合规红线”,明确平台在个人信息保护和自动化决策方面的具体义务和责任,提高违法成本。还需督促平台加强事前、事中监管,严格把关,如要求平台必须设置商品上架二次确认弹窗,建立严格的AI内容审核制度,完善风险算法评估机制等。同时,要加强对平台落实个人信息保护措施的监督检查,定期开展专项整治行动,对拒不整改或整改不到位的平台依法从严处理。”郭涛这样说到。
闲鱼“自动上架”事件表面上是一场AI“智能过头”的闹剧,但其背后触及的却是数字时代最根本的个人信息主权问题。从国宝文物到私人宠物,从家庭餐食到个人存照——每一张被算法擅自“上架”的照片,都是对用户知情同意权的一次粗暴越界。事件的发酵表明,公众对个人信息安全的敏感度正在大幅提升,平台以“技术便利”为名行“越权代劳”之实的做法,已越来越难以被社会所容忍。