近日，北京市场监管部门查处了首例利用AI技术进行虚假广告宣传的案件。
今年2月份，北京市海淀区市场监管局接到消费者举报，反映北京某公司通过视频账号宣传所销售的“深海多烯鱼油”能够治疗多种疾病，涉嫌虚假宣传。通过举报人提供的视频链接，办案人员打开该企业直播间，在这个拥有88万粉丝的账号直播间展板上，显著标注着“适合头晕头痛、手麻脚麻、记忆下降人群”等医疗用语；直播中还出现了中央广播电视总台主持人李梓萌的形象。
经过立案调查，办案人员发现，该公司销售的深海多烯鱼油产品，实际执行标准为糖果，属于普通食品，不具备疾病治疗功能。另一方面，经鉴定，视频中的主持人形象完全是利用AI技术伪造生成。
对此，经济日报近日评论称，治理AI“李鬼”，不仅要“有规定”，更要“有实效”。AI仿冒带货行为并非处于法律真空地带。无论是仿冒名人，还是冒充知名品牌，其核心都是通过制造混淆，攀附他人商誉或名人信誉，牟取不正当利益，这违反了反不正当竞争法。若未经许可使用他人肖像、声音，甚至篡改其言论，则侵害了《民法典》所保护的人格权。
今年9月正式施行的《人工智能生成合成内容标识办法》，明确要求所有AI生成内容必须“亮明身份”。可以说，面对AI“李鬼”，我们并非无法可依，而是要有法必依、执法必严。
然而，在浩瀚无垠的网络市场，仅靠监管部门主动发现和事后追责，成本高昂且往往滞后。要将法律条文转化为治理效能，关键在于压实平台主体责任。平台作为内容传播的主要渠道和商业交易的直接场域，必须成为治理AI乱象的第一道也是最重要的一道防线。实践中，一些平台虽已升级AI内容识别系统，但仍有人通过技术手段绕过审核，使得未标识的虚假内容得以传播。这暴露出平台在技术审核、内容把关上的责任仍有压实空间。
平台不能仅满足于“有规定”，更要追求“有实效”。这要求平台升级AI识别技术，严格落实上线前审核，对未标识或疑似AI生成内容添加显著风险提示，甚至限制其传播，真正在传播端筑起“防火墙”，做到审核机制“守土有责，守土尽责”；建立快速响应和处置机制，对发现的AI仿冒内容及账号，坚决予以下架、封禁，并依法向监管部门报告，协助追查源头，让违法者付出应有代价，做到事后追责“动真碰硬，形成震慑”。
面对越来越能以假乱真的AI“李鬼”，我们不能仅仅指望消费者“火眼金睛”。唯有法律亮剑、平台担责、社会协同，才能铲除AI“李鬼”滋生的土壤，守护每一次点击的信任。
发表评论 取消回复