人工智能给世界带来了无数便利，但在网络最阴暗的角落，它也正在被用来制造令人发指的罪恶。

一项最新的媒体调查揭示，可以在本地运行的开源人工智能模型，正在推动人工智能生成的儿童性虐待材料急剧增加。

这些模型可以脱离网络独立运行，绕开了商业公司设置的安全防线。执法机构和儿童保护组织坦言，一旦模型被部署在私人设备上，监管几乎无从谈起。

这是人工智能安全领域最棘手、也最令人痛心的问题之一。

数据显示，去年向美国国家失踪与受剥削儿童中心报告的人工智能生成儿童性虐待材料超过150万起，而2024年这一数字只有约6.7万起，增长了二十多倍。

失控的“开源”双刃剑

开源模型是人工智能领域的一股重要力量。任何人都可以下载、修改并在自己的电脑上运行它们，这极大地促进了技术的普及和创新。

许多科研机构、初创企业和个人开发者，都依靠开源模型开展研究和创新。

但开放也意味着失控的风险。与OpenAI、Anthropic等公司提供的商业服务不同，本地运行的开源模型不受平台安全机制的约束。

一些不法分子会对模型进行改造，去除其中的安全限制，使其能够生成违法内容。由于整个过程可以在离线状态下完成，执法部门很难发现、追踪和举报。

人工智能儿童安全专家丽贝卡·波特诺夫指出，被用于制作此类材料的开源模型已超过500个，而两年前还不到12个。

短短两年间增长数十倍，足见问题蔓延之快。

调查还发现，暗网上存在一些相关的犯罪社群，规模有时可达数十万成员。这一数字令人触目惊心。

商业产品也难独善其身

问题并不只出在开源模型上。商业化的人工智能工具同样暴露出安全漏洞。

美国一起拟议中的集体诉讼指控，有人利用埃隆·马斯克旗下xAI公司的Grok聊天机器人，生成了大量涉及未成年人的不当图像。

一家反网络仇恨的研究机构也发现，社交平台X上仍然充斥着将儿童性化的图像，平台的内容审核明显力不从心。

这些案例表明，即便是有安全团队把关的大公司，也难以完全堵住滥用的漏洞。在追求速度和市场份额的竞赛中，安全投入往往被放在次要位置。

技术越强大，被滥用时造成的伤害也越大，这是整个行业必须正视的现实。

儿童保护倡导者担心，人工智能行业奉行的“快速行动、打破常规”理念，可能会让问题进一步恶化。

伤害是真实的

有人或许会认为，既然图像是人工智能生成的，并不涉及真实的儿童，危害就相对有限。这种看法是完全错误的。

首先，许多此类材料是基于真实儿童的照片生成或改造的，受害者是真实存在的孩子，他们的形象被肆意滥用。

其次，海量的合成图像会严重干扰执法工作。调查人员需要花费大量时间辨别哪些图像涉及正在遭受侵害的真实儿童，真正需要救助的受害者可能因此被淹没。

此外，这类材料还可能被用于诱骗、胁迫儿童，或使施害者的不法心理进一步固化，助长现实中的侵害行为。

正因如此，许多国家的法律已经明确规定，无论图像是否由人工智能生成，制作、持有和传播儿童性虐待材料都属于严重犯罪。

中国法律同样严厉禁止制作、传播淫秽物品，涉及未成年人的更是从重处罚。

监管的十字路口

这一问题正在推动全球围绕开源模型监管的激烈辩论。

近年来，开源模型发展迅猛，部分人工智能业界人士出于国家安全等考虑，主张对开源模型加以限制。

但儿童保护问题显然更加紧迫，它关乎每一天都在发生的真实伤害。

问题在于，如何在保护开源创新与防范滥用之间取得平衡。一刀切地禁止开源，可能扼杀技术进步，也难以真正阻止已经流出的模型被滥用。

这道难题，考验着政策制定者的智慧。

专家建议采取多管齐下的办法。在模型训练阶段，开发者应严格清理训练数据，从源头上减少模型生成此类内容的能力。

在发布环节，开源平台应建立审核机制，对明显被改造用于违法目的的模型及时下架。

在执法层面，各国需要加强国际合作，提升对暗网犯罪社群的追踪能力，并更新相关法律，确保对人工智能生成的有害内容依法严惩。

在技术层面，内容识别和溯源技术也亟待发展，帮助平台和执法部门更高效地发现和处置违法材料。

中国、欧盟、英国等国家和地区近年来已陆续出台人工智能治理规则，要求生成式人工智能服务提供者防范违法有害内容的生成和传播。

人工智能是一项强大的技术，它可以被用来造福人类，也可能被用来作恶。

保护儿童免受伤害，是任何技术进步都不能逾越的底线。在人工智能狂飙突进的时代，守住这条底线，需要企业、政府和全社会的共同努力。