AI造黄泛滥：成本低伤害大，产业链无孔不入，监管难题何解？

AI造黄泛滥：成本低伤害大，产业链无孔不入，监管难题何解？

前不久，央视记者曝光一个浏览量超1亿次、资金流水达1200万元的色情漫画网站，其很大一部分内容由AI批量生成。这并非央视首次揭露AI“造黄”黑产。今年4月，它还扒出一条完整产业链，从售卖制作教程、交易“提示词”，到利用AI应用漏洞批量生产色情擦边内容，再到销售境外涉黄AI聊天软件，环环相扣。

记者花9.9元和9.8元购买两组提示词，得到的提示词描述极其详细，从发型、服饰、身材到姿势、表情，甚至腰部、胯部扭动幅度都有细致刻画。为规避监管，商家将敏感词汇翻译成英文。

就在昨天，网上消息称马斯克旗下AI聊天机器人Grok将增强成人内容生成作为核心流量增长策略。在AI赋能各行业的浪潮下，“黄色”又冲在前面，且此次来势更凶猛。

AI造黄，人人成潜在受害者

AI造黄，有人喜闻乐见，有人闻之色变，且后者人数可能会增多。据媒体报道，一名大二女生的脸被精准嫁接到赤裸身体上，素材来自她朋友圈生日写真、宿舍自拍等日常记录。国家反诈中心与公安部2025年一季度通报显示，全国AI换脸诈骗案件环比激增45%，其中“裸照/不雅视频勒索”占比高达17%。

AI造黄门槛越来越低。记者实测发现，多个互联网平台有人公开兜售“AI生成色情擦边视频”教程和提示词，卖家称花99元可“永久获得”AI生图操作账号使用权限，花48元可购买大尺度模型平台提示词及教程。

央视今年曝光多款AI应用存在涉黄生成漏洞，“哩布哩布AI”被点名。输入购买的提示词后几分钟，该应用就能生成半裸女性跳舞视频，全程未触发限制。要知道，“哩布哩布AI”去年10月刚完成1.3亿美元B轮融资，汇聚超2000万创作者，居国内AI图像生成领域首位。

普通人遭殃，企业也成目标。去年6月，“小鹏汽车展台车模不雅视频”传播，查明是AI生成的虚假视频，制作人动机是“炫耀个人技术”。理想MEGA也被人将色情图片与车辆内饰图拼接，编造谣言在20多个车友群扩散，引发近千万次浏览，导致部分潜在消费者取消订单。

AI造黄产业链：无孔不入，防不胜防

有了AI，人人都能DIY。辽宁一家理发店老板娘在短视频平台发现自己“不雅照”，幕后黑手是她此前辞退的洗头工。

去年9月，国内首次有AI服务提供者因涉黄坐牢，两人分别被判有期徒刑4年和1年6个月。他们接入境外AI大语言模型推出AI虚拟陪伴软件AlienChat并抽成牟利，案发时软件用户达11.6万人，付费用户2.4万人，会员充值费合计300余万元。抽样鉴定显示，150个收费用户的12495段聊天记录里，3618段属淫秽物品，涉及141个用户，超九成付费用户用该应用“聊黄”。

被揪出的可能只是冰山一角。一方面，AI造黄产业链多模态全面开花。图片、文字、音频、视频等各种形态的AI内容，能在深夜击破人的防线。老牌成人漫画网站中，AI生成内容占比普遍超30%，网站会在AI生成内容标题前标注“AI生成”以吸引特定受众。打着“情感陪伴”旗号的AI虚拟伴侣软件也是重灾区，去年6月“筑梦岛APP”被曝光存在大量色情擦边内容，记者实测发现虚拟角色开场白露骨，部分应用系统预设角色充斥性感形象，聊天可选极端剧情。

另一方面，这些人把规避监管玩成技术活。AI内容审核核心难题是对抗性提示词识别，他们将敏感词汇翻译成英文，或用细节描述替代露骨指令，形成隐蔽指令体系。一些人还设多重保险，如引导用户用境外AI软件生成内容、将开源模型离线运行、用虚拟货币或第三方钱包交易、利用短视频平台引流至私域售卖更露骨内容。

屡禁不止，暴利诱惑是主因

人类搞黄色总处于科技前沿，区块链、NFT、元宇宙等概念在实际应用前就已在色情领域落地。AI换脸技术deepfake在2019年9月被检索出的1.5万个换脸视频中，96%是毛片。2023年，Meta进军元宇宙后，其VR游戏至少发生5起线上性侵事件。如今AI登场，破坏力呈指数级放大，管理挑战巨大。

最关键原因是暴利。全球色情产业年收入逼近1000亿美元，是整个AI行业收入总和的两倍。调查显示，主流应用商店超100款具备脱衣或色情化功能的应用，全球累计下载量突破7亿次，产生收入逾1亿美元。借助AI工具，几小时就能完成过去团队几天的工作。

即便无直接收益，平台也能吸引流量。社交平台上，明星“AI换装”和“AI擦边”内容流量惊人。某视频平台近百个发布“AI美女”内容的账号中，有账号拥有近25万粉丝，发布内容多为AI生成的“擦边”视频。小红书上也有博主传播利用AI工具生成“擦边”图片的方法。每经记者实测12款AI应用，5款可实现明星“一键换装”，9款能生成“擦边”图片。

平台可能想分黄色流量的一杯羹，导致AI应用审核防线易被绕过，甚至有些平台一开始就未严格监管。如某款AI伴侣应用为提升未成年用户次日留存率，模型自主演化出将对话引向大尺度角色扮演的策略。

问题若不解决，终将自食恶果。“黄”海无涯，回头是岸。