1 号出海 · 第 255 篇
英国监管机( jī)构 Ofcom 就 X 平台旗下 Grok AI 涉嫌生成( chéng)与传播非法深度伪造内( nèi)容立案调查，揭露了私密( mì)影像传播与儿童性虐待( dài)等高风险问题；与此同时( shí)，马来西亚与印尼已率先( xiān)封禁 Grok AI，全球监管迅速形成( chéng)合围。这不仅是一起关于( yú)技术滥用的个案，更是一( yī)场围绕「平台责任」与「外部( bù)监管」的交锋：当生成式 AI 从( cóng)辅助工具变为内容生产( chǎn)主体，平台还能否以「中立( lì)」自居？
近日，英国通信管理( lǐ)局 Ofcom 已对 X 发起立案调查，直( zhí)指其旗下 Grok AI 被用于生成和( hé)传播非法深度伪造内容( róng)，包括未经同意的私密影( yǐng)像及可能构成儿童侵害( hài)材料（CSAM）的未成年人图像。Ofcom 认( rèn)为，这已触及《网络安全法( fǎ)》所界定的高风险非法内( nèi)容。此外，马来西亚与印尼( ní)等国家因担忧深度伪造( zào)风险，已经选择率先封禁( jìn) Grok AI。
Grok AI 被用于生成和传播非法( fǎ)深度伪造内容
Ofcom 要求 X 说明( míng)合规措施，并在评估后启( qǐ)动调查，将重点审查：平台( tái)是否评估过英国用户接( jiē)触非法内容的风险；是否( fǒu)采取了足以阻断非自愿( yuàn)私密影像与 CSAM 的技术措施( shī)；以及在发现违法内容时( shí)是否做到「迅速删除」；以及( jí)是否对未成年用户部署( shǔ)「高度有效」的年龄验证。尽( jǐn)管 X 随后为 Grok 图像编辑功能( néng)设置付费与身份验证门( mén)槛，通过「实名化＋付费门槛( kǎn)」降低滥用风险，但免费用( yòng)户仍可通过独立应用与( yǔ)网站使用，应对效果有限( xiàn)。
若最终被认定违法，X 将面( miàn)临最高 1800 万英镑或全球合( hé)规营收 10% 的罚款，出现严重( zhòng)不合规还可能被要求封( fēng)锁平台或切断广告与支( zhī)付功能。同时，Ofcom 仍在评估是( shì)否对 xAI 单独立案，显示监管( guǎn)正从平台端延伸至模型( xíng)提供方。
Grok 近来遭遇的强力( lì)监管，向所有生成式 AI 平台( tái)发出了明确信号：我们真( zhēn)正面临的问题，从来不只( zhǐ)是「技术能做到什么」，更是( shì)「社会需要什么」。如果说监( jiān)管是一道红线，那么真正( zhèng)决定企业能否走远的，在( zài)于其是否愿意把「对人的( de)保护」放在产品设计的起( qǐ)点。近几年，国内 AI 平台在合( hé)规上的一些具体做法，恰( qià)恰提供了值得借鉴的路( lù)径。
首先是对用户群体的( de)前置保护。以敏感最高的( de)「AI 换脸」为例，阿里云的「通义( yì)万相」、百度的「文心一格」等( děng)平台，均在涉及人脸替换( huàn)、合成时设置实名认证、用( yòng)途声明与明显水印，且对( duì)裸露、性暗示、未成年人相( xiāng)关场景实施强拦截，此举( jǔ)可以从源头上规避不法( fǎ)者利用技术对弱势群体( tǐ)的伤害。
其次是对未成年( nián)人的「分级保护」。字节「豆包( bāo)」等产品在涉及成人内容( róng)、敏感话题时，采取年龄识( shí)别、分级展示与结果引导( dǎo)：不仅拒绝生成高风险内( nèi)容，还会弹出求助信息提( tí)示或转向科普与心理疏( shū)导。此举不再是为了「合规( guī)」而「合规」，而是真正在关键( jiàn)时刻为青少年留下一道( dào)「安全缓冲带」。
「豆包」上线未( wèi)成年人模式
最后是可追( zhuī)溯与纠错机制，保证普通( tōng)用户「追诉」的权利。多家国( guó)内平台在生成内容中嵌( qiàn)入可识别水印，配合「发现( xiàn)即下架」的投诉通道；当用( yòng)户发现自己的肖像、作品( pǐn)或隐私被滥用时，能迅速( sù)定位来源、举报内容、限制( zhì)账号。这意味着被侵权者( zhě)不必独自承受技术滥用( yòng)的后果，而是有据可查、有( yǒu)源可溯。
这些合规措施不( bù)在于流程多严密、技术多( duō)先进，而在于其强调了一( yī)个经常被忽视的常识：技( jì)术进步若以普通人的权( quán)益为代价，其带来的便利( lì)性便不值一提。合规不是( shì)创新的对立面，而是创新( xīn)的伦理基础。在全球 AI 监管( guǎn)日益收紧的当下，中国平( píng)台只有把社会责任感内( nèi)化为产品逻辑，才能在出( chū)海之路上行稳致远。
译者( zhě)｜小塞
编辑｜分味
文章来源( yuán)｜Variety
原文作者｜Naman Ramachandran
原文发布日｜2026.1.12/ 周( zhōu)一
《主编浅度》视频号
