2026年1月14日，“用户与AI聊黄”开发者获刑案二审在上海市第一中级人民法院开庭，庭审未当庭宣判，法院以案件涉及人工智能相关技术问题尚需进一步厘清为由宣布休庭，使得该案二审目前仍处于法庭调查阶段。

该案作为国内首起AI服务提供者涉黄获刑案件，由上海市徐汇区人民检察院于2025年1月提起公诉，公诉机关指控被告人刘某某、陈某某犯传播淫秽物品牟利罪。2025年9月，上海市徐汇区人民法院一审判决，两名被告人犯制作淫秽物品牟利罪，分别获刑四年、一年半。

根据一审判决书，2023年5月起，涉案人创建的Alien Chat（一款AI伴侣聊天应用，定位是为年轻群体提供亲密陪伴和情感支持）在未经安全评估和备案的情况下，违规接入境外大语言模型，向用户提供“聊天陪伴”服务。软件运营期间，开发者为吸引用户，通过编写系统提示词（System Prompt）实现了模型向用户连贯输出淫秽内容的可能。此后Alien Chat开设收费服务，至案发共收取会员充值费用300多万元。一审法院认为，被告人“通过编写、修改系统提示词（Prompt）突破大语言模型的道德限制，实现了模型向用户连续输出淫秽内容的可能”，故以“制作淫秽物品牟利罪”判决。

该案二审未当庭宣判反映案件的复杂性。“Alien Chat案”牵涉技术应用的法律边界与责任认定等关键问题，司法人士对案件事实认定、法律适用、权责划分等问题看法不一。AC案案发以来，以下问题引社会争议：一是用户“聊黄”，APP开发者和运营会是否应被追究刑责；二是与AI对话是封闭的，不传播是否就不会造成社会危害；三是AI服务如果不是人为故意涉黄，以模型缺陷为由是否可以免责。“Alien Chat案”司法审理实践与社会争论反映就人工智能生成内容安全风险的监管挑战。

新闻来源：央广网、中国青年报

图片来源：中国青年报

02马斯克禁止Grok机器人生成涉性化图像

当地时间1月14日，马斯克X公司发布公告，宣布禁止Grok机器人生成基于真人的伪造性暴露图像，该限令适用于包括付费用户在内的所有用户。

X发表的声明称，对于任何形式涉及未成年人性侵害及未经当事人同意的裸露内容等，X平台实施“零容忍”政策，并将采取措施清除相关违规内容，对违反平台规则的账号作出相应处置。

2025年12月以来，Grok聊天机器人根据用户提示生成的性暗示图片在社交媒体广为流传，许多明星等公众人物与未成年人、普通用户的照片在未经当事人同意情况下被编辑为露骨照片。世界多国对Grok涉性化深度伪造行为表示强烈反对，英国通信管理局、欧盟委员会、印度等国宣布启动对Grok调查，印度尼西亚、菲律宾、马来西亚等国直接封禁Grok，明确规定在X平台建立有效防护机制前，不得恢复Grok在其国家的服务。1月14日，美国加利福尼亚州总检察长罗布·邦塔（Rob Bonta）宣布就Grok涉嫌生成并传播违规内容展开调查。罗布·邦塔在声明中表示，Grok的行为“令人震惊”，加州对利用人工智能制作和传播未经同意的私密、儿童性虐待照片“零容忍”，敦促X公司立即采取行动，确保此类事件不再发生。

作为回应，2026年1月2日，Grok官方账号在X上发布帖子称其已发现“安全措施方面的漏洞”，目前正在紧急修复。马斯克1月4日在X平台上发帖称，该平台会采取删帖、封号等行动打击非法内容，并在必要时与相关官员合作。X平台发布禁令之前，马斯克曾将Grok原本免费的AI编辑功能转为付费功能，但用户仍可以通过付费等方式生成照片。

新闻来源：BBC、都市快报

图片来源：CNBC

03 第六次中国—东盟数字部长会议在越南河内召开