“Gronk”因虚假色情内容被追查，加州发布“立即制止”令！

新华社北京1月17日电 美国加州总检察长罗布·邦塔16日宣布，已向美国商人埃隆·马斯克旗下的人工智能公司xAI发出法院命令，要求立即阻止该公司开发的Groke人工智能聊天机器人在未经当事人同意的情况下制作和传播有关妇女儿童的色情内容，并在一段时间内提交纠正措施。最近几周，马斯克的社交媒体平台和人工智能公司因参与人工智能生成的色情内容而受到国际社会的强烈谴责，而加州的禁令继续加大了这些公司的压力。这是埃隆·马斯克 2025 年 1 月 20 日在华盛顿特区第一资本体育馆发表演讲的照片。据美国科技新闻媒体 TechCrunch 报道，加州总检察长办公室也在一份声明中表示，xAI“促进了大规模生产未经有关各方同意的裸露内容”，并且有迹象表明相关内容被用来：“通过互联网骚扰成年人和未成年人。”该机构要求 xAI 在未来五天内提供文件，表明其正在采取纠正措施。本周早些时候，加利福尼亚州州长加文·纽瑟姆 (Gavin Newsom) 指责 xAI 有“不良意图”并允许 Deepfake 性剥削内容在网上传播。他要求加利福尼亚州总检察长办公室调查 xAI 是否违反加利福尼亚州法律。确实，你将承担法律责任 由 xAI 开发的 Gronk 已集成到马斯克的 X 社交媒体平台中，用户可以直接致电他。 最近几周，PlatformGrock 的一些前合作伙伴篡改了现实生活中的图像并生成了伪造的裸体内容，然后他们在马斯克平台上传播了这些内容，周四，Ashley St. Clair 在纽约市提起诉讼，指控 xAI 允许用户使用 Gronk 伪造裸体图像。o 美联社。圣克莱尔是活跃在加州 Platformion 上的“网红”。在外界舆论压力下，两家公司近期都收紧了对Gronk的执法措施，但其做法却引发争议。上周，xAI 只向付费用户提供 Gronk 的图像生成和编辑功能，但公众指责该公司将问题“货币化”，而不是解决问题。本周早些时候，该平台宣布将禁止所有用户使用 Grock 生成基于真人的假裸照。不过，路透社记者测试发现，截至美国东部时间周三中午，Grok 仍然能够根据用户的需求私下生成色情图片。近年来，随着大规模AI模型的快速发展，AI技术已被用于改变面孔和声音、生成deepfake内容并在网上传播。业内专家学者认为，AI Deepfake的治理包括评估模型算法的安全性、管理产生有害内容的人工智能工具的使用等多个方面，需要建立“全链条”治理体系。 （王宜军）
（编辑：王祖鹏）