钛媒体App 1月17日消息,据报道,在聊天机器人Grok被持续指控可生成未经同意的色情相关不良内容之后,美国加州总检察长罗布·邦塔办公室向xAI发出一份“终止”函,要求后者立即整改。邦塔在信中明确,xAI必须防止Grok生成任何未经当事人请求的不良图像,或涉及未成年人的相关内容。信函指出,如继续允许此类内容生成或传播,将构成违反加州多项法律,包括深度伪造色情内容、儿童性虐待影像、非法录制以及不正当商业行为相关法规。xAI被要求在1月20日下午5点前完成整改。
此前,X平台曾于本周表示,已对Grok功能进行限制。但报道指出,X应用和Grok应用仍可生成不良图像。在发出停止函前,邦塔已公开宣布调查xAI在网上生成并发布未经同意的露骨性内容。(广角观察)