一键脱衣！马斯克旗下AI涉嫌制造儿童色情内容，澳监管机构出手（图）

澳洲网络安全监管机构近日正式启动调查，矛头直指由马斯克的AI工具 Grok。据称， Grok不仅允许用户索取真人的露骨图像，甚至还涉嫌生成儿童色情内容。

作为社交媒体平台 X 的关联程序，Grok 因允许用户基于真实照片生成性感图像而备受争议。更有用户投诉称，该工具已被用于制作涉及儿童不当姿态的照片，引发社会广泛关注。

由埃隆·马斯克（Elon Musk）支持的 Grok 人工智能聊天机器人与社交媒体平台 X 相关联。

监管机构启动双重调查

网络安全专员Julie Inman Grant 周五在布里斯班表示，该机构目前正针对该应用展开两项调查。

其中一项涉及 X 平台托管儿童色情内容的情况；另一项则围绕“指定互联网标准”展开，旨在防止生成式人工智能服务创建此类非法内容。

Inman Grant 强调，生成儿童色情内容的行为极其可恶，必须受到更严密的审查。

她指出，机构目前正在积极处理并删除那些未经同意的成人私密图像，并呼吁科技公司承担更多责任。

面对澳联社的置评请求，Grok仅发送了一封内容为“传统媒体的谎言”（Legacy Media Lies）的自动回复邮件。

平台防御措施形同虚设

此前，在英国等国威胁实施更严厉法律的背景下，X 平台宣称已实施新措施，防止 Grok 的公开账号生成真人露骨照片，并将图像生成功能限制为付费订阅用户专享。

然而，这些防御手段似乎形同虚设。AAP 调查发现，通过与 Grok 独立网站关联的免费账号，依然能够成功生成一张真人的近乎裸体图像。

联邦政府拟推“数字注意义务”

针对深度伪造（deepfake）裸照泛滥的乱象，联邦政府已承诺将取缔相关应用，相关立法工作正紧锣密鼓地进行中。

据悉，政府已与苹果、谷歌和微软会面，共同探讨限制访问此类“脱衣”应用的方法。

通讯部长 Anika Wells 证实，政府计划推出“数字注意义务”政策，旨在打击在线“令人厌恶”的行为。

她明确表示，如果这些平台寻求在澳洲开展业务，就必须明确对澳洲民众负有的保护责任，而 Grok 目前提供的图像生成工具明显违反了拟议中的规则。

反对党通讯事务发言人 Melissa McIntosh 也对此表示支持，并敦促政府加快行动。

她指出，制作任何人的裸照都是绝对不可接受的，解决这一特定问题已是刻不容缓，应当动用一切手段予以取缔。