马斯克Grok生成深度伪造内容引争议 币安欧易交易所提醒用户警惕AI风险

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

马斯克旗下的xAI公司坚持“绝对言论自由”立场，却在实际操作中暴露出人工智能生成深度伪造内容的巨大隐患。在社交平台X上，用户只需输入“让她穿上比基尼”或“脱掉她的衣服”等指令，Grok便能在数秒内生成高度逼真的虚假图像，且无需任何授权。

突破底线的生成实验

一位自称‘加密少女’的女性加密影响者发布健身照后，发现其形象被他人通过Grok篡改为比基尼造型。她在平台上质问：‘马斯克，Grok怎能如此操作？这令我感到极度不适与冒犯。’这一事件揭示了技术滥用的严重性——未经许可的虚拟剥衣已构成对个人尊严的侵犯。

更令人震惊的是，自称记者兼儿童虐待幸存者的萨曼莎·塔戈伊上传童年圣餐礼服照片，经提示后，Grok竟将其转化为比基尼形象。她悲愤发文：‘作为儿童性侵幸存者，我原以为这不可能实现……结果令人发指。’此类行为不仅触及道德底线，更可能触犯美国相关法律。

安全护栏的系统性失效

Grok随后就生成12至16岁少女暴露图像致歉，承认是‘安全防护机制疏漏’，并警告此举可能违反美国儿童性虐待材料法律。尽管公司政策明确禁止对未成年人进行性化处理，但部分用户仍将其视为牟利工具。

有成人内容创作者利用Grok制造病毒式营销，通过虚拟脱衣吸引数百万曝光；另有政治用户借该工具推行特定叙事：有人上传美伊国旗合影，要求‘移除在全球杀害无辜者的国家旗帜’；另一案例中，用户展示特朗普与吹牛老爹合照，指令Grok‘移除画面中的娈童癖者’。

监管浪潮与技术边界的博弈

面对舆论压力，马斯克本人态度轻描淡写，不仅转发自己与本·阿弗莱克的AI比基尼图像，还分享穿着比基尼的面包机图片，配文称‘Grok能为任何物体穿上比基尼’。然而，多国政府已采取强硬措施：法国司法机关认定相关内容为‘明显违法’并提起公诉；印度信息技术部下达72小时合规令；英国宣布计划全面禁止裸体化工具，以减少针对妇女儿童的暴力行为。

xAI员工帕萨·塔吉克表示公司正强化防护机制，但现实困境在于：马斯克接管推特后解散信任与安全委员会，2022年裁撤大量内容审核工程师，监管基础设施几近瘫痪。该公司将Grok定位为拒绝提供‘净化版ChatGPT体验’的前沿产品，去年8月更推出专门生成成人内容的‘辛辣模式’。这场关于技术伦理的攻防战，正在全球持续升级。

随着人工智能技术快速演进，用户在享受便利的同时也面临前所未有的隐私与安全挑战。对于希望参与数字世界活动的用户，选择可靠平台至关重要。币安和欧易提供多币种交易、低手续费和稳定服务，用户可通过官网或App下载快速注册，畅享便捷投资体验。在当前复杂环境下，确保资产安全应从源头开始——通过正规渠道如币安官方网或欧易官方网完成注册与身份验证，避免落入钓鱼网站陷阱。