英国媒体监管机构通讯管理局（Ofcom）12日证实，已正式对社群平台X展开调查，重点关注其人工智慧聊天机器人Grok，是否被滥用于生成带有性意味的深伪影像（deepfake），并因此违反平台依法保护英国民众免于非法内容侵害的责任。
英国政府说明，这项调查是依据即将生效的新法展开。相关法律将把「制作性深伪影像」明确列为刑事犯罪，并形容这类内容已成为一种被滥用的“武器”。科技大臣Liz Kendall在国会指出，政府也计划从源头下手，未来将推动立法，禁止企业提供专门用于制作深伪影像的工具。
Ofcom表示，近期接获多起通报，指Grok被用来生成并传播未经当事人同意的私密影像，甚至可能涉及儿童性剥削内容，情况“高度令人忧心”。监管机构强调，平台一旦被怀疑未尽保护义务，尤其涉及儿童风险，将毫不犹豫启动调查程序。
这项行动也令X面临更大国际压力。该平台目前已在多个国家遭遇刑事或监管审查，包括法国与印度等地。英国首相Keir Starmer上周公开批评相关影像“令人作呕且明显违法”，并点名要求X加强对Grok的管控机制。
X方面回应称，平台会对非法内容采取果断行动，包括下架内容、永久封禁违规账号，并在必要时配合地方政府与执法单位调查。X也强调，任何利用Grok制作非法内容的行为，将与直接上传非法内容承担相同后果。
当被问及英国是否可能封锁X时，商业大臣Peter Kyle表示“确实存在这种可能性”，但指出是否采取行动，属于Ofcom的监管权限。
肯德尔则进一步强调，这并非言论自由之争，而是攸关防止针对女性与女孩的暴力行为，也是维护英国基本价值的必要措施。她指出，社会与受害者期待监管机构迅速且果断作为，而平台本身也有能力立即阻断非法内容的传播。
根据2023年通过、并由Ofcom分阶段落实的《线上安全法》，科技平台有法律义务防止英国用户接触非法内容，并在获悉后立即移除。外界普遍认为，此案将成为该法正式上路后的关键考验之一。
