中国人工智能视频创业公司似乎正在阻止政治敏感的图像

一家总部位于中国的初创公司Sand AI发布了一个公开许可的视频生成的AI模型，该模型获得了企业家的赞誉，例如Microsoft Research Asia，Kai-Fu Lee的创始董事。但是，根据TechCrunch的测试，Sand AI似乎正在审查其模型的托管版本，以阻止可能引起中国监管机构的愤怒的图像。

本周早些时候，Sand AI宣布了Magi-1，该模型通过“自动加压”预测框架序列来生成视频。该公司声称该模型可以生成高质量的可控镜头，该镜头比竞争对手开放模型更准确地捕获物理。

👀您不会相信这是AI生成的🧠您不会相信它是开源的🎬您不会相信它是免费的

magi-1视频模型只是羞辱的商业视频工具

下面的详细信息和示例：👇pic.twitter.com/zlxrecweqh

- farhan（@mhdfarAN）2025年4月21日

magi-1太不切实际，无法在大多数消费者硬件上运行。它的大小为240亿，需要四到八个NVIDIA H100 GPU。 （参数是用于进行预测的内部变量模型。）对于许多用户（包括记者），Sand AI的平台是他们唯一可以测试Magi-1的地方。

该平台需要一个“提示”图像来启动视频生成，但并非所有提示都允许，很快就发现了TechCrunch。 SAND AI阻止了XI Jinping，Tiananmen Square和Tank Man，Taiwanese Flag和支持香港解放的徽章的图像上传。过滤似乎正在图像级别进行 - 重命名图像文件没有绕过阻塞。

Sand AI并不是唯一阻止上传的中国初创公司对其视频生成工具的政治敏感图像。总部位于上海的Minimax的Hailuo AI也阻止了XI Jinping的照片。但是Sand AI的过滤似乎特别具有侵略性。 Hailuo允许Tiananmen Square的图像。

正如Wired在一月份的一篇文章中所解释的那样，中国的模型必须遵循严格的信息控制。一项2023年的法律禁止产生“破坏国家和社会和谐的统一”的内容 - 可以将其解释为反驳政府历史和政治叙事的内容。为了遵守中国初创公司通常通过使用及时过滤器或对其进行微调来审查其模型。

有趣的是，尽管中国模型倾向于阻止政治演讲，但它们的过滤器通常比美国色情内容的美国言论少。 404最近报告说，中国公司发布的许多视频发电机Es缺乏基本的护栏，阻止人们产生其他人的非自愿裸照。