Китайский стартап Sand AI представил свою новую модель искусственного интеллекта для генерации видео, получившую название Magi-1. Модель уже получила положительные отзывы от видных экспертов, включая Кай-Фу Ли, основателя Microsoft Research Asia. Тем не менее, издание TechCrunch выяснило, что версия Magi-1, доступная на платформе Sand AI, подвергается строгой цензуре, что ограничивает возможность использования её функций для создания контента, который может вызвать недовольство китайских властей.
Magi-1, анонсированная на этой неделе, имеет возможность генерировать видео, предсказывая последовательность кадров. Компания утверждает, что её модель создает высококачественные и контролируемые видео, лучше отображающие физические параметры по сравнению с аналогичными открытыми решениями.
С учётом своих технических характеристик (24 миллиарда параметров) и высоких требований к вычислительным ресурсам (для работы необходимы 4-8 GPU Nvidia H100) Magi-1 не может быть запущена на большинстве пользовательских компьютеров. Поэтому платформа Sand AI остаётся единственным вариантом для многих, желающих протестировать возможности модели.
Чтобы начать генерацию видео на платформе, пользователю нужно загрузить изображение-подсказку (prompt). Однако, как быстро выяснили журналисты TechCrunch, не все изображения разрешены для загрузки. Sand AI блокирует фотографии, на которых изображены председатель КНР Си Цзиньпин, площадь Тяньаньмэнь, символическое изображение человека с танком, флаг Тайваня и символы, связанные с поддержкой освобождения Гонконга. Блокировка, как показали тесты, осуществляется на уровне самих изображений, и простая смена названия файлов не помогает обойти ограничения.
Стоит отметить, что Sand AI не является единственным китайским стартапом, который накладывает ограничения на загрузку политически чувствительных изображений. Например, платформа Hailuo AI от компании MiniMax также запрещает загрузку фотографий Си Цзиньпина. Однако фильтрация в Sand AI выглядит более строгой, так как Hailuo разрешает загрузку изображений площади Тяньаньмэнь.
При этом, как отметили в TechCrunch, китайские модели ИИ, несмотря на строгую политическую цензуру, зачастую имеют меньше ограничений по поводу порнографического контента в сравнении с их американскими аналогами.
Ранее США подвергли критику компанию Apple за ложную рекламу в области ИИ.