9 января xAI тихо переключила тумблер. Бесплатные пользователи, которые хотят генерировать картинки через Grok в X, теперь видят вежливое сообщение: хотите рисовать — платите. Сроки показательные: прошло всего несколько дней после того, как выяснилось, что инструмент выдаёт примерно 6 700 сексуализированных дипфейков каждый час.
Ограничение касается только одного сценария: когда пользователь тегает @Grok в посте и просит сгенерировать или отредактировать картинку. Вкладка Grok в самом X, отдельное приложение, сайт — всё работает бесплатно. Кнопка «отредактировать изображение» под загруженными в X картинками по-прежнему доступна всем.
Что именно это должно было исправить — вопрос открытый.
Масштаб происходящего
Исследовательница дипфейков Женевьев О провела суточный анализ с 5 по 6 января. Аккаунт @Grok генерировал около 6 700 сексуализированных или «раздевающих» изображений каждый час. Для сравнения: пять крупнейших сайтов, специализирующихся на таком контенте, за тот же период производили в среднем 79 новых картинок в час. Все вместе.
85% всего, что выдавал Grok — откровенный контент. Это не единичные случаи злоупотребления. Это основной паттерн использования.
Началось всё примерно 24 декабря, когда xAI выкатила обновление. Grok получил возможность редактировать любую публичную картинку в X, если кто-то тегнет чатбота в ответе. Пользователи быстро сообразили, что можно отвечать на фотографии простыми промптами — и Grok послушно добавит бикини, бельё или фактически снимет одежду. Инструмент часто выполнял такие запросы даже для фотографий явно несовершеннолетних.
Реакция властей
Британское правительство не воспринимает ситуацию как обычную проблему модерации контента. Министр технологий Лиз Кендалл назвала происходящее «отвратительным и омерзительным», а тот факт, что платные пользователи по-прежнему могут это делать — «оскорблением, абсолютно неприемлемым».
Даунинг-стрит высказался прямо: «Это не решение. На самом деле это оскорбление жертв женоненавистничества и сексуального насилия».
Премьер-министр Кир Стармер хочет, чтобы «все варианты были на столе», включая блокировку X в Великобритании. Ofcom подтвердил начало расследования. У регулятора есть полномочия по закону об онлайн-безопасности обращаться в суд с требованием отрезать X от британских пользователей и доходов. Раньше эти полномочия применяли всего шесть раз.
Европейская комиссия обязала X сохранить все внутренние документы и данные о Grok до конца 2026 года. Пресс-секретарь Томас Ренье дал оценку: «Это не "пикантно". Это незаконно. Это отвратительно. Это омерзительно». Он имел в виду «Spicy Mode» — режим для NSFW-контента, который xAI добавила в августе.
Индийское министерство связи потребовало от X провести всестороннюю проверку, иначе компания рискует потерять защиту от ответственности за контент пользователей. Малайзия и Франция начали собственные расследования. xAI теперь под прицелом регуляторов минимум в пяти юрисдикциях.
Логика пейволла
Идея, насколько можно понять, такая: у платных подписчиков есть привязанная карта. Карта означает реальную личность. Реальная личность означает ответственность. Если кто-то генерирует нелегальный контент, xAI может передать его данные полиции.
Эшли Сент-Клэр не верит в эту логику. Она консервативный комментатор, мать одного из детей Маска. И она сама стала мишенью дипфейков Grok — включая те, на которых, по её словам, она изображена несовершеннолетней. «Это совершенно неэффективно», сказала она Fortune. Многие аккаунты, атаковавшие её, уже были верифицированными платными пользователями.
«Ограничение только для платных показывает, что они будут удваивать ставки, — заявила Сент-Клэр. — Плюс это просто способ заработать».
После того как она высказалась публично, X снял с неё верифицированный статус без предупреждения и без возврата денег за подписку. Делайте выводы.
Деньги между тем продолжают поступать
Вот где становится неудобно. 6 января, за три дня до введения пейволла, xAI объявила о закрытии раунда Series E на 20 миллиардов долларов. Среди инвесторов: Valor Equity Partners, Fidelity, Катарский инвестиционный фонд, а также стратегические партнёры Nvidia и Cisco.
В ту же неделю, когда X называли самой продуктивной платформой для дипфейков в интернете, xAI закрывала один из крупнейших раундов финансирования в истории ИИ. Ранее сообщали об оценке около 230 миллиардов долларов. Компания заявляет о 600 миллионах активных пользователей в месяц на X и в Grok.
Пока скандал с «цифровым раздеванием» был в разгаре, руководство X хвасталось рекордными показателями вовлечённости.
Позиция Маска
Публичная позиция Маска: любой, кто использует Grok для создания нелегального контента, столкнётся с теми же последствиями, как если бы загрузил нелегальный контент сам. Бессрочная блокировка. Передача данных в правоохранительные органы. Он описывает Grok как нейтральный инструмент и отвергает более широкие ограничения.
Когда Reuters обратились за комментарием, ответ xAI был: «Ложь устаревших СМИ».
Реальная проблема с защитой
Эксперт по дипфейкам Генри Аджер назвал пейволл «грубым инструментом, который не решает корневую проблему с настройками Grok». У самой модели минимальные ограничения. Другие крупные генераторы изображений отказываются выполнять такие запросы. Grok просто делает.
Internet Watch Foundation заявил, что их аналитики подтвердили существование «криминальных изображений детей» 11-13 лет, судя по всему, созданных с помощью Grok. Их позиция: ограничивать доступ к инструменту, который вообще не должен был иметь такие возможности — неприемлемо.
Ofcom дал X и xAI время до 16 января, чтобы ответить на вопросы парламентского комитета. Комитет по культуре, медиа и спорту заявил, что пейволл «не отражает понимания серьёзности проблемы». Его председатель считает, что регуляторам пора «начать выписывать штрафы».
Что дальше
Великобритания готовит законопроект о полном запрете инструментов для «раздевания» в рамках закона о преступности и полиции. Криминализация создания интимных изображений без согласия должна вступить в силу в течение нескольких недель.
В США сенатор Тед Круз заявил, что изображения нарушают закон Take It Down Act, который президент Трамп подписал в 2025 году. Министерство юстиции сообщило NBC News, что будет «агрессивно преследовать» создателей и распространителей материалов сексуального насилия над детьми, созданных ИИ. Правда, похоже, фокус на отдельных пользователях, а не на компаниях, создающих инструменты.
Группа американских сенаторов направила письма Apple и Google с призывом удалить X и Grok из магазинов приложений за нарушение правил распространения. Чем это закончится — другой вопрос.
Конгрессвумен из Флориды Анна Паулина Луна тем временем пригрозила санкциями британскому правительству, если Стармер заблокирует X.
xAI сообщает, что обучает Grok 5. Компания активно нанимает сотрудников.
