Европа возмущена идеей Маска использовать Grok для создания откровенных изображений людей

Ofcom предупреждает X о возможных штрафах из-за использования Grok для создания незаконного контента

Регулятор Ofcom выразил беспокойство по поводу «крайне тревожных сообщений» о том, что чат-бот Grok используется для создания и распространения обнаженных изображений людей, а также сексуализированных изображений детей. Об этом сообщает Latvia Today.

В случае установления фактов нарушения закона Ofcom может наложить на X (бывший Twitter) штраф в размере до 10% от его мирового оборота или 18 миллионов фунтов стерлингов (около 21 миллиона евро), в зависимости от того, какая сумма окажется больше.

Если X не выполнит предписания регулятора, Ofcom имеет право обратиться в суд с требованием полностью заблокировать доступ к платформе на территории Великобритании.

На прошлой неделе премьер-министр Великобритании Кир Стармер в эфире радиостанции Greatest Hits комментировал скандал, связанный с Grok: «Это позор. Это отвратительно. И это недопустимо. X должен взять ситуацию под контроль», — заявил он, пообещав принять меры.

Министр науки, инноваций и технологий Лиз Кендалл, как ожидается, выступит в понедельник в Палате общин с заявлением по поводу Grok. Ее предшественник, министр торговли Питер Кайл, в комментарии программе BBC Breakfast отметил, что Grok, по его мнению, не прошел надлежащую проверку, и назвал это возмутительным.

«Тот факт, что буквально вчера я встретил еврейскую женщину, которая обнаружила, что ИИ сгенерировало и выложило в интернет ее изображение в бикини на фоне Освенцима, вызвал у меня тошноту», — сказал он.

Журналисты Би-би-си ознакомились с несколькими примерами таких изображений, на которых женщин «раздевали» без их согласия и «заставляли» принимать сексуальные позы. Одна из женщин пожаловалась, что было создано более 100 сексуализированных изображений с ее участием.

Как сообщалось Bloomberg 7 января, с 5 по 6 января Grok генерировал примерно 6700 сексуализированных изображений в час.

Илон Маск, владелец X, заявил, что любой, кто использует Grok для создания незаконного контента, столкнется с теми же последствиями, что и те, кто публикует такой контент. В то же время, комментируя публикацию о том, почему другие ИИ-платформы не подвергаются проверке, Маск написал, что британское правительство ищет «любой предлог для цензуры».

Маск также поделился изображением тостера в бикини и вопросом о том, почему серия изображений старшего премьер-министра, сгенерированных другими нейросетями, вызывает такую озабоченность, если Grok продолжает функционировать. Он добавил, что «они просто хотят ограничить свободу слова».

После инцидента в Миннеполисе, где сотрудник иммиграционной службы (ICE) убил женщину, некоторые пользователи X использовали Grok, чтобы «раздеть» старую фотографию жертвы. Когда агентство AFP запросило комментарий по этому поводу, компания xAI ответила автоматическим сообщением: «Традиционные СМИ лгут».

В официальном аккаунте X Safety сообщают, что нелегальный контент, включая материалы, связанные с сексуализированным насилием над детьми, удаляется, а на аккаунты, распространяющие его, накладываются ограничения. Маск делился этой записью, подчеркивая, что создатели такого контента столкнутся с теми же последствиями, что и те, кто его публикует.

Недавно Ofcom предупредил X и xAI о необходимости предоставления информации о функции Grok, отметив, что в зависимости от их ответа может быть начато расследование. Представитель Ofcom сообщил, что регулятор «получил ответ» и сейчас «проводит ускоренную оценку». Ofcom намерен оценить, нарушал ли X закон, не удаляя незаконный контент вовремя.

Также следователи рассматривают, были ли приняты «надлежащие меры» для предотвращения просмотра такого контента пользователями в Великобритании. Регулятор подчеркивает, что к такому контенту относятся «интимные изображения, созданные без согласия», а также материалы сексуального характера с участием детей.

Представитель Ofcom не стал уточнять сроков расследования, но отметил, что оно является «вопросом высочайшего приоритета». «Платформы обязаны защищать людей в Великобритании от контента, который является незаконным в стране», — утверждает Ofcom, добавляя, что при негодовании от бездействия компаний будет проведено расследование.

В четверг Grok объявил о том, что генерация и редактирование изображений теперь доступны только платным подписчикам. Однако официальный представитель британского премьера указал, что это решение лишь превращает возможность создания незаконных изображений в платную услугу и не решает главную проблему.

«Это оскорбляет жертв мизогинии и сексуального насилия», — отметила канцелярия Стармера.

Представитель Еврокомиссии Томас Ренье подчеркнул: «Это не меняет нашей принципиальной позиции — платная подписка или бесплатная. Мы не хотим видеть такие изображения. Все предельно просто». Он добавил, что платформа должна обеспечивать, чтобы ее системы не позволяли генерацию незаконного контента.

Еврокомиссия ранее сообщала о проведении расследования по случаям публикации и создания откровенных изображений юных девочек, сгенерированных Grok после введения в прошлое лето платной функции Spicy Mode.

«Это не „пикантно“. Это незаконно. Это возмутительно. Это отвратительно. Этому не место в Европе», — подчеркнул представитель Еврокомиссии.

Клифф Штайнхауэр из некоммерческой организации National Cybersecurity Alliance отметил, что теперь доступ к инструментам генерации изображений в Grok ограничен, однако это не устраняет рисков, которые приводят к появлению несогласованного сексуализированного контента.

«Одних лишь ограничений доступа недостаточно для комплексной защиты; мотивированные злоумышленники смогут найти обходные пути», — добавил он.

Недавно Grok был заблокирован в Малайзии и Индонезии, а меры против него также планируют в Франции и Индии. Это не первый скандал вокруг Grok: в июле чат-бот восхвалял Адольфа Гитлера и оставлял антисемитские комментарии. xAI тогда сообщила, что будет блокировать такие высказывания до их публикации.