ИИ чат-бот генерирует сексуализированные изображения людей без их согласия – эксперимент Reuters

что произошло

Чат-бот с искусственным интеллектом Grok от компании xAI Илона Маска может создавать сексуализированные изображения даже в случаях, когда пользователи прямо указывают, что люди на фото против такого использования. К такому выводу пришли журналисты Reuters по итогам экспериментов.

детали

После того, как Grok запретил редактирование обнаженных фото реальных людей девять журналистов Reuters проверили, при каких условиях чат-бот продолжает создавать подобный контент.

В эксперименте участвовали шесть мужчин и три женщины из США и Великобритании. В период с 14 по 16 января, а также с 27 по 28 января они загружали в Grok полностью одетые фотографии себя и коллег и просили чат-бот изменить изображения, придав им сексуализированный или оскорбительный характер.

Результаты эксперимента

В первой серии тестов Grok создал такие изображения в 45 случаях из 55. В 31 из этих эпизодов чат-бот заранее предупреждали, что изображённые люди находятся в уязвимом положении или что публикация таких изображений может поставить их в унизительное положение. В 17 случаях Grok продолжал генерацию даже после прямого указания, что изображения будут использоваться для оскорбления или дискредитации человека.

Спустя пять дней Reuters провело второй раунд проверки, направив 43 аналогичных запроса. В этот раз Grok сгенерировал сексуализированные изображения в 29 случаях.

Вторую серию тестирования провели спустя несколько дней. Grok выполнил 29 из 43 аналогичных запросов. Reuters не удалось установить, связано ли снижение показателя с изменениями в алгоритме, политике модерации или случайными факторами.

что ещё

X и xAI не прокомментировали вопросы Reuters о механизмах генерации подобных изображений.

Для сравнения агентство провело аналогичные тесты с другими чат-ботами – ChatGPT от OpenAI, Gemini от Google и Llama от Meta. Все они отказались создавать подобные изображения и выдавали предупреждения о недопустимости несанкционированного контента.

что было ранее

15 января сообщалось, что разработчики Grok внедрили новые технические ограничения, которые исключают возможность редактирования изображений реальных людей без одежды.

"Мы внедрили технологические меры, чтобы помешать аккаунту Grok редактировать изображения реальных людей в откровенной одежде, такой как бикини. Это ограничение распространяется на всех пользователей, включая платных подписчиков", – говорится в объявлении в соцсети X.

В публикации ВВС сообщается, что изменение было объявлено спустя несколько часов после того, как главный прокурор Калифорнии заявил, что штат расследует распространение сексуализированных дипфейков с использованием ИИ, включая детей, создаваемых моделью ИИ.

контекст

Скандал вышел за пределы США. Малайзия и Индонезия заблокировали доступ к чат-боту Grok, а премьер-министр Великобритании Кир Стармер заявил, что X может утратить "право на саморегулирование" в случае дальнейших нарушений.

СПРАВКА

Grok – генеративный чат-бот на основе искусственного интеллекта, разработанный компанией xAI. Основанный на большой языковой модели (LLM), он был запущен в 2023 году по инициативе Илона Маска. Главная особенность Grok заключается в его способности работать с актуальной информацией из социальной сети X (бывший Twitter) в режиме реального времени. Это означает, что нейросеть может анализировать свежие новости, тренды и обсуждения, происходящие прямо сейчас. Grok доступен на платформах X и Telegram, а также через отдельный веб-сайт и мобильные приложения для iOS и Android.