Grok Илона Маска запретил редактирование обнаженных фото реальных людей
ЧТО ПРОИЗОШЛО
Разработчики Grok внедрили новые технические ограничения, которые исключают возможность редактирования изображений реальных людей без одежды, сообщает ВВС.
ДЕТАЛИ
"Мы внедрили технологические меры, чтобы помешать аккаунту Grok редактировать изображения реальных людей в откровенной одежде, такой как бикини. Это ограничение распространяется на всех пользователей, включая платных подписчиков", – говорится в объявлении в соцсети X.
В публикации ВВС сообщается, что изменение было объявлено спустя несколько часов после того, как главный прокурор Калифорнии заявил, что штат расследует распространение сексуализированных дипфейков с использованием ИИ, включая детей, создаваемых моделью ИИ.
ЧТО БУДЕТ ПРИ ПОПЫТКЕ СГЕНЕРИРОВАТЬ ОБНАЖЁННУЮ ФОТОГРАФИЮ
В соцсети добавили, что пользователи, которые попытаются создать через Grok изображения реальных людей в нижнем белье или купальниках, будут автоматически заблокированы в соответствии с законами своей страны.
ЧТО ЕЩЁ
В Х уточнили, что эти изменения не влияют на действующие протоколы безопасности: все запросы к ИИ и сгенерированный контент, публикуемый на платформе X, должны строго соответствовать правилам соцсети.
В администрации Х добавили, что команда по безопасности работает круглосуточно, внедряя дополнительные меры защиты, оперативно удаляя нарушающий и незаконный контент, при необходимости навсегда блокируя аккаунты, а также взаимодействуя с местными органами власти и правоохранительными структурами.
КОНТЕКСТ
Скандал вышел за пределы США. Малайзия и Индонезия заблокировали доступ к чат-боту Grok, а премьер-министр Великобритании Кир Стармер заявил, что X может утратить "право на саморегулирование" в случае дальнейших нарушений.
Справка
Grok – генеративный чат-бот на основе искусственного интеллекта, разработанный компанией xAI. Основанный на большой языковой модели (LLM), он был запущен в 2023 году по инициативе Илона Маска. Главная особенность Grok заключается в его способности работать с актуальной информацией из социальной сети X (бывший Twitter) в режиме реального времени. Это означает, что нейросеть может анализировать свежие новости, тренды и обсуждения, происходящие прямо сейчас. Grok доступен на платформах X и Telegram, а также через отдельный веб-сайт и мобильные приложения для iOS и Android.
