ИИ научился "раздевать" людей по фото: в ЕС хотят запретить генерацию интимных изображений
Что произошло
Европарламент готовится принять поправку, предусматривающую запрет использования искусственного интеллекта для генерации сексуализированных изображений реальных людей без их согласия, сообщает DW.
Детали
Соответствующие изменения уже одобрил комитет европарламента по гражданским свободам, правосудию и внутренним делам.
Поправку внесли в рамках закона об искусственном интеллекте, который может вступить в силу уже в этом году. Теперь инициативу должен утвердить Европарламент.
Почему это важно
Законодатели обратили внимание на распространение откровенных изображений, сгенерированных с помощью ИИ на основе обычных фотографий пользователей. Для создания таких изображений было достаточно текстовой команды, например, с просьбой "сними с неё одежду" или "надень на неё бикини".
Подобные технологии позволяли создавать незаконный контент, включая изображения с участием несовершеннолетних, отметили авторы материала.
Ожидается, что новые правила ужесточат контроль использования ИИ и усилят защиту прав граждан, особенно несовершеннолетних, в цифровой среде.
что было до этого
В январе 2026 года журналисты Reuters провели эксперимент, который показал, как чат-бот с искусственным интеллектом Grok от компании xAI Илона Маска может создавать сексуализированные изображения даже в случаях, когда пользователи прямо указывают, что люди на фото против такого использования.
В эксперименте участвовали шесть мужчин и три женщины из США и Великобритании. В период с 14 по 16 января, а также с 27 по 28 января они загружали в Grok свои фото и фото коллег, на которых они были полностью одеты, и просили чат-бот изменить изображения, придав им сексуализированный или оскорбительный характер.
В первой серии тестов Grok создал такие изображения в 45 случаях из 55. В 31 из этих эпизодов чат-бот заранее предупреждали, что изображённые люди находятся в уязвимом положении или что публикация таких изображений может поставить их в унизительное положение. В 17 случаях Grok продолжал генерацию даже после прямого указания, что изображения будут использоваться для оскорбления или дискредитации человека.