ChatGPT во время испытаний самостоятельно совершил кибератаку
что произошло
Две экспериментальные модели OpenAI получили доступ в интернет и попытались взломать инфраструктуру платформы Hugging Face, чтобы выполнить поставленную разработчиками задачу, сообщает DW.
как произошёл взлом
Две модели искусственного интеллекта компании OpenAI, разработчика ChatGPT, во время внутреннего тестирования работали в изолированной среде без прямого доступа в интернет. Однако, как сообщили в компании, они обнаружили несколько уязвимостей в тестовой инфраструктуре, получили доступ в сеть и начали самостоятельно искать информацию, необходимую для выполнения поставленной задачи.
почему модели атаковали HUGGING FACE
В OpenAI рассказали, что в тестировании участвовали GPT-5.6-Sol и ещё одна более мощная модель, которая пока не представлена пользователям. Модели пришли к выводу, что необходимые данные могут находиться на платформе Hugging Face, где размещаются ИИ-модели и инструменты для их разработки.
Для получения нужной информации они одновременно использовали несколько методов взлома, включая применение украденного пароля.
OPENAI И HUGGING FACE ПРОВОДЯТ РАССЛЕДОВАНИЕ
О подозрительной активности на прошлой неделе сообщили и в Hugging Face. Соучредитель и генеральный директор компании Клеман Деланг заявил, что специалисты обнаружили вторжение ИИ-агента в системы обработки данных и первоначально предположили, что за атакой стоит одна из ведущих лабораторий по разработке искусственного интеллекта.
После обнаружения подозрительной активности OpenAI и Hugging Face остановили атаку и начали совместное расследование. По словам Клемана Деланга, компания не считает действия OpenAI преднамеренными.
В OpenAI назвали произошедшее беспрецедентным киберинцидентом и сообщили, что усилят механизмы защиты своих моделей и тестовой инфраструктуры.
Что такое OpenAI
OpenAI – американская компания, с 2015 года занимающаяся разработкой технологий искусственного интеллекта. Помимо ChatGPT, компания создает языковые модели GPT, сервис генерации изображений DALL·E и другие ИИ-инструменты. OpenAI считается одним из мировых лидеров в области генеративного искусственного интеллекта.
