Потеря контроля: нобелевский лауреат Джеффри Хинтон призвал притормозить развитие ИИ

что произошло

Нобелевский лауреат по физике 2024 года и один из главных пионеров машинного обучения Джеффри Хинтон выступил с очередным тревожным заявлением. В интервью изданиюThe Times ученый прямо отметил, что текущие темпы разработки сверхинтеллекта неразумны и представляют прямую угрозу существованию цивилизации, передает Day.Az.

потеря контроля

По словам Хинтона, если созданные человеком алгоритмы превзойдут его по умственным способностям, контролировать их станет почти невозможно. Потеря контроля над такими системами может привести к тому, что ИИ начнёт преследовать собственные цели – например, стремиться к получению ресурсов или самосохранению, пренебрегая интересами людей. В общем, всё будет как в фантастических фильмах о роботах.

дополнительные факты

Джеффри Хинтон -британско-канадский учёный, стоявший у истоков нейросетей и глубокого обучения. В 2024 году он был удостоен Нобелевской премии по физике за исследования в сфере искусственного интеллекта. В 2023 году Хинтон уволился из Google после 10 лет работы, чтобы свободно говорить о риске цифровых технологий, не связывая себя корпоративной этикой. Хинтон оценивает риск вымирания человечества из-за ИИ в районе 10–20%. По его прогнозу, система, превосходящая человека по интеллекту, может появиться уже в ближайшие 5–20 лет. Помимо гипотетического захвата мира сверхинтеллектом, учёный указывает на более насущные проблемы: массовую потерю рабочих мест, волну дезинформации, создание автономного оружия и использование ИИ злоумышленниками для разработки биологического оружия. Учёный настаивает на срочном международном регулировании и обязательных правилах безопасности для техкомпаний, разрабатывающих AGI (общий искусственный интеллект).