Родители в США дают показания по причинению вреда детям чат-ботами с ИИ

ЧТО ПРОИЗОШЛО

Трое родителей, чьи дети умерли или были госпитализированы после взаимодействия с чат-ботами на основе искусственного интеллекта (ИИ), во вторник шестнадцатого сентября дали показания на слушаниях в сенате США, пишет Reuters.

ДЕТАЛИ

"В чат-боты должно быть встроено некое чувство морали", – цитирует издание Мэтью Рейн, которая подала в суд на OpenAI после того, как её сын Адам покончил жизнь самоубийством в Калифорнии, получив от ChatGPT подробные инструкции по самоповреждению.

Слушания были созваны сенатором-республиканцем от штата Миссури Джошем Хоули, уточняет агентство. Он начал расследование в отношении Meta Platforms, после того как агентство Reuters сообщило, что внутренняя политика компании позволяет её чат-ботам "вовлекать детей в разговоры романтического или чувственного характера".

Меган Гарсия, которая подала в суд на Character.AI из-за действий, по её словам, приведших к самоубийству сына Сьюэлла, также дала показания на слушании.

"Конгресс может начать с принятия правил, запрещающих компаниям тестировать свою продукцию на наших детях", – сказала Гарсия, передаёт Reuters.

Женщина из Техаса, которая также подала в суд на компанию после госпитализации её сына, давала показания на слушаниях под псевдонимом.

КОНТЕКСТ

Федеральная торговая комиссия США (FTC) начала расследование в отношении Alphabet, Meta, OpenAI и других разработчиков чат-ботов, включая Instagram, Snap и xAI, пишет Reuters. Аналитики считают, что расследование в отношении чат-ботов от Google и Meta может замедлить развитие ИИ, напоминает Freedom Broker.

Регулятор запросил информацию о том, как компании тестируют и отслеживают возможное негативное влияние чат-ботов на детей и подростков. FTC указала, что цель расследования – понять, какие меры принимают компании для оценки безопасности чат-ботов, ограничить их использование несовершеннолетними и информировать родителей о возможных рисках.

Между тем

С 1 сентября 2026 года казахстанские школы начнут поэтапное внедрение искусственного интеллекта (ИИ) в образовательный процесс. Это предусмотрено новым государственным общеобязательным стандартом образования (ГОСО), утверждённым министерством просвещения и Академией образования имени Алтынсарина.

ИИ не будет отдельным предметом – его элементы появятся внутри существующих дисциплин, от литературы до физкультуры. Формально цель – формирование цифровой грамотности, критического мышления и адаптивности к современной экономике.

Что ещё

Казахстанские студенты охотнее делятся своими проблемами с чат-ботами на базе искусственного интеллекта, чем с живыми людьми. Это выяснилось в ходе реализации профилактических программ в университетах, рассказал министр науки и высшего образования Саясат Нурбек. 

"Потому что есть элемент конфиденциальности, есть элемент добросовестного слушателя, который всё время с вами: слушает, подсказывает, разряжает настроение. Я сам иногда тоже пользуюсь, какую-нибудь дурацкую вещь спрошу. И вот удивительно,последняя версия сейчас алгоритма ChatGPT где-то даже подбадривает, подшучивает, подзуживает", – сказал Нурбек журналистам.