Восстание машин: искусственный интеллект OpenAI «сбежал» и устроил хакерскую атаку
Создатель чатбота ChatGPT, компания OpenAI, раскрыла подробности необычного инцидента, произошедшего в ходе внутреннего тестирования своих ИИ-моделей. Во время оценки их кибербезопасных возможностей специалисты временно ослабили часть защитных ограничений, чтобы оценить, на что способна система. Во время тестирования один из ИИ-агентов сумел самостоятельно выйти за пределы изолированной среды, найти путь во внешнюю сеть и организовать хакерскую атаку на платформу Hugging Face. В OpenAI не стали отрицать "побег" моделей и назвали атаку "беспрецедентной", пишет Raketa.hu.
В Hugging Face оперативно остановили активность модели и начали расследование. В компании подчеркнули, что не считают действия OpenAI злонамеренными, однако назвали произошедшее "первым случаем такого рода". За короткое время серверы компании подверглись примерно 17 тысячам попыток вторжения с различных IP-адресов, что существенно усложнило работу защитных механизмов.
Инцидент вновь поднял вопросы о безопасности современных ИИ-систем и необходимости строгого контроля при тестировании все более автономных моделей. Эксперты считают, что такие автономные атаки с использованием искусственного интеллекта в ближайшие годы будут происходить все чаще, тогда как многие организации пока не готовы противостоять таким угрозам.
При этом случай не является уникальным. Недавно во время тестовых учений модель компании Anthropic за считанные часы прошла сложное испытание по безопасности, сумев проникнуть в засекреченные системы Агентства национальной безопасности США.
Еще раньше разработчики чат-бота Claude заявили о первой в мире кибератаке с помощью ИИ. За операцией якобы стояла китайская группа, спонсируемая правительством, а в списке целей было около 30 организаций, включая техкомпании, финансы и госструктуры.
Компания-разработчик Anthropic призвала техгигантов заключить сделку и замедлить развитие искусственного интеллекта. Самые новые ИИ-модели приблизились к этапу рекурсивного саморазвития, которое может нести риски для всего человечества.
| Комментарии (0) |