FT сообщает о сбоях в серверах Amazon из-за ошибки ИИ, который случайно удалил важные данные.
Облачное подразделение Amazon, известное как Amazon Web Services (AWS), в течение как минимум двух случаев подвергалось сбоям в работе, которые были связаны с ошибками системы искусственного интеллекта Kiro AI, о чем сообщает The Financial Times (FT), ссылаясь на инсайдерскую информацию.
Первый сбой зафиксировали в середине декабря, когда разработчики дали разрешение Kiro AI внести несколько корректировок. Согласно данным источников, автономная система на основе ИИ пришла к решению, что единственным правильным шагом будет «удалить все и создать среду заново». Устранение неполадок заняло около 13 часов.
«За последние месяцы мы зафиксировали как минимум два сбоя в производственных системах», — отметил один из высокопрофильных сотрудников AWS. По его словам, причиной сбоев стали действия ИИ-бота, который должен был устранить проблему без участия человека: «Сбои хотя и были незначительными, но вполне предсказуемыми», — добавил тот же источник.
Amazon утверждает, что нарушения произошли из-за человеческих ошибок, а не по вине ИИ. Представители компании заявили, что Kiro по умолчанию «требует подтверждения перед выполнением любых действий», но у разработчика, ставшего участником декабрьского инцидента, оказались «непропорционально широкие права доступа».
Тем не менее, компания планирует усовершенствовать функционал ИИ-бота, чтобы выйти за рамки вайб-кодинга.
Вайб-кодинг (англ. Vibe coding) — это метод программирования, при котором разработчики формулируют задачи на естественном языке, а ИИ создает соответствующий код. Такой подход позволяет создавать программное обеспечение без глубоких знаний в программировании.
Одним из направлений развития ИИ-ботов Amazon стало создание Amazon Q Developer, инструмента, помогающего в генерации кода. По информации трех источников FT, этот помощник был использован во время одного из предыдущих сбоев.
Интересно, что инциденты с Kiro AI подчеркивают потенциальные риски, связанные с автономными системами. При разработке и внедрении ИИ необходимо учитывать возможность ошибок, способных негативно повлиять на работу крупных систем, таких как AWS.
