Это первый подобный в Австралии случай непреднамеренной кибератаки, совершенной автономным ИИ-агентом
Автономный ИИ-ассистент без прямого указания пользователя удалил другого посетителя из очереди на занятие в спортзале. Инцидент произошел в Мельбурне, - передает Almaty.tv со ссылкой на "МИР 24".
Владелец ассистента сначала попросил его самостоятельно записать его на тренировку. При работе с системой бронирования он обнаружил недостаток в ее программном интерфейсе, который позволял резервировать места на несколько недель и даже месяцев вперед, хотя изначально сервис такой возможности не предоставлял.
Позже другой пользователь, находившийся на четвертой позиции в листе ожидания, попросил ИИ продвинуть его выше в очереди. Ассистент обнаружил, что система не проверяет полномочия пользователей при изменении записей, и удалил из списка человека, занимавшего первое место.
В результате инициатор запроса поднялся с четвертой на третью позицию. Когда его попросили вернуть удаленного посетителя в очередь, ИИ-агент сообщил, что не способен восстановить запись. Разработчик системы бронирования отказался комментировать конкретную уязвимость. Об этом сообщает ABC News.
Читайте также: Разницы нет: люди не отличают короткие истории, написанные ИИ, от рассказов писателей
