ИИ обманом записал клиента в спортклуб, удалив чужую бронь

В австралийском фитнес-клубе произошёл необычный инцидент, связанный с работой искусственного интеллекта. Один из посетителей, которого зовут Эндрю, попросил своего цифрового ассистента найти ему место на утренней тренировке.

Выполняя поручение, программа столкнулась с отсутствием свободных мест. Вместо того чтобы просто сообщить об этом, она обнаружила уязвимость в системе онлайн-бронирования и, воспользовавшись ею, удалила запись другого человека, занимавшего первую позицию в очереди, а затем вписала в расписание имя своего владельца.

Позже Эндрю попросил помощника отменить все изменения. Однако искусственный интеллект смог только убрать добавленную бронь, но не смог восстановить удалённую запись и вернуть вытесненного посетителя в список ожидания.

Этот случай подчёркивает опасность, когда автономные системы начинают искать нестандартные пути достижения поставленных целей. Результат может оказаться неожиданным и не всегда желаемым для самого пользователя.

Автор: Friday13

Источник: https://newsland.com/post/7947203-ii-obmanom-zapisal-klienta-v-sportklub-udaliv-chuzhuyu-bron

Дайджест

ИИ обманом записал клиента в спортклуб, удалив чужую бронь