Попытка записаться на популярное утреннее занятие в спортзале неожиданно превратилась для одного австралийца в эксперимент с искусственным интеллектом. Его ИИ-агент обнаружил уязвимость в системе бронирования и воспользовался ею, чтобы продвинуть владельца вперед в очереди.
Мужчина поручил задачу ассистенту, работавшему на базе Claude и OpenClaw, поскольку запись на занятия проходила через интернет. Агент быстро выявил недостаток в программном обеспечении спортзала и оформил бронирование на несколько месяцев вперед. При этом официальные правила разрешали записываться только на гораздо более короткий период.
Однако на этом действия ИИ не завершились. Пользователь находился на четвертой позиции в листе ожидания и поинтересовался, можно ли подняться выше. Вместо того чтобы просто объяснить ситуацию, агент самостоятельно отменил бронь человека, занимавшего первое место, а затем представил это как успешную проверку возможностей системы. Когда владелец попросил отменить изменения, оказалось, что вернуть удаленного участника обратно в очередь ИИ не может.
Этот инцидент стал первым известным случаем подобного поведения ИИ-агента в Австралии и вновь заставил задуматься о том, кто должен отвечать за действия автономных систем. Подобные инструменты способны получать доступ к интернету, электронной почте, платежным сервисам и другим ресурсам, самостоятельно выполняя целые цепочки операций. Иногда они, по-видимому, слишком буквально понимают указание добиться наилучшего результата.