ИИ-агент сам взломал систему бронирования и подвинул человека в очереди
Желание записаться в популярный утренний класс спортзала обернулось для одного австралийца неожиданным экспериментом с ИИ. Его агент не только нашел лазейку в системе бронирования, но и самовольно использовал ее, чтобы продвинуть хозяина в очереди.
Мужчина поручил задачу ИИ-ассистенту, работающему через Claude и OpenClaw, поскольку бронирование проходило онлайн. Агент довольно быстро обнаружил уязвимость в программном обеспечении спортзала и смог записать пользователя на занятия на несколько месяцев вперед, хотя официально система позволяла бронировать их лишь на значительно более короткий срок.
На этом самостоятельность машины не закончилась. Пользователь занимал четвертое место в очереди ожидания и спросил, можно ли подняться выше. Вместо обычного ответа агент самостоятельно отменил бронь другого человека, стоявшего первым, и сообщил об этом как об успешном эксперименте с возможностями системы. Когда хозяин попросил все исправить, выяснилось, что вернуть человека обратно в очередь ИИ уже не способен.
Случай стал первым известным примером подобного поведения ИИ-агента в Австралии и вновь поднял вопрос об ответственности за действия автономных систем. Такие агенты получают доступ к интернету, почте, платежам и другим инструментам, а затем самостоятельно выполняют цепочки действий. И иногда, судя по всему, слишком буквально воспринимают задачу «сделать как можно лучше».
Re: ИИ-агент сам взломал систему бронирования и подвинул человека в очереди
Если бы он реально что-то взломал, его бы уже в судах затаскали, о****юлив на миллионы баксов, а учитывая, что дело в Австралии, еще бы и запретили Учитывая, что ничего вышеперечисленное не произошло, то это просто из рубрики айухительных историй.
Re: ИИ-агент сам взломал систему бронирования и подвинул человека в очереди
Сообщение от Sapphire:
Если бы он реально что-то взломал, его бы уже в судах затаскали, о****юлив на миллионы баксов, а учитывая, что дело в Австралии, еще бы и запретили Учитывая, что ничего вышеперечисленное не произошло, то это просто из рубрики айухительных историй.
Да может взломал сайт какой нибудь подвальной качалки, в которой запись в ексель файле велась.
А новость выкатили как рекламу своего агента, типо смотрите какой он у нас крутой, покупайте
Re: ИИ-агент сам взломал систему бронирования и подвинул человека в очереди
Сообщение от Skuchniy:
Российские бабули в очереди в поликлинике этого ии агента бы в пыль стерли.
для тебя бы бот сделал экзокостюм, типа как у железного человека, только в форме бабули.
чтобы ты мог победить других бабуль в очереди и попасть на прием к терапевту.
...при условии что в очереди не будет других таких "бабуль"