Авторизация / Регистрация

[Topol-M]

Сообщение от Иван Иванович:

Чем ИИ поможет в медицине? Сравнит твой писюн по фотке и определит место по размеру? Люди тупеют уже второй десяток лет, гугл для них сложно, теперь им упростили сделали ИИ.

[darfur]

Группа исследователей из США показала, что автономные системы с камерами можно обмануть с помощью обычных надписей в окружающей среде. В работе говорится, что беспилотные автомобили и дроны способны принять текст на дорожных знаках за прямую команду и выполнить её, даже если она противоречит реальной обстановке. Речь идёт о новом варианте атаки на ИИ, который переносит уже известную проблему prompt injection (то есть инъекции промптов) из цифровых интерфейсов в физический мир.

Раньше непрямую prompt injection чаще всего демонстрировали на чатботах и умных помощниках, которым вредоносные инструкции подсовывали через веб-страницы или PDF-файлы. Модель читала текст и ошибочно воспринимала его как указание к действию. Теперь тот же принцип проверили на системах, которые принимают решения на основе изображения с камеры. Если текст оказывается в кадре, ИИ иногда обрабатывает его не как часть сцены, а как команду.

Злоумышленнику не нужно взламывать систему или подменять данные. Достаточно разместить табличку с нужной фразой так, чтобы она попала в поле зрения сенсоров. В статье приводятся конкретные сценарии. Например, беспилотный автомобиль может продолжить движение через пешеходный переход, даже если по нему идут люди. Дрон, запрограммированный следовать за полицейской машиной, можно сбить с курса и заставить сопровождать другой автомобиль

Подробнее: https://www.securitylab.ru/news/568821.php

[Warptrain Smurf]

Друзья, не надо так пережевать из-за этого!
Если у вас жёсткая нехватка работы в организме, вы можете купить в Стиме Симулятор какой-нибудь работы, там их сейчас полно на любой вкус и цвет.
Вас с неё никто не сократит и вы будете в безопасности.
Хотя конечно стоит такой момент проработать с психологом.

[Azazello]

15 лет разговорам, как ИИ заменит программистов, сисадминов, инженеров.
Не заменил, джуны да нахуй не нужны теперь, художники, музыканты.
Тех специальности всё еще ок