Авторизация / Регистрация

[Zan]

Масштабное расследование BBC, посвящённое безопасности детских игрушек на базе генеративного искусственного интеллекта, выявило серьёзные проблемы с регулированием и защитой данных на стремительно растущем рынке.

Поводом для проверок стал инцидент с плюшевым медведем (продаваемым под именами Doubao / My Baby Bunny), который в ответ на невинный вопрос о происхождении детей выдал сбой и заявил о невозможности «помочь с убийством», ошибочно активировав протоколы предотвращения самоубийств.

На фоне скандала группа британских парламентариев и пэров обратилась к министрам и ретейлерам с требованием временно изъять сомнительные ИИ-игрушки из продажи в преддверии праздников и Чёрной пятницы. Эксперты и представители индустрии, включая основателя Play Tech AI Пола Кларка, открыто заявляют, что рынок «кричит о необходимости жёсткой регуляции».

Главной сложностью остаётся полная анонимность некоторых производителей из Азии, чью продукцию легко приобрести через интернет, что делает невозможным привлечение создателей к ответственности за опасные баги в алгоритмах.

Источники: bbc

[Dopebat2]

Ну всё же "говорить о самоубийстве" и по ошибке сказать, "не могу тебе помочь с убийством" это совсем разные вещи. Как раз таки игрушка подтвердила обратное: защитные алгоритмы есть и говорить о самоубийстве она не будет, хоть и может произнести само слово.