Discord по ошибке забанил тысячи игроков из-за обычных скриншотов Minecraft
Discord восстановил более 8 тысяч аккаунтов, которые были ошибочно заблокированы после сбоя в системе автоматической модерации. Причиной стали обычные изображения из Minecraft, которые алгоритм по ошибке принял за запрещённый контент, связанный с эксплуатацией детей.
Под ограничения попали пользователи, отправлявшие скриншоты инвентаря, шахматных досок, таблиц и других изображений с характерной квадратной сеткой. Из-за сходства с шаблонами, используемыми системой проверки, алгоритм начал ошибочно помечать такие картинки как потенциально опасные.
После жалоб пользователей Discord признал проблему и пояснил, что подобный контент должен был лишь временно отправляться на ручную проверку. Из-за технической ошибки система сразу выдавала полноценные блокировки. Компания сообщила, что все затронутые аккаунты уже разблокированы, а также пообещала доработать механизм модерации, чтобы подобные ситуации не повторялись.
Re: Discord по ошибке забанил тысячи игроков из-за обычных скриншотов Minecraft
просто такого контента исчезающе мало, как бы не кричали об этом политики и не ущемляли права людей по всему миру из-за якобы этого.
а для обучения фильтров таких чем больше материала - тем лучше.
главное дальше не копать, а то выяснится что этим занимается полтора человека на весь мир и те сами являются политиками
Re: Discord по ошибке забанил тысячи игроков из-за обычных скриншотов Minecraft
давать автоматической системе права полной блокировки - гениально бл, чую по такому же сценарию какой-нить скайнет распознает в человеках ошибку и сотрёт всех из бытия от греха подальше вопрос только когда
Re: Discord по ошибке забанил тысячи игроков из-за обычных скриншотов Minecraft
Сообщение от Life:
давать автоматической системе права полной блокировки - гениально бл, чую по такому же сценарию какой-нить скайнет распознает в человеках ошибку и сотрёт всех из бытия от греха подальше вопрос только когда
щас все поехали на этих ии. Реальному человеку надо бабки платить, а тут написал алгоритм действий и всё в шоколаде (или нет). Потом в случае чего просто сказать: - извините.
п.с. а вообще я бы всех играющих в это уг, банил без зазрения совести.