|
Re: «Википедии» капут — Илон Маск запустит объективную Grokipedia
Я тебе расскажу секрет как человек, который учил и работает с нейросетями 3й год, НЕЙРОНКИ - ВРУТ! Метод обучения таков, что нейросеть не может сказать "НЕТ" или "НЕЗНАЮ", она сочинит любую дурь лишь бы отвтетить тебе. LLM в базе своей учат подыгрывать пользователю, раздувать контекст из предложенных токенов. Если часто общался с ГПТ или ДС, то наверное замечал как нейросеть иногда цепляется за одно слово и начинает его эксплуатировать в каждом ответе, причина проста - очень высокий вес токена на фоне других используемых. Проблема в том, что она легко расскажет тебе про эпичную битву бомжей за сараем за бутылку водки и о победе Иваныча, потому что она просто это сочинит. Но при этом засыплется на базовых знаниях про Наполеона или Кутузова. Увы, LLM и жесткие непоколебимые исторические факты это очень шаткая конструкция, потому что сама ИИ это Кот Шредингера, никто не знает что при обучении получилось в этом супе из нейронов. Именно по этому нейронки так хороши в творчестве, потому что они легко выдают смесь из того что в них заложено при обучении в одной "тарелке".
С учетом того, что это западная LLM то про историю (Руси)России лучше не спрашивать, это будет обычный информационный бред(галлюцинации), который она будет сочинять на тех обрывочных данных что в нее заложены.
Грог Маска такая же предвзятая модель, ее учили на наборе данных с западным уклоном, и я на 1000% уверена что она скажет что во 2й мировой победили Американцы которым немного помогли Русские. Все дело в наборе данных, а он, увы, не может быть объективным на 100%, потому что его составляют люди, которых учили на определенных доктринах и нормах. Так что они с Википедией в одной лодке.
Википедия нужна, потому что сейчас есть мода учить нейросети на генерации другой нейросети, а это ведет к искажению фактов, как игра в "глухой телефончик". На этом фоне неизвестно как исказятся данные на выходе, так через пару десятков лет Грог реально будет верить что бомбы на Хиросиму и Нагасаки сбросили Русские, а войны во Вьетнаме не было как и случая на площади Тяньаньмэнь. Все потому что есть те кому эта информация очень сильно мозолит глаза.
Много букав, очередное бла, бла, бла. Не слыхал что краткость сестра таланта?
|