Для входа на форум нажмите здесь
Популярные темы
Новые комментарии
Guide Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Автор темы: DrSlon
Дата создания: 11.11.2026 04:20
Originally Posted by DrSlon:
Картриджи менять иишка не умеет так что ты всегда будешь востребован
Зацени:
- Чем отличается нейросеть от охранителя?
- Нейросеть способна к обучению, а охранитель - нет.
gogi's Avatar
хозяин корги
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by survordie:
400 разделить на 250 - даже 2 не получится. А у тебя аж 3! Зато сразу видно твой уровень развития.
ты вроде про 150 вещал, но видимо после ии расслабона память меня стала подводить
впрочем не важно, суть в том что ты некисло так просел по доходу и даже не понял почему так
еще и бочку катишь на мой бизнес, который растет каждый год

Originally Posted by Zan:
Я в целом очень мудрый человек
darkeh's Avatar
Генератор кокосовой воды
Join Date:
01.04.2008
20 лет вместе!
Issue reason: 20 лет вместе! Медаль "1К лайков" GoHa.Ru - 10 лет Разбойник
С Новым 2020 годом!
Issue reason: Чтобы в Новом 2020 году всё-таки отдохнули хорошо и встретились! (Иллай)
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by elDen:
раньше такое было фронтиром и все кипятком писали с этого.
и чем старее и следовательно тупее модель - тем конкретнее надо ей запросы ставить.
причем промпт может написать и сама модель, типа сначала говоришь написать промпт под твою задачу, а затем в свежем контексте уже используешь этот промпт.

также настройки модели крайне важны.
там у каждой есть рекомендуемые в описании на хуге.
но в целом для кодинга надо температуру понижать до 0.6 как правило у всех.
всякие k у ряда моделей тоже.
пенальти настраивать рекомендованные.
Температуру уже большинство фронтиров вывели из входных параметров, т.к. модели достаточно обучены чтоб выставлять температуру, top p, top k в зависимости от запроса автоматически
Антропик так вообще в 4.8 убрал, а уже 5.5 в ходу и думаю в начале года 6 выйдет
shtirliz's Avatar
Свидетель
Join Date:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by Dopebat2:
Мышление меняет оно очень хорошо - от низкоуровневого задрота-программиста, который не видит всей картины, до архитектора проекта, который знает что и как устроено, ведёт всю разработку, но при этом не заморачивается лишними деталями вроде того как правильно написать цикл на нужном языке - для этого есть раб-кодер в виде ии, который сам прекрасно знает все языки и их нюансы.
Это все в теории.
Твоя страта забрала у системы всю память полностью (qwen 3.8 flash next). Под другие приложения осталось 280 мегабайт из 32гб...
мне не подошла
DrSlon's Avatar
Скрепный имперец
Join Date:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Issue reason: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Issue reason: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Issue reason: За III место в большом конкурсе гайдов по Revelation Признанный автор
Issue reason: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Ну как я понял без оперативы толку от неё нет, раскрывается при 64+
Помойму проще купить пару тройку средних видеокарт чем 64 гига оперативы

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

survordie's Avatar
Маньяк
Join Date:
07.09.2026
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by gogi:
ты вроде про 150 вещал
Я говорил, что многие компании за 150 хотят сионьров найти - да, такое было.
Originally Posted by gogi:
и даже не понял почему так
Снова фантазируешь. Прекращай.
Originally Posted by gogi:
еще и бочку катишь на мой бизнес, который растет каждый год
Каждый год? Ты вроде говорил про май этого года. Соврал?
В любом случае, это ты бочку катишь на крупный бизнес, мысля при этом мелко. Поэтому, как я говорил выше - "сперва добейся". А потом мы тебя будем слушать.

Originally Posted by shtirliz:
Твоя страта забрала у системы всю память полностью (qwen 3.8 flash next). Под другие приложения осталось 280 мегабайт из 32гб..
Не Страта забрала, а Винда жрёт непомерно много. Там 4Гб ОЗУ как минимум можно освободить, поставив нормальную ОС. А то и больше. Плюс сжатие памяти можно настроить пораньше.

Добавлено через 3 минуты

Originally Posted by DrSlon:
Ну как я понял без оперативы толку от неё нет, раскрывается при 64+
В любом случае это лучше в разы лучше чем запуск на одной видеокарте. Но при твоих 24Гб VRAM да, она полностью раскроется лишь минимум на 64Гб ОЗУ.

Ставим Линукс правильно: Debian 13 + Xfce
Last edited by survordie; 13.11.2026 at 19:02. Reason: Добавлено сообщение
shtirliz's Avatar
Свидетель
Join Date:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by survordie:
В любом случае это лучше в разы лучше чем запуск на одной видеокарте. Но при твоих 24Гб VRAM да, она полностью раскроется лишь минимум на 64Гб ОЗУ.
прога сама пишет что этой модели надо 30гб оперативки.
щас еще погуглил. Оказывается для нормальной работы надо минимум 12гб vram.
это не мой вариант. буду дальше оламу пробовать с ограниченными возможностями
elDen's Avatar
Мастер клинка
Join Date:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by darkeh:
Температуру уже большинство фронтиров вывели из входных параметров, т.к. модели достаточно обучены чтоб выставлять температуру, top p, top k в зависимости от запроса автоматически
Антропик так вообще в 4.8 убрал, а уже 5.5 в ходу и думаю в начале года 6 выйдет
ну разговор про локальные модели и конкретно последний квен - там всё это актуально.

Originally Posted by DrSlon:
Ну как я понял без оперативы толку от неё нет, раскрывается при 64+
Помойму проще купить пару тройку средних видеокарт чем 64 гига оперативы
там проблема в длинной подгрузке с ссд.
если есть 100гб+ свободного места на nvme - можно попробовать, а вот на обычном ссд будет боль.
оно каждый раз промпт разбирать будет целую вечность если все в оперативку не влезло.
но потом сам вывод будет шустрый.
survordie's Avatar
Маньяк
Join Date:
07.09.2026
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by shtirliz:
прога сама пишет что этой модели надо 30гб оперативки.
30 Гб VRAM + RAM! Не оперативки! Т.е. суммарно твоя видеопамять + оперативная память.

Originally Posted by shtirliz:
щас еще погуглил. Оказывается для нормальной работы надо минимум 12гб vram.
Брехня. Я выкладывал видео, где запускал на 8Гб VRAM. Твои данные сильно устарели.

Ставим Линукс правильно: Debian 13 + Xfce
survordie's Avatar
Маньяк
Join Date:
07.09.2026
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Вообще, для нормального локального использования LLM нужен Линукс (потому что он банально экономит овердохрена ОЗУ). А Линукс это автоматически означает видеокарта от AMD. Потому что хуанговские говноподелки с Линуксом нормально работать не могут/работают нестабильно. Соответственно всем владельцам Ненавидиа, которые губу раскатали что щас они локально на Винде получат то же самое, что Гога за 200 баксов, могу лишь сказать, что либо вы покупаете нормальную видеокарту от AMD и ставите нормальную операционную систему (нет, это не Винда!) либо вы платите 200 баксов как Гога. Потому что иначе вы не получите тот же результат!

Ставим Линукс правильно: Debian 13 + Xfce
shtirliz's Avatar
Свидетель
Join Date:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by survordie:
Вообще, для нормального локального использования LLM нужен Линукс (потому что он банально экономит овердохрена ОЗУ). А Линукс это автоматически означает видеокарта от AMD. Потому что хуанговские говноподелки с Линуксом нормально работать не могут/работают нестабильно. Соответственно всем владельцам Ненавидиа, которые губу раскатали что щас они локально на Винде получат то же самое, что Гога за 200 баксов, могу лишь сказать, что либо вы покупаете нормальную видеокарту от AMD и ставите нормальную операционную систему (нет, это не Винда!) либо вы платите 200 баксов как Гога. Потому что иначе вы не получите тот же результат!
Имхо для нормально и комфортной работы надо подписку брать или покупать топовое железо за ляма полтора если ты полный псих.
А на слабых железках оно работает очень плохо...больше гемора чем пользы.
Не настало еще время для локальных ИИ. Это больше "развлечение" для энтузиастов вроде тебя, которым делать больше нехер.

Добавлено через 12 минут

Originally Posted by survordie:
30 Гб VRAM + RAM! Не оперативки! Т.е. суммарно твоя видеопамять + оперативная память.


Брехня. Я выкладывал видео, где запускал на 8Гб VRAM. Твои данные сильно устарели.

Тут простая арифметика. Винда сжимает память и она 500мб максимум.
Жрет память не винда, а тяжелые приложения вроде vs code, компиляторы, браузеры и т.д. И это легко может уйти за 5-10 гб.
Поэтому твой линукс не поможет. Нужно ставить отдельный сервер или докупать память.

В принципе у меня есть свободная железка Ryzen 5600x (12 потоков) 32gb ddr4 и SSD nvme 512мб. Я туда мог бы видюху 3070 поставить.
Только хз потянет ли она ваш стратум....
Last edited by shtirliz; 13.11.2026 at 21:41. Reason: Добавлено сообщение
gogi's Avatar
хозяин корги
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by shtirliz:
покупать топовое железо за ляма полтора если ты полный псих.
Чот сомневаюсь что тебе хватит полтора ляма. Я брал сервак с 1тб озу еще задолго до бума, как раз потора ляма вышло. И он без видяхи, мне не надо ее было. Щас такой как квартира стоит, а если видяху добавить правильную то вообще забей

Originally Posted by Zan:
Я в целом очень мудрый человек
DrSlon's Avatar
Скрепный имперец
Join Date:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Issue reason: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Issue reason: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Issue reason: За III место в большом конкурсе гайдов по Revelation Признанный автор
Issue reason: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
ладно хрен с вами, я поставил бубунту, поставил стратум, но без оперативы он мне предложил какой то треш пережатый так что даже мама сказать не сможет. поэтому я выкинул его и поставил ламу и старый добрый квен Q5. потом может бабки будут докуплю железок и соберу нарм сервачишко.
Originally Posted by shtirliz:
Не настало еще время для локальных ИИ. Это больше "развлечение" для энтузиастов вроде тебя, которым делать больше нехер.
ну сайты нормально делает как мы уже убедились. игру на уе5 под ключ конечно не осилит но отдельные моменты вроде сборки 1000 однотипных ассетов это уже очень большая услуга. ну и ботить в чатике твича тоже кто то должен.

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

survordie's Avatar
Маньяк
Join Date:
07.09.2026
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by shtirliz:
А на слабых железках оно работает очень плохо...больше гемора чем пользы.
Вот ничего не могу сказать по этому вопросу. Нет у меня даже слабой железки на 16Гб VRAM. А без этого можно превратиться в гадающего Гоги - то ли да, то ли нет.

Originally Posted by shtirliz:
Поэтому твой линукс не поможет. Нужно ставить отдельный сервер или докупать память.
Это предположение, не более.

Originally Posted by shtirliz:
Тут простая арифметика. Винда сжимает память и она 500мб максимум.
Арифметика Винды не работает на Линукс. Вот это простая арифметика! Практические исследования показывают сжатие 2 к 1 на Линукс в самом худшем случае. В лучшем может достигать и 5 к 1.
Originally Posted by shtirliz:
Жрет память не винда
Жрёт память именно Винда! 6 Гб ОЗУ против 600мб на Линукс! 5Гб ОЗУ уж оказывают какое никакое а влияние!

Originally Posted by shtirliz:
Я туда мог бы видюху 3070 поставить.
Только хз потянет ли она ваш стратум....
Ненавидиа - говнище полное! Поэтому вопрос некорректен. Это Нанавидиа не может нормально в линуксовые драйвера. Даже пробовать нет смысла. На Линуксе - только нормальная видеокарта от AMD.

Добавлено через 48 секунд

Originally Posted by DrSlon:
я поставил бубунту,
Ты ошибся, поставив нестабильный Линукс.

Ставим Линукс правильно: Debian 13 + Xfce
Last edited by survordie; 13.11.2026 at 22:37. Reason: Добавлено сообщение
shtirliz's Avatar
Свидетель
Join Date:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by survordie:
Ненавидиа - говнище полное! Поэтому вопрос некорректен. Это Нанавидиа не может нормально в линуксовые драйвера. Даже пробовать нет смысла. На Линуксе - только нормальная видеокарта от AMD.
у меня 2 года стажа майнинга на линуксе+ненавидия и все там было отлично. На линуксе CUDA работает безупречно.
А ты так говоришь т.к. красножопые всегда ненавидели зеленых
survordie's Avatar
Маньяк
Join Date:
07.09.2026
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by shtirliz:
у меня 2 года стажа майнинга на линуксе+ненавидия и все там было отлично. На линуксе CUDA работает безупречно.
Линукс - он разный. Можно поставить нормальный Линукс, как у меня в подписи. И да, проблем будет сильно меньше(почти около нуля). А можно поставить Вейланд, который прям при запуске будет валиться с ошибкой. Поэтому не надо сказок про CUDA на Линуксе, т.к. до этих сказок ещё дожить нужно.

Originally Posted by shtirliz:
А ты так говоришь т.к. красножопые всегда ненавидели зеленых
Да мне вообще пофиг на лагерь. Я говорю так, потому что это так и есть. У зелёных превосходные железячные характеристики, которые просираются драйверами ПОЛНОСТЬЮ! Плюс наплевательское отношение Ненавидиа к владельцам старых видеокарт, которых они просто бросили на произвол судьбы. В то время как AMD видеокарты того же года выпуска (и старше!) без проблем работают! Поэтому это не красножопые ненавидят зелёножопых! Это производители зелёножопых ненавидят своих покупателей!

Ставим Линукс правильно: Debian 13 + Xfce
shtirliz's Avatar
Свидетель
Join Date:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by survordie:
Линукс - он разный. Можно поставить нормальный Линукс, как у меня в подписи. И да, проблем будет сильно меньше(почти около нуля). А можно поставить Вейланд, который прям при запуске будет валиться с ошибкой. Поэтому не надо сказок про CUDA на Линуксе, т.к. до этих сказок ещё дожить нужно.


Да мне вообще пофиг на лагерь. Я говорю так, потому что это так и есть. У зелёных превосходные железячные характеристики, которые просираются драйверами ПОЛНОСТЬЮ! Плюс наплевательское отношение Ненавидиа к владельцам старых видеокарт, которых они просто бросили на произвол судьбы. В то время как AMD видеокарты того же года выпуска (и старше!) без проблем работают! Поэтому это не красножопые ненавидят зелёножопых! Это производители зелёножопых ненавидят своих покупателей!
ну я десктопный линукс и не собирался ставить. нахер он мне
поставлю дебиан и норм
survordie's Avatar
Маньяк
Join Date:
07.09.2026
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by shtirliz:
ну я десктопный линукс и не собирался ставить. нахер он мне
Ну тогда в твоём случае только подписка, как Гога и говорил.

Ставим Линукс правильно: Debian 13 + Xfce
shtirliz's Avatar
Свидетель
Join Date:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by survordie:
Ну тогда в твоём случае только подписка, как Гога и говорил.
почему? это будет экспериментальный сервер для strata 20 токенов в секунду судя по ИИ гугла
survordie's Avatar
Маньяк
Join Date:
07.09.2026
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by shtirliz:
почему? это будет экспериментальный сервер для strata 20 токенов в секунду судя по ИИ гугла
Ну, я основываюсь на том опыте, который получил от запуска LLM локально. Могу ошибаться.

Ставим Линукс правильно: Debian 13 + Xfce
elDen's Avatar
Мастер клинка
Join Date:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by shtirliz:
В принципе у меня есть свободная железка Ryzen 5600x (12 потоков) 32gb ddr4 и SSD nvme 512мб. Я туда мог бы видюху 3070 поставить.
Только хз потянет ли она ваш стратум....
потянет, но скорость парсинга промпта буде не фонтан.
так что агентские задачи где много вызовов тулов и последующего парсинга их вывода - будут страдать по скорости.
а в остальном получишь свои 20-30 токенов.

Originally Posted by DrSlon:
но без оперативы он мне предложил какой то треш пережатый так что даже мама сказать не сможет. поэтому я выкинул его и поставил ламу и старый добрый квен Q5.
это уже можно сказать старый миф, что высокое сжатие радикально снижает качество.
уже давно сжимают так, что q1 в худшем случае 15% теряет в качестве от оригинала.

ну и в целом надо смотреть на хуге что там за сетка, т.к. все сжимают по-разному.
есть самые примитивные кванты от анслота, они не хитрят и у них самые большие потери.
а есть всякие хитрые, где что-то сжимают, а что-то ваще не сжимают и качество уже не так сильно страдает.
ну и файнтюны чтобы поднятуть качество выше оригинала.
DrSlon's Avatar
Скрепный имперец
Join Date:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Issue reason: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Issue reason: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Issue reason: За III место в большом конкурсе гайдов по Revelation Признанный автор
Issue reason: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by survordie:
Ты ошибся, поставив нестабильный Линукс.
и в чем же его нестабильность?

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

survordie's Avatar
Маньяк
Join Date:
07.09.2026
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by DrSlon:
и в чем же его нестабильность?
в том, что натаскивает новый функционал, который может поломать систему после обновления.

Ставим Линукс правильно: Debian 13 + Xfce
DrSlon's Avatar
Скрепный имперец
Join Date:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Issue reason: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Issue reason: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Issue reason: За III место в большом конкурсе гайдов по Revelation Признанный автор
Issue reason: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by survordie:
в том, что натаскивает новый функционал, который может поломать систему после обновления.
я обновления отключил

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

survordie's Avatar
Маньяк
Join Date:
07.09.2026
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Originally Posted by elDen:
а в остальном получишь свои 20-30 токенов.
Это если сможет запустить. А так да, на 8Гб VRAM примерно столько и есть.

Добавлено через 1 минуту

Originally Posted by DrSlon:
я обновления отключил
Красавчег! Имитируешь поведение Дебиан. Только вопрос - а зачем имитировать поведение Дебиан, когда можно поставить сам Дебиан?

Ставим Линукс правильно: Debian 13 + Xfce
Last edited by survordie; 13.11.2026 at 23:30. Reason: Добавлено сообщение
Posting Rules