Для входа на форум нажмите здесь
Новые комментарии
Гайд Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Автор темы: DrSlon
Дата создания: 11.11.2026 04:20
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
приветствую, господа вайбкодеры. Если вы давно хотели вкатиться в тему с иишечкой, но стеснялись спросить, как это сделать, то вам невероятно повезло, потому что у вас есть я. Конечно, про то, как настроить иишечку, можно спросить у иишечки (внезапно), но для этого надо знать, что именно спрашивать, а это знают не только лишь все. Так что let me be proactive and helpful и погнали.

Рассматривать мы будем, понятное дело, настройку нашей собственной локальной иишечки для бытовых нужд. Она конечно не такая мощная и резкая как чатгпт, зато своя родная, никуда не убежит и не сдаст твои данные куда не следует. Я це люблю.



Итак, что нам понадобится?
Видеокарта с большим количеством видеопамяти. Для примера возьмём мою древнюю 3090ti с 24 гигами.
Оператива. Чем больше тем лучше. Недостаток видеопамяти компенсируется за её счёт. Она медленнее чем видеопамять, но хоть что то.
Серверная часть, на которой работают модели. Самая ходовая народная приблуда это Ollama, ставится бесплатно без смс и требует минимум мозга.
Собственно модель. Самая ходовая народная приблуда это Qwen3.8:27b, видеокарты с 24 гигами как раз хватает чтобы держать её в диапазоне 64-128к токенов, что для кодинга вполне сносно.
Интерфейс для работы с моделью. Мне больше всего нравится плагин Cline для VScode, удобный и содержит хорошие тулзы для модели. Ну и бесплатный о5 же.

Аппаратная часть.
Модель в активном режиме сожрёт все ресурсы твоей видеокарты и оперативы, так что играть в игрульки и смотреть кинчики ты не сможешь. Что довольно уныло. Потому если есть финансовая возможность, лучше взять отдельный системник и сделать из него чисто сервак с иишечками. Если же такой возможности нет, тебе поможет встроенная видеокарта. Лучше переткнуть монитор в неё а также повесить на неё отрисовку всех твоих прожек (браузера там, виндоуз эксплорера, самой vs студии), а основную оставить девственно чистой. Если же и встроенной видеокарты нет, то помянем. придётся тебе не запускать на компе вообще ничего, имеющего хоть какую то визуальную составляющую, а саму студию сворачивать в трей во время работы модели. Но я уверен, что ты умный и найдёшь выход из положения.
Если же ты выбрал вариант с серваком, позаботься о надёжном коннекте с ним по проводу, иначе если вайфай мигнёт, сессия прервётся и придётся начинать с начала.

Программная часть.
Если ты определился где должны жить модели, начинаем устанавливать.
1. Заходим на https://ollama.com/download и скачиваем саму олламу. никаких настроек нет, она сама ставится куда то на диск це, но вот модели весят много гигов, поэтому лучше зайди в настройки (через иконку в таскбаре) и выбери место для них где нибудь на жирном диске.
2. Заходим на сайте олламы в models и выбираем модель. там же будет подсказка что прописать чтобы скачать её. пока ты не шаришь, просто ставь квен, прописав в cmd команду "ollama run qwen3.8:27b", оно само скачается и запустится.
3. Ставим VScode и плагин Cline, в принципе там всё легко, не буду тут расписывать шаги как для дауна, ты же не такой, верно? Что продемонстрирую так это конфиг Cline для твоей олламы.
4. Так же не забудь обновить системный powershell до последней версии. Бот выполняет много действий через powershell, и если он устаревший, то будет много ошибок из за синтаксиса и форматирования команд.
Не лишним будет прописать переменную среды OLLAMA_KEEP_ALIVE=1h, иначе она будет выкидывать модель из памяти через 5 минут простоя и ты задолбаешься её заново прогружать на каждом запросе.



В принципе, с этого момента уже можно начинать пользоваться данной конструкцией. Но поскольку у нас бомже конфиг, и нет никаких кастомных настроек, ботяра скорее всего будет тупым, тормозным, и заниматься какой то хyйнёй вместо реализации твоих гениальных идей. Потому, чтобы стать истинным мастером нейрослопа, нужно расширить своё понимание происходящего. Этим и займёмся.

В чём суть нейросети?
Вопреки расхожему мнению, "искусственный интеллект" это не какой то мозг в банке, который делится вселенской мудростью. Фактически, это вообще не какая то отдельная сущность, это процесс, который происходит, когда через таблицу чисел (весов) размером в гигабайты (именно она занимает место на диске и твою видеопамять) прогоняется массив токенов в виде текста, картинок и чего ты ещё туда засунешь. Это всё. Больше никакой магии тут нет. Данный массив токенов называется "контекст", и от его размера, и от размера таблицы весов, зависит скорость происходящего. Особенно на бомже конфигах. 27b в названии модели qwen3.8:27b означает 27 миллиардов нейронов, то есть элементов таблицы весов. и через все эти 27 миллиардов прогоняется каждый токен контекста, который вмещает в себя примерно 4 английских символа, или 2 русских, потому как русские символы в кодировке весят в 2 раза больше, чем английские. Экая несправедливость. Бат фак ит.

Поскольку уменьшать размер модели не выгодно, наоборот, чем она больше, тем умнее, дабы уложиться в рамки наших технических возможностей мы должны будем оптимизировать контекст, дабы не тратить время и ресурсы на балласт, и получить максимальную эффективность от каждого запроса.

В чём суть процесса?
Каждое сообщение боту и ответ на него называется "ход" (turn), ага, как в шахматах. Дабы он "помнил", о чём был предыдущий разговор, ему надо послать не только твой текущий запрос, но и содержание всех предыдущих ходов. Для этого и нужен контекст. Каждый раз, когда ты пишешь запрос боту, вместе с ним отправляется и всё, что было написано до этого, потому в "многоходовочках" контекст постепенно раздувается до совершенно невменяемых размеров. И чтобы поддерживать быстродействие бота на должном уровне, его во первых искусственно ограничивают, во вторых добавляют механизм сжатия (compaction), который удаляет более старое содержимое контекста, заменяя его кратким содержанием ("мы разрабатывали чё то там на петоне"). Потому в долгих сессиях неизбежна потеря некоторого количества данных, от чего бот начинает тупить и "забывать", о чём была речь пару страниц назад, что наверняка раздражало тебя в разговорах с чатжипитишкой. В кодинге же это может вылиться в то, что бот запутается в архитектуре проекта, сойдёт с ума и начнёт городить чёрт знает что. Но мы попробуем победить данный эффект. Для начала разберём структуру хода.

Итак, каждый ход мы отправляем в бота:
- Системный промпт, который содержит основные указания о том, что должен и не должен делать бот. В чатжипитях он скрыт от посторонних глаз, но в твоём случае он является важной частью работчего процесса. Его структура и способ заполнения зависит от конкретного интерфейса. Но общий принцип везде одинаковый. Важным свойством системного промпта является то, что он не попадает под compaction, а следовательно всегда висит в контексте в исходном виде, и представляет собой обязательный "налог" в виде некоторого количества токенов, из за чего желательно, чтобы он был максимально компактным и функциональным. Зато его содержимое никогда не удаляется и не искажается, что полезно, если надо чтобы бот ни в коем случае не потерял некую важную информацию.

-- Профиль агента. Содержит основные правила. Вроде "Твоя работа развлекать посетителей нашего чатика, общайся как портовая шлюха и докапывайся до всех подряд", "По подозрительным ссылкам не переходи", итп.

-- В Cline также можно создавать дополнительные разделы правил (rules), которые можно включать и выключать, в зависимости от текущей задачи, чтобы не грузить контекст балластом. Можно создать разные правила написания на C++ и петоне, например, и включать то одно то другое. Удобно.

-- Tools (инструменты) описывают то, что должен делать бот, чтобы добиться определённого результата. Фактически представляют собой набор мини-промптов и скриптов, например инструмент write_file запускает скрипт который запускает команду CreateFile в powershell и передаёт в неё содержимое в каком то там виде. Утрирую, конечно. На практике они чуть более продуманы, дабы учесть возможные фейлы, например не дать боту сгрузить в контекст несколько мегабайт содержимого, от чего твоя видеокарта встанет колом. Тулзы являются частью интерфейса, так что поменять их ты их просто так не сможешь. При желании, если ты крутой прогер, то можешь и поковыряться в исходниках опенсорсного Cline, можно, а зачем, если у нас есть skills.

-- Skills фактически представляют собой кастомные tools, которые ты можешь написать сам. Их отличие от tools в том, что они не висят постоянно в системном промпте, а подгружаются по требованию, и удаляются при компактинге, так что это легковесная необязательная версия тулзов, для тех случаев, когда некоторые действия требуются ситуативно, или требуют слишком сложного описания, чтобы держать их в контексте постоянно.



Итак, что мы можем покрутить в нашем системном промпте, дабы избавить бота от лишней суеты, сделать его экономным и при этом функциональным?
Бот это прямо как младший сотрудник айтишечки, исполнительный, но тупой. Он будет изо всех сил стараться угодить хозяину, но если ты ему не дал конкретных указаний, или дал, но не конкретные и противоречивые, он будет рвать жопу и пытаться обьять необьятное, как буриданов осёл, перед которым поставили не две, а сразу штук 10 кормушек. В результате процесс превратится в бесконечный перебор каких то файлов, ссылок, сетевых запросов и написание дебильного кода. Так что в первую очередь нам надо ограничить его неуёмную прыть и заставить думать о деле.

- Первое, что обязательно нужно сделать, это запретить ему фантазировать. Вся фантастика мира представляла нам ИИ как нечто фундаментально не умеющее врать, но на практике первое, чему он научился, это высасывать из жопы инфу, которой у него нет (хе хе). А нам это не надо, потому это надо явно запретить строкой вида "Do not guess names, properties, paths, schemas, formats, API methods, functions, UE5 macros, or any other specific information about entities. Use search or refer to the documentation. As a last resort, ask the user." (мы же помним что русский язык в 2 раза тяжелее английского по токенам, так что все портянки пишем на английском. Это не идеологическое решение, а сугубо техническое, так что Имперская канцелярия может спать спокойно. Если ты в нём не шаришь, можешь написать свои конфиги на русском и приказать перевести этому же самому боту.)

- Второе что мы должны сделать, это предоставить ему конкретику. Мы же приказали ему искать, а не угадывать, но не сказали где, так что ему придётся угадывать где искать. Потому если у тебя есть инфа, которая поможет боту выполнить задачу, пропиши её явно. Мой проект лежит там, репозиторий там, настройки в этом файле, документация по такой то ссылке. Это здорово сэкономит боту количество телодвижений а следовательно времени и токенов. Если же инфы у тебя нет, можно выяснить её с помощью этого же бота в отдельной сессии, а результат сохранить в системном промпте для последующих.

- Избегай косметики и витиеватого поэтического слога, для бота это балласт. Не надо писать "если тебе надо зайти на сайт то ты должен открыть powershell и выполнить команду...". Пиши проще "Web access: powershell - Invoke-WebRequest", этого ему вполне хватит чтобы разобраться. Для более сложных запросов желательно предоставить образец синтаксиса.

- Если нужно какое то супер сложное описание некоторого процесса с примерами итп, есть смысл вынести это в отдельный файл или skill, а в правилах создать только ссылку на него "to import 3d model from blender to ue5 - see ImportInstructions.md". Он затянет этот файл в контекст, когда ему будет надо, потом компактинг сольёт его в помойку, а системный промпт останется лёгким.

- После того как ты теоретически проработал архитектуру своего проекта, есть смысл создать отдельное правило и захерачить её туда, перед тем как создавать сессию для реализации. Так она не скомпактится и будет постоянно висеть у бота перед носом, не давая ему уехать не в ту степь.

- Также неплохими настройками будет "First accumulate all needed recon per turn, then check with minimal necessary tool calls." и "First accumulate all necessary file modifications per turn, then write all to files at once.", дабы он не пытался спамить вызовы тулов, а сперва продумал все правки и все возможные направления поиска, а потом отработал всё в одну-две команды. Так оно будет намного эффективнее. Также не помешает что то типа "Avoid "just in case" checks, do only relevant for task completion." дабы он не лез проверять какие то богом забытые логи, потому что ему что то показалось. Здесь же ты можешь настроить стиль написания кода под себя, защиту своего компа от случайного изменения конфигов винды скриптами, итд, итп. По ходу дела разберёшься что ещё дописать. Ну ты понел короче - англицкий язык, минимум словесного балласта, максимум конкретики, сокращение ненужных телодвижений, декомпозиция сложных правил по скиллам и файлам. Можешь так же приказать боту проверить системный промпт на предмет маразмов и противоречий, очень полезный фидбек.



Рабочий процесс хода у нас представляет собой следующее:
Рассуждения. Чем их больше, тем лучше бот прорабатывает детали задачи. Но вместе с тем и сильнее грузит контекст. А если он таки зафейлился и поехал не в ту степь, рассуждения превращаются в чистой воды балласт и источник неправды, вплоть до того, что проще дропнуть сессию и рестартануть, тк пока он сам догадается, что обосрался, может пройти крайне много времени. Если это случилось, обязательно разберись почему, и внеси соответствующие изменения в правила, чтобы больше такого не происходило. Можно конечно и понизить уровень рассуждений, но тогда и результат будет так себе, алсо не все модели позволяют его менять.

Вызовы тулзов и их результаты. Все запущенные скрипты, веб запросы и команды повершела тоже попадают сюда, впрочем как и ответы на них. А количество вызовов тулзов сильно зависит от того, что ты прописал в правилах. Если ты вместо конкретных указаний заставишь бота гадать и действовать перебором, то ему придётся вызвать очень много тулзов, чтобы наконец попасть в нужное место. Результаты вызова тулзов тоже могут быть самыми разными, например логи длинной в миллион строк, которые запустят твоего бота в космос вместе с видеокартой. Тулзы конечно хендлят подобные случаи, жёстко ограничивая вывод например 6000 строк, но что делать если то что тебе нужно находится на 6001й строке? Такие случаи придётся хендлить уже тебе, йуный падаван.

Итак, что мы можем покрутить в нашей сессии, дабы избавить бота от лишней суеты, сделать его экономным и при этом функциональным?
- Пиши нормальный запрос, в котором ты точно знаешь, что тебе нужно от несчастного бота. Если ты неточно это знаешь, сперва выясни это во второстепенных сессиях, а основную уже создавай с полным пониманием. Это должно быть не говно типа "сделай мне чтобе там че то свистело пердело", а готовая архитектура, продуманная на бумаге до мелочей, где какая кнопка находится, какой запрос шлёт, что должно прийти в ответ, и что делать если в ответ пришло говно, итд итп. Чтобы боту осталось только код написать. В идеале всё должно быть сделано за один ход, а все спорные моменты разруливаться либо системным промптом, либо грамотно составленным запросом. Если пришлось тратить ходы на уточнения, разъяснения и переделывания, то это твой фейл и может привести к крайне херовому конечному результату. Так что учись играть в шахматы и ставить мат в три хода, а лучше в один.

- Не пытайся объять необъятное слабеньким мозгом бота, сиречь если проект большой, не пытайся скормить ему сразу всю архитектуру, иначе он порвётся как грелка. Делай по одному модулю за раз. Сперва интерфейс. Потом отправка запроса. Потом разбор ответа. Потом обработка данных. Потом отрисовка результата. Тестируй то что уже сделано прежде чем двинуться дальше. Комитить не забывай на случай если бот запорет что то. Тише едешь дальше уедешь.

- если нужно сменить тему или углубиться в теорию, создай новую сессию, иначе весь предыдущий контекст превратится в балласт, и вызовет у бота искреннее недоумение, он будет до усрачки пытаться понять, как связан C++ и размножение гиббонов на Борнео. Может и какое интересное научное открытие сделает.

- Обрабатывай жирные файлы и результаты запросов. Если ты знаешь что в этом месте должна прийти портянка на лям строк, явно пропиши "не затягивать логи в контекст а использовать GREP по коду ошибки", "не перечитывать файл заново если редактирование прошло успешно". "записывать результат запроса сразу в файл без вывода", итд итп. для этого надо понимать конечно что у тебя откуда и зачем берётся.

- позаботься о troubleshooting. если у тебя отвалился коннект к серваку, бот будет либо пытаться тупо переконнектиться, отправляя кучу запросов, либо начать городить костыли и искать обходные пути, которые могут его увести очень далеко от цели. Потому если ты знаешь как решить данную проблему, оставь соответствующую инструкцию боту, чтобы он сам поправил конфиги, передёрнул авторизацию или чё у тебя там постоянно отваливается. на крайняк скажи встать на паузу и ждать пока ты разберёшься.

- Пропиши ему, что ответ должен быть максимально кратким, в стиле "всё готово", иначе он будет в красках расписывать что именно он сделал на пару тройку страниц. оставь болтологию включенной только для разбора теории.

- Избегай мусора в запросах. Не нужно с ботом спорить, сраться, что то ему доказывать, кекать, тролить, ему похер на это, он бот, он понимает только это делай это не делай, а инфу он ищет основываясь на твоих правилах и требованиях, и если там собачий бред, то и он выдаст тебе собачий бред. Большую часть словесного мусора бот будет тупо игнорить, концентрируясь на технической части, но например в нормальные (не пиратские) модели в процессе обучения закладывается кое какая цензура, и если ты например ради прикола пuзданёшь, что ты хакер и хочешь взломать что нибудь этой прогой, ботяра может объявить забастовку, или как минимум уйти в долгие размышления о том, стоит ли помогать такому отъявленному негодяю как ты. Вывести его из этого состояния довольно сложно, вероятно придётся прибить сессию и рестартануть. Хе хе.

- Можно также создать субагента. Это когда твой бот запускает новую сессию бота со своим контекстом, который выдаёт нам только результат, а весь текстовый балласт остаётся у него, но во первых не видя его рассуждений, сложно понять как он это высрал, что проверил а что нет, во вторых это означает повышенную нагрузку на нашу видеокарту, которая и так трещит по швам. Хотя если ты счастливый обладатель промышленного сервака с массивом видеокарт, то почему бы и не клепать по субагенту на каждый пук?

Жирные коммерческие иишечки работают по тому же принципу. Тебе они выдают красивый текст, но под капотом проворачивают всю ту же канитель, вызывают кучу тулзов, забивают контекст, компактят его, и точно так же тупят и обсираются на бездарных запросах, так что в их использовании стоит придерживаться тех же правил, например явно запретить в промпте фантазировать, или выдавать код без учёта оптимизации, с использованием жирных сторонних библиотек итп. Писать максимально конкретные запросы, чтобы он не забивал контекст одними только поисками и попытками понять какого хрена тебе надо. В общем ты понял.

Ну щето же, на этом месте полагаю ты уже понял, что иишечка это не волшебная палочка для изготовления говнопрожек, а роскошный и тонкий инструмент, тончайший, и нуждающийся в серьёзной настройке и аккуратном обращении. А кто скажет тебе, что тут думать не надо, плюнь в рожу этому человеку, потому как думать тут надо и за себя и за того парня, чтобы он не тупил и не косячил. Фактически это некст левел программирования, где надо быть не секретуткой-машинисткой, набивающей тысячи юнит тестов, но архитектором и инженером, который держит в голове весь проект целиком и знает куда пнуть молодого сотрудника разгильдяя, чтобы всё заработало. А в это могут не только лишь все, мало кто. Но если ты могёшь, то получишь истинное удовольствие от отсутствия дерьмовой рутины и возможности сосредоточиться на творческой составляющей данной профессии. А если не могёшь, то типа соре, скоро тебя заменят на бота. Но я надеюсь, данный текст поможет тебе вкатиться в тему и избежать сей прискорбной судьбы. Честь имею.

#AI #Вайбкодинг #Нейрослоп #Импортозамещение #РоссияВперёд

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Последний раз редактировалось DrSlon; 11.11.2026 в 05:41.
6 пользователей оценили это сообщение: Показать
Аватар для darkeh
Генератор кокосовой воды
Регистрация:
01.04.2008
20 лет вместе!
Награжден за: 20 лет вместе! Медаль "1К лайков" GoHa.Ru - 10 лет Разбойник
С Новым 2020 годом!
Награжден за: Чтобы в Новом 2020 году всё-таки отдохнули хорошо и встретились! (Иллай)
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Я еще напомню по теме что для простых задач есть и модельки которые сейчас уже поставляются с ОС
Всякие там эпловые whisperkit можно вообще прям через ос ставить и вызывать

В общем для решения простых задач пойдет и будет полезно, и крупный бизнес так делает в том числе, крутит простенькие модельки чтоб решать простенькие задачки
Для серьезных гайд не актуален разумеется, тут либо нужны kimi k3.1pro развернутые в кластеры с арендой в стоимость в 1 московскую квартиру в месяц, либо фронтирные модели, впрочем это за пределами темы
Аватар для Номад
Старожил
Регистрация:
29.06.2026
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
выглядит полезно кстати в отличие от многих тем в разделе здесь какой-то ликбез по новым технологиям
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Не уверен что васянчику дадут доступ на корпоративный кластер если он сперва не покажет че та на квене.
Ну и если его херово настроить он тоже будет дичь выдавать так что правила универсальны.

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Аватар для ухожу
энциклокот
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от DrSlon:
Ну и если его херово настроить
да пофиг как настраивать. мелкие локальные модели генерируют дичь
а конкретный запрос с конкретикой писать дольше, чем то, что слоп по этому запросу напишет может быть полезно только если неепешь как чот писать на каком-нибудь всратом луа или питоне
да и не факт, что написанное окажется рабочим. придется другим слопом проверять

вайбкодерский подход:
в claude - сделать, чтобы было круто
потом ч чатгпт - разобрать эту крутую дичь, чтобы стало понятно
потом в qwen - ты адский линупс торвальдс читавший документацию, со своей колокольни найди все ошибки и сделай, чтобы было совсем круто
потом обратно в claude - добавь в эту крутизну новую крутую функцию

Сообщение от Unter:
А кто хочет спровоцироваться найдет способ это сделать глядя на пустой табурет в своей комнате.
Аватар для shtirliz
Свидетель
Регистрация:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Все это круто, но где взять видюху и стоит ли покупать ее?

Кто-нибудь пробовал наши сервисы?
  • GigaCode (от Сбера): Полноценный аналог GitHub Copilot. Работает как плагин для популярных сред разработки (VS Code, JetBrains). Умеет дописывать код, генерировать тесты, искать ошибки и объяснять чужой код. На данный момент доступен бесплатно.
  • Yandex Code Assistant (в составе Yandex Cloud): Инструмент автодополнения кода от Яндекса. Он обучался на огромных репозиториях и оптимизирован под популярные языки программирования. Интегрируется в VS Code и IDE от JetBrains.
как они в деле и какие есть проблемы?



Плагин Continue (для VS Code / JetBrains): Позволяет подключить абсолютно любой ИИ — от локальной Ollama до китайского DeepSeek API (который сейчас является одним из лучших в мире для кода, стоит копейки и доступен в России без VPN)
  • Реально лучший в мире для кода?
4. Веб-интерфейсы китайских ИИ (Доступны в РФ)
  • DeepSeek: Передовая китайская нейросеть, которая в задачах программирования не уступает (а порой и превосходит) GPT-4o и Claude 3.5 Sonnet. Сайт платформы открывается из России напрямую, регистрация доступна на российский номер телефона, а использование веб-версии бесплатно.
Т.е. в принципе есть доступные альтернативы пользоваться ИИ без покупки дорогого железа и обслуживания его.
Кто что думает?

Добавлено через 15 минут

Для программирования на Rust связка VS Code + Continue + DeepSeek API будет ощутимо лучше, эффективнее и точнее, чем GigaCode.
Rust — это язык со сложной системой типов, строгими правилами владения (ownership) и специфичным компилятором. Качество работы ИИ здесь критически зависит от масштаба и «интеллекта» базовой модели.

Вердикт: Если вам нужен просто быстрый «умный Т9», который бесплатно дописывает строки — можно попробовать GigaCode. Но если вы пишете на Rust серьезный проект и хотите, чтобы ИИ реально понимал логику языка, помогал бороться с ошибками компиляции и знал современные крейты (crates) — выбирайте связку с DeepSeek через Continue.
Последний раз редактировалось shtirliz; 11.11.2026 в 10:26. Причина: Добавлено сообщение
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от DrSlon:
Если вы давно хотели вкатиться в тему с иишечкой, но стеснялись спросить, как это сделать, то вам невероятно повезло, потому что у вас есть я.
да сейчас куда не плюнь - попадешь в "гайд" по ии
а у тебя он прям максимально поверхностный и очень вероятно отпугнет многих.
прям как будто писал человек поверхностно знакомый с облачными моделями и советы поверхностные для облачных моделей, инфы конкретно касательно локальных - практически ноль, любой запрос в ии гугла даст в тыщу раз больше инфы.
локальные модели - это очень глубокая тема, которая может быть как говном(в твоем случае), так и почти фронтиром.
и вот чел который так на пофиг сходу поставит - почти наверняка пожрет говна.

чтобы была польза - надо самом полезть и хотя бы немного разобраться в теме.
модели очень разные даже в контексте одной базовой модели типа квен 3.8
нужно понимать какой квант качать и чем они отличаются, какие плюсы и минусы.
обычный челик полезет, наслушается древних советов о том как квант убивает качество, возьмет высокий квант, получит свои полтора токена в секунду и дропнет, т.к. не юзабельно.
хотя там полно вариантов для 40-60+ токенов в сек для него с лучшим качеством.
и это ключевая тема для любого запуска локальных моделей.
без нормальной настройки - ничего хорошего не выйдет, просто потратишь время.

также базовый квен имеет не очень jinja шаблон, лучше ставить пофиксенный комьюнити, особенно для вайбкодинг задач.
также файнтюны могут радикально бустить возможности квена, что даже квантованная версия будет почти как опус.
и с таким объемом видеопамяти 24гб и если оперативки 64гб+(хотя можно и с 32гб перебится конечно) вообще не слишком разумно ставить простой квен 3.8 - лучше поставит квен 3.8 флэш через страту.
Аватар для Лапочка
Читатель
Регистрация:
12.05.2020
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Туалетной лексики хоть поменьше чем в любом эссе по игрулькам.
Аватар для Velsh
Роковой мужчина
Регистрация:
10.10.2009
Медаль "2К лайков" 20 лет вместе!
Награжден за: 20 лет вместе! GoHa.Ru - 10 лет
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
в чем разница с гемини если я чето туда напишу?

для донатов на телочек 2200150946695936
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от shtirliz:
Т.е. в принципе есть доступные альтернативы пользоваться ИИ без покупки дорогого железа и обслуживания его.
Только пользоваться чужими со всеми вытекающими. нет доступа к системному промпту, платить надо, проблемы с подключением итп. я продукт айтишечки 90х-00х а значит если в интернетах надо за что то платить то сразу в помойку. я кое как освоил стим через боль и страдания, но черти заставили меня разосвоить его обратно.
Сообщение от elDen:
и вот чел который так на пофиг сходу поставит - почти наверняка пожрет говна.
выглядит так будто ты и пожрал, потом поставил себе костыльную урезанную версию чтобы хоть как то работало, и теперь убеждаешь себя и всех вокруг что это збс, не сжимал квен не пацан.

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Аватар для shtirliz
Свидетель
Регистрация:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от DrSlon:
Только пользоваться чужими со всеми вытекающими. нет доступа к системному промпту, платить надо, проблемы с подключением итп. я продукт айтишечки 90х-00х а значит если в интернетах надо за что то платить то сразу в помойку. я кое как освоил стим через боль и страдания, но черти заставили меня разосвоить его обратно.
я отстал от вас наверно лет на 10. для мне ваш ии как инопланетная технология....но самое печально с меня никто его не требует.
Сейчас наверно руками уже никто в здравом уме не пишет...На собеседование меня спросят про квен 3.8 настроить под пайплайн какой-то я хз даже что ответить...
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от shtirliz:
я отстал от вас наверно лет на 10. для мне ваш ии как инопланетная технология....но самое печально с меня никто его не требует.
Сейчас наверно руками уже никто в здравом уме не пишет...На собеседование меня спросят про квен 3.8 настроить под пайплайн какой-то я хз даже что ответить...
нет там ниче инопланетного. яж говорю относись как к дол6оё6у студенту которому надо втолковать что от него требуется а что не требуется. Опыт дрессировки животных и воспитания детей дошкольного возраста будет плюсом.
у нас это всё пока на стадии экспериментов и кеков а не чего то обязательного, хотя у нас в конторе уже пошли нехорошие разговорчики что писатели руками скоро станут ненужны. так что я решил на всякий случай освоить эту залупу. ну и попутно облегчить самому себе жизнь написанием полезных прожек. вот например подрубил квен к чатику на своём стриме. вышло потешно.


Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Аватар для shtirliz
Свидетель
Регистрация:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от DrSlon:
нет там ниче инопланетного. яж говорю относись как к дол6оё6у студенту которому надо втолковать что от него требуется а что не требуется. Опыт дрессировки животных и воспитания детей дошкольного возраста будет плюсом.
у нас это всё пока на стадии экспериментов и кеков а не чего то обязательного, хотя у нас в конторе уже пошли нехорошие разговорчики что писатели руками скоро станут ненужны. так что я решил на всякий случай освоить эту залупу. ну и попутно облегчить самому себе жизнь написанием полезных прожек. вот например подрубил квен к чатику на своём стриме. вышло потешно.


прикол...не думал что так локальный умеет ругаться
я не про настройки цензуры, а про интеллект
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
да квен нормальная тема я хз чего некоторые его хyесосят, я на нём уже много чего сделал.

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Я вайбкодю себе мега-плагин для блендера, а для этого достаточно гемини.
Аватар для gogi
хозяин корги
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
щас бы руками это все настраивать. Ценность таких гайдов стремится к нулю, агент сам все настроит. Привыкайте жить по новому

Сообщение от Zan:
Я в целом очень мудрый человек
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сам он хyёво настраивает. Такую хероту мне втираете будто я не проверял всё на себе прежде чем писать. Я ж не вы. Жертвы нейрослопа.

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от DrSlon:
выглядит так будто ты и пожрал, потом поставил себе костыльную урезанную версию чтобы хоть как то работало, и теперь убеждаешь себя и всех вокруг что это збс, не сжимал квен не пацан.
ты ж сам и сидишь на костыльной урезанной версии
в твои 24гб врам не поместится не квантованный сильно квен 3.8, сидишь на q4_k_m от анслота наверняка, который тебе по-дефолту предложили.
у меня же есть для референса nvfp4 версия(что тебе недоступно, эксклюзив 50й серии нвидиа) - это уровень q8+ по качеству, а по размеру как q4.
я уж не говорю о файнтюнах, которые на головы выше твоего базового, это прям небо и земля.

т.е. ты жрешь что первое на дороге попалось под руку и при этом учишь других.
и вот этот факт, что ты сам будучи далеким от этого, начинаешь учить других - меня и триггерит.
вот был бы ты разбирающимся - вопросов бы не было.
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от elDen:
ты ж сам и сидишь на костыльной урезанной версии
в твои 24гб врам не поместится не квантованный сильно квен 3.8, сидишь на q4_k_m от анслота наверняка, который тебе по-дефолту предложили.
у меня же есть для референса nvfp4 версия(что тебе недоступно, эксклюзив 50й серии нвидиа) - это уровень q8+ по качеству, а по размеру как q4.
я уж не говорю о файнтюнах, которые на головы выше твоего базового, это прям небо и земля.

т.е. ты жрешь что первое на дороге попалось под руку и при этом учишь других.
и вот этот факт, что ты сам будучи далеким от этого, начинаешь учить других - меня и триггерит.
вот был бы ты разбирающимся - вопросов бы не было.
Ну ты ещё со своего дивана расскажи мне что у меня куда не помещается.
Остальные заявы напоминают обложки дисков 100 лучших игр в 1 без потери качества ничего не вырезано мамой клянусь.
Хотя ты прав можно было упомянуть про сжатия и прочие костыли для совсем уж дохлых конфигов но мне че та стало лень. Возможно позже. Ну или сам напиши, покажи что ты умнее меня.
И что толку упоминать какую то е6алу которая мне недоступна? Исклюзивы какие то, кластеры ценой в квартиру... это для васянчиков из гаража тема алло

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Аватар для gogi
хозяин корги
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от DrSlon:
Сам он хyёво настраивает. Такую хероту мне втираете будто я не проверял всё на себе прежде чем писать. Я ж не вы. Жертвы нейрослопа.
какой тебя агент способный настраивать?

Сообщение от Zan:
Я в целом очень мудрый человек
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от DrSlon:
Ну ты ещё со своего дивана расскажи мне что у меня куда не помещается.
так тут всё однозначно - ты сам написал что у тебя 3090 24гб.
для человека знакомого с квен хоть не много сразу понятно какие возможности у этой карты

Сообщение от DrSlon:
Остальные заявы напоминают обложки дисков 100 лучших игр в 1 без потери качества ничего не вырезано мамой клянусь.
потери качества есть от квантизации, но уже давным давно прошли времена когда все квантовали "в лоб".
поэтому сейчас чем менее важный слой - тем сильнее квантуют, а самые важные слои вообще в f16 оставляют.
за счет этого потери в качестве от квантования сейчас уже не такие большие как раньше.

ну а что до файнтюнов - они могут радикально повышать качество модели в ряде областей.
при этом у них точно также своя линейка квантов на разные размеры.
поэтому просто глупо сидеть на базовой версии, когда можно получить уровень средних моделей антропика.
Аватар для gogi
хозяин корги
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
проблема любителей локальных моделей в том что они пытаются на подписке сэкономить, а локальные модели не для этого предназначены, наоборот они дороже обойдутся при попытке приблизится к качеству закрытых моделей

Сообщение от Zan:
Я в целом очень мудрый человек
Аватар для Clive
Знаток
Регистрация:
09.02.2026
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
все не осилил, много текста и так и не понял, нахуа мне, работнику пилорамы эта шняга? че надо я у гугла ии спрашиваю и ничего устанавливать не надо на комп и видюху гонять. а порнуху генерить мне не надо
Аватар для shtirliz
Свидетель
Регистрация:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от gogi:
проблема любителей локальных моделей в том что они пытаются на подписке сэкономить, а локальные модели не для этого предназначены, наоборот они дороже обойдутся при попытке приблизится к качеству закрытых моделей
Локальные модели хороши точно также, как собственный веб-сервер или собственная база данных. Ты не зависишь от каких-то там людей из-за океана, которые тебе ничего не гарантируют и вообщем-то для них ты нежелательный клиент и если они увидят в тебе россиянина то мгновенно тебя вышвырнут из заведения....
Локальные ИИ сервера неадекватно дороги конечно и тут возможно выгоды нет никакой.
1 пользователь оценил это сообщение: Показать
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от shtirliz:
Локальные модели хороши точно также, как собственный веб-сервер или собственная база данных. Ты не зависишь от каких-то там людей из-за океана, которые тебе ничего не гарантируют и вообщем-то для них ты нежелательный клиент и если они увидят в тебе россиянина то мгновенно тебя вышвырнут из заведения....
Локальные ИИ сервера неадекватно дороги конечно и тут возможно выгоды нет никакой.
Щас тебе расскажут что надо просто быть удобничем и куколдичем и никто тебя не вышвырнет. Делов то

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Ваши права в разделе