Для входа на форум нажмите здесь
Новые комментарии
Гайд Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Автор темы: DrSlon
Дата создания: 11.11.2026 04:20
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от Бешеный Пингвин:
Вот прямо бесплатного?
да, прям бесплатного, без регистрации и смс.

Сообщение от Бешеный Пингвин:
А обучать модель на чем? На 128 гигабайтах тоже?
зачем обычному юзеру обучать модель?

а энтузиасы файнтюнят модели на скромном железе, аля несколько проф карт, и поднимают качество очень сильно.
я уж не говорю о том, что набирает популярность точечное редактирование отдельных нейронов в нейросетках, которые может радикально менять их качество, причем сейчас уже даже самими нейросетками.
т.е. в будущем возможно весь прогресс будет делаться путем постоянного самосовершенствования нейросеток путем правки своих весов, а модели на 4-9млрд будут мощнее текущих астры и фейбла.

Сообщение от Бешеный Пингвин:
Основной объем памяти потребляет обучение, а не использование модели.
ну процесс обучения требует много ресурсов, но вот китайские модели или там грок или гугл - даже близко не потребляют те объемы памяти что опенаи или антропик, но качество моделей у них почти не уступает, а местами превосходит.
т.е. можно получать хороший результат умом, а не объемами железа в надежде что это поднимет качества ещё чуть-чуть.

Добавлено через 2 минуты

Сообщение от gogi:
угораешь? бесплатный ии от гугла галлюцинирует в самых простых вопросах. Да и платный говно по качеству в бытовых вопросах. Я лучше чата универсальные модели не встречал. Чат же вообще изначально был именно универсальным, к нему потом кодинг прикрутили
он дает ссылки откуда он взял данные.
по мне так это самое оно.
спросил вопрос - прошел по ссылке - разобрался в том что тебе надо - профит!
Последний раз редактировалось elDen; 12.11.2026 в 13:08. Причина: Добавлено сообщение
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от elDen:
сейчас для бабушек - это lmstudio.
для продвинутых бабушек - strata.
для чуть большего разбирания в вопросе llamacpp.
для ещё чуть более продвинутых - кучи форков с доп возможностями.
и ни что из этого не требует ни линукс, ни кластеры.
у твоей видеокарты есть вполне определённый потолок. что в него влезает то и юзаешь. на чем оно запускается то и запускаешь. какая разница для бабушек оно или нет? а никакая. дрoч васянских сборок это уже по вкусу и по настроению.

The strongest, smartest open source multi-stage model fine tune for consumer hardware ever and BUILT on consumer hardware!
This model (both 4 bit and 8 bit) exceeds the base Qwen 3.8 27B in ALL critical 7 benchmarks AND exceeds all 7 benchmarks for Qwen3.6-35B-A3B, Qwen 3.6 27B, and Qwen 3.5 27B.
STOP SCRATCHING YOUR HEAD AND START WRITING LIKE A GOD

Прямо как на цыганский базар попадаешь

200+ Roleplay, Creative Writing, Uncensored, NSFW models. беру на всю котлету

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Аватар для gogi
хозяин корги
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от elDen:
а энтузиасы файнтюнят модели на скромном железе, аля несколько проф карт, и поднимают качество очень сильно.
я уж не говорю о том, что набирает популярность точечное редактирование отдельных нейронов в нейросетках, которые может радикально менять их качество, причем сейчас уже даже самими нейросетками.
т.е. в будущем возможно весь прогресс будет делаться путем постоянного самосовершенствования нейросеток путем правки своих весов, а модели на 4-9млрд будут мощнее текущих астры и фейбла.
а чего сами либы не тюнят, тупее простых васянов чтоле? значит есть минусы

Сообщение от elDen:
он дает ссылки откуда он взял данные.
по мне так это самое оно.
спросил вопрос - прошел по ссылке - разобрался в том что тебе надо - профит!
ты предлагаешь провоерять каждый вывод нейросети по всем ссылкам? нафиг она нужна тогда?

Сообщение от Zan:
Я в целом очень мудрый человек
Аватар для Лапочка
Читатель
Регистрация:
12.05.2020
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от gogi:
... ты фантазер. Типа либы обанкротятся, а люди сами будут ии подымать
.... предложит 40 китайских девственниц и... каждый день по новой курточке
Фантазёр не то слово, извращуга то, но насчёт ''пока жирный сохнет, худой сдохнет'' он попадает в точку ;). Люди это ресурс, такой же как курточка + колпачок с волшебной азбукой для Буратинки.
Как только ИИшный Буратинка перестанет быть совсем уж деревянным, так Вашу беззаботную Гогиляндию и прикроють.
Будете вспоминать о свободе интернетов как сейчас в параллельной теме Ваши сверстники скучают по анархической свободе 90ых.
Аватар для Бешеный Пингвин
Ктулху во фраке
Регистрация:
18.06.2004
Зомби мутанта GoHa.Ru - 10 лет Веселый флудер
Награжден за: Заслуженный флудер ГДР.
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от elDen:
да, прям бесплатного, без регистрации и смс.
А гугл об этом знает?

Сообщение от elDen:
зачем обычному юзеру обучать модель?
Откуда-то ему надо ее взять.

Сообщение от elDen:
я уж не говорю о том, что набирает популярность точечное редактирование отдельных нейронов в нейросетках, которые может радикально менять их качество, причем сейчас уже даже самими нейросетками.
т.е. в будущем возможно весь прогресс будет делаться путем постоянного самосовершенствования нейросеток путем правки своих весов, а модели на 4-9млрд будут мощнее текущих астры и фейбла.
Правда? А как валидировать точечное изменение весов? Если нет валидации, точечные изменения с большой вероятностью приведут к оверфиту. А валидация требует перемалывания больших объемов данных.


Сообщение от elDen:
ну процесс обучения требует много ресурсов, но вот китайские модели или там грок или гугл - даже близко не потребляют те объемы памяти что опенаи или антропик, но качество моделей у них почти не уступает, а местами превосходит.
Какими местами?


Хаос всегда побеждает порядок, поскольку лучше организован. Т. Пратчетт
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Удобный способ тянуть с Гемини код при превышении нескольких сотен строк есть? В виде файла не отдает.
Аватар для gogi
хозяин корги
Сообщение от Бешеный Пингвин:
А гугл об этом знает?


Откуда-то ему надо ее взять.


Правда? А как валидировать точечное изменение весов? Если нет валидации, точечные изменения с большой вероятностью приведут к оверфиту. А валидация требует перемалывания больших объемов данных.



Какими местами?
Я же постил скрины, про геев можно романы писать. Закрытые модели так не умеют

Сообщение от Zan:
Я в целом очень мудрый человек
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от DrSlon:
у твоей видеокарты есть вполне определённый потолок. что в него влезает то и юзаешь. на чем оно запускается то и запускаешь. какая разница для бабушек оно или нет? а никакая. дрoч васянских сборок это уже по вкусу и по настроению.
нет, все зависит от конкретной модели

dense-модели, как например qwen 3.8 - они да, требуют чтобы все помещалось в видеопамять или радикально падает производительность до жалких 3-6 т\с, которые непригодны для работы.
все потому что расчета каждого токена требуется перебрать все веса всей модели.

а вот moe-модели, как например qwen 3.8-flash, qwen 3.6 35b и все фронтиры openai, антропика и других - не требуют.
там модель разбита на эксперты, каждый из которых отвечает за своё и в память видеокарты загружаются только нужные эксперты и пересчет идет только в весах этих экспертов, а не всей модели.

а дроч заключается в технологии квантования как самой модели, так и kv-кэша.
можно запускать одну и ту же модель с фактически идентичным качеством на намного меньшем размере видеопамяти или в тот же размер уложиться с возможностью запускать параллельно несколько запросов.

Сообщение от gogi:
а чего сами либы не тюнят, тупее простых васянов чтоле? значит есть минусы
так они и тюнят
почти всё что делает антропик и опенаи - это тюнинг.
каждая новая версия их нейронок - это чаще всего небольшой файнтюн.

также и с открытыми моделями - по сути qwen 3.5, 3.6, 3.8 - это всё одна и та же модель.
только qwen 3.8 flash - тест новой модели и будущий qwen 4.

Сообщение от gogi:
ты предлагаешь провоерять каждый вывод нейросети по всем ссылкам? нафиг она нужна тогда?
ну если ты спрашиваешь что-то что тебе не насрать - да.
причем у абсолютно любой модели, т.к. они все просто генераторы токенов и все могут написать дичь.

Сообщение от Бешеный Пингвин:
А гугл об этом знает?
да, он же и дает её бесплатно

Сообщение от Бешеный Пингвин:
Откуда-то ему надо ее взять.
на хуге

Сообщение от Бешеный Пингвин:
Правда? А как валидировать точечное изменение весов? Если нет валидации, точечные изменения с большой вероятностью приведут к оверфиту. А валидация требует перемалывания больших объемов данных.
это ж не дообучение, тут меняется конкретный вес отдельных нейронов у готовой нейросетки.
просто гонять бенчманки и сравнивать с результатами эталонной сетки.
и занимаются этим как правило у небольших моделей, так что все это занимает не очень много ресурсов.

Сообщение от Бешеный Пингвин:
Какими местами?
всмысле?
для сравнения сделали вагоны бенчей чтобы показывать что есть прогресс в качестве и вот по нему разрыв уже не большой или нет вообще.
а для обычного юзера разницы по сути нет уже давно.

Добавлено через 35 минут

Сообщение от ухожу:
написать C функцию itoa для диапазона 0-32 без деления и циклов
мне стало интересно кстати это
и я запустил у себя этот "промпт" на локальной, вот что выдало за меньше чем 2 минуты рассуждений.

Код:
#include <stddef.h>

/**
 * itoa - конвертация int в ASCII без деления и циклов.
 * Диапазон: 0..32 (включительно).
 * 
 * Механизм:
 *   tens = суммирование трёх булевых сравнений (0/1)
 *   ones = n - 10*tens, где 10*tens = (tens<<3) + (tens<<1)
 *          т.е. 8*tens + 2*tens через битовые сдвиги.
 */
void itoa(int n, char *buf)
{
    /* --- Извлечение десятичной цифры без деления ---
     * n=5  -> (0)+(0)+(0) = 0
     * n=15 -> (1)+(0)+(0) = 1
     * n=25 -> (1)+(1)+(0) = 2
     * n=32 -> (1)+(1)+(1) = 3
     */
    int tens = (n >= 10) + (n >= 20) + (n >= 30);

    /* --- Извлечение единиц без деления и умножения ---
     * 10 * tens = 8*tens + 2*tens = (tens<<3) + (tens<<1)
     */
    int ones = n - (tens << 3) - (tens << 1);

    /* --- Формирование строки --- */
    if (tens) {
        buf[0] = '0' + tens;
        buf[1] = '0' + ones;
        buf[2] = '\0';
    } else {
        buf[0] = '0' + n;
        buf[1] = '\0';
    }
}
и альтернативную табличную версию, типа если важна скорость и только
Код:
void itoa_tbl(int n, char *buf)
{
    static const char T[33][3] = {
        "0","1","2","3","4","5","6","7","8","9",
        "10","11","12","13","14","15","16","17","18","19",
        "20","21","22","23","24","25","26","27","28","29",
        "30","31","32"
    };
    buf[0] = T[n][0];
    buf[1] = T[n][1];
    buf[2] = '\0';
}

я ваще не сишник, не проверял код, просто ваншот с твоей строчки.
как оно тебе?
Последний раз редактировалось elDen; 12.11.2026 в 15:02. Причина: Добавлено сообщение
Аватар для shtirliz
Свидетель
Регистрация:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от DrSlon:
приветствую, господа вайбкодеры. Если вы давно хотели вкатиться в тему с иишечкой, но стеснялись спросить, как это сделать, то вам невероятно повезло, потому что у вас есть я. Конечно, про то, как настроить иишечку, можно спросить у иишечки (внезапно), но для этого надо знать, что именно спрашивать, а это знают не только лишь все. Так что let me be proactive and helpful и погнали.

Рассматривать мы будем, понятное дело, настройку нашей собственной локальной иишечки для бытовых нужд. Она конечно не такая мощная и резкая как чатгпт, зато своя родная, никуда не убежит и не сдаст твои данные куда не следует. Я це люблю.



Итак, что нам понадобится?
Видеокарта с большим количеством видеопамяти. Для примера возьмём мою древнюю 3090ti с 24 гигами.
Оператива. Чем больше тем лучше. Недостаток видеопамяти компенсируется за её счёт. Она медленнее чем видеопамять, но хоть что то.
Серверная часть, на которой работают модели. Самая ходовая народная приблуда это Ollama, ставится бесплатно без смс и требует минимум мозга.
Собственно модель. Самая ходовая народная приблуда это Qwen3.8:27b, видеокарты с 24 гигами как раз хватает чтобы держать её в диапазоне 64-128к токенов, что для кодинга вполне сносно.
Интерфейс для работы с моделью. Мне больше всего нравится плагин Cline для VScode, удобный и содержит хорошие тулзы для модели. Ну и бесплатный о5 же.

Аппаратная часть.
Модель в активном режиме сожрёт все ресурсы твоей видеокарты и оперативы, так что играть в игрульки и смотреть кинчики ты не сможешь. Что довольно уныло. Потому если есть финансовая возможность, лучше взять отдельный системник и сделать из него чисто сервак с иишечками. Если же такой возможности нет, тебе поможет встроенная видеокарта. Лучше переткнуть монитор в неё а также повесить на неё отрисовку всех твоих прожек (браузера там, виндоуз эксплорера, самой vs студии), а основную оставить девственно чистой. Если же и встроенной видеокарты нет, то помянем. придётся тебе не запускать на компе вообще ничего, имеющего хоть какую то визуальную составляющую, а саму студию сворачивать в трей во время работы модели. Но я уверен, что ты умный и найдёшь выход из положения.
Если же ты выбрал вариант с серваком, позаботься о надёжном коннекте с ним по проводу, иначе если вайфай мигнёт, сессия прервётся и придётся начинать с начала.

Программная часть.
Если ты определился где должны жить модели, начинаем устанавливать.
1. Заходим на https://ollama.com/download и скачиваем саму олламу. никаких настроек нет, она сама ставится куда то на диск це, но вот модели весят много гигов, поэтому лучше зайди в настройки (через иконку в таскбаре) и выбери место для них где нибудь на жирном диске.
2. Заходим на сайте олламы в models и выбираем модель. там же будет подсказка что прописать чтобы скачать её. пока ты не шаришь, просто ставь квен, прописав в cmd команду "ollama run qwen3.8:27b", оно само скачается и запустится.
3. Ставим VScode и плагин Cline, в принципе там всё легко, не буду тут расписывать шаги как для дауна, ты же не такой, верно? Что продемонстрирую так это конфиг Cline для твоей олламы.
4. Так же не забудь обновить системный powershell до последней версии. Бот выполняет много действий через powershell, и если он устаревший, то будет много ошибок из за синтаксиса и форматирования команд.
Не лишним будет прописать переменную среды OLLAMA_KEEP_ALIVE=1h, иначе она будет выкидывать модель из памяти через 5 минут простоя и ты задолбаешься её заново прогружать на каждом запросе.



В принципе, с этого момента уже можно начинать пользоваться данной конструкцией. Но поскольку у нас бомже конфиг, и нет никаких кастомных настроек, ботяра скорее всего будет тупым, тормозным, и заниматься какой то хyйнёй вместо реализации твоих гениальных идей. Потому, чтобы стать истинным мастером нейрослопа, нужно расширить своё понимание происходящего. Этим и займёмся.

В чём суть нейросети?
Вопреки расхожему мнению, "искусственный интеллект" это не какой то мозг в банке, который делится вселенской мудростью. Фактически, это вообще не какая то отдельная сущность, это процесс, который происходит, когда через таблицу чисел (весов) размером в гигабайты (именно она занимает место на диске и твою видеопамять) прогоняется массив токенов в виде текста, картинок и чего ты ещё туда засунешь. Это всё. Больше никакой магии тут нет. Данный массив токенов называется "контекст", и от его размера, и от размера таблицы весов, зависит скорость происходящего. Особенно на бомже конфигах. 27b в названии модели qwen3.8:27b означает 27 миллиардов нейронов, то есть элементов таблицы весов. и через все эти 27 миллиардов прогоняется каждый токен контекста, который вмещает в себя примерно 4 английских символа, или 2 русских, потому как русские символы в кодировке весят в 2 раза больше, чем английские. Экая несправедливость. Бат фак ит.

Поскольку уменьшать размер модели не выгодно, наоборот, чем она больше, тем умнее, дабы уложиться в рамки наших технических возможностей мы должны будем оптимизировать контекст, дабы не тратить время и ресурсы на балласт, и получить максимальную эффективность от каждого запроса.

В чём суть процесса?
Каждое сообщение боту и ответ на него называется "ход" (turn), ага, как в шахматах. Дабы он "помнил", о чём был предыдущий разговор, ему надо послать не только твой текущий запрос, но и содержание всех предыдущих ходов. Для этого и нужен контекст. Каждый раз, когда ты пишешь запрос боту, вместе с ним отправляется и всё, что было написано до этого, потому в "многоходовочках" контекст постепенно раздувается до совершенно невменяемых размеров. И чтобы поддерживать быстродействие бота на должном уровне, его во первых искусственно ограничивают, во вторых добавляют механизм сжатия (compaction), который удаляет более старое содержимое контекста, заменяя его кратким содержанием ("мы разрабатывали чё то там на петоне"). Потому в долгих сессиях неизбежна потеря некоторого количества данных, от чего бот начинает тупить и "забывать", о чём была речь пару страниц назад, что наверняка раздражало тебя в разговорах с чатжипитишкой. В кодинге же это может вылиться в то, что бот запутается в архитектуре проекта, сойдёт с ума и начнёт городить чёрт знает что. Но мы попробуем победить данный эффект. Для начала разберём структуру хода.

Итак, каждый ход мы отправляем в бота:
- Системный промпт, который содержит основные указания о том, что должен и не должен делать бот. В чатжипитях он скрыт от посторонних глаз, но в твоём случае он является важной частью работчего процесса. Его структура и способ заполнения зависит от конкретного интерфейса. Но общий принцип везде одинаковый. Важным свойством системного промпта является то, что он не попадает под compaction, а следовательно всегда висит в контексте в исходном виде, и представляет собой обязательный "налог" в виде некоторого количества токенов, из за чего желательно, чтобы он был максимально компактным и функциональным. Зато его содержимое никогда не удаляется и не искажается, что полезно, если надо чтобы бот ни в коем случае не потерял некую важную информацию.

-- Профиль агента. Содержит основные правила. Вроде "Твоя работа развлекать посетителей нашего чатика, общайся как портовая шлюха и докапывайся до всех подряд", "По подозрительным ссылкам не переходи", итп.

-- В Cline также можно создавать дополнительные разделы правил (rules), которые можно включать и выключать, в зависимости от текущей задачи, чтобы не грузить контекст балластом. Можно создать разные правила написания на C++ и петоне, например, и включать то одно то другое. Удобно.

-- Tools (инструменты) описывают то, что должен делать бот, чтобы добиться определённого результата. Фактически представляют собой набор мини-промптов и скриптов, например инструмент write_file запускает скрипт который запускает команду CreateFile в powershell и передаёт в неё содержимое в каком то там виде. Утрирую, конечно. На практике они чуть более продуманы, дабы учесть возможные фейлы, например не дать боту сгрузить в контекст несколько мегабайт содержимого, от чего твоя видеокарта встанет колом. Тулзы являются частью интерфейса, так что поменять их ты их просто так не сможешь. При желании, если ты крутой прогер, то можешь и поковыряться в исходниках опенсорсного Cline, можно, а зачем, если у нас есть skills.

-- Skills фактически представляют собой кастомные tools, которые ты можешь написать сам. Их отличие от tools в том, что они не висят постоянно в системном промпте, а подгружаются по требованию, и удаляются при компактинге, так что это легковесная необязательная версия тулзов, для тех случаев, когда некоторые действия требуются ситуативно, или требуют слишком сложного описания, чтобы держать их в контексте постоянно.



Итак, что мы можем покрутить в нашем системном промпте, дабы избавить бота от лишней суеты, сделать его экономным и при этом функциональным?
Бот это прямо как младший сотрудник айтишечки, исполнительный, но тупой. Он будет изо всех сил стараться угодить хозяину, но если ты ему не дал конкретных указаний, или дал, но не конкретные и противоречивые, он будет рвать жопу и пытаться обьять необьятное, как буриданов осёл, перед которым поставили не две, а сразу штук 10 кормушек. В результате процесс превратится в бесконечный перебор каких то файлов, ссылок, сетевых запросов и написание дебильного кода. Так что в первую очередь нам надо ограничить его неуёмную прыть и заставить думать о деле.

- Первое, что обязательно нужно сделать, это запретить ему фантазировать. Вся фантастика мира представляла нам ИИ как нечто фундаментально не умеющее врать, но на практике первое, чему он научился, это высасывать из жопы инфу, которой у него нет (хе хе). А нам это не надо, потому это надо явно запретить строкой вида "Do not guess names, properties, paths, schemas, formats, API methods, functions, UE5 macros, or any other specific information about entities. Use search or refer to the documentation. As a last resort, ask the user." (мы же помним что русский язык в 2 раза тяжелее английского по токенам, так что все портянки пишем на английском. Это не идеологическое решение, а сугубо техническое, так что Имперская канцелярия может спать спокойно. Если ты в нём не шаришь, можешь написать свои конфиги на русском и приказать перевести этому же самому боту.)

- Второе что мы должны сделать, это предоставить ему конкретику. Мы же приказали ему искать, а не угадывать, но не сказали где, так что ему придётся угадывать где искать. Потому если у тебя есть инфа, которая поможет боту выполнить задачу, пропиши её явно. Мой проект лежит там, репозиторий там, настройки в этом файле, документация по такой то ссылке. Это здорово сэкономит боту количество телодвижений а следовательно времени и токенов. Если же инфы у тебя нет, можно выяснить её с помощью этого же бота в отдельной сессии, а результат сохранить в системном промпте для последующих.

- Избегай косметики и витиеватого поэтического слога, для бота это балласт. Не надо писать "если тебе надо зайти на сайт то ты должен открыть powershell и выполнить команду...". Пиши проще "Web access: powershell - Invoke-WebRequest", этого ему вполне хватит чтобы разобраться. Для более сложных запросов желательно предоставить образец синтаксиса.

- Если нужно какое то супер сложное описание некоторого процесса с примерами итп, есть смысл вынести это в отдельный файл или skill, а в правилах создать только ссылку на него "to import 3d model from blender to ue5 - see ImportInstructions.md". Он затянет этот файл в контекст, когда ему будет надо, потом компактинг сольёт его в помойку, а системный промпт останется лёгким.

- После того как ты теоретически проработал архитектуру своего проекта, есть смысл создать отдельное правило и захерачить её туда, перед тем как создавать сессию для реализации. Так она не скомпактится и будет постоянно висеть у бота перед носом, не давая ему уехать не в ту степь.

- Также неплохими настройками будет "First accumulate all needed recon per turn, then check with minimal necessary tool calls." и "First accumulate all necessary file modifications per turn, then write all to files at once.", дабы он не пытался спамить вызовы тулов, а сперва продумал все правки и все возможные направления поиска, а потом отработал всё в одну-две команды. Так оно будет намного эффективнее. Также не помешает что то типа "Avoid "just in case" checks, do only relevant for task completion." дабы он не лез проверять какие то богом забытые логи, потому что ему что то показалось. Здесь же ты можешь настроить стиль написания кода под себя, защиту своего компа от случайного изменения конфигов винды скриптами, итд, итп. По ходу дела разберёшься что ещё дописать. Ну ты понел короче - англицкий язык, минимум словесного балласта, максимум конкретики, сокращение ненужных телодвижений, декомпозиция сложных правил по скиллам и файлам. Можешь так же приказать боту проверить системный промпт на предмет маразмов и противоречий, очень полезный фидбек.



Рабочий процесс хода у нас представляет собой следующее:
Рассуждения. Чем их больше, тем лучше бот прорабатывает детали задачи. Но вместе с тем и сильнее грузит контекст. А если он таки зафейлился и поехал не в ту степь, рассуждения превращаются в чистой воды балласт и источник неправды, вплоть до того, что проще дропнуть сессию и рестартануть, тк пока он сам догадается, что обосрался, может пройти крайне много времени. Если это случилось, обязательно разберись почему, и внеси соответствующие изменения в правила, чтобы больше такого не происходило. Можно конечно и понизить уровень рассуждений, но тогда и результат будет так себе, алсо не все модели позволяют его менять.

Вызовы тулзов и их результаты. Все запущенные скрипты, веб запросы и команды повершела тоже попадают сюда, впрочем как и ответы на них. А количество вызовов тулзов сильно зависит от того, что ты прописал в правилах. Если ты вместо конкретных указаний заставишь бота гадать и действовать перебором, то ему придётся вызвать очень много тулзов, чтобы наконец попасть в нужное место. Результаты вызова тулзов тоже могут быть самыми разными, например логи длинной в миллион строк, которые запустят твоего бота в космос вместе с видеокартой. Тулзы конечно хендлят подобные случаи, жёстко ограничивая вывод например 6000 строк, но что делать если то что тебе нужно находится на 6001й строке? Такие случаи придётся хендлить уже тебе, йуный падаван.

Итак, что мы можем покрутить в нашей сессии, дабы избавить бота от лишней суеты, сделать его экономным и при этом функциональным?
- Пиши нормальный запрос, в котором ты точно знаешь, что тебе нужно от несчастного бота. Если ты неточно это знаешь, сперва выясни это во второстепенных сессиях, а основную уже создавай с полным пониманием. Это должно быть не говно типа "сделай мне чтобе там че то свистело пердело", а готовая архитектура, продуманная на бумаге до мелочей, где какая кнопка находится, какой запрос шлёт, что должно прийти в ответ, и что делать если в ответ пришло говно, итд итп. Чтобы боту осталось только код написать. В идеале всё должно быть сделано за один ход, а все спорные моменты разруливаться либо системным промптом, либо грамотно составленным запросом. Если пришлось тратить ходы на уточнения, разъяснения и переделывания, то это твой фейл и может привести к крайне херовому конечному результату. Так что учись играть в шахматы и ставить мат в три хода, а лучше в один.

- Не пытайся объять необъятное слабеньким мозгом бота, сиречь если проект большой, не пытайся скормить ему сразу всю архитектуру, иначе он порвётся как грелка. Делай по одному модулю за раз. Сперва интерфейс. Потом отправка запроса. Потом разбор ответа. Потом обработка данных. Потом отрисовка результата. Тестируй то что уже сделано прежде чем двинуться дальше. Комитить не забывай на случай если бот запорет что то. Тише едешь дальше уедешь.

- если нужно сменить тему или углубиться в теорию, создай новую сессию, иначе весь предыдущий контекст превратится в балласт, и вызовет у бота искреннее недоумение, он будет до усрачки пытаться понять, как связан C++ и размножение гиббонов на Борнео. Может и какое интересное научное открытие сделает.

- Обрабатывай жирные файлы и результаты запросов. Если ты знаешь что в этом месте должна прийти портянка на лям строк, явно пропиши "не затягивать логи в контекст а использовать GREP по коду ошибки", "не перечитывать файл заново если редактирование прошло успешно". "записывать результат запроса сразу в файл без вывода", итд итп. для этого надо понимать конечно что у тебя откуда и зачем берётся.

- позаботься о troubleshooting. если у тебя отвалился коннект к серваку, бот будет либо пытаться тупо переконнектиться, отправляя кучу запросов, либо начать городить костыли и искать обходные пути, которые могут его увести очень далеко от цели. Потому если ты знаешь как решить данную проблему, оставь соответствующую инструкцию боту, чтобы он сам поправил конфиги, передёрнул авторизацию или чё у тебя там постоянно отваливается. на крайняк скажи встать на паузу и ждать пока ты разберёшься.

- Пропиши ему, что ответ должен быть максимально кратким, в стиле "всё готово", иначе он будет в красках расписывать что именно он сделал на пару тройку страниц. оставь болтологию включенной только для разбора теории.

- Избегай мусора в запросах. Не нужно с ботом спорить, сраться, что то ему доказывать, кекать, тролить, ему похер на это, он бот, он понимает только это делай это не делай, а инфу он ищет основываясь на твоих правилах и требованиях, и если там собачий бред, то и он выдаст тебе собачий бред. Большую часть словесного мусора бот будет тупо игнорить, концентрируясь на технической части, но например в нормальные (не пиратские) модели в процессе обучения закладывается кое какая цензура, и если ты например ради прикола пuзданёшь, что ты хакер и хочешь взломать что нибудь этой прогой, ботяра может объявить забастовку, или как минимум уйти в долгие размышления о том, стоит ли помогать такому отъявленному негодяю как ты. Вывести его из этого состояния довольно сложно, вероятно придётся прибить сессию и рестартануть. Хе хе.

- Можно также создать субагента. Это когда твой бот запускает новую сессию бота со своим контекстом, который выдаёт нам только результат, а весь текстовый балласт остаётся у него, но во первых не видя его рассуждений, сложно понять как он это высрал, что проверил а что нет, во вторых это означает повышенную нагрузку на нашу видеокарту, которая и так трещит по швам. Хотя если ты счастливый обладатель промышленного сервака с массивом видеокарт, то почему бы и не клепать по субагенту на каждый пук?

Жирные коммерческие иишечки работают по тому же принципу. Тебе они выдают красивый текст, но под капотом проворачивают всю ту же канитель, вызывают кучу тулзов, забивают контекст, компактят его, и точно так же тупят и обсираются на бездарных запросах, так что в их использовании стоит придерживаться тех же правил, например явно запретить в промпте фантазировать, или выдавать код без учёта оптимизации, с использованием жирных сторонних библиотек итп. Писать максимально конкретные запросы, чтобы он не забивал контекст одними только поисками и попытками понять какого хрена тебе надо. В общем ты понял.

Ну щето же, на этом месте полагаю ты уже понял, что иишечка это не волшебная палочка для изготовления говнопрожек, а роскошный и тонкий инструмент, тончайший, и нуждающийся в серьёзной настройке и аккуратном обращении. А кто скажет тебе, что тут думать не надо, плюнь в рожу этому человеку, потому как думать тут надо и за себя и за того парня, чтобы он не тупил и не косячил. Фактически это некст левел программирования, где надо быть не секретуткой-машинисткой, набивающей тысячи юнит тестов, но архитектором и инженером, который держит в голове весь проект целиком и знает куда пнуть молодого сотрудника разгильдяя, чтобы всё заработало. А в это могут не только лишь все, мало кто. Но если ты могёшь, то получишь истинное удовольствие от отсутствия дерьмовой рутины и возможности сосредоточиться на творческой составляющей данной профессии. А если не могёшь, то типа соре, скоро тебя заменят на бота. Но я надеюсь, данный текст поможет тебе вкатиться в тему и избежать сей прискорбной судьбы. Честь имею.

#AI #Вайбкодинг #Нейрослоп #Импортозамещение #РоссияВперёд
В общем я не вкуриваю почему он не вызывает инструменты для записи в файлы.
Great! Let's proceed with the task. Here's the plan:


1. Add the `rand` crate to `Cargo.toml`.
2. Update `main.rs` to include the `print_random_numbers` function.
3. Run the project to verify the changes.


### Tool Calls


To perform these steps, you can use the following tool calls:


1. `read_files` to read the current `Cargo.toml` and `main.rs`.
2. `editor` to update the `Cargo.toml` and `main.rs` with the necessary changes.
3. `run_commands` to run the project to verify the changes.


```json
[
{
"name": "read_files",
"arguments": {
"files": [
"C:\\workspace\\rust\\myfirst\\Cargo.toml",
"C:\\workspace\\rust\\myfirst\\src\\main.rs"
]
}
},
{
"name": "editor",
"arguments": {
"path": "C:\\workspace\\rust\\myfirst\\Cargo.toml",
"new_text": "[dependencies]\nrand = "0.8.4"\n"
}
},
{
"name": "editor",
"arguments": {
"path": "C:\\workspace\\rust\\myfirst\\src\\main.rs",
"new_text": "use rand::Rng;\n\nfn print_random_numbers() {\n let mut rng = rand::thread_rng();\n for _ in 0..10 {\n let number: u32 = rng.gen();\n println!("{}");\n }\n}\n\nfn main() {\n print_random_numbers();\n}"
}
},
{
"name": "run_commands",
"arguments": {
"commands": [
"cargo build",
"cargo run"
]
}
}
]
```


### Summary


1. Added the `rand` crate to `Cargo.toml`.
2. Imported the necessary modules in `main.rs`.
3. Wrote a function `print_random_numbers` to generate and print 10 random numbers.
4. Called this function in the `main` function.
5. Ran the project to verify the changes.


You can run the provided tool calls to make these changes and verify that the function works as expected.


А в файлах нихира нет.

Аватар для Сагарис
Top orc
Регистрация:
29.11.2004
20 лет вместе!
Награжден за: 20 лет вместе! Признанный автор
Награжден за: Прекрасная графика и аватары Победитель турнира
Награжден за: За победу в охотничьем турнире Моби Дик по Fallout 76 Победитель конкурса
Награжден за: Победитель конкурса WD_BLACK P10
GoHa.Ru - 10 лет Рейдер пандемии
Награжден за: Эксперт по выживанию при пандемии COVID-19 Медаль "1К лайков"
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от gogi:
ну я хз накуя нужны локальные модели на игровом пк.
Например вскрывать apk на проприетарном велокомпе, вставлять туда управление плейлистом, менять интерфейса (потому что оригинальный уйопище) и запихивать его обратно. Любая клавдия тебя с этим уже в жэпь отправит, низя взламывать!
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от shtirliz:
В общем я не вкуриваю почему он не вызывает инструменты для записи в файлы.
Great! Let's proceed with the task. Here's the plan:
я вижу что ты ему не то в промпт захерачил. правила прописываются в другом месте. а в этом окошке только то что сделать надо. он не догнал видимо че ты хотел

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Аватар для shtirliz
Свидетель
Регистрация:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от DrSlon:
Щас тебе расскажут что надо просто быть удобничем и куколдичем и никто тебя не вышвырнет. Делов то
Он генерит правильные команды, но он их сам не запускает. Может нужно где-то настроить?
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от shtirliz:
Он генерит правильные команды, но он их сам не запускает. Может нужно где-то настроить?
Ну судя по ответу на скрине ты его попросил подсказать тебе какие тулзы заюзать чтобы изменить этот файл, а не сделать самому. Вот он тебе и подсказал

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Аватар для ухожу
энциклокот
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
sleek futuristic female android with a sculpted, seamless liquid-chrome body and mirror-finish robotic anatomy like an aerodynamic museum mannequin, featuring subtle glowing cyan circuit seams on her metallic torso and shoulders

генерируйте терминаторку

Сообщение от elDen:
я ваще не сишник, не проверял код, просто ваншот с твоей строчки.
как оно тебе?
нормально
такое же генерировал облачный чатгпт или qwen

Добавлено через 23 минуты

Сообщение от MikeNew:
Удобный способ тянуть с Гемини код при превышении нескольких сотен строк есть? В виде файла не отдает.
Использование Google AI Studio (Бесплатно и без жестких лимитов UI)
Если вы работаете через обычный чат ://google.com, попробуйте перейти в Google AI Studio
потребуется квн

Сообщение от Unter:
А кто хочет спровоцироваться найдет способ это сделать глядя на пустой табурет в своей комнате.
Последний раз редактировалось ухожу; 12.11.2026 в 17:24. Причина: Добавлено сообщение
1 пользователь оценил это сообщение: Показать
Аватар для ухожу
энциклокот
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!


это уже порно или еще не порно?

Сообщение от Unter:
А кто хочет спровоцироваться найдет способ это сделать глядя на пустой табурет в своей комнате.
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от ухожу:


это уже порно или еще не порно?
Если у твоего квена встал значит порно.

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от ухожу:
это уже порно или еще не порно?
порно - это когда *бут, а тут максимум эротика.
Аватар для Marlboro_Man
Agent Of The Secret World
Регистрация:
17.05.2007
Джентльмен Медаль "2К лайков" Победитель турнира
Награжден за: Победитель турнира "Борцун Года 2022" GoHa.Ru - 10 лет
Победитель конкурса
Награжден за: За победу в новогоднем конкурсе от GoHa.Ru и WD
Сообщение от elDen:
порно - это когда *бут, а тут максимум эротика.
Нет. Порно, это когда испытываешь секс возбуждени4
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от Marlboro_Man:
Нет. Порно, это когда испытываешь секс возбуждени4
на гей порно я испытаю не возбуждение, а отвращение, но это не сделает его не порно
Аватар для shtirliz
Свидетель
Регистрация:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от DrSlon:
Ну судя по ответу на скрине ты его попросил подсказать тебе какие тулзы заюзать чтобы изменить этот файл, а не сделать самому. Вот он тебе и подсказал
потихоньку начинаю понимать как работают агенты.
Да модель вывела команду, но агент (clime) ее не понял. Щас поставил Continue и он уже их может выполнять, но надо самому тыкать кнопку с зеленой стрелкой...
разбираюсь дальше....

Но хорошо то, что эта модель работает на rtx 3070...не думал что от этой карты будет польза
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от shtirliz:
потихоньку начинаю понимать как работают агенты.
Да модель вывела команду, но агент (clime) ее не понял. Щас поставил Continue и он уже их может выполнять, но надо самому тыкать кнопку с зеленой стрелкой...
разбираюсь дальше....

Но хорошо то, что эта модель работает на rtx 3070...не думал что от этой карты будет польза
Самое приятное в локалках то что можно сидеть разбираться сколько влезет не переживая что оно сожрёт твои деньги.
Квен 2.5 это уже весьма древняя модель

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Аватар для Marlboro_Man
Agent Of The Secret World
Регистрация:
17.05.2007
Джентльмен Медаль "2К лайков" Победитель турнира
Награжден за: Победитель турнира "Борцун Года 2022" GoHa.Ru - 10 лет
Победитель конкурса
Награжден за: За победу в новогоднем конкурсе от GoHa.Ru и WD
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от elDen:
на гей порно я испытаю не возбуждение, а отвращение, но это не сделает его не порно
Я так понимаю для тебя гей порно всего лишь легкая эротика
Аватар для ухожу
энциклокот
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
алису обучали шаловливые шалуны
а это уже порно или еще не порно?

sleek futuristic female android with a sculpted, seamless liquid-chrome body and mirror-finish robotic anatomy like an aerodynamic museum mannequin, featuring subtle glowing cyan circuit seams on her metallic torso and shoulders

Сообщение от Unter:
А кто хочет спровоцироваться найдет способ это сделать глядя на пустой табурет в своей комнате.
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от DrSlon:
Самое приятное в локалках то что можно сидеть разбираться сколько влезет не переживая что оно сожрёт твои деньги.
ну оно жрет деньги - электричество не бесплатное.

Сообщение от DrSlon:
Квен 2.5 это уже весьма древняя модель
подстать штрилицу

Сообщение от Marlboro_Man:
Я так понимаю для тебя гей порно всего лишь легкая эротика
как ты пришел к этому выводу?
Аватар для DrSlon
Скрепный имперец
Регистрация:
27.01.2011
Джентльмен Медаль "2К лайков" GoHa.Ru - 10 лет Светоч знаний
Награжден за: За проведение конкурсов и размещение материалов по стратегиям
Эксперт
Награжден за: - Интересные и познавательные обзоры
- Организацию и проведение челенджей на форумах GoHa.ru
- Отличный перевод множества статей Знатоку игры Revelation
Награжден за: За III место в большом конкурсе гайдов по Revelation Признанный автор
Награжден за: За переводы скиллов по игре The Secret World
Re: Нейрослоп для чайников: Суперинтеллект у вас дома на кончиках пальцев!
Сообщение от elDen:
ну оно жрет деньги - электричество не бесплатное.
ты просто из неправильной страны

Либерал это такой человек, которому дали 20$ и лопату, и сказали копать себе могилу. И он копает, потому что 20$ is 20$. (c)

Our enemy is surely stronger, their plans unknowable, but this is our home. It can be our fortress, or our tomb. There is only victory, or death. (c)

Ваши права в разделе