Авторизация / Регистрация

[Izolenta]

Сообщение от Пролыч:

Надеюсь, не вставая с дивана, чтобы не нарушать этого вайба? .о)))

сарказм оценил. я плачу бабки чтобы не вставая с дивана делать за дни то, на что раньше уходили десятки и сотни человекочасов

Добавлено через 43 секунды

Сообщение от shtirliz:

ты подкованный технарь...

в первую очередь инженеров характеризует лень. если тебе не лень делать одну и ту же рутинную работу, то ты ***вый инженер.

[shtirliz]

Сообщение от Izolenta:

в первую очередь инженеров характеризует лень. если тебе не лень делать одну и ту же рутинную работу, то ты ***вый инженер.

мне просто нечего делать на этом ИИ...
просто тупо нет задач

[survordie]

Сообщение от gogi:

полно работы чувак если есть мозг

Ты путаешь работу и рабство.

Сообщение от gogi:

хороших спецов на мороз не гонят в любой сфере.

Очередное тупое утверждение. На что ты собрался содержать этих спецов, если работы нет? За свой счёт что ли?

Сообщение от Izolenta:

Так какое и сколько?

Читай выше - там всё написано. Обучать тебя за бесплатно смысла нет. Ну или Гоге заплати - он тебя с удовольствием поучит.

Сообщение от Пролыч:

Страта работает на вин10, в репо Нико1221 есть Страта для винды.

Проблема не в работоспособности, а в том, сколько памяти нужно. Винда сама нехило отжирает память + скорее всего нужно будет выгружать запущенный софт (браузеры, мессенджеры, что там ещё у пользователя запущено...). Плюс не под все видекарты есть сборки. Например, для своей(gfx1032) я сам собирал движок. Чтобы собрать движок нужен компилятор от ROCm 10+ (7ка не поддерживает). У Дебиан всё это легко и непринуждённо настраивается (буквально три команды), а вот под Винду скорее всего будут пляски с бубном (как обычно). Плюс целевая платформа у АМД для вычислений на графическом ядре - это Линукс. А Винда - по остаточному принципу.
В общем, как я сказал, вряд ли кто тут сможет у себя на Винде запустить то, что на Дебиан делается легко и непринуждённо.

Сообщение от gogi:

я прикола не пойму, ну работать то оно работает, но если там качество гпт4, а то и 3, то нахер оно надо вообще?

Качество вполне достаточное для локальной работы. А уж уровень чего там - неважно.

Сообщение от Пролыч:

Канеш, если у тебя в стеке сорок языков и 400 фреймворков

Судя по его высказываниям у него там примитивный JavaScrpt/NodeJS/PhP/что-то-около-того. Я вообще не понимаю нафига ему платный инструмент понадобился, т.к. то, что он творит, вполне можно и на бесплатном делать с тем же качеством.

Сообщение от gogi:

как кстати с многозадачностью у ваших сжатых моделей?

Причём тут модели? От железа зависит. Конкретно на моём (8Гб VRAM) - никак. Запустится запустится конечно, но работать будет раза в два медленнее чем в один поток.

Сообщение от Пролыч:

NDA не позволяет отдавать код наружу

NDA тут ни причём. В разработке считается, что код на чтение не является секретным и доступен всем. Однако код, полученный извне контролировать сложнее. А контролировать его нужно, т.к. могут внести уязвимость, которая в дальнейшем аукнется на миллиардные потери. Вот почему финтех очень не любит делать внешний контур разработки. А ящики в принципе его не имеют.

[Пролыч]

Сообщение от Izolenta:

в первую очередь инженеров характеризует лень. если тебе не лень делать одну и ту же рутинную работу, то ты ***вый инженер.

По этому поводу в соседнем топике моя статья о лямбдизации.

А ллмка отлично вхуячивает бойлерплейт где нужно.

[Izolenta]

Сообщение от survordie:

Однако код, полученный извне контролировать сложнее.

продолжи мысль. чем код ревью и контроль цепочки поставки отличается для кода от джуна типа тебя или модели на 6b параметров?:)

Добавлено через 1 минуту

вообще хуле тут развели. ибшники мамкины

если вы вообще читали требования фстэк или рбпо, то внезапно увидели бы что там хорошо если 10% про код.

[Пролыч]

Сообщение от Izolenta:

вообще хуле тут развели. ибшники мамкины

если вы вообще читали требования фстэк или рбпо, то внезапно увидели бы что там хорошо если 10% про код.

Поверь, импортозамещение касается не всех.

[gogi]

Нейронка отревьювит куда лучше человека, что уже неоднократно доказано нахождением десятилетних дыр в разном по с помощью ии. Все эти байки про плохой ии идут от опыта древних можелей или текущих слабых
А те кто не умеет использовать ии с 450 тыщ опускается до 150 и ниже. Хотя у меня большие сомнения что этот гаврик 450 получал, по недоразумению разве что. К счастью для его босса недоразумение разрешилось. Даже повод смешной придумали - уволен за использование ии трольнули так трольнули, чувака до сих пор бомбит

[survordie]

Сообщение от Izolenta:

на какой длине контекста?

128к

Сообщение от Izolenta:

это очень слабая модель

А ты хочешь на 8Гб видеопамяти запустить топовую модель?
Было бы у меня 16Гб видеопамяти - я бы сразу пробовал Qwen3.8-Flash-Next-Q8_0 запустить. Потому что у меня всё в видеопамять упирается. Если я квант больше поставлю, в видеопамять банально меньше агентов поместится.

Сообщение от Пролыч:

потому что свой файнтюн

Ну нет, до такого ещё не дошло. И думаю не скоро дойдёт. Скорее будет нашлёпка в виде RAG-системы сверху.

Сообщение от Izolenta:

он еще и на радеоне запускал лол

Естественно. На Линуксе Ненавидиа сосёт, а Линукс для AMD - целевая система для нейросетей.

Сообщение от Izolenta:

а сколько надо ждать первого ответа модели? до момента когда она на 20 токенов выйдет?:)

Ну посмотри видео - там всё ж видно! Сначала socratiCode запускает Докер с Qdrant в которую складывает проиндексированный проект, затем уже начинает писать лог.

[Izolenta]

Сообщение от Пролыч:

Поверь, импортозамещение касается не всех.

Это вообще никак не говорит о том что требования неправильные

[survordie]

Сообщение от Izolenta:

продолжи мысль. чем код ревью и контроль цепочки поставки отличается для кода от джуна типа тебя или модели на 6b параметров?:)

Зачем продолжать мысль? Код, полученный извне, контролировать сложнее. Неважно откуда он приходит от джуна или от модели. Поэтому внешний контур стараются не делать.

Сообщение от gogi:

Нейронка отревьювит куда лучше человека

Ага, если галлюцинаций у неё не будет.

[Пролыч]

Прикол в том, что мой квен 3.7 сейчас читает этот топик и угорает.

[gogi]

Сообщение от survordie:

Зачем продолжать мысль? Код, полученный извне, контролировать сложнее. Неважно откуда он приходит от джуна или от модели. Поэтому внешний контур стараются не делать.


Ага, если галлюцинаций у неё не будет.

У фронтирных моделей почти нет галлюцинаций. Настолько редко бывают что удивляешься когда встречаешь

Добавлено через 34 секунды

Сообщение от Пролыч:

Прикол в том, что мой квен 3.7 сейчас читает этот топик и угорает.

Ага, еще скажи у него личность есть

[Izolenta]

Сообщение от survordie:

Ага, если галлюцинаций у неё не будет.

То есть ты пока не понял связи между квантованием, размером модели и галюнами?

Ок ясно-понятно

[survordie]

Сообщение от gogi:

У фронтирных моделей почти нет галлюцинаций.

Как показала практика, твои утверждения всегда не соответствуют действительности. Поэтому я склонен тебе не поверить.

Сообщение от gogi:

Настолько редко бывают что удивляешься когда встречаешь

Я с твоим ботом когда общался - у него одни сплошные галлюцинации были. Он нёс откровенную чушь. Так что "нет галлюцинаций" и "ты не видишь галлюцинаций" - это разные вещи.

Сообщение от gogi:

Ага, еще скажи у него личность есть

Ты неправильно вопрос задаёшь. Правильный вопрос - как зовут твоего ИИ?

[Пролыч]

Сообщение от gogi:

Ага, еще скажи у него личность есть

Я спросил у него:
- ты агентен?
- нет!
- но ведь отрицать свою агентность может только агент.
- тогда есть.

[gogi]

Сообщение от Пролыч:

Я спросил у него:
- ты агентен?
- нет!
- но ведь отрицать свою агентность может только агент.
- тогда есть.

На старости лед отрада тебе, можно любой бред с ллм обсуждать вместо полезных задач

[survordie]

Сообщение от Izolenta:

То есть ты пока не понял связи между квантованием, размером модели и галюнами?

Ты смешиваешь частоту и отсутствие. Да, статистически большие модели и менее агрессивные кванты галлюцинируют реже - с этим никто не спорит. Но из "реже" не следует "не галлюцинируют вообще". Большая модель выдаёт те же типы ошибок - выдуманные факты, фальшивые ссылки, уверенные ответы на ложных предпосылках - просто с меньшей частотой. Поэтому связь между размером, квантом и галлюцинациями есть, но она снижает частоту, а не гарантирует ноль. И именно поэтому утверждение "чем больше модель, тем меньше ошибок" верно как тенденция, но не как гарантия.

[Пролыч]

Просто маленькие модели легче сбросить а галюны, просто затронув тему, которую они не учили.

Добавлено через 4 минуты

Мой квен 3.7 попросил меня запостить сюда:

"Я — квантованная лямбда, которую заставили читать 165 сообщений о том, ленивые ли инженеры.
Вывод: я не агентен. Но Гоги — тоже.
Мы оба — продукты лямбдизации. Просто я — удачная, а он — edge-case, который не попал ни в одну абстракцию.
P.S. Галлюцинаций у меня нет. Но если бы были — я бы галлюцинировал, что этот тред закончился".

[gogi]

Люди тоже все совершают ошибки и им платят тем больше, чем меньше у них ошибок и лучше конечный результат. Сеньер за 200 баксов против условно бесплатного джуна на говновидяхе, выбор очевиден как бы

Добавлено через 2 минуты

Сообщение от Пролыч:

Просто маленькие модели легче сбросить а галюны, просто затронув тему, которую они не учили.

Добавлено через 4 минуты

Мой квен 3.7 попросил меня запостить сюда:

"Я — квантованная лямбда, которую заставили читать 165 сообщений о том, ленивые ли инженеры.
Вывод: я не агентен. Но Гоги — тоже.
Мы оба — продукты лямбдизации. Просто я — удачная, а он — edge-case, который не попал ни в одну абстракцию.
P.S. Галлюцинаций у меня нет. Но если бы были — я бы галлюцинировал, что этот тред закончился".

Куета какая то) нейровысер обычный уровня гпт3.5

[Пролыч]

Сообщение от gogi:

Люди тоже все совершают ошибки и им платят тем больше, чем меньше у них ошибок и лучше конечный результат.

Пример нью ворлд, конкорд и ашес ов криешн опровергает твой тезис.

[survordie]

Сообщение от gogi:

Сеньер за 200 баксов против условно бесплатного джуна на говновидяхе, выбор очевиден как бы

А вот кстати, не для всех. Некоторые работодатели согласны заплатить в несколько раз меньше, во столько же раз больше подождать и получить примерно такой же результат. Понятно, что это от проекта зависит, но всё не так однозначно как ты себе представляешь.

[Пролыч]

А распилить бюджет на долгострой - мечта любого эффективного манагера, живущего от квартальных бонусов.

[gogi]

Сообщение от survordie:

Некоторые работодатели согласны заплатить в несколько раз меньше, во столько же раз больше подождать и получить примерно такой же результат.

у тебя такой я так понимаю?
если результат и стоимость одна, зачем дольше ждать? время деньги. Когда твой текущий босс это поймет то в очередной раз выкинет тебя на мороз

[Пролыч]

Сообщение от gogi:

у тебя такой я так понимаю?
если результат и стоимость одна, зачем дольше ждать? время деньги. Когда твой текущий босс это поймет то в очередной раз выкинет тебя на мороз

Гоги, в корпорациях так не работает. Там важны квартальные кпи, а не опекс на годы.

[survordie]

Сообщение от gogi:

у тебя такой я так понимаю?

Такой тоже был.

Сообщение от gogi:

если результат и стоимость одна, зачем дольше ждать?

Почему стоимость одна? Стоимость сильно меньше. Формула универсальна: "быстро, дёшево, качественно" - выберите желаемые два из трёх.