В принципе у меня есть свободная железка Ryzen 5600x (12 потоков) 32gb ddr4 и SSD nvme 512мб. Я туда мог бы видюху 3070 поставить.
Только хз потянет ли она ваш стратум....
потянет, но скорость парсинга промпта буде не фонтан.
так что агентские задачи где много вызовов тулов и последующего парсинга их вывода - будут страдать по скорости.
а в остальном получишь свои 20-30 токенов.
но без оперативы он мне предложил какой то треш пережатый так что даже мама сказать не сможет. поэтому я выкинул его и поставил ламу и старый добрый квен Q5.
это уже можно сказать старый миф, что высокое сжатие радикально снижает качество.
уже давно сжимают так, что q1 в худшем случае 15% теряет в качестве от оригинала.
ну и в целом надо смотреть на хуге что там за сетка, т.к. все сжимают по-разному.
есть самые примитивные кванты от анслота, они не хитрят и у них самые большие потери.
а есть всякие хитрые, где что-то сжимают, а что-то ваще не сжимают и качество уже не так сильно страдает.
ну и файнтюны чтобы поднятуть качество выше оригинала.