Hard Посоветуйте видеокарту для работы с нейросетями

Не только. Дешевле всего будет вообще сидеть на сивитае и генерировать его средствами. Тогда новая видюха не нужна.

 

еще дешевле чем видеокарта за 13 тр с 8 гигабайтами, карта для майнинга за 6тр с 10гб. Тогда и не надо будет оплачивать кредиты генерации на чивитай. Единственное, уP102-100 почему-то нет тестов на моделях SDXL, только на моделях сд1. Уж нет ли каких то проблем сработай SDXL моделей на ней…

 

А сколько времени заняла генерация картинки на GTX 1080 Ti с SDXL?

И еще, как правильно понимать итерации в секунду? Это сколько шагов в секунду? Но я кое-где вычитал, якобы по итерациям в секунду точно время не вычислить, якобы с VAE получается дольше.

Где лучше всего посмотреть?

А как она в сравнении с Tesla V100 SXM2 16ГБ? Что-то мне кажется, хуже, если верить результатам отсюда. Но единственное, может потенциальная RTX 5060 Super будет уже на уровне Tesla V100, но гарантировано будет стоить дороже.

Все равно слабо верится в выгоду новой карты.

Как понимать "заниматься профессионально"? Если в смысле зарабатывать, то нет. Только для себя.

Вряд ли. Ну разве что попытаться запилить AI-кавер, то есть изменить вокал, чтобы было похоже на другого исполнителя. Хотя, если считать распознавание субтитров из звука, то это тоже надо. Но наверно та карта, которую я собираюсь взять потянет.

Видео было бы хорошо, но ни с доступным мне железом. Кстати, а локальные нейросети для видео выдают хороший результат? А то мне кажется, что до какого-нибудь Kling не дотянут.

У меня есть 16 ГБ оперативной памяти.

В принципе, даже до создания этой темы понимал, что для нейросетей видеопамять решает.

Я тоже.

Нет.

Его сейчас не оплатишь из России. Ну наверно есть какие-то обходные способы, но они почти гарантированно с переплатой.

 

И какая там будет скорость в сравнении с остальными?

 

Шаги в секунду это. Складывай секунды до получения нужного количества шагов.

P102-100 Это отбракованный гп от 1080 Ti, на моделе sd1 вдвое медленнее чем у меня.

 

Ну то есть fp16 работать там не будет, с --all-in-fp32 модель не влезет в 10 ГБ, с --unet/clip-in-fp8 и --vae-in-fp32 может быть.
Добавим к этому скрытый ценник на электроэнергию в виде TDP 250W (у 3060 - 170W). Так ли это выгодно?

 

И тем не менее, на 1080 Ti сдхл модель отрабатывает 20 шагов за 14 секунд:
правда, если в этих тестах используется настройки txt2img по умолчанию, там, как я понимаю, стоит 512 х 512. Но даже в этом случае, 1024 х 1024 отработает за 30 секунд.

Спойлер

Сколько у тебя бушных 3060 сдохнет за 3 с половиной года круглосуточной работы, прежде чем хотя бы одна окупит разницу в стоимости с P102-100? Где тут выгода? - одни гигантские убытки.

 

А зачем его оплачивать? генерация одной картинки - 5 бузов. В день можно получать по 225 бузов спокойно. Тебе мало 40 картинок в сутки? И это без вложений, к слову.

 

А сколько у меня сдохнет P102-100?)

 

Складывать что с чем? И да, если это шаги в секунду, то по идее, надо разделить количество шагов на итерации в секунду для того, чтобы узнать время генерации. и еще, как уже говорил, где-то слышал, что с учетом VAE получается дольше.

Это нужно добавить в параметры коммандной строки?

Конечно, более низкая энергоэффективность - не очень хорошо, но по идее, в домашних условиях не критично. Помню, на YouTube видел одно видео, где один человек проводил эксперимент, в котором сдавал свой компьютер в аренду онлайн (эксперимент заключался в том, можно ли на этом заработать?). Помню, что в конце эксперимента было подсчитано, что компьютер намотал электроэнергии на какие-то копейки.

К тому же, Ogr 2 уже провел выше кое-какие расчеты.

Ну там для бесплатного их получения нужно собирать лайки, проявлять прочую активность (особо не знаю, за что их дают). Неохота с этим возиться.

Я почти настроился на покупку P102-100, но есть еще мысли насчет CMP 40HX.

Судя по результатам тестирования в интернете, в Stable Diffusion CMP 40HX почти на уровне P102-100, но чуть-чуть хуже. И памяти всего 8 ГБ, против 10 у P102-100. Зато у CMP 40HX шина точно допаивается до x16, а у P102-100 похоже ничего с этим не сделать.

Таким образом, у P102-100 пусть и больше памяти, но ее может не хватить, тогда она начнет упираться в медленную шину PCIe x4, да еще 1.1. У CMP 40HX меньше памяти, всего 8 ГБ, намного больше вероятность, что не хватит, зато в этом случае придет на помощь шина PCIe x16.

Как вы считаете, что в итоге выиграет, 10 ГБ, но с шиной PCIe x4, либо 8 ГБ, зато с шиной PCIe x16?

Еще, когда я только создал эту тему, то P102-100 стоили в среднем 6000 рублей, правда я подробно тогда не изучал. А сейчас посмотрел - уже стоят в районе 4000. Подешевели? Это нормальная цена, или слишком дешево?

Кстати, я сейчас посмотрел в DNS, там НОВАЯ GeForce RTX 3060 стоит 29999 рублей. Я же спрашивал про Б\У.

 

Сначала я подумал, что это шутка. Но потом я вспомнил, как ты писал, что у тебя за проц зеон десятилетней давности и вместо материнки атермитер. Так что в твоём случае пойдёт любое оборудование, лишь бы оно было сильнее нынешнего.
И да, у нвидии ещё есть старые ИИ-карты, на Али их продают за десятку, они одной своей мощью как 3060, только вот выходов нет... И с драйверами грустно. Но с этой проблемой ты наверняка справишься.

И да, почему все думают. что у человека вырастет счёт за электричество? Он же не весь день будет генерировать.

--- добавлено 18 июн 2025, предыдущее сообщение размещено: 18 июн 2025 ---

Из интересных для тебя вариантов вот нашёл (не на правах рекламы):
https://aliexpress.ru/item/1005007485998862.html - аналог GTX 1070 (по скидкам на разных площадках можно урвать за 3к)
RTX 3050 8ГБ за 10-15к (можно выцепить новую, судя по пепперу)

 

Ещё чуть-чуть и автор темы точно поднимется с колен.
Как можно за 3 месяца существования темы не заработать 30т на видеокарту, если оно так надо. А выискивать какой то неликвидный хлам до 10к? Это какое то село отдаленное что ли, где з/п 30т? Ну реально... Если ещё на этом собираешься какие то деньги заработать, то тем более. Если нет, то вообще тогда просто больная фантазия.
P.S. Если автор, неработающий пенсионер или инвалид, то в этом случае негодования снимаются.

 

Возможно, автор темы до конца не знает, надо ли ему эти нейронки или нет. Ну, чтоб потратиться меньше.

 

Да, я частенько замечаю, что есть такие темы, которые создаются не для того, что бы достигнуть какой то финал, а что бы просто помусолить. Не только на этом форуме.

 

Автор месяца 3-4 телился, прежде чем арендовать видеокарту за 40 рублей в час, и по генерировать на ней. за 4- 6 тр, он года полтора будет телиться.

 

А чего тут такого похожего на шутку?

Заинтриговали. Это какие можно ссылку или хотя бы название?

Не, это не то. Она будет проигрывать P102-100. И до x16 вроде тоже не допиливается.

Не то что бы не знаю, надо или нет, скорее нет уверенности в самих нейросетях. Есть опасение, что поиграюсь и заброшу, по той причине, что нейросети не смогут решить мои задачи.

Есть еще опасения насчет P102-100, что скорость генерации там может оказаться невыносимо медленной, в итоге она окажется бесполезной.

Я не "телился", у меня просто руки не доходили. И вообще, я тогда поставил себе цель сначала переразметить свой жесткий диск, а уж потом нейросетками заниматься. У меня тогда еще в компьютере стоял жеский диск на 80 ГБ вместе с диском на 2 ТБ. Он остался еще с того времени, когда у меня вторым жестким диском стоял диск на 250 ГБ (вместе с диском на 80). Когда поставил диск на 2 ТБ, то просто перенес на него все данные с диска на 250 ГБ для того, чтобы было просто. Ну а первый диск у меня остался, потому что на нем была одна ОС, а на втором - другая. С жестким диском на 2 ТБ диск на 80 уже стал не нужен а оставался просто "по инерции".

Вообщем, у меня больше не доходили руки разобраться с жесткими дисками. Я еще думал, что забью жесткий диск моделями, думал буду копировать со своего компьютера на арендованную машину. Думал, надо переразметить диск, пока не забил. В итоге оказалось, что по FTP файлы копируются на удаленный компьютер достаточно медленно, что быстрее было прямо там, на арендованной машине скачать.

 

легко. Я за столько же времени почти накопил: на видюху есть, но под неё и новую систему надо.) Есть постоянно что-то важнее, чем новая видюха, которая потянет за собой и прочее.
Как показал коронковируз - кушать хочется каждый день.
А вот если кто-то бобыль без семьи и прочих обязательств, то конечно можно обмазываться негодованием.))

 

Никто так и не ответил.

 

Если верно помню, серия V100

 

Ох лол, они там от 100000 рублей. За 10000,— это один водоблок для неё.