Нейросети и прочие ИИ

Сколько оперативной памяти нужно для нормальной работы Forge? Не видеопамяти, а именно оперативной. Если не ошибаюсь, при нехватке видеопамяти используется системная, так что наверно видеокарта с малым количеством памяти будет повышать требования к количеству оперативной памяти.

Предположим, если у меня будет видеокарта с 10 ГБ памяти, то 8 ГБ оперативной памяти наверно будет мало? Или нет?

 

Модель он сразу в оперативную память загружает, и оттуда уже подтаскивает в видеопамять. Модели контролнета и лор, наверное, также.

 

Прямо всю сразу? Чекпоинты SDXL весят 6 с небольшим гигабайт. Наверно 8 ГБ будет совсем впритык?

А ведь сейчас еще есть Flux, там модель 20 с лишним гигабайт, наверно там и 16 ГБ оперативной памяти будет недостаточно?

В итоге. 8 ГБ мало, если даже рассматривать только SDXL? А если хочется использовать Flux, то 16 ГБ будет недостаточно, или как?

 

Фордж предназначен для минимизации использования видеопамяти. может быть другие — автоматик, или конфи, и по другому работают - сразу в видео память модель загружают, ну или, может быть, можно настройками так сделать, хз.

Бери либо сразу 32. либо 16, с возможностью расширением до 32.

 

16 ГБ это минимум для нормального существования в 2025. Стоит меньше 2 тысяч рублей...

При использовании bnb-nf4 чекпоинт должен полностью влезать в 8 ГБ

 

Легко сказать... Я с вами согласен, что 32 ГБ - лучший вариант, а минимум желательно 16 с возможностью апгрейда, но если ограничен в бюджете.

Да цена памяти меня не особо пугает. Но у меня некуда ее пока поставить, под память придется еще и материнскую плату покупать. У меня есть Pegatron APM80-D3 - там, как мне кажется, можно поставить 8 ГБ оперативной памяти, хотя можно найти в сети характеристики платы - там пишут про 4 ГБ максимум. Но не вижу ничего невозможного в поддержке 8 ГБ двумя планками DDR3 по 4, находил описания других плат на чипсете AMD 740G с двумя разъемами для оперативной памяти - везде пишут про 8 ГБ максимум. Возможно 4 ГБ взялось из характеристик "просто" APM80 без D3 - там DDR2.

Но вот возможность установки 16 ГБ памяти на APM80-D3 уже сомнительна.

 

Тогда стоит начать с этого. Не с покупки видеокарты точно...

 

В таком случае не Х собирать 2й пк, делай на основе имеющегося. и если взять 1070 на 8 гб, за 9 тр, плюс новый блок питания, проблем будет меньше.

 

На основе имеющегося не очень получается. Во первых, в имеющемся компьютере стоит материнская плата Atermiter X79G. В выборе видеокарты я пока склоняюсь к Nvidia P102-100, так как это будет мощность примерно GTX 1080 Ti, но за меньшие деньги. P102-100 не умеет выводить картинку, поэтому встроенная видеокарта нужна обязательно. На X79G ее по понятной причине нет. Можно использовать вторую видеокарту, но для нее нужен еще один разъем PCI-e x16, которого там нет. Вторую видеокарту можно подключить через райзер к PCI-e x1, но это вероятно сильно ударит по производительности (и не уверен, на сколько вообще работоспособно). Возможно, PCI-e x1 и хватит, если использовать P102-100 для ускорения графики, а вторую видеокарту только для вывода картинки, но я использую Windows XP (на самом деле Windows 2003 из-за некоторых проблем совместимости) как основную систему, P102-100 там работать не будет. На Windows 10 я пока переходить не готов. То же самое и про использование "нормальной" видеокарты, которая может выводить картинку сама - любая более-менее годная для нейросетей видеокарта в XP работать не будет.

Поэтому под нейросети нужен будет отдельный компьютер.

 

Если для тебя вот это вот— непреодолимая проблема, то Преодоление геморроев с майнинговой картой тебе точно не по плечу.

 

Список нейронок:

ChatGPT — https://chatgpt.com/
Grok — https://grok.com/
DeepSeek — https://chat.deepseek.com/
Gemini — https://gemini.google.com/
Claude — https://www.anthropic.com/
Llama — Llama ( Meta AI )

 

А я по-русски пишу, поначалу заморачивался, сейчас уже нет. Сейчас уже начал общаться в стиле "переделай квадратики сверху".
Раньше конкретно указывал нужные названия в коде, потом перешел на такой русско-англо суржик, в принципе проблем нет с пониманием. У Grok.
У Дипсика периодически есть такое недопонимание, в простых ситуациях, сравнивал с Grok. DeepSeek периодически не до конца понимает, или не совсем четко понимает, если простым языком по-русски попросить чего-то переделать в механике игры, например. Любит добавить того, чего не просили.
Все больше убеждаюсь, что на данном этапе развития DeepSeek больше склонен к отсебятине.
Ну простой пример, пишешь что игра нужна на весь экран, Grok по-честному делает, а DeepSeek начинает уже со старта чудить, половина игрового пространства на весь экран, а половина где-то скучковалась на 1/3.

 

Куда вас, сударь, к черту, занесло, неужто вам покой не по карману...

 

И всё это на WinSvr2003.
Не, человек уверен, что может, тут даже объяснять бесполезно.

 

Вы думаете, что я настолько бестолковый? Да нет, ну просто не хочу пользоваться Windows 10 как основной системой, это не из-за того, что я что-то плохо понимаю.

Не надо считать меня совсем уж безумцем. Нет, я отлично понимаю, что на Windows 2003 это все работать не будет, поэтому и хотел сделать отдельный компьютер, где бы совместимость с Windows XP\2003 не требовалась бы.

 

@Talking_Sword,
https://www.ozon.ru/product/materin...ga-h67a-d3h-b3-rev-1-0-socket-1155-1646279139 3.4
https://www.ozon.ru/product/billion...-pc-8g-1600-2x8-gb-br-pc-8g-1600x2-1607805650 1.7
https://www.ozon.ru/product/intel-p...ra-hd-graphics-3000-oem-bez-kulera-1632998285 1.7
https://www.ozon.ru/product/kuler-dlya-protsessora-pk-bashennyy-4pin-mr-cold-1433779433 1.3
https://www.ozon.ru/product/seagate-500-gb-vnutrenniy-zhestkiy-disk-barracuda-st500dm009-1404065215 1.2
https://www.ozon.ru/product/blok-pitaniya-kompyutera-azerty-rpl-600bar-600w-vt-1077600340 2.4
11,6тр

 

@Ogr 2, да какой 2500k, еще и за такие деньги? На авито есть современное железо дешево

 

На авита возвратов нет. Продали мусор — и с концами, Отсюда и "дешевизна"…

 

@Ogr 2, мусор - это 2500k за 1700р. имхо

 

Ну подбери На озоне, современные и дешевле. Пускать слюни на Авито на дешевле дешевого — Это Пускать слюни на, либо сразу дохлые комплектующие, либо работающие с проблемами— к примеру, нерабочей канал Памяти.