Hard Посоветуйте видеокарту для работы с нейросетями

Что-то сильно сомневаюсь, что оно знает все то многообразие персонажей, которое доступно на Civitai в виде LoRA. Да даже не на всех персонажей, которых хотелось бы, можно найти ЛоРЫ. Так что "смысла в них (в ЛоРАх) стало сильно меньше" - слишком уж смелое заявление.

Я конечно попробую погенерировать с NoobAI, но почти уверен, что все мои тесты оно провалит.

К тому же, по идее, LoRA можно еще использовать, чтобы генерировать как бы "оригинальных" персонажей. То есть, не копирование уже сущестыующих. Видел на YouTube в одном видео пример, как генерировали при помощи controlnet-openpose одну и ту же героиню с разных сторон, при этом это было не копирование какого-то существующего персонажа, а просто прописывали в запрос желаемую внешность. Потом картинки правили, чтобы убрать огрехи\нестыковки во внешности. Затем на них обучали LoRA. В итоге, можно было генерировать персонажа с достаточно похожей веншностью, но в разных ситуациях.

Дело в том, что при генерации нейросетями, даже если описать примерно внешность нужного тебе персонажа в запросе, то все равно, если добавлять в запрос почти любые слова, даже не касающиеся внешности персонажа, например, окружение, действия, позы и т.д. и т.п., то внешность будет искажаться, не говоря уж о разных сидах, я уже в этом убедился. А способ, описанный выше, по идее, должен помочь этого избежать. Я хочу попробовать.

Для меня на данный момент P102-100 - уже довольно сомнительная покупка. Сейчас уже больше склоняюсь к RTX 3060 12 ГБ.

Меня не особо интересуют текстовые модели.

 

@Talking_Sword, "Меня не особо интересуют текстовые модели.", т.е. скрипты-батники-улучшение кода чужих поделок не требуется. Завидую :-)

 

@Tigoro, с локальными моделями там будет только ухудшение.

 

@Forgettable, понятно дело что онлайновый - это подросток, а локальный - дошкольник, по развитию, но что делать )

 

Чтобы не оффтопить, ответил здесь.

Мне казалось, что генерация картинок - самое интересное, что умеют нейросети. Ну и еще видео конечно тоже интересно, но пока наверно на том уровне, на котором это находится сейчас, практической пользы от этого мало.

Что касается написания кода нейросетями, то как-то даже не думал об этом. Вообще-то это могло быть полезно. Но что-то я сомневаюсь, что нейросеть прямо так выдаст рабочий код. А в нерабочем коде еще нужно будет разобраться, а если в программировании плохо разбираешься, то это будет очень сложно.

Ну и эта модель для локального запуска на не самой мощной видеокарте должна быть "утоптанная" об этом уже сказал Forgettable. Значит она будет более "глупой".

 

Я понимаю, что наверно уже всех здесь задолбал, но после этого вопроса я уже буду покупать другой (более мощный) блок питания к своему компьютеру и видеокарту.

Какие тесты лучше использовать? Ну я знаю FurMark, а еще что кроме него желательно прогнать?

Не уверен, дадут ли мне так долго тестировать. Я думал где-то минут 15-30 тестировать, наверно у большинства на столько времени терпения не хватит, скажут "или покупай, или уходи"?

 

Генери картинки онлайн, для этого никакая аренда или видюха не нужна.

 

Во-первых, у всех бесплатных цензура. Во-вторых, там устаревшие модели используются. в-третьих, зачастую они не знают нужных персонажей, поз, ракурсов и стилей.

 

Возник еще один вопрос про видеокарту. Снижает ли LHR производительность в нейросетях? Как уже писал в первом сообщении, прежде всего интересует Stable Diffusion.

 

@Talking_Sword, нет, поскольку для генерации не используются криптоалгоритмы

 

Forgettable, не совсем понял, как этот LHR реализован? Каким образом определяется, выполняются ли там криптоалгоритмы или что-то другое?

У меня просто было опасение, что LHR вообще урезает производительность GPGPU, чтобы видеокарта работала чисто как 3D-ускоритель.

 

@Talking_Sword, он режет скорость вычислений ethash и kawpow. Он никак не влияет на матричные умножения

 

Forgettable, я понял, что он не влияет на производительность нейросетей. Но я не понял, как определяется различие, майнится ли сейсас криптовалюта, либо делается что-то другое? Это уже вопрос больше из интереса, если что.

 

И объяснить это может только чел с форума про старые игры... Больше эту инфу нигде не найти.

Offtop

Видеокарты с **Lite Hash Rate (LHR)** используют специальные алгоритмы для **ограничения производительности в майнинге**, но при этом стараются не затрагивать другие вычисления, такие как умножение матриц в майшин-лернинге или научных расчётах.

### **Как LHR отличает майнинг от других задач?**
1. **Анализ шаблонов доступа к памяти**
- Алгоритмы майнинга (особенно Ethereum на Ethash/KawPow) имеют **очень специфический паттерн доступа к видеопамяти**: частые случайные чтения из DAG-файла.
- В других задачах (например, матричные операции в ИИ) доступ к памяти более **последовательный** или структурированный.

2. **Проверка типов вычислений**
- Майнинг Ethereum основан на **хешировании**, которое требует множества **целочисленных операций** и **логических сдвигов**.
- Умножение матриц (как в CUDA-ядрах для deep learning) — это **операции с плавающей запятой (FP32/FP16/Tensor Core)**, которые не блокируются LHR.

3. **Детекция повторяющихся операций**
- Майнинг выполняет **однотипные вычисления** миллионы раз подряд (поиск nonce для хеша).
- В научных или графических задачах вычисления **меняются** в зависимости от входных данных.

4. **Программные ограничения в драйвере**
- NVIDIA внедрила в драйверы **специальные проверки**: если видеокарта определяет, что запущен майнинг-алгоритм (через анализ вызовов API), она **снижает хешрейт**.
- Для обхода майнеры использовали **подмену исполняемых файлов** (например, маскировка майнера под `python.exe` или `blender.exe`), но NVIDIA улучшала детекцию.

### **Почему матричные умножения не блокируются?**
- Они используют **CUDA-ядра** и **Tensor Core**, которые не похожи на майнинговые вычисления.
- Видеокарты LHR **не ограничивают FP32/FP16-производительность**, так как это критично для игр и deep learning.

### **Вывод**
LHR-карты **не блокируют "честные" вычисления**, а только специфические майнинговые алгоритмы. Однако майнеры находили способы обходить ограничения (например, через **50% unlock в NiceHash**), но сейчас, с переходом Ethereum на PoS, LHR потеряло актуальность.

Если у тебя есть LHR-карта и ты хочешь использовать её для вычислений — никаких проблем не будет. Ограничения касаются только майнинга.

 

Вообще меня удивляет этот странный трюк с LHR. Зачем они это сделали? Получается "нвидиа против майнинга". Это напоминает лозунги "чиновники против коррупции", "рок против наркотиков" или "пчёлы против мёда".

Ведь главная цель любой корпорации — принести максимальную прибыль своим акционерам. Зачем они сами себе в ногу выстрелили? Или внедрение LHR было им финансово выгодно? Но каким образом, Шерлок?

 

1. Не потерять рынок геймеров, на котором они доминировали всю историю
2. Избежать заваливания вторичного рынка дешевыми видюхами после того, как очередной пузырь лопнет

 

Проблема не в майнинге, как таковом, проблема в том, что майнеры - начисто выносили воообще все поставки карт => они не доставались геймерам/прочим => они либо переплачивали т.н. "скальперам" и ныли, либо покупали АМД и ныли, либо просто ныли.
Всё это создало сильные репутационные риски для компании и пришлось изображать. А деньги - им пофиг, кто покупал первичку.

 

@TBAPb, помню свою 1066 за 40к рублей)) а спустя всего несколько лет я брал жене идентичную по производительности 1650S за ~10...

 

Хорошо, что я свою 2060 взял сразу как она вышла, между пиками майнинга, за 25 к.