Доброчанька
03/01/2023 (Wed) 21:51
No.3414
del
Кто-нибудь уже смотрел или пробовал оптимизацию по VRAM на 2 порядка? Говорят, 175B модель в одну карту 3090 влезет. Кстати, модели в VRAM сжатые лежат? И если такой упор в видео память, можно ли нормально нейронку на встройке запустить или без CUDA смысла нет?