Qwen2.5 Coder 32B - Компьютерный форум OSzone.net

Компьютерный форум OSzone.net (http://forum.oszone.net/index.php)

- Прочее железо (http://forum.oszone.net/forumdisplay.php?f=56)

- - Qwen2.5 Coder 32B (http://forum.oszone.net/showthread.php?t=355960)

BlackEric

11-12-2024 20:28 3034088

Qwen2.5 Coder 32B

Какое железо нужно для нормальной работы такой модели? Те что меньше уже не полезны за редким исключением.
32 GB ОЗУ и 12 GB VRAM хватит?
Кто на чем запускает модели?

BlackEric

16-12-2024 16:38 3034219

Расчет требуемой видеопамяти для LLM

Время: 14:56.