如题,各位大佬
1
seers 1 day ago
可以试下,Q4_K_M 才 20 个 G ,加载应该没啥问题,能跑多快不好说
|
2
a869072989 1 day ago
32GB 怕是有点困难哦
|
3
imydou 1 day ago
m3Max 36G 能跑不
|
4
sentinelK 1 day ago
用 4bit 量化可以,但效率慢到哭。
RTX PRO 5000 ,540p 竖屏,15 秒 I2V ,要 700 秒。 换成普通 m5 的话(不是满血 MAX ),大概时间要 5x~10x 。 性能其实是视频模型很重要的一个参数,毕竟和 LLM 不同,图、视频是要 seed 抽卡的。 |