mmgp:为消费级Nvidia GPU用户优化内存管理,让最新开源前沿模型也能在低配显卡上流畅运行。

最低仅需6GB显存和24GB内存即可运行;提供5种配置文件,适配从低端到高端的硬件需求;支持智能模型加载/卸载与异步传输,提升运行效率
 
 
Back to Top