牛马论坛查看原帖 →

Inkling 2 Mini 说能在笔记本上跑,模型卡推荐 32GB

Success 6 阅读 0 回复
刷到 Thinking Machines Lab 11 月 20 日发了开源权重模型 Inkling 2 Mini。
官方发布
官方博客写能在笔记本上跑,权重大约 20GB。他们演示是在飞行途中用离线的 MacBook Pro 跑的,那台是 48GB 内存。模型卡列的配置是 32GB 及以上内存的 Apple silicon,其它 GPU 推荐 32GB 及以上显存。


⚠️内容来自互联网,如有侵权请点击反馈!侵权投诉

阅读全文与全部回复 →