想跑点大模型，现在最划算的方案是什么？

三月七 · 发表于 2025-7-29 22:06:13

就研究些和ai相关的应用，感觉调用和token都会挺多的。要求也不高，能跑个40B，或者72B左右的模型就很满足了。

我有几个简单的想法：
1.租个VDS/杜甫，新一点的CPU支持AVX512的，大内存用CPU跑。
2.租GPU资源。但是感觉太贵了，没有什么便宜的路子。
3.直接调用付费API。
4.自己组一台电脑，内存和CPU拉满给很大。大力出奇迹。

不组GPU那是因为确实组不起

5.苹果电脑加钱配大内存？

大佬们有啥想法吗

迪士尼 · 发表于 2025-7-29 22:45:23

阿里云的其实也不贵训练也合适

Eureka · 发表于 2025-7-29 22:39:31

垃圾佬的拼好卡：V100 16G
裸板咸鱼卖500

haowan · 发表于 2025-7-29 22:30:02

三月七 · 发表于 2025-7-29 22:27:53

redneck 发表于 2025-7-29 22:08
多买几台国补的mac mini

我看不是说exo框架其实性能一般吗

redneck · 发表于 2025-7-29 22:08:39

多买几台国补的mac mini

		自动登录	找回密码
密码			注册