以前一直使用英伟达 6000D-84G搭建 越狱版”千问-3.8-27B“使用。 但是租金也贵，5元左右一小时，256K上下文。 然后去搜了搜，找了个也是自己搭建的服务商，卖token，想用就用 我觉得每个人都应该有一个越狱大模型作为备用，以及可以用于codex，workbuddy.
不嫌慢的话花1w多点，内存 + 显卡，qwen next flash 反正是能跑，大概10~20ts的输出。 我自己目前就是5070ti x 1（之前买来玩游戏的） + 2080ti x 3 ， + 72g ddr4 qwen27b 无审查 a8的，俩2080ti 22g 就可以跑了大概5k。
哪家的，多少钱
@0510 #1 10元=10美元，价格按照图片计算
千问太拉了, 无审查的GLM还可以, 但是跑起来得4块H100
@蛋糕FelixCake #3 你知道有谁私自搭建卖token的吗？ 推荐一下
@挪威norway-4498 #4 你完全可以自己搭建的
@蛋糕FelixCake #5 我知道自己可以搭建，但是没H100显卡啊.. 况且就算租也是天价。。 一小时70-100元租金吧。
不嫌慢的话花1w多点，内存 + 显卡，qwen next flash 反正是能跑，大概10~20ts的输出。
我自己目前就是5070ti x 1（之前买来玩游戏的） + 2080ti x 3 ， + 72g ddr4
qwen27b 无审查 a8的，俩2080ti 22g 就可以跑了大概5k。
@dtfour09 #7 我是AI MAX+ 395 + 一块32G的傲腾放n-gram +128G lpddr5放其余的
还在与ai学习如何部署…
@pl6 #8 128g的 我等到国庆后再搞，主要是395，卖点team还债（/dog）
。
主要是 目前这样的方案比我买395便宜。 我只有个32g的395
@dtfour09 #9 395你要不…？你要的话…我很乐意出掉
按市场价2W出 包邮 128G+2T