讲讲家里云新人部署求职项目用的大模型 API 供应商:主力 NVIDIA NIM + 备用 Ollama + OpenAI Codex 调试,含 glm-5.1、gemma4:31b、minimax-m2.7,零成本不爆账单

4 月 14 日
 longxinglink

1. NVIDIA NIM API (包含网页调用,API )

项目 详情
注册地址 https://build.nvidia.com/settings/api-keys
Base URL https://integrate.api.nvidia.com/v1
模型数量 约 187 个开源模型(含 gemma-4-31b 、GLM5 等)
并发限制 支持 40 并发,几乎无限量
注册门槛 域名邮箱即可,无需验证手机号、无需绑卡,gmail 邮箱需要验证手机号

作为我的大模型主要供应商,SLA 一直很稳定,高并发但是模型比较老旧,支持境内访问


2. Ollama Cloud API ( Free 不包含网页调用,仅 API )

项目 详情
地址 https://ollama.com/
Base URL https://ollama.com/v1
模型数量 36 个开源模型(含 glm-5.1 、gemma4:31b 、minimax-m2.7 )
注册门槛 gmail 注册无需手机号、无需支付方式
主要限制 Free 计划同一时间每个 API Key 只能请求同一个模型

作为我的大模型备用供应商,SLA 一直很稳定,可惜量少不支持高并发,支持境内访问


openclaw 我用的这个,用于家里云调试非常好用( Claude 不要用于 openclaw ,会封号) 美/新/英等国家,新注册账户送一个月 Plus 或者 Business ,但是需要绑定支付方式

OpenAI Codex ( Free 计划包含网页调用 cli ,API 需额外付费)

项目 详情
地址 https://openai.com/codex/
可用模型 gpt-5.4 等(含 xhigh 思考级别)
Free 计划额度 限制2.2 美元 / 5 小时(约为 Plus 计划的一半)
注册门槛 临时域名邮箱或者 gmail 即可,风控很友好,这个无需多言
10801 次点击
所在节点    分享创造
43 条回复
irvinghua
4 月 14 日
nvidia 是不是改了规则,我按照你的链接点进去注册,提示没有权限使用 API KEY ,提示文字:“Please verify your account to get API access.” 输入国内手机号验证,在输入栏校验死活不通过。而且看了下模型列表,只查到有 glm-5 ,没有 glm-5.1 啊
irvinghua
4 月 14 日
@irvinghua 终于通过了,那个手机号校验输入栏设计得很智障,要先选国家和地区,再输入手机号。选定了国家,国家区号前缀居然不会跟着联动改变,比如选 China ,输入栏国家区号依然是+1 ,要手动改成+86 ,我刚刚手动改成+086 校验一直通不过,非得是+86 。
cvbnt
4 月 14 日
NVIDIA NIM 最好补充一下,要搭配 CC SWITCH 里开启代理才能在 Claude code 里用
rebnonu
4 月 14 日
用 opencode 。CC SWITCH 配置好了直接用
CareiOS
4 月 14 日
免费使用?
longxinglink
4 月 14 日
@irvinghua NVIDIA NIM API 使用域名邮箱不需要手机号验证,使用 gmail 邮箱需要手机号验证,ollama 才有 glm-5.1 和 minimax-m2.7 这在文中有写

@cvbnt 开源模型性能有限,没有为 Claude code 工程编码场景优化设计,建议使用 Codex Free 计划( https://openai.com/codex/)或订阅 Claude.ai ,,第三方转接层风险请自行评估。

@CareiOS 对,我用的都是三家的免费计划
BD8NCF
4 月 14 日
NIM 使用域名邮箱也要手机收短信验证,下午试了。
之前看到有人说 gemma4 可以免费用,看了下,gemma4 要收费的
longxinglink
4 月 14 日
@BD8NCF NVIDIA NIM API 注册获得的 API 里 /models 有 NVIDIA NIM API ,且全程没有绑定任何支付方式,NVIDIA NIM API 并没有付款通道,请问 V 友是在哪里看见 “gemma4 要收费的”
NVIDIA NIM API 我使用的 xxx.ggff.net 二级域名邮箱和 xxx.de 域名邮箱 都没有复现 V 友说的 “NIM 使用域名邮箱也要手机收短信验证” ,V 友的说法可以复现吗?
BD8NCF
4 月 14 日
@longxinglink
我用我自己的域名,通过 cf 转 gmail 的邮箱,类似 xx@xx.com 这样的,确定要手机短信验证,短信内容有“通达文”字样,似乎是国内一家公司代发的。我看手机上去年也收到这个号的短信,不知道是哪家发的验证码,肯定不是 nvidia ,大概他们用的同一家的短信服务。

gemma4 要收费的意思,并不是说 nvidia 直接收费,是 nvidia 不免费提供,你在 free endpoint 里面找不到。应该是 nvidia 的几家合作商提供的收费主机。

你看 google 家的模型,
https://build.nvidia.com/models?filters=publisher%3Agoogle
gemma-4 就没有 Free EndPoint 字样,只是 Downloadable

gemma-4-31b-it 部署环节,你就可以看到费用了:
https://build.nvidia.com/google/gemma-4-31b-it/deploy
longxinglink
4 月 14 日
@BD8NCF
是否需要手机号验证似乎有他们自己的一套风控逻辑?

在 https://build.nvidia.com/settings/api-keys 里生成获得的 key 可以用 gemma-4-31b-it 以及其他模型,

你说的 https://build.nvidia.com/google/gemma-4-31b-it/deploy 是托管在第三方服务商比如 Bitdeer AI 是需要额外收费
BD8NCF
4 月 15 日
@longxinglink 是我搞错了。他家提供的 api 可以使用 key 直接访问就 ok 了。我以为他家是提供 docker 给你部署然后再访问你自己部署的模型。
MorningBOBO
4 月 15 日
ollama glm5.1 要收费了 model is experiencing high volume. while capacity is being added, a subscription is required for access: ollama
liuxue
4 月 16 日
ollama 我尝试了注册,发现用 gmail 也要手机号了
longxinglink
4 月 18 日
@MorningBOBO NVIDIA API 新增包括 z-ai/glm-5.1 、minimaxai/minimax-m2.7 等四款模型,nvidia 免费了
MorningBOBO
4 月 18 日
@longxinglink 好的,谢谢告知。
imqiyue
4 月 20 日
感谢,nvidia 现在上 glm5.1 了
okface
4 月 20 日
nvidia 的手机号验证过不了,用的 CF 域名邮箱
longxinglink
4 月 20 日
@okface 老老实实验证手机号吧,一个手机号可以多次验证,实测同一个+44 可以验证 5 次以上
ycxzfforever
4 月 20 日
NVIDIA 验证的时候提示:
This phone number has exceeded limits, please try a different phone number or try again later.
longxinglink
4 月 20 日
@ycxzfforever 被验证太多次(几十上百)或者运营商在 nvidia 黑名单内

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1205711

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX