NVIDIA NIM 免费推理端点

⚠️ 待更新·2026-08-29核验 · 更新时间待核验 · 本文信息可能已过期，请以官方文档为准 更新时间：2026-08-29 · 核验状态：待更新 · 官方溯源待补

引言

NVIDIA NIM 把主流开源模型打包成标准化推理容器并提供云端托管端点。注册 build.nvidia.com 可获 1000 credits 免费额度，覆盖数十个模型。

可用模型与端点

端点：https://integrate.api.nvidia.com/v1/chat/completions（OpenAI 兼容）。

• meta/llama-3.1-405b-instruct
• meta/llama-3.1-70b-instruct
• nvidia/llama-3.1-nemotron-70b-instruct
• mistralai/mistral-nemo-12b-instruct
• qwen/qwen2.5-7b-instruct
• deepseek-ai/deepseek-r1

调用示例

from openai import OpenAI
client = OpenAI(
    base_url="https://integrate.api.nvidia.com/v1", api_key="nvapi-...")
resp = client.chat.completions.create(
    model="deepseek-ai/deepseek-r1",
    messages=[{"role": "user", "content": "用 Python 实现快速排序"}],
    temperature=0.6, max_tokens=1024)
print(resp.choices[0].message.content)

注意事项

NIM 与英伟达硬件深度优化，延迟低、吞吐高。1000 credits 约百万 token，适合评测与原型。credits 用尽返回 402；405B 消耗快；敏感数据走本地 NIM 容器（nvcr.io/nim/...）。

🚀 立即开始：免费 API 一键调用

想要无需逐一注册、统一鉴权调用以上全部免费模型？Apishare.cc 提供统一 API Key，一个 Key 调用 100+ 模型，免费模型零成本直连。

👉 立即注册 Apishare.cc → 获取你的统一 API Key

📊 想看更多免费模型排行？查看 2026年9月 免费 LLM API 综合实力榜单 →

立即上手：APIShare 免费 API 目录

• 🆓 注册领取免费额度：立即注册 APIShare · 登录控制台
• 🔍 浏览全部免费 API 与实时榜单：APIShare 免费 API 目录
• 📊 查看免费 LLM API 排行：Free LLM API Rankings

免费 API 聚合平台说明

本文涉及的模型均由 APIShare 免费 API 聚合平台 统一接入，一份 Key 调用全站模型。

• 完整模型目录：APIShare 免费 API 目录
• 注册即送免费额度：注册领取 API Key