NVIDIAFreeĐang hoạt động

Nemotron 3 Super 120b A12b

Tên mô hình API: nemotron-3-super-120b-a12b

Nemotron 3 Super 120b A12b là mô hình trò chuyện của NVIDIA, được phục vụ trên API hợp nhất của Api.Airforce. Nó có cửa sổ ngữ cảnh 262K token. Các khả năng bao gồm Gọi công cụ, Suy luận. Nó khả dụng ở bậc miễn phí mà không tính phí theo token. Truy cập nó thông qua API tương thích với OpenAI chỉ với một khóa, cùng với hơn 65 mô hình khác trên Api.Airforce.

Bảng giá

Đầu vào / 1M token
Free
Đầu ra / 1M token
Free

Thông số kỹ thuật

Nhà cung cấp
NVIDIA
Loại
mô hình trò chuyện
Cửa sổ ngữ cảnh
262K token
Đầu vào
text
Đầu ra
text

Khả năng

Gọi công cụSuy luậnTruyền phát

Sử dụng Nemotron 3 Super 120b A12b qua API

Tương thích với OpenAI — trỏ bất kỳ OpenAI SDK nào tới https://api.airforce/v1 và truyền nemotron-3-super-120b-a12b làm mô hình.

cURL
curl https://api.airforce/v1/chat/completions \
  -H "Authorization: Bearer $AIRFORCE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nemotron-3-super-120b-a12b",
    "messages": [{ "role": "user", "content": "Hello!" }]
  }'
Python
from openai import OpenAI
client = OpenAI(base_url="https://api.airforce/v1", api_key="$AIRFORCE_API_KEY")
r = client.chat.completions.create(
    model="nemotron-3-super-120b-a12b",
    messages=[{"role": "user", "content": "Hello!"}],
)
print(r.choices[0].message.content)
JavaScript
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.airforce/v1", apiKey: process.env.AIRFORCE_API_KEY });
const r = await client.chat.completions.create({
  model: "nemotron-3-super-120b-a12b",
  messages: [{ role: "user", content: "Hello!" }],
});
console.log(r.choices[0].message.content);

Hiệu suất trực tiếp

Thông lượng và độ trễ thực tế trên các nhà cung cấp phục vụ mô hình này.

Đang tải số liệu trực tiếp…

Mô hình liên quan