Llama 3.1 405b Instruct
Имя модели в API: llama-3.1-405b-instruct
Llama 3.1 405b Instruct — это чат-модель от Meta, доступная через единый API Api.Airforce. Её стоимость составляет 508,72 ₽ за миллион входных токенов и 1 017,44 ₽ за миллион выходных токенов. Получите к ней доступ через OpenAI-совместимый API с одним ключом, наряду с более чем 100 другими моделями на Api.Airforce.
Цены
Характеристики
- Провайдер
- Meta
- Тип
- чат-модель
Бенчмарки
Независимые оценки и измеренная скорость от Artificial Analysis.
Llama 3.1 Instruct 405B
Источник: Benchmark data by Artificial Analysis (artificialanalysis.ai)
Для чего используется Llama 3.1 405b Instruct?
- Чат-боты и ассистенты — диалоговый ИИ, черновики, резюмирование и Q&A.
Llama 3.1 405b Instruct в сравнении с похожими моделями
| Модель | Интеллект | Контекст | Входные / 1M | Выходные / 1M |
|---|---|---|---|---|
| Llama 3.1 405b Instruct | 8.3 | — | 508,72 ₽ | 1 017,44 ₽ |
| Llama 2 13b | — | — | 169,57 ₽ | 169,57 ₽ |
| Llama 2 70b | — | — | 169,57 ₽ | 169,57 ₽ |
| Llama 2 7b | — | — | 113,05 ₽ | 113,05 ₽ |
Цены — тарифы Api.Airforce по схеме pay-as-you-go за 1M токенов. Контекст — максимальная длина входных данных.
Похожие модели
Llama 3.1 405b Instruct — часто задаваемые вопросы
- Сколько стоит Llama 3.1 405b Instruct?
- Llama 3.1 405b Instruct тарифицируется по схеме pay-as-you-go: 508,72 ₽ за 1M входных токенов и 1 017,44 ₽ за 1M выходных токенов. Подписка не нужна — платите только за использование.
- Что умеет Llama 3.1 405b Instruct?
- Llama 3.1 405b Instruct — это чат-модель от Meta, доступная через API Api.Airforce.
- Можно ли использовать Llama 3.1 405b Instruct бесплатно?
- Llama 3.1 405b Instruct — платная модель по схеме pay-as-you-go: подписка не нужна, оплата только за использование.
- Как использовать Llama 3.1 405b Instruct через API?
- Llama 3.1 405b Instruct совместима с OpenAI. Направьте любой OpenAI SDK на https://api.airforce/v1 и передайте идентификатор модели llama-3.1-405b-instruct вместе с вашим API-ключом Api.Airforce.
- Кто создал Llama 3.1 405b Instruct?
- Llama 3.1 405b Instruct — это чат-модель от Meta, доступная через единый шлюз Api.Airforce вместе с 100+ другими моделями.
Использовать Llama 3.1 405b Instruct через API
Совместимо с OpenAI — укажите любому OpenAI SDK адрес https://api.airforce/v1 и передайте llama-3.1-405b-instruct в качестве модели.
curl https://api.airforce/v1/chat/completions \
-H "Authorization: Bearer $AIRFORCE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "llama-3.1-405b-instruct",
"messages": [{ "role": "user", "content": "Hello!" }]
}'from openai import OpenAI
client = OpenAI(base_url="https://api.airforce/v1", api_key="$AIRFORCE_API_KEY")
r = client.chat.completions.create(
model="llama-3.1-405b-instruct",
messages=[{"role": "user", "content": "Hello!"}],
)
print(r.choices[0].message.content)import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.airforce/v1", apiKey: process.env.AIRFORCE_API_KEY });
const r = await client.chat.completions.create({
model: "llama-3.1-405b-instruct",
messages: [{ role: "user", content: "Hello!" }],
});
console.log(r.choices[0].message.content);