Meta's flagship open-weight model with 70 billion parameters. Strong multilingual capabilities with competitive performance on reasoning and coding benchmarks. Available for self-hosting and through various inference providers.
131K tokens
15
Доступна
Самый доступный
Inference.net
$0.60/1M tokens
Самый быстрый
Groq
95ms TTFT
Anyscale, Baseten, Cerebras, Fireworks, Groq, Hyperbolic, Inference.net, Lambda, Nebius, NLP Cloud, Novita, Perplexity, SambaNova, SiliconFlow, Together AI
Сортировка по общей стоимости входных и выходных токенов за 1 млн. Выберите строку, чтобы открыть страницу провайдера.
| Провайдер | Цена за 1 млн | Лимиты | Регионы | Состояние | Задержка |
|---|---|---|---|---|---|
Вход: $0.30Выход: $0.30 | 60 RPM / 200K TPM | us-east-1eu-west-1 | Работает | 0ms | |
Вход: $0.20Выход: $0.40 | 200 RPM / 800K TPM | us-east-1us-west-2 | Недоступен | 0ms | |
Вход: $0.35Выход: $0.35 | 60 RPM / 200K TPM | us-east-1 | Работает | 0ms | |
Вход: $0.35Выход: $0.35 | 600 RPM / 1.0M TPM | ap-east-1global | Работает | 0ms | |
Вход: $0.40Выход: $0.40 | 60 RPM / 200K TPM | us-west-2 | Работает | 0ms | |
Вход: $0.50Выход: $0.50 | 600 RPM / 1.0M TPM | us-east-1us-west-2 | Работает | 0ms | |
Вход: $0.50Выход: $0.50 | 60 RPM / 300K TPM | eu-west-1 | Работает | 0ms | |
Вход: $0.60Выход: $0.60 | 30 RPM / 60K TPM | us-east-1 | Работает | 0ms | |
Вход: $0.60Выход: $0.60 | 100 RPM / 500K TPM | us-west-2 | Работает | 0ms | |
Вход: $0.65Выход: $0.65 | 120 RPM / 500K TPM | us-east-1us-west-2 | Работает | 0ms | |
Вход: $0.59Выход: $0.79 | 30 RPM / 100K TPM | us-east-1eu-west-1 | Работает | 95ms | |
Вход: $0.88Выход: $0.88 | 600 RPM / 1.0M TPM | us-east-1us-west-2 | Работает | 0ms | |
Вход: $0.90Выход: $0.90 | 600 RPM / 1.0M TPM | us-east-1us-west-2 | Работает | 0ms | |
Вход: $1.00Выход: $1.00 | 100 RPM / 200K TPM | us-east-1us-west-2 | Работает | 0ms | |
Вход: $1.20Выход: $1.20 | 60 RPM / 200K TPM | us-east-1eu-west-1 | Работает | 0ms |
Используйте эту модель через Inference.net с OpenAI-совместимым SDK.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.inference-net.com/v1",
apiKey: process.env.INFERENCE_NET_API_KEY,
});
const response = await client.chat.completions.create({
model: "meta-llama/Llama-3.3-70B-Instruct",
messages: [
{ role: "user", content: "Hello!" }
],
});
console.log(response.choices[0].message.content);API Inference.net · OpenAI-совместимый SDK