Anyscale

OperativoTelemetría actualizada hace 22 min

Serverless inference platform built on Ray, offering high-throughput access to popular open-weight models. OpenAI-compatible API with competitive pricing and enterprise-grade scalability.

Este contenido está disponible actualmente en inglés.

URL base de la API

https://api.endpoints.anyscale.com/v1

Autenticación

bearer

Disponibilidad (24 h)

100.0%

Disponibilidad (7 días)

100.0%

Regiones disponibles

us-east-1us-west-2

Latencia (TTFT)

Percentiles de tiempo hasta el primer token

No hay datos de latencia disponibles

Historial de disponibilidad

Disponibilidad durante los últimos 7 días

Disponibilidad de 7 días100.00% — Excelente

Disponibilidad de 24 horas100.00% — Excelente

Estado actual

Operativo

Última comprobación

hace 22 min

Modelos disponibles (3)

Modelos disponibles a través de este proveedor. Selecciona un modelo para ver los detalles.

DeepSeek V4

deepseek-v4

Precio (por 1 M): Entrada: $0.20
Salida: $0.40
Límites de uso: 300 RPM
500K TPM
Regiones: us-east-1us-west-2

Llama 4 Maverick

llama-4-maverick

Precio (por 1 M): Entrada: $0.25
Salida: $0.25
Límites de uso: 600 RPM
1.0M TPM
Regiones: us-east-1us-west-2

Llama 3.3 70B Instruct

llama-3-3-70b

Precio (por 1 M): Entrada: $0.50
Salida: $0.50
Límites de uso: 600 RPM
1.0M TPM
Regiones: us-east-1us-west-2

Modelo	Precio (por 1 M)	Límites de uso	Regiones
DeepSeek V4 deepseek-v4	Entrada: $0.20 Salida: $0.40	300 RPM / 500K TPM	us-east-1us-west-2
Llama 4 Maverick llama-4-maverick	Entrada: $0.25 Salida: $0.25	600 RPM / 1.0M TPM	us-east-1us-west-2
Llama 3.3 70B Instruct llama-3-3-70b	Entrada: $0.50 Salida: $0.50	600 RPM / 1.0M TPM	us-east-1us-west-2