Baseten

OperativoTelemetría actualizada hace 22 min

ML infrastructure platform for deploying and serving machine learning models at scale, offering managed GPU inference with auto-scaling and OpenAI-compatible API endpoints for popular LLMs.

Este contenido está disponible actualmente en inglés.

URL base de la API

https://bridge.baseten.co/v1

Autenticación

api-key

Disponibilidad (24 h)

100.0%

Disponibilidad (7 días)

100.0%

Regiones disponibles

us-east-1us-west-2

Latencia (TTFT)

Percentiles de tiempo hasta el primer token

No hay datos de latencia disponibles

Historial de disponibilidad

Disponibilidad durante los últimos 7 días

Disponibilidad de 7 días100.00% — Excelente

Disponibilidad de 24 horas100.00% — Excelente

Estado actual

Operativo

Última comprobación

hace 22 min

Modelos disponibles (1)

Modelos disponibles a través de este proveedor. Selecciona un modelo para ver los detalles.

Llama 3.3 70B Instruct

llama-3-3-70b

Precio (por 1 M): Entrada: $0.65
Salida: $0.65
Límites de uso: 120 RPM
500K TPM
Regiones: us-east-1us-west-2

Modelo	Precio (por 1 M)	Límites de uso	Regiones
Llama 3.3 70B Instruct llama-3-3-70b	Entrada: $0.65 Salida: $0.65	120 RPM / 500K TPM	us-east-1us-west-2