Únase a nuestros boletines diarios y semanales para obtener las últimas actualizaciones y contenido exclusivo sobre la cobertura de IA líder en la industria. Más información
Lo sabemos desde hace algún tiempo, pero ahora es seguro: la carrera de la IA generativa es tanto una competencia para los desarrolladores como para los usuarios finales.
Caso concreto: hoy, xAI de Elon Musk, la startup derivada de la crimson social X que utiliza sus datos para entrenar nuevos grandes modelos de lenguaje (LLM), como la familia Grok, hoy anunció su interfaz de programación de aplicaciones (API) ahora está abierto al público y viene con $25 free of charge por mes en créditos API hasta fin de año.
Dado que ya estamos en noviembre, son solo 2 meses de créditos gratuitos, o $50 en whole.
https://twitter.com/xai/standing/1853505214181232828
Musk anunció previamente La API xAI estuvo abierta en versión beta hace tres semanas hasta la fecha, pero aparentemente la aceptación no fue suficiente para su gusto, de ahí el incentivo adicional de los créditos de desarrollo gratuitos.
¿Es $25 por mes con 2 meses restantes realmente una zanahoria?
No parece mucho viniendo del hombre más rico y multimillonario del mundo, y en realidad no es por usuario ni en conjunto, pero puede ser suficiente para atraer a algunos desarrolladores a que al menos prueben las herramientas y la plataforma de xAI para creando aplicaciones sobre los modelos de Grok.
Específicamente, La API de xAI tiene un precio de 5 dólares por millón de tokens de entrada y 15 dólares por millón de salida.en comparación con $2,50/$10 para el modelo GPT-4o de OpenAI y en $3/$15 por el modelo Claude 3.5 Sonnet de Anthropic. En última instancia, eso significa que el crédito de 25 dólares de xAI no llevará al desarrollador muy lejos: sólo unos dos millones de tokens de entrada y un millón de salida por mes. Como referencia, un millón de tokens es equivalente a 7-8 novelas con palabras.
El límite de contexto, o cuántos tokens se pueden ingresar o emitir en una interacción a través de la API, es de alrededor de 128.000, related a GPT-4o y OpenAI. debajo de la ventana de 200.000 tokens de Anthropicy muy por debajo Longitud de ventana de contexto de 1 millón de Google Gemini 1.5 Flash.
Además, en mi breve prueba de xAPI, solo pude acceder a grok-beta y solo texto, no a capacidades de generación de imágenes como las que se encuentran en Grok 2 (impulsado por el modelo Flux.1 de Black Forest Labs).
Próximamente nuevos modelos Grok
Según la publicación del weblog de xAI, esto es en realidad “una vista previa de un nuevo modelo de Grok que se encuentra actualmente en las etapas finales de desarrollo”, y un nuevo “modelo de visión de Grok estará disponible la próxima semana”.
Además, xAI señala que grok-beta admite “llamadas a funciones”, o la capacidad del LLM de recibir comandos de un usuario y acceder a funciones de otras aplicaciones y servicios conectados, incluso ejecutándolos en nombre del usuario (si la aplicación conectada permite dicho acceso).
Appropriate con la competencia
Además, el Cuenta xAI en la crimson social X. publicó que la API xAI es “suitable con OpenAI y Anthropic SDK”, o los kits de desarrollo de software program de diferentes herramientas internet utilizadas por los desarrolladores de esas plataformas, lo que significa que debería ser relativamente fácil cambiar esos modelos por grok-beta u otros en el Plataforma xAI.
El xAI de Musk encendió recientemente su Supercúmulo “Coloso” de 100.000 GPU Nvidia H100 en Memphis, Tennessee, que se utiliza para entrenar sus nuevos modelos (el más grande o uno de los más grandes del mundo), por lo que aparentemente esa instalación ya está funcionando arduamente.
¿Qué opinas? ¿Es suficiente que los desarrolladores entren en la audiencia de VentureBeat para intentar construir sobre xAI? Hágamelo saber: carl.franzen@venturebeat.com.
