Cloudflare mejora Workers AI para desarrollar Inteligencia Artificial más natural y eficiente
Los usuarios de la plataforma ahora encontrarán una potente actualización de GPU, inferencia más rápida, modelos más grandes y una base de datos vectorial mejorada.
Ciudad de México, 26 de septiembre de 2024 – Cloudflare, Inc. (NYSE: NET), la empresa líder en conectividad cloud, anunció nuevas y más potentes funciones de Workers AI, la plataforma de Inteligencia Artificial (AI) sin servidor, para ayudar a los desarrolladores de aplicaciones con esta tecnología a crear sus plataformas más rápido y con mejor rendimiento.
Las aplicaciones desarrolladas en Workers AI ahora se benefician de una inferencia más rápida, modelos más grandes, mejores análisis de rendimiento y más. Workers AI es la plataforma en la que resulta más fácil desarrollar aplicaciones de IA a nivel global y ejecutar inferencias de IA cerca del usuario, independientemente del lugar del mundo en donde se encuentre.
A medida que los modelos lingüísticos de gran tamaño (LLM) se achican y tienen un mejor rendimiento, las velocidades de la red constituirán un cuello de botella para la adopción del cliente y las interacciones de IA eficientes. La red distribuida a nivel global de Cloudflare ayuda a minimizar la latencia de la red, diferenciándose de otras redes que generalmente están formadas por recursos concentrados en centros de datos limitados.
En la actualidad, la plataforma de inferencia sin servidor de Cloudflare, Workers AI, ahora tiene GPU en más de 180 ciudades en todo el mundo. Está desarrollada para ofrecer accesibilidad a nivel global y baja latencia a los usuarios finales de todo el mundo. Con esta red de GPU, Workers AI tiene una de las mayores presencias en cuanto a plataforma de IA a nivel global. Además, se ha diseñado para ejecutar inferencias de IA a nivel local, lo más cerca posible del usuario, y para tener los datos de los clientes más cerca de estos.
“Cuando el año pasado se lanzó la IA, nadie pensaba que las velocidades de las redes eran el motivo de la latencia de IA, porque aún era una interacción novedosa y experimental. Pero a medida que la IA se integra cada vez más a nuestras vidas diarias, la red y los milisegundos importan", comentó Matthew Prince, cofundador y director general de Cloudflare.
“A medida que las cargas de trabajo de IA cambian de entrenamiento a inferencia, el rendimiento y la disponibilidad regional van a ser fundamentales para respaldar la siguiente etapa de la IA. Cloudflare es la plataforma de IA más global del mercado, y tener GPU en ciudades de todo el mundo es lo que hará que la IA pase de ser un juguete novedoso a formar parte de nuestras vidas diarias, al igual que lo fue Internet para los teléfonos inteligentes”.
Cloudflare también presenta nuevas funciones que la convierten en la plataforma en donde se pueden desarrollar más fácilmente aplicaciones de IA con lo siguiente:
- Rendimiento mejorado y compatibilidad con modelos más grandes: ahora Cloudflare mejora su red global con GPU más potentes para que Workers AI actualice el rendimiento de inferencia de IA y ejecute inferencia en modelos significativamente más grandes como Llama 3.1 70B, y la colección de modelos Llama 3.2 con 1B, 3B, 11B (y pronto 90B). Al admitir modelos más grandes, tiempos de respuesta más rápidos y ventanas de contexto más grandes, las aplicaciones de IA desarrolladas en Workers AI de Cloudflare pueden gestionar tareas más complejas con mayor eficiencia – y generar de esta manera experiencias del usuario naturales y eficientes.
- Mejor monitoreo y optimización del uso de IA con registros persistentes: los nuevos registros persistentes en AI Gateway, disponibles en la versión beta abierta, permiten a los desarrolladores almacenar las indicaciones de los usuarios y las respuestas del modelo por períodos más extendidos para analizar y comprender mejor cómo funciona su aplicación. Con los registros persistentes, los desarrolladores pueden obtener información más detallada de las experiencias de los usuarios, incluso el costo y la duración de las solicitudes, para ayudar a ajustar su aplicación. Más de dos mil millones de solicitudes han pasado por AI Gateway desde su lanzamiento el año pasado.
- Consultas más rápidas y asequibles: las bases de datos vectoriales permiten que los modelos recuerden más fácilmente entradas previas y que el aprendizaje automático se use para potenciar la búsqueda, las recomendaciones y los casos de uso de generación de texto. La base de datos vectorial de Cloudflare, Vectorize, ahora está disponible, y a partir de agosto de 2024 admite índices de hasta cinco millones de vectores cada una, previamente admitía 200 000. La latencia promedio de las consultas ahora es de 31 milisegundos (ms), comparada con 549 ms. Estas mejoras permiten que las aplicaciones de IA busquen rápidamente información relevante con menos procesamiento de datos, lo que también significa más aplicaciones de IA asequibles.
Para obtener más información, consulta los siguientes recursos:
- Blog: La plataforma de inteligencia artificial más grande, mejor y más rápida de Cloudflare
- Blog: Hacer que Workers AI sea más rápida y eficiente: optimización del rendimiento con compresión de caché KV y decodificación especulativa
- Únete a nosotros en línea para demostraciones, anuncios de productos y más en nuestra primera transmisión en directo de Builder Day el 26 de septiembre a las 11 a. m. PT. Inscríbete en https://builderday.pages.dev.
Acerca de Cloudflare
Cloudflare, Inc. (NYSE: NET) es la empresa líder en conectividad cloud cuya misión es ayudar a crear un mejor servicio de Internet. Ayuda a las organizaciones a aumentar la velocidad y mejorar la seguridad de sus empleados, aplicaciones y redes en todas partes, al tiempo que reduce la complejidad y los costos. La conectividad cloud de Cloudflare ofrece la plataforma más completa y unificada de productos nativos en la nube y herramientas para desarrolladores, de manera que cualquier organización pueda obtener el control que necesita para trabajar, desarrollar y acelerar su negocio.
Cloudflare, que utiliza una de las redes más grandes e interconectadas del mundo, bloquea por día miles de millones de amenazas en línea para sus clientes. Millones de organizaciones confían en Cloudflare, desde las marcas más importantes, emprendedores y pequeñas empresas hasta organizaciones sin fines de lucro, grupos humanitarios y gobiernos de todo el mundo.
Si deseas obtener más información sobre la conectividad cloud de Cloudflare, visita cloudflare.com/connectivity-cloud. Para conocer las nuevas tendencias y perspectivas de Internet, consulta https://radar.cloudflare.com.
Síguenos en: Blog | X | LinkedIn | Facebook | Instagram