Dell presenta una nueva gama de ordenadores y servidores "factoría IA" para ejecutar inteligencia artificial localmente y evitar los costes crecientes de tokens en la nube.
El nuevo PowerRack de Dell puede alojar hasta 144 unidades de procesamiento y está diseñado para IA a gran escala, en colaboración con Nvidia.
La plataforma promete mejoras en velocidad, eficiencia y consumo energético, con consultas seis veces más rápidas y hasta un 60% de ahorro energético.
Dell y Nvidia remarcan que la clave será tener datos propios y una infraestructura cercana, permitiendo ejecutar agentes IA especializados y contener costes imprevisibles.
Ahora que la inmensa mayoría de las empresas se habían hecho a la idea de acogerse a la nube para domar el presupuesto destinado a tecnología informática, llegan los agentes IA y le dan una patada al tablero. Vuelta a empezar el juego. Otra vez conviene construir una infraestructura crítica en casa. Desde que Anthropic anunció en marzo el final de la tarifa plana por el uso de la IA agéntica, y los demás le han seguido, la factura por consumo de tokens (unidades de cómputo) se ha convertido en un imprevisible dolor de cabeza para las cuentas corporativas mes a mes.
Y entonces, llega Dell Technologies y presenta en su evento Tech World una gama completa de nuevos ordenadores, para llevarse la “factoría IA” a casa. Vuelta al ‘on prem’. Son ordenadores con capacidad de procesamiento de inteligencia artificial, incluyendo chips de Nvidia, de todas las tallas. Desde el tamaño reducido del nuevo PowerEdge de sobremesa hasta el PowerRack, un armario más alto que el mismísimo Jensen Huang. Y el ubicuo CEO de Nvidia presente en todos los grandes congresos del sector, corresponde a las referencias de su anfitrión, Michael Dell, estirando el brazo para estampar ante 10.000 asistentes su firma en su costado.
El PowerRack permite alojar hasta 144 unidades de procesamiento, basado en el PowerEdge XE9812, el servidor GPU de nueva generación de Dell para IA a gran escala. “Es una solución llave en mano en la que la computación de IA, la red y el almacenamiento han sido diseñados juntos, probados y validados, para desplegar un sistema integrado completo. La refrigeración y gestión de energía han sido probados en funcionamiento como un todo”, proclama el CEO de Dell, es decir el propio fundador Michael Dell.
“Estamos abriendo la puerta a una nueva era de progreso en todos los campos”, afirma Dell. “Los modelos [IA] son más listos que todos nosotros y están creciendo exponencialmente. Desde que se lanzó ChatGPT en 2022, hemos pasado de un chatbot capaz de escribir un ensayo a agentes IA que pueden auto mejorar su código. La barrera entre la imaginación y la ejecución se está desplomando”.
“Ahora estamos desplegando agentes autónomos que planifican, razonan, ejecutan y se adaptan. Están completando el ciclo y no son algo que simplemente añades a tu sistema legacy. Son trabajadores digitales, tienen memoria, credenciales y acceso. Y la capacidad de ejecutar acciones”, explica Dell, para poner en situación el anuncio principal del evento.
Reimaginar los flujos de trabajo
“Se requiere una nueva arquitectura para su propio trabajo, datos fiables, acción gobernada y una infraestructura suficientemente cercana para tomar decisiones en tiempo real. Los viejos sistemas y procesos de decisión del pasado ya no son suficientes. Es el momento de repensar completamente y reimaginar los flujos de trabajo de la compañía para la automatización agéntica y su automejora recursiva”, sentencia.
“Esto nos lleva a mejoras de veinte a treinta veces en la productividad, para distanciarnos del resto. Y las empresas que no se conviertan en negocios guiados por la IA agéntica tendrán que luchar por sobrevivir. Hay una inversión masiva en IA y la productividad se está moviendo. La tasa de cambio se ha hecho parabólica y no se frena… la seguridad debe expandirse más allá de los usuarios humanos al mundo no humano”.
Michael Dell, CEO y fundador de Dell, en el evento de esta semana en Las Vegas (EEUU).
La velocidad a la que se mueven las máquinas, el riesgo de una “mala influencia” en un agente, o el entrenamiento con malos datos, conducen, en opinión de Dell, a necesitar ese nuevo tipo de infraestructura que propugna: “Con nuestra plataforma de dispositivos de confianza se pueden conservar las credenciales clave, de hecho, las llaves del reino, en una bóveda de seguridad, de modo que sólo identidades acreditadas, humanos o máquinas, tienen acceso al sistema. La IA agéntica sólo es tan buena como los datos a los que tenga acceso. Si los datos están en silos, los agentes están ciegos…”.
“Todos tienen acceso a los mismos modelos IA. La diferencia son tus datos”, espeta Dell a una entregada audiencia de partners y clientes. “Imaginen decenas de miles, millones de agentes hambrientos de datos, corriendo veinticuatro-siete, miles de veces más rápidos que cualquier persona".
"Nuestra plataforma de datos IA con Nvidia ha sido diseñada para afrontar ese cuello de botella. Su motor de orquestación de datos es el centro de control inteligente que pone esos datos en crudo listos para la producción con inteligencia”.
“Puedes transformar y consultar tus datos con cerca de un millar de modelos [de IA] y las librerías CUDA X [ecosistema unificado de Nvidia con microservicios, librerías y herramientas aceleradas por GPU] integradas de forma nativa. Y así consigues un vector de indexación 12 veces más rápido, consultas de datos seis veces más rápidas y 19 veces menos tiempo para el primer token. Y estamos empujando los límites de lo que es posible…”, afirma.
Mejoras en todos los parámetros
El CEO Dell enumera porcentajes de mejora en todos los parámetros, promete ayudar a contener el desbocado consumo energético con su sistema de refrigeración (“ahorra hasta un 60%”) y anuncia asociaciones y colaboraciones con Starburst, la propia Nvidia (con sus procesadores IA Blackwell) y otros partners. La palabra “partner” es probablemente una de las más repetidas durante el Tech World.
“Se puede generar más IA. El token más eficiente es el que se genera lo más cerca del dato, así que estamos expandiendo la factoría IA Delta con Nvidia para acelerar la IA agéntica. Y anunciamos ‘la IA de Dell’, que ofrece el mayor rendimiento en nuestras workstations Pro-Precisión. Con los servicios de Nemo Claw puedes probar y hacer ajuste fino de los agentes localmente, o correr los últimos modelos abiertos, desde 70.000 millones hasta 250.000 millones de parámetros. O hasta un billón de parámetros. Y se puede hacer sin impredecibles costes de la nube”.
Y es entonces cuando entra en escena Huang, repasando la velocidad de evolución de la IA en sólo dos años y cómo ha crecido la necesidad de potencia de computación, con “un gran resultado de productividad y un salto gigante en rendimiento. La capacidad ha aumentado cien veces, quizás mil veces”.
“Un buen ingeniero utiliza hoy un agente. Pero uno bueno de verdad orquestará en el futuro una multitud de agentes. Vamos a coordinar un montón de sub-agentes para hacer el trabajo…”, asevera el CEO de Nvidia. “Lo que antes costaba meses, ahora cuesta semanas; lo que tardaba días, ahora son horas; y lo que llevaba una hora, ahora es instantáneo”.
El CEO de Dell en otra de las mesas redondas del evento.
Entre intercambios de lisonjas, los dos CEOs comentan que lo que Dell está presentando es producto de un trabajo conjunto que empezaron dos años atrás y han desarrollado en plena colaboración.
Huang habla las dimensiones de los mayores modelos de lenguaje, que requieren supercomputadores. “Sin embargo, un agente empieza en un espacio limitado, un contenedor, controlado y seguro, una ‘sandbox’. Nuestra sandbox de código abierto la está utilizando casi toda la industria. El espacio de referencia lo llamamos Nemo Claw, corre en una CPU y se pueden crear agentes especializados para cada compañía, entrenados para su propio dominio de datos o capacidades. Y puede correr en modo local, mientras el LLM puede correr en la nube y así tenemos una IA híbrida…”.
Según especifica en otra sesión Arthur Lewis, presidente del grupo de soluciones de infraestructuras, el procesamiento en el nuevo servidor resulta diez veces más barato por token. Asegura que crear un agente es una tarea “sencilla” e, idealmente, se trata de que corra en un ordenador propio. Él mismo tiene uno con el que puede contactar a través del móvil: “Si he preparado una presentación, pero se me ha olvidado cómo la llamé y no puedo encontrarla, llamo a mi agente, usando Discord, WhatsApp, Telegram, todos los canales de comunicación más populares, y simplemente le digo: busca el documento en el que estuve trabajando ayer y envíamelo por email. Y lo hace”.
“En la economía de la nueva era IA, ya no estás consumiendo CPU [en la nube] estás generando tokens”, subraya Huang, mientras salta de una máquina a otra, entre los nuevos ordenadores que su anfitrión ha desplegado en el escenario para ilustrar su keynote, hasta pararse junto al rack que cierra la fila y plantarle su autógrafo: “Este no lo vamos a vender”.