El auge de la Inteligencia Artificial está tensando los límites de la industria tecnológica. Cada vez se necesitan más centros de datos para entrenar y ejecutar los modelos de lenguaje natural. Esto se traduce en una escasez de componentes como chips de memoria, encareciendo el precio de otros dispositivos como los móviles que también los usan, así como una demanda de energía que se dispara por momentos.
Sobre el debate de los riesgos que presenta la IA actualmente, ha dicho Donald Trump que hay una "conspiración enfermiza contra la IA y los centros de datos y que la "única contenta es China". Además de las voces que claman por frenar el desarrollo de la IA en todo el mundo, la construcción de estos centros de datos está provocando un fuerte movimiento de protesta.
A pesar de los empleos que generan, los vecinos no quieren que estas infraestructuras encarezcan la energía que ellos también consumen, por no hablar del gasto en agua. Los gigantes de la IA dedican grandes inversiones a construir sus centros y plantean alternativas como trasladarlos a la órbita terrestre con satélites. Desde el lado opuesto, la comunidad de código abierto está surgiendo una propuesta que recuerda al internet de hace varias décadas, una gran red distribuida.
Diferentes proyectos ofrecen a usuarios de todo el mundo alquilar el uso de sus ordenadores para poder usarlos a distancia cuando estén inactivos. Imagina estar durmiendo o de fin de semana y prestar durante ese tiempo de inactividad la potencia informática de tu ordenador o servidor pequeño para realizar tareas de inferencia o el entrenamiento de modelos de IA.
Un centro en red
El uso de recursos de computación distribuidos entre miles de hogares no es nuevo. IBM, por ejemplo, usaba con World Community Grid (WCG) los ordenadores de millones de ciudadanos.
Para ello, bastaba con instalar un programa gratuito que solo usaba la potencia sobrante de tu procesador cuando no estabas haciendo uso del ordenador. De esta forma, ese recurso computacional y energético se cedía a la investigación científica. Otro ejemplo fue el proyecto de voluntarios llamado SETI@Home que, entre 1999 y 2020, utilizó ordenadores de sobra para buscar indicios de vida extraterrestre en datos de radiotelescopios.
Interior de un centro de datos.
Ahora esta idea deja de ser altruista para convertirse en una forma de obtener ingresos, al mismo tiempo que se contribuye con proyectos más pequeños de IA que no tiene la capacidad computacional o económica de las grandes firmas.
Una de las empresas que está abrazando esta idea es Evolving Edge, con sede en Austin Texas. Se encuentra actualmente en fase beta. Por otro lado, está Far Labs cuya plataforma Far AI se lanzará en las próximas semanas y tiene lista de espera para inscribirse. También se encuentran nombres como Bless Network, Salad o Gradient en esta nueva tendencia.
El objetivo de todos estos proyectos es alcanzar una escala considerable para construir una red de dispositivos que ofrezca capacidad de procesamiento siempre disponible.
Entre las ventajas que plantea esta idea está ser un recurso para modelos de código abierto más pequeños que pueden distribuir la tarea y reducir su presupuesto. También se presenta como un sistema más seguro ante posibles caídas o ciberataques, como la constelación de satélites con las que SpaceX quiere construir sus centros de datos espaciales.
Aunque es cierto que los ordenadores particulares no pueden competir con la potencia de los centros de datos más modernos, de última generación, si la red de dispositivos de usuario es lo suficientemente amplia, cada tarea puede dirigirse a un dispositivo cercano, lo que reduce la latencia.
¿Cómo funciona?
La inferencia de IA es el proceso en el cual un modelo de IA ya entrenado usa lo aprendido para analizar nuevos datos, tomar decisiones o dar respuestas en tiempo real. Estas tareas se aplicarían de forma distribuida en ordenadores gaming o servidores caseros que estén inactivos.
En el caso de Far Labs, la web explica que “los desarrolladores de IA utilizan una API sencilla para ejecutar inferencias de IA en sistemas existentes, integrar la IA en productos y crear nuevas aplicaciones y startups”
Para registrarse en la lista de espera de este proyecto en ciernes, los responsables aseguran que se tardan solo 2 minutos en configurar el sistema sin costes de instalación. Además el uso de la GPU no supondría el acceso a los archivos ni al software local, es decir, prometen no acceder a tu ordenador o datos, solo hace uso del hardware físico.
Mac mini M4
Otro dato importante, entre las promesas está la posibilidad de ganar un 233% con respecto a la inversión en electricidad que supone dejar que otro usen tu ordenador. Aunque, aclaran que "los pagos reales pueden variar en función de la demanda, el tiempo de actividad, los precios y las normas de la red.” dan una estimación mensual de 4,41 dólares. Estos ingresos se pueden calcular rellenando un formulario en su página web con los datos del dispositivo que se alquilaría.
Por su parte, la arquitectura distribuida presentada por Gradient consiste en tres capas principales. La primera es una capa de comunicación (Lattica) o una red P2P (Peer to Peer) de alta velocidad. La segunda es una capa de ejecución (Parallax) que divide las tareas complejas de inferencia de IA en fragmentos más pequeños para procesarlos en paralelo a través de múltiples nodos en esa red.
En tercer lugar se encuentra la capa de aprendizaje (Echo) que descentraliza la ejecución de algoritmos de aprendizaje por refuerzo (RL), permitiendo que los modelos sigan aprendiendo en tiempo real mientras se ejecutan.
Privacidad
Como se mencionó antes, la mayoría de estos proyectos prometen preservar la privacidad de los usuarios. Far Labs explica que el software de la compañía está diseñado según el principio de “privilegio mínimo” que otorga al inquilino y propietario el acceso mínimo necesario para completar la tarea.
Para garantizar al usuario que sus datos locales son seguros y el sistema no integra malware, se liberó el código fuente del software de forma que la amplia comunidad de desarrolladores y programadores en internet pudiera supervisarlo.
La protección también funciona en sentido contrario. Pues las empresas o proyectos que quieran ejecutar la IA en esta red distribuida pueden requerir protección para los datos con los que la IA está trabajando.
Así, las cargas de trabajo se segmentan y solo se expone la información mínima necesaria a cada nodo. Las cargas de trabajo empresariales sensibles pueden restringirse a hardware controlado en lugar de enrutarse a través de dispositivos de consumo.
