La irrupción de DeepSeek R1 ha puesto contra las cuerdas los modelos de negocio de OpenAI y Anthropic, al igual que ha puesto sobre la mesa que se puede disfrutar de una IA muy potente sin que necesite conexión y sea instalada localmente. Es por donde va Google AI Edge Gallery.

Lo peculiar de la llegada de esta nueva app de Google es que lo ha hecho de forma silenciosa y sin hacer mucho ruido y, de momento, no aparece en la Play Store, donde solemos descargar todas las apps.

La app se llama Google AI Edge Gallery y en su página de Github aparece un enunciado que define perfectamente su funcionamiento: explora, experimenta y evalúa el futuro de la IA generativa en el dispositivo.

Es una app experimental que pone al usuario directamente los modelos de IA generativos en sus manos o que se pueda instalar directamente en un móvil Android al igual que próximamente en dispositivos iOS.

No es algo nuevo que se pueda instalar un modelo IA de forma local, pero sí que es verdad que DeepSeek R1 con sus modelos destilados ha aupado en volandas esta experiencia que parte de una privacidad total, al no enviar las consultas al cloud, y con la gran ventaja de que no se necesita tener conexión a Internet.

Tener de forma local el poder de procesamiento de un modelo de razonamiento como DeepSeek R1 en un PC o móvil no es cualquier cosa, y ahí ya están ciertos programas que ayudan a realizar estas instalaciones. El más conocido es Ollama en Windows y Mac, y en Android también hay alguna app que ofrece esta experiencia.

De hecho, la actualización a DeepSeek R1 de la semana pasada ya tiene su modelo destilado para instalar de forma local, aunque sí que necesita un hardware bastante alto, pero al igual que el primer modelo lanzado, es cuestión de días y semanas que aparezcan más modelos destilados que se puedan instalar en un PC o incluso en un smartphone.

Cómo se instala Google AI Edge Gallery

Google AI Edge Gallery se puede instalar desde aquí y sus funciones principales se basan, más o menos, en ofrecer una experiencia similar a la de ChatGPT o Gemini. Accede a los repositorios de Hugging Face, así que imita la experiencia que puede dar Ollama con esta serie de características:

• Funciona localmente sin conexión: todo el procesamiento ocurre directamente en el dispositivo.
• Elige el modelo: cambia entre distintos modelos desde Hugging Face para comparar el rendimiento.
• Pregunta sobre imagen: sube una y realiza consultas para recibir descripciones, resolver problemas e identificar objetos.
• Laboratorio prompt: hace resúmenes, reescribe, genera código o usa prompts de forma libre para explorar casos de uso de LLM de un solo turno.
• AI Chat: experiencia de múltiples conversaciones.
• Estadísticas de rendimiento: pruebas en tiempo real del rendimiento del modelo.
• Importa tu propio modelo: prueba tus LiteRT local .task.
• Recursos para desarrolladores: enlaces directos a código fuente y tarjetas modelo.

Google ha compartido desde Github una serie de capturas en las que se puede ver perfectamente cómo funciona esta app que de momento solo está en Android. Al cargar un modelo incluso se puede configurar el número máximo de tokens y otros parámetros como la temperatura al igual que si se prefiere usar la GPU o la CPU del dispositivo.

Una gran forma de poder probar algunos de los modelos destilados de menor capacidad de DeepSeek al igual que los propios de Google que están disponibles desde Hugging Face. Aquí cabe recordar que dependerá del dispositivo para que su tiempo de respuesta sea menor, y en este sentido la experiencia no será la misma que con Gemini, ChatGPT o Claude.

La aparición de esta app de Google, aunque sea de forma experimental, asienta de alguna forma el interés cada vez mayor de disfrutar de una IA de forma local. Los fabricantes de móviles también están buscando esta experiencia para sus funciones IA, pero muchas necesitan todavía el envío de datos personales a la nube.