Las aplicaciones de IA sin conexión de Google cambiaron la forma en que veo la IA en los dispositivos

AI. AI. AI. Estoy seguro de que estás cansado de escuchar esta palabra durante los últimos años. Está en todas partes, se aplica a cada función, cada aplicación, cada diapositiva principal, ya sea que realmente mejore su teléfono o no. Y para ser honesto, siento lo mismo. Por supuesto, algunas funciones son bastante útiles, pero, en mi opinión, la mayoría de las funciones de IA en Android son solo trucos que pruebas una vez y te olvidas.

Uno de esos trucos, al menos en mi opinión, es la IA en el dispositivo. La mayoría de las funciones de IA de nuestros teléfonos todavía dependen de la nube (o arquitectura híbrida) y durante mucho tiempo creí que los teléfonos inteligentes no podían igualar la potencia de procesamiento de los centros de datos de IA. Por lo tanto, la IA del dispositivo nunca resulta realmente útil, al menos no en la medida en que afirma la empresa.

Sin embargo, eso fue hasta que probé una de las aplicaciones de inteligencia artificial menos conocidas de Google en un dispositivo y me hizo reconsiderar un poco esa postura.

La aplicación Edge AI Gallery de Google no es nada nuevo. De hecho, se lanzó hace aproximadamente un año como una aplicación experimental, pero lo que recientemente me llamó la atención es que Google la actualizó para que sea compatible con Gemma 4, el mejor y más nuevo modelo de IA de código abierto. Fue esa actualización la que finalmente me hizo intentarlo como es debido.

Esta aplicación está disponible en Android e iOS. Lo probé en el iPhone Air, Google Pixel 10 Pro e incluso en el Oppo Find X9 Ultra. Existen algunas diferencias entre plataformas, pero la idea central sigue siendo la misma. Descarga estos modelos de IA de código abierto directamente a su dispositivo y luego los utiliza para diversas tareas.

Hay muchos casos de uso predefinidos en la aplicación, como usar un chatbot común, transcribir audio, hacer preguntas sobre imágenes o incluso probar algunas tareas estilo agente. Siempre pensé que los modelos de IA en el dispositivo, especialmente con parámetros limitados, serían inútiles en la vida real. Pero esa opinión cambió un poco durante un viaje reciente y esta herramienta me resultó muy útil.

El mejor caso de uso, y sé que todavía no es perfecto, es tener acceso a un chatbot de IA fuera de línea en el dispositivo. La aplicación Google AI Edge Gallery te brinda acceso a AI Chat, que es básicamente similar a otros chatbots como Gemini.

Esto es bastante fácil. Ingresa un mensaje y espera a que el modelo responda. Es multimodal, por lo que puedes utilizar texto, sonido o incluso imágenes, y todo se adapta al contexto. Definitivamente es más lento que algo como ChatGPT o Gemini, pero el hecho de que funcione completamente en dispositivos sin Internet es lo que lo hace destacar.

Recientemente lo usé en un vuelo a Tailandia, donde pregunté cosas básicas como frases que debería saber e incluso le pedí al sistema de vuelo algunos títulos de películas para obtener recomendaciones y una calificación aproximada de IMDb.

Dice que no puede acceder a Internet y se basa en sus datos de entrenamiento, pero si estructura sus preguntas en consecuencia, aún le brinda respuestas útiles cuando esté completamente desconectado.

Este es probablemente el mejor caso de uso para esta aplicación. Normalmente viajo con una eSIM cuando estoy en el extranjero, pero siempre hay lugares donde la conectividad no es muy buena, y ahí es donde esto realmente ayuda. Gracias a las capacidades multimodales de Gemma 4, puedes utilizar la aplicación AI Edge Gallery como un traductor sin conexión adecuado.

La aplicación incluye una herramienta especial de escritura de audio que puede transcribir voz y también traducirla sobre la marcha. En los teléfonos que pueden hacer un buen uso del hardware, la traducción es muy rápida, casi tan rápida como una aplicación de traducción dedicada, y funciona de manera confiable incluso sin Internet.

Otra característica que se basa en esto es la capacidad de hacer preguntas sobre imágenes utilizando modelos fuera de línea. Puedes adjuntar fotos y preguntar cualquier cosa sobre ellas. No pensé que lo usaría tanto, pero resulta muy útil cuando viajamos, especialmente para traducir menús o entender carteles en diferentes idiomas.

Además, también ayuda a guardar mis valiosos datos móviles, ya que todo sucede en el dispositivo y no subes imágenes a un servidor y esperas una respuesta.

En general, disfruto usando la aplicación Google AI Edge Gallery como herramienta de IA sin conexión, pero no está exenta de inconvenientes. Mi mayor queja es que los chats no se guardan.

Por ejemplo, con algo como Gemini o ChatGPT, cada conversación se guarda como un hilo, por lo que puedes volver a ella y continuar donde lo dejaste. Entiendo que el modelo fuera de línea tiene límites en términos de longitud del contexto debido a limitaciones de hardware, pero al menos debería haber una opción para continuar la conversación hasta alcanzar ese límite.

Mi mayor problema es que Google todavía no ha utilizado completamente el hardware de Android. La aplicación AI Edge Gallery está disponible en Android e iOS y la he probado en varios dispositivos. En el iPhone, las aplicaciones utilizan la GPU para el procesamiento, que generalmente es mucho más rápido para tareas de IA.

En Android, es una experiencia mixta. Los teléfonos con chips de alta gama como el Snapdragon 8 Elite Gen 5 pueden aprovechar la GPU y ejecutar aplicaciones de manera más eficiente. Pero en el Pixel 10 Pro de Google, la aplicación no parece aprovechar al máximo la GPU Tensor o incluso la NPU del chip.

La aplicación dice que la experiencia basada en AICore, que puede aprovechar la NPU, está actualmente limitada a los probadores beta. Para usuarios como yo que no forman parte del programa, recurre al procesamiento de la CPU en lugar de aprovechar los modelos de IA en dispositivos como el Gemini Nano, lo que lo hace sentir más lento.

Para poner esto en perspectiva, en la misma entrada de audio, mi iPhone Air tardó menos de un segundo en responder, mientras que el Pixel 10 Pro tardó más de 10 segundos en realizar la misma tarea. Estas lagunas tienen un gran impacto en la experiencia general.

Estoy seguro de que soy una minoría aquí, hablando de aplicaciones de IA en dispositivos que tienen capacidades limitadas y, francamente, una base de usuarios bastante específica. Pero considerando cuánto ha estado impulsando Google la IA en los dispositivos, es un poco frustrante ver que Google no aprovecha al máximo su hardware Tensor en estas aplicaciones. Parece un error y realmente espero que Google lo solucione pronto.

Dicho esto, poder acceder al modelo Gemini directamente en mi teléfono y obtener respuestas a 32,000 pies en el aire fue sinceramente una revelación. Esta es probablemente la primera vez que veo un caso de uso real y práctico para la IA en un dispositivo.