La IA en el dispositivo es una gran prioridad para el futuro de Android, y Google compartió más recursos para desarrolladores en I/O 2024.

Oh «IA en dispositivos Android entre bastidoresLa sesión I/O 2024 proporcionó “buenos casos de uso” para la IA generativa en el dispositivo:

• Consumir: Proporcionar un resumen o descripción general del texto.
• Crear: sugiere respuestas en aplicaciones de mensajería o genera/reescribe texto
• clasificar: Detectar sentimiento/estado de ánimo en conversaciones o mensajes de texto

En general, los beneficios incluyen procesamiento local seguro, disponibilidad fuera de línea, latencia reducida y sin costos adicionales (nube). Las limitaciones son el tamaño más pequeño de los parámetros, de 2 mil a 3 mil millones, o “casi un orden de magnitud más pequeño que los equivalentes basados ​​en la nube”. También hay una ventana de contexto más pequeña y cómo el modelo será menos generalizado. Como tal, «el ajuste fino es clave para lograr una buena precisión».

Gemini Nano es la “forma básica de elección de Android para crear replicaciones GenAI en el dispositivo”, pero también puede ejecutar Gemma y otros modelos abiertos.

Hasta ahora, solo las aplicaciones de Google (Resumir en Pixel Recorder, Magic Compose en Google Messages y Gboard Smart Reply) lo aprovechan, pero Google ha estado “colaborando activamente con desarrolladores que tienen casos de uso atractivos de Gemini en el dispositivo” a través de una programa de acceso temprano. El lanzamiento está previsto para 2024.

Mientras tanto, Google pronto utilizará Gemini Nano para subtítulos de TalkBack, sugerencias dinámicas de Gemini y alertas de spam, mientras que a finales de este año se implementará una actualización multimodal «comenzando con Pixel».

Google también señaló el estado de la generación de IA en el dispositivo hace un año y las mejoras que se han realizado desde entonces, como la aceleración de hardware:

Más sobre Androide 15: