¿Qué harán los smartphones con Inteligencia Artificial Generativa?
Por Hugo Simg
La Inteligencia Artificial Generativa (IAG) es un nuevo tipo de algoritmo de aprendizaje automático que puede generar contenido original a partir de inventarios de bases de datos.
A grandes rasgos, se logra tener IAG a través de modelos de lenguaje amplio (LLM) que crean contenido nuevo tomando un mensaje como entrada y generando nuevos resultados.
Un smartphone con Inteligencia Artificial Generativa utiliza modelos de gran escala de IA previamente entrenados para lograr la generación de diversos tipos de contenido y en general debe cumplir con los siguientes criterios:
El procesamiento de la IAG debe hacerse al menos de forma híbrida, es decir, que el dispositivo desarrolle una parte del proceso de IAG y complemente con IAG en la nube Debe tener capacidad de aceptar instrucciones multimodales (e.g. texto, imágenes, audio, datos) y generar resultados multimodales.
La experiencia de usuario debe ser fluida y sin interrupciones
Para lograr todo ello, se requieren especificaciones mínimas de hardware que no cualquier dispositivo tiene. Hablamos de gran capacidad de procesamiento de cómputo (un procesador poderoso para IA o neuronal), amplia y veloz capacidad de almacenamiento de memoria RAM, lograr un consumo de energía reducido u óptimo para un dispositivo accionado por baterías, así como las herramientas (software y hardware) necesarias para la implementación y el desarrollo de aplicaciones que hagan uso de la IAG.
Por todo ello que se está acelerando el proceso de IAG en smartphones mediante la optimización. Un ejemplo de ello es, lograr que en 12 GB de memoria pueda integrarse el sistema operativo, almacenamiento suficiente de aplicaciones y reducir mediante tecnologías de compresión en HW el 60% de un LLM de 7 Billones de parámetros para que pueda ocupar 2.8GB de espacio, en lugar de los 7GB que ocuparía el LLM. Además, utiliza tecnologías de decodificación rápida como Speculative decoding, Medusa y Early exit para acelerar 100% la velocidad de funcionamiento del LLM.
Algunas aplicaciones que podremos ver en un futuro cercano gracias al uso de IAG en los teléfonos inteligentes:
- Resumen de las llamadas telefónicas
- Cambio de rostro en tiempo real durante transmisiones en vivo
- Edición de fotos, que incluye la capacidad de remover objetos y personas, expandir la imagen, transferir estilos
- Remover objetos en videos y edición avanzada de audio
- Respuestas automáticas a mensajes
- Composición de piezas musicales y generación de voces
- Amigos virtuales en redes sociales
- Agentes de Inteligencia Artificial
- Ayuda interactiva a personas ciegas
- Resumen y generación de textos para uso en la oficina
La IA llega para quedarse en los smartphones y en la vida diaria de los usuarios, quienes cada vez encuentran más funciones en sus dispositivos, mismas que les permiten trabajar, educarse y divertirse de mejores formas y prácticamente en cualquier lugar.
*Hugo Simg Atilano es director Adjunto para América Latina en MediaTek
