Qualcomm trabaja con Meta para permitir aplicaciones de AI
Qualcomm y Meta están trabajando para optimizar la ejecución de los grandes modelos de lenguaje Llama 2 de Meta directamente en el dispositivo, sin depender únicamente del uso de servicios en la nube.
Llama
La capacidad de ejecutar modelos generativos de IA como Llama 2 en dispositivos como smartphones, PCs, audífonos VR/AR y vehículos permite a los desarrolladores ahorrar en costos de nube y ofrecer a los usuarios experiencias privadas, más fiables y personalizadas.
Como resultado, Qualcomm planea poner a disposición implementaciones de IA basadas en Llama 2 en los dispositivos para permitir la creación de nuevas e interesantes aplicaciones de IA.
Esto permitirá a clientes, socios y desarrolladores crear casos de uso, como asistentes virtuales inteligentes, aplicaciones de productividad, herramientas de creación de contenidos, entretenimiento y mucho más.
Estas nuevas experiencias de IA en el dispositivo, impulsadas por Snapdragon, pueden funcionar en áreas sin conectividad o incluso en modo avión.
Para escalar eficazmente la IA generativa en la corriente principal, la IA necesitará ejecutarse tanto en la nube como en teléfonos inteligentes, computadoras portátiles, vehículos y dispositivos IoT
Durga Malladi, vicepresidenta ejecutiva y directora general de los negocios de tecnología, planificación y soluciones edge de Qualcomm Technologies
Implementación
Qualcomm tiene previsto ofrecer la implementación de IA basada en Llama 2 en dispositivos con Snapdragon a partir de 2024. Los desarrolladores pueden empezar a optimizar las aplicaciones para la IA en el dispositivo, utilizando Qualcomm AI Stack, un conjunto de herramientas específicas que permiten procesar la IA de forma más eficiente.