Qualcomm tiene difusión estable ejecutándose en un teléfono Android

Gran parte del entusiasmo en torno a la IA se ha trasladado a los chatbots, pero la generación de imágenes con herramientas como Stable Diffusion sigue siendo popular. Ahora se ha demostrado que Stable Diffusion se ejecuta en un teléfono Android, sin necesidad de servidores externos.

Qualcomm ha mostrado algunas imágenes que Stable Diffusion generó localmente en un teléfono Android. Si bien pudo buscar una herramienta de generación de imágenes, poner un aviso y generarla en la nube, estas se generan completamente localmente, utilizando AI Stack de Qualcomm y, por supuesto, el hardware de su teléfono inteligente.

Puede ser fácil de olvidar ya que realmente no notamos sus usos, pero muchos teléfonos inteligentes en estos días vienen con hardware de aceleración de IA dedicado. Qualcomm dice que está utilizando el motor AI que viene con el SoC Snapdragon 8 Gen 2 para lograr estos resultados. Simplemente escriba un mensaje y Stable Diffusion generará una imagen para que intente coincidir con ese mensaje.

Qualcomm dijo en una publicación de blog: “Usamos el marco directo de Qualcomm AI Engine para mapear la red neuronal en un programa que se ejecuta de manera eficiente en nuestro hardware de destino. […] El resultado de esta optimización completa es ejecutar Stable Diffusion en un teléfono inteligente en menos de 15 segundos durante 20 pasos de inferencia para generar una imagen de 512 × 512 píxeles: esta es la inferencia más rápida en un teléfono inteligente y comparable a la latencia de la nube”.

Todavía no puede usar Stable Diffusion en su teléfono Android localmente; esto es solo una demostración técnica. Eventualmente podría convertirse en una aplicación disponible públicamente, pero Qualcomm aún no promete nada.

Fuente: Qualcomm