Principales puntos
- El algoritmo TurboQuant reduce hasta seis veces el uso de memoria en modelos de IA
- La tecnología acelera el procesamiento y puede abaratar la implementación de inteligencia artificial
- Acciones de fabricantes de memoria caen tras el anuncio
Google presentó una innovación que puede cambiar la forma en que se ejecutan los modelos de inteligencia artificial.
Se trata de un conjunto de algoritmos de compresión capaces de disminuir significativamente la memoria necesaria para operar sistemas avanzados, como los modelos de lenguaje.
El impacto fue inmediato en los mercados financieros, con caídas en las acciones de empresas vinculadas a chips de memoria y almacenamiento.
La propuesta incluye tres tecnologías clave: TurboQuant, PolarQuant y Quantized Johnson-Lindenstrauss, conocido como QJL. Estas soluciones actúan directamente sobre el cache clave-valor, una estructura esencial que almacena datos usados con frecuencia durante la inferencia de IA.
En pruebas con modelos como Gemma y Mistral, TurboQuant logró reducir el uso de memoria a apenas 3 bits sin necesidad de entrenamiento adicional, además de acelerar notablemente el rendimiento.
Cómo funciona TurboQuant en la práctica
El funcionamiento de TurboQuant se divide en dos etapas. Primero, PolarQuant convierte los datos en coordenadas polares, reemplazando el formato tradicional por una representación basada en radio y ángulo. Esto elimina procesos complejos y reduce el costo computacional.
Luego, entra en acción QJL, que aplica una técnica de corrección de errores extremadamente eficiente. Proyecta los errores de cuantización en un espacio de menor dimensión, manteniendo la precisión sin aumentar el consumo de memoria. El resultado es una compresión optimizada con alto rendimiento.
Impacto inmediato en el mercado tecnológico
El anuncio generó reacciones rápidas en las bolsas. Empresas como Micron Technology, Western Digital y Seagate Technology registraron caídas, reflejando preocupaciones sobre una posible reducción en la demanda de hardware de memoria.
Firmas como Morgan Stanley calificaron la innovación como disruptiva, destacando su potencial para reducir costos y ampliar el acceso a soluciones de inteligencia artificial, especialmente en la nube.
Qué se espera para el futuro de la IA
A pesar de la reacción inicial, expertos señalan que el impacto a largo plazo podría ser más equilibrado. Esto se debe a que la tecnología actúa solo en la fase de inferencia, es decir, en el uso de modelos ya entrenados, sin afectar directamente el entrenamiento, que sigue requiriendo alta capacidad computacional.
Además, al reducir los costos de implementación, TurboQuant podría impulsar nuevos casos de uso y aumentar la demanda global por infraestructura tecnológica. Se espera que la tecnología sea presentada en conferencias científicas relevantes en los próximos meses, consolidando su importancia en el avance de la inteligencia artificial.
