Con el auge de la tecnología de IA generativa, estamos entrando en una nueva era en la que todo está almacenado, todo es inteligente y todo está conectado. En esta era, la avalancha de datos llega como un maremoto, planteando desafíos sin precedentes a la infraestructura del centro de datos. Para satisfacer las crecientes demandas computacionales de los modelos de IA, los modelos de lenguaje grande (LLM) deben procesar simultáneamente conjuntos de datos multimodales masivos, incluidos texto, imágenes, audio y video, lo que ha disparado la demanda de recursos de procesamiento de IA y requiere interconexiones eficientes entre el centro de datos.

Ante este desafío, las interconexiones de datos tradicionales han tenido dificultades para satisfacer las necesidades de escala de los clústeres de IA modernos. Con la diversificación y personalización de las arquitecturas de las plataformas de IA, así como el ritmo significativamente acelerado de las actualizaciones anuales, los centros de datos deben encontrar soluciones de conectividad más eficientes y confiables. En este contexto, ha surgido la tecnología "PCIe sobre óptica", que ofrece nuevas posibilidades para ampliar y actualizar la infraestructura de IA.

La interfaz PCIe (Peripheral Component Interconnect Express), que está disponible de forma nativa en los aceleradores de IA y las GPU, siempre ha desempeñado un papel importante en la conexión de varios componentes dentro del centro de datos. Sin embargo, a medida que los clústeres de IA siguen creciendo en tamaño, desde unos pocos racks y docenas de GPU hasta grandes pods que abarcan más de unos pocos racks y cientos de GPU, las longitudes de interconexión se están convirtiendo rápidamente en una limitación clave para el rendimiento. Si bien los cables activos pueden cubrir distancias de hasta 7 metros con velocidades de datos PCIe 5.0, con velocidades de datos más altas, como PCIe 6.x y PCIe 7.x, las soluciones de cobre tradicionales ya no pueden satisfacer la demanda de conectividad entre racks.

Respuesta al desafío de interconexión de IA

Desde 2017, Astera Labs se ha comprometido a desbloquear el potencial de la IA y las infraestructuras en la nube con su Plataforma de Conectividad Inteligente, que crea arquitecturas escalables y personalizables basadas en soluciones de semiconductores PCIe®, CXL® y Ethernet y el paquete de software COSMOS.

La plataforma permite una conectividad confiable a largas distancias, acelerando las implementaciones actuales de clústeres de GPU con ópticas que permiten la conectividad PCIe a línea; acortar el tiempo de implementación de la plataforma de IA con arquitectura definida por software y pruebas de interoperabilidad; y mejorar el tiempo de actividad y la utilización de la infraestructura con funciones como diagnósticos profundos.

Su amplia cartera de productos incluye el retemporizador DSP inteligente Aries®PCIe®/CXL® con su gran ancho de banda y amplia gama de aplicaciones, el módulo de cable inteligente (SCM) PCIe/CXL Aries, que proporciona cables activos de 7 metros para conectividad en rack, el Módulo de cable inteligente Ethernet (SCM) Taurus, que admite conectividad Ethernet de alta velocidad, y el controlador de memoria inteligente Leo CXL®, que optimiza la gestión de la memoria. Astera Labs se destaca en innovación tecnológica, sentando las bases para la implementación a gran escala de soluciones avanzadas.

Comenzando un nuevo capítulo en conectividad perfecta de IA

A medida que las infraestructuras de IA crecen, los cables pasivos de conexión directa (DAC) tradicionales luchan por mantenerse al día con la demanda. Los problemas de pérdida de señal se agravan con velocidades de datos altas, lo que limita la eficacia de las soluciones pasivas. En respuesta, se crearon cables activos (AEC) PCIe/CXL® SCMâ¢Aries con una cobertura de 7 metros para abordar las limitaciones de distancia de conexión de los DAC, brindando más posibilidades para la expansión del grupo de pedales del acelerador de IA, con cableado que se puede extender fácilmente al exterior. el estante. Sin embargo, a medida que las velocidades de datos aumenten a niveles más altos, como PCIe 6.x y 7.x, los cables pasivos y activos se limitarán a un solo bastidor. En este punto, las soluciones PCIe sobre óptica, especialmente los cables ópticos activos (AOC), desempeñarán un papel clave en la conectividad entre bastidores, proporcionando conectividad de larga distancia y alta estabilidad para garantizar el funcionamiento eficiente de los clústeres de IA.

Explorando el futuro de la conectividad óptica PCIe

Los enlaces de fibra óptica se han convertido en la piedra angular de la conectividad Ethernet de alta velocidad y admiten transferencias de datos de larga distancia dentro de centros de datos de hiperescala. La incorporación de esta ventaja a la conectividad PCIe mediante el desarrollo de nuevas soluciones PCIe sobre óptica (con AOC) amplía significativamente el alcance de la conectividad PCIe a los clústeres de rack y optimiza la gestión de cables en comparación con los cables de cobre.

El uso de PCIe/CXL® en óptica está impulsado por la necesidad de una latencia más baja en comparación con Ethernet, especialmente en aplicaciones de alta carga, como transacciones de memoria caché coherente y procesamiento paralelo entre GPU. Además, estas aplicaciones requieren software dedicado para gestionar completamente el enlace y garantizar la compatibilidad total del protocolo y una alta confiabilidad del sistema.

En resumen, la aparición de la tecnología "PCIe sobre óptica" proporciona una nueva solución para la transmisión de datos dentro del centro de datos. No solo mejora la eficiencia y la estabilidad de la transmisión de datos, sino que también reduce los costos de operación y mantenimiento, brindando un fuerte apoyo para el despliegue acelerado de plataformas de IA y el rápido desarrollo de aplicaciones de IA generativa de próxima generación. Con el progreso continuo de la tecnología y la expansión de los escenarios de aplicación, se espera que "PCIe sobre óptica" se convierta en una de las tecnologías principales en el campo del almacenamiento y la transmisión de datos en el futuro.