AI está cambiando todo en centros de datos: Nuevo específico de IA papas fritasnuevo técnicas de enfriamientoy nuevo impulso de almacenamiento. Ahora eVen El método para mantener el tiempo está comenzando a cambiar, con un anuncio desde el sitio que la compañía ha desarrollado Un nuevo reloj que está optimizado para las cargas de trabajo de IA.
La compañía cube que el desarrollo conducirá a un ahorro significativo de energía y menores costos para la capacitación e inferencia de IA. Sitime pudo lograr estos ahorros utilizando sistemas microelectromecánicos (Mems) como el componente de cronometraje central en lugar del tradicional cuarzo cristales.
Casi todas las partes de una computadora tienen algún tipo de reloj. CPU, GPUtarjetas de interfaz de purple, interruptores y, a veces, incluso activos interconexiones contienen su propio componente de cronometraje. Para más tradicional computación cargas de trabajo, estas relojes Por lo basic, se dividen en dos categorías: relojes o relojes rápidos y cronometrados que están bien sincronizados en múltiples GPU (o CPU), cube Ian Cutressanalista jefe de más que Moore y que trabaja con Sitime.
“El problema con la IA es que está haciendo ambas cosas”, cube Cutress. “Desea que su chip vaya lo más rápido posible, pero también desea sincronizarse con 100,000 chips”.
El reloj Tremendous-TCXO de Sitime combina la funcionalidad de los relojes extremely estables y bien sincronizados en un solo dispositivo, proporcionando una sincronización que es 3 veces más buena que una comparable basada en cuarzo. componente A un ancho de banda de 800 gigabits por segundo, en un chip, eso es un cuarto del tamaño.
Un mejor tiempo conduce a ahorros de energía
AI es una bestia hambrienta de datos. Y, sin embargo, las GPU costosas y de potencia se quedan inactivas 57 por ciento del tiempo Esperando su próximo lote de datos. Si los datos pudieran servirse más rápidamente, las GPU podrían usarse en cantidades más pequeñas y de manera más eficiente.
“Necesitas un ancho de banda más rápido. Porque necesitas un ancho de banda más rápido, necesitas un mejor momento “, cube Piyush SevaliaVicepresidente Ejecutivo de Advertising en Sitime.
Además, uno puede ahorrar mucha potencia si las GPU se pueden poner en modo de suspensión mientras esperan que se carguen más datos, cube Cutress. Esto también requiere un momento más preciso, de modo que el ciclo de sueño-vigilia pueda ocurrir lo suficientemente rápido como para mantenerse al día con el flujo de datos.
Para la IA, los relojes no solo necesitan ser más precisos, sino que también se sincronizan perfectamente en muchas GPU. Grande Modelos de IA Dividir sus tareas entre muchas GPU, y cada una de las cuales hace una pequeña parte del cálculo. Luego, sus resultados se unen. Si uno GPU Retrajes detrás de los demás, todo el cálculo tendrá que esperar ese nodo. En otras palabras, el cálculo es tan rápido como el enlace más débil. Todas las GPU permanecen excitadas mientras esperan, por lo que cualquier retraso resulta en pérdidas de energía.
Tiempo alto para el tiempo de MEMS
El tiempo debe ser preciso, bien sincronizado y robusto, cualquier vibración mecánica o columpios de temperatura debe ser compensado para asegurarse de que no desangren el cálculo. Tremendous-TCXO de Sitime tiene como objetivo combinar los tres requisitos en un solo dispositivo.
Sevalia cube que usar oscilador MEMS en lugar del cuarzo tradicional hace posible esa combinación. Los osciladores de cuarzo usan las vibraciones de los cristales de cuarzo mecanizados con precisión, comparable a un horquilla. En contraste, los osciladores MEMS se fabrican, no mecanizados, para resonar a una frecuencia específica. Los dispositivos MEMS pueden ser más pequeños, lo que los hace menos sensibles a las cepas mecánicas. También pueden ser más precisos.
“Los osciladores de cristal han existido desde el principio de los tiempos, ya que el cálculo fue una cosa”, cube Dave Altavillapresidente y analista principal de Hottech Imaginative and prescient & Evaluation y quién también trabaja con Sitime. “Hemos mejorado esa tecnología dramáticamente desde su inicio. Pero MEMS da un paso más allá de lo que es capaz un cristal. Así que eso es lo que creo que esta nueva tecnología está desplazando en el mercado es la antigua forma de hacer las cosas “.
Las soluciones basadas en MEMS de Sitime ya tienen algo de éxito: Spectrum-X Swap Silicon de Nvidia ya contiene un dispositivo de sitio.
Sevalia cube que espera que la necesidad de que continúen los dispositivos de tiempo basados en MEMS. La compañía ya está planeando dispositivos de ancho de banda aún más altos, y esperan que sus innovaciones resulten en aún más ahorros de energía. “Estamos rascando la superficie en este momento en términos de descubrir cuánto eficiencia energética Podemos traer ”, cube Sevalia.
De los artículos de su sitio
Artículos relacionados en la internet