Las nuevas empresas de chips de IA más destacadas del mundo en 2018

Wave Computing

Wave Computing avanzó mucho en 2018: lanzó su primera unidad de procesamiento DataFlow, adquirió MIPS, creó MIPS Open y envió los primeros sistemas a un puñado de clientes. . Aunque la arquitectura Wave tiene algunas características muy interesantes, esperamos recibir comentarios de los usuarios sobre experiencias reales a gran escala.

Wave no es un acelerador conectado a un servidor, es un procesador independiente para computación gráfica. Este enfoque tiene ventajas y desventajas. En el lado positivo, Wave no sufre los cuellos de botella de memoria que enfrentan aceleradores como las GPU. En el lado negativo, instalar equipos Wave sería una nueva actualización que requeriría un reemplazo completo de los servidores x86 heredados, lo que lo convertiría en un competidor para todos los fabricantes de servidores.

No creo que Wave pueda vencer a NVIDIA en ningún momento, pero la arquitectura está muy bien diseñada y la compañía ha dicho que pronto recibirá comentarios de los clientes.

Figura 1: Wave es un sistema construido a partir de la "DPU" de 4 nodos que se muestra arriba. Wave Computing

Graphcore

Graphcore es una startup unicornio británica con una sólida financiación (310 millones de dólares en financiación y valoración actual de 1.700 millones de dólares) con un equipo global. Está construyendo una nueva arquitectura de procesador de gráficos con memoria en el mismo chip que sus unidades lógicas, lo que debería permitir un mayor rendimiento. La fecha de lanzamiento del producto del equipo aún no está clara, pero en abril del año pasado dijeron que estaba "casi listo para su lanzamiento" y la última información de diciembre indicaba que pronto comenzaría la producción.

La lista de inversores de Graphcore es impresionante, e incluye a Sequoia Capital, BMW, Microsoft, Bosch y Dell Technologies.

Eché un vistazo a la estructura de la empresa y es muy impresionante. Escalado desde dispositivos de borde al paquete de dos chips “Colossus” para entrenamiento e inferencia en el centro de datos. En el reciente evento NeurIPS, Graphcore demostró su RackScale IPU Pod, que ofrece más de 16 petaflops de potencia informática en un rack de 32 servidores. Aunque la compañía suele afirmar que ofrecerá 100 veces más rendimiento que las mejores GPU de su clase.

Graphcore dice que el servidor 4 "Colossus" GC2 (8 chips) ofrece 500 TFlops (billones de operaciones por segundo) de rendimiento de precisión mixta. Una sola NVIDIA V100 ofrece 125 TFlops, por lo que, en teoría, 4 V100 podrían proporcionar el mismo rendimiento.

Como siempre, el diablo está en los detalles, y el rendimiento máximo de V100 solo está disponible cuando el código se refactoriza para realizar la multiplicación de matrices 4x4 de TensorCore, una limitación que la arquitectura Graphcore evita inteligentemente. Sin mencionar el hecho de que el V100 consume 300 vatios de potencia y mucho dinero en efectivo.

Además, Graphcore admite métodos de interconexión en chip y "memoria de procesador" (memoria en chip), que pueden lograr un rendimiento excelente más allá del reconocido por el punto de referencia TFlops. En algunas redes neuronales, como las redes generativas adversarias, la memoria es el cuello de botella.

De nuevo habrá que esperar a que usuarios reales evalúen esta arquitectura con aplicaciones reales. Aún así, la lista de inversores, la lista de expertos y la valoración altísima de Graphcore me dicen que esto podría ser algo bueno.

Figura 2: GraphCore muestra fotografías procesadas por el conjunto de datos ImageNet. La visualización ayuda a los desarrolladores a comprender dónde ocupa los ciclos de procesamiento su procesamiento de capacitación.

Habana Labs

Habana Labs es una startup israelí que anunció en la primera AI Hardware Summit en septiembre pasado que estaba lista para lanzar su primer chip para inferencia. Su rendimiento récord es Se utiliza para el procesamiento de imágenes de redes neuronales convolucionales.

Los resultados mostraron que el procesador clasificó 15.000 imágenes por segundo en la base de datos de clasificación de imágenes Resnet50, aproximadamente un 50% más que el T4 de NVIDIA, y consumió sólo 100 vatios de energía.

En diciembre de 2018, la última ronda de financiación de Habana Labs fue liderada por Intel Venture Capital, con la participación de WRV Capital, Bessemer Venture Partners y Battery Ventures. La financiación de la empresa también fue financiada por Esto representa un aumento de. 75 millones de dólares de los 45 millones de dólares anteriores.

Se informa que la nueva financiación de Habana Labs se utilizará en parte para fabricar su segundo chip llamado “Gaudi”, que se centrará en el mercado de formación y se dice que será escalable a más de 1.000 procesadores. .

Otras startups

Sé que hay más de 40 empresas en el mundo diseñando chips de entrenamiento e inferencia para inteligencia artificial. Encuentro que la mayoría de las empresas están haciendo FMA simple (acumulación multiplicada de punto flotante) y matemáticas de precisión mixta (entero de 8 bits y punto flotante de 16 y 32 bits). No me sorprendería, ya que este enfoque es relativamente fácil de implementar y producirá algunos resultados, pero no proporcionará una ventaja arquitectónica duradera a empresas como NVIDIA, Intel y un puñado de nuevas empresas que hacen algo diferente.

Aquí hay algunas empresas que me llamaron la atención:

Nuevas empresas chinas de chips de IA

China ha estado tratando de encontrar una salida a los semiconductores estadounidenses y una IA El acelerador podría brindarle la oportunidad que había estado buscando. China se ha fijado el objetivo de construir una industria de inteligencia artificial multimillonaria para 2030, y los inversores han invertido más de 4.000 millones de dólares en nuevas empresas desde 2012.

Cambrian Technology está valorada en 2.500 millones de dólares y es una empresa unicornio china que ha lanzado la tercera generación de chips de IA. Cambrian afirma que puede proporcionar un mejor rendimiento de IA que NVIDIA V100 con un menor consumo de energía. También venden su IP de IA, que está instalada en los procesadores Kirin 970 y Kirin 980 de Huawei como hardware de aceleración de IA.

SenseTime, quizás la startup de IA más valorada, es más conocida por promover cámaras de vigilancia inteligentes en China. Hay más de 175 millones de estas cámaras de seguridad, incluidas cámaras producidas por otras empresas. SenseTime Technology se estableció en Hong Kong. Su última ronda de financiación ascendió a 600 millones de dólares, liderada por Alibaba. Según los informes, la startup está valorada actualmente en 4.500 millones de dólares.

SenseTime ha establecido asociaciones estratégicas con importantes empresas como Alibaba, Qualcomm, Honda e incluso NVIDIA. Actualmente, la compañía tiene una supercomputadora que ejecuta alrededor de 8.000 GPU (¿posiblemente proporcionadas por NVIDIA?) y planea construir cinco supercomputadoras más para procesar datos de reconocimiento facial recopilados por millones de cámaras.

Compilado por Lei Feng.com, vía Forbes