Huawei Technologies a officiellement lancé les déploiements commerciaux de sa nouvelle génération de processeurs d'intelligence artificielle Ascend 960 aujourd'hui, en déployant le silicium de calcul sur les grandes grappes de cloud d'entreprise à Shenzhen, Shanghai et Beijing. Le processeur représente l'accélérateur d'IA le plus sophistiqué au pays pour entrer dans la production, ciblant la pré-formation de modèle de langue large et l'inférence d'entreprise à haute devises.
Face aux restrictions internationales persistantes à l'exportation des outils de lithographie ultraviolet extrême (EUV), le bras de conception de semi-conducteurs de Huawei, HiSilicon, a conçu l'Ascend 960 en utilisant une architecture innovante d'emballage multi-die 'chiplet'. En cousant ensemble des tuiles de calcul denses avec la mémoire de largeur de bande haute (HBM) à l'aide d'interconnexions internes de substrat 2.5D, la puce obtient une augmentation de 45 pour cent de la bande passante interpuce bidirectionnelle par rapport à son prédécesseur Ascend 910B.
Spécifications architecturales et performance des grappes
L'Ascend 960 est conçu pour l'évolutivité massive des grappes. Dans l'architecture exclusive du centre de données Cloud Brain III de Huawei, jusqu'à 8 192 accélérateurs peuvent être interconnectés à l'aide d'interrupteurs optiques à faible latence, fournissant une puissance de calcul d'agrégat adaptée aux modèles générateurs de trillions de paramètres d'entraînement.
| Caractéristiques en silicone | Ascend 910B (génie principale) | Ascend 960 (Nouveau déploiement) | Avantage architectural |
|---|---|---|---|
| Architecture d'emballage | Monolithique 2D planar die | Empilement de copeaux multi-die 3D | Rendement supérieur et densité de calcul |
| Mémoire sur emballage | 32 Go HBM2e | 96 Go équivalent HBM3 | 3x résidence de paramètre plus grand |
| Interconnecter la largeur de bande | 392 Go/s bidirectionnel | 570 Go/s bidirectionnel | Synchronisation des tenseurs supérieure de 45 % |
| FP16 Densité de calcul | 320 TFLOPS | 640 TFLOPS | Débit de matrice dense doublé |
| Scalabilité des grappes | 4 096 puces par goupille | 8 192 puces par goupille | Parallélisme à grande échelle |
Écosystèmes logiciels et CANN 8.0
La capacité matérielle de l'accélération de l'IA dépend fondamentalement du support de l'écosystème du compilateur et du logiciel. Parallèlement au déploiement en silicium, Huawei a publié la version 8.0 de son Architecture Compute pour les Réseaux Neuraux (CANN). La pile logicielle mise à jour comprend des couches de traduction automatisées pour PyTorch et Triton, permettant aux développeurs d'entreprise de porter des modèles formés sur des environnements CUDA occidentaux avec un refactoring manuel minimal.
Les opérateurs de télécommunications, les institutions financières de l'État et les compagnies de conduite autonomes de toute l'Asie de l'Est ont commencé à migrer leur charge de travail vers les instances infonuagiques d'Ascend 960, invoquant la nécessité d'une autonomie de la chaîne d'approvisionnement dans les infrastructures informatiques de haute performance.
Incidences sur le marché
Les analystes de l'industrie notent que si les rendements de fabrication des transformateurs multi-die avancés demeurent difficiles par rapport aux grandes fonderies mondiales, la disponibilité commerciale de l'Ascend 960 souligne la façon dont les solutions d'ingénierie nationales réduisent l'écart de performance opérationnelle dans les charges de travail des entreprises en matière d'IA.
Comments (0)
Log in to join the discussion.