De nieuwe Cerebras-processor voor supercomputers ontving 900.000 cores (5 foto's)

Cerebras Systems introduceerde een processorWSE derde generatie. Hij is ontworpen voor installatie in supercomputers en is qua vermogen vergelijkbaar met 62 NVIDIA H100-videokaarten. De ontwikkelaars vertelden ons wat er nog meer opmerkelijk is aan het nieuwe product.

Volgens de chipmaker is Cerebras WSE-3 in tweeënkeer krachtiger dan zijn voorganger. De processor is vervaardigd met behulp van TSMC's 5-nanometer procestechnologie en is uitgerust met 44 GB ingebouwd SRAM-geheugen met een bandbreedte van 21 PB/s. Het chipoppervlak is 46.225 mm², de prestaties zijn 125 Pflops (FP16).

De nieuwigheid is een onderdeel van een supercomputer gewordenCerebras CS-3, ontworpen om AI-modellen te trainen met maximaal 24 biljoen parameters. Vertegenwoordigers van Cerebras zeggen dat de supercomputer bij gebruik van de nieuwe CPU 97% minder programmacode nodig heeft dan een vergelijkbare assemblage op basis van grafische processors.

CS-3 kan in clusters worden geconfigureerd,inclusief maximaal 2048 systemen. Door deze schaalbaarheid kunt u werkprocessen aanzienlijk versnellen. Volgens de ontwikkelaars is het bijvoorbeeld mogelijk om in slechts één dag een model met 70 miljard parameters te verfijnen (bijvoorbeeld Llama 70B helemaal opnieuw trainen) met behulp van een combinatie van vier systemen.

Zo'n processor zal niet in de detailhandel worden verkocht - hoogstwaarschijnlijk zal het bedrijf zijn eigen lijn supercomputers ontwikkelen of in deze richting met partners samenwerken.