Elon’s AI-bedrijf, xAI, is maandagochtend begonnen met het trainen op hun gigantische nieuwe Memphis Supercluster. Het doel? De “krachtigste AI ter wereld” creëren tegen december 2024. Een supercluster is het een enorm netwerk van Nvidia-computerchips die samenwerken om supercomplexe berekeningen te maken met ongekende snelheid.
De Memphis Supercluster is de meest indrukwekkende die ik ooit heb gezien. Hij bevat 100.000 Nvidia-chips, gebruikt tot 150 megawatt elektriciteit per uur—genoeg voor 100.000 huishoudens—en verbruikt minstens een miljoen liter water per dag om alles koel te houden!
Volgens sommigen op X (voorheen Twitter) overtreft deze supercluster de capaciteiten van huidige top-supercomputers zoals Frontier en Aurora met meer dan het dubbele. Dit nieuws leidde tot discussies over wie in de tech-wereld de meeste chips heeft.
Is groter altijd beter? Grote techbedrijven denken van wel. Hun logica is: betere AI-modellen vragen om meer rekenkracht, dus grotere supercomputers en superclusters. En met grotere superclusters kun je ook sneller betere modellen creëren. Een systeem zoals dat van xAI zou theoretisch GPT-4 in een week kunnen trainen.
Daarom denkt Elon Musk dat, met de Memphis Supercluster nu operationeel, zijn eigen AI model Grok 3 tegen het einde van het jaar de “krachtigste AI op elk gebied” zal zijn.
The game is on! 🙂
