Bitten: Beregningskraften bag UCloud

Bitten er en national facilitet til kunstig intelligens (AI) og højtydende databehandling (HPC), som er tilgængelig via UCloud.

Bitten i korte træk

Bitten kombinerer stor beregningskapacitet med fleksible ressourcemuligheder til alt fra transskribering og mindre AI-modeller til distribueret træning og avancerede simuleringer.

• 20 CPU-noder med i alt 5.120 vCPU’er, som hver er udstyret med to AMD EPYC 9635-processorer på 2,25 GHz og 768 GB DDR5-6000-hukommelse. I UCloud kan en CPU-maskine tildeles op til 128 vCPU’er og 384 GB hukommelse.
• 16 GPU-noder med i alt 6.144 understøttende vCPU’er, som hver er udstyret med to AMD EPYC 9655-processorer på 2,6 GHz, 384 vCPU’er, 2.304 GB DDR5-6400-hukommelse og otte NVIDIA Blackwell B200-GPU’er.
• I alt 128 NVIDIA Blackwell B200-GPU’er, som hver har 192 GB højhastigheds-GPU-hukommelse til AI og andre beregningstunge arbejdsopgaver.
• Fleksible GPU-størrelser med NVIDIA MIG, som gør det muligt at vælge mellem én og fire mindre, isolerede GPU-instanser i stedet for at reservere en hel GPU.
• Op til syv MIG-instanser pr. B200-GPU, svarende til et teoretisk maksimum på 896 mindre GPU-instanser, hvis alle GPU’er er fuldt opdelt. Den faktiske tilgængelighed afhænger af systemets aktuelle konfiguration og efterspørgsel.
• 400 Gbit/s InfiniBand-forbindelse, som muliggør hurtig kommunikation mellem noderne til distribueret AI-træning, omfattende simuleringer og andre arbejdsopgaver, der anvender flere noder.

Kubernetes-klynge hostet og vedligeholdt på SDU. Dette udgør standardlager- og beregningsressourcerne på UCloud-platformen.