Japan er i ferd med å betydelig avansere sitt AI-forsknings- og utviklingskapasitet gjennom integreringen av tusenvis av NVIDIA H200 Tensor Core GPU-ar i AI Bridging Cloud Infrastructure 3.0 (ABCI 3.0). Ledet av Det nasjonale instituttet for avansert industriell vitenskap og teknologi (AIST) har dette samarbeidet som mål å drive Japans generative AI-forskning og utvikling fremover.
ABCI 3.0 er den nyeste iterasjonen av Japans storskala Open AI Computing Infrastructure, designet for å forbedre AI-kapasiteter og fremme teknologisk uavhengighet. AIST, sammen med sin forretningsdatterselskap AIST Solutions, og Hewlett Packard Enterprise (HPE) som systemintegrator, leder dette prosjektet. Initiativet støttes av Japans økonomi-, handels- og industriministerium (METI) gjennom Economic Security Fund, som en del av en bredere investering på 1 milliard dollar i databehandlingsressurser og sky-AI-databehandling.
NVIDIAs involvering i prosjektet er av stor betydning. Selskapet lover ikke bare å støtte forskning innen generativ AI, robotikk og kvantedatabehandling, men forplikter seg også til å investere i AI-startups samtidig som de tilbyr omfattende produktsupport, opplæring og utdanning.
Superdatamaskinen ABCI 3.0, som ligger i Kashiwa i nærheten av Tokyo, vil huse de integrerte NVIDIA H200 GPU-ene og HPE Cray XD-systemene med NVIDIA Quantum-2 InfiniBand-nettverk. Denne oppsettet vil levere enestående ytelse og effektivitet, og tilby 6 AI-eksaflops av databehandlingskapasitet og 410 dobbeltpresisjons petaflops for generell databehandlingskapasitet. Quantum-2 InfiniBand-plattformen vil gi høyhastighets og lav-latens kommunikasjon mellom noder, essensielt for håndtering av intensive AI-arbeidsoppgaver og store datasett.
NVIDIA H200 GPU-en er en nyskapende komponent, med over 140 gigabyte HBM3e-minne på 4,8 terabyte per sekund. Det større og raskere minnet akselererer betydelig generativ AI og store språkmodeller, og bidrar til forbedret energieffektivitet og lavere total eierkostnad.
Ved å subsidiere utviklingen av denne AI-superdatamaskinen, ønsker Japan å posisjonere seg som ledende i det globale AI-landskapet, og redusere tiden og kostnadene knyttet til utvikling av neste generasjons AI-teknologier. Samarbeidet mellom NVIDIA og Japan er et vitnesbyrd om deres felles visjon om å drive AI-forskning og -utvikling og omforme store datamengder til operativ intelligens.