Tijdens het recente SIGGRAPH 2023-evenement heeft NVIDIA een belangrijke stap gezet door hun innovatieve NVIDIAL40S GPU te onthullen, naast de integratie van L40S binnen de NVIDIA OVX-server. Op basis van de beschikbare gegevens is dit aanbod nauwgezet op maat gemaakt voor diverse toepassingen, waaronder AI-modeltraining en -inferentie, 3D-ontwerp en -visualisatie, videoverwerking en industriële digitalisering. Het doel is duidelijk: het versterken van de AI-, grafische en videoverwerkingscapaciteiten van ondernemingen, organisaties en datacentra om effectief aan de stijgende computervereisten te kunnen voldoen.
Centraal bij de L40S GPU en OVX-server staat hun rol bij het verbeteren van de trainings- en gevolgtrekkingsfasen van generatieve AI-modellen, waarmee het potentieel wordt aangetoond om de efficiëntie van deze modellen te vergroten.
Openlijk bekendgemaakte informatie geeft aan dat de nieuwe L40S GPU-versnellingskaart, een opvolger van de L40-serie, afkomstig is van NVIDIA. Deze GPU, gebaseerd op de Ada Lovelace-architectuur, bevat de vierde generatie Tensor Core en FP8-conversie-engine, met een rekensnelheid tot 1,45 PFlops. Wat zijn bekwaamheid nog verder vergroot, is dat de L40S GPU beschikt over een assemblage van 18.176 CUDA-kernen, wat een indrukwekkende bijna vijfvoudige verbetering oplevert in single-precision floating-point (FP32) prestaties (91,6 TFlops) vergeleken met de NVIDIA A100 GPU. In tegenstelling tot de A100- en H100-GPU's ziet de L40S af van NVLink-ondersteuning en kiest hij in plaats daarvan voor GDDR6 ECC-geheugen, waardoor het wordt gepositioneerd als een meer bedreven oplossing voor edge computing-scenario's.
Liu Jingzhao, analist van Shanghai Securities, deelde zijn inzichten:
- Vanwege de beperkingen van de PCIe Gen 4-interface kan de toepassing van de L40S in GPU-netwerkcomputers relatief beperkt zijn, wat mogelijk een marginale invloed heeft op de vraag naar doorlopende 800G optische modules.
- In vergelijking met de A100 vertoont de L40S voordelen op het gebied van rekenefficiëntie binnen specifieke contexten van generatieve AI-modellen, vergezeld van een verhoogde kosteneffectiviteit.
- Door gebruik te maken van volwassen technologieën zoals GDDR6, garandeert de L40S stabiliteit in de upstream-levering.
- De benadrukte voordelen die aan de L40S worden toegeschreven, zouden kunnen leiden tot een grotere acquisitietrend onder downstream cloudproviders, waardoor nieuwe groeimogelijkheden zouden ontstaan voor optische modules met gemiddelde tot hoge snelheid, met name de 200G- en 400G-representaties.
NVIDIA's uitrol van de L40S GPU staat klaar om de AI-computermogelijkheden te vergroten, wat mogelijk tot grotere inkoopactiviteiten bij downstream cloudproviders zal leiden. Dit momentum zou mogelijk het pad kunnen effenen voor een grotere vraag binnen de markt voor optische modules met gemiddelde tot hoge snelheid.