 De laatste maanden was het al artificiële intelligentie dat de klok sloeg. Maar die AI vereist heel krachtige processoren. Wat de makers van die processoren zeker ten goede komt, en dan vooral Nvidia. Op zijn eventement deze week heeft het bedrijf nieuwe, krachtige processoren aangekondigd, maar het lijkt zich ook steeds meer op software toe te leggen.
Om te beginnen de hardware: Nvidia brengt een nieuwe generatie processoren uit, die Blackwell genoemd wordt naar de wiskundige David Harold Blackwell, die zich specialiseerde in speltheorie en statistieken. Deze Blackwell-reeks volgt de Hopper-reeks op waarvan de topper de H100 was. De eerste Blackwell die nu uitkot is de GB 200, gemaakt door TSCM. Voor de details verwijzen wij graag naar Engadget, maar wat wij vooral onthouden is dat AWS, Google, Azure en Oracle deze GB200 in hun clouddiensten zullen aanbieden. (1)
Nvidia beperkt zich niet enkel tot de processoren: het wil bedrijven helpen om AI uit te rollen zonder zelf AI-experten in huis te moeten hebben. Dat doet het met NIM of Nvidia Inference Microservice. Hiermee kunnen bedrijven die zelf hun eigen modellen getraind hebben, geld besparen door hun bestaande oudere Nvidia GPU's te gebruiken voor interferentie, dat minder intensief is dan training. Zij moeten dus geen nieuwe dure hardware aankopen of uitbesteden aan cloudproviders.
Concreet combineert NIM het model met een geoptimaliseerde interferentie-engine in een contaier, die je kan gebruiken als een mico-service waarop je beroep kan doen. Voor niet-ontwikkelaars betekent dit dat zij meteen aan de slag kunnen, en weken, maanden werk besparen. Volgens Nvidia zou je NIM zelfs kunnen draaien op een laptop, als die de juiste GPU heeft.
Amazon, Google en Microsoft zullen NIM aanbieden via hun SageMaker, Kubernetes Engine en Azure AI aanbod. Bos, Cloudera, Cohesity, Datastax, Dropbox en NetApp maken er al gebruik van. (2)
https://www.engadget.com/nvidias-gpus-powered-the-ai-revolut ...
https://www.fastcompany.com/91033514/nvidia-most-innovative- ...
|
