GPU

GPU, also Grafikprozessor, ist das Hardware-Arbeitspferd der künstlichen Intelligenz. Neuronale Netze erfordern Millionen paralleler Operationen auf Matrizen - genau die Art von Berechnungen, für die Grafikkarten geschaffen wurden. Deshalb erfolgen Training und Betrieb von Modellen auf GPUs, nicht auf normalen Prozessoren. Die Nachfrage nach Chips für KI hat ihre Hersteller zu den wertvollsten Unternehmen der Welt gemacht, und der Zugang zu Rechenleistung ist zu einer strategischen Ressource geworden. Zu Hause ermöglicht eine GPU mit ausreichend VRAM das lokale Ausführen offener Modelle.