TDP und Thermal Management bei PCIe GPU-Karten

Symbolbild, KI-generiert (gpt-image-1)

Eine GPU-Karte im Desktop-Gehäuse ist thermisch unauffällig: Der Raum ist klimatisiert, das Gehäuse hat Platz, und nachts läuft die Maschine nicht. Im Industrie-PC trifft keine dieser drei Annahmen zu. Engere Gehäuse, höhere Umgebungstemperaturen und Dauerlast ohne Pause machen die Entwärmung zur eigentlichen Auslegungsaufgabe.

Der Punkt ist: Die Karte selbst wird fast immer richtig dimensioniert. Was fehlt, ist die Rechnung, wohin die Wärme danach geht.

TDP ist keine Verbrauchsangabe

TDP – Thermal Design Power – beschreibt die Wärmemenge in Watt, die das Kühlsystem dauerhaft abführen können muss. Sie verhält sich wie die Traglast eines Regals: Sie sagt nicht, was tatsächlich darauf liegt, sondern was es aushalten muss.

Für die Auslegung ist trotzdem die TDP die richtige Zahl, denn eine Inferenzanwendung fährt die Karte nahe an ihr Limit. Unter Dauerlast liegen 80 bis 100 % des TDP-Werts an; im Leerlauf sind es 5 bis 20 W. Eine Karte mit 320 W TDP erzeugt bei kontinuierlicher Inferenz real 280 bis 320 W Wärme – acht Stunden Schicht lang, jeden Tag.

Die Wärmebilanz des Gesamtsystems

Gerechnet wird nicht die Karte, sondern das Gerät. Ein typischer Edge-AI-Rechner unter Volllast:

Komponente	Dauerleistung
Prozessor der Core-i7-Klasse (65 W Basis, kurzzeitig bis 219 W)	ca. 90 W
GPU-Karte mit 170 W TDP	170 W
Mainboard und Arbeitsspeicher	20 W
SSD, Lüfter, Peripherie	10 W
Zwischensumme	290 W
Netzteilverlust bei 90 % Wirkungsgrad	32 W
Gesamte Wärme im Gehäuse	rund 320 W

Der Netzteilverlust wird regelmäßig vergessen. Sitzt das Netzteil im Gehäuse, fällt seine Verlustwärme dort ebenfalls an.

Faustregel: Zur Summe der Komponenten rund 10 % für den Netzteilverlust addieren. Bei Netzteilen mit schlechterem Wirkungsgrad entsprechend mehr.

Wie viel Luft muss bewegt werden?

Aus der Wärmemenge folgt der nötige Luftdurchsatz. Die Faustformel dafür:

Luftvolumen [m³/h] = Verlustleistung [W] × 3 / zulässige Temperaturdifferenz [K]

Für die 320 W aus dem Beispiel und eine zulässige Erwärmung der Kühlluft von 10 K ergibt das 96 m³/h. Darf sich die Luft nur um 5 K erwärmen, weil die Umgebungstemperatur ohnehin hoch ist, sind es bereits 192 m³/h.

Hier lauert der Fehler: Fördermengen von Lüftern werden bei freiem Ausblasen angegeben. Mit Filtermatte, Austrittsgitter und Gegendruck im Schrank bleibt davon in der Praxis oft die Hälfte. Ein Filterlüfter mit 100 m³/h auf dem Datenblatt bewegt im eingebauten Zustand keine 100 m³/h.

Wie wird die Wärme aus dem Schaltschrank geführt?

Die Auslegung folgt einer Kette, in der jede Stufe an ihre Grenze kommt:

Stufe 1 – Lüftungsschlitze. Reine Konvektion trägt bis grob 50 W Gesamtverlustleistung im Schrank. Für ein GPU-System reicht das nie.

Stufe 2 – Filterlüfter mit Austrittsfilter. Der Standardfall bis etwa 300 W. Voraussetzung ist ein Wartungsplan: Eine zugesetzte Filtermatte ist der häufigste Grund für unerklärliches Throttling nach zwei Jahren Betrieb.

Stufe 3 – Luft-Luft-Wärmetauscher. Wenn die Umgebungsluft nicht in den Schrank darf – Staub, Späne, Öldampf, Lebensmittelbereich. Der Schrank bleibt geschlossen, die Wärme geht über Lamellen nach außen. Trägt in typischen Ausführungen einige hundert Watt.

Stufe 4 – Kühlgerät. Ab etwa 500 W oder wenn die Umgebungstemperatur über der zulässigen Schrankinnentemperatur liegt. Erst hier lässt sich der Schrank kälter halten als die Halle – alle Stufen davor können das grundsätzlich nicht.

Peltier-Elemente sind eine Option für kleine Leistungen, haben aber einen schlechten Wirkungsgrad und erzeugen selbst zusätzliche Verlustwärme.

Die billigste Kühlmaßnahme ist, die Wärme nicht entstehen zu lassen

Die übliche Reaktion auf ein Temperaturproblem ist mehr Kühlung. Oft ist der günstigere Weg, oben anzusetzen.

Eine GPU lässt sich im Power Limit begrenzen. Der Zusammenhang zwischen Leistungsaufnahme und Rechenleistung ist dabei nicht linear – die letzten Prozent Takt kosten überproportional viel Energie. Eine Karte mit 170 W TDP auf 150 W begrenzt verliert bei Inferenzlasten häufig nur wenige Prozent Durchsatz, bei rund 12 % weniger Wärmeeintrag:

sudo nvidia-smi -pl 150   # Power Limit auf 150 W setzen

Bevor ein Kühlgerät in den Schaltschrank kommt, lohnt der Versuch, die Karte zu begrenzen und den Durchsatz zu messen. Bei Anwendungen mit fester Taktzeit zählt nicht die maximale Rechenleistung, sondern ob das Ergebnis rechtzeitig vorliegt.

Throttling erkennen

Grafikprozessoren drosseln selbsttätig, bevor sie Schaden nehmen. Die Grenzen liegen je nach Modell bei 83 bis 93 °C Kerntemperatur, die Notabschaltung um 105 °C. Der Normalbetrieb spielt sich zwischen 60 und 80 °C ab.

Erkennbar ist Throttling daran, dass der aktuelle Takt deutlich unter dem Maximaltakt liegt:

watch -n 1 'nvidia-smi --query-gpu=temperature.gpu,clocks.gr,clocks.max.gr,power.draw --format=csv'

Vor der Übergabe gehört ein Dauerlasttest dazu: die Anwendung 30 Minuten unter Maximallast fahren und beobachten, ob sich die Temperatur stabilisiert. Bleibt sie unter 85 °C stehen, trägt die Kühlung. Steigt sie weiter, ist die Auslegung zu knapp – und zwar bei der heutigen Umgebungstemperatur, nicht bei der im August.

nvidia-smi dmon -s pct    # Dauermonitor: Leistung, Takt, Temperatur

Auslegung nach Verlustleistung

Verlustleistung im Schrank	Maßnahme
bis 50 W	Lüftungsschlitze, Konvektion
50–300 W	Filterlüfter mit Austrittsfilter, Wartungsplan
300–500 W, staubige Umgebung	Luft-Luft-Wärmetauscher, Schrank geschlossen
über 500 W	Kühlgerät
Umgebungstemperatur über Schrank-Sollwert	Kühlgerät, unabhängig von der Leistung
Grenzfall	Power Limit setzen und nachmessen

Wer die Wärmebilanz vor der Bestellung aufstellt, spart sich die teure Variante: ein fertig aufgebautes System, das im Sommer drosselt und dann nachträglich klimatisiert werden muss.

Passende Karten für Inferenz am Edge: PCIe AI- und GPU-Karten.

Weiterführende Artikel

• NVIDIA RTX für Inferenz: Welche Karte für welche Aufgabe?
• Lüfterlose Industrie-PCs: Technik, Vorteile und Einsatzgrenzen
• PCIe-Lanes und Bandbreite: Was Entscheider wissen müssen
• Wie wähle ich den richtigen Industrie-PC? Ein Entscheidungsrahmen

Zurück zum Wiki-Inhaltsverzeichnis.