Atlas der Gegenwart Atlas · v0.1

Stand 28. Oktober 2026

Dossier 02

Energie und Chips

v2.2-draft · ungeprüft

1. Stand

Datum
Version
v2.2-draft
Autor / Modell
Atlas generator
Gegenlesen
ungeprüft (Josef)

2. In einem Satz

Wirtschaftswert pro Joule (Zeinali et al.; Stanford/UC Berkeley/UT Austin arXiv:2610.30858, E2): auf 220 öffentlichen GDPval-Berufsaufgaben aus 44 Berufen liefert GLM 5.2 den höchsten Nettowert (72,27 $ je Aufgabe) für 0,430 MJ gemessene Energie — etwa vier Stunden aktiver Laptop-Nutzung —, Gemma 4 31B 56 % davon mit 23 % der Energie, also rund das 2,5-Fache an Nettowert pro Joule; dasselbe Modell auf einer statt acht H100 liefert fast denselben Wert, acht sind nur 22 % schneller und brauchen das 3,24-Fache an Energie — Wert in Dollar ist hier Expertenzeit × Medianlohn, nicht gemessenes BIP. Was ein Token kostet (Niu, Sencer, Zhang, Chen; NVIDIA/Texas Tech/TACC arXiv:2610.28576, E2, Messung): die GPU-Board-Energie je erzeugtem Token beim Decoding folgt auf NVIDIA GH200 und GB300 für drei dichte Modelle einer einfachen Formel aus geteilten Gewichts-Bytes, privaten KV-Cache-Bytes und realisierter Zeit je Token — 374 zurückgehaltene Läufe innerhalb von 3,73 %; der größte getestete Batch braucht 33,2–46,8 % weniger Energie je Token als der kleinste, und bei Qwen2.5-7B steigt sie mit langer Historie von 0,323 auf 0,638 J/Token — nur GPU-Board, nur dichte Modelle, Decode-Zeit als Eingabe. KI-Speicher über dem Normtest (Olgun et al. ETH Zürich/NYU arXiv:2610.14244, E2, Messung): an 36 echten HBM2-Chips zieht ein gezielt konstruiertes Zugriffsmuster im Mittel 23,6 % (max. 35,4 %) mehr Leistung als die stromhungrigste JEDEC-Messschleife; Lesen kostet 3,1× so viel wie Refresh, wechselnde Bus-Signale +29,4 %; das offene Modell trifft 36 Chips mit 7,6–8,1 % Fehler und die HBM3E-Speicherleistung von drei H200 mit 2,4–5,3 % — FPGA-Stresstest ≠ GPU-Workload. Carbon–SLO (Topcu et al. Penn State arXiv:2610.14571, E2, Simulation): Facility-MILP spart bis 60 % CO₂ vs Round-Robin bei mittlerer SLO-Verletzung ~3 % — Simulator ≠ Flotte. Meta fbnic (Gupta et al. arXiv:2610.07644, E2, Selbstbericht): eigene Netzwerkkarte auf Hunderttausenden Hosts senkt ungeplante Nichtverfügbarkeit von 9,11 % auf 0,74 %. MIT (McCourt, Fiete, Chuang arXiv:2610.10311, E2, Simulation): LLMs, die mit Hardwarefehlern trainiert werden, werden mit Größe robuster — Energieersparnis auf fehlerhafter Hardware bleibt Konjektur. Die Energiegrenze der KI ist zuerst eine Aufgaben- und Systemgrenze: Meta 150-MW-Cluster (Ardestani et al. arXiv:2605.24461v3, 2026, E2): ~83K GB200 im festen Strombudget — Power-Limit 960 W (80 % TDP) statt 1200 W bringt laut Betreiber ~10–11 % mehr Cluster-Throughput, weil mehr GPUs ins Budget passen; statische Imbalance lässt bis 10 % Strom gestrandet; ein Betreiber, Selbstbericht; Inferenzenergie hängt um Größenordnungen von der Aufgabenklasse ab; Sample-Count Energy (Kashaniyan/Jannesari 2026, E1) zeigt bei festem N=8, dass 8×1 vs 1×8 auf A100 4,64–4,86× Brutto-GPU-Energie kostet — Kandidatenzahl ≠ Ausführungsplan; Phase-Decoupled Power Control (Kim et al. 2026, E1) auf 8×B200 MoE: Vendor-Max-Q bescheiden (+8,6 % tokens/J, +5,2 % Latenz), kalibriert phasengetrennt +20,4 % tokens/J bei +3,5 % e2e — Lab/Node ≠ Flotte; dens ~5× weniger Gewinn; global 2010–2018 +6 % Energie bei +550 % Compute (Masanet); US-DC wieder gestiegen (LBNL); IEA ~415 TWh 2024 E2; Epoch ~20 Mio. AI-Chips / 3,3× Kapazität seit 2022 (E2); TSMC CoWoS 5.5-Reticle jetzt / 14-Reticle 2028 (E2); DGX B200 ~14.3 kW; HBM/Packaging/Lithographie eng.

Nachgewiesen heute · E1 / E2

3. Was heute funktioniert

Wirtschaftswert pro Joule: das wertvollste KI-System ist nicht das effizienteste, acht GPUs statt einer kosten das 3,24-Fache an Energie (Zeinali et al.)

  1. E2

    Zeinali, Saad-Falcon, Narayan (Stanford), Abbasi (UC Berkeley), Hartley (UT Austin), Hennessy, Ré, Mirhoseini (Stanford; arXiv:2610.30858v1, eingereicht 2026-10-22, 35 S., PDF geöffnet 2026-10-25): 220 öffentliche GDPval-Aufgaben aus 44 Berufen in 13 Kategorien (nach Sektor-BIP und Beschäftigung gewichtet); Wert einer Ausgabe = Expertenzeit × Berufs-Medianlohn (US-OEWS), nur bei Sieg oder Unentschieden gegen die Experten-Lösung (Richter Gemini 3.1 Flash-Lite; drei Richter 72,3–77,2 % paarweise Übereinstimmung, mit menschlichen Experten 23 von 32 = 71,9 %); Energie end-to-end gemessen (GPU, CPU, DRAM, inkl. Tool-Nutzung und Wartezeit), ein Lauf je Aufgabe und Konfiguration. Kennzahlen: Nettowert pro Joule (NVJ, Wert minus Ausführungskosten, USD/MJ) und Zeitersparnis pro Joule (TSJ, h/MJ). Fünf lokal betriebene offene Modelle (OpenHands, vLLM): GLM 5.2 (acht H200) liefert den höchsten Nettowert, 72,27 $ je Aufgabe (Ausgabewert 74,19 $, 1,64 Expertenstunden) für 0,430 MJ — etwa vier Stunden aktiver Laptop-Nutzung oder 10,2 Minuten einer H200 bei 700 W; Gemma 4 31B liefert 56 % dieses Nettowerts mit 23 % der Energie, rund das 2,5-Fache an NVJ und 2,8-Fache an TSJ; GPT-OSS 120B braucht bei fast gleichen Kosten und gleicher Zeit 68 % weniger Energie als GLM 5.2.

    Zeinali et al. Joules-to-GDP. Joules-to-GDP: How Much Economic Value Do AI Systems Produce per Unit of Energy?. https://arxiv.org/abs/2610.30858. Stand arXiv:2610.30858v1 (submitted 2026-10-22; cs.LG; 35 pp.); PDF research/pdfs/arXiv2610.30858.pdf; code github.com/HazyResearch/joules_to_gdp and dataset not opened. Geprüft 2026-10-25. Typ: Paper (arXiv; PDF geöffnet; 220 GDPval-Aufgaben, gemessene GPU/CPU/DRAM-Energie, LLM-Richter).
  2. E2

    Gleiche Quelle, Berufe und Hardware: Energie verschiebt die Rangfolgen — Architektur & Ingenieurwesen (z. B. CAD) liefert je Aufgabe etwa 10 % mehr Nettowert als Informatik & Mathematik (z. B. Website-Features), pro Joule aber liefert Informatik & Mathematik etwa 27 % mehr; die Kategorie Produktion (z. B. Schichtpläne gegen Auftragsrückstände) fällt bei der Zeitersparnis von Rang 2 je Aufgabe auf Rang 6 je Joule. Qwen3.6-27B auf je einem Beschleuniger: NVJ 535,5 (B200), 402,2 (H100), 391,3 (H200), 124,1 USD/MJ (AMD MI350X) — Spanne Faktor 4,32, TSJ-Spanne 9,27. Von einer auf acht H100 sinkt die Bearbeitungszeit nur um 22 %, die Energie steigt auf das 3,24-Fache bei fast gleichem Ausgabewert, weil alle acht GPUs durchgehend Strom ziehen und Kommunikation sowie sequentielle Tool-Aufrufe den Gewinn begrenzen. Gegen Experten, die selbst KI nutzen (rund 23 % weniger Zeit), erreicht GLM 5.2 deren Ergebnis nur etwa halb so oft.

    Zeinali et al. Joules-to-GDP. Joules-to-GDP: How Much Economic Value Do AI Systems Produce per Unit of Energy?. https://arxiv.org/abs/2610.30858. Stand arXiv:2610.30858v1 (submitted 2026-10-22; cs.LG; 35 pp.); PDF research/pdfs/arXiv2610.30858.pdf; code github.com/HazyResearch/joules_to_gdp and dataset not opened. Geprüft 2026-10-25. Typ: Paper (arXiv; PDF geöffnet; 220 GDPval-Aufgaben, gemessene GPU/CPU/DRAM-Energie, LLM-Richter).

Joule pro Token: Gewichts-Bytes, KV-Bytes und Zeit erklären die Decode-Energie auf GH200/GB300 auf ≤3,73 % (Niu et al.)

  1. E2

    Niu (NVIDIA), Sencer (Texas Tech), Zhang (TACC), Chen (Texas Tech; arXiv:2610.28576v1, eingereicht 2026-10-20, PDF geöffnet 2026-10-21): „Token-Energy Law“ — die GPU-Board-Energie je nützlichem Ausgabetoken beim dichten Decoding mit voller Aufmerksamkeits-Historie (BF16, FlashAttention) wird als affine Funktion aus drei Größen beschrieben: geteilte Gewichts-Bytes je Token (Gewichte ÷ realisierte Batchgröße), private KV-Cache-Bytes je Token (wachsen mit der Historie) und realisierte Decode-Zeit je Token; Koeffizienten je Modell und Hardware/Runtime kalibriert. Gemessen an Qwen2.5-7B, Qwen2.5-14B und Mistral-7B auf NVIDIA GH200 (Hopper, 144 GB HBM3e, Leistungsgrenze 700 W, vLLM; auch Tensorparallel über zwei GPUs) und GB300 (Blackwell, 1 300 W). Über 374 zurückgehaltene Läufe liegen alle Bedingungs-Mittelwerte innerhalb von 3,73 % der Messung; dieselben Koeffizienten von GPU0 auf GPU1 desselben Knotens ohne Neuanpassung: max. 3,72 %. Ohne Zeitterm (nur Bytes) steigt der Maximalfehler auf GB300 auf 28,2–35,5 %, nur mit Zeit auf 10,97–29,40 %.

    Niu et al. Token-Energy Law. The Token-Energy Law of LLM Decode: Active Bytes and Realized Time Account for Joules per Token. https://arxiv.org/abs/2610.28576. Stand arXiv:2610.28576v1 (submitted 2026-10-20; cs.LG); PDF research/pdfs/arXiv2610.28576.pdf. Geprüft 2026-10-21. Typ: Paper (arXiv; PDF geöffnet; Messung an GH200/GB300; Erstautor NVIDIA).
  2. E2

    Gleiche Quelle: bei festem Modell, Plattform und Historie braucht der größte getestete Batch 33,2–46,8 % weniger Energie je Token als der kleinste (Batching verteilt die Gewichts-Lesearbeit); längere Historie erhöht die Energie in jeder Messreihe — Qwen2.5-7B auf GH200 bei Batch 12: 0,323 → 0,609 → 0,638 J/Token bei 6 144 / 10 240 / 14 336 Token Historie, wobei der Sprung über 8 192 Token auch einen Laufzeit-Rückfall auf langsamere Ausführung widerspiegelt. Das logische Byte-Konto stimmt mit gemessenem HBM-Lesevolumen auf 0,03–0,07 % mittleren Fehler überein (177 Profile). Der angepasste Zeitkoeffizient (~139 W GH200, ~199–201 W GB300) ist laut Autoren nicht als gemessene Leerlaufleistung zu lesen; Energie brutto, ohne Abzug eines Leerlaufwerts.

    Niu et al. Token-Energy Law. The Token-Energy Law of LLM Decode: Active Bytes and Realized Time Account for Joules per Token. https://arxiv.org/abs/2610.28576. Stand arXiv:2610.28576v1 (submitted 2026-10-20; cs.LG); PDF research/pdfs/arXiv2610.28576.pdf. Geprüft 2026-10-21. Typ: Paper (arXiv; PDF geöffnet; Messung an GH200/GB300; Erstautor NVIDIA).

HBM-Speicher: Stressmuster zieht 23,6 % mehr als die stärkste JEDEC-Testschleife (Olgun et al.)

  1. E2

    Olgun, Galanopoulos, Kakolyris, Yüksel, Luo, Bostancı, Mutlu (ETH Zürich; New York University; arXiv:2610.14244v1 vom 2026-10-09, erweiterte Fassung eines MICRO-2026-Papers, PDF geöffnet 2026-10-18): nach eigener Angabe erste umfassende experimentelle Leistungsmessung an echten HBM2-Chips — 36 Chips (je 8 GB; Hersteller vom Board-Anbieter nicht offengelegt, laut Autoren wahrscheinlich Samsung) auf 18 AMD-Alveo-U55C-FPGA-Boards bei 600 MHz (1 200 MT/s), Strom über die Board-Sensoren. Ein Lesezugriff zieht mehr Strom als jede andere geprüfte Operation, 3,1× so viel wie Refresh; der Lesestrom schwankt zwischen Bankgruppen um 8,1 % und zwischen Banken um 5,3 %; wechselnde Signale auf allen internen Bankgruppen-Bussen erhöhen die Leistung um 29,4 % gegenüber konstanten. Ein daraus konstruiertes Zugriffsmuster verbraucht im Mittel 23,6 % (maximal 35,4 %) mehr Leistung als die stromhungrigste JEDEC-Messschleife (IDD4R) — die Standard-Testschleifen bilden den schlechtesten Fall nicht ab.

    Olgun et al. HBM2 power. Understanding the Power Consumption of Modern High Bandwidth Memory: Experimental Analysis and Modeling Using Real HBM2 DRAM Chips. https://arxiv.org/abs/2610.14244. Stand arXiv:2610.14244v1 (2026-10-09; cs.AR; extended version of a MICRO 2026 paper); PDF research/pdfs/arXiv2610.14244.pdf; model github.com/CMU-SAFARI/HBM-Power (not run). Geprüft 2026-10-18. Typ: Paper (arXiv; PDF geöffnet; Messung an 36 Chips + 3 H200).
  2. E2

    Gleiche Quelle: das daraus gebaute offene Leistungsmodell (Ayna, auf DRAMPower aufgebaut) sagt die Leistung der 36 Chips über sechs Mikrobenchmarks und einen echten Llama-3.1-8B-Decode-Lauf mit 7,6–8,1 % mittlerem absolutem Prozentfehler voraus (zum Vergleich DRAMSim3 21,6 %, FGDRAM 22,6 % beim Null-Datenmuster). Auf HBM3E extrapoliert trifft es die per nvidia-smi gemessene Speicherleistung von drei NVIDIA-H200-Systemen unter einem lesestarken Mikrobenchmark (4,52 TB/s, 94 % der Spitze) mit 5,3 / 2,4 / 4,5 % Fehler bei minimaler / nominaler / maximaler Spannung; im Leerlauf 12,0–20,3 %. Die gemessene HBM3E-Speicherleistung erreicht im Mittel der drei H200 bis zu 248 W — rund 35 % des 700-W-Budgets der GPU.

    Olgun et al. HBM2 power. Understanding the Power Consumption of Modern High Bandwidth Memory: Experimental Analysis and Modeling Using Real HBM2 DRAM Chips. https://arxiv.org/abs/2610.14244. Stand arXiv:2610.14244v1 (2026-10-09; cs.AR; extended version of a MICRO 2026 paper); PDF research/pdfs/arXiv2610.14244.pdf; model github.com/CMU-SAFARI/HBM-Power (not run). Geprüft 2026-10-18. Typ: Paper (arXiv; PDF geöffnet; Messung an 36 Chips + 3 H200).

Carbon–SLO: Facility-MILP spart bis 60 % CO₂ bei ~3 % SLO-Verletzung (Topcu et al.)

  1. E2

    Topcu, Cim, Ozturk, Kandemir (Penn State; arXiv:2610.14571v1 vom 2026-10-10; PDF geöffnet 2026-10-14): latenzzentrierter geo-verteilter LLM-Serving-Simulator (Continuous Batching, Queuing, Inter-Region-RTT; kalibrierte A100-Latenz/Leistung) mit hierarchischen Schedulern. Facility-MILP: bis 60 % CO₂-Reduktion gegenüber Round-Robin; mittlere SLO-Verletzung ~3 % (TTFT/TPOT unter MLPerf-ähnlichen Budgets).

    Topcu et al. Carbon–SLO. Carbon-Aware Geo-Distributed LLM Serving under Latency SLOs. https://arxiv.org/abs/2610.14571. Stand arXiv:2610.14571v1 (2026-10-10); PDF research/pdfs/arXiv2610.14571.pdf. Geprüft 2026-10-14. Typ: Paper (arXiv; PDF geöffnet; Simulation).
  2. E2

    Bei niedriger Last: MILP-CO₂-Ersparnis 53,8–59,6 % über Modelle bei ≤1,3 % SLO-Verletzung; bei hoher Last schrumpft die Ersparnis auf ~32–38 %; Ersparnis wächst mit der CI-Variationskoeffizient über Rechenzentren. Greedy α=0 (kohlenstoff-aggressiv) kann Ersparnis treffen, verletzt aber SLO für bis ~55 % der Requests. Simulation; Node-Kalibrierung auf Llama-3.1-8B (TPOT MAPE <5 %, TTFT ~9,1 %, Energie ~2,5 %); Mixtral ende-zu-ende nicht auf Hardware validiert; nur A100-Modelle.

    Topcu et al. Carbon–SLO. Carbon-Aware Geo-Distributed LLM Serving under Latency SLOs. https://arxiv.org/abs/2610.14571. Stand arXiv:2610.14571v1 (2026-10-10); PDF research/pdfs/arXiv2610.14571.pdf. Geprüft 2026-10-14. Typ: Paper (arXiv; PDF geöffnet; Simulation).

Eigene Netzwerkkarte: Meta fbnic senkt ungeplante Ausfallzeit 12× (Gupta et al.)

  1. E2

    Gupta et al. (Meta Platforms, 28 Autoren; arXiv:2610.07644v1 vom 2026-10-06; PDF geöffnet 2026-10-10): fbnic, eine eigene Multi-Host-NIC, läuft auf Hunderttausenden Produktions-Hosts. Vendor-Multi-Host-NICs mit geteilter Firmware und Puffern erzeugten über sieben Jahre kaskadierende Isolationsfehler; fbnic isoliert physisch. Über zehn Monate: ungeplante Nichtverfügbarkeit (T1) von 9,11 % auf 0,74 % (12×), 37 % kürzere mittlere Reparaturzeit, 2,3× weniger Hardware-Tausch gegenüber Vendor-NICs auf derselben Plattform. Preis: der gesamte Betriebsaufwand (Hardware-in-the-Loop-CI, Firmware-Orchestrierung, Repair-Automatik) liegt nun beim Hyperscaler. Selbstbericht des Betreibers, keine externe Prüfung.

    Gupta et al. Meta fbnic. From ASIC to Fleet: Lessons from Building and Operating a Hyperscaler NIC. https://arxiv.org/abs/2610.07644. Stand arXiv:2610.07644v1 (2026-10-06); PDF research/pdfs/arXiv2610.07644.pdf. Geprüft 2026-10-10. Typ: Paper (arXiv; PDF geöffnet; Betreiber-Selbstbericht).

Inferenzenergie ist aufgabenabhängig

  1. E1

    88 Modelle, 10 Tasks, 1 000 Inferences: Textklassifikation 0.002 kWh / 1 000; Bildgenerierung 2.907 kWh / 1 000 (σ 3.31). Faktor >1 000. Generativ ≫ diskriminativ; Multi-Purpose teurer als task-spezifisch. BLOOMz-7B: Training+FT-Parität etwa 593 Mio. Inferences. Grenze: sequentielle Inferences, Open Models 2023, ein Hardware-Setting (A100).

    Luccioni, Jernite, Strubell. Power Hungry Processing: Watts Driving the Cost of AI Deployment?. https://arxiv.org/html/2311.16863. Stand 2023-11-28. Geprüft 2026-08-28. Typ: Paper (FAccT 2024).

Trainingsenergie einzelner Modelle

  1. E1

    BLOOM-176B: 1 082 990 GPU-h, 433 196 kWh dynamisch, Grid 57 gCO₂eq/kWh → 24.7 t dynamisch; plus Idle 14.6 t und Embodied 11.2 t → 50.5 t Lebenszyklus-Training. E1 für BLOOM-Messung; Cross-Model-Tabelle (GPT-3/OPT) im Paper E2.

    Luccioni, Viguier, Ligozat. Estimating the Carbon Footprint of BLOOM, a 176B Parameter Language Model. https://arxiv.org/html/2211.02001. Stand 2022-11. Geprüft 2026-08-28. Typ: Paper.
  2. E1

    Strubell 2019: gemessene GPU-Leistungen 2018–19 (Titan-X/1080-Ti, PUE 1.58). Transformer-big ~192 lb CO₂e; BERT-base ~1 438 lb. Die NAS-Extrapolation (626 155 lb) ist durch Patterson korrigiert — nicht als Welt-Fußabdruck lesen.

    Strubell et al. Energy and Policy Considerations for Deep Learning in NLP. https://arxiv.org/html/1906.02243. Stand 2019-06. Geprüft 2026-08-28. Typ: Paper (ACL 2019).
  3. E2

    Patterson 2022: NAS-Schätzung UMass 284 tCO₂e vs. tatsächlich 3.2 t (88×). Google ML-Energie 10–15 % der Google-Gesamtenergie 2019–2021, davon ~⅗ Inferenz / ⅖ Training. E2 (eine Hyperscaler-Messung); nicht E1 für „ML-Fußabdruck der Welt schrumpft“.

    Patterson et al. The Carbon Footprint of Machine Learning Training Will Plateau, Then Shrink. https://arxiv.org/abs/2204.05149. Stand 2022-04-11. Geprüft 2026-08-28. Typ: Paper (Google/Berkeley).

Datacenter-Strom: die flache Ära ist gebrochen

  1. E1

    Masanet et al. Science 2020 (Policy Forum, Bottom-up-Modell): globaler Rechenzentrumsstrom rund 194 TWh (2010) → 205 TWh (2018), etwa 1 % des Weltstroms; +6 % Energie bei +550 % Compute-Instanzen. Intensität −20 %/Jahr. IT-Geräte 92 → 130 TWh; Infrastruktur (Kühlung/Stromversorgung) sinkt und fängt den IT-Zuwachs weitgehend auf. Traditional 79 % der Instanzen (2010) → Cloud inkl. Hyperscale 89 % (2018). Autoren: „we estimated“ / „around“. Nur 2010–2018, global — nicht IEA 2024/26, nicht LBNL-US 2023/24.

    Masanet et al. Recalibrating global data center energy-use estimates. https://datacenters.lbl.gov/sites/default/files/Masanet_et_al_Science_2020.full_.pdf. Stand 2020-02-28. Geprüft 2026-08-31. Typ: Paper (Science Policy Forum; LBNL-hosted journal PDF).
  2. E1

    Die Masanet-Flachphase ist global 2010–2018. LBNL 2024 (Quelle 13) misst den US-Bruch danach: ~60 TWh 2014–16 → 176 TWh 2023. Nicht dieselbe Reihe, nicht dieselbe Geographie. 205 TWh (Welt 2018, Masanet) ≠ 76 TWh (US 2018, LBNL).

    Masanet et al. Recalibrating global data center energy-use estimates. https://datacenters.lbl.gov/sites/default/files/Masanet_et_al_Science_2020.full_.pdf. Stand 2020-02-28. Geprüft 2026-08-31. Typ: Paper (Science Policy Forum; LBNL-hosted journal PDF).Shehabi et al. (LBNL 2024). 2024 United States Data Center Energy Usage Report. https://eta-publications.lbl.gov/sites/default/files/2024-12/lbnl-2024-united-states-data-center-energy-usage-report.pdf. Stand 2024-12. Geprüft 2026-08-28. Typ: Official lab report (LBNL-2001637).
  3. E1

    US-DC-Strom: ~60 TWh 2014–16, 76 TWh 2018 (1.9 %), 176 TWh 2023 (4.4 %). GPU-accelerated Server sind der Bruch. E1 für 2014–2023-Best-Estimate; 2028-Spanne 325–580 TWh ist E2.

    Shehabi et al. (LBNL 2024). 2024 United States Data Center Energy Usage Report. https://eta-publications.lbl.gov/sites/default/files/2024-12/lbnl-2024-united-states-data-center-energy-usage-report.pdf. Stand 2024-12. Geprüft 2026-08-28. Typ: Official lab report (LBNL-2001637).
  4. E2

    LBNL 2025 Update: 2024-Ist 192 TWh = 4.7 % US-Strom (GPU-Shipments 2023–24 nach unten revidiert). 2030 Reference 649 TWh = 11.8 %; Compounded 521–843 TWh. Ein Update-Modell, Juni 2026.

    Smith et al. (LBNL 2025). United States Data Center Energy Usage Report: 2025 Update. https://doi.org/10.71468/P1RP4F. Stand 2026-06-18. Geprüft 2026-08-28. Typ: Official lab report (LBNL-2001758).
  5. E2

    Global 2024 ~415 TWh, ~1.5 % Weltstrom; +12 %/Jahr seit ~2017. US 45 %, China 25 %, Europa 15 %. IEA: Unsicherheit „substantial“ im Demand-Kapitel.

    IEA. Energy and AI — Executive summary. https://www.iea.org/reports/energy-and-ai/executive-summary. Stand 2025-04. Geprüft 2026-08-28. Typ: Official report.IEA Demand. Energy demand from AI. https://www.iea.org/reports/energy-and-ai/energy-demand-from-aI. Stand 2025-04. Geprüft 2026-08-28. Typ: Official report (Kapitel).
  6. E2

    EU-27, 2022: DC 45–65 TWh (1.8–2.6 % EU-Strom). Keine offizielle Statistik; Literatur-Synthese. Nicht 2026-Update.

    Kamiya, Bertoldi (JRC). Energy Consumption in Data Centres and Broadband Communication Networks in the EU. https://doi.org/10.2760/706491. Stand 2024-02. Geprüft 2026-08-28. Typ: Official report (JRC135926).

Chips: Spezifikation, Foundry, Lithographie

  1. E1

    H100 SXM: FP8 Tensor 3 958 TFLOPS (mit Sparsity), 80 GB, 3.35 TB/s, NVLink 900 GB/s, Max TDP bis 700 W (configurable). E1 für die veröffentlichte Spezifikation; nicht für Feld-Utilization (LBNL ~70 % Rated).

    NVIDIA. NVIDIA H100 GPU (product specifications). https://www.nvidia.com/en-us/data-center/h100/. Stand 2026-08-28. Geprüft 2026-08-28. Typ: Hersteller-Spezifikation.
  2. E1

    DGX B200 (Herstellerseite, geprüft 2026-08-28): 8× NVIDIA-Blackwell-GPUs; GPU-Speicher 1 440 GB gesamt, 64 TB/s HBM3e; FP4 Tensor 144 PFLOPS sparse / 72 PFLOPS dense; FP8 Tensor 72 PFLOPS sparse (dense = ½); NVLink 14.4 TB/s aggregiert; Systemleistung etwa 14.3 kW max; 10 Höheneinheiten. E1 für die veröffentlichte Spezifikation; nicht für Feld-Utilization, nicht für Token-Kosten (SemiAnalysis-FAQ der Seite kein Warrant).

    NVIDIA DGX B200. NVIDIA DGX B200 (product specifications). https://www.nvidia.com/en-us/data-center/dgx-b200/. Stand 2026-08-28. Geprüft 2026-08-28. Typ: Hersteller-Spezifikation.
  3. E2

    Epoch 2023, 47 ML-Accelerators: FP32-FLOP/s 2× / 2.3 Jahre; Energieeffizienz 2× / 3.0 Jahre; DRAM-Kapazität und -Bandbreite 2× / ~4 Jahre (Memory Wall). Peak ≠ Utilization. EUV-Reticle-Limit 858 mm².

    Hobbhahn, Heim, Aydos. Trends in machine learning hardware. https://epoch.ai/publications/trends-in-machine-learning-hardware. Stand 2023-11-09. Geprüft 2026-08-28. Typ: Dataset/Report.
  4. E2

    Epoch Trends (Stand 2026-02-05): AI-Chip-Stock 3.4×/Jahr; Frontier-LM-Trainingscompute 5×/Jahr seit 2020; GPU FLOP/s/W 1.34×/Jahr seit 2008. E2 (Research-NGO; Underlying Inputs nicht auditiert). Die 5×/Jahr-LM-Frontier-Dashboard-Zahl ist seit 2026-08-31 durch den Epoch-Bericht Mai 2024 in Dossier 01 korroboriert (anderes Sample/Fenster; Zahlen dort).

    Epoch Trends. Trends in Artificial Intelligence. https://epoch.ai/trends. Stand 2026-02-05. Geprüft 2026-08-28. Typ: Dataset/Dashboard.
  5. E2

    Epoch Topic Overview AI Chips (pagefind 1. Mai 2026): fünf größte Designer bis Q4 2025 grob 20 Mio. AI-Chips; Nvidia etwa die Hälfte der Stückzahl und über 66 % der Rechenkapazität. Data Insight (CSV 16. Feb. 2026): sold-capacity in H100-Äquivalenten 3,3×/Jahr seit 2022 (90 %-KI 2,7–4,1×; Verdopplung 7 Monate, KI 6–8). Nicht 3,4× Dashboard (Quelle 11) und nicht 5,3× Trainings-FLOP (D01 Sevilla). Inputs: Umsatz/Filings/Analysten, nicht ein Chip-Zensus.

    Epoch Chips Overview. Topic Overview: AI Chips. https://epoch.ai/publications/chips-topic-overview. Stand 2026-05-01. Geprüft 2026-09-01. Typ: Topic Overview (Research-NGO).Epoch chip production. Global AI computing capacity is doubling every 7 months. https://epoch.ai/data-insights/ai-chip-production. Stand 2026-02-16. Geprüft 2026-09-01. Typ: Data Insight (CSV-Stamp 16. Feb. 2026).
  6. E2

    Übersicht, ML-Hardware-DB: Flagship-Releasepreis P100 5 700 USD (2016) → H100 34 000 USD (2022); H100 siebzehnmal so viel Computation je Dollar. Performance/Dollar grob 2× / 2,5 Jahre seit den frühen 2010ern. Leading chips ~40 % energieeffizienter pro Jahr (~2,7 Jahre Verdopplung); B200 (2024) grob dreimal Computation/Watt vs A100 (2020). Ein Chip rund 1 000 W Volllast; AI-DC-Leistung Ende 2025 grob tens of gigawatts — Größenordnung, kein Punktwert. Spending-Analyse Jan. 2026: Chips+Compute-Zeit 54–62 % der Ausgaben, wo Splits existieren.

    Epoch Chips Overview. Topic Overview: AI Chips. https://epoch.ai/publications/chips-topic-overview. Stand 2026-05-01. Geprüft 2026-09-01. Typ: Topic Overview (Research-NGO).
  7. E1

    TSMC GJ 2025: Wafer-Shipments 15.0 Mio. 12-Zoll-Äquivalent; Advanced (≥7 nm) 74 % Wafer-Umsatz; N3 24 %. CoWoS/InFO/SoIC genannt, ohne kwpm. E1 für AR-Kennzahlen; E2 für Node-Zeitplan.

    TSMC. 2025 Annual Report, Letter to Shareholders (ch. 1 PDF). https://investor.tsmc.com/static/annualReports/2025/english/pdf/2025_tsmc_ar_e_ch1.pdf. Stand 2025. Geprüft 2026-08-28. Typ: Firmenbericht.
  8. E2

    TSMC 2026 North America Tech Symposium PR (22. Apr. 2026, PDF geöffnet): „The Company is now producing 5.5-reticle size CoWoS.“ E2 (Vendor-PR) für laufende 5.5-Reticle-Produktion. Keine kwpm-Zahl in diesem PDF — CoWoS kwpm bleibt E0.

    TSMC Tech Symposium 2026. TSMC Debuts A13 Technology at 2026 North America Technology Symposium. https://pr.tsmc.com/system/files/newspdf/attachment/49337b40ff139d51d533076cf7a945b30e107e07/2026%20Tech%20Symposium%20%28E%29_Final_wmn.pdf. Stand 2026-04-22. Geprüft 2026-09-02. Typ: Firmen-PR PDF (Tech Symposium; News-HTML Cloudflare-blocked).
  9. E1

    ASML GJ 2025: Total net sales €32.667 Mrd.; EUV systems recognized 48 (2024: 44). Davon 44 NXE in 2025; High-NA EXE arithmetisch 4. E1 für FY-Einheiten; 2026-Guidance E3.

    ASML PR. ASML reports €32.7 billion total net sales and €9.6 billion net income in 2025. https://www.asml.com/en/news/press-releases/2026/q4-2025-financial-results. Stand 2026-01-28. Geprüft 2026-08-28. Typ: Firmenbericht.ASML AR. 2025 Annual Report — Financial performance section. https://ourbrand.asml.com/m/419103cb23dfeaa4/original/asml-2025-annual-report-financial-performance-section.pdf. Stand 2025. Geprüft 2026-08-28. Typ: Firmenbericht.

Kritische Materialien — Liste und Konzentration

  1. E1

    USGS 2025 List of Critical Minerals (60), inkl. Gallium, Germanium, Silicon, Tungsten. US importierte 2024 80 % der genutzten Seltenen Erden. Keine AI-spezifische Tonnenzahl in dieser Quelle.

    USGS. Interior Department releases final 2025 List of Critical Minerals. https://www.usgs.gov/news/science-snippet/interior-department-releases-final-2025-list-of-critical-minerals. Stand 2025-11-06. Geprüft 2026-08-28. Typ: Official.
  2. E2

    IEA Energy and AI PDF: China ~99 % der globalen raffinierten Gallium-Versorgung; DC-Galliumbedarf 2030 >10 % der heutigen Versorgung. Energy-security-HTML derselben Report-Familie: 95 % — interne Diskrepanz 99 vs. 95, nicht glätten. Minerals 2026 Exec: Top-Refiner China >90 % bei Ga, Graphit, Mangan, REE.

    IEA PDF. Energy and AI (PDF, Auszug). https://iea.blob.core.windows.net/assets/40a4db21-2225-42f0-8a07-addcc2ea86b3/EnergyandAI.pdf. Stand 2025-04. Geprüft 2026-08-28. Typ: Official report PDF (Auszug).IEA Minerals. Global Critical Minerals Outlook 2026 — Executive Summary. https://www.iea.org/reports/global-critical-minerals-outlook-2026/executive-summary. Stand 2026. Geprüft 2026-08-28. Typ: Official report (Exec).

Phase-Decoupled Power Control für disaggregiertes LLM-Serving (Kim et al.)

  1. E1

    Kim, Yoo, Ryu, Ha, Lee, Ryu (Xenoscube; arXiv:2609.11133v1, PDF geöffnet 2026-09-20): phasengetrenntes, modellkalibriertes Power-Control für Prefill/Decode-disaggregiertes Serving. Auf 8×B200 mit Qwen3-Coder-480B FP8 MoE (agentic): Vendor-Max-Q in-flight +8,6 % tokens/J bei +5,2 % mittlerer e2e-Latenz; BAL-Modus des Controllers +20,4 % tokens/J bei +3,5 % e2e — Pareto auf beiden Achsen.

    Kim et al. Phase-Decoupled. Phase-Decoupled, Model-Calibrated Power Control for Disaggregated LLM Serving. https://arxiv.org/abs/2609.11133. Stand arXiv:2609.11133v1 (2026-09-10); PDF research/pdfs/PhaseDecoupled_Power_arXiv2609.11133.pdf. Geprüft 2026-09-20. Typ: Paper (arXiv; PDF geöffnet).
  2. E1

    Drei-Tage-Lauf: 32,3 % Stromersparnis eines Lane-Paars. Prefill: SM-Clock-Fenster mit Latenzboden; Decode: kalibrierte Power-Cap (A/B: Cap +24,1 % vs. throughput-optimal Clock +17,2 % vs. aggressiv +15,5 % tokens/J). Scope: MoE; explorativer Dense-Vergleich etwa 5× weniger Effizienzgewinn.

    Kim et al. Phase-Decoupled. Phase-Decoupled, Model-Calibrated Power Control for Disaggregated LLM Serving. https://arxiv.org/abs/2609.11133. Stand arXiv:2609.11133v1 (2026-09-10); PDF research/pdfs/PhaseDecoupled_Power_arXiv2609.11133.pdf. Geprüft 2026-09-20. Typ: Paper (arXiv; PDF geöffnet).

Test-Time Scaling: Kandidatenzahl ≠ Energieplan

  1. E1

    Kashaniyan & Jannesari (Iowa State; arXiv:2609.19499v1, PDF geöffnet 2026-09-22): bei festem Kandidatenbudget N=8 vergleichen 1×8, 2×4, 4×2, 8×1 Generation Schedules (a×b = a Calls × b Kandidaten/Call) auf Phi-3-mini und Qwen2.5-1.5B; Latenz, Throughput, GPU-Stunden und Brutto-GPU-Device-Energie (NVML, Idle nicht subtrahiert).

    Kashaniyan & Jannesari. Sample Count Is Not Enough: Candidate-Generation Strategy Shapes the Energy and Performance of LLM Test-Time Scaling. https://arxiv.org/abs/2609.19499. Stand arXiv:2609.19499v1 (2026-09-16); PDF research/pdfs/SampleCount_Energy_arXiv2609.19499.pdf. Geprüft 2026-09-22. Typ: Paper (arXiv; PDF geöffnet).
  2. E1

    A100 GSM8K: 8×1 nutzt 4,64× (Phi-3) bzw. 4,86× (Qwen) so viel Brutto-GPU-Energie wie 1×8; P95-Latenz 5,77× bzw. 6,12×; Throughput fällt auf ~16,7–17,9 % der Batch-Baseline. Accuracy N=1→8: Phi-3 +8,4 Pp (81,4→89,8 %), Qwen +18,4 Pp (51,4→69,8 %) — gleiche Aggregation, anderer Ausführungsplan.

    Kashaniyan & Jannesari. Sample Count Is Not Enough: Candidate-Generation Strategy Shapes the Energy and Performance of LLM Test-Time Scaling. https://arxiv.org/abs/2609.19499. Stand arXiv:2609.19499v1 (2026-09-16); PDF research/pdfs/SampleCount_Energy_arXiv2609.19499.pdf. Geprüft 2026-09-22. Typ: Paper (arXiv; PDF geöffnet).
  3. E1

    Muster hält über drei unabhängig geplante A100-Jobs und in SciQ/V100 Kurzoutput (8×1: 2,57× bzw. 3,34× Energie). Scope: zwei kleine Modelle, batch-scheduled HF-Generation, Brutto-GPU — nicht Continuous Batching, nicht Flotten-TWh, nicht Frontier-Serving.

    Kashaniyan & Jannesari. Sample Count Is Not Enough: Candidate-Generation Strategy Shapes the Energy and Performance of LLM Test-Time Scaling. https://arxiv.org/abs/2609.19499. Stand arXiv:2609.19499v1 (2026-09-16); PDF research/pdfs/SampleCount_Energy_arXiv2609.19499.pdf. Geprüft 2026-09-22. Typ: Paper (arXiv; PDF geöffnet).

Meta 150 MW: Power-Limit unter TDP schlägt Volllast (Ardestani et al.)

  1. E2

    Ardestani, Piga, Stojkovic et al. (Meta Platforms; arXiv:2605.24461v3 vom 2026-10-02, PDF geöffnet 2026-10-05): Betreiberbericht über Planung, Validierung und Laufzeit-Strommanagement eines 150-MW-Rechenzentrums (5 Gebäude à ~30 MW, luftgekühlt, Teil eines 1-GW-Ausbaus) mit ~83K GB200 GPUs (Catalina-Pods, 2×36 GPUs, AALC-Flüssigkühlung im Rack). Planungsziel: maximaler Gesamt-Throughput im festen Strombudget, nicht Stromkosten.

    Ardestani et al. Meta 150 MW. Provisioning to Runtime Optimization of a 100 MW-Scale AI Cluster. https://arxiv.org/abs/2605.24461. Stand arXiv:2605.24461v3 (2026-10-02; v1 2026-05-23); PDF research/pdfs/Meta100MW_arXiv2605.24461v3.pdf. Geprüft 2026-10-05. Typ: Betreiber-Paper (arXiv; PDF v3 geöffnet; Selbstbericht Meta).
  2. E2

    Leistung vs. Power-Limit (Simulations-Projektion des Betreibers, Fig. 9): 1200 → 1000 W kostet ~5 % Pro-GPU-Leistung bei −16,7 % Strom; 900 W −12 % Leistung bei −25 % Strom; im festen Budget passen mehr GPUs → Cluster-Throughput +9 % (1000 W) bzw. +6 % (900 W). HBM-Bandbreite konstant bis 1000 W, −15 % bei 800 W. Gewählt: 960 W (80 % TDP); Table 4: 2,4× Pro-GPU / 1,9× Cluster vs. H100 (700 W) im gleichen 150-MW-Budget, ~11 % über GB200 bei 1200 W; Fig. 21: ~10 %.

    Ardestani et al. Meta 150 MW. Provisioning to Runtime Optimization of a 100 MW-Scale AI Cluster. https://arxiv.org/abs/2605.24461. Stand arXiv:2605.24461v3 (2026-10-02; v1 2026-05-23); PDF research/pdfs/Meta100MW_arXiv2605.24461v3.pdf. Geprüft 2026-10-05. Typ: Betreiber-Paper (arXiv; PDF v3 geöffnet; Selbstbericht Meta).
  3. E2

    Gemessen im Betrieb: Rack-PSU-Telemetrie überschätzt systematisch (gegen Oszilloskop und DCIM-Sensoren am RPP); P70 der Minuten-Samples trifft DCIM am besten. MSB-Headroom im Mittel ≈160 kW ≈ 100 W/GPU, 13 % der MSBs unter 50 kW — statische Imbalance lässt 5–10 % Strom gestrandet. Nach Validierung 960 → 1020 W (+~2 %), Laufzeit-Capping „Dimmer“ weitere ~2 %; Software-Power-Smoother gegen Netz-Schwingungen <3 % Leistungskosten.

    Ardestani et al. Meta 150 MW. Provisioning to Runtime Optimization of a 100 MW-Scale AI Cluster. https://arxiv.org/abs/2605.24461. Stand arXiv:2605.24461v3 (2026-10-02; v1 2026-05-23); PDF research/pdfs/Meta100MW_arXiv2605.24461v3.pdf. Geprüft 2026-10-05. Typ: Betreiber-Paper (arXiv; PDF v3 geöffnet; Selbstbericht Meta).

Behauptet · E3

4. Was behauptet, nicht gezeigt

Wert und Zeitersparnis pro Joule als Optimierungsziel für Modelle, Chips und Routing (Autoren-Lesart)

  1. E3

    Zeinali et al.: Fähigkeit, Kosten und Geschwindigkeit allein reichten nicht, um zu erkennen, wo KI-Systeme den größten wirtschaftlichen Ertrag pro Joule liefern; NVJ und TSJ sollten als explizite Ziele für Modelle, Beschleuniger, Software und Aufgaben-Routing unter echten Energiegrenzen dienen und könnten als Trainingssignal sowie für Routing- und Abbruchregeln getestet werden (Rechnen nur, wenn erwarteter Wert die Energie rechtfertigt). Programmatischer Vorschlag; ob die Erträge außerhalb des Benchmarks gelten, ist laut Autoren ungetestet.

    Zeinali et al. Joules-to-GDP. Joules-to-GDP: How Much Economic Value Do AI Systems Produce per Unit of Energy?. https://arxiv.org/abs/2610.30858. Stand arXiv:2610.30858v1 (submitted 2026-10-22; cs.LG; 35 pp.); PDF research/pdfs/arXiv2610.30858.pdf; code github.com/HazyResearch/joules_to_gdp and dataset not opened. Geprüft 2026-10-25. Typ: Paper (arXiv; PDF geöffnet; 220 GDPval-Aufgaben, gemessene GPU/CPU/DRAM-Energie, LLM-Richter).

Token-Energie-Gesetz als Grundlage für Energie-Budgets und Einsatzplanung (Autoren-Lesart)

  1. E3

    Niu et al.: das Gesetz sei eine wiederverwendbare Arbeit-Zeit-Beziehung, deren Form über Konfigurationen gleich bleibt; zusammen mit unabhängig validierten Leistungsmodellen könne es vorausschauende Energieschätzung, Energie-Budgets und den Vergleich von Einsatzoptionen stützen. Im Paper wird die gemessene Decode-Zeit als Eingabe benutzt; eine Vorhersage ohne gemessene Zeit ist nicht gezeigt. Erstautor bei NVIDIA, dem Hersteller der gemessenen GPUs.

    Niu et al. Token-Energy Law. The Token-Energy Law of LLM Decode: Active Bytes and Realized Time Account for Joules per Token. https://arxiv.org/abs/2610.28576. Stand arXiv:2610.28576v1 (submitted 2026-10-20; cs.LG); PDF research/pdfs/arXiv2610.28576.pdf. Geprüft 2026-10-21. Typ: Paper (arXiv; PDF geöffnet; Messung an GH200/GB300; Erstautor NVIDIA).

JEDEC-Testschleifen als HBM-Leistungsgrenze riskieren Drosseln und Ausfälle (Autoren-Lesart)

  1. E3

    Olgun et al.: Wer HBM-Leistung allein mit JEDEC- oder Hersteller-Testschleifen begrenzt, riskiert in realen leistungsintensiven KI- und HPC-Lasten Fehler oder Systemausfälle, thermisches Drosseln und thermische Abschaltungen; Hersteller-IDD-Werte für HBM sind nicht öffentlich und damit nicht unabhängig prüfbar. Plausible Folgerung aus der Messung — im Paper wird kein solcher Ausfall in einem Rechenzentrum beobachtet.

    Olgun et al. HBM2 power. Understanding the Power Consumption of Modern High Bandwidth Memory: Experimental Analysis and Modeling Using Real HBM2 DRAM Chips. https://arxiv.org/abs/2610.14244. Stand arXiv:2610.14244v1 (2026-10-09; cs.AR; extended version of a MICRO 2026 paper); PDF research/pdfs/arXiv2610.14244.pdf; model github.com/CMU-SAFARI/HBM-Power (not run). Geprüft 2026-10-18. Typ: Paper (arXiv; PDF geöffnet; Messung an 36 Chips + 3 H200).

Fehlertolerante Sprachmodelle auf unzuverlässiger Hardware (McCourt, Fiete, Chuang)

  1. E2

    McCourt, Fiete, Chuang (MIT; arXiv:2610.10311v1 vom 2026-10-07; PDF geöffnet 2026-10-10) behaupten: Sprachmodelle, die mit denselben Fehlern trainiert werden, die sie später bei der Inferenz sehen, werden mit wachsender Größe fehlerresistenter statt schlechter. Grundlage: modifizierte Skalierungsgesetze aus 40 000 GPU-Stunden Training auf simulierter fehlerhafter Digitalhardware (Komponenten mit Wahrscheinlichkeit p genullt), größtes Modell 9,3 × 10⁸ Parameter. Die Autoren vermuten (Konjektur), dass passend trainierte LLMs formal fehlertolerant sein könnten und Inferenz auf energiesparender, fehlerhafter Hardware erhebliche Energie sparen könnte. Keine echte Low-Voltage-Hardware, keine gemessene Energieersparnis; Extrapolation über die größten Läufe hinaus.

    McCourt et al. fault-tolerant LLMs. Fault-tolerant foundation models. https://arxiv.org/abs/2610.10311. Stand arXiv:2610.10311v1 (2026-10-07); PDF research/pdfs/arXiv2610.10311.pdf. Geprüft 2026-10-10. Typ: Paper (arXiv; PDF geöffnet; Simulation).

Meta: Strom ist der Engpass, nicht der Chip

  1. E3

    Ardestani et al. (Meta) schreiben, die Stromversorgung von KI-Rechenzentren sei inzwischen der größte Engpass „im Rennen zu AGI“ und übertreffe die Verfügbarkeit von Beschleunigern. Das ist eine Einschätzung des Betreibers in Intro/Abstract, keine Messung im Paper; die Zahlen dazu (US-Kapazität 1 189 → 1 230 GW 2023→2024; OpenAI-GW-Pläne) sind zitierte Fremdquellen, hier nicht geöffnet.

    Ardestani et al. Meta 150 MW. Provisioning to Runtime Optimization of a 100 MW-Scale AI Cluster. https://arxiv.org/abs/2605.24461. Stand arXiv:2605.24461v3 (2026-10-02; v1 2026-05-23); PDF research/pdfs/Meta100MW_arXiv2605.24461v3.pdf. Geprüft 2026-10-05. Typ: Betreiber-Paper (arXiv; PDF v3 geöffnet; Selbstbericht Meta).

IEA-Projektionen 2030

  1. E2

    IEA Base: ~945 TWh global 2030 (aus 415 TWh 2024) bzw. Update 485 TWh (2025) → 950 TWh (2030), ~3 % Weltstrom. AI-fokussierte DCs verdreifachen; +50 % in 2025 vs. +17 % alle DCs. 2026-Daten laut Key Questions: Schätzungen. Methodenanhang nicht vollständig gelesen.

    IEA. Energy and AI — Executive summary. https://www.iea.org/reports/energy-and-ai/executive-summary. Stand 2025-04. Geprüft 2026-08-28. Typ: Official report.IEA Demand. Energy demand from AI. https://www.iea.org/reports/energy-and-ai/energy-demand-from-aI. Stand 2025-04. Geprüft 2026-08-28. Typ: Official report (Kapitel).IEA Key Questions. Key Questions on Energy and AI — Executive Summary. https://www.iea.org/reports/key-questions-on-energy-and-ai/executive-summary. Stand 2026. Geprüft 2026-08-28. Typ: Official report (Exec Summary).
  2. E2

    IEA Electricity 2026, Demand-Kapitel: US-Stromnachfrage plus mehr als 420 TWh über die nächsten fünf Jahre; der Ausbau von Datacentern soll etwa 50 % des US-Zuwachses bis 2030 ausmachen. Globale Nachfrage 2026–2030 im Mittel 3.6 %/Jahr (vergangenes Jahrzehnt 2.8 %); etwa 1 100 TWh/Jahr Zuwachs gegen 700; 33 600 TWh 2030 gegen 28 200 TWh 2025. E2 (Agency-Forecast; 2026–2030 sind Prognosewerte).

    IEA Electricity 2026. Demand — Electricity 2026. https://www.iea.org/reports/electricity-2026/demand. Stand 2026. Geprüft 2026-08-28. Typ: Official report (Kapitel).
  3. E2

    Energie pro Task „at least an order of magnitude annually“ gesunken. Alle konventionellen Suchen als simple AI-Text: <4 TWh/Jahr. Video/Reasoning/Agents: „hundreds or thousands of times“ mehr Energie pro Query. E2 für Richtung und 4-TWh-Illustration; E3 für die exakte Größenordnung/Jahr, solange Methoden nicht gelesen.

    IEA Key Questions. Key Questions on Energy and AI — Executive Summary. https://www.iea.org/reports/key-questions-on-energy-and-ai/executive-summary. Stand 2026. Geprüft 2026-08-28. Typ: Official report (Exec Summary).
  4. E2

    HBM-Knappheit „over the past six months“, erwartet bis mindestens Ende 2027. Capex der größten Tech-Firmen > USD 400 Mrd. in 2025, +75 % erwartet 2026. Grid: ~20 % geplanter DC-Projekte verzögerungsgefährdet. Satellitenmethode nicht unabhängig repliziert.

    IEA Security. AI and energy security. https://www.iea.org/reports/energy-and-ai/ai-and-energy-security. Stand 2025-04. Geprüft 2026-08-28. Typ: Official report (Kapitel).IEA Key Questions. Key Questions on Energy and AI — Executive Summary. https://www.iea.org/reports/key-questions-on-energy-and-ai/executive-summary. Stand 2026. Geprüft 2026-08-28. Typ: Official report (Exec Summary).

Vendor-Outlook und ungelesene Splits

  1. E3

    TSMC 2026 Shipments 16–17 Mio. Wafer (AR). ASML 2026 sales €34–39 Mrd. Guidance, nicht Ist.

    TSMC. 2025 Annual Report, Letter to Shareholders (ch. 1 PDF). https://investor.tsmc.com/static/annualReports/2025/english/pdf/2025_tsmc_ar_e_ch1.pdf. Stand 2025. Geprüft 2026-08-28. Typ: Firmenbericht.ASML PR. ASML reports €32.7 billion total net sales and €9.6 billion net income in 2025. https://www.asml.com/en/news/press-releases/2026/q4-2025-financial-results. Stand 2026-01-28. Geprüft 2026-08-28. Typ: Firmenbericht.
  2. E2

    Dieselbe Symposium-PR: „A 14-reticle size CoWoS, capable of integrating approximately 10 large compute dies and 20 HBM stacks, is slated for production in 2028.“ Danach Expansion beyond 14 reticles 2029; optional SoW-X 40-Reticle erwartet 2029. E2 als Vendor-Fahrplan (claimed schedule), nicht als laufende Kapazität. kwpm weiter E0.

    TSMC Tech Symposium 2026. TSMC Debuts A13 Technology at 2026 North America Technology Symposium. https://pr.tsmc.com/system/files/newspdf/attachment/49337b40ff139d51d533076cf7a945b30e107e07/2026%20Tech%20Symposium%20%28E%29_Final_wmn.pdf. Stand 2026-04-22. Geprüft 2026-09-02. Typ: Firmen-PR PDF (Tech Symposium; News-HTML Cloudflare-blocked).
  3. E3

    Dieselbe Produktseite: DGX B200 liefere 3× Training und 15× Inferenz gegenüber DGX H100. Die Performance-Abschnitte sind als „Projected performance subject to change“ gekennzeichnet. E3 (Vendor-Vergleich, nicht gemessen in diesem Log).

    NVIDIA DGX B200. NVIDIA DGX B200 (product specifications). https://www.nvidia.com/en-us/data-center/dgx-b200/. Stand 2026-08-28. Geprüft 2026-08-28. Typ: Hersteller-Spezifikation.
  4. E3

    Epoch-Übersicht: Schätzung 290 000–1,6 Mio. H100-Äquivalente nach China bis Ende 2025 (Median 660 000, „roughly a third“ der chinesischen Kapazität). Schätzung, kein Zollzensus — nicht mit 20 Mio. Shipments zusammenfallen.

    Epoch Chips Overview. Topic Overview: AI Chips. https://epoch.ai/publications/chips-topic-overview. Stand 2026-05-01. Geprüft 2026-09-01. Typ: Topic Overview (Research-NGO).
  5. E3

    Industrie-Splits in Luccioni zitiert, hier nicht unabhängig geöffnet: Barr 2019 (Inferenz 80–90 %); Wu 2021 Meta ~⅓. Patterson-Google-Split ⅗/⅖ ist E2 Vendor (oben).

    Luccioni, Jernite, Strubell. Power Hungry Processing: Watts Driving the Cost of AI Deployment?. https://arxiv.org/html/2311.16863. Stand 2023-11-28. Geprüft 2026-08-28. Typ: Paper (FAccT 2024).

Begrenzt · Grenze

5. Engpass und Grenze

Joules-to-GDP: Dollarwert = Expertenzeit × Lohn, nicht BIP; LLM-Richter; ein Lauf je Aufgabe; nur Server-Komponenten gemessen

  1. E2

    Zeinali et al. 2026: der Dollarwert folgt GDPval (Expertenzeit × Medianlohn) und ist kein gemessenes BIP — der Titel beschreibt die Rahmung, keine volkswirtschaftliche Messung; ein Unentschieden zählt den vollen Wert, eine Niederlage null. Erfolg urteilt ein LLM-Richter mit 71,9 % Übereinstimmung mit Menschen auf nur 32 Vergleichen; ein Lauf je Aufgabe und Konfiguration; 220 Aufgaben illustrieren ein Rahmenwerk, keine umfassende Erhebung (Autoren). Gemessen sind GPU, CPU und DRAM, nicht Kühlung/Gebäude-Overhead; Ausführungskosten aus veröffentlichten Preisen; Begutachtung, Koordination, Haftung und Einführungskosten fehlen. GLM 5.2 lief auf H200, die anderen vier Modelle auf H100 — der Modellvergleich ist nicht hardware-gleich; Harness (OpenHands), Backend, Präzision und Batching nicht einzeln variiert. Nicht mit Rechenzentrums-Stromzahlen oder Token-Energie (Quelle 34) verrechnen. Preprint.

    Zeinali et al. Joules-to-GDP. Joules-to-GDP: How Much Economic Value Do AI Systems Produce per Unit of Energy?. https://arxiv.org/abs/2610.30858. Stand arXiv:2610.30858v1 (submitted 2026-10-22; cs.LG; 35 pp.); PDF research/pdfs/arXiv2610.30858.pdf; code github.com/HazyResearch/joules_to_gdp and dataset not opened. Geprüft 2026-10-25. Typ: Paper (arXiv; PDF geöffnet; 220 GDPval-Aufgaben, gemessene GPU/CPU/DRAM-Energie, LLM-Richter).

Token-Energie: GPU-Board, dichte Modelle, ein Runtime — ≠ Rechenzentrumsstrom je Anfrage, ≠ MoE

  1. E2

    Niu et al. 2026: gemessen wird nur die GPU-Board-Energie, ohne Host-CPU, Server, Netz und Kühlung; nur dichte BF16-Modelle bis 14 Mrd. Parameter mit voller Historie; für Mixture-of-Experts-Modelle reicht laut Autoren Neukalibrieren nicht, es braucht routing-bewusste Buchführung; Mehrknoten- und Pipeline-Betrieb nicht validiert; ein Runtime-Typ (vLLM, gemischte CUDA-Graph/Eager-Ausführung); Koeffizienten gelten lokal je Modell und Hardware/Runtime; die Decode-Zeit geht als beobachtete Größe ein. Preprint. Nicht mit den Rechenzentrums-Strommengen (IEA, LBNL) oder der Fähigkeit-pro-Energie-Messung in Verbindungen (Yang & Armour) gleichzusetzen.

    Niu et al. Token-Energy Law. The Token-Energy Law of LLM Decode: Active Bytes and Realized Time Account for Joules per Token. https://arxiv.org/abs/2610.28576. Stand arXiv:2610.28576v1 (submitted 2026-10-20; cs.LG); PDF research/pdfs/arXiv2610.28576.pdf. Geprüft 2026-10-21. Typ: Paper (arXiv; PDF geöffnet; Messung an GH200/GB300; Erstautor NVIDIA).

HBM2 auf FPGA-Boards ≠ HBM3E/HBM4 in GPU-Flotten

  1. E2

    Olgun et al. 2026: gemessen wurde HBM2 bei 1 200 MT/s auf FPGA-Boards, nicht HBM3E/HBM4 in Beschleunigern; Hersteller und Teilenummer unbekannt; der Board-Sensor liefert VDDC und VDDQ nur zusammen. Das 23,6-%-Muster ist ein konstruierter Stresstest, kein beobachteter Workload. Die HBM3E-Validierung beruht auf drei H200 mit nicht offengelegter Versorgungsspannung und aus HBM2-Strömen extrapolierten Modellwerten; HBM4-Zahlen sind Projektion ohne öffentliche IDD-Werte. Preprint (erweiterte Fassung).

    Olgun et al. HBM2 power. Understanding the Power Consumption of Modern High Bandwidth Memory: Experimental Analysis and Modeling Using Real HBM2 DRAM Chips. https://arxiv.org/abs/2610.14244. Stand arXiv:2610.14244v1 (2026-10-09; cs.AR; extended version of a MICRO 2026 paper); PDF research/pdfs/arXiv2610.14244.pdf; model github.com/CMU-SAFARI/HBM-Power (not run). Geprüft 2026-10-18. Typ: Paper (arXiv; PDF geöffnet; Messung an 36 Chips + 3 H200).

Carbon–SLO-Simulator ≠ Betreiberflotte

  1. E2

    Topcu et al. 2026: bis 60 % CO₂ und ~3 % SLO gelten im kalibrierten Geo-Simulator — kein Warrant für Produktions-Serving, keine gemessene Flotten-TWh oder echte Carbon-API. A100-only; Mixtral nicht hardware-validiert.

    Topcu et al. Carbon–SLO. Carbon-Aware Geo-Distributed LLM Serving under Latency SLOs. https://arxiv.org/abs/2610.14571. Stand arXiv:2610.14571v1 (2026-10-10); PDF research/pdfs/arXiv2610.14571.pdf. Geprüft 2026-10-14. Typ: Paper (arXiv; PDF geöffnet; Simulation).

Was die Quellen als Grenze markieren

  1. E2

    Meta 150 MW: ein Betreiber, ein Standort, Pre-Training als Planungslast; Pro-GPU- und Cluster-Throughput-Kurven sind Simulations-Projektionen des Betreibers; mehrere Rack-Leistungswerte vertraulich (*); keine unabhängige Replikation. Die drei Gewinnangaben (+9 % Fig. 9 bei 1000 W, ~11 % Table 4, ~10 % Fig. 21) sind nicht deckungsgleich. Kein Wert für Jahres-TWh, PUE oder Inferenz — Betriebsbericht ≠ Branchenstandard.

    Ardestani et al. Meta 150 MW. Provisioning to Runtime Optimization of a 100 MW-Scale AI Cluster. https://arxiv.org/abs/2605.24461. Stand arXiv:2605.24461v3 (2026-10-02; v1 2026-05-23); PDF research/pdfs/Meta100MW_arXiv2605.24461v3.pdf. Geprüft 2026-10-05. Typ: Betreiber-Paper (arXiv; PDF v3 geöffnet; Selbstbericht Meta).
  2. E1

    Sample-Count Energy: N allein beschreibt nicht die Systeme-Kosten von Multi-Candidate-TTS. 4,64–4,86× gilt für gemessene A100/HF-Schedules an zwei Small Models — nicht als 2026-Weltstrom oder Continuous-Serving-Faktor lesen. Brutto-GPU, Idle nicht subtrahiert.

    Kashaniyan & Jannesari. Sample Count Is Not Enough: Candidate-Generation Strategy Shapes the Energy and Performance of LLM Test-Time Scaling. https://arxiv.org/abs/2609.19499. Stand arXiv:2609.19499v1 (2026-09-16); PDF research/pdfs/SampleCount_Energy_arXiv2609.19499.pdf. Geprüft 2026-09-22. Typ: Paper (arXiv; PDF geöffnet).
  3. E1

    Phase-Decoupled Power: Einzelknoten-Lane unter MoE-Serving ≠ Flotten-/Cluster-Management; Vendor-Max-Q ≠ kalibrierter Controller; Dense-Modelle gewinnen etwa 5× weniger — Claims auf MoE scoped. Lab/Node ≠ Deploy-Flotte.

    Kim et al. Phase-Decoupled. Phase-Decoupled, Model-Calibrated Power Control for Disaggregated LLM Serving. https://arxiv.org/abs/2609.11133. Stand arXiv:2609.11133v1 (2026-09-10); PDF research/pdfs/PhaseDecoupled_Power_arXiv2609.11133.pdf. Geprüft 2026-09-20. Typ: Paper (arXiv; PDF geöffnet).
  4. E2

    Jevons: Effizienz/Task steigt (IEA; Luccioni-Aufgabenklassen; Epoch FLOP/s/W). Gleichzeitig teurere Tasks und mehr Chips (Dashboard 3,4×/Jahr Stock; sold-capacity 3,3×/Jahr seit 2022, Quellen 24–25). Beides nicht mit D01 5,3× Trainings-FLOP zusammenfallen. IEA-Zentralpfad: DC-Strom verdoppelt bis 2030. LBNL: US-Ära der flachen kWh ist vorbei. Kausalanteil AI vs. Rest-Cloud vs. Crypto nicht fein aufgelöst.

    IEA Key Questions. Key Questions on Energy and AI — Executive Summary. https://www.iea.org/reports/key-questions-on-energy-and-ai/executive-summary. Stand 2026. Geprüft 2026-08-28. Typ: Official report (Exec Summary).Luccioni, Jernite, Strubell. Power Hungry Processing: Watts Driving the Cost of AI Deployment?. https://arxiv.org/html/2311.16863. Stand 2023-11-28. Geprüft 2026-08-28. Typ: Paper (FAccT 2024).Epoch Trends. Trends in Artificial Intelligence. https://epoch.ai/trends. Stand 2026-02-05. Geprüft 2026-08-28. Typ: Dataset/Dashboard.Shehabi et al. (LBNL 2024). 2024 United States Data Center Energy Usage Report. https://eta-publications.lbl.gov/sites/default/files/2024-12/lbnl-2024-united-states-data-center-energy-usage-report.pdf. Stand 2024-12. Geprüft 2026-08-28. Typ: Official lab report (LBNL-2001637).
  5. E1

    Masanet 2020 warnt selbst: nächste Verdopplung der Compute-Instanzen „within the next 3 to 4 years“; „sharp energy demand growth“ sobald die damalige Effizienzreserve ausgeschöpft ist; „demand surge later this decade“. Das ist eine 2020er Policy-Forum-Projektion (Cisco-Index), kein 2026-Ist. IEA 2024 ~415 TWh global bleibt E2 (Quellen 1–2).

    Masanet et al. Recalibrating global data center energy-use estimates. https://datacenters.lbl.gov/sites/default/files/Masanet_et_al_Science_2020.full_.pdf. Stand 2020-02-28. Geprüft 2026-08-31. Typ: Paper (Science Policy Forum; LBNL-hosted journal PDF).
  6. E2

    Lokal ≠ global. Welt 2024 ~1.5 %, 2030 ~3 %. US 2024 4.7 %, 2030 Reference 11.8 %. JRC nur 2022 für die EU.

    IEA. Energy and AI — Executive summary. https://www.iea.org/reports/energy-and-ai/executive-summary. Stand 2025-04. Geprüft 2026-08-28. Typ: Official report.Smith et al. (LBNL 2025). United States Data Center Energy Usage Report: 2025 Update. https://doi.org/10.71468/P1RP4F. Stand 2026-06-18. Geprüft 2026-08-28. Typ: Official lab report (LBNL-2001758).Kamiya, Bertoldi (JRC). Energy Consumption in Data Centres and Broadband Communication Networks in the EU. https://doi.org/10.2760/706491. Stand 2024-02. Geprüft 2026-08-28. Typ: Official report (JRC135926).
  7. E1

    Memory Wall / Packaging: Compute 2×/2.3 J vs. Bandbreite 2×/~4 J (Epoch 2023). Übersicht (Quelle 24): HBM bindendster Engpass Ende 2025 (Vendor-Zitat via Epoch). IEA: HBM-Shortage bis ≥2027. TSMC Tech Symposium 2026 (Quelle 26): 5.5-Reticle-CoWoS in Produktion; 14-Reticle-Fahrplan 2028 — Reticle-Größen bekannt, Kapazität in kwpm weiterhin E0.

    Hobbhahn, Heim, Aydos. Trends in machine learning hardware. https://epoch.ai/publications/trends-in-machine-learning-hardware. Stand 2023-11-09. Geprüft 2026-08-28. Typ: Dataset/Report.TSMC. 2025 Annual Report, Letter to Shareholders (ch. 1 PDF). https://investor.tsmc.com/static/annualReports/2025/english/pdf/2025_tsmc_ar_e_ch1.pdf. Stand 2025. Geprüft 2026-08-28. Typ: Firmenbericht.IEA Key Questions. Key Questions on Energy and AI — Executive Summary. https://www.iea.org/reports/key-questions-on-energy-and-ai/executive-summary. Stand 2026. Geprüft 2026-08-28. Typ: Official report (Exec Summary).
  8. E1

    System vs. GPU-TDP: H100 SXM bis 700 W (GPU, configurable). DGX B200 System etwa 14.3 kW max für 8 Blackwell-GPUs plus CPU, Netz, Speicher — nicht 8×700 W und nicht Feldlast. Peak-Spec ≠ Utilization (LBNL ~70 % Rated gilt für H100-Nodes, nicht hier für B200 gemessen).

    NVIDIA. NVIDIA H100 GPU (product specifications). https://www.nvidia.com/en-us/data-center/h100/. Stand 2026-08-28. Geprüft 2026-08-28. Typ: Hersteller-Spezifikation.NVIDIA DGX B200. NVIDIA DGX B200 (product specifications). https://www.nvidia.com/en-us/data-center/dgx-b200/. Stand 2026-08-28. Geprüft 2026-08-28. Typ: Hersteller-Spezifikation.
  9. E1

    CO₂-Buchhaltung: Strubell-NAS 88× zu hoch (Patterson). Grid-Intensität schlägt Modellgröße (BLOOM 25 t vs. GPT-3 502 t bei ähnlicher Größe). Embodied bei BLOOM 22 % des Training-Footprints. Standardisierte Vendor-Disclosures 2026: E0.

    Strubell et al. Energy and Policy Considerations for Deep Learning in NLP. https://arxiv.org/html/1906.02243. Stand 2019-06. Geprüft 2026-08-28. Typ: Paper (ACL 2019).Patterson et al. The Carbon Footprint of Machine Learning Training Will Plateau, Then Shrink. https://arxiv.org/abs/2204.05149. Stand 2022-04-11. Geprüft 2026-08-28. Typ: Paper (Google/Berkeley).Luccioni, Viguier, Ligozat. Estimating the Carbon Footprint of BLOOM, a 176B Parameter Language Model. https://arxiv.org/html/2211.02001. Stand 2022-11. Geprüft 2026-08-28. Typ: Paper.

6. Akteure und Anreize

Wer misst, wer fertigt, wer projiziert

  1. E1

    LBNL (DOE) misst US-Datacenter-Strom bottom-up; 2025-Update revidiert 2024 nach unten.

    Shehabi et al. (LBNL 2024). 2024 United States Data Center Energy Usage Report. https://eta-publications.lbl.gov/sites/default/files/2024-12/lbnl-2024-united-states-data-center-energy-usage-report.pdf. Stand 2024-12. Geprüft 2026-08-28. Typ: Official lab report (LBNL-2001637).Smith et al. (LBNL 2025). United States Data Center Energy Usage Report: 2025 Update. https://doi.org/10.71468/P1RP4F. Stand 2026-06-18. Geprüft 2026-08-28. Typ: Official lab report (LBNL-2001758).
  2. E2

    IEA projiziert globale DC-Elektrizität und HBM/Grid-Engpässe in Exec-Summaries; Methodenanhang unvollständig gelesen.

    IEA. Energy and AI — Executive summary. https://www.iea.org/reports/energy-and-ai/executive-summary. Stand 2025-04. Geprüft 2026-08-28. Typ: Official report.IEA Key Questions. Key Questions on Energy and AI — Executive Summary. https://www.iea.org/reports/key-questions-on-energy-and-ai/executive-summary. Stand 2026. Geprüft 2026-08-28. Typ: Official report (Exec Summary).
  3. E1

    TSMC berichtet Wafer-Mix und Advanced-Share; ASML berichtet EUV-Einheiten. CoWoS-Reticle-Größen in Symposium-PR 2026 (Quelle 26); kwpm weiter nicht im geöffneten Letter/PR.

    TSMC. 2025 Annual Report, Letter to Shareholders (ch. 1 PDF). https://investor.tsmc.com/static/annualReports/2025/english/pdf/2025_tsmc_ar_e_ch1.pdf. Stand 2025. Geprüft 2026-08-28. Typ: Firmenbericht.ASML PR. ASML reports €32.7 billion total net sales and €9.6 billion net income in 2025. https://www.asml.com/en/news/press-releases/2026/q4-2025-financial-results. Stand 2026-01-28. Geprüft 2026-08-28. Typ: Firmenbericht.
  4. E1

    NVIDIA veröffentlicht H100- und DGX-B200-Spezifikationen; 3×/15×-Vergleich bleibt Vendor-Projektion (E3).

    NVIDIA. NVIDIA H100 GPU (product specifications). https://www.nvidia.com/en-us/data-center/h100/. Stand 2026-08-28. Geprüft 2026-08-28. Typ: Hersteller-Spezifikation.NVIDIA DGX B200. NVIDIA DGX B200 (product specifications). https://www.nvidia.com/en-us/data-center/dgx-b200/. Stand 2026-08-28. Geprüft 2026-08-28. Typ: Hersteller-Spezifikation.
  5. E2

    IEA Electricity 2026 Demand-Kapitel projiziert US-Datacenter-Anteil am Stromzuwachs; nicht identisch mit LBNL-TWh-Niveaus.

    IEA Electricity 2026. Demand — Electricity 2026. https://www.iea.org/reports/electricity-2026/demand. Stand 2026. Geprüft 2026-08-28. Typ: Official report (Kapitel).
  6. E2

    Epoch AI kuratiert Hardware-Trends, Chip-Sales und das Chips-Topic-Overview (Quellen 11, 12, 24, 25); Underlying Revenue/Analyst Inputs nicht auditiert.

    Epoch Trends. Trends in Artificial Intelligence. https://epoch.ai/trends. Stand 2026-02-05. Geprüft 2026-08-28. Typ: Dataset/Dashboard.Hobbhahn, Heim, Aydos. Trends in machine learning hardware. https://epoch.ai/publications/trends-in-machine-learning-hardware. Stand 2023-11-09. Geprüft 2026-08-28. Typ: Dataset/Report.

7. Streitstand

Wo Quellen einander widersprechen oder begrenzen

  1. E1

    Strubell-NAS vs. Patterson: 88× Differenz auf derselben NAS-Geschichte. Beide geöffnet.

    Strubell et al. Energy and Policy Considerations for Deep Learning in NLP. https://arxiv.org/html/1906.02243. Stand 2019-06. Geprüft 2026-08-28. Typ: Paper (ACL 2019).Patterson et al. The Carbon Footprint of Machine Learning Training Will Plateau, Then Shrink. https://arxiv.org/abs/2204.05149. Stand 2022-04-11. Geprüft 2026-08-28. Typ: Paper (Google/Berkeley).
  2. E2

    2024-Konsistenz IEA vs. LBNL ist eng (IEA US ≈187 TWh vs. LBNL 192). 2030-Niveaus divergieren stärker und sind hier nicht harmonisiert.

    IEA. Energy and AI — Executive summary. https://www.iea.org/reports/energy-and-ai/executive-summary. Stand 2025-04. Geprüft 2026-08-28. Typ: Official report.Smith et al. (LBNL 2025). United States Data Center Energy Usage Report: 2025 Update. https://doi.org/10.71468/P1RP4F. Stand 2026-06-18. Geprüft 2026-08-28. Typ: Official lab report (LBNL-2001758).
  3. E2

    IEA Gallium-Raffination: 99 % (PDF) vs. 95 % (Security-HTML). Nicht glätten.

    IEA PDF. Energy and AI (PDF, Auszug). https://iea.blob.core.windows.net/assets/40a4db21-2225-42f0-8a07-addcc2ea86b3/EnergyandAI.pdf. Stand 2025-04. Geprüft 2026-08-28. Typ: Official report PDF (Auszug).IEA Security. AI and energy security. https://www.iea.org/reports/energy-and-ai/ai-and-energy-security. Stand 2025-04. Geprüft 2026-08-28. Typ: Official report (Kapitel).
  4. E2

    Patterson „plateau then shrink“ (Google intern, 4Ms) steht gegen IEA/LBNL-Nettoanstieg. E2 intern; E3 als Welt-Prognose 2026.

    Patterson et al. The Carbon Footprint of Machine Learning Training Will Plateau, Then Shrink. https://arxiv.org/abs/2204.05149. Stand 2022-04-11. Geprüft 2026-08-28. Typ: Paper (Google/Berkeley).IEA. Energy and AI — Executive summary. https://www.iea.org/reports/energy-and-ai/executive-summary. Stand 2025-04. Geprüft 2026-08-28. Typ: Official report.Shehabi et al. (LBNL 2024). 2024 United States Data Center Energy Usage Report. https://eta-publications.lbl.gov/sites/default/files/2024-12/lbnl-2024-united-states-data-center-energy-usage-report.pdf. Stand 2024-12. Geprüft 2026-08-28. Typ: Official lab report (LBNL-2001637).

8. Offene Fragen

  1. IEA Energy and AI Methodenanhang + Supply-Kapitel — wie 415/945 gebaut sind.
  2. TSMC 20-F / CoWoS-Kapazität in kwpm (Reticle-Größen via Symposium-PR 2026 geöffnet; kwpm weiter E0).
  3. SK hynix / Samsung HBM Geschäftsbericht — nicht TrendForce.
  4. USGS OFR 2024-1057 Gallium/Germanium Exportbeschränkungen.
  5. NVIDIA B200 Einzel-GPU-Datasheet-PDF + DGX-Node-Messungen jenseits der Produktseiten-TDP.
  6. Wu et al. 2021 (Meta) + Google 2025/26 Environmental Reports für aktuelle Splits.
  7. Epoch chips-topic-overview (Timeout wiederholen).
  8. JRC oder ENTSO-E 2025/26 Update für EU-DC-TWh nach 2022.
  9. IEA Key Questions Voll-PDF — HBM-Claim und „order of magnitude/year“ Methoden.

9. Änderungen

  • v2.2-draft2026-10-25: Zeinali et al. Joules-to-GDP arXiv:2610.30858 (Quelle 35, E2, PDF) — 220 GDPval-Aufgaben, 44 Berufe, fünf offene Modelle; GLM 5.2 72,27 $ netto für 0,430 MJ; Gemma 4 31B 56 % Wert / 23 % Energie (NVJ ×2,5, TSJ ×2,8); CAD +10 % je Aufgabe, Software +27 % je Joule; Qwen3.6-27B NVJ-Spanne ×4,32 (B200 vorn, MI350X hinten); 8×H100 −22 % Zeit / ×3,24 Energie; Wert = Expertenzeit × Lohn, LLM-Richter; Preprint.
  • v2.1-draft2026-10-21: Niu et al. Token-Energy Law arXiv:2610.28576 (Quelle 34, E2, PDF, Messung) — Qwen2.5-7B/14B, Mistral-7B auf GH200 (700 W) / GB300 (1 300 W); 374 Holdout-Läufe ≤3,73 %; GPU0→GPU1 3,72 %; nur Bytes 28–35 %, nur Zeit 11–29 %; Batch 33,2–46,8 % sparsamer; 0,323 → 0,638 J/Token mit Historie; HBM-Lesen 0,03–0,07 %; GPU-Board, dicht, Erstautor NVIDIA.
  • v2.0-draft2026-10-18: Olgun et al. HBM2-Leistung arXiv:2610.14244 (Quelle 33, E2, PDF, Messung) — 36 Chips; Stressmuster +23,6 % (max. 35,4 %) über IDD4R; Lesen 3,1× Refresh; Bus-Toggling +29,4 %; Modell 7,6–8,1 % MAPE; H200-HBM3E 2,4–5,3 %, bis 248 W; FPGA ≠ GPU-Flotte.
  • v1.9-draft2026-10-14: Topcu et al. Carbon–SLO arXiv:2610.14571 (Quelle 32, E2, PDF, Simulation) — Facility-MILP bis 60 % CO₂ vs RR; ~3 % SLO; Simulator ≠ Flotte.
  • v1.8-draft2026-10-10: Meta fbnic Gupta et al. arXiv:2610.07644 (Quelle 30, E2, PDF, Selbstbericht) — Nichtverfügbarkeit 9,11 % → 0,74 % (12×), MTTR −37 %, 2,3× weniger Tausch; MIT fehlertolerante LLMs McCourt et al. arXiv:2610.10311 (Quelle 31, E2, PDF, Simulation) — 40 000 GPU-h, bis 9,3 × 10⁸ Parameter, Energieersparnis nur Konjektur.
  • v1.7-draft2026-10-05: Meta 150 MW Ardestani et al. arXiv:2605.24461v3 (Quelle 29, E2, PDF v3) — ~83K GB200; 960 W (80 % TDP) statt 1200 W → ~10–11 % Cluster-Throughput; PSU überschätzt, P70≈DCIM; MSB ≈100 W/GPU Headroom, 5–10 % gestrandet; +~2 % (1020 W) +~2 % (Dimmer); Selbstbericht ≠ Branche.
  • v1.6-draft2026-09-22: Sample-Count Energy Kashaniyan/Jannesari arXiv:2609.19499 (Quelle 28, E1, PDF) — N=8: 8×1 vs 1×8 A100 4,64–4,86× Brutto-GPU-Energie / P95 5,77–6,12×; Accuracy +8,4/+18,4 Pp; Schedule ≠ Kandidatenzahl; Lab ≠ Flotte.
  • v1.5-draft2026-09-20: Phase-Decoupled Power Control (Kim et al., arXiv:2609.11133, Quelle 27, E1, PDF) — Max-Q +8,6 % tokens/J / +5,2 % e2e vs BAL +20,4 % / +3,5 %; 3-Tage 32,3 % Lane-Strom; MoE-Scope, dens ~5× weniger; Lab ≠ Flotte.
  • v1.4-draft2026-09-02: TSMC 2026 Tech Symposium PR (Quelle 26) geöffnet — 5.5-Reticle-CoWoS jetzt in Produktion; 14-Reticle ~10 Compute+20 HBM für 2028 geplant (Vendor-Fahrplan). kwpm weiter E0.
  • v1.3-draft2026-09-01: Epoch Topic Overview AI Chips (Quelle 24) und Data Insight Chip-Produktion (Quelle 25) geöffnet — ~20 Mio. Chips Q4 2025; 3,3×/Jahr sold-capacity seit 2022 (KI 2,7–4,1). Nicht mit 5,3× Trainingscompute mischen.
  • v1.2-draft2026-08-31: Masanet Science 2020 (Quelle 23, LBNL-gehostetes Journal-PDF) geöffnet — global 2010–2018 +6 % Energie / +550 % Compute-Instanzen; 194→205 TWh. IEA 415 TWh und LBNL-US unangetastet. Epoch-5×/Jahr-Dashboard-Zahl in D01 korroboriert (kein neuer D02-Source für den Bericht).
  • v1.1-draft2026-08-28: NVIDIA DGX B200 Spec (Produktseite) und IEA Electricity 2026 Demand (US-Datacenter-Anteil) gelegt.
  • v1.0-draftErstfassung aus Prüfprotokoll 2026-08-28.

10. Quellenverzeichnis

Nr. Quelle Stand Geprüft Grad
1 International Energy Agency. Energy and AI — Executive summary. https://www.iea.org/reports/energy-and-ai/executive-summary. Typ: Official report. E2
2 International Energy Agency. Energy demand from AI. https://www.iea.org/reports/energy-and-ai/energy-demand-from-aI. Typ: Official report (Kapitel). E2
3 International Energy Agency. AI and energy security. https://www.iea.org/reports/energy-and-ai/ai-and-energy-security. Typ: Official report (Kapitel). E2
4 International Energy Agency. Energy and AI (PDF, Auszug). https://iea.blob.core.windows.net/assets/40a4db21-2225-42f0-8a07-addcc2ea86b3/EnergyandAI.pdf. Typ: Official report PDF (Auszug). E2
5 International Energy Agency. Key Questions on Energy and AI — Executive Summary. https://www.iea.org/reports/key-questions-on-energy-and-ai/executive-summary. Typ: Official report (Exec Summary). E2
6 International Energy Agency. Global Critical Minerals Outlook 2026 — Executive Summary. https://www.iea.org/reports/global-critical-minerals-outlook-2026/executive-summary. Typ: Official report (Exec). E2
7 Luccioni, A. S.; Jernite, Y.; Strubell, E.. Power Hungry Processing: Watts Driving the Cost of AI Deployment?. https://arxiv.org/html/2311.16863. Typ: Paper (FAccT 2024). E1
8 Luccioni, A. S.; Viguier, S.; Ligozat, A.-L.. Estimating the Carbon Footprint of BLOOM, a 176B Parameter Language Model. https://arxiv.org/html/2211.02001. Typ: Paper. E1
9 Strubell, E.; Ganesh, A.; McCallum, A.. Energy and Policy Considerations for Deep Learning in NLP. https://arxiv.org/html/1906.02243. Typ: Paper (ACL 2019). E1
10 Patterson, D.; Gonzalez, J.; Hölzle, U.; Le, Q.; Liang, C.; Munguia, L.-M.; Rothchild, D.; So, D.; Texier, M.; Dean, J.. The Carbon Footprint of Machine Learning Training Will Plateau, Then Shrink. https://arxiv.org/abs/2204.05149. Typ: Paper (Google/Berkeley). E2
11 Epoch AI. Trends in Artificial Intelligence. https://epoch.ai/trends. Typ: Dataset/Dashboard. E2
12 Hobbhahn, M.; Heim, L.; Aydos, G.. Trends in machine learning hardware. https://epoch.ai/publications/trends-in-machine-learning-hardware. Typ: Dataset/Report. E2
13 Shehabi, A.; Smith, S. J.; Hubbard, A.; Newkirk, A.; Lei, N.; Siddik, M. A. B.; Holecek, B.; Koomey, J.; Masanet, E.; Sartor, D.. 2024 United States Data Center Energy Usage Report. https://eta-publications.lbl.gov/sites/default/files/2024-12/lbnl-2024-united-states-data-center-energy-usage-report.pdf. Typ: Official lab report (LBNL-2001637). E1
14 Smith, S. J.; Hubbard, A.; Newkirk, A.; Ganeshalingam, M.; Holecek, B.; Sartor, D.; Mills, M.; Shehabi, A.. United States Data Center Energy Usage Report: 2025 Update. https://doi.org/10.71468/P1RP4F. Typ: Official lab report (LBNL-2001758). E2
15 U.S. Geological Survey. Interior Department releases final 2025 List of Critical Minerals. https://www.usgs.gov/news/science-snippet/interior-department-releases-final-2025-list-of-critical-minerals. Typ: Official. E1
16 Taiwan Semiconductor Manufacturing Company. 2025 Annual Report, Letter to Shareholders (ch. 1 PDF). https://investor.tsmc.com/static/annualReports/2025/english/pdf/2025_tsmc_ar_e_ch1.pdf. Typ: Firmenbericht. E1
17 ASML Holding N.V.. ASML reports €32.7 billion total net sales and €9.6 billion net income in 2025. https://www.asml.com/en/news/press-releases/2026/q4-2025-financial-results. Typ: Firmenbericht. E1
18 ASML Holding N.V.. 2025 Annual Report — Financial performance section. https://ourbrand.asml.com/m/419103cb23dfeaa4/original/asml-2025-annual-report-financial-performance-section.pdf. Typ: Firmenbericht. E1
19 NVIDIA. NVIDIA H100 GPU (product specifications). https://www.nvidia.com/en-us/data-center/h100/. Typ: Hersteller-Spezifikation. E1
20 Kamiya, G.; Bertoldi, P. (European Commission, JRC). Energy Consumption in Data Centres and Broadband Communication Networks in the EU. https://doi.org/10.2760/706491. Typ: Official report (JRC135926). E2
21 NVIDIA. NVIDIA DGX B200 (product specifications). https://www.nvidia.com/en-us/data-center/dgx-b200/. Typ: Hersteller-Spezifikation. E1
22 International Energy Agency. Demand — Electricity 2026. https://www.iea.org/reports/electricity-2026/demand. Typ: Official report (Kapitel). E2
23 Masanet, E.; Shehabi, A.; Lei, N.; Smith, S.; Koomey, J.. Recalibrating global data center energy-use estimates. https://datacenters.lbl.gov/sites/default/files/Masanet_et_al_Science_2020.full_.pdf. Typ: Paper (Science Policy Forum; LBNL-hosted journal PDF). E1
24 Epoch AI. Topic Overview: AI Chips. https://epoch.ai/publications/chips-topic-overview. Typ: Topic Overview (Research-NGO). E2
25 Epoch AI. Global AI computing capacity is doubling every 7 months. https://epoch.ai/data-insights/ai-chip-production. Typ: Data Insight (CSV-Stamp 16. Feb. 2026). E2
26 Taiwan Semiconductor Manufacturing Company. TSMC Debuts A13 Technology at 2026 North America Technology Symposium. https://pr.tsmc.com/system/files/newspdf/attachment/49337b40ff139d51d533076cf7a945b30e107e07/2026%20Tech%20Symposium%20%28E%29_Final_wmn.pdf. Typ: Firmen-PR PDF (Tech Symposium; News-HTML Cloudflare-blocked). E2
27 Kim, J. G.; Yoo, D.; Ryu, H.; Ha, S.; Lee, J.; Ryu, S. (Xenoscube). Phase-Decoupled, Model-Calibrated Power Control for Disaggregated LLM Serving. https://arxiv.org/abs/2609.11133. Typ: Paper (arXiv; PDF geöffnet). E1
28 Kashaniyan, M.; Jannesari, A. (Iowa State). Sample Count Is Not Enough: Candidate-Generation Strategy Shapes the Energy and Performance of LLM Test-Time Scaling. https://arxiv.org/abs/2609.19499. Typ: Paper (arXiv; PDF geöffnet). E1
29 Ardestani, E. K.; Piga, L.; Stojkovic, J.; Balaji, P.; Ozdal, M.; et al. (21 authors; Meta Platforms). Provisioning to Runtime Optimization of a 100 MW-Scale AI Cluster. https://arxiv.org/abs/2605.24461. Typ: Betreiber-Paper (arXiv; PDF v3 geöffnet; Selbstbericht Meta). E2
30 Gupta, P.; Duyck, A.; Kicinski, J.; Provine, J.; … Trager, L. (28 authors; Meta Platforms). From ASIC to Fleet: Lessons from Building and Operating a Hyperscaler NIC. https://arxiv.org/abs/2610.07644. Typ: Paper (arXiv; PDF geöffnet; Betreiber-Selbstbericht). E2
31 McCourt, T.; Fiete, I. R.; Chuang, I. L. (MIT). Fault-tolerant foundation models. https://arxiv.org/abs/2610.10311. Typ: Paper (arXiv; PDF geöffnet; Simulation). E2
32 Topcu, A.; Cim, E.; Ozturk, U.; Kandemir, M. (Pennsylvania State University). Carbon-Aware Geo-Distributed LLM Serving under Latency SLOs. https://arxiv.org/abs/2610.14571. Typ: Paper (arXiv; PDF geöffnet; Simulation). E2
33 Olgun, A.; Galanopoulos, S.; Kakolyris, A. K.; Yüksel, İ. E.; Luo, H.; Bostancı, F. N.; Mutlu, O. (ETH Zürich; New York University). Understanding the Power Consumption of Modern High Bandwidth Memory: Experimental Analysis and Modeling Using Real HBM2 DRAM Chips. https://arxiv.org/abs/2610.14244. Typ: Paper (arXiv; PDF geöffnet; Messung an 36 Chips + 3 H200). E2
34 Niu, C. (NVIDIA Corporation); Sencer, B. (Texas Tech University); Zhang, W. (Texas Advanced Computing Center); Chen, Y. (Texas Tech University). The Token-Energy Law of LLM Decode: Active Bytes and Realized Time Account for Joules per Token. https://arxiv.org/abs/2610.28576. Typ: Paper (arXiv; PDF geöffnet; Messung an GH200/GB300; Erstautor NVIDIA). E2
35 Zeinali, A.; Saad-Falcon, J.; Narayan, A. (Stanford University); Abbasi, M. (UC Berkeley); Hartley, J. S. (UT Austin); Hennessy, J.; Ré, C.; Mirhoseini, A. (Stanford University). Joules-to-GDP: How Much Economic Value Do AI Systems Produce per Unit of Energy?. https://arxiv.org/abs/2610.30858. Typ: Paper (arXiv; PDF geöffnet; 220 GDPval-Aufgaben, gemessene GPU/CPU/DRAM-Energie, LLM-Richter). E2

11. Unsicherheitsprotokoll

Gesamtunsicherheit dieses Eintrags, gebunden an das Prüfprotokoll vom 2026-08-28 plus Masanet 2026-08-31, Epoch-Chips 2026-09-01, TSMC-Symposium-PR 2026-09-02, Phase-Decoupled Power 2026-09-20 (Quelle 27) und Sample-Count Energy 2026-09-22 (Quelle 28) Meta 150 MW 2026-10-05 (Quelle 29), Meta fbnic und McCourt 2026-10-10 (30, 31), Topcu Carbon–SLO 2026-10-14 (32) Olgun et al. HBM2-Leistung 2026-10-18 (Quelle 33), Niu et al. Token-Energy Law 2026-10-21 (Quelle 34) und Zeinali et al. Joules-to-GDP 2026-10-25 (Quelle 35). 35 Öffnungen. Nicht 3,3× sold-capacity mit 3,4× Dashboard oder 5,3× Trainings-FLOP mischen. CoWoS-Reticle-Größen ≠ kwpm. Max-Q ≠ kalibrierter Controller; Node ≠ Flotte. Nicht als Warrant: Journalismus; 205 TWh (2018) als 2026-Weltstrom; Smuggling-Band als Zensus.

  • Etabliert (Schicht 1): Wert pro Joule: Gemma 4 31B 56 % Nettowert mit 23 % Energie vs GLM 5.2, 8×H100 −22 % Zeit für ×3,24 Energie (E2, Quelle 35); Inferenzenergie (Luccioni); BLOOM; Masanet 2010–2018; LBNL US-DC; Epoch Chips-Overview ~20 Mio. / 3,3× since 2022 (E2); H100/DGX-B200-Spec; TSMC/ASML; CoWoS 5.5-Reticle jetzt (E2, Quelle 26); Phase-Decoupled Power MoE 8×B200 (E1, Quelle 27); Sample-Count TTS-Schedule A100 4,64–4,86× (E1, Quelle 28); Meta 150 MW / ~83K GB200 Power-Limit 960 W, 5–10 % gestrandet (E2, Quelle 29); HBM2 36 Chips: Stressmuster +23,6 % über JEDEC-Schleife, Modell 7,6–8,1 % MAPE, H200-HBM3E bis 248 W (E2, Quelle 33); Token-Energie GH200/GB300 ≤3,73 % aus Bytes + Zeit, Batch 33–47 % sparsamer (E2, Quelle 34); USGS.
  • Behauptet (Schicht 2): NVJ/TSJ als Ziel für Modelle, Chips, Routing (E3, Quelle 35); IEA-Zentralprojektionen 2030; IEA Electricity 2026 US-DC etwa 50 % des Stromzuwachses; HBM bis 2027; Capex 400 Mrd.; TSMC/ASML Guidance; CoWoS 14-Reticle 2028 Fahrplan (E2 Vendor); DGX B200 3×/15× vs. H100; ungelesene Industrie-Splits; Meta „Strom > Chips als Engpass“ (E3, Quelle 29); JEDEC-Schleifen als HBM-Grenze riskieren Drosseln/Ausfall (E3, Quelle 33); Token-Energy Law für Einsatzplanung (E3, Quelle 34).
  • Eingeschränkt (Schicht 3): Joules-to-GDP Lohn-Proxy ≠ BIP, LLM-Richter, ohne Gebäude-Overhead (Quelle 35); Jevons-Netto; lokal vs. global; Training/Inferenz-Split 2026; CoWoS kwpm (E0; Reticle-Größen bekannt); 2026-Ist vs. IEA-Schätzung; Masanet-2020-Warnung vor Surge ≠ 2026-Messung; Phase-Decoupled Node ≠ Flotte, Max-Q ≠ kalibriert, MoE ≠ Dense; Sample-Count N≠Schedule, Small-Model HF ≠ continuous serving; Meta ein Betreiber / Simulations-Projektion ≠ Branchenstandard; HBM2-FPGA-Stresstest ≠ GPU-Workload, HBM3E/HBM4 extrapoliert; Token-Energie GPU-Board/dichte Modelle ≠ Rechenzentrumsstrom, ≠ MoE.

Nicht geöffnet (kein Warrant)

  • Epoch AI Topic Overview AI Chips — geöffnet 2026-09-01 (Quelle 24); Data Insight chip production Quelle 25. SK hynix/Samsung/Micron Geschäftsberichte weiter unopened.
  • NVIDIA H100 Datasheet PDF — Download lieferte HTML; Spec über Produktseite.
  • TSMC Form 20-F / CoWoS kwpm — Reticle-Größen via Symposium-PR 2026 (Quelle 26); kwpm weiter nicht im Letter/PR.
  • SK hynix / Samsung / Micron HBM Geschäftsberichte — nicht geöffnet. HBM-Engpass nur über IEA.
  • USGS OFR 2024-1057 — China-99 %-Claim kommt aus IEA-PDF, nicht aus diesem OFR.
  • Wu et al. 2021 (Meta) arXiv:2111.00364 — nur Zitat in Luccioni. E3.
  • Barr 2019 AWS Inf1 — nicht unabhängig. E3.
  • IEA Energy and AI Methodenanhang / Supply-Kapitel — nicht vollständig.
  • IEA Key Questions Voll-PDF (138 S) — nicht geöffnet.
  • JRC/ENTSO-E 2025/26 EU-DC-Update — nicht geöffnet.
  • Kaack et al. 2022 Nature Climate Change — nicht geöffnet.