Wie viel CO₂ verursacht eine KI-Anfrage in Deutschland, und wo in Europa ist es weniger?

Etwa 0,041 g CO₂e pro Austausch, nach der Schätzung von SOMA AI im durchschnittlichen deutschen Stromnetz (364 g CO₂e pro kWh, Daten von 2023). Gemeint ist ein Austausch aus Anfrage und Antwort mit zusammen 1.210 Tokens und einem mittelgroßen Modell (Klasse B), einschließlich Strom, Hardware, Rechenzentrumsgebäude und anteiligem Training. Damit liegt Deutschland auf Platz 22 von 27 EU-Staaten, aufsteigend nach Emissionen sortiert. Das ist etwa das 4,4-Fache des schwedischen Werts und das 1,4-Fache des EU-Durchschnitts (0,029 g). Polen liegt beim 1,7-Fachen des deutschen Werts, und der Weltdurchschnitt beträgt 0,053 g. Der Strombedarf desselben Austauschs liegt bei rund 0,10 Wh.

Innerhalb der EU reicht die Spanne von 0,009 g (Schweden) bis 0,070 g (Polen). Der Unterschied geht fast vollständig auf den Strom zurück. Hardware, Gebäude und Training fallen überall gleich an, deshalb sinkt der Wert auch in einem sehr emissionsarmen Netz nicht auf null.

Eine Anfrage verursacht ihre Emissionen dort, wo das Rechenzentrum steht, nicht dort, wo sie eingetippt wird. Im SAEF-Datensatz sind 6 Cloud-Regionen dem deutschen Stromnetz zugeordnet.

• AWS eu-central-1 (Frankfurt)
• AWS eusc-de-east-1 (Brandenburg), die AWS European Sovereign Cloud, eine eigene Partition, die nicht in der allgemeinen Regionsliste von AWS steht
• Azure germanynorth (Berlin), laut Microsoft nur für bestimmte Kundenszenarien wie die Notfallwiederherstellung freigegeben
• Azure germanywestcentral (Frankfurt)
• Google Cloud europe-west10 (Berlin)
• Google Cloud europe-west3 (Frankfurt)

Alle verwenden denselben Faktor für das deutsche Netz und ergeben in SAEF dieselbe Schätzung von 0,041 g pro Austausch. Unter den 46 Stromnetzen, in denen mindestens eine Region von AWS, Azure oder Google Cloud steht, liegt das deutsche auf Platz 23, aufsteigend sortiert. Die AWS-Region Frankfurt hat eine eigene Faktorseite (auf Englisch).

Etwa 0,20 ml pro Austausch mit einem Modell der Klasse B, nach der SAEF-Schätzung für die Region Frankfurt (eu-central-1). Darin enthalten sind das Kühlwasser am Standort (AWS gibt für eu-central-1 eine Wassernutzungseffizienz von 0,17 Litern pro kWh an) und das Wasser, das bei der Stromerzeugung verbraucht wird. Zum Vergleich ergibt dieselbe Rechnung für die Region Stockholm (eu-north-1) rund 0,59 ml, also weniger CO₂, aber mehr Wasser. Wasser wird getrennt vom CO₂ ausgewiesen und nie in CO₂e umgerechnet.

Die KI-Nutzung bei einem Anbieter gehört in Scope 3 des Unternehmens, und die Region, in der das Modell läuft, ist eine Eingangsgröße der Schätzung. Für die Praxis heißt das Folgendes:

• Die tatsächliche Region erfassen. Bei Azure, AWS Bedrock und Google Vertex AI steht die Region im Nutzungsexport. Verwenden Sie den Faktor dieser Region, nicht den des Bürostandorts.
• Region bewusst wählen, wo es möglich ist. Derselbe Austausch der Klasse B liegt in Frankfurt bei 0,041 g, in der Region Paris (eu-west-3) bei 0,011 g und in der Region Stockholm (eu-north-1) bei 0,009 g, bei unveränderter Nutzung.
• Die Modellklasse wirkt noch stärker. In Frankfurt reicht die Schätzung von 0,012 g mit einem kleinen Modell bis 0,157 g mit einem Frontier-Modell, das 12,8-Fache. Wenn Datenschutz oder Verträge eine Region in Deutschland vorgeben, bleibt die Modellwahl der größere Hebel.
• Standort- und marktbasiert trennen. Berichten Sie den standortbasierten Wert. Einen marktbasierten Wert nennen Sie nur zusätzlich, wenn der Anbieter seine Ökostromverträge für diese Region belegt.

Wie daraus eine Zeile im Treibhausgasinventar wird, beschreibt die Seite zu Scope 3 und CSRD, und der kostenlose Rechner (auf Englisch) wendet die Region automatisch an.

• Dass die Werte pro Anfrage Messungen sind. SOMA schätzt sie mit den SAEF-Faktoren und einem typischen Austausch, und echte Anfragen schwanken stark.
• Dass ein bestimmter Anbieter ein bestimmtes Modell aus Deutschland ausliefert. Die Regionen sind Eingangsgrößen des Datensatzes, keine Aussagen über Anbieter.
• Dass der deutsche Netzdurchschnitt dem Strommix eines bestimmten Rechenzentrums entspricht oder Ökostromverträge abbildet.
• Dass die Netzwerte aktuell sind. Sie sind Jahresmittel für 2023, überwiegend aus den Jahresdaten von Ember auf Lebenszyklusbasis, und das deutsche Netz ändert sich von Jahr zu Jahr.
• Dass Bild-, Sprach- oder Videomodelle gleich zu bewerten sind. Die Faktoren gelten für Text.

Die SAEF-Methode ist zur Veröffentlichung in Sustainable Production and Consumption angenommen. Die Gleichungen stehen auf der Methodikseite (auf Englisch), die vollständige Tabelle unter SOMA AI Emission Factors, CC BY 4.0.

• Wie erfasst ein Unternehmen seine KI-Nutzung in Scope 3, und fällt es unter die CSRD? Die Methode für die KI-Zeile in Scope 3, mit Rechenbeispiel
• Alle Seiten auf Deutsch. Übersicht mit Daten und Methode
• Where does an AI query emit the least? The carbon footprint of AI by country. Die Netze von 210 Ländern und die EU-27 im Ranking, auf Englisch