Die Europäische Kommission hat am 21. April ihren Verordnungsvorschlag zum europäischen Ansatz für Künstliche Intelligenz (KI) veröffentlicht. Hierzu erklärt Kerstin Andreae, Vorsitzende der BDEW-Hauptgeschäftsführung:  

„Künstliche Intelligenz ist ein zentrales Element der Wirtschaft von morgen – und ein wichtiger Baustein für den nachhaltigen Umbau unseres Energiesystems und die nachhaltige Sicherung der Trinkwasserversorgung und der Abwasserentsorgung. Bereits heute werden KI-Anwendungen in der Energie- und Wasserwirtschaft eingesetzt, um die Effizienz zu verbessern, Kunden besser zu bedienen, den CO2-Ausstoß zu reduzieren und Arbeitsprozesse effizienter zu gestalten. Es ist daher erfreulich, dass die Europäische Kommission dem Thema Künstliche Intelligenz einen hohen Stellenwert einräumt.

Kritisch sehen wir allerdings, dass Anwendungen von Künstlicher Intelligenz in der Energie- und Wasserwirtschaft als „Hochrisiko KI-Systeme “ eingestuft werden. Damit unterliegen sie im Vergleich zu anderen KI-Anwendungen zusätzlichen rechtlichen Vorgaben.  

Unabhängig von den vorgeschlagenen Regelungen wird der Einsatz von neuen Technologien auch zukünftig in besonders sensiblen Bereichen, wie zum Beispiel in der Netzsteuerung, nur nach weitreichender Prüfung erfolgen. Bereits heute gelten hier sehr hohe Anforderungen und Vorschriften mit eigenen Sicherheitsstandards, sodass eine zusätzliche technologiespezifische Regulierung für die Energie- und Wasserwirtschaft nicht notwendig ist.  

Eine Einstufung von KI-Anwendungen in der Energie- und Wasserwirtschaft als „Hochrisiko KI-Systeme“ würde dagegen einen erhöhten bürokratischen Aufwand und rechtliche Unsicherheit bedeuten. Vor allem für KMU wäre dies ein unüberbrückbares Hindernis, das den Start von innovativen KI-Projekten ausbremsen würde. Es besteht die Gefahr, dass viele sinnvolle Anwendungsfälle nicht umgesetzt würden und das große Potenzial im Energie- und Wassersektor nicht genutzt würde.  

Hinzu kommt, dass die Technologie Künstliche Intelligenz nicht abschließend abgegrenzt werden kann, sodass für viele Anwendungen z. B. im Bereich der Automatisierung erhebliche Unsicherheit entstehen würde in Hinblick darauf, welche Anforderungen jeweils zu erfüllen sind.  

„AI made in Europe“ ist aus unserer Sicht ein unverzichtbares Instrument, um die Ziele des Green Deals und der Null-Schadstoffstrategie zu erreichen und die Energiewende voranzutreiben. Statt durch unklare Vorgaben neue Hürden aufzubauen, sollte die Politik die Energie- und Wasserwirtschaft als Leitsektoren für den Einsatz von KI unterstützen und stärker auf grundsätzliche technologieneutrale Leitlinien setzen. Wir brauchen keine Regelungen, die KI-Technologien ausbremsen, sondern solche, die eine sichere Anwendung von KI ermöglichen.“ 

Strenge Vorgaben für KI-Systeme mit hohem Risiko

KI-Systeme für kritische Infrastrukturen werden nach einer Mitteilung der EU-Kommission als Hochrisiko-KI-Systeme eingestuft. Bevor sie auf den Markt gebracht werden dürfen, müssen die folgenden Vorgaben erfüllt sein:

• Angemessene Risikobewertungs- und Risikominderungssysteme;
• hohe Qualität der Datensätze, die in das System eingespeist werden, um Risiken und diskriminierende Ergebnisse so gering wie möglich zu halten;
• Protokollierung der Vorgänge, um die Rückverfolgbarkeit von Ergebnissen zu ermöglichen;
• ausführliche Dokumentation mit allen erforderlichen Informationen über das System und seinen Zweck, damit die Behörden seine Konformität beurteilen können;
• klare und angemessene Informationen für die Nutzer;
• angemessene menschliche Aufsicht zur Minimierung der Risiken;
• hohes Maß an Robustheit, Sicherheit und Genauigkeit.