Öffentliches Recht, Verwaltungs-, Europa-, Umwelt-, Agrar- und Ernährungswirtschaftsrecht

Was ist eigentlich Künstliche Intelligenz ?

Begriff
Der Begriff der Künstlichen Intelligenz verdankt seinen Ursprung einem Forschungsantrag aus dem Jahr 1955¹: Der Informatiker John McCarthy beabsichtigte die Erforschung von Systemen, „die mehr können als rechnen.“² Diese Systeme bezeichnete er auch als Artificial Intelligence. Damit war der Begriff der Künstlichen Intelligenz (KI) geboren.

Häufig wird betont, dass es aufgrund der vielfältigen Funktionsweisen und Anwendungsfelder eine einheitliche Definition von KI nicht geben könne.³ Deshalb wird mitunter vom Gebrauch des Begriffs der KI im Allgemeinen⁴ oder zumindest im positiven Recht⁵ abgeraten.

An seiner Stelle wird die Bezeichnung der „automatisierten Entscheidungssystem“ oder des „maschinellen Lernens“ vorgeschlagen.⁶ Da das Phänomen „Künstliche Intelligenz“ zahlreichen Regulierungen zugrunde liegt und ebenso in Gesetzen verwendet wird (nicht zuletzt in der geplanten KI-Verordnung der Europäischen Union), sollte das Phänomen der „Künstlichen Intelligenz“ gleichwohl definiert werden.

Eine erste Annäherung gelingt über die Unterscheidung von „Künstlich“ und „Intelligenz“:

- „Künstlich“ bezeichnet im Kontext der Künstlichen Intelligenz im Anschluss an die englische Bezeichnung von artificial intelligence einen nicht natürlichen, sondern von Menschen geschaffenen Vorgang.⁷ Es handelt sich also um eine von Menschen hergestellte Struktur.⁸

- „Intelligenz“ wird mit verschiedenen Fähigkeiten umschrieben. Das zentrale Merkmal ist die Problemlösungsfähigkeit⁹.¹⁰ Im Kontext der KI werden hierunter Fähigkeiten verstanden, die mit menschlichen Denk- und Handlungsprozessen vergleichbar sind.¹¹ Das sei insbesondere die Fähigkeit zum Selbstlernen¹², welche die KI durch einen Algorithmus sicherstelle.¹³ Daneben wird u. a. das logische Denken, das Treffen von Entscheidungen unter Unsicherheit oder das Kommunizieren in natürlicher Sprache genannt.¹⁴

Hierauf aufbauend bietet das Verständnis der „Hochrangigen Expertengruppe der Europäischen Union für Künstliche Intelligenz“ eine greifbare Beschreibung: Diese versteht Künstliche Intelligenz als „Systeme mit einem ‚intelligenten‘ Verhalten, die ihre Umgebung analysieren und mit einem gewissen Grad an Autonomie handeln, um bestimmte Ziele zu erreichen.“¹⁵

Kategorisierungen
KI wird auch in starke und schwache KI kategorisiert.¹⁶ Teilweise wird auch von enger und genereller KI gesprochen.¹⁷ Als starke bzw. generelle KI werden solche KI-Systeme bezeichnet, „die sich neue Lösungsmöglichkeiten jenseits einer Vorprogrammierbarkeit erarbeite[n].“¹⁸Demgegenüber ist die Rede von schwacher bzw. enger KI, die in den vom Menschen vorgegebenen Lösungsmöglichkeiten verhaftet bleibe.¹⁹ Schwache KI handelt nicht aus eigenem Antrieb, sondern um eine vom Menschen vorgegebene Aufgabe in menschlich vorgezeichneten Lösungswegen zu lösen.²⁰ Dementsprechend begrenzt ist ihre Entwicklungsfähigkeit.²¹ Das bedeutet freilich nicht, dass sie über eine schwache Leistungsfähigkeit verfügt. Anders als starke bzw. generelle KI besitzt sie aber eine „nur“ funktionsspezifische Handlungskapazität, die menschliche Leistungsfähigkeit aufgrund ihres Spezialisierungspotenzials gleichwohl überschreiten kann.²² Schwache KI geht gewissermaßen in die Tiefe, starke KI in die Breite.²³

Funktionsweisen
KI kennt zahlreiche Funktionsweisen. Als besonders relevant erweisen sich – neben anderen – das Problemlösen durch Suchen, das maschinelle Lernen und das Deep Learning als spezifischer Funktionsmodus des Deep Learnings.

Problemlösung durch Suchen
Das Problemlösen durch Suchen²⁴ ist dadurch gekennzeichnet, dass ein Anwender ein Ziel festlegt und die KI – im Sinne eines rationalen Agenten – einen optimalen Lösungsweg findet.²⁵ Hierfür müssen dem rationalen Agenten insbesondere der Ausgangs- und der Zielzustand, verfügbare Aktionen sowie die Kostenfunktion für einzelne Aktionen aufgezeigt werden.²⁶ Hierauf aufbauend ermittelt der Rationale Agent verschiedene Lösungswege und wählt einen Weg am Maßstab vorgegebener oder eingegebener Präferenzen aus.²⁷ Ein klassisches Anwendungsbeispiel hierfür ist das Navigationssystem im Straßenverkehr.²⁸

Maschinelles Lernen
Beim maschinellen Lernen²⁹ soll die KI Muster innerhalb vorhandener Daten erkennen.³⁰ Charakteristisch für das maschinelle Lernen sind zwei Merkmale³¹:

- Erfahrungswerte in Gestalt von Daten sowie

- Methoden, die in diesen Daten Muster erkennen.

Die KI operiert gewissermaßen induktiv, geht also von einzelnen Daten aus und leitet aus ihnen allgemeine Regeln ab.³² Daher ist das maschinelle Lernen von verfügbaren und verwertbaren Daten abhängig. Big Data und Open Data begünstigen das maschinelle Lernen daher besonders.³³

Deep Learning
Ein Teilgebiet des maschinellen Lernens ist das Deep Learning.³⁴ Das Deep Learning verwendet dem menschlichen Gehirn nachempfundene neuronale Netzwerke, die große Datenmengen verarbeiten können.³⁵ Friederike Malorny beschreibt die Funktionsweise des Deep Learnings wie folgt: „Letztlich generiert das künstliche Datenneuron aus mehreren Inputs ein Outpunkt, wobei das Output für das nächste Datenneuron wiederum als Input fungiert und so weiter. Am Ende entsteht ein neuronales Netzwerk mit unzähligen Datenneuronen als Knotenpunkten. Wird ein neuronales Netzwerk trainiert, eruiert es, welche Verbindungen zu einem richtigen Ergebnis geführt haben, um diese dann in der Folge stärker zu gewichten. Diese Gewichtung ist der eigentliche ‚Lerneffekt‘, indem ‚erfolgreiche‘ Verbindungen ein immer größeres Gewicht erhalten und damit immer aktiver werden.“³⁶

Anwendungsbeispiele
Künstliche Intelligenz kann in datengestützten Wissenschaftsbereichen zur Auswertung von Daten beitragen („Extraktion von Wissen aus Daten“³⁷). Das betrifft beispielsweise die Auswertung von Wetterdaten, um hieraus Rückschlüsse auf klimatische Entwicklungen ableiten zu können. Bei Personalauswahlentscheidungen kann KI dabei unterstützen, Lebensläufe auszuwerten oder Ranglisten von Bewerbern erstellen.³⁸ Speziell auf dem Gebiet der staatlichen Gefahrenabwehr ist die intelligente Videoüberwachung zu nennen.³⁹ Eine neue Erscheinung⁴⁰ sind Analyseinstrumente, die in polizeilichen Datenbanken befindliche Datensätze auswerten und dabei Verbindungen zwischen verschiedenen Elementen herstellen⁴¹ und bereits Gegenstand verfassungsgerichtlicher⁴² Kontrolle waren.

Künstliche Intelligenz kann größere Datenbestände auch mit dem Ziel auswerten, diese mit individuellen Präferenzen zu verknüpfen. Die Rede ist auch von sog. Recommender Systems.⁴³ Daten angebotener Dienstleistungen oder Produkte werden anhand vorangegangener Konsumverhalten ausgewertet.

Dr. Mathias Honer, Forschungsstelle für Digitalrecht, Lehrstuhl von Frau Prof. Dr. Härtel für Öffentliches Recht, Verwaltungs-, Europa-, Umwelt-, Agrar- und Ernährungswirtschaftsrecht der Europa-Universität Viadrina Frankfurt (Oder)Aufgrund zunehmend vorhandener Bild- und Videodaten kann künstliche Intelligenz Bilderkennung betreiben.⁴⁴

Über das bloße Verarbeiten und Interpretieren von Daten kann Künstliche Intelligenz auch im Anschluss an eine Datenverarbeitung physisch auf die Umwelt einwirken. Das ist der Anwendungsbereich sog. Robotik.⁴⁵ Im Straßenverkehr kommt sie in Gestalt autonomer Fahrsysteme zur Anwendung.⁴⁶

¹ Vogel, Künstliche Intelligenz und Datenschutz, 2022, S. 29 f.
² Vogel, Künstliche Intelligenz und Datenschutz, 2022, S. 30.
³ Lorse, NVwZ 2021, 1657 (1658).
⁴ So Staehelin, GRUR 2022, 1569 (1570).
⁵ Busche, JA 2023, 441 (442).
⁶ So neben weiteren alternativen Formulierungen Staehelin, GRUR 2022, 1569 (1570).
⁷ Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 10.
⁸ Herberger, NJW 2018, 2825 (2827).
⁹ Malorny, JuS 2022, 289 (290).
¹⁰ In diesem Sinne versteht Busche, JA 2023, 441 (442) KI als einen Sammelbegriff für verschiedene Methoden der Informatik, deren gemeinsames Ziel es sei, ein Problem möglichst rational zu lösen.
¹¹ Malorny, JuS 2022, 289 (290).
¹² Malorny, JuS 2022, 289 (290).
¹³ Malorny, JuS 2022, 289 (290); Vogel, Künstliche Intelligenz und Datenschutz, 2022, S. 35.
¹⁴ Busche, JA 2023, 441 (442).
¹⁵ Hochrangige Expertengruppe für Künstliche Intelligenz, Eine Definition der KI: Wichtigste Fähigkeiten und Wissenschaftsgebiete, 2019, S. 1; siehe dazu auch Geminn, ZD 2021, 354.
¹⁶ Geminn, ZD 2021, 354 (355).
¹⁷ Terminologie bei Neuhöfer, Grundrechtsfähigkeit Künstlicher Intelligenz, 2023, S. 23 f.
¹⁸ Lorse, NVwZ 2021, 1657 (1658).
¹⁹ Lorse, NVwZ 2021, 1657 (1658).
²⁰ Neuhöfer, Grundrechtsfähigkeit Künstlicher Intelligenz, 2023, S. 23.
²¹ Neuhöfer, Grundrechtsfähigkeit Künstlicher Intelligenz, 2023, S. 23 f.
²² Neuhöfer, Grundrechtsfähigkeit Künstlicher Intelligenz, 2023, S. 24.
²³ Siehe auch Neuhöfer, Grundrechtsfähigkeit Künstlicher Intelligenz, 2023, S. 24.
²⁴ Siehe zu dieser Kategorie Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 19 f.
²⁵ Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 19.
²⁶ Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 19.
²⁷ Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 19.
²⁸ Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 19.
²⁹ Zu dieser Kategorie siehe Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 23 f.
³⁰ Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 23.
³¹ Busche, JA 2023, 441 (442).
³² Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 23.
³³ Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 24.
³⁴ Malorny, JuS 2022, 289 (290).
³⁵ Malorny, JuS 2022, 289 (290).
³⁶ Malorny, JuS 2022, 289 (290 f.).
³⁷ Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 26.
³⁸ Zu diesen und weiteren Beispielen Malorny, JuS 2022, 289 (291).
³⁹ Rademacher/Perkowski, JuS 2020, 713 (714).
⁴⁰ Siehe zB § 25a HSOG – Automatisierte Anwendung zur Datenanalyse (siehe dazu auch BVerfG, Urt. v. 16.2.2023, - 1 BvR 1547/19/1 BvR 2634/20 -)

(1) Die Polizeibehörden dürfen rechtmäßig gespeicherte personenbezogene Daten auf einer Analyseplattform automatisiert zusammenführen. Sie dürfen nach Maßgabe der Sätze 3 bis 6 und der Abs. 2 bis 5 diese zusammengeführten Daten, auch gemeinsam mit weiteren rechtmäßig erhobenen personenbezogenen Daten, verknüpfen, aufbereiten und auswerten sowie für statistische Zwecke anwenden (automatisierte Anwendung zur Datenanalyse). Die automatisierte Anwendung zur Datenanalyse ist ein technisches Hilfsmittel, das es den Polizeibehörden bei der Erfüllung ihrer Aufgaben nach Maßgabe der folgenden Absätze ermöglichen soll, ihre Bewertungen, Prognosen und Entscheidungen auf der Grundlage möglichst verlässlicher Tatsachenfeststellungen zu treffen. Sie erfolgt immer anhand anlassbezogener und zielgerichteter Suchkriterien. Sie wird manuell ausgelöst und läuft regelbasiert auf einer von Menschen definierten Abfolge von Analyse- und Verarbeitungsschritten ab. Eine direkte Anbindung an Internetdienste ist ausgeschlossen.

(2) Die Polizeibehörden können gespeicherte personenbezogene Daten mittels einer automatisierten Anwendung zur Datenanalyse weiterverarbeiten,

1. wenn dies zur Abwehr einer Gefahr für den Bestand oder die Sicherheit des Bundes oder eines Landes oder Leib, Leben oder Freiheit einer Person oder Sachen von bedeutendem Wert, deren Erhaltung im öffentlichen Interesse geboten ist, oder wenn gleichgewichtige Schäden für die Umwelt zu erwarten sind, erforderlich ist (Abwehr konkreter Gefahren),

2. …
⁴¹ Rademacher/Perkowski, JuS 2020, 713 (714).
⁴² BVerfG, Urt. v. 16.2.2023, - 1 BvR 1547/19/1 BvR 2634/20 -.
⁴³ Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 27.
⁴⁴ Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 28.
⁴⁵ Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 29.
⁴⁶ Yuan, Künstliche Intelligenz, in: Ebers, Stichwort-Kommentar Legal Tech, 2023, Rn. 29.