Was ist ein KI-System?
Die Europäische Union nimmt mit der KI-Verordnung (KI-VO) eine weltweit führende Rolle bei der Regulierung von Künstlicher Intelligenz ein. Doch was genau ist ein KI-System im Sinne der KI-VO? Der Europäische Datenschutzausschuss (EDPB) hat hierzu eine klare Meinung, die sich an internationalen Standards orientiert und entscheidende Merkmale definiert.
Eine präzise und flexible Definition
Die Definition von KI-Systemen muss einerseits präzise genug sein, um Rechtssicherheit zu gewährleisten, andererseits aber auch flexibel genug bleiben, um mit der rasanten technologischen Entwicklung Schritt zu halten. Die EU orientiert sich hierbei an der Arbeit internationaler Organisationen, um eine breite Akzeptanz und Konvergenzmit globalen Standards zu ermöglichen.
Ein entscheidender Punkt: KI-Systeme sind mehr als nur klassische Software. Sie unterscheiden sich von herkömmlichen regelbasierten Programmen dadurch, dass sie nicht ausschließlich durch vordefinierte menschliche Regeln arbeiten, sondern in der Lage sind, Schlussfolgerungen zu ziehen.
Die Kernmerkmale von KI-Systemen
Ein KI-System zeichnet sich durch mehrere wesentliche Eigenschaften aus:
Schlussfolgerungsfähigkeit: KI-Systeme generieren Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen, die reale Auswirkungen auf physische und virtuelle Umgebungen haben können.
Lernfähigkeit und Modellbildung: Sie sind in der Lage, aus Daten Modelle oder Algorithmen abzuleiten, anstatt nur statische Regeln auszuführen.
Maschinenbasiert: KI-Systeme laufen auf Maschinen, was ihre Fähigkeit zur automatisierten Verarbeitung betont.
Explizite oder implizite Zielverfolgung: Sie arbeiten mit klar definierten oder impliziten Zielen, die sich vom beabsichtigten Zweck eines Systems in einem spezifischen Kontext unterscheiden können.
Autonomiegrad: KI-Systeme agieren mit unterschiedlichem Grad an Autonomie und können bis zu einem gewissen Punkt ohne menschliche Eingriffe arbeiten.
Anpassungsfähigkeit: Manche KI-Systeme können sich nach ihrer Implementierung weiterentwickeln und selbstständig aus neuen Daten lernen.
Warum ist diese Definition wichtig?
Diese präzise Abgrenzung von KI-Systemen ist entscheidend, da sie unmittelbare regulatorische Auswirkungen hat. Unternehmen und Entwickler müssen verstehen, ob ihre Technologie unter die KI-VO fällt und welche rechtlichen Verpflichtungen sie erfüllen müssen. Besonders Hochrisiko-KI-Systeme, die in sensiblen Bereichen wie Gesundheitswesen, Strafverfolgung oder Beschäftigung eingesetzt werden, unterliegen strengen Anforderungen.
Austausch und Unterstützung für Unternehmen
Ich freue mich über den Austausch zu KI-Systemen und die Diskussion darüber, wie Unternehmen mit der KI-VO konform arbeiten können. Eine Möglichkeit ist die Erstellung eines Playbooks, das eine Übersicht über bestehende KI-Systeme bietet und eine strukturierte Risikoanalyse ermöglicht.
Ein solches Playbook könnte dabei helfen, den individuellen Risiko-Level von KI-Systemen zu bewerten und zu dokumentieren, um eine transparente und regelkonforme Nutzung zu gewährleisten. Dies könnte Unternehmen eine wertvolle Orientierungshilfe bieten, um KI-Systeme mit den Anforderungen der KI-Verordnung in Einklang zu bringen.
Fazit
Die KI-VO definiert KI-Systeme nicht nur als fortgeschrittene Software, sondern als Technologien mit spezifischen Merkmalen, die über einfache Automatisierung hinausgehen. Die Fähigkeit, Schlussfolgerungen zu ziehen, zu lernen und mit gewissem Grad an Autonomie zu agieren, sind die entscheidenden Unterscheidungsmerkmale. Unternehmen und Entwickler sollten sich mit diesen Definitionen vertraut machen, um regulatorische Konformität zu gewährleisten und gleichzeitig Innovationspotenziale optimal zu nutzen.
Ich freue mich auf den Austausch zu diesem Thema!
Falls du Interesse an einer Übersicht oder Risikoanalyse von KI-Systemen in einem Playbook hast, melde dich gerne – gemeinsam können wir Lösungen entwickeln, die den Anforderungen der KI-VO gerecht werden.