Ein KI-Modell (MIA) ist ein Algorithmus, der anhand von Daten trainiert wird, um bestimmte Aufgaben zu erfüllen. Es ist eine mathematische Struktur, die Vorhersagen anhand der gelernten Muster generiert.
Ein KI-System (KI-System) ist eine umfassende Lösung, die ein oder mehrere Modelle mit anderen Komponenten (Schnittstellen, Datenbanken, Sicherheit) integriert, um den Nutzern einen funktionalen Dienst zu bieten.
Die Unterscheidung MIA/SIA definiert verschiedene Ebenen der Verantwortung und Anwendung. Ein Modell bleibt ein Werkzeug ohne definierten Kontext, während ein System seine praktische Anwendung darstellt. Die technischen und regulatorischen Herausforderungen unterscheiden sich zwischen diesen Ebenen.
| DIE WESENTLICHEN MERKMALE | |
|---|---|
| Funktion | Ein KI-Modell tut nur eines: Eingaben gemäß seinem Training in Ausgaben umwandeln. Ein KI-System löst ein ganzes Problem, von der Absicht des Nutzers bis zum Endergebnis. |
| Zusammensetzung | Der MIA besteht ausschließlich aus mathematischen Formeln und Zahlenwerten: Lernalgorithmen, Rechenstrukturen... Das AIS umfasst das gesamte Ökosystem: Benutzerschnittstellen, Datenbanken, Filtermechanismen... |
| Lebenszyklus | Zieldefinition | Datensammlung und -aufbereitung | Modelldesign und -auswahl | Modelltraining und -test | Einsatz und Integration des MIA in das AIS | Kontinuierliche Bewertung | Absicherung |
Die Verabschiedung des IA Act durch die Europäische Union hat direkte Auswirkungen auf KI-Systeme (AI Systems) und KI-Modelle (MIAs).
Diese Verordnung setzt strenge Standards für Transparenz, Sicherheit und Rechenschaftspflicht für AIS und verlangt von den Betreibern, dass sie die mit ihrem Einsatz verbundenen Risiken bewerten und mindern. Für MIAs legt der IA Act den Schwerpunkt auf die Qualität und Nachvollziehbarkeit der Trainingsdaten sowie auf die Dokumentation der technischen Fähigkeiten und Einschränkungen.
Während sich die Anbieter von AIMs auf die Bereitstellung genauer Informationen über ihre Modelle konzentrieren sollten, müssen die Entwickler und Betreiber von AISs eine umfassendere Verantwortung übernehmen, die Risikomanagement, menschliche Aufsicht und den Schutz der Nutzerrechte einschließt.
- Bewertung von MIAs:
1. Technische Genauigkeit (accuracy, recall, F1-score)
2. Geschwindigkeit der Verarbeitung
3. Computational Efficiency
4. Fähigkeit, auf neue Daten zu verallgemeinern
5. Robustheit gegenüber Störungen
- Bewertung von SIAs:
1. Nutzen und Wert für den Endnutzer
2. Nutzererfahrung und Zugänglichkeit
3. Langfristige betriebliche Zuverlässigkeit
4. Allgemeine Sicherheit des Systems
5. Einhaltung von Vorschriften
6. Soziale und ökologische Auswirkungen
7. Kosten-Nutzen-Verhältnis