Künstliche Intelligenz (KI) ist in unserem Alltag nicht mehr wegzudenken. Es vergeht kein Tag, an dem nicht von neuen, beeindruckenden Möglichkeiten berichtet wird. Große Technologie-Konzerne, Beratungsfirmen usw. zeigen oft nur die eine, positive Seite von Künstlicher Intelligenz. Es ist daher gut, dass das Bundesamt für Sicherheit in der Informationstechnik (BSI) den Leitfaden Generative KI-Modelle (PDF) herausgebracht hat, in dem es um die Chancen und Risiken für Industrie und Behörden geht. Am Ende werden die wichtigsten Punkte für eine systematische Risikoanalyse zusammengefasst (S. 3.-31):
Sensibilisierung von Nutzenden
Durchführung von Tests
Umgang mit sensiblen Daten
Herstellung von Transparenz
Überprüfung von Ein- und Ausgaben
Beachtung von (Indirect) Prompt Injections
Auswahl und Management der Trainingsdaten
Praktische Expertise aufbauen
