Testen im Zeitalter von KI

KI-basierte Systeme finden heute schon einen breiten Einsatz. Dies wird sich in der nahen Zukunft noch verstärken: Was wäre Smart Mobility ohne automatisiertes Fahren oder Industrie 4.0 ohne Predictive Maintenance? Hierbei lassen sich klassische Ansätze der Qualitätssicherung nicht mehr so einfach übertragen und ein Paradigmenwechsel wird notwendig. In diesem Artikel wollen wir daher auf Ansätze zur Qualitätssicherung von KI-basierten Systemen eingehen. Unser Fokus liegt dabei auf datengetriebenen Modellen, also Modellen, deren Ein-Ausgabe-Beziehungen automatisiert aus vorhandenen Daten, beispielsweise mittels Maschinellen Lernens, gewonnen wurden. Durch die Verwendung von solchen – letztlich unterspezifizierten – Komponenten wird es immer schwieriger zu garantieren, dass alle möglichen Fehlverhalten hinreichend unwahrscheinlich sind. Um Qualitätsziele während der Entwicklung trotzdem nicht aus den Augen zu verlieren und argumentativ belegen zu können, bieten sich so genannte Assurance Cases an, die systematisch Evidenzen, wie sie beispielsweise durch statistisches Testen entstehen, in eine schlüssige Argumentation integrieren. Details