‎ ‎

BMBF Nachwuchsgruppe UnrEAL

19.10.2022|14:42 Uhr

Die Anwendung Künstlicher Intelligenz sicherer machen: Förderung für Wuppertaler Wissenschaftler*innen Künstliche Intelligenz (KI) kommt in vielen Bereichen unseres täglichen Lebens zum Einsatz: Beim Online-Shopping schlägt sie uns Produkte vor, die Sprachassistenten unserer Smartphones basieren auf KI und auch die digitalen Übersetzungshilfen, die wir im Urlaub nutzen, beruhen darauf. Um die Potenziale Künstlicher Intelligenz (KI) auch in sicherheitsrelevanten Anwendungen wie beispielsweise dem automatisierten Fahren umfänglich ausschöpfen zu können ist es notwendig, sie noch sicherer zu machen – das heißt: mögliche Unsicherheiten von KI besser einschätzen zu lernen. An diesem Punkt setzt ein neues Forschungsprojekt unter Leitung von Dr. Matthias Rottmann von der Arbeitsgruppe Stochastik der Bergischen Universität Wuppertal an.

Künstliche Intelligenz ist eine Schlüsseltechnologie in vielen Anwendungsfällen. Beispielsweise wird sie zur Umfeldwahrnehmnung für Roboter oder für Fahrzeuge verwendet. Dabei macht die KI auf Grundlage eines Kamerabildes eine sogenannte Vorhersage, wo sich Objekte in einer gegebenen Szene befinden. Dabei macht die Künstliche Intelligenz jedoch Fehler. Sie übersieht Objekte oder macht Falschanzeigen. Ihr Einsatz benötigt daher oftmals eine höhere Vorhersage-Sicherheit. Insbesondere in sicherheitsrelevanten Anwendungen wie dem automatisierten Fahren oder der medizinischen Bildverarbeitung ist die bessere Abschätzung von Unsicherheit von KI ein wichtiger Faktor, der ihre Anwendung überhaupt erst möglich macht. 
„Für komplexere Aufgabenstellungen liefert eine KI im Allgemeinen keine Angaben zur Unsicherheit der Vorhersagen. In einigen Anwendungsfällen hat sich auch gezeigt, dass eine KI Falschaussagen mit vermeintlich hoher Sicherheit macht, beispielweise wenn Sie auf unbekannte Objekte trifft. Die Auswertung von Falschaussagen einer KI kann jedoch auch durch Fehler in der Datenbasis verfälscht werden. KI-Modelle sind daher auf viele qualitativ hochwertige Daten angewiesen – dies führt zu hohen Kosten in der Datengenerierung“, fasst Dr. Rottmann die Ausgangslage zusammen. Hier setzt das Projekt „UnrEAL“ (Unsicherheitsquantifizierung und Effiziente Annotationsprozesse für Deep Learning) an. Die Forscher*innen entwickeln Methoden, um die Unsicherheit von KI zu erkennen und zu verbessern und schließlich auch die Datengenerierung effizienter zu gestalten. Dafür werden sie zunächst Methoden zur Erkennung von Unsicherheiten, zur Erkennung von Fehlern in der Datenbasis sowie zum Lernen mit nur wenig menschlichem Feedback entwickeln. 
Die Ergebnisse sollen künftig dabei helfen, Datenbasen für KI kostengünstiger und gleichzeitig von höherer Qualität aufzubauen.
Um junge Wissenschaftler*innen in der KI-Forschung zu stärken, fördern das Bundesministerium für Bildung und Forschung (BMBF) und die Deutsche Forschungsgemeinschaft (DFG) deutschlandweit 56 Nachwuchsgruppen. Im Fokus der Nachwuchsgruppen stehen inhaltlich neuartige und innovative KI-Themen. Die Wuppertaler Wissenschaftler*innen erhalten für ihr Vorhaben für die kommenden drei Jahre eine Förderung in Höhe von rund 780.000 Euro.