Fraunhofer-Gesellschaft | KI-Fortschrittszentrum »Lernende Systeme und Kognitive Robotik«Im Bereich künstliche Intelligenz (KI) wurde in den letzten Jahren ein hoher Forschungsaufwand betrieben. Vielversprechende Anwendungen haben großes Potential in Produktion, Medizin und autonomem Fahren gezeigt. Allerdings existiert immer noch eine Lücke zwischen Labor und Industrie: aktuelle KI-Modelle sind nicht zuverlässig genug, um in der Industrie eingesetzt zu werden. Trotz großer Erfolge weisen KI-Verfahren auch Schwächen auf: KI-Modelle sind meistens Black Box-Methoden, deren innere Funktionsweise und Entscheidungsfindung aufgrund ihrer Komplexität nicht mehr nachvollziehbar sind. Die getroffenen Vorhersagen basieren auf vorhandenen Daten, weswegen ungesehene Daten oder Anwendungssituation oft zu unerwarteten Vorhersagen und Ergebnissen führen. In sicherheitskritischen Anwendungsfällen können derartige KI-Verfahren deswegen aktuell noch nicht eingesetzt werden.
In unserer Studie recherchieren, testen und entwickeln wir aktuelle Methoden und Algorithmen des Designs und der Verifikation zuverlässiger KI-Modelle, um die Lücke zwischen Forschung und Industrie zu schließen.