Suche
  • Sven Wilms

Erklärbarkeit von ML-Modellen

ML-Verfahren werden von immer mehr Unternehmen eingesetzt, um Prozesse zu automatisieren und Vorhersagen zu treffen. Die Entwicklung der Systeme erfolgt dabei entweder innerhalb des Unternehmens oder in Zusammenarbeit mit externen Partnern. Um Verfahren des maschinellen Lernens zu implementieren, wird dabei fast immer auf Open-Source Lösungen zurückgegriffen. Insbesondere Programmiersprachen wie Python und R haben hierbei in den letzten Jahren enorm an Bedeutung gewonnen. Open-Source-Bibliotheken wie Tensorflow oder PyTorch machen es hierbei einfach, auch moderne Verfahren wie Deep Learning in wenigen Schritten zu implementieren, was diese Techniken für viele Unternehmen überhaupt erst nutzbar macht.

Ähnlich wie normale Software-Systeme müssen auch ML-Verfahren in betriebliche Prozesse

integriert werden, um Nutzen zu schaffen. Und genau wie bei normaler Software können auch

hier Probleme auftreten, die dazu führen, dass sich ML-Systeme nicht wie beabsichtigt verhalten. Da die Systeme nicht explizit programmiert, sondern vielmehr durch Daten trainiert werden ist die Testbarkeit und Überwachbarkeit dabei oft sehr viel schwieriger als bei normaler Software.

Methoden zur Untersuchung von Robustheit, Sicherheit und Nachvollziehbarkeit spielten

bei der Ausbildung von Data-Scientists- und Machine-Learning Experten zudem bisher eine eher

untergeordnete Rolle, dementsprechend ist der Wissensstand zu diesem Thema selbst bei

erfahrenen Spezialisten oft noch gering. Aktuell wird eine Vielzahl an Lösungen entwickelt, um

eine Überwachung und Kontrolle von ML-Verfahren in automatisierter Weise zu ermöglichen

und die Entwickler der Verfahren dabei zu unterstützen, diese sicher, robust, fair, nachvollziehbar und transparent zu gestalten. (Auszug aus Bitkom Broschüre "Blick in die Blackbox" vom 16. Okt 2019, Artikel von Dr. Andreas Dewes, KI Protect GmbH)


Wir bieten Ihnen hierzu über unsere Partner entsprechende Lösungen und Beratungsdienstleistungen an. Sprechen Sie uns an oder melden Sie sich an für unser kostenloses Online-Zukunftsforum "Daten" am 05. März 2020.


© 2019 by Software Innovation Bridge

+49 176 51975082