Die Risiken des maschinellen Lernens verstehen

Galvanize

Das maschinelle Lernen spielt heute eine große Rolle dabei, Unternehmen bei der Analyse ihrer strukturierten und unstrukturierten Daten zu unterstützen, neue Risiken zu identifizieren, manuelle Aufgaben nach festgelegten Triggern zu automatisieren und datengestützte Entscheidungen zu treffen. Im besten Fall kann diese Technologie große Mengen manueller Arbeit durch Automatisierung ersetzen und Erkenntnisse liefern, die zu besseren Entscheidungen beim Bewerten, Überwachen und Beilegen von Risiken führen.

Während maschinelles Lernen als Werkzeug des Risikomanagements dient, birgt es selbst auch viele Risiken. Zwar untersuchen oder planen 49 % der Unternehmen den Einsatz des maschinellen Lernens, allerdings erkennt nur eine kleine Minderheit von ihnen die Risiken, die damit verbunden sind. Und nur 41 % der Unternehmen gaben in einer weltweit von McKinsey durchgeführten Befragung an, dass sie die Risiken des maschinellen Lernens umfassend identifizieren und priorisieren können.

Aus diesem Grund wollten wir einige der Risiken des maschinellen Lernens aufzeigen – und wie sich diese angemessen bewerten und steuern lassen.

Welche Risiken bergen Daten beim maschinellen Lernen?

Schlechte Daten
Ihr maschinelles Lernmodell kann den Kontext, in dem die von ihm auszuführenden Aufgaben stehen, nicht erfassen. Um funktionieren zu können, ist es auf von Menschen bereitgestellte Daten angewiesen. (Dieses Dilemma wird häufig mit „Garbage In, Garbage Out“ beschrieben.) Beispiele für so genannte „schmutzige Daten“ umfassen Fehler in den Daten, Ausreißer (z. B. eine Zahl, deren Wert sich signifikant von anderen Zahlen unterscheidet, wodurch die Durchschnittswerte verfälscht werden) und unstrukturierte Daten, die vom Modell nicht adäquat interpretiert werden können („Rauschen“).

Überanpassung
Bei der Überanpassung passen Ihre Trainingsdaten so perfekt zu dem Modell, dass dem Algorithmus nicht genügend Variabilität bleibt, um daraus zu lernen. Das bedeutet, dass das Modell nicht in der Lage sein wird, zu verallgemeinern, wenn es um das Testen echter Daten geht.

Verzerrte Daten
Verzerrte Daten entstehen, wenn sich menschliche Voreingenommenheit in Ihre Datensätze schleicht und die Ergebnisse ruiniert. Beispielsweise wurde dem beliebten Selfie-Editor FaceApp zunächst unbeabsichtigt antrainiert, Gesichter „angesagter“ wirken zu lassen, indem ihr Hautton aufgehellt wurde – dies war das Ergebnis davon, dass das Modell mit einer weitaus größeren Menge von Fotos von Menschen mit hellerer Hautfarbe gefüttert wurde. Wenn aber Vielfalt und Inklusion in Ihren anfänglichen Trainingsdaten nicht berücksichtigt werden, ist es wahrscheinlich, dass im Testergebnis Vorurteile zum Tragen kommen.

Weitere Arten von Risiken des maschinellen Lernens

Abgesehen von Problemen mit dem Algorithmus selbst aufgrund ungeeigneter Trainingssätze, stehen viele Unternehmen bei der Implementierung der Technologie für maschinelles Lernen vor weiteren Problemen. Diese umfassen etwa folgende:

  • Fehlende Strategie und Erfahrung
    Wann immer Sie neue Technologien einführen, müssen Sie zwangsläufig mit einer Lernkurve rechnen. Doch wenn es um maschinelles Lernen geht, stellt die Erfahrung bzw. die fehlende Erfahrung des Benutzers eines der größten Risiken dar. Eine Umfrage unter mehr als 2.000 Teilnehmern aus den unterschiedlichsten Branchen ergab, dass das Fehlen einer klaren Strategie (43 %), gefolgt von einem Mangel an Talenten mit den entsprechenden Fähigkeiten (42 %) die größten Hindernisse für die Einführung von maschinellen Lernlösungen darstellten. Ohne eine Strategie und ohne die entsprechenden Fähigkeiten verschwenden Sie Zeit und Ressourcen für eine Lösung, die möglicherweise nicht funktioniert – oder die zwar funktioniert, aber auf eine Weise, die Ihrem Unternehmen schaden könnte.
  • Sicherheitslücken
    Wenn eine veraltete Datenquelle in Ihrem Modell enthalten ist, kann dies zu Sicherheitslücken in Ihrem Unternehmen führen, indem sie unzureichende Informationen bereitstellt.
  • Regulatorische Herausforderungen
    Wenn Ihr Team nicht genau versteht, auf welche Weise ein Algorithmus zu einer Entscheidung kommt, fehlt ihm möglicherweise das Wissen, um bestimmte Entscheidungen gegenüber einer Aufsichtsbehörde zu rechtfertigen.
  • Third Party Risks
    Einer Ihrer Drittanbieter könnte es versäumen, eine Lösung für maschinelles Lernen ordnungsgemäß zu steuern, sodass eine Datenschutzverletzung auftritt.

Bewerten der Risiken des maschinellen Lernens

Andererseits macht es keines dieser bestehenden Risiken unvernünftig, die Technologie in Ihr Unternehmen einzubinden. Es bedeutet lediglich, dass es darauf ankommt, bei der Implementierung methodisch vorzugehen und sicherzustellen, dass ein Rahmen für die Kontrolle der Lösung vorhanden ist, der innerhalb Ihrer gesamten Organisation umgesetzt wird.

Führen Sie die folgenden Schritte durch, um die Risiken zu bewerten und zu steuern, denen Ihr Unternehmen bei der Implementierung einer Lösung für maschinelles Lernen ausgesetzt sein könnte:

  • Führen Sie ein Risikomanagement-Framework speziell für maschinelles Lernen ein, anstatt sich auf ein standardmäßiges Framework zu verlassen, das möglicherweise nicht die Szenarien abdeckt, mit denen Sie konfrontiert sind.
  • Schulen Sie die gesamte Organisation, wie sich Protokolle für effektives Risikomanagement beim maschinellen Lernen befolgen lassen.
  • Entwickeln Sie Bewertungskriterien, die Sie beim Priorisieren des Risikofokus innerhalb des Unternehmens unterstützen.
  • Bewerten Sie basierend auf dem Feedback von Stakeholdern aus der ganzen Organisation die Risikoprofile und die Risikobereitschaft regelmäßig neu.

Wenn Sie strikte Protokolle einführen und die richtigen Talente, Strategien und Fähigkeiten einsetzen, können Sie die Risiken des maschinellen Lernens identifizieren und priorisieren und sind so in der Lage, die Vorteile dieser einzigartigen Technologie voll auszuschöpfen.

Mehr erfahren

Maschinelles Lernen bietet endloses Potenzial für Ihr Unternehmen, aber die Implementierung und Koordinierung müssen sorgfältig kontrolliert werden, sodass keine neuen Risiken entstehen. In unserem neuen E-Book erfahren Sie mehr darüber, wie Sie die Risiken des maschinellen Lernens richtig steuern und beilegen können.

E-Book:

Ein risikobasierter Ansatz für maschinelles Lernen

Entdecken Sie die Rolle, welche die Anwendungen des maschinellen Lernens bei der Identifizierung, Bewertung und Verwaltung von Risiken spielen können und wie Sie:

  • gängige Risiken im Bereich maschinelles Lernen identifizieren, bewerten und verwalten
  • maschinelles Lernen zum Unterstützen von Risikobewertungen einsetzen
  • mithilfe des maschinellen Lernens Betrugsfälle ermitteln

E-Book herunterladen

Verwandte Beiträge

lang="de-DE"