Für tieferes Verständnis und mehr Vertrauen: Die KI muss ihre Vorgehensweise erklären

Über die Person

• Mehr als zehn Jahre Erfahrung in der multidisziplinären Data-Science-Forschung einschließlich generativer KI, LLM-Bias und Transparenz, Deep Learning, KI gesteuerter Arzneimittelforschung und erklärbarer KI
• Expertin für Big-Data-Analytik, Beratung lokal, global und militärisch tätiger Kunden in den Bereichen Mensch-KI-Teaming, Modellierung menschlicher Leistung, Vorhersage der Unternehmensleistung, Einführung von KI und Risikominimierung
• Erhielt drei IEEE-Auszeichnungen: Outstanding Young Professional, IEEE Huntsville Young Professional of the Year, IEEE Eta Kappa Nu (HKN) Outstanding Young Professional

Sie sind führende Wissenschaftlerin auf dem Gebiet des maschinellen Lernens. Welche Herausforderungen haben Unternehmen aus Ihrer Sicht bei der Anpassung an das digitale Zeitalter zu bewältigen und welche Strategien empfehlen Sie hier?

Eine Herausforderung, die ich für viele Unternehmen bei der Anpassung an das digitale Zeitalter sehe, besteht in der Entwicklung geeigneter Lerntechnologien: Wie kann man KI optimal zur Verbesserung der Produktivität nutzen? Besonders wichtig ist die Frage, wie sich KI ethischer, sicherer, zuverlässiger und konsequenter einsetzen lässt.

Können Sie Beispiele für die erfolgreiche Umsetzung von KI-Prinzipien in Unternehmen nennen?

Viele Unternehmen setzen KI für mehrschichtige Hierarchien bei der Automatisierung ein. Der Einsatz erstreckt sich von der Bereitstellung in der Produktion bis zur Schulung von Führungskräften, zur Produktentwicklung und zum Marketing. Eine Strategie, die Unternehmen anwenden können, besteht darin, ein Umfeld für die kontinuierliche Entwicklung von Fähigkeiten zu schaffen, in dem die Mitarbeitenden ausreichend Gelegenheit haben, zu lernen, sich weiterzubilden und ihre sich entwickelnden Fähigkeiten zusammen mit der fortschreitenden Technologie anzuwenden. Meiner Meinung nach müssen wir uns bei der Einführung der KI-Technologie fragen: Wie können wir uns parallel zur Technologie kontinuierlich weiterentwickeln? Welche Ressourcen können wir den Mitarbeitenden an die Hand geben, damit sie mit der Technologie wachsen, sich ihr anpassen und interaktiv lernen? Wie können wir KI nutzen, um die Kluft zwischen der neueren Mitarbeitergeneration und den Mitarbeitenden mit jahrzehntelanger Erfahrung zu überbrücken und ein kollaboratives Arbeitsumfeld zu schaffen?

Die erklärbare KI gewinnt an Bedeutung. Wie beurteilen Sie deren Entwicklung im Hinblick auf die Stärkung von Transparenz und Vertrauen in KI-Systeme, insbesondere in Branchen, in denen Entscheidungsprozesse von großer Bedeutung sind?

Die erklärbare KI dient dazu, die Blackbox der KI-Technologie zu erhellen, indem sie ihre Arbeitsgänge in Begriffe übersetzt, die Endnutzer verstehen. Sie liefert klare, umsetzbare Ergebnisse wie „Stopp“ oder „Weiter“ und macht den Entscheidungsprozess verständlicher und benutzerfreundlicher. Damit kann dem Vorbehalt begegnet werden: „Ich habe diese Technologie und weiß auch, was sie kann. Dennoch bin ich nicht sicher, ob ich ihr genug vertraue, um sie auch zu nutzen.“ In solchen Fällen ist die erklärbare KI unglaublich nützlich. Tesla beispielsweise macht die Entscheidungen der KI-Systeme bei Fahrzeugen transparent, damit Nutzer*innen sie verstehen und der Technologie vertrauen. Dies könnte etwa so aussehen: Tesla sagt zu dem Nutzer (Fahrer): „Hallo, ich sehe ein Stoppschild. Rechnen Sie mit einer Verlangsamung oder plötzlichem Bremsen.“ Der Nutzer wäre dann eher in der Lage, angemessen zu handeln und/oder die Vorgehensweise der KI zu akzeptieren, als wenn die KI eigenständig ohne Vorwarnung agiert und so das Misstrauen gegenüber der Technologie verstärkt.

Was sind angesichts des rasanten Fortschritts bei KI, maschinellem Lernen und Large Language Models Ihrer Meinung nach die wichtigsten Fähigkeiten und Kompetenzen der künftigen Arbeitskräfte und wie können Unternehmen diese Fähigkeiten bei ihren Mitarbeitenden effektiv fördern?

Generative KI und Sprachmodelle wie Large Language Models haben die Art und Weise verändert, wie wir KI nutzen und täglich zur Steigerung der Produktivität einsetzen. Wichtig ist, dass wir uns wieder mehr auf die Schulung und Ausbildung konzentrieren. Es genügt nicht, die Vorteile der KI zu nutzen, man muss sie auch sinnvoll einsetzen. Mehr denn je besteht ein großer Bedarf an der richtigen Mischung von Kompetenzen. Man braucht technische Fähigkeiten, KI-Fähigkeiten und Soft Skills.

Um ihren Kunden, Kollegen und Teammitgliedern effektiv zu vermitteln, was KI sagt und tut, und so deren Wirkung zu maximieren, benötigen die Mitarbeitenden also eine Mischung aus technischem Fachwissen, KI-Expertise und Soft Skills. Entwicklungs- und Schulungsprogramme für Mitarbeitende spielen hier eine entscheidende Rolle. Die Mitarbeitenden erwerben die technischen Fähigkeiten einerseits, damit sie verstehen, was das Modell tut, warum es das tut und wie es das tut, und andererseits, damit sie genau dies den Endnutzern erklären können, sodass letztlich die größtmögliche Wirkung erzielt wird. Die Förderung einer Kultur der Bildung und des Lernens ist von grundlegender Bedeutung für den Erfolg. Ebenso wichtig sind Transparenz, Erklärbarkeit, verantwortungsvoller Einsatz und die ethische Integration von KI. Unternehmen, die Richtlinien und Rahmenwerke zur Unterstützung dieser Grundsätze einführen, werden ihre Rollen und ihr gesamtes Umfeld erheblich verändern.

Welche Branchen oder Geschäftsbereiche werden die Auswirkungen der KI am stärksten zu spüren bekommen? Und in welcher Weise?

Praktisch jede Branche, die mit Technologie in Berührung kommt, wird durch KI auf revolutionäre Weise verändert werden. Die Palette reicht von der Fertigung über Marketing, Gesundheitswesen und Kundenservice bis zu Tools für die Produktivität im Alltag.

Meines Erachtens liegt der Zweck der KI darin, dass sie ein nützliches und leistungsfähiges Hilfsmittel zur Unterstützung von Entscheidungen ist. Sie kann uns dabei helfen, jeden technischen Bereich zu rationalisieren. Dazu gehören beispielsweise digitale Zwillinge in der Fertigung, die Optimierung agiler Abläufe, interaktives Marketing und gemeinsame Produktentwicklung mit Kunden unter Verwendung von generativer KI, Diagnostik, Prognose und Analyse von KPI-Zielen (wie man dorthin kommt und warum man den Entscheidungen der KI vertrauen sollte). Transparente KI, verbesserte Data-Mining Fähigkeiten und die Verwendung von Large Language Models verbessern die Zugänglichkeit im Allgemeinen.

Wie sieht ein erfolgreicher Ansatz für Unternehmen aus, die benötigten Fähigkeiten und die Kultur rund um KI aufzubauen?

Für jedes Unternehmen, das im Zeitalter der KI nachhaltigen Erfolg anstrebt, ist es heute wichtiger denn je, in Menschen zu investieren, entsprechende Rahmenwerke zu schaffen und Fähigkeiten zur Förderung einer KI-freundlichen Arbeitskultur aufzubauen. Als Ergebnis umfangreicher Forschung unter Verwendung von KI und maschinellem Lernen für die Modellierung und Vorhersage der Unternehmensleistung auf der Grundlage des Baldridge-Modells und der Lean Six SigmaModelle haben wir gezeigt, dass „Leadership“ einer der entscheidenden Faktoren ist, die den Erfolg eines Unternehmens bestimmen. Folglich ist eine visionäre Führung, die die Vorteile von KI für das Unternehmen erkennt, von entscheidender Bedeutung. Dies gilt ebenso für die Förderung von Lernumgebungen für alle Mitarbeitenden, damit diese ihre Fähigkeiten verbessern können. Vorteilhaft sind auch strategische Rahmenwerke für die Mitarbeiterplanung und -entwicklung. Der Grundgedanke ist, Mitarbeitende mit zusätzlichen technischen Fähigkeiten auszustatten, damit sie ihr Fachwissen besser nutzen können. Die Einführung agiler Betriebsmodelle optimiert interne Abläufe zusätzlich.

KI kann auch bereichsübergreifende Kommunikationsbarrieren überbrücken, unterschiedliche Teams zur Problemlösung zusammenführen, Innovation und Kreativität fördern und Wege zu einer nachhaltigen KI-Integration ebnen. Ein entscheidender Faktor ist schließlich, dass man die Leistung generativer KI nutzt, um überzeugende Modelle von Geschäfts- und Kundenvisionen zu erstellen, die verdeutlichen, was ein Unternehmen zu bieten hat.

1. Verantwortliche und erklärbare KI für Transparenz und Rechenschaftspflicht:
   Wir brauchen rechtliche, politische und organisatorische Richtlinien, die die KI für ihre Entscheidungen (sowohl richtige als auch falsche) verantwortlich machen, sowie Risikomanagementstrategien für den Fall, dass die KI tatsächlich falsche Schlussfolgerungen zieht. Die Einbeziehung von „Human in the Loop“ und ein auf den Menschen ausgerichtetes Design können die Problematik entschärfen und eine evolutionär lernende KI-Umgebung fördern.
   
   
2. Einbeziehung ethischer KI-Designrahmen:
   Entwicklung gleichberechtigt zugänglicher KI-Technologien zur Bewältigung sozialer Auswirkungen, die sich aus der Einführung von KI ergeben. Eine Rekrutierungssoftware muss beispielsweise eine KI beinhalten, die Vielfalt in Daten und Lernprozesse einbeziehen kann, um automatisierte Entscheidungen zu verhindern, die eine Diskriminierung von ethnischer Zugehörigkeit, Geschlecht, Rasse oder Behinderung beinhaltet.

3. Datenschutz, Sicherheit und Datenregulierung:
   Dies ist ein zentrales Anliegen im modernen Zeitalter von Big Data. Wie können wir Daten sichern, den Schutz der Privatsphäre gewährleisten und den Datenzugang auf verschiedenen Ebenen regeln? Welche individuellen Unternehmensrichtlinien für den Einsatz von KI sind geeignet, diesen Bedenken Rechnung zu tragen? Wie beeinflussen die verschiedenen Nationen weltweit die Art und Weise, wie Datentransaktionen betrachtet werden? Diese Themen sollten im Zeitalter der KI-Revolution gemeinsam weiterentwickelt werden