Wie entsteht eine KI-Blackbox?

Einblicke in den Maschinenraum von KI und ML

(firmenpresse) - 16. August 2023 – KI, das unbekannte Wesen. Wir alle haben eine ungefähre Vorstellung davon, was unter der Motorhaube eines Vierzylinders oder im Inneren eines Computers passiert, aber ein Chatbot? Zum besseren Verständnis wirft Pegasystems einen Blick in den Maschinenraum einer KI-Anwendung.

Die Zutaten für eine KI-Anwendung sind kein großes Geheimnis. Die beiden wichtigsten sind die Modelle und Algorithmen, die von einem KI-Entwickler oder Data Scientist entworfen werden, und die Daten, mit denen sie trainiert werden. Unterhalb oder oberhalb (je nach Blickwinkel) dieser sehr allgemeinen Ebene aber fangen die Fragen und Unsicherheiten außerhalb der Expertenzirkel schon an. Was passiert tatsächlich in einer KI-Blackbox, die uns beim Kreditkartenantrag hilft, im Kundendialog antwortet oder uns vermeintlich wohlklingende, aber lediglich assoziative Texte ohne Plausibilitäts-Check schreibt? Pegasystems, Anbieter einer Low-Code-Plattform, die die Agilität weltweit führender Unternehmen steigert, hat die fünf Stationen unter die Lupe genommen, die eine KI-Anwendung durchlaufen muss:

1. Die Modelle und Algorithmen: Algorithmen gewichten beispielsweise bestimmte Merkmale. In der Risikobewertung (etwa bei einem Kreditantrag) sind das Faktoren wie Wohngebiet, Alter oder Beruf. Das daraus resultierende Scoring ist dabei unterschiedlich transparent, abhängig von dem verwendeten KI-Modell. Einfache Klassifizierer sind in der Regel transparenter und nachvollziehbarer als neuronale Netze. Für alle KI-gesteuerten Entscheidungen sollten jedoch der Gleichbehandlungsgrundsatz und die Diskriminanzfreiheit berücksichtigt werden. Modelle und Algorithmen sollten daher so angelegt sein, dass sie Vorurteile und Diskriminierungen (Bias) vermeiden.

2. Die Daten: Über Art und Umfang der für das KI-Modell verwendeten Daten entscheidet in der Regel der KI-Entwickler oder Data Scientist. Dazu kommen später je nach Modell die Daten aus dem laufenden Betrieb, die quasi automatisch eingespeist und zum kontinuierlichen Lernen verwendet werden. Ansätze wie Explainable AI verfolgen das Ziel, sowohl die Funktionsweise der Algorithmen als auch Art und Ursprung der verwendeten Trainingsdaten transparenter zu machen.



3. Das Training: Daten sind dazu da, die Modelle einmalig und/oder kontinuierlich zu trainieren und so praxistauglicher zu machen. Typische Methoden sind das adaptive Lernen und die Selbstoptimierung. Dieses Lernen kann sowohl gesteuert als auch unkontrolliert (etwa bei der Mustererkennung) ablaufen.

4. Das Tuning: Tuning ist notwendig, um auf die ständigen Veränderungen (beispielsweise neue Rahmenbedingungen) zu reagieren. Gradmesser dafür sind Kennzahlen und Performancemetriken (etwa Precision, Recall und ROC), die zyklisch evaluiert werden. Sinkt der ROC beispielsweise unter definierte Schwellenwerte, sollten die Ursachen analysiert werden. Je nach Ergebnis werden dann bestehende Algorithmen und Modelle durch das Einspeisen aktuellerer Trainingsdaten an die neue Realität angepasst oder gegebenenfalls neue entworfen.

5. Der Mensch: Die Selbstoptimierung durch die Maschine allein funktioniert (noch) nicht. Aufgabe des Menschen ist und bleibt es, Ziele zu definieren, alle dafür notwendigen Komponenten zusammenzubringen, in einen Kontext zu setzen und die Ergebnisse zu kontrollieren. Dabei sollte das 4-Augen-Prinzip gelten, um Fehler und Irrwege frühzeitig zu erkennen.

„Es gibt kein perfektes KI-System, das ein für alle Mal funktioniert, es muss vielmehr ständig weiterentwickelt werden“, erläutert Florian Lauck-Wunderlich, Senior Project Delivery Leader bei Pegasystems. „Um so wichtiger ist die strikte Einhaltung von Compliance-Vorgaben bei der KI-Entwicklung und -Nutzung. Dafür sorgen vor allem die Transparenz von Daten und Algorithmen, deren Dokumentation und Nachvollziehbarkeit sowie die Revisionssicherheit.“


Dieses Listicle und das Bild in höherer Auflösung können unter https://brandmacher.de/company/pegasystems abgerufen werden.
Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
PresseKontakt / Agentur:
Bereitgestellt von Benutzer: BRANDmacher
Datum: 16.08.2023 - 17:17 Uhr
Sprache: Deutsch
News-ID 2059520
Anzahl Zeichen: 4200

Kontakt-Informationen:
Ansprechpartner: Natascha Hass
Stadt:

München

Telefon: +49-89-59997-700

Kategorie:

Internet

Meldungsart: Unternehmensinfos
Versandart: Veröffentlichung
Freigabedatum: 16.08.2023

Diese Pressemitteilung wurde bisher 529 mal aufgerufen.

Pegasystems macht Schluss mit Token-Gebühren ...
München, 9. Juni 2026 – Pegasystems (www.pega.com/de), der Enterprise-KI-Softwareanbieter für geschäftskritische Prozesse, kündigt an, dass Unternehmen mit der kommenden Plattform-Version Pega Infinity 26 agentenbasierte Workflows entwerfen, erstellen und ausführen können, ohne pro Token zu

Die Ära der kostenlosen KI ist vorbei ...
13. Mai 2026 – Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren. Warum? In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlo

Wie funktioniert erfolgreiche Zusammenarbeit zwischen Mensch und KI? Sechs Prinzipien im Überblick ...
München, 21. April 2026 – Wie greifen Mensch und Maschine optimal ineinander? Diese Frage beschäftigt uns schon lange – doch durch Künstliche Intelligenz gewinnt sie enorm an Dringlichkeit. Pegasystems (www.pega.com/de) formuliert sechs Leitprinzipien für die Zusammenarbeit von Mensch und KI

Weitere Mitteilungen von Pegasystems

Holypapa Digital Agency stellt neue Seo Agency und Services für Shopify ...
Barcelona, 16.08.2023 - Die Holypapa Digital Agency freut sich, die Einführung ihrer neuen Seo Agency und Services für Shopify (shopify-seo-agentur24.de) bekannt zu geben. Als führende SEO-Agentur sind wir darauf spezialisiert, die Sichtbarkeit und den Erfolg von Online-Shops zu verbessern. Ab de

Ex-Lehrer knackt Google-AI-Code ...
Viele Unternehmen haben den falschen Content, da dieser niemals vorne gefunden wird. In der Regel kommen über 20% der Keywords 80% des Traffics. Diese gilt es zu identifizieren, um dann damit Evergreen-Contentseiten aufzubauen. Modernes SEO ist mehr als eine schnelle Webseite, Texte und Links. Zen

Alles hat ein Ende, auch die Automatisierung ...
10. August 2023 – Automatisierte Prozesse sparen Ressourcen ein und machen den Geschäftsalltag leichter. Trotz allem gibt es auch in der Software-Entwicklung Bereiche, bei denen wir uns lieber auf das menschliche Urteil verlassen sollten. Der IT-Dienstleister Avision zeigt, wann Automatisierung n

Was macht ein Büro eigentlich zum Smart Office? ...
9. August 2023 – Viele Unternehmen denken derzeit darüber nach, wie sie ihre Büros für die neue Arbeitswelt fit machen. Schließlich benötigen die meisten Mitarbeitenden keinen festen Arbeitsplatz mehr, sondern eine flexible Umgebung, die sie bei Bedarf aufsuchen und die sie optimal bei der di