Wie entsteht eine KI-Blackbox?

Einblicke in den Maschinenraum von KI und ML

(firmenpresse) - 16. August 2023 – KI, das unbekannte Wesen. Wir alle haben eine ungefähre Vorstellung davon, was unter der Motorhaube eines Vierzylinders oder im Inneren eines Computers passiert, aber ein Chatbot? Zum besseren Verständnis wirft Pegasystems einen Blick in den Maschinenraum einer KI-Anwendung.

Die Zutaten für eine KI-Anwendung sind kein großes Geheimnis. Die beiden wichtigsten sind die Modelle und Algorithmen, die von einem KI-Entwickler oder Data Scientist entworfen werden, und die Daten, mit denen sie trainiert werden. Unterhalb oder oberhalb (je nach Blickwinkel) dieser sehr allgemeinen Ebene aber fangen die Fragen und Unsicherheiten außerhalb der Expertenzirkel schon an. Was passiert tatsächlich in einer KI-Blackbox, die uns beim Kreditkartenantrag hilft, im Kundendialog antwortet oder uns vermeintlich wohlklingende, aber lediglich assoziative Texte ohne Plausibilitäts-Check schreibt? Pegasystems, Anbieter einer Low-Code-Plattform, die die Agilität weltweit führender Unternehmen steigert, hat die fünf Stationen unter die Lupe genommen, die eine KI-Anwendung durchlaufen muss:

1. Die Modelle und Algorithmen: Algorithmen gewichten beispielsweise bestimmte Merkmale. In der Risikobewertung (etwa bei einem Kreditantrag) sind das Faktoren wie Wohngebiet, Alter oder Beruf. Das daraus resultierende Scoring ist dabei unterschiedlich transparent, abhängig von dem verwendeten KI-Modell. Einfache Klassifizierer sind in der Regel transparenter und nachvollziehbarer als neuronale Netze. Für alle KI-gesteuerten Entscheidungen sollten jedoch der Gleichbehandlungsgrundsatz und die Diskriminanzfreiheit berücksichtigt werden. Modelle und Algorithmen sollten daher so angelegt sein, dass sie Vorurteile und Diskriminierungen (Bias) vermeiden.

2. Die Daten: Über Art und Umfang der für das KI-Modell verwendeten Daten entscheidet in der Regel der KI-Entwickler oder Data Scientist. Dazu kommen später je nach Modell die Daten aus dem laufenden Betrieb, die quasi automatisch eingespeist und zum kontinuierlichen Lernen verwendet werden. Ansätze wie Explainable AI verfolgen das Ziel, sowohl die Funktionsweise der Algorithmen als auch Art und Ursprung der verwendeten Trainingsdaten transparenter zu machen.



3. Das Training: Daten sind dazu da, die Modelle einmalig und/oder kontinuierlich zu trainieren und so praxistauglicher zu machen. Typische Methoden sind das adaptive Lernen und die Selbstoptimierung. Dieses Lernen kann sowohl gesteuert als auch unkontrolliert (etwa bei der Mustererkennung) ablaufen.

4. Das Tuning: Tuning ist notwendig, um auf die ständigen Veränderungen (beispielsweise neue Rahmenbedingungen) zu reagieren. Gradmesser dafür sind Kennzahlen und Performancemetriken (etwa Precision, Recall und ROC), die zyklisch evaluiert werden. Sinkt der ROC beispielsweise unter definierte Schwellenwerte, sollten die Ursachen analysiert werden. Je nach Ergebnis werden dann bestehende Algorithmen und Modelle durch das Einspeisen aktuellerer Trainingsdaten an die neue Realität angepasst oder gegebenenfalls neue entworfen.

5. Der Mensch: Die Selbstoptimierung durch die Maschine allein funktioniert (noch) nicht. Aufgabe des Menschen ist und bleibt es, Ziele zu definieren, alle dafür notwendigen Komponenten zusammenzubringen, in einen Kontext zu setzen und die Ergebnisse zu kontrollieren. Dabei sollte das 4-Augen-Prinzip gelten, um Fehler und Irrwege frühzeitig zu erkennen.

„Es gibt kein perfektes KI-System, das ein für alle Mal funktioniert, es muss vielmehr ständig weiterentwickelt werden“, erläutert Florian Lauck-Wunderlich, Senior Project Delivery Leader bei Pegasystems. „Um so wichtiger ist die strikte Einhaltung von Compliance-Vorgaben bei der KI-Entwicklung und -Nutzung. Dafür sorgen vor allem die Transparenz von Daten und Algorithmen, deren Dokumentation und Nachvollziehbarkeit sowie die Revisionssicherheit.“


Dieses Listicle und das Bild in höherer Auflösung können unter https://brandmacher.de/company/pegasystems abgerufen werden.
Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
PresseKontakt / Agentur:
Bereitgestellt von Benutzer: BRANDmacher
Datum: 16.08.2023 - 17:17 Uhr
Sprache: Deutsch
News-ID 2059520
Anzahl Zeichen: 4200

Kontakt-Informationen:
Ansprechpartner: Natascha Hass
Stadt:

München

Telefon: +49-89-59997-700

Kategorie:

Internet

Meldungsart: Unternehmensinfos
Versandart: Veröffentlichung
Freigabedatum: 16.08.2023

Diese Pressemitteilung wurde bisher 515 mal aufgerufen.

Die Ära der kostenlosen KI ist vorbei ...
13. Mai 2026 – Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren. Warum? In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlo

Wie funktioniert erfolgreiche Zusammenarbeit zwischen Mensch und KI? Sechs Prinzipien im Überblick ...
München, 21. April 2026 – Wie greifen Mensch und Maschine optimal ineinander? Diese Frage beschäftigt uns schon lange – doch durch Künstliche Intelligenz gewinnt sie enorm an Dringlichkeit. Pegasystems (www.pega.com/de) formuliert sechs Leitprinzipien für die Zusammenarbeit von Mensch und KI

SaaSpocalypse Now: Sind KI-Agenten wirklich das Ende von klassischer Software? ...
In den vergangenen Wochen wurde in der Tech-Branche viel über die sogenannte „SaaSpocalypse“ diskutiert. Wer nun etwas verwirrt ist, weil wir ziemlich schnell von „Software erobert die Welt“ zu „Wir brauchen keine Software mehr“ übergegangen sind, ist nicht allein. Das kann schnell pas

Weitere Mitteilungen von Pegasystems

Die Ära der kostenlosen KI ist vorbei ...
13. Mai 2026 – Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren. Warum? In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlo

CGI modernisiert die Dateninfrastruktur im Columbus-Modul der ISS ...
12. Mai 2026 ­­– CGI (NYSE: GIB) (TSX: GIB.A), eines der weltweit führenden IT- und Business-Consulting-Unternehmen, modernisiert im Auftrag der Europäischen Weltraumorganisation ESA die Dateninfrastruktur im Columbus-Modul der Internationalen Raumstation ISS. Das „Columbus Data Management I

Lokal verwurzelt, das „Herz“ der Lieferkette stärken – Das Berliner Distributionszentrum von AEGOG sichert die deutsche Industrieversorgung ...
In der deutschen Baustoff- und Möbelindustrie entscheiden Reaktionsgeschwindigkeit und Stabilität der Lieferkette oftmals über den Erfolg nachgelagerter Unternehmen. Das in Berlin ansässige „AEGOG PLATTEN FACHMARKT BERLIN“ (AEGOG Platten-Distributionszentrum Berlin) ist genau ein solches zen

Mitteilung zur Neuausrichtung der Geschäftsstruktur der Marke AEGOG in der Asien-Pazifik-Region ...
Sehr geehrte Kunden, Partner und Freunde, Die Robert Family GmbH, Deutschland (im Folgenden „das Unternehmen“) gibt hiermit die formelle Anpassung der Geschäftsstruktur ihrer Marke AEGOG für den globalen Markt bekannt. Um das langfristige Wachstum der Marke AEGOG im asiatischen Markt weite

Revolution im Hörbuchmarkt: KI?Stimmen setzen neue Qualitätsstandards ...
Der innovative Hörbuchverlag Stufenwerk Verlag kündigt seinen offiziellen Start an und setzt dabei auf eine klare Mission: Hochwertige Hörbücher weltweit verfügbar machen - produziert ausschließlich mit modernster KI?Sprachtechnologie. Während der Markt traditionell auf menschliche Spreche

HSMA Deutschland e.V. startet Bewerbungsphase für Social Media Award 2026 ...
Die Hospitality Sales & Marketing Association Deutschland e.V. eröffnet die Bewerbungsphase für den Social Media Award 2026 und richtet sich damit erneut an Hotels oder Hotelgruppen aus Deutschland, Österreich und der Schweiz, die ihre digitalen Kommunikationsstrategien erfolgreich sowie nach

CGI und OpenAI beschleunigen mit dem KI-Coding-Agenten Codex die Software-Entwicklung ...
Eschborn, 7. Mai 2026 – CGI (NYSE: GIB) (TSX: GIB.A), eines der weltweit größten unabhängigen IT- und Business-Consulting-Unternehmen, erweitert strategisch seine globale Partnerschaft mit OpenAI. Im Mittelpunkt steht der KI-Coding-Agent Codex. Die Lösung ermöglicht es Unternehmen, KI-Agenten

Asendia und Singapore Post bündeln Kräfte für grenzüberschreitenden E-Commerce ...
Gemeinsames Angebot positioniert Singapur als zentrales Gateway für ein- und ausgehende E-Commerce-Sendungen in APAC und unterstützt Händler beim Übergang zur neuen EU-Zollregelung 2026. Asendia, einer der weltweit führenden Anbieter im internationalen E-Commerce und Postversand, gibt heute

Jugendliche fordern mehr Schutzräume im Internet ...
Jasmina Hostert, bildungs- und jugendpolitische Sprecherin: Die neue, repräsentative UNICEF-Umfrage unter 14- bis 16-Jährigen zeigt: Eine große Mehrheit an Jugendlichen spricht sich für bessere Inhaltsfilter, sichere Voreinstellungen und mehr Verantwortung der Plattformbetreiber aus - und nicht

DAZN und DFL erzielen bedeutenden Erfolg im Kampf gegen Piraterie: Gericht ordnet Sperrung der Website livetv.sx in Deutschland an ...
- Gemeinsamer Durchbruch: DAZN und die DFL erwirken die Sperrung der größten illegalen Sport-Streaming Webseite livetv.sx - Langjähriger Piraterie-Hotspot: Nach über 13 Jahren massiver Piraterie wird einer der zentralen Akteure illegalen Sportstreamings gestoppt - Die Entscheidung markiert eine