KI und Ethik müssen schnellstens zusammenwachsen
ID: 2148960
Autor: Fred Cuny, Senior Director Pegasystems, CTO DACH and Nordics
Fred Cuny, Senior Director Pegasystems, CTO DACH and Nordics (Quelle: Pegasystems)(firmenpresse) - 29. Januar 2025 – Im Hype um die Einsatzmöglichkeiten von Künstlicher Intelligenz bleibt die Diskussion um deren verantwortungsbewusste Nutzung zunehmend auf der Strecke. Zu verlockend sind die Möglichkeiten, zu atemberaubend ist das Entwicklungstempo. Gleichzeitig wird immer deutlicher, dass KI zwar nach rationalen Gesichtspunkten handelt, die Berücksichtigung ethischer Aspekte aber (noch) nicht zu ihren Schlüsselkompetenzen gehört. Vorurteile werden dadurch nicht abgebaut, sondern verstärkt. Wie also umgehen mit KI? Der einfachste Ansatz ist der, KI lediglich als ein besonders mächtiges, effizientes Werkzeug zu betrachten. Die Kontrolle der Ergebnisse bleibt in menschlicher Hand, etwa zur Vermeidung von KI-Halluzinationen. Damit behielten auch die üblichen Rechts- und Compliance-Normen ihre Gültigkeit. Verstöße dagegen müssten dann von Menschen entsprechend aufgedeckt und beseitigt werden.
Das Problem von Effizienz und Kontrollierbarkeit
Aber dabei stellen sich zwei Probleme: Effizienz und Kontrollierbarkeit. KI-getriebene Automatisierung ergibt nur dann Sinn, wenn sie Abläufe schneller, einfacher und kostengünstiger macht. Kritische menschliche Kontrolle aber unterläuft genau diese Vorteile. Wenn Mitarbeitende die In- und Outputs KI-getriebener Prozesse überprüfen oder umfangreiche Referenzen zu Rate ziehen müssen, verpuffen viele der gewünschten KI-Effekte. KI entfaltet ihr volles Potenzial erst dann, wenn sie unabhängig agieren kann, etwa bei autonomem Fahren. Dort werden ständig Echtzeit-Entscheidungen getroffen, die sich menschlicher Kontrolle zwangsläufig entziehen. Aber was passiert, wenn Kontrolle von vorneherein gar nicht möglich ist? Woher kommen die Daten und Modelle? Die dafür notwendige Transparenz und Nachvollziehbarkeit ist mit vertretbarem Aufwand nur bei gängigen Use-Cases möglich.
Wenn der Mensch wenig Kontrollmöglichkeiten hat und insbesondere für die kritischeren Anwendungsfälle, muss KI zwangsläufig selbst Entscheidungen treffen, die ethisch begründet sind – zum Beispiel Geschäftsentscheidungen auf gesetzliche Rahmenbedingungen prüfen. Retrieval Augmented Generation (RAG) eignet sich für die geläufigsten Herausforderungen der KI wie Halluzinationen, Nachverfolgbarkeit oder Aktualität der Informationsbasis. Es mangelt aber an der funktionalen Einbindung ethischer Rahmenwerke. Ansätze wie etwa die Agent-Deed-Consequence- oder Human-AI-Teaming-Modelle sind aber noch nicht bis zur Praxisreife entwickelt. Die vorhandenen Lücken müssen schnellstens geschlossen werden. Es besteht daher ein rapide wachsender Bedarf, sich mit den ethischen Auswirkungen der Zusammenarbeit zwischen Mensch und KI zu befassen.
Dieses Statement und das Bild in höherer Auflösung können unter www.brandmacher.de/company/pegasystems abgerufen werden.
Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
Pega, The Enterprise Transformation Company, hilft Unternehmen mit KI-gestützter Entscheidungsfindung und Workflow-Automatisierung bei ihrer digitalen Transformation. Viele der weltweit einflussreichsten Unternehmen vertrauen auf die Plattform von Pegasystems, um ihre dringlichsten Herausforderungen zu lösen – von der Personalisierung der Kundenansprache über die Automatisierung von Services bis hin zur Optimierung operativer Prozesse. Seit 1983 entwickelt Pegasystems seine skalierbare und flexible Architektur kontinuierlich weiter, um Unternehmen dabei zu helfen, die Anforderungen ihrer Kunden zu erfüllen und sich gleichzeitig für die Zukunft zu rüsten.
Weitere Informationen über Pega (NASDAQ: PEGA) sind unter http://www.pega.com/de verfügbar.
Christina Haslbeck
Brandmacher GmbH
Sendlinger-Tor-Platz 6
80336 München
Telefon: 089-59997-702
christina.haslbeck(at)brandmacher.de
Datum: 29.01.2025 - 13:32 Uhr
Sprache: Deutsch
News-ID 2148960
Anzahl Zeichen: 2987
Kontakt-Informationen:
Ansprechpartner: Christina Haslbeck
Stadt:
München
Telefon: +49-89-59997-702
Kategorie:
Internet
Meldungsart: Unternehmensinfos
Versandart: Veröffentlichung
Freigabedatum: 29.01.2025
Diese Pressemitteilung wurde bisher 305 mal aufgerufen.
Die Pressemitteilung mit dem Titel:
"KI und Ethik müssen schnellstens zusammenwachsen"
steht unter der journalistisch-redaktionellen Verantwortung von
Pegasystems (Nachricht senden)
Beachten Sie bitte die weiteren Informationen zum Haftungsauschluß (gemäß TMG - TeleMedianGesetz) und dem Datenschutz (gemäß der DSGVO).
