KI und Ethik müssen schnellstens zusammenwachsen

Autor: Fred Cuny, Senior Director Pegasystems, CTO DACH and Nordics

(firmenpresse) - 29. Januar 2025 – Im Hype um die Einsatzmöglichkeiten von Künstlicher Intelligenz bleibt die Diskussion um deren verantwortungsbewusste Nutzung zunehmend auf der Strecke. Zu verlockend sind die Möglichkeiten, zu atemberaubend ist das Entwicklungstempo. Gleichzeitig wird immer deutlicher, dass KI zwar nach rationalen Gesichtspunkten handelt, die Berücksichtigung ethischer Aspekte aber (noch) nicht zu ihren Schlüsselkompetenzen gehört. Vorurteile werden dadurch nicht abgebaut, sondern verstärkt. Wie also umgehen mit KI? Der einfachste Ansatz ist der, KI lediglich als ein besonders mächtiges, effizientes Werkzeug zu betrachten. Die Kontrolle der Ergebnisse bleibt in menschlicher Hand, etwa zur Vermeidung von KI-Halluzinationen. Damit behielten auch die üblichen Rechts- und Compliance-Normen ihre Gültigkeit. Verstöße dagegen müssten dann von Menschen entsprechend aufgedeckt und beseitigt werden.


Das Problem von Effizienz und Kontrollierbarkeit

Aber dabei stellen sich zwei Probleme: Effizienz und Kontrollierbarkeit. KI-getriebene Automatisierung ergibt nur dann Sinn, wenn sie Abläufe schneller, einfacher und kostengünstiger macht. Kritische menschliche Kontrolle aber unterläuft genau diese Vorteile. Wenn Mitarbeitende die In- und Outputs KI-getriebener Prozesse überprüfen oder umfangreiche Referenzen zu Rate ziehen müssen, verpuffen viele der gewünschten KI-Effekte. KI entfaltet ihr volles Potenzial erst dann, wenn sie unabhängig agieren kann, etwa bei autonomem Fahren. Dort werden ständig Echtzeit-Entscheidungen getroffen, die sich menschlicher Kontrolle zwangsläufig entziehen. Aber was passiert, wenn Kontrolle von vorneherein gar nicht möglich ist? Woher kommen die Daten und Modelle? Die dafür notwendige Transparenz und Nachvollziehbarkeit ist mit vertretbarem Aufwand nur bei gängigen Use-Cases möglich.

Wenn der Mensch wenig Kontrollmöglichkeiten hat und insbesondere für die kritischeren Anwendungsfälle, muss KI zwangsläufig selbst Entscheidungen treffen, die ethisch begründet sind – zum Beispiel Geschäftsentscheidungen auf gesetzliche Rahmenbedingungen prüfen. Retrieval Augmented Generation (RAG) eignet sich für die geläufigsten Herausforderungen der KI wie Halluzinationen, Nachverfolgbarkeit oder Aktualität der Informationsbasis. Es mangelt aber an der funktionalen Einbindung ethischer Rahmenwerke. Ansätze wie etwa die Agent-Deed-Consequence- oder Human-AI-Teaming-Modelle sind aber noch nicht bis zur Praxisreife entwickelt. Die vorhandenen Lücken müssen schnellstens geschlossen werden. Es besteht daher ein rapide wachsender Bedarf, sich mit den ethischen Auswirkungen der Zusammenarbeit zwischen Mensch und KI zu befassen.




Dieses Statement und das Bild in höherer Auflösung können unter www.brandmacher.de/company/pegasystems abgerufen werden.
Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
PresseKontakt / Agentur:
Bereitgestellt von Benutzer: BRANDmacher
Datum: 29.01.2025 - 13:32 Uhr
Sprache: Deutsch
News-ID 2148960
Anzahl Zeichen: 2987

Kontakt-Informationen:
Ansprechpartner: Christina Haslbeck
Stadt:

München

Telefon: +49-89-59997-702

Kategorie:

Internet

Meldungsart: Unternehmensinfos
Versandart: Veröffentlichung
Freigabedatum: 29.01.2025

Diese Pressemitteilung wurde bisher 434 mal aufgerufen.

Pegasystems macht Schluss mit Token-Gebühren ...
München, 9. Juni 2026 – Pegasystems (www.pega.com/de), der Enterprise-KI-Softwareanbieter für geschäftskritische Prozesse, kündigt an, dass Unternehmen mit der kommenden Plattform-Version Pega Infinity 26 agentenbasierte Workflows entwerfen, erstellen und ausführen können, ohne pro Token zu

Die Ära der kostenlosen KI ist vorbei ...
13. Mai 2026 – Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren. Warum? In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlo

Wie funktioniert erfolgreiche Zusammenarbeit zwischen Mensch und KI? Sechs Prinzipien im Überblick ...
München, 21. April 2026 – Wie greifen Mensch und Maschine optimal ineinander? Diese Frage beschäftigt uns schon lange – doch durch Künstliche Intelligenz gewinnt sie enorm an Dringlichkeit. Pegasystems (www.pega.com/de) formuliert sechs Leitprinzipien für die Zusammenarbeit von Mensch und KI

Weitere Mitteilungen von Pegasystems

Security auf Rezept: Wie das Gesundheitswesen sicherer wird ...
29. Januar 2025 – Das Gesundheitswesen steht vor gewaltigen Herausforderungen: Der Fachkräftemangel und Budgetprobleme bereiten Betreibern von Krankenhäusern und medizinischen Einrichtungen Kopfzerbrechen. Immer öfter steht aber auch die digitale und physische Sicherheit im Fokus. HID (www.hidg

Ein Blick in die Glaskugel: Fünf (mögliche) GenAI-Schlagzeilen im Jahr 2025 ...
29. Januar 2025 – Im Gegensatz zu herkömmlichen KI-Systemen, die in der Regel für klar definierte und eng umrissene Aufgaben eingesetzt werden, zeichnet sich generative KI (GenAI) durch Flexibilität und Vielseitigkeit bei der Erstellung von Inhalten aus. Die Technologie ist in der Lage, aus den

50 Jahre deutsche Digitalisierung: Zwischen gebrochenen Versprechen und genutzten Chancen ...
Am 8. April 1981 beschließt das Bundeskabinett unter Kanzler Helmut Schmidt den Bau eines flächendeckenden Glasfasernetzes – der erste zaghafte Schritt in Richtung Netzmodernisierung. Bis 2015, so das ambitionierte Ziel, soll in jedem Gebäude Deutschlands – vom Plattenbau in Westberlin bis zu

Wenn die Baby-Boomer gehen, muss Software helfen ...
28. Januar 2025 – Weil die Baby-Boomer in Rente gehen, wartet auf deutsche Unternehmen und Behörden ein dramatischer Arbeitskräftemangel. IntraFind zeigt auf, wie sie die Folgen dieses Mangels mit KI-basiertem Wissensmanagement abmildern können. Der Fachkräftemangel ist jetzt schon an allen