KI-Agenten brauchen menschliche Aufsicht
ID: 2160057
Florian Lauck-Wunderlich, Pegasystems (Quelle: Pegasystems)(firmenpresse) - 20. März 2025 – Agentic AI bietet Unternehmen große Vorteile, muss aber von menschlichen Instanzen überwacht werden, um regulatorische Vorgaben und ethische Standards zu erfüllen. Pegasystems (www.pega.com/de) zeigt auf, wie Unternehmen einen robusten Governance-Rahmen für agentische KI etablieren.
Agentic AI verspricht Unternehmen erhebliche Effizienzgewinne. Sie zerlegt komplexe Aufgaben in kleinere, überschaubare Teilaufgaben, die sich einfacher lösen lassen. KI-Agenten, die bestimmte Rollen wahrnehmen oder auf bestimmte Tätigkeiten spezialisiert sind, führen diese Aufgaben dann automatisiert aus. Anschließend setzt ein übergeordneter Agent die Ergebnisse zusammen, um die Gesamtaufgabe zu lösen.
Damit ermöglicht agentische KI mehr und bessere Automatisierung. Sie birgt aber auch Risiken: Algorithmen könnten diskriminierende Entscheidungen treffen, die Entscheidungen von KI-Agenten sind unter Umständen nicht transparent nachvollziehbar oder es entstehen Sicherheitslücken. Unternehmen laufen Gefahr, gegen regulatorische Vorgaben und ethische Standards zu verstoßen.
Agentic AI benötigt einen Governance-Rahmen. Im Zentrum steht dabei die Überwachung durch Menschen, denn eine selbstgesteuerte Überwachung durch Agenten reicht nicht aus. Pegasystems zeigt auf, wie Unternehmen Schritt für Schritt eine robuste Governance für Agentic AI etablieren.
1. Governance-Richtlinien definieren. Zunächst klären Unternehmen die internen Verantwortlichkeiten für ihre KI-Systeme. Zudem legen sie Standards fest, die auf regulatorischen Anforderungen wie dem EU AI Act und der DSGVO basieren.
2. Risikoanalyse und -management implementieren. Im zweiten Schritt identifizieren sie Hochrisiko-Anwendungen. Außerdem führen sie kontinuierliche Monitorings für diskriminierende KI-Entscheidungen („Bias“), Sicherheit und Datenschutz ein.
3. Transparenz- und Erklärbarkeitsmaßnahmen umsetzen. Unternehmen wählen erklärbare KI-Modelle aus oder implementieren ergänzende Mechanismen für die Nachvollziehbarkeit von KI-Modellen in die Agentic AI. Zudem richten sie eine Dokumentation der KI-Entscheidungen für Audits und Regulierungsbehörden ein.
4. Human-in-the-Loop-Mechanismus etablieren. Im nächsten Schritt integrieren Organisationen menschliche Kontrolle in kritische Entscheidungsprozesse. Zusätzlich definieren sie klare Eingriffsmechanismen bei Fehlentscheidungen und legen die Verantwortung für finale Entscheidungen fest.
5. Kontinuierliche Überwachung und Anpassung. Die Governance-Richtlinien sollten regelmäßig evaluiert und aktualisiert werden. Dazu implementieren Unternehmen ein „AI Governance Board“ oder ähnliche Kontrollinstanzen.
6. Schulung und Sensibilisierung der Mitarbeitenden. In Trainingsprogrammen informieren Unternehmen ihre Entwickler und Entscheidungsträger zu ethischen und rechtlichen Anforderungen. Damit schaffen sie eine Governance-Kultur, in der die Verantwortung für Künstliche Intelligenz ernst genommen wird.
„Wenn Unternehmen beim Einsatz von agentischer KI für Transparenz, Fairness und Sicherheit sorgen, minimieren sie nicht nur Risiken. Sie verschaffen sich auch Wettbewerbsvorteile, weil sie das Vertrauen in ihre KI-Systeme stärken“, erklärt Florian Lauck-Wunderlich, Head of AI and Advanced Analytics Consulting EMEA bei Pegasystems. „Dabei verfolgen sie am besten einen strukturierten Governance-Ansatz mit klaren Verantwortlichkeiten, regelmäßigen Audits und menschlicher Kontrolle.“
Dieses Listicle und das Bild in höherer Auflösung können unter www.brandmacher.de/company/pegasystems abgerufen werden.
Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
Pega, The Enterprise Transformation Company, hilft Unternehmen mit KI-gestützter Entscheidungsfindung und Workflow-Automatisierung bei ihrer digitalen Transformation. Viele der weltweit einflussreichsten Unternehmen vertrauen auf die Plattform von Pegasystems, um ihre dringlichsten Herausforderungen zu lösen – von der Personalisierung der Kundenansprache über die Automatisierung von Services bis hin zur Optimierung operativer Prozesse. Seit 1983 entwickelt Pegasystems seine skalierbare und flexible Architektur kontinuierlich weiter, um Unternehmen dabei zu helfen, die Anforderungen ihrer Kunden zu erfüllen und sich gleichzeitig für die Zukunft zu rüsten.
Weitere Informationen über Pega (NASDAQ: PEGA) sind unter http://www.pega.com/de verfügbar.
Melissa Gemmrich
Brandmacher GmbH
Sendlinger-Tor-Platz 6
80336 München
Telefon: 089-59997-759
melissa.gemmrich(at)brandmacher.de
Datum: 20.03.2025 - 14:20 Uhr
Sprache: Deutsch
News-ID 2160057
Anzahl Zeichen: 3807
Kontakt-Informationen:
Ansprechpartner: Melissa Gemmrich
Stadt:
München
Telefon: +49-89-59997-759
Kategorie:
Internet
Meldungsart: Unternehmensinfos
Versandart: Veröffentlichung
Freigabedatum: 20.03.2025
Diese Pressemitteilung wurde bisher 257 mal aufgerufen.
Die Pressemitteilung mit dem Titel:
"KI-Agenten brauchen menschliche Aufsicht"
steht unter der journalistisch-redaktionellen Verantwortung von
Pegasystems (Nachricht senden)
Beachten Sie bitte die weiteren Informationen zum Haftungsauschluß (gemäß TMG - TeleMedianGesetz) und dem Datenschutz (gemäß der DSGVO).
13. Mai 2026 – Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren. Warum? In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlo
Wie funktioniert erfolgreiche Zusammenarbeit zwischen Mensch und KI? Sechs Prinzipien im Überblick ...
München, 21. April 2026 – Wie greifen Mensch und Maschine optimal ineinander? Diese Frage beschäftigt uns schon lange – doch durch Künstliche Intelligenz gewinnt sie enorm an Dringlichkeit. Pegasystems (www.pega.com/de) formuliert sechs Leitprinzipien für die Zusammenarbeit von Mensch und KI
SaaSpocalypse Now: Sind KI-Agenten wirklich das Ende von klassischer Software? ...
In den vergangenen Wochen wurde in der Tech-Branche viel über die sogenannte „SaaSpocalypse“ diskutiert. Wer nun etwas verwirrt ist, weil wir ziemlich schnell von „Software erobert die Welt“ zu „Wir brauchen keine Software mehr“ übergegangen sind, ist nicht allein. Das kann schnell pas
Weitere Mitteilungen von Pegasystems
adesso auf der DMEA 2025: Innovationen für die digitale Zukunft im Gesundheitswesen ...
20. März 2025 – Vom 8. bis 10. April 2025 findet in Berlin mit der DMEA Europas wichtigste Messe zum Thema Digital Health statt. Expertinnen und Experten aus Politik, Wissenschaft und Praxis werden sich im Rahmen der Veranstaltung über die Zukunft der digitalen Gesundheitswirtschaft informieren
Big-Mac-Index steigt rasant: Auch Onlinehandel unter Druck - Insolvenzen ziehen an ...
Die hohe Inflation der Jahre zuvor zeigt auch im Internet ihre Folgen: Kleine Online-Händler verschwinden und große Plattformen dominieren das Angebot. Die Preise steigen, die Kaufkraft sinkt und Lohnkosten nehmen zu. Unideal belegt, wie immer mehr Online-Shops in Deutschland Insolvenz anmelden un
So profitieren Legacy-Systeme vom digitalen Frühjahrsputz ...
19. März 2025 – Langsam steigen die Temperaturen, die ersten Blumen blühen und die Vögel kehren zurück – der Frühling ist da. Es ist auch der perfekte Zeitpunkt für Unternehmen, um ihre IT-Infrastruktur einem gründlichen Frühjahrsputz zu unterziehen und die schwerfällige Legacy-Software
Schnellere Verwaltung, zufriedenere Bürger: CGI treibt die Digitalisierung in NRW weiter voran ...
19. März 2025 – CGI (NYSE: GIB) (TSX: GIB.A), einer der weltweit größten unabhängigen Anbieter von IT- und Business-Consulting-Dienstleistungen, wurde von Nordrhein-Westfalen (NRW) beauftragt, das Land auch künftig bei der weiteren Digitalisierung der öffentlichen Verwaltung mit IT-Strategie
