Das zeichnet eine verantwortungsvolle KI aus

(firmenpresse) - 10. Dezember 2020 – Trifft Künstliche Intelligenz diskriminierende Entscheidungen oder schlägt Kunden unpassende Angebot vor, kann das den Ruf und den Umsatz von Unternehmen ernsthaft beschädigen. Pegasystems zeigt auf, wie sie sich mit einer verantwortungsvollen KI davor schützen können.

Immer mehr Unternehmen setzen bei ihren Angeboten auf Künstliche Intelligenz (KI). Ihre Algorithmen schlagen Produkte und Services vor, hauchen Chatbots Leben ein und übersetzen Texte. Dadurch unterliegen Unternehmen einem gehörigen Wettbewerbsdruck, denn die Konkurrenz hat ihre KI-Systeme schließlich längst am Start. Dennoch sollten sie sich vor Schnellschüssen hüten und sicherstellen, dass sie eine verantwortungsvolle Künstliche Intelligenz einsetzen. Sonst können ihnen erhebliche Schäden drohen. Pegasystems, ein führender Anbieter von Kundenbindungs-Software für Vertrieb, Marketing, Service und Operations, nennt die vier zentralen Eigenschaften einer solchen KI:

1. Fairness. Unternehmen sollten sicherstellen, dass ihre KI alle Geschlechter, Ethnien, Altersgruppen, Gesellschaftsschichten, Einkommensgruppen, religiösen Gemeinschaften und sexuellen Orientierungen gleich behandelt. Dazu müssen sie KI-Modelle aufbauen, die frei von Voreingenommenheiten sind, sie proaktiv überwachen und ihre Ergebnisse kontinuierlich analysieren. Der Aspekt der Fairness hat beim Einsatz von KI oft nicht die oberste Priorität. Treffen Algorithmen aber diskriminierende Entscheidungen, kann das für Unternehmen äußerst ruf- und geschäftsschädigende Folgen haben.

2. Transparenz. Unternehmen sollten im Zweifelsfall aufzeigen können, wie ihre KI zu einer Entscheidung gelangt ist. Das gilt insbesondere für stark regulierte Branchen wie Finanzdienstleistungen oder Versicherungswesen. So geriet vor kurzem etwa ein Finanzdienstleister in die Schusslinie, weil er anscheinend Frauen mit demselben Einkommenshintergrund wie Männer schlechtere Konditionen für Kreditkarten anbot. Da er nicht erklären konnte, wie seine KI zu den entsprechenden Entscheidungen kam, stand er als frauenfeindlich da. Für regulierte und risikoreiche Anwendungsfälle sollten Unternehmen deshalb transparente und erklärbare Algorithmen einsetzen.



3. Empathie. Die Notwendigkeit für Unternehmen, sich gegenüber ihren Kunden einfühlsam zu zeigen, war noch nie so groß wie in den belastenden Zeiten der Corona-Pandemie. Deshalb sollten sie eine empathische KI einsetzen. Eine solche KI trifft Entscheidungen, die relevant und hilfreich sind und die Bedürfnisse der Kunden an die erste Stelle setzen. Dazu muss sie in der Lage sein, den vollständigen Kontext eines Kunden zu berücksichtigen. Nur dann kann sie wissen, was er genau jetzt benötigt. Das muss nicht unbedingt ein bestimmtes Angebot sein, sondern kann auch bedeuten, ihn für eine gewisse Zeit in Ruhe zu lassen.

4. Robustheit. Vor einigen Jahren machte der Twitter-Bot Tay Schlagzeilen. Die Twitter-Nutzer waren dazu aufgerufen mit ihm zu interagieren; innerhalb von 24 Stunden entwickelte er sich dabei zu einem Alptraum. Das zugrundeliegende KI-Modell wurde durch die Daten, die es aus den Twitter-Konversationen aufnahm, frauenfeindlich und rassistisch. Dieser Fall macht deutlich, dass Unternehmen eine robuste KI benötigen; eine KI, die durch eingebaute Schutzmechanismen, Regeln und Leitlinien nicht so leicht beeinflusst werden kann.

„Fairness, Transparenz, Empathie und Robustheit sind die Grundpfeiler einer verantwortungsvollen Künstlichen Intelligenz. Mit ihnen können Unternehmen sicherstellen, dass ihre Künstliche Intelligenz die Werte unserer Gesellschaft widerspiegelt und die Kundenbedürfnisse in den Mittelpunkt stellt“, sagt Dr. Kay Knoche, Principal Solution Consultant bei Pegasystems. „Das ist nicht nur ethisch geboten, sondern macht sich langfristig auch im Umsatz der Unternehmen positiv bemerkbar.“


Dieses Listicle und das Bild in höherer Auflösung können unter www.brandmacher.de/presseinformationen/2 abgerufen werden.
Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
PresseKontakt / Agentur:
Bereitgestellt von Benutzer: BRANDmacher
Datum: 10.12.2020 - 16:27 Uhr
Sprache: Deutsch
News-ID 1867396
Anzahl Zeichen: 4086

Kontakt-Informationen:
Ansprechpartner: Christina Haslbeck
Stadt:

München

Telefon: 089-4566639-14

Kategorie:

Internet

Meldungsart: Unternehmensinfos
Versandart: Veröffentlichung
Freigabedatum: 10.12.2020

Diese Pressemitteilung wurde bisher 845 mal aufgerufen.

Die Ära der kostenlosen KI ist vorbei ...
13. Mai 2026 – Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren. Warum? In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlo

Wie funktioniert erfolgreiche Zusammenarbeit zwischen Mensch und KI? Sechs Prinzipien im Überblick ...
München, 21. April 2026 – Wie greifen Mensch und Maschine optimal ineinander? Diese Frage beschäftigt uns schon lange – doch durch Künstliche Intelligenz gewinnt sie enorm an Dringlichkeit. Pegasystems (www.pega.com/de) formuliert sechs Leitprinzipien für die Zusammenarbeit von Mensch und KI

SaaSpocalypse Now: Sind KI-Agenten wirklich das Ende von klassischer Software? ...
In den vergangenen Wochen wurde in der Tech-Branche viel über die sogenannte „SaaSpocalypse“ diskutiert. Wer nun etwas verwirrt ist, weil wir ziemlich schnell von „Software erobert die Welt“ zu „Wir brauchen keine Software mehr“ übergegangen sind, ist nicht allein. Das kann schnell pas

Weitere Mitteilungen von Pegasystems

Kompakt, schick und leistungsstark: Rangee präsentiert die Thin Clients S810 und LT550E ...
9. Dezember 2020 – Rangee, deutscher Hersteller von Thin Clients und Zero Clients, hat seine neue Gerätegeneration mit aktuellen CPUs aus Intels J-Serie bestückt, die für einen deutlichen Performanceschub sorgen. Der macht sich nicht nur beim flotten Systemstart bemerkbar, sondern erlaubt auch

Keine Wahl ist auch keine Lösung ...
Software as a Service (SaaS) ist eine feine Sache. Für viele Anwender genau das Richtige. Aber für alle? Ganz sicher nicht! Immer mehr Software-Anbieter tun jedoch so, als wäre SaaS die alleinseligmachende Darreichungsform und lassen den Anwendern keine Wahl mehr: entweder SaaS oder gar nichts. J

Was an den Mythen über die Cloud dran ist und was nicht ...
9. Dezember 2020 – Kostengünstig, aber datenschutztechnisch heikel: Über die Cloud existieren zahlreiche Mythen. IT-Dienstleister Avision klopft fünf gängige davon ab und zeigt auf, was an ihnen dran ist. Viele Unternehmen spielen mit dem Gedanken, Anwendungen künftig in der Cloud zu betre

Gaming-Desktops von Alienware mit neuen High-End-Grafikkarten von NVIDIA jetzt erhältlich ...
9. Dezember – Das Warten hat ein Ende: Mehrere Gaming-Desktops von Dell Technologies sind nun mit den neuen Geforce-RTX-30-Grafikkarten von NVIDIA verfügbar. Verbesserte Raytracing-Kerne, neue Streaming-Multiprozessoren, GDDR6-Hochgeschwindigkeitsspeicher und DLSS-AI-Beschleunigung – mit de