Wahrhaftigkeit ist die höchste Tugend der KI

Ein Statement von Peter van der Putten, Director AI Lab bei Pegasystems und Assistant Professor AI an der Universität Leiden, zum Rückzug der neuesten ChatGPT-Version.

(firmenpresse) - 5. Mai 2025 – OpenAI hat die aktuellste Version seines GPT-4o-Modells in ChatGPT zurückgezogen, weil es zu „unterwürfig“ wurde. Wie das Unternehmen mitteilt, ist die Ursache dafür nicht hundertprozentig klar. Es könnte aber an einer Kombination aus dem Lernen aus Feedback, Prompt Engineering und personalisierten Kontextdaten liegen.

GenAI-Anbieter stehen generell unter großem Druck, ihre Produkte „unterstützender“ zu gestalten. Außerdem möchten sie bei Benchmarks, etwa der Chatbot Arena, deren Rankings darauf basieren, welche Antworten die Nutzer in einem direkten Vergleich bevorzugen, gut abschneiden. Dabei geben die Nutzer möglicherweise dem, was sie gerne hören wollen, den Vorzug vor dem, was richtig ist. Dasselbe gilt für das „Reinforcement Learning“ durch menschliches Feedback, also die Methode, die von den meisten Anbietern für das Training ihrer Modelle verwendet wird.

Zudem entwickelt sich ChatGPT immer mehr zu einem Chatbot für Privatnutzer, und laut einer aktuellen Untersuchung der Harvard Business Review (https://hbr.org/2025/04/how-people-are-really-using-gen-ai-in-2025) verlagert sich die Verwendung durch Privatnutzer zunehmend auf Anwendungsfälle wie Begleitung, Therapie, Sinnsuche und reinen Spaß. Da ist es natürlich verlockend, die KI auf diese Zielgruppe auszurichten und für sie zu personalisieren – auf Kosten der Wahrhaftigkeit oder Sicherheit.

Ein helfender Assistent ist grundsätzlich eine großartige Sache. Eine KI darf aber nicht zum Ja-Sager werden. Beim Aufbau und Testen der Modelle und Dienste sollten deshalb nicht sofortige „Dopamin-Effekte“ Priorität haben, sondern langfristige Vertrauenswürdigkeit. Es ist wichtig, sich noch einmal in Erinnerung zu rufen, dass es bei empathischer KI nicht nur darum geht, personalisiert, intelligent oder emotional sensibel zu sein. Die tiefste Erwartung von uns Menschen an KI ist moralischer Natur. Sie soll das tun, was für uns am besten ist – und zwar langfristig.




Dieses Statement und das Bild in höherer Auflösung können unter www.brandmacher.de/company/pegasystems abgerufen werden.
Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
PresseKontakt / Agentur:
Bereitgestellt von Benutzer: BRANDmacher
Datum: 06.05.2025 - 12:06 Uhr
Sprache: Deutsch
News-ID 2169797
Anzahl Zeichen: 2368

Kontakt-Informationen:
Ansprechpartner: Christina Haslbeck
Stadt:

München

Telefon: +49-89-59997-702

Kategorie:

Internet

Meldungsart: Unternehmensinfos
Versandart: Veröffentlichung
Freigabedatum: 05.05.2025

Diese Pressemitteilung wurde bisher 225 mal aufgerufen.

Die Ära der kostenlosen KI ist vorbei ...
13. Mai 2026 – Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren. Warum? In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlo

Wie funktioniert erfolgreiche Zusammenarbeit zwischen Mensch und KI? Sechs Prinzipien im Überblick ...
München, 21. April 2026 – Wie greifen Mensch und Maschine optimal ineinander? Diese Frage beschäftigt uns schon lange – doch durch Künstliche Intelligenz gewinnt sie enorm an Dringlichkeit. Pegasystems (www.pega.com/de) formuliert sechs Leitprinzipien für die Zusammenarbeit von Mensch und KI

SaaSpocalypse Now: Sind KI-Agenten wirklich das Ende von klassischer Software? ...
In den vergangenen Wochen wurde in der Tech-Branche viel über die sogenannte „SaaSpocalypse“ diskutiert. Wer nun etwas verwirrt ist, weil wir ziemlich schnell von „Software erobert die Welt“ zu „Wir brauchen keine Software mehr“ übergegangen sind, ist nicht allein. Das kann schnell pas

Weitere Mitteilungen von Pegasystems

Neue KI-Funktionen in Low-Code-Plattform Zoho Creator beschleunigen und vereinfachen die Business-App-Entwicklung ...
5. Mai 2025 – Der globale Technologieanbieter Zoho (www.zoho.com/de) hat zehn neue KI-Services und -Funktionen (www.zoho.com/creator/ai-software-development-platform) in Zoho Creator (www.zoho.com/de/creator), seiner Low-Code-Entwicklerplattform, integriert. Die Neuerungen umfassen unter anderem K

Forcepoint launcht Data Security Cloud ...
5. Mai 2025 – Forcepoint (www.forcepoint.com/de), ein weltweit führender IT-Sicherheitsanbieter, hat die Forcepoint Data Security Cloud (www.forcepoint.com/forcepoint-data-security-cloud) veröffentlicht. Die KI-gestützte Plattform für Datensicherheit schafft Transparenz und Kontrolle über sä

Webdesign mit Konzept – So verhilft InnoConcept Unternehmen zu einem Relaunch ohne Kopfschmerzen ...
Viele Unternehmen unterschätzen, wie sehr eine unprofessionelle Webseite potenzielle Kunden abschreckt. Sebastian Limberg und Toni Otto, Geschäftsführer der InnoConcept GmbH und Experten für hochwertiges Webdesign, helfen Unternehmen dabei, sich online professionell und einzigartig zu präsentie

Wie ein Datumsrechner Ihr CMS-System verbessern und die Büroarbeit vereinfachen kann ...
Effizienter arbeiten mit dem kostenlosen Online-Datumsrechner von tagerechner-online.de Im hektischen Büroalltag zählt jede Minute – vor allem, wenn es um Terminplanung, Fristenverwaltung und Projektorganisation geht. Viele Content-Management-Systeme (CMS) bieten zwar umfangreiche Funktionen,