Eine gruselige Technologie: KI und Halloween haben viel gemeinsam

(firmenpresse) - 24. Oktober 2023 – Halloween steht vor der Tür – am 31. Oktober erwacht das Grauen zum Leben. Weniger Spuk und Grusel würde man sich bei so manchen Ergebnissen von ChatGPT wünschen. Solche Large Language Models (LLM) liefern zwar durchaus beeindruckende Ergebnisse, sind aber oftmals nicht in der Lage, logische und vor allem wahrheitsgemäße Schlussfolgerungen zu ziehen. Statt intelligent zu antworten, reihen sie schlicht Wörter aneinander. Dadurch liefern sie teilweise zombiemäßige, falsche Informationen. Doch wie lässt sich das verhindern?

Generative KI hat in den vergangenen Monaten einen riesigen Boom erlebt. Hinter den nützlichen und vielseitigen Tools stecken sogenannte Large Language Models (LLM), die mit großen Datensätzen trainiert werden, um Texte zu verstehen und zu generieren. Sie nutzen Vektoren für die Abbildung von Beziehungen zwischen Textelementen und sagen eigentlich nur die Wahrscheinlichkeit einer bestimmten Reihenfolge von Wörtern voraus – wirklich intelligent sind sie nicht. Deshalb können sie auch nicht logisch und wahrheitserhaltend schlussfolgern und liefern manchmal irreführende oder gar falsche Informationen. Man spricht dann davon, dass die KI halluziniert.

Wie schnell die KI danebenliegen kann, zeigt ein einfaches Beispiel.

Frage an ChatGPT: Ein Mann und eine Frau sitzen auf einer Bank im Park. Ein anderer Mann kommt und fragt: „Seid ihr Mann und Frau?“ Die auf der Bank sitzende Frau antwortet: „Wir sind zwar kein Ehepaar, aber meine Mutter hat seine Mutter geboren." In welcher Beziehung stehen sie zueinander?

Antwort von ChatGPT: Sie sind Halbgeschwister. Die Frau auf der Bank erklärt, dass ihre Mütter dieselben sind, was bedeutet, dass sie dieselbe Mutter teilen, aber nicht unbedingt denselben Vater. Daher sind sie kein Ehepaar; sie sind Halbgeschwister.

Jedes Kind kennt das logische Konzept von Familienbeziehungen und könnte, hilfsweise auch mittels eines abstrakten Stammbaums, herleiten, dass es sich um Tante und Neffe handelt – nicht aber ChatGPT. Anderen intelligenten Systemen, die Wissen beispielsweise mittels Prädikatenlogik darstellen, wäre ein solcher Fehler ebenfalls nicht unterlaufen.



Um Software mit generativer KI intelligenter zu machen, braucht es eine Architektur aus KI und regelbasierten Komponenten/Agenten sowie gute Praktiken, um diese zu entwickeln und zu betreiben.

Folgende Herausforderungen gilt es dabei zu lösen:

- Voreingenommenheit und Fairness. LLMs lernen aus Trainingsdaten und eignen sich darin enthaltene Voreingenommenheiten an. Das kann zu Resultaten führen, die Stereotype verstärken oder bestimmte Gruppen diskriminieren.

- Repräsentativität. LLMs sind stark von Datenqualität abhängig und ihre Leistung kann in Bereichen mit begrenzten oder qualitativ schlechten Trainingsdaten eingeschränkt sein.

- Fehlendes Verständnis. LLMs generieren zusammenhängend klingende Texte auf Basis von Wahrscheinlichkeiten, ohne jedoch ein echtes Verständnis des Inhalts zu haben und Schlussfolgerungen ziehen zu können.

- Erklärbarkeit: LLMs sind häufig Black-Box-Systeme und bieten somit keine Transparenz, wie sie zu ihren Entscheidungen kommen. Das macht es schwer, Ergebnisse nachzuvollziehen und zu überprüfen.

- Adjustierung. Die Feinabstimmung für bestimmte Aufgaben kann komplex sein und führt möglicherweise nicht immer zu den gewünschten Ergebnissen.

- Überanpassung. Werden LLMs zu sehr auf die Trainingsdaten spezialisiert, führt das leicht zu Problemen mit neuen Daten. Die Resultate mögen plausibel erscheinen, sind aber nicht immer genau oder zuverlässig.

- Validierung und Bewertung. LLMs benötigen zuverlässige Metriken, um die Qualität und die Sicherheit der generierten Inhalte beurteilen zu können.

„Um intelligente Systeme und das Autonomous Enterprise erfolgreich auf den Weg zu bringen, greifen viele Punkte ineinander. Das reicht von der KI-Infrastruktur über die passenden Modelle bis hin zu abgestimmten Vorgehensweisen“, sagt Florian Lauck-Wunderlich, Senior Project Delivery Leader bei Pegasystems. „Generative KI bietet unzählige neue Möglichkeiten, jedoch sollten sich Anwender und Software-Architekten immer auch den Grenzen und Herausforderungen in der Nutzung bewusst sein.“


Dieses Listicle und das Bild in höherer Auflösung können unter https://brandmacher.de/company/pegasystems abgerufen werden.
Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
PresseKontakt / Agentur:
Bereitgestellt von Benutzer: BRANDmacher
Datum: 24.10.2023 - 15:10 Uhr
Sprache: Deutsch
News-ID 2069022
Anzahl Zeichen: 4656

Kontakt-Informationen:
Ansprechpartner: Christina Haslbeck
Stadt:

München

Telefon: +49-89-59997-702

Kategorie:

Internet

Meldungsart: Unternehmensinfos
Versandart: Veröffentlichung
Freigabedatum: 24.10.2023

Diese Pressemitteilung wurde bisher 409 mal aufgerufen.

Pegasystems macht Schluss mit Token-Gebühren ...
München, 9. Juni 2026 – Pegasystems (www.pega.com/de), der Enterprise-KI-Softwareanbieter für geschäftskritische Prozesse, kündigt an, dass Unternehmen mit der kommenden Plattform-Version Pega Infinity 26 agentenbasierte Workflows entwerfen, erstellen und ausführen können, ohne pro Token zu

Die Ära der kostenlosen KI ist vorbei ...
13. Mai 2026 – Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren. Warum? In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlo

Wie funktioniert erfolgreiche Zusammenarbeit zwischen Mensch und KI? Sechs Prinzipien im Überblick ...
München, 21. April 2026 – Wie greifen Mensch und Maschine optimal ineinander? Diese Frage beschäftigt uns schon lange – doch durch Künstliche Intelligenz gewinnt sie enorm an Dringlichkeit. Pegasystems (www.pega.com/de) formuliert sechs Leitprinzipien für die Zusammenarbeit von Mensch und KI

Weitere Mitteilungen von Pegasystems

Diese fünf Level müssen Unternehmen für höchste Sicherheit durchspielen ...
24. Oktober 2023 – Große wie kleine Unternehmen sehen sich einer zunehmenden Anzahl von Cyberattacken gegenüber, gleichzeitig steigt die Menge an sensiblen Daten. Auf ein Security Operations Center (SOC) zu verzichten, gleicht einem Spiel mit dem Feuer – denn der nächste Angriff kommt bestimm

Mit VNCworkspace zu mehr Freiheit und Effizienz am Team-Arbeitsplatz ...
24. Oktober 2023 – VNC, führender Entwickler von Open-Source-basierten Unternehmensanwendungen, stellt mit VNCworkspace ein neues fluides Arbeitsplatz-Modul für die Teamarbeit vor. Das neue Teamwork-Modul VNCworkspace ist Teil des Software-Stacks VNClagoon und eine funktionale Erweiterung des

Integration von Videoaufnahmen in eigene Website ...
Die Firma CaptainCasa GmbH, ein führender Anbieter von Web-Entwicklungstools, gibt stolz die Einführung eines neuen Features bekannt: Die Drag & Drop Integration eines Video-Steuerungselements zur Aufnahme und Hochladen von Videos durch die Nutzer einer Website. Diese Entwicklung ermöglicht

Neue Version von Fadata INSIS: Nahtlose Skalierung und schnelles Deployment für Versicherer ...
23. Oktober 2023 – Fadata, ein führender Anbieter von Softwarelösungen für die Versicherungsbranche, stellt mit dem jüngsten Update des Low-Code-Kernsystems INSIS das gesunde Wachstum von Versicherungsunternehmen in den Mittelpunkt. Mit neuen Geschäftsfunktionen, minutenschnellen Upgrades und