Mit Wörtern rechnen: AI&LLMs für Entscheidungsträger

(PresseBox) - Grosse Sprachmodelle lernen aus «Büchern», indem sie Texte in kleine Einheiten, sogenannte Tokens, zerlegen. Diese Modelle achten genau darauf, was links und rechts von jedem Wort steht und erstellen für jedes Wort riesige Vektoren. Diese Vektoren enthalten alle möglichen Wahrscheinlichkeiten der Wörter, die in der Nachbarschaft auftauchen können, wodurch die Modelle das Zusammenspiel der Wörter «verstehen».

Let's dive in...

Ohne zu sehr ins Detail zu gehen, möchte ich doch einiges dazu erklären, wie man mit Wörtern Berechnungen anstellt und Vorhersagen treffen kann.

Zunächst wird ein Textblock aus dem Lernmaterial in Tokens zerlegt. Um die Bedeutung eines Wortes zu erfassen, beobachten LLMs diese Trainingsdaten und beachten die umliegenden Wörter. Das Modell verarbeitet diese Wörter und erstellt einen Vektor, bekannt als «Word Embedding», der auf der Nähe der Wörter in den Trainingsdaten basiert. Ein Word Embedding kann Hunderte Werte haben, wobei jeder Wert einen anderen Aspekt der Bedeutung eines Wortes repräsentiert. Genauso wie du ein Haus anhand seiner Merkmale beschreibst – Typ, Standort, Schlafzimmer, Badezimmer, Stockwerke –, quantifizieren die Werte in einem Embedding die sprachlichen Eigenschaften eines Wortes.

Die Art und Weise, wie diese Charakteristika abgeleitet werden, bedeutet, dass wir nicht genau wissen, was jeder Wert darstellt. Aber Wörter, von denen wir erwarten, dass sie auf vergleichbare Weise verwendet werden, haben oft ähnlich aussehende Embeddings. Im nachfolgenden Beispiel sieht man, dass die Wörter «Sea» und «Ocean» sowie «football» und «soccer» oder «I» und «we» sehr ähnliche «Word Embeddings» haben.

Hier geht es zum gesamten Artikel: Mit Wörtern rechnen: AI & LLMs für Entscheidungsträger



Die BitHawk AG beschäftigt rund 230 Mitarbeitende. Der Hauptsitz von BitHawk ist in Sursee, weitere Standorte befinden sich in Basel und Winterthur.

Die Kernkompetenzen der BitHawk liegen in den Bereichen Consulting, Engineering und Operations von IT-Infrastrukturen sowie in IT- und Enterprise Service Management Lösungen. Das Lösungsportfolio umfasst die Themen Netzwerk, Unified Communications und Collaboration, Unified Computing, Workplace und Public- Hybrid und Privat Clouds . Speziallösungen wie IT- Security und Digital Signage Solution runden das Portfolio ab. Qualifizierte Spezialisten beraten Kunden im Hinblick auf eine langfristig sinnvolle und anpassungsfähige IT-Umgebung. Ein umfassender Service Desk, ein eigenes Rechenzentrum und Repair Center garantieren höchste Verfügbarkeit und schnelle Reaktionszeiten.

Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
Bereitgestellt von Benutzer: PresseBox
Datum: 23.02.2024 - 09:12 Uhr
Sprache: Deutsch
News-ID 2084214
Anzahl Zeichen: 2885

Kontakt-Informationen:
Ansprechpartner: Roland Marti
Stadt:

Sursee

Telefon: +41 (58) 2260838

Kategorie:

Softwareindustrie

Diese Pressemitteilung wurde bisher 308 mal aufgerufen.

Zukunftsbeständige IT: Die neue Rolle in Unternehmen ...

In den vergangenen Jahrzehnten hat sich die Informationstechnologie (IT) rasant weiterentwickelt. Vorangetrieben durch innovative Technologien und Services, mussten sich Mitarbeitende in IT-Abteilungen von Unternehmen kontinuierlich mit neuen Themeng ...

LLM Humanoid Robots ...

Die Entwicklung humanoider Roboter hat eine lange Geschichte, die mit einfachen Prototypen wie «Shakey» begann und sich bis zu den fortgeschrittenen Modellen wie Hondas ASIMO erstreckt. Diese frühen Modelle waren zwar wegweisend, aber aufgrund ihr ...

LLM Benchmarks: AI&LLMs entmystifiziert für Entscheidungsträger ...

LLMs brillieren im Spiel «Errate das nächste Wort». Sie sind absolut überlegen durch algorithmische Mustererkennung. Aber wie gut sind sie wirklich im Vergleich zum Menschen und wie sieht es mit ihrer Sozialkompetenz aus? Let's dive in... Wa ...

Alle Meldungen von BitHawk AG