RAG Modelle: AI&LLMs für Entscheidungsträger

(PresseBox) - Grosse Sprachmodelle finden vielfältige Anwendungen. Das RAG-Modell stellt dabei nicht ein neues AI-Modell dar, sondern eine Methode, wie man ein grosses Sprachmodell geschickt in eine Gesamtarchitektur integriert. Microsoft M365 Copilot ist ein Beispiel, das auf einem solchen RAG-Modell aufbaut.

Let's dive in...

Das RAG-Modell (Retrieval-Augmented Generation) in der AI ist ein hybrider Ansatz, der die Leistungsfähigkeit grosser Sprachmodelle mit der Fähigkeit kombiniert, Informationen aus einer Datenbank abzurufen. Dazu werden zunächst relevante Dokumente oder Daten aus einer Wissensquelle abgerufen und dann mithilfe eines LLM Antworten erstellt, die sowohl auf der Eingabeanfrage als auch auf den abgerufenen Informationen basieren. Dieser Ansatz verbessert die Fähigkeit des Modells, genauere, sachkundigere und kontextrelevante Antworten zu geben.

Microsoft Copilot M365 verwendet ein RAG-Modell (Retrieval-Augmented Generation), das sowohl intelligente Suchtechnologien als auch Datenschutz effektiv integriert. Das System beginnt mit einer intelligenten Suche im eigenen Tenant, um die Anfrage oder den Prompt zu erweitern. Diese angereicherten Informationen werden dann an GPT-4 gesendet, um eine Antwort zu generieren, die wiederum im eigenen Tenant empfangen wird.

Dieser Ansatz ist aus technischer Sicht besonders vorteilhaft für den Datenschutz, da die Suche ausschliesslich innerhalb des eigenen Tenants und basierend auf den Berechtigungen des jeweiligen Benutzers stattfindet. Die Ergebnisse, die auch der Benutzer selbst hätte finden können, verlassen nie die eigene Umgebung. Die relevanten und wichtigen Suchergebnisse werden verschlüsselt an GPT-4 von Microsoft übermittelt, und die Antwort wird ebenfalls verschlüsselt zurückgesendet. Vorausgesetzt, dass Microsoft die Eingabe- und Ausgabedaten jeweils löscht, sollten aus technischer Sicht datenschutzrechtlich keine Bedenken bestehen. Aus juristischer Sicht müssen natürlich die nötigen Verträge vorhanden sein.



Ein sehr guter Blog über dieses Thema findet man bei den Vischer Anwälten.

Hier geht es zum gesamten Artikel: RAG Modelle: AI & LLMs für Entscheidungsträger

Die BitHawk AG beschäftigt rund 230 Mitarbeitende. Der Hauptsitz von BitHawk ist in Sursee, weitere Standorte befinden sich in Basel und Winterthur.

Die Kernkompetenzen der BitHawk liegen in den Bereichen Consulting, Engineering und Operations von IT-Infrastrukturen sowie in IT- und Enterprise Service Management Lösungen. Das Lösungsportfolio umfasst die Themen Netzwerk, Unified Communications und Collaboration, Unified Computing, Workplace und Public- Hybrid und Privat Clouds . Speziallösungen wie IT- Security und Digital Signage Solution runden das Portfolio ab. Qualifizierte Spezialisten beraten Kunden im Hinblick auf eine langfristig sinnvolle und anpassungsfähige IT-Umgebung. Ein umfassender Service Desk, ein eigenes Rechenzentrum und Repair Center garantieren höchste Verfügbarkeit und schnelle Reaktionszeiten.

Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
Bereitgestellt von Benutzer: PresseBox
Datum: 01.03.2024 - 08:23 Uhr
Sprache: Deutsch
News-ID 2085144
Anzahl Zeichen: 3485

Kontakt-Informationen:
Ansprechpartner: Roland Marti
Stadt:

Sursee

Telefon: +41 (58) 2260838

Kategorie:

Softwareindustrie

Diese Pressemitteilung wurde bisher 325 mal aufgerufen.

Zukunftsbeständige IT: Die neue Rolle in Unternehmen ...
In den vergangenen Jahrzehnten hat sich die Informationstechnologie (IT) rasant weiterentwickelt. Vorangetrieben durch innovative Technologien und Services, mussten sich Mitarbeitende in IT-Abteilungen von Unternehmen kontinuierlich mit neuen Themengebieten auseinandersetzen – seien es Personal Co

LLM Humanoid Robots ...
Die Entwicklung humanoider Roboter hat eine lange Geschichte, die mit einfachen Prototypen wie «Shakey» begann und sich bis zu den fortgeschrittenen Modellen wie Hondas ASIMO erstreckt. Diese frühen Modelle waren zwar wegweisend, aber aufgrund ihrer hohen Kosten und begrenzten Funktionalität nic

LLM Benchmarks: AI&LLMs entmystifiziert für Entscheidungsträger ...
LLMs brillieren im Spiel «Errate das nächste Wort». Sie sind absolut überlegen durch algorithmische Mustererkennung. Aber wie gut sind sie wirklich im Vergleich zum Menschen und wie sieht es mit ihrer Sozialkompetenz aus? Let's dive in... Was bedeutet es, wenn AI die menschliche Intelligenz

Weitere Mitteilungen von BitHawk AG

seera: Die ultimative Event Management Software für Abbotts Freestyle Akademie ...
Event Management kann eine anspruchsvolle Aufgabe sein, insbesondere wenn es darum geht, ein reibungsloses und erfolgreiches Event-Portal wie die Freestyle Akademie von Abbott zu betreiben. Doch zum Glück gibt es eine Lösung, die den gesamten Prozess vereinfacht und optimiert: seera™, die Event

Mehr Effizienz und Genauigkeit: Die COSYS Software für die Preisauszeichnung im Einzelhandel ...
In der schnelllebigen Welt des Einzelhandels ist eine effiziente und genaue Preisauszeichnung von entscheidender Bedeutung. Genau hier setzt die COSYS Software für die Preisauszeichnung an. Entdecken Sie in diesem Blogartikel, warum diese Software die ideale Lösung für Ihr Unternehmen ist und wel

Die Lösung für Ihre Lagerprobleme ...
EINLEITUNG: Im Einzelhandel steht die effiziente Lagerverwaltung an erster Stelle, um einen reibungslosen Ablauf zu gewährleisten. Doch welche Herausforderungen gibt es dabei und wie kann eine Lagerverwaltungssoftware von COSYS helfen? HAUPTTEIL: COSYS bietet eine umfassende Lagerverwaltungssoftwar

Recap: Steampunk BTP Summit in Heidelberg ...
Zwei Teammitglieder der Consult-SK GmbH, Tobias Többens (Leiter der Entwicklung) und Daniel Airich (Berater & Entwickler) sahen sich auf dem Steampunk BTP Summit am 28. und 29. Februar 2024 in Heidelberg nach Inspiration um. Das ist nicht nur ein Event mit einem coolen Namen, sondern auch der O