„Man in the Prompt“-Angriffe: Wenn der Hacker sich im KI-Tool versteckt
ID: 2189590
Bei„Man in the Prompt“-Angriffen nutzen Cyberkriminelle Browsererweiterungen von KI-Tools wie ChatGPT oder Gemini, um Daten zu stehlen oder versteckte Eingabeaufforderungen einzuschleusen.
Dem Bericht zufolge nutzen die Angreifer dabei die gängige Funktionsweise der KI-Tools innerhalb des Browsers. Die Eingabefelder der Prompts sind Teil der Struktur der Webseite (bekannt als Document Object Model, DOM). Das bedeutet, dass praktisch jede Browsererweiterung mit grundlegendem Skripting-Zugriff auf das DOM lesen oder ändern kann, was die Benutzer in die KI-Eingabeaufforderungen eingeben, auch ohne dass spezielle Berechtigungen erforderlich sind.
Ein böswilliger Angreifer kann so kompromittierte Erweiterungen verwenden, um die sogenannten Prompts, also die Benutzeranfragen an die KI, zu manipulieren, versteckte Anweisungen einzuschleusen, sensible Daten aus den KI-Antworten oder der gesamten Sitzung zu extrahieren oder das KI-Modell sogar dazu verleiten, vertrauliche Informationen preiszugeben oder unbeabsichtigte Aktionen auszuführen. Im Wesentlichen wird der Browser damit zu einem Kanal, der es der Erweiterung ermöglicht, als „Man in the Middle“ für KI-Interaktionen zu fungieren.
Die Risiken eines solchen Angriffs sind signifikant, da browserbasierte KI-Tools häufig sensible Informationen verarbeiten, besonders wenn die Nutzer vertrauliche Unternehmensdaten in diese Schnittstellen einfügen und die interne KI-Anwendung auf proprietären Datensätzen trainiert wird und die Angreifer durch die Browsererweiterung Daten extrahieren. Die Tatsache, dass viele Unternehmen die Installation der kostenlosen KI-Tools erlauben, macht diese Art des Angriffs für Kriminelle zusätzlich attraktiv, denn sie bietet einen unauffälligen Weg, um Unternehmensdaten und -wissen zu stehlen.
Für herkömmliche Sicherheitsvorkehrungen stellt der „Man in the Prompt“-Angriff zudem eine echte Herausforderung dar, denn Sicherheitstools wie „Data Loss Prevention (DLP)“-Systeme für Endpunkte oder Secure Web Gateways haben keinen Einblick auf DOM-Ebene. Auch das Blockieren von KI-Tools allein über die URL schützt nicht vor internen KI-Implementierungen. Das bedeutet, dass Unternehmen ihre Sicherheitskonzepte anpassen müssen, damit auch das Verhalten innerhalb des Browsers erfasst wird. Zu den wichtigsten Empfehlungen von LayerX gehören die Überwachung von DOM-Interaktionen innerhalb von KI-Tools, um verdächtige Aktivitäten zu erkennen, das Blocken riskanter Erweiterungen auf der Grundlage ihres Verhaltens und nicht nur ihrer aufgeführten Berechtigungen sowie die aktive Verhinderung von Manipulationen und Datenexfiltrationen in Echtzeit auf Browser-Ebene.
Das Security Operations Center von 8com schützt die digitalen Infrastrukturen seiner Kunden effektiv vor Cyberangriffen. Dazu vereint 8com zahlreiche Managed Security Services wie Security Information and Event Management (SIEM), eXtended Detection and Response (XDR), Endpoint Detection and Response (EDR) mit Incident Response und Vulnerability Management unter einem Dach.
8com gehört zu den führenden SOC-Anbietern in Europa. Seit 20 Jahren ist das Ziel von 8com, Kunden bestmöglich vor Cyberangriffen zu schützen und gemeinsam ein ökonomisch sinnvolles, aber trotzdem hohes Informationssicherheitsniveau zu erzielen. Durch die einzigartige Kombination aus technischem Know-how und direkten Einblicken in die Arbeitsweisen von Cyberkriminellen können die Cyber-Security-Experten bei ihrer Arbeit auf fundierte Erfahrungswerte zurückgreifen.
Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
Das Security Operations Center von 8com schützt die digitalen Infrastrukturen seiner Kunden effektiv vor Cyberangriffen. Dazu vereint 8com zahlreiche Managed Security Services wie Security Information and Event Management (SIEM), eXtended Detection and Response (XDR), Endpoint Detection and Response (EDR) mit Incident Response und Vulnerability Management unter einem Dach.
8com gehört zu den führenden SOC-Anbietern in Europa. Seit 20 Jahren ist das Ziel von 8com, Kunden bestmöglich vor Cyberangriffen zu schützen und gemeinsam ein ökonomisch sinnvolles, aber trotzdem hohes Informationssicherheitsniveau zu erzielen. Durch die einzigartige Kombination aus technischem Know-how und direkten Einblicken in die Arbeitsweisen von Cyberkriminellen können die Cyber-Security-Experten bei ihrer Arbeit auf fundierte Erfahrungswerte zurückgreifen.
Datum: 06.08.2025 - 13:04 Uhr
Sprache: Deutsch
News-ID 2189590
Anzahl Zeichen: 4084
Kontakt-Informationen:
Ansprechpartner: Felicitas KrausJulia Olmscheid
Stadt:
Neustadt an der Weinstraße
Telefon: +49 (30) 30308089-14+49 6321 484460
Kategorie:
Internet-Portale
Diese Pressemitteilung wurde bisher 348 mal aufgerufen.
Die Pressemitteilung mit dem Titel:
"„Man in the Prompt“-Angriffe: Wenn der Hacker sich im KI-Tool versteckt"
steht unter der journalistisch-redaktionellen Verantwortung von
8com GmbH&Co. KG (Nachricht senden)
Beachten Sie bitte die weiteren Informationen zum Haftungsauschluß (gemäß TMG - TeleMedianGesetz) und dem Datenschutz (gemäß der DSGVO).
Wann immer man ein neues Passwort anlegen muss, steht man vor einer schwierigen Entscheidung: Etwas nehmen, das man sich auch merken kann oder ein sicheres Passwort generieren lassen, das man sich wahrscheinlich nicht merken kann. Abhilfe versprechen cloud-basierte Passwortmanager. Sie gelten gemein
Kritische Sicherheitslücke im Microsoft Configuration Manager: CISA warnt vor aktiver Ausnutzung ...
Die US-Cybersicherheitsbehörde CISA hat eine Warnung bezüglich einer kritischen Schwachstelle im Microsoft Configuration Manager (ehemals SCCM) herausgegeben. Diese als CVE-2024-43468 identifizierte Sicherheitslücke ermöglicht es Angreifern, durch das Einschleusen von bösartigen SQL-Befehlen au
Der Preis der Bequemlichkeit: Musikstreaming zwischen Massenmarkt und dem Ruf nach finanzieller Fairness ...
Die Art und Weise, wie die Gesellschaft Musik konsumiert, hat sich in der letzten Dekade radikal gewandelt. Was früher mühsam auf CDs gesammelt oder aus dem Radio aufgenommen wurde, steht heute per Knopfdruck in millionenfacher Ausführung zur Verfügung. Doch während die Nutzer von der grenzenlo
Weitere Mitteilungen von 8com GmbH&Co. KG
Wireless Logicübernimmt Zipit Wireless ...
Wireless Logic, ein führender Anbieter von IoT-Lösungen, hat die Übernahme von Zipit Wireless abgeschlossen – einem Anbieter von IoT-Konnektivität über mehrere Netzbetreiber sowie Abrechnungslösungen für Abonnementmodelle. Die Transaktion markiert die erste Übernahme eines in den USA ansä
Taschengeld Rechner für verantwortungsvolle Eltern ...
Wie viel Taschengeld ist für mein Kind angemessen? Diese Frage stellen sich viele Eltern. Ein Taschengeld Rechner kann dabei helfen, schnell und einfach den passenden Betrag zu finden. In diesem Artikel erfahren Sie, wie ein solcher Rechner funktioniert, welche Vorteile er bietet und worauf Sie bei
SNP setzt Wachstumskurs mit höchstem Quartalsumsatz fort und investiert in weitere Unternehmensentwicklung ...
-- Auftragseingang stieg um 8 % auf 79,8 Mio. EUR (Q2 2024: 74,1 Mio. EUR) -- Konzernumsatz legte deutlich um 17 % auf 72,3 Mio. EUR zu (Q2 2024: 62,0 Mio. EUR) -- Starkes EBIT-Wachstum um 19 % auf 14,8 Mio. EUR im ersten Halbjahr (H1 2024: 12,5 Mio. EUR) trotz negativer Währungs- und Einmaleffek
Claranet erneut als führender Anbieter in der ISG Provider Lens™ 'Private/Hybrid Cloud – Data Center Services' positioniert ...
Die Information Services Group (ISG) hat den Managed Service Provider Claranet in ihrer aktuellen Studie „ISG Provider Lens™ Private/Hybrid Cloud – Data Center Services 2025“ als einen führenden Anbieter im deutschen Markt ausgezeichnet. Das Unternehmen ist in den zwei Leader-Quadranten fü
