TÜV Rheinland: KI-Systeme effektiv absichern

Neue Anforderungen an IT-Sicherheit durch generative KI und Large Language Models / Bedrohungen erkennen, Schwachstellen schließen – Penetration Testing als wirksame Maßnahme / Whitepaper mit Handlungsempfehlungen für Unternehmen

(PresseBox) - Generative Künstliche Intelligenz (KI) revolutioniert nicht nur zahlreiche Branchen, sie schafft auch neue Angriffsflächen und sicherheitstechnische Herausforderungen – etwa, wenn Unternehmen große Sprachmodelle in Chatbots, Assistenzsystemen oder automatisierten Entscheidungsprozessen einsetzen. Doch welche spezifischen Risiken entstehen bei der Nutzung von Large Language Models (LLMs)? Darauf geht TÜV Rheinland im aktuellen Whitepaper „Ist Ihr KI-System sicher?“ ein. Zudem zeigen die Cybersecurity-Fachleute, wie Unternehmen ihre KI-Anwendungen effektiv absichern können.

Angriffe durch manipulierte Eingaben und Trainingsdaten möglich

Das Whitepaper beschreibt, wie KI-Systeme angegriffen werden können. Ein Beispiel sind sogenannte Prompt Injections, bei denen Angreifer mit ihrer Eingabe das Modell manipulieren, damit es sich unvorhersehbar verhält oder Informationen preisgibt – und zwar solche, die nicht zugänglich sein sollten. Weitere Risiken sind der unsichere Umgang mit den Ergebnissen der generativen KI – etwa, indem Nutzer nicht validierte Codes ausführen – und die Manipulation von Trainingsdaten durch einen Angreifer.

Sowohl Angriffe als auch der falsche Umgang mit KI-Ergebnissen können fatale Folgen haben: von Datenlecks über fehlerhafte Entscheidungen bis hin zu wirtschaftlichen Schäden. Daher ist ein systematisches Risikomanagement für Unternehmen unerlässlich – nicht zuletzt fordern dies auch zunehmend Regulierungen wie der EU AI Act. „Unternehmen müssen ihre Sicherheitskonzepte anpassen, um den Risiken von KI-Systemen gerecht zu werden“, erklärt Daniel Hanke, Experte für KI-Sicherheit bei TÜV Rheinland.

Penetration Testing als Schlüssel zur KI-Sicherheit

Eine der wirksamsten Maßnahmen, um Bedrohungen frühzeitig zu erkennen und Schwachstellen zu schließen, ist das Penetration Testing (Pentest): Im kontrollierten Rahmen simulieren Fachleute dabei Angriffe auf KI-Systeme, um potenzielle Schwachstellen zu identifizieren und zu beheben. Methoden wie Black-Box- und Gray-Box-Tests werden dabei an die Anforderungen von generativer KI angepasst. „KI-Systeme sind komplex und intransparent. Das erfordert neue Testansätze. Durch regelmäßige Penetration Tests können Unternehmen ihre Systeme widerstandsfähig machen und somit regulatorische Vorgaben erfüllen. Außerdem stärken sie so das Vertrauen von Partnern und Kunden“, so Hanke weiter.



Generative KI: Innovationskraft mit Verantwortung

TÜV Rheinland unterstützt Unternehmen umfassend beim sicheren Einsatz von KI – von der Durchführung professioneller Penetration Tests über datenbasierte Risikoanalysen bis hin zur Zertifizierung nach international gültigen Standards wie der ISO 42001. „Wer die Chancen generativer KI nutzen will, muss ihrer Sicherheit oberste Priorität einräumen. So lässt sich das Potenzial dieser Technologien verantwortungsvoll erschließen“, betont KI-Experte Daniel Hanke.

Weitere Informationen sowie das Whitepaper unter: www.tuv.com/pentest.

Die Welt zu einem sicheren Ort machen – und das seit mehr als 150 Jahren: Dafür steht TÜV Rheinland als einer der weltweit führenden Prüfdienstleister mit einem Jahresumsatz von mehr als 2,7 Milliarden Euro und 27.000 Mitarbeitenden in gut 50 Ländern. Die hoch qualifizierten Expertinnen und Experten prüfen technische Anlagen und Produkte, begleiten Innovationen und gestalten den Wandel zu mehr Nachhaltigkeit mit. Sie trainieren Menschen in zahlreichen Berufen und zertifizieren Managementsysteme nach internationalen Standards. Mit besonderer Expertise in Mobilität, Energieversorgung, Infrastruktur und vielen weiteren Bereichen sichert TÜV Rheinland unabhängig Qualität, insbesondere bei innovativen Technologien wie grünem Wasserstoff, künstlicher Intelligenz oder automatisiertem Fahren – und ermöglicht so eine sichere und lebenswerte Zukunft. Seit 2006 ist TÜV Rheinland Mitglied im Global Compact der Vereinten Nationen für mehr Nachhaltigkeit und gegen Korruption. Hauptsitz des Unternehmens ist Köln, Deutschland. Website: www.tuv.com

Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
Bereitgestellt von Benutzer: PresseBox
Datum: 04.11.2025 - 11:00 Uhr
Sprache: Deutsch
News-ID 2209295
Anzahl Zeichen: 4688

Kontakt-Informationen:
Ansprechpartner: Alexander Schneider
Stadt:

Köln

Telefon: +49 (0) 221 806-5210

Kategorie:

Softwareindustrie

Diese Pressemitteilung wurde bisher 248 mal aufgerufen.

Cybersicherheit: Viele Unternehmen noch nicht bereit für neue EU-Pflichten ...
Nur jedes dritte Unternehmen sieht sich bislang auf einem guten Weg bei der Umsetzung von NIS-2, der Zweiten EU-Richtlinie zur Netzwerk- und Informationssicherheit. Das ist Ergebnis einer Online-Umfrage von Civey im Auftrag von TÜV Rheinland unter 500 IT-Verantwortlichen in Deutschland. Demnach sin

Klimawandel: Hitzeschutz am Arbeitsplatz gewinnt für Unternehmen an Bedeutung ...
Die Folgen des Klimawandels machen sich auch in der Arbeitswelt bemerkbar: Steigende Temperaturen, Extremwetterereignisse, höhere UV-Belastungen und eine schlechtere Luftqualität verändern die Bedingungen an Arbeitsplätzen. Besonders stark wirken sich Hitzeperioden in Branchen mit körperlich be

Neues Labor für Hochleistungstechnologien: TÜV Rheinland eröffnet Power Test Center Cologne ...
TÜV Rheinland hat in Troisdorf bei Köln ein neues Labor eröffnet. Das „Power Test Center Cologne“ ist auf die Prüfung von industriellen Hochleistungskomponenten spezialisiert. Hier testen seit Anfang Mai 2026 Expertinnen und Experten unter anderem Batteriespeichersysteme, Ladeinfrastruktur s

Weitere Mitteilungen von TÜV Rheinland

Probonio expandiert nach Österreich: Strategische Positionierung der Multi-Benefit-Plattform im deutschsprachigen Raum ...
Probonio (https://probonio.de/) setzt seinen Wachstumskurs fort und startet in Österreich. Dieser Schritt ist nicht nur eine geografische Erweiterung, sondern auch ein strategischer Vorstoß, um die eigene Position als eine der führenden, digitalen Multi-Benefit-Plattformen im deutschsprachigen Ra

IONOS und Nextcloud starten souveräne Office-Alternative ...
IONOS, Europas führender Digitalisierungspartner und zuverlässiger Cloud Enabler, und Nextcloud, die weltweit beliebteste datenschutzkonforme Kollaborationsplattform, haben auf dem IONOS Summit 2025 in Berlin den IONOS Nextcloud Workspace vorgestellt. Die Plattform ist eine europäische Alternativ

Europas Einkommensgefälle: 175.000 EUR in Luxemburg, 19.000 EUR in der Türkei - so unterschiedlich ist Reichtum in Europa ...
"Reich sein" in Europa hängt weniger vom Gehalt ab und mehr davon, wo man lebt. In Deutschland beginnt das obere Zehntel bei 93.000 EUR. Was als "reich" gilt, kann sich in Europa schon an der Landesgrenze grundlegend verändern. Eine neue Studie des Buchhaltungssoftware-Anbiet

Künstliche Intelligenz als Innovationstreiber: Packaging Valley Makeathon 2025 gestaltet Zukunft des Verpackungsmaschinenbaus ...
Der Packaging Valley Makeathon ging in diesem Jahr bereits in seine fünfte Runde – und bestätigte einmal mehr seine Bedeutung als innovatives Format und Ideenschmiede für die Verpackungsbranche. Unter dem Motto „swipe. the f[you]ture.“ entwickelten 45 Studierende, Technikbegeisterte und Exp