Kriminelle Intelligenz WormGPT - ChatGPTs böser kleiner Bruder

KIs wie ChatGPT sind in der Lage, brauchbare Texte zu generieren. Doch Filter und andere Sicherheitsvorkehrungen sollen die Nutzung für kriminelle Zwecke verhindern. Bei WormGPT ist das anders.

(PresseBox) - Künstliche Intelligenzen (KI) haben in den letzten Jahren enorm dazugelernt. Klangen KI-generierte Texte noch bis vor kurzem im besten Fall hölzern und im schlimmsten Fall wie unverständliches Kauderwelsch, sind KI wie ChatGPT jetzt in der Lage, Texte zu erstellen, die kaum noch von denen eines menschlichen Autors zu unterscheiden sind. Das lockt auch Kriminelle auf den Plan, die ihre Phishing-Mails mit Hilfe der KI verbessern und Schadsoftware in Auftrag geben wollen, oder die KI nach Fehlern im Code von Webseiten suchen lassen, die sich für Hackerangriffe ausnutzen lassen.

Doch dabei gibt es ein Problem: KI sind immer nur so gut wie das eingespeiste Trainingsmaterial – und natürlich wollen die Entwickler von ChatGPT und Co. nicht, dass ihre Technik für Hackerangriffe genutzt wird. Auf den Einsatz von Hacking-spezifischen Daten wird daher beim Training der KI verzichtet und es werden Sicherheitsmaßnahmen ergriffen und Filter eingebaut, die verhindern sollen, dass Cyberkriminelle von der Technologie profitieren.

Es war jedoch nur eine Frage der Zeit, bis findige Geschäftsmänner eine eigene KI für Cyberkriminelle im Darknet anbieten – und genau das ist mit WormGPT nun auch geschehen. WormGPT ist ein KI-Modell, das auf GPT-J basiert, einem großen Sprachmodell, das von EleutherAI im Jahr 2021 entwickelt wurde. Es verfügt über unbegrenzte Zeichenunterstützung, Chat-Speicher und Code-Formatierungsfunktionen. Durch die Nutzung ohne entsprechende Sicherheitsfilter ist ein KI-Service entstanden, der ein beträchtliches Sicherheitsrisiko darstellt.

So kann WormGPT beispielsweise für sogenannte Business-E-Mail-Compromise-Angriffe (BEC) eigensetzt werden. Bei dieser Phishing-Variante sollen Mitarbeiter von Unternehmen unter diversen Vorwänden dazu verleitet werden, den Kriminellen große Summen an Geld auszuhändigen oder vertrauliche Unternehmensdaten preiszugeben – und genau darauf wurde WormGPT von seinen Entwicklern trainiert. Darüber hinaus kann die KI auch den Inhalt der Phishing-Mails mit Hilfe von Data Scraping und Social-Engineering-Techniken auf das angegebene Ziel personalisieren. Beim Data Scraping werden Informationen aus Websites oder Datenbanken extrahiert. Dazu können beispielsweise Informationen von der Website eines Unternehmens oder aus sozialen Medien gesammelt werden.



Hacker werben in cyberkriminellen Foren für WormGPT und nutzen es, um ausgeklügelte und personalisierte Phishing-Angriffe zu starten. So wird beispielsweise dazu geraten, Phishing-Mails in der eigenen Muttersprache zu verfassen, diese dann maschinell in die Zielsprache zu übersetzen und im Anschluss die KI zu nutzen, um Verbesserungen vorzunehmen und die E-Mail glaubhafter zu gestalten. So ließen sich perfekte E-Mails für Phishing-Kampagnen erstellen, ohne dass man einer Fremdsprache mächtig sein müsse.

Im Gegensatz zu legitimen KI-Systemen wie ChatGPT ist WormGPT nicht im „normalen“ Internet verfügbar. Wer die Hacker-KI nutzen will, muss sich im Darkweb auf der Seite der Hintermänner registrieren und eine Gebühr in einer Kryptowährung zahlen, um Zugang zu erhalten. Das sollte man jedoch tunlichst vermeiden, denn fast überall auf der Welt ist es verboten, KI für kriminelle Zwecke einzusetzen. Wer dabei erwischt wird, sollte sich auf Geld- oder gar Freiheitsstrafen einstellen.

?

Das 8com Cyber Defense Center schützt die digitalen Infrastrukturen seiner Kunden effektiv vor Cyberangriffen. Dazu vereint 8com zahlreiche Managed Security Services wie Security Information and Event Management (SIEM), Endpoint Detection and Response (EDR) mit Incident Response und Vulnerability Management unter einem Dach. Verschiedene Penetrationstests und Security-Awareness-Leistungen runden das Angebot ab.

8com gehört zu den führenden Anbietern von Awareness-Leistungen und Informationssicherheit in Europa. Seit 18 Jahren ist das Ziel von 8com, Kunden bestmöglich vor Cyberangriffen zu schützen und gemeinsam ein ökonomisch sinnvolles, aber trotzdem hohes Informationssicherheitsniveau zu erzielen. Durch die einzigartige Kombination aus technischem Know-how und direkten Einblicken in die Arbeitsweisen von Cyberkriminellen können die Cyber-Security-Experten bei ihrer Arbeit auf fundierte Erfahrungswerte zurückgreifen.

Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
Bereitgestellt von Benutzer: PresseBox
Datum: 02.08.2023 - 12:31 Uhr
Sprache: Deutsch
News-ID 2057520
Anzahl Zeichen: 4623

Kontakt-Informationen:
Ansprechpartner: Felicitas KrausJulia Olmscheid
Stadt:

Neustadt an der Weinstraße

Telefon: +49 (30) 30308089-14+49 (6321) 484460

Kategorie:

Internet-Portale

Diese Pressemitteilung wurde bisher 322 mal aufgerufen.

Schwachstellen im digitalen Tresor: Sicherheitsforscher entlarven Risiken bei Passwortmanagern ...
Wann immer man ein neues Passwort anlegen muss, steht man vor einer schwierigen Entscheidung: Etwas nehmen, das man sich auch merken kann oder ein sicheres Passwort generieren lassen, das man sich wahrscheinlich nicht merken kann. Abhilfe versprechen cloud-basierte Passwortmanager. Sie gelten gemein

Kritische Sicherheitslücke im Microsoft Configuration Manager: CISA warnt vor aktiver Ausnutzung ...
Die US-Cybersicherheitsbehörde CISA hat eine Warnung bezüglich einer kritischen Schwachstelle im Microsoft Configuration Manager (ehemals SCCM) herausgegeben. Diese als CVE-2024-43468 identifizierte Sicherheitslücke ermöglicht es Angreifern, durch das Einschleusen von bösartigen SQL-Befehlen au

Der Preis der Bequemlichkeit: Musikstreaming zwischen Massenmarkt und dem Ruf nach finanzieller Fairness ...
Die Art und Weise, wie die Gesellschaft Musik konsumiert, hat sich in der letzten Dekade radikal gewandelt. Was früher mühsam auf CDs gesammelt oder aus dem Radio aufgenommen wurde, steht heute per Knopfdruck in millionenfacher Ausführung zur Verfügung. Doch während die Nutzer von der grenzenlo

Weitere Mitteilungen von 8com GmbH&Co. KG

Metaverse Commerce&Sales: Kundenerlebnisse und Verbrauchererfahrungen mit dem Customer Metaverse ...
Kundenerlebnisse und Verbrauchererfahrungen mit dem Customer Metaverse In den letzten Jahren hat sich die Geschäftswelt dramatisch verändert, und ein entscheidender Faktor, der Unternehmen zum Erfolg führt, ist das Customer Metaverse. Dieses Konzept bezieht sich auf die Gesamtheit aller digitalen

Innovationsschub von innen: SNP gründet Innovation Lab für Artificial Intelligence und Cloud ...
Heidelberg, 1. August, 2023 - SNP Schneider-Neureither & Partner SE, führender Anbieter von Software für digitale Transformationen, automatisierte Datenmigrationen und Datenmanagement im SAP-Umfeld, hat ein "Innovation Lab AI & Cloud" gegründet. In der neuen Einheit arbeiten kü

Lohnen sich Cyber-Versicherungen für Apotheken- - Kosten und Leistung vergleichen ...
Angesichts der steigenden Bedrohung durch Cyber-Kriminalität und der zunehmenden Abhängigkeit von IT-Systemen im Apothekenbetrieb stellt sich die Frage, ob sich Cyber-Versicherungen für Apotheken lohnen. Die Sicherheit sensibler Gesundheitsdaten und die Gewährleistung eines reibungslosen Geschä

Glasfaserausbau für Brandenburg: In Cottbus geht es los mit dem Giganetz, weitere Haushalte werden zusätzlich eigenwirtschaftlich ausgebaut ...
Die DNS:NET ist Partner der Gigabitcity Cottbus. Als Full-Service Netzbetreiber plant, baut und betreibt die DNS:NET das Hochgeschwindigkeitsnetz für die Stadt. In der Gigabitcity wird es Datenraten von bis zu 1 GBit/s im Download für Schulen, bis zu 2,5 GBit/s für Privatkunden sowie bis zu 10