Wahlen in Gefahr: KI ermöglicht maßgeschneiderte Desinformation im großen Stil

(PresseBox) - 2024 war und ist ein Jahr der Wahlen – mit Wahlveranstaltungen in mehr als 60 Ländern und geschätzt rund 2 Milliarden potenziellen Wählern. Ein gefundenes Fressen für politische motivierte Kampagnen, die im großen Stil Fehlinformationen verbreiten wollen und in der digital vernetzten Welt immer raffinierter aufgesetzt sind. Die Cybersecurity-Experten von Sophos X-Ops wollten es genau wissen und haben in einer Machbarkeitsstudie dokumentiert, welche zunehmend wichtige Rolle generative KI-Technologien spielen, wenn es darum geht, mit Desinformationen wirkungsvolle Veränderungen im politischen Bereich herbeizuführen.

Große Sprach- und Bildmodelle bieten Cyberkriminellen, die auf politische Einflussnahme abzielen, effektive Werkzeuge für die Erstellung anspruchsvoller, individualisierter Inhalte in großem Maßstab. Diese Projekte waren bislang schwierig zu realisieren und sehr arbeitsintensiv, die neuen Technologien sorgen aber dafür, dass das von böswilligen Akteuren ausgehende Risiko neue Dimensionen erreicht.

In letzter Zeit tauchen immer häufiger Fälle auf, in denen Kriminelle Künstliche Intelligenz missbrauchen, wie zum Beispiel die Verwendung generativer Texte beim Versenden von Nachrichten an Betrugsopfer, die Nutzung generativer Bilder zur Erstellung irreführender Social-Media-Beiträge oder der Einsatz von „Deepfake“-Videos und -Stimmen für Social Engineering. Dieselben Instrumente kommen zunehmend im Rahmen politischer Fehlinformations- und Täuschungskampagnen zum Einsatz.

„Angesichts der Relevanz dieser Thematik auch auf politischer Ebene ist es besonders wichtig, die Auswirkungen neuer Technologien auf gezielte Fehlinformationen zu verstehen“, so Ben Gelman, Senior Data Scientist bei Sophos. „In unserer Analyse untersuchen wir eine der größten neuen Bedrohungen durch den böswilligen Einsatz generativer KI: maßgeschneiderte Fehlinformationen. Während ein Großteil der Empfänger einer unpersönlichen Massen-E-Mail mit Fehlinformationen, die mit dem Inhalt nicht einverstanden sind, aus einer Kampagne aussteigen, werden im Micro Targeting Desinformationen nur an solche Personen versandt, die höchstwahrscheinlich damit einverstanden sind. Dadurch entsteht eine erschreckende, neue Effizienz solcher Kampagnen.“



Der aktuelle Report basiert auf bereits von Sophos X-Ops durchgeführten Untersuchungen, bei denen ein speziell für diese Zweck entwickeltes Tool zum Einsatz kam. Dieses startet automatisch eine E-Commerce-Betrugskampagne auf der Grundlage KI-generierter Texte, Bilder und Audiodateien, in deren Rahmen in hoher Anzahl überzeugende, betrügerische Webshops erstellt werden können. Nach einer Neukonfiguration konnten mit dem Tool Websites für politische Kampagnen mit beliebigen Merkmalen erstellt werden. Durch die Kombination gefälschter Social-Media-Profile mit mehreren Kampagnen-Webseiten waren die Forscher in der Lage, überzeugende, personalisierte E-Mails zu erstellen, die individuelle Argumente verwenden, um Menschen bestmöglich davon zu überzeugen, an eine Kampagne zu glauben – auch wenn die Menschen diesen Ideen im Allgemeinen nicht zustimmen. Das genaue Vorgehen dieses groß angelegten Micro Targetings kann im englischen Blogbeitrag anhand verschiedener Beispiele nachgelesen werden.

„Die Fähigkeit, personalisierte, fein abgestimmte politische Inhalte zu produzieren, birgt ein erhebliches Risiko für verstärkte Fehlinformation, Finanzbetrug und die Vertiefung der ideologischen Polarisierung. Um diesen Trend zu begegnen, ist ein vielschichtiger Ansatz, der technologische, pädagogische und gesetzgeberische Anstrengungen vereint, unerlässlich“, so Gelman. „Aus technischer Sicht kann die kontinuierliche Verbesserung von KI-generierten Inhaltsklassifizierern und Faktenprüfern bei der Identifizierung von Bedrohungen helfen. Im Bildungsbereich kann die Stärkung des öffentlichen Bewusstseins für KI-generierte Inhalte in Verbindung mit illegal erworbenen, personenbezogenen Daten die Zahl der Opfer, die auf Betrügereien hereinfallen, verringern – und natürlich wird auch der Umgang des Gesetzgebers mit dem Thema Künstliche Intelligenz eine entscheidende Rolle spielen.“

Weitere Infos zu dieser Pressemeldung:
Unternehmensinformation / Kurzprofil:
Bereitgestellt von Benutzer: PresseBox
Datum: 02.10.2024 - 12:24 Uhr
Sprache: Deutsch
News-ID 2128224
Anzahl Zeichen: 4814

Kontakt-Informationen:
Ansprechpartner: Jörg SchindlerAriane WendtThilo ChristArno LüchtUlrike Masztalerz
Stadt:

Wiesbaden

Telefon: +49 (721) 25516-263+49 (172) 4536839+49 (8081) 954

Kategorie:

New Media & Software

Diese Pressemitteilung wurde bisher 220 mal aufgerufen.

Compliance wächst schneller als die Kapazitäten der IT-Teams ...
Unternehmen in Deutschland, Österreich und der Schweiz stehen wie viele Organisationen weltweit vor der Herausforderung, eine wachsende Zahl an IT- und Cybersecurity-Vorgaben zu erfüllen. Eine aktuelle, von Sophos in Auftrag gegebene internationale Studie zeigt, wie stark regulatorische Anforderun

Entwickler-Tools als neue Angriffsfläche ...
Aktuelle Angriffe auf den Infrastruktur-Scanner Checkmarx KICS und den Kommandozeilen-Client von Bitwarden zeigen eine neue Qualität von Supply-Chain-Attacken. Die Angreifer verteilten trojanisierte Versionen über offizielle Kanäle wie npm, Docker Hub und GitHub Actions. Sie unterwanderten damit

Security-Blindspot: Wie Angreifer QEMU nutzen, um Erkennungssysteme zu umgehen ...
Sophos-Analysten untersuchen den aktiven Missbrauch von QEMU (Quick Emulator), einem Open-Source-Maschinenemulator und Virtualisierungs-Tool. Angreifer nutzen QEMU und weitere gängigere, auf Hypervisoren basierende Virtualisierungs-Tools, wie Hyper-V, VirtualBox und VMware, seit längerer Zeit. Gru

Weitere Mitteilungen von Sophos Technology GmbH

Skyhigh Security und ADN zeichnen Distributionspartnerschaft in DACH ...
Paderborn, Bochum, 01. Oktober 2024 - Skyhigh Security, ein führender Anbieter datenzentrierter Cloud-Security-Lösungen, arbeitet im deutschsprachigen Raum ab sofort mit ADN, einem der führenden Value-Added Distributoren, zusammen. Im Rahmen der Partnerschaft vermarktet der Bochumer VAD das gesam

Zeitmanagement für den Außendienst – Spezial-Seminar für den Vertrieb mit „SEHR GUT“ (1,3) bewertet ...
Eine kurze Recherche im Internet zeigt: Tipps und Tricks für den Vertrieb an sich gibt es viele. Aber zum Thema Zeitmanagement und Selbstorganisation im Vertrieb und Außendienst findet man kaum etwas – so auch die Rückmeldung der Kunden der Kompakttraining GmbH & Co. KG. Dabei stellt das Ze

plentysystems AG setzt mit innovativer Schnittstellentechnologie neue Standards für Marktplatzintegrationen ...
Die plentysystems AG, führender Anbieter von E-Commerce-ERP- und Multichannel-Lösungen, baut mit der für die Integration von Marktplätzen entwickelten Channel-Layer-Technologie seine Position im E-Commerce-Sektor weiter aus: Marken und Händler managen ihr Markplatzgeschäft mit dem Channel Laye

Honeywell CK62: Ihr zuverlässiger Partner in der Logistik ...
MDE-Geräte, wie der Honeywell CK62, sind in der modernen Logistik unverzichtbar. Ohne sie wären viele Prozesse, die heute digital gesteuert werden, immer noch auf manuelle Methoden wie Papier und Stift angewiesen. Der CK62 ermöglicht es, Daten in Echtzeit zu erfassen und zu übertragen, was die T