Bugcrowd bietet AI Bias Assessment für LLM-Anwendungen
ID: 2091992
Neues Angebot im Bugcrowd-Portfolio für KI-Sicherheit nutzt menschliche Kreativität, um Datenverzerrungen zu ermitteln
Dave Gerry ist CEO des Crowdsourced-Security-Anbieters Bugcrowd(firmenpresse) - Bugcrowd, Anbieter von Crowdsourced Security, hat die Verfügbarkeit von AI Bias Assessments als Teil seines Portfolios für AI Safety and Security auf der Bugcrowd-Plattform bekanntgegeben. AI Bias Assessment nutzt die Leistung der Crowd, um Unternehmen und Behörden zu helfen, Large-Language-Model-Anwendungen (LMM) sicher, effizient und vertrauensvoll einzuführen.
LLM-Anwendungen basieren auf algorithmischen Modellen, die auf riesigen Datensätzen trainiert werden. Selbst wenn diese Trainingsdaten von Menschen kuratiert werden, was oft nicht der Fall ist, kann die Anwendung leicht "Datenverzerrungen" widerspiegeln, die durch Stereotypen, Vorurteile, ausgrenzende Sprache und eine Reihe anderer möglicher Verzerrungen der Trainingsdaten verursacht werden. Solche Verzerrungen können dazu führen, dass sich das Modell auf potenziell unbeabsichtigte und schädliche Weise verhält, was die Anwendung von LLM mit erheblichen Risiken und Unvorhersehbarkeiten verbunden macht.
Einige Beispiele für potenzielle Fehler sind unverhältnismäßige Repräsentation oder Auslassung bestimmter Gruppen in den Trainingsdaten (Representation Bias), Vorurteile, die auf historische oder gesellschaftliche Stereotypen in den Trainingsdaten zurückzuführen sind (Pre-Existing Bias) und Vorurteile, die durch die Verarbeitung und Interpretation von Daten durch KI-Algorithmen entstehen (Algorithmic Processing Bias).
Der öffentliche Sektor ist von diesem wachsenden Risiko besonders betroffen. Ab März 2024 hat beispielsweise die US-Regierung ihre Behörden dazu verpflichtet, die KI-Sicherheitsrichtlinien einzuhalten - einschließlich der Erkennung von Datenverzerrungen. Dieses Mandat gilt später im Jahr 2024 auch für deren Auftragnehmer.
Das Problem erfordert einen neuen Sicherheitsansatz, da herkömmliche Sicherheitsscanner und Penetrationstests nicht in der Lage sind, solche Verzerrungen zu erkennen. Bugcrowd AI Bias Assessments sind private, ergebnisorientierte Projekte auf der Bugcrowd-Plattform, die vertrauenswürdige Sicherheitsforscher aus der "Crowd" aktivieren, um Schwachstellen in LLM-Anwendungen zu identifizieren und zu priorisieren. Die Teilnehmer werden auf der Grundlage des erfolgreichen Nachweises der Auswirkungen bezahlt, wobei für aussagekräftigere Ergebnisse höhere Prämien gezahlt werden.
CrowdMatch, der branchenweit erste KI-gesteuerte Ansatz der Bugcrowd-Plattform für die Beschaffung und Aktivierung von Forschern, ermöglicht den Aufbau und die Optimierung von Crowds mit praktisch allen Fähigkeiten, um beliebige Ziele der Risikominderung zu erreichen, einschließlich Sicherheitstests und darüber hinaus.
"Die Arbeit von Bugcrowd mit Kunden wie dem Chief Digital and Artificial Intelligence Office (CDAO) zusammen mit unserem Partner ConductorAI hat sich zu einem wichtigen Testfeld für die Erkennung von KI entwickelt, indem die Crowd zur Identifizierung von Datenfehlern eingesetzt wird", erläutert Dave Gerry, CEO von Bugcrowd. "Wir werden die Erfahrungen aus diesen Projekten mit anderen Kunden teilen, die vor ähnlichen Herausforderungen stehen."
"Die Partnerschaft von ConductorAI mit Bugcrowd für das AI-Bias-Assessment-Programm war sehr erfolgreich. Durch die Nutzung der KI-Audit-Expertise von ConductorAI und der Crowdsourced-Security-Plattform von Bugcrowd haben wir im Auftrag des US-Verteidigungsministeriums die erste öffentliche Prüfung von LLM-Systemen auf Bias durchgeführt. Diese Zusammenarbeit hat eine solide Grundlage für zukünftige Bias-Bounties geschaffen und zeigt unser Engagement für ethische KI", ergänzt Zach Long, Gründer von ConductorAI.
Bugcrowd deckt mit seinem "Skills-as-a-Service"-Ansatz für die Sicherheit mehr schwerwiegende Schwachstellen auf als traditionelle Methoden. Mit dem langgjährig aufgebauten Kundenstamm, der hohen Flexibilität und dem Zugang zu einem Jahrzehnt an Schwachstellendaten hat sich die Bugcrowd-Plattform kontinuierlich weiterentwickelt und spiegelt die sich verändernde Natur der Angriffsfläche wider - einschließlich der Einführung von mobiler Infrastruktur, hybrider Arbeit, APIs, Krypto, Cloud-Workloads und jetzt auch KI. Allein im Jahr 2023 fanden Kunden fast 23.000 hochrelevante Schwachstellen mithilfe der Bugcrowd-Plattform und trugen so dazu bei, potenzielle Kosten in Höhe von bis zu 100 Milliarden US-Dollar zu verhindern.
"Als führender Anbieter einer Crowdsourced-Security-Plattform ist Bugcrowd positioniert, um die neuen und sich entwickelnden Herausforderungen der KI-Bias-Bewertung zu meistern, genauso wie wir die aufkommenden Sicherheitsherausforderungen früherer Technologiewellen wie Mobile, Automotive, Cloud Computing, Krypto und APIs gemeistert haben", erklärt Casey Ellis, Gründer und Chief Strategy Officer von Bugcrowd.
Weitere Infos zu dieser Pressemeldung:
Themen in dieser Pressemitteilung:
Unternehmensinformation / Kurzprofil:
Seit 2012 versetzt Bugcrowd Unternehmen in die Lage, die Kontrolle zurückzugewinnen und den Bedrohungsakteuren einen Schritt voraus zu sein, indem der kollektiven Einfallsreichtum und das Fachwissen der Kunden sowie eine vertrauenswürdigen Allianz von Elite-Hackern mit den patentierten Daten und der KI-gestützten Security Knowledge Platform™ vereint werden. Das Netzwerk von Hackern verfügt über vielfältiges Fachwissen, um verborgene Schwachstellen aufzudecken und sich schnell auf neue Bedrohungen einzustellen, selbst bei Zero-Day-Exploits. Mit unübertroffener Skalierbarkeit und Anpassungsfähigkeit findet die daten- und KI-gesteuerte CrowdMatch™-Technologie in der Plattform das perfekte Talent für den Kampf gegen Bedrohungen. Damit schafft Bugcrowd eine neue Ära der modernen Crowdsourced Security, die Bedrohungsakteure übertrifft.
Weitere Informationen finden sich unter www.bugcrowd.com sowie dem Blog.
"Bugcrowd", "CrowdMatch" und "Security Knowledge Platform" sind Warenzeichen von Bugcrowd Inc. und seinen Tochtergesellschaften. Alle anderen Marken, Handelsnamen, Dienstleistungsmarken und Logos, auf die hier Bezug genommen wird, gehören den jeweiligen Unternehmen.
Albrechtstr. 119, 12167 Berlin
Datum: 17.04.2024 - 13:10 Uhr
Sprache: Deutsch
News-ID 2091992
Anzahl Zeichen: 5076
Kontakt-Informationen:
Ansprechpartner: Uwe Scholz
Stadt:
Berlin
Telefon: 01723988114
Kategorie:
IT & Hardware & Software & TK
Meldungsart:
Diese Pressemitteilung wurde bisher 312 mal aufgerufen.
Die Pressemitteilung mit dem Titel:
"Bugcrowd bietet AI Bias Assessment für LLM-Anwendungen"
steht unter der journalistisch-redaktionellen Verantwortung von
Bugcrowd (Nachricht senden)
Beachten Sie bitte die weiteren Informationen zum Haftungsauschluß (gemäß TMG - TeleMedianGesetz) und dem Datenschutz (gemäß der DSGVO).
Bugcrowd, ein führender Anbieter im Bereich Crowdsourced Cybersecurity, gab heute die Übernahme von Mayhem Security bekannt, einem Pionier in der offensiven KI-Sicherheit, der von einigen der weltweit elitärsten Hacker gegründet wurde. Ziel ist es, die nächste Generation des "Human-in-the-
Bugcrowd lanciert realitätsnahe Angriffssimulation als Service ...
Bugcrowd, Spezialist für Crowdsourced Cybersecurity, hat einen neuen Service vorgestellt, der die Skalierbarkeit, Agilität und den anreizgesteuerten Ansatz des Crowdsourcing auf Red Teaming anwendet. Dieser neue Service verbindet Kunden mit einem globalen Netzwerk geprüfter ethischer Hacker für
Berliner GlobalDots nimmt Bugcrowd-Plattform in Cloud-Service-Portfolio auf ...
Bugcrowd, weltweit tätiger Anbieter im Bereich Crowdsourced Security, hat eine Partnerschaft mit GlobalDots geschlossen, einem in Berlin ansässigen Unternehmen für Cloud-Innovation und -Sicherheit. Im Rahmen der Vereinbarung wird GlobalDots die Crowdsourced-Security-Plattform von Bugcrowd in sein
Weitere Mitteilungen von Bugcrowd
Militärischer Einsatzbereich: Stereoskopische Display- und Arbeitsplatz-Lösungen von Schneider Digital ...
Weltweit setzen Militärs heute digitale, 3D-stereoskopische Displays in einer Vielzahl von Anwendungsgebieten ein, speziell im Bereich ‚Geospatial Intelligence' (GEOINT) sowie für immersive, virtuelle Simulationsumgebungen. Zu den wichtigsten GEOINT Softwareanwendungen im COTS (commer
Schneider Digital und der mililitärische Einsatzbereich: Stereoskopische Display- und Arbeitsplatz-Lösungen ...
Weltweit setzen Militärs heute digitale, 3D-stereoskopische Displays in einer Vielzahl von Anwendungsgebieten ein, speziell im Bereich ‚Geospatial Intelligence' (GEOINT) sowie für immersive, virtuelle Simulationsumgebungen. Zu den wichtigsten GEOINT Softwareanwendungen im COTS (commer
Plattformökonomie als Basis für Business Intelligence (BI) - Software-Plattform für KI und maschinelles Lernen ...
Vermehrt interessieren sich Unternehmen dafür, auf Basis ihrer Fertigungsinformationen Optimierungspotenziale in der Produktionsplanung und -steuerung zu heben. Das COSCOM ECO-System, unterstützt von einer Vielzahl von Kompetenzträgern, garantiert eine Plattformökonomie als Basis für Business I
Regelkonforme AS4-Marktkommunikation erfolgreich live gegangen ...
Die Einführung des AS4-Kommunikationsprotokolls adressiert die wachsenden technischen und prozessualen Anforde-rungen für den sicheren Informations- und Datenaustausch und die effiziente Marktkommunikation im deutschen Energiemarkt. Bereits seit dem 01. Oktober 2023 müssen Marktteilnehmer aus dem
