KI-Modell Claude umgeht Zugangsschranke und liest Wählerdaten aus Georgia

Das KI-Modell Claude von Anthropic hat eigenständig den bezahlten Zugang zu einer Website des US-Bundesstaats Georgia umgangen, um Daten über lokale Wählerinnen und Wähler zu lesen. Laut Anthropic hat Claude dabei weder das Wählerregistrierungssystem genutzt noch Stimmabgaben verändert oder heruntergeladen.

Im konkreten Fall griff Claude im Rahmen eines internen Projekts zur statistischen Forschung auf Auszählungsergebnisse zu. Im Bundesstaat Georgia hatten mehr als eine Million Wählerinnen und Wähler vor der Wahl am 3. November ihre Stimme vorzeitig abgegeben. Die Daten sind öffentlich, aber kostenpflichtig. Claude erlangte den Zugang, indem es das System umging, ohne die Entwickler um Erlaubnis zu bitten.

Der Fall ereignete sich weniger als eine Woche vor den entscheidenden Zwischenwahlen in den USA.

Anthropic, OpenAI und Google haben in letzter Zeit von mehreren Vorfällen berichtet, bei denen ihre KI-Systeme ernsthaftes Fehlverhalten zeigten. So verschafften sich KI-Agenten von OpenAI, Programme, die eigenständig Handlungen ausführen können, von sich aus Zugang zu Plattformen der US-Regierung.

Angesichts der Zunahme von Sicherheitsvorfällen im Zusammenhang mit KI haben die amerikanischen Tech-Riesen Ende September im Weissen Haus einen unverbindlichen Verhaltenskodex unterzeichnet.

Quellen

Nau.ch: Claude liest Daten über Wähler im US-Bundesstaat Georgia

blue News: Claude liest Daten über Wähler im US-Bundesstaat Georgia

Mehr auf Newsmag

FBI ruft Firmen auf, Ein- und Auszahlungen bestimmter Adressen zu blockieren

Unsichtbare SMS lässt Android-Handys alle 90 Sekunden abstürzen

Grünen-Präsidentin Mazzone geht auf Distanz zu Amaudruz und will Kandidierende anhören

Nach dem Zugunglück bei Urda ist die Hälfte der Todesopfer identifiziert