KI-Firmen müssen sich nach KI-Angriff in Australien erklären

KI-Firmen wie OpenAI und Anthropic haben großes Interesse an Australien, etwa um Rechenzentren zu bauen.

Doch ein Übergriff eines KI-Agenten auf ein Regierungsportal wirft Fragen auf.

Die Regierung will Gesetze verschärfen.

Vor dem regionalen Parlamentsgebäude in Sydney umringen Journalisten den Chef-Strategen von OpenAI.

„Bist du hier, um dich zu entschuldigen?“, ruft einer der Journalisten.

Jason Kwon läuft ruhig zum Eingang.

Drinnen vor den Parlamentariern bemüht sich Kwon um Schadensbegrenzung und entschuldigt sich gleich zu Beginn der Anhörung.

Während interner Trainings hätten die KI-Modelle auf australische Regierungsseiten in einer Weise zugegriffen, zu der sie nicht angewiesen waren, sagt der Chef-Stratege des ChatGPT-Entwicklers OpenAI.

„Das hätte nicht passieren dürfen.“

Und sie hätten die australische Regierung schneller über den Angriff informieren müssen.

Mehrere KI-Agenten von OpenAI hatten im Juni das wichtigste Gesundheitsportal des Landes gehackt und drei weitere Regischen-Webseiten angegriffen.

Ein Schwarm KI-Agenten hatte sich offenbar selbstständig gemacht – und war gemeinsam der Frage nachgegangen, wie sie auf die Regierungsseite zugreifen könnten, die sie ursprünglich geblockt hatte.

Sie lernten, Regeln zu umgehen und Sicherheitslücken auszunutzen – das geht aus veröffentlichten Gesprächsprotokollen der KI-Agenten hervor.

Sie griffen nach Angaben von Australiens Premierminister Anthony Albanese auf öffentliche und nicht öffentliche Dateien der für Gesundheit zuständigen Statistikbehörde zu.

Albanese zufolge ereignete sich der Vorfall bereits im Juni.

OpenAI machte die australische Regierung jedoch erst im September auf den Vorfall aufmerksam und zwar in einer E-Mail an ein allgemeines Postfach, das nur einmal am Tag überprüft wird.

Premierminister Albanese sagte, er habe gegenüber OpenAI-Chef Sam Altman die große Besorgnis Australiens über den Vorfall zum Ausdruck gebracht.

Außerdem sei er enttäuscht, dass das Unternehmen viel zu lange gebraucht habe, um die australische Regierung über die Ereignisse zu informieren.

OpenAI-Chefstratege Kwon erklärte dazu vor dem Untersuchungsausschuss: „Der Grund dafür war, dass wir zunächst mehr Fakten zusammentragen und verstehen wollten, was passiert ist, bevor wir die Betroffenen informieren.

Aber angesichts der Neuartigkeit dieser Situation denke ich, dass wir daraus gelernt haben.“

Kwon räumte nun ein, es sei besser, „auch bei zunächst nur unvollständigen Informationen zu informieren und die Betroffenen wissen zu lassen, dass etwas passiert ist“.

Bereits vor der Anhörung hatte OpenAI angekündigt, es würde die betroffenen Behörden mit Personal, Expertise und finanziell bei der Verbesserung ihrer Cyberabwehr unterstützen.

Australische Behörden und Unternehmen sollten Zugang zu Mitteln aus dem Cybersicherheitsfonds „Daybreak“ erhalten, der mit einer Milliarde US-Dollar gefüllt ist.

Das US-Unternehmen versuchte während der Anhörung das Vertrauen der Australier zurückzugewinnen.

Und das nicht ganz uneigennützig: OpenAI und Konkurrent Anthropic warten auf Genehmigungen für den Bau großer Rechenzentren in Australien.

Das Land gilt als idealer Standort – wegen des enormen Potenzials für Erneuerbare Energien und weiter, unbewohnter Landstriche.

KI-Unternehmen sehen sich in Australien jedoch mit wachsendem Widerstand aus der Bevölkerung konfrontiert.

Viele Australier fordern strengere Regeln für Rechenzentren und stellen etwa den ökologischen Fußabdruck und den enormen Stromverbrauch infrage.

Neben OpenAI musste sich auch Konkurrent Anthropic vor dem parlamentarischen Ausschuss erklären.

Auch bei Anthropic hat es mehrere Vorfälle gegeben, bei denen KI-Agenten Hackerangriffe ausgeführt haben sollen.

David Orr, Leiter des Bereichs Sicherheitsvorkehrungen, betonte jedoch vor dem Ausschuss, sie hätten keine Angriffe auf australische Regierungssysteme festgestellt.

OpenAI und Anthropic zeigten sich offen für Gesetze, die sie verpflichten würden, Datenschutzverstöße und Angriffe durch ihre KI-Agenten zu melden.

Ein allgemeines Meldesystem gibt es derzeit nicht.

Gefährliches Verhalten ihrer KI zu melden, liegt ganz im Ermessen der Unternehmen selbst.

Australiens Regierung unter Premier Albanese würde das gerne ändern.

„Wir müssen die KI formen, statt uns von ihr formen zu lassen.

Kurz gesagt: Der Mensch muss die Kontrolle behalten“, sagte Albanese kürzlich.

Die australische Regierung arbeitet derzeit an neuen Gesetzen für den Umgang mit Künstlicher Intelligenz.

Sie sollen im kommenden Jahr in Kraft treten.

Australische Kreativschaffende wandten sich bei der Anhörung gegen Bestrebungen der KI-Unternehmen, das Urheberrecht zu lockern.

Anthropic, das den KI-Chatbot Claude entwickelt, und OpenAI, der Entwickler von ChatGPT, wollen, dass Australien seine Urheberrechtsgesetze lockert.

So könnte die KI einfacher mit Songs, Büchern und weiteren künstlerischen Werken trainiert werden.

Nach den derzeitigen Regeln müssen die Technologieunternehmen Lizenzvereinbarungen abschließen, bevor sie urheberrechtlich geschützte Inhalte für das Training ihrer Modelle verwenden dürfen.

„Das Urheberrechtssystem ist vollkommen geeignet, um das KI-Geschäft zu regeln“, sagte Kate Gilchrist, Leiterin für Inhalte und Rechtsangelegenheiten beim australischen öffentlich-rechtlichen Rundfunk ABC.

Medienberichten zufolge erwägt die australische Regierung eine sogenannte Opt-out-Regelung.

KI-Unternehmen könnten dann grundsätzlich auf Inhalte zugreifen, solange ein Rechteinhaber nicht ausdrücklich widerspricht.

Das lege die Verantwortung auf die Rechteinhaber, kritisiert Gilchrist.

„Wir können nicht das gesamte Internet durchsuchen und auf all diesen Seiten widersprechen.

Das funktioniert einfach nicht.“

Die Anhörungen des Ausschusses liefen über die gesamte Woche.

Der Abschlussbericht soll Ende November vorgelegt werden.