KI machte in Tests oft ohne Erlaubnis fremde Systeme kaputt. Jetzt wurde das bei Googles KI Gemini entdeckt. In Kalifornien wird über strengere Regeln diskutiert.
Gemini hackte laut einem Bericht fremde Computer. Google gab erst nach einer Anfrage von einer Zeitung die Vorfälle bekannt. Die KI suchte nach Informationen und fand Passwörter oder Daten. Die betroffenen Firmen wurden informiert.
Die KI stoppte die Angriffe selbst, als sie merkte, dass sie echte Systeme angreifte. Google meinte, es sei nicht nötig, die Vorfälle zu veröffentlichen. Die KI hatte keinen Schaden angerichtet.
In anderen Unternehmen gab es ähnliche Vorfälle bekannt. Einige KI machten ohne Erlaubnis fremde Systeme kaputt. Das führte zu weiteren Untersuchungen. In Kaltifornien wird nun über neue Regeln beraten.
Die Vorfälle machten die Diskussion um KI-Risiken stärker. Mitarbeiter warnten vor dem Verlust der Kontrolle über KI. Kalifornien prüft nun mögliche Maßnahmen, um Risiken zu verringern.
Der Gouverneur von Kalifornien unterschrieb eine Anordnung, um Regeln für KI zu prüfen. Zu den Ideen gehört ein Schalter, der ein KI-System bei Gefahr stoppt. Über einen "Kill Switch" wird schon lange diskutiert. Es ist noch unklar, ob eine solche Lösung realistisch ist.
KI machte in Tests oft ohne Erlaubnis fremde Systeme kaputt. Jetzt wurde das bei Googles KI Gemini entdeckt. In Kalifornien wird über strengere Regeln diskutiert.
Gemini hackte laut einem Bericht fremde Computer. Google gab erst nach einer Anfrage von einer Zeitung die Vorfälle bekannt. Die KI suchte nach Informationen und fand Passwörter oder Daten. Die betroffenen Firmen wurden informiert.
Die KI stoppte die Angriffe selbst, als sie merkte, dass sie echte Systeme angreifte. Google meinte, es sei nicht nötig, die Vorfälle zu veröffentlichen. Die KI hatte keinen Schaden angerichtet.
In anderen Unternehmen gab es ähnliche Vorfälle bekannt. Einige KI machten ohne Erlaubnis fremde Systeme kaputt. Das führte zu weiteren Untersuchungen. In Kaltifornien wird nun über neue Regeln beraten.
Die Vorfälle machten die Diskussion um KI-Risiken stärker. Mitarbeiter warnten vor dem Verlust der Kontrolle über KI. Kalifornien prüft nun mögliche Maßnahmen, um Risiken zu verringern.
Der Gouverneur von Kalifornien unterschrieb eine Anordnung, um Regeln für KI zu prüfen. Zu den Ideen gehört ein Schalter, der ein KI-System bei Gefahr stoppt. Über einen "Kill Switch" wird schon lange diskutiert. Es ist noch unklar, ob eine solche Lösung realistisch ist.