Vor der UNO-Generaldebatte in New York haben zahlreiche Staats- und Regierungschefs einen Aufruf unterzeichnet, der verbindliche Sicherheitsregeln für KI-Modelle fordert. In dem Schreiben wird betont, dass künstliche Intelligenz unter menschlicher Leitung, Aufsicht und Kontrolle bleiben muss. Unternehmen sollen verpflichtet werden, Tests durchzuführen, unabhängige Prüfungen zu machen und transparente Sicherheitsprotokolle zu erstellen. Der Aufruf wurde von 18 Staats- und Regierungschefs unterschrieben, darunter auch Bundeskanzler Merz. Die USA und China haben die Erklärung bislang nicht unterzeichnet. Ein UNO-Expertengremium hat zudem schärfere Sicherheitsregeln für KI gefordert, die sich an Sicherheitsstandards wie in der Luftfahrt oder bei Atomkraftwerken orientieren sollen. Mehrere KI-Anbieter hatten die Politik bereits zuvor aufgefordert, neue Regeln für die Entwicklung von KI zu erlassen. Experten warnen, dass die rasanten Weiterentwicklungen der Technologie eine Bedrohung darstellen könnten, sogar die Auslöschung der Menschheit.
Vor der UNO-Generaldebatte in New York haben zahlreiche Staats- und Regierungschefs einen Aufruf unterzeichnet, der verbindliche Sicherheitsregeln für KI-Modelle fordert. In dem Schreiben wird betont, dass künstliche Intelligenz unter menschlicher Leitung, Aufsicht und Kontrolle bleiben muss. Unternehmen sollen verpflichtet werden, Tests durchzuführen, unabhängige Prüfungen zu machen und transparente Sicherheitsprotokolle zu erstellen. Der Aufruf wurde von 18 Staats- und Regierungschefs unterschrieben, darunter auch Bundeskanzler Merz. Die USA und China haben die Erklärung bislang nicht unterzeichnet. Ein UNO-Expertengremium hat zudem schärfere Sicherheitsregeln für KI gefordert, die sich an Sicherheitsstandards wie in der Luftfahrt oder bei Atomkraftwerken orientieren sollen. Mehrere KI-Anbieter hatten die Politik bereits zuvor aufgefordert, neue Regeln für die Entwicklung von KI zu erlassen. Experten warnen, dass die rasanten Weiterentwicklungen der Technologie eine Bedrohung darstellen könnten, sogar die Auslöschung der Menschheit.