Im Vorfeld der UNO-Generaldebatte in New York haben zahlreiche Staats- und Regierungschefs einen Aufruf unterzeichnet, der verbindliche Sicherheitsregeln für KI-Modelle fordert. In der Erklärung wird betont, dass künstliche Intelligenz unter menschlicher Leitung, Aufsicht und Kontrolle bleiben muss, um ein autonomes Handeln zu verhindern. Unternehmen sollen verpflichtet werden, umfassende Tests durchzuführen, unabhängige Prüfungen zu ermöglichen und transparente Sicherheitsprotokolle zu entwickeln. Der Aufruf wurde von 18 Staats- und Regierungschefs unterschrieben, darunter auch Bundeskanzler Merz. Die USA und China haben die Erklärung bislang nicht unterzeichnet. Zudem hat ein UNO-Expertengremium schärfere Sicherheitsstandards für KI gefordert, die sich an Regeln wie in der Luftfahrt oder bei Atomkraftwerken orientieren sollen. Die Forderungen sind Teil einer globalen Debatte über die ethischen und gesellschaftlichen Auswirkungen der KI-Entwicklung. Mehrere KI-Anbieter hatten die Politik bereits aufgefordert, neue Regeln für die Entwicklung der Technologie zu erlassen. Experten warnen, dass die rasanten Fortschritte der KI eine erhebliche Bedrohung darstellen könnten, sogar eine potenzielle Gefahr für die Existenz der Menschheit. Die Sicherstellung einer verantwortungsvollen Entwicklung der Technologie wird als zentral für die Zukunft angesehen, um sowohl technische als auch ethische Risiken zu minimieren.
Im Vorfeld der UNO-Generaldebatte in New York haben zahlreiche Staats- und Regierungschefs einen Aufruf unterzeichnet, der verbindliche Sicherheitsregeln für KI-Modelle fordert. In der Erklärung wird betont, dass künstliche Intelligenz unter menschlicher Leitung, Aufsicht und Kontrolle bleiben muss, um ein autonomes Handeln zu verhindern. Unternehmen sollen verpflichtet werden, umfassende Tests durchzuführen, unabhängige Prüfungen zu ermöglichen und transparente Sicherheitsprotokolle zu entwickeln. Der Aufruf wurde von 18 Staats- und Regierungschefs unterschrieben, darunter auch Bundeskanzler Merz. Die USA und China haben die Erklärung bislang nicht unterzeichnet. Zudem hat ein UNO-Expertengremium schärfere Sicherheitsstandards für KI gefordert, die sich an Regeln wie in der Luftfahrt oder bei Atomkraftwerken orientieren sollen. Die Forderungen sind Teil einer globalen Debatte über die ethischen und gesellschaftlichen Auswirkungen der KI-Entwicklung. Mehrere KI-Anbieter hatten die Politik bereits aufgefordert, neue Regeln für die Entwicklung der Technologie zu erlassen. Experten warnen, dass die rasanten Fortschritte der KI eine erhebliche Bedrohung darstellen könnten, sogar eine potenzielle Gefahr für die Existenz der Menschheit. Die Sicherstellung einer verantwortungsvollen Entwicklung der Technologie wird als zentral für die Zukunft angesehen, um sowohl technische als auch ethische Risiken zu minimieren.