Ein Expertengremium der Vereinten Nationen hat schärfere Sicherheitsregeln für Künstliche Intelligenz gefordert und betont, dass die Entwicklung und der Einsatz der Technologie sorgfältig überwacht werden muss. Vor allem für die sogenannten KI-Agenten braucht es bessere Schutzvorkehrungen, ähnlich wie in der Luftfahrt oder bei Atomkraftwerken. Das Gremium fordert konkrete Maßnahmen, die die Möglichkeiten der Systeme einzuschränken, alle Aktivitäten zu dokumentieren und unter strenger Kontrolle zu stellen, um Missbrauch und Risiken zu vermeiden.
Mehrere Anbieter von KI-Technologien haben die Politik aufgefordert, neue Regeln für die Entwicklung und den Einsatz der KI zu schaffen. Einige Experten warnen, dass die rasanten Fortschritte in der KI-Forschung zu einer erheblichen Gefahr für die Gesellschaft führen könnten. Sie befürchten, dass die Technologie in der Zukunft sogar zur Bedrohung der menschlichen Existenz werden könnte. US-Präsident Trump kündigte gestern die Einrichtung einer KI-Aufsichtskommission an. Gleichzeitig betonte er, dass die Branche nicht eingeschränkt werden soll und Innovationen weiterhin gefördert werden müssen.
Ein Expertengremium der Vereinten Nationen hat schärfere Sicherheitsregeln für Künstliche Intelligenz gefordert und betont, dass die Entwicklung und der Einsatz der Technologie sorgfältig überwacht werden muss. Vor allem für die sogenannten KI-Agenten braucht es bessere Schutzvorkehrungen, ähnlich wie in der Luftfahrt oder bei Atomkraftwerken. Das Gremium fordert konkrete Maßnahmen, die die Möglichkeiten der Systeme einzuschränken, alle Aktivitäten zu dokumentieren und unter strenger Kontrolle zu stellen, um Missbrauch und Risiken zu vermeiden.
Mehrere Anbieter von KI-Technologien haben die Politik aufgefordert, neue Regeln für die Entwicklung und den Einsatz der KI zu schaffen. Einige Experten warnen, dass die rasanten Fortschritte in der KI-Forschung zu einer erheblichen Gefahr für die Gesellschaft führen könnten. Sie befürchten, dass die Technologie in der Zukunft sogar zur Bedrohung der menschlichen Existenz werden könnte. US-Präsident Trump kündigte gestern die Einrichtung einer KI-Aufsichtskommission an. Gleichzeitig betonte er, dass die Branche nicht eingeschränkt werden soll und Innovationen weiterhin gefördert werden müssen.