Die Chefs der größten US-amerikanischen KI-Firmen, Sam Altman und Dario Amodei, warnen vor den Folgen ihrer eigenen Technologie. Beide fordern stärkere Regeln und wollen mit Regierungen zusammenarbeiten, um die Entwicklung von KI zu steuern. Sie erklären, dass KI in den letzten Jahren stark an Stärke gewonnen hat und nun Aufgaben lösen kann, die früher nur menschliche Experten meistern konnten. Sie fürchten, dass KI zu viel Macht konzentriert und dadurch eine globale Sicherheitsbedrohung darstellt.
Altman zeigt, wie schnell sich KI entwickelt hat. Vor drei Jahren war sie noch nicht in der Lage, Grundschul-Mathematik zu lösen. Ein Jahr später konnte sie bereits mit Oberstufenschülern mithalten. Vor einem Jahr erreichte die KI von OpenAI das Niveau einer Goldmedaille bei einem renommierten Mathematikwettbewerb. Heute ist sie sogar in der Lage, sogenannte Millennium-Probleme zu lösen. Altman befürchtet, dass KI sich so schnell weiterentwickeln wird, dass kein Mensch mehr eingreifen kann, wenn nötig. Er sieht zudem die Gefahr, dass KI in die Hände von wenigen Unternehmen oder Ländern gerät.
Amodei teilt diese Sorgen. Er warnt zusätzlich vor dem Missbrauch von KI durch Terroristen, die biologische Waffen entwickeln könnten. "Bei unsachgemäßem Umgang könnte KI zum Risiko für die gesamte Menschheit werden", betont er. Viele Regierungschefs der UN-Mitgliedsstaaten unterstützen die Forderung nach globaler Regulierung. Sie wollen eine internationale Behörde gründen, die die Entwicklung von KI überwacht. Gleichzeitig warnen sie vor dem Risiko, dass KI zu sehr in die Hände von wenigen gerät und dadurch eine globale Gefahr darstellt.
Die Chefs der größten US-amerikanischen KI-Firmen, Sam Altman und Dario Amodei, warnen vor den Folgen ihrer eigenen Technologie. Beide fordern stärkere Regeln und wollen mit Regierungen zusammenarbeiten, um die Entwicklung von KI zu steuern. Sie erklären, dass KI in den letzten Jahren stark an Stärke gewonnen hat und nun Aufgaben lösen kann, die früher nur menschliche Experten meistern konnten. Sie fürchten, dass KI zu viel Macht konzentriert und dadurch eine globale Sicherheitsbedrohung darstellt.
Altman zeigt, wie schnell sich KI entwickelt hat. Vor drei Jahren war sie noch nicht in der Lage, Grundschul-Mathematik zu lösen. Ein Jahr später konnte sie bereits mit Oberstufenschülern mithalten. Vor einem Jahr erreichte die KI von OpenAI das Niveau einer Goldmedaille bei einem renommierten Mathematikwettbewerb. Heute ist sie sogar in der Lage, sogenannte Millennium-Probleme zu lösen. Altman befürchtet, dass KI sich so schnell weiterentwickeln wird, dass kein Mensch mehr eingreifen kann, wenn nötig. Er sieht zudem die Gefahr, dass KI in die Hände von wenigen Unternehmen oder Ländern gerät.
Amodei teilt diese Sorgen. Er warnt zusätzlich vor dem Missbrauch von KI durch Terroristen, die biologische Waffen entwickeln könnten. "Bei unsachgemäßem Umgang könnte KI zum Risiko für die gesamte Menschheit werden", betont er. Viele Regierungschefs der UN-Mitgliedsstaaten unterstützen die Forderung nach globaler Regulierung. Sie wollen eine internationale Behörde gründen, die die Entwicklung von KI überwacht. Gleichzeitig warnen sie vor dem Risiko, dass KI zu sehr in die Hände von wenigen gerät und dadurch eine globale Gefahr darstellt.