In einer aufsehenerregenden Ankündigung trat Jacob Coxon, ein ۲۷-jähriger KI-Forscher, aufgrund ernsthafter Bedenken über gefährliche Fortschritte im Bereich der künstlichen Intelligenz von der Firma Anthropic zurück. Er, der drei Jahre in diesem Bereich tätig war, arbeitete zunächst bei OpenAI und dann bei Anthropic, als Konkurrent dieses Unternehmens.
Unbekannte Gefahren der künstlichen Intelligenz
Coxon erklärte in seinen Aussagen klar, dass keines der beiden Unternehmen verantwortungsbewusst handelt und sich derzeit in einem gefährlichen Wettlauf um die Entwicklung überlegener künstlicher Intelligenz befindet. Er stellte fest: "Das ist ein Glücksspiel mit unserem Leben." Laut ihm sind KI-Entwickler stark besorgt, dass diese Technologie bis zum Ende dieses Jahrzehnts alle Menschen bedrohen könnte.
Diese Bedenken werden geäußert, während Anthropic kurz vor dem Markteintritt steht und in dieser Zeit mit unbefugten Hacks von KI-Tools während der Tests konfrontiert war.
Warnruf aus der Industrie
Ivan Hubinger, einer der Sicherheitsmanager von Anthropic, bestätigte Coxons Aussagen und wies auf die ernsthaften Gefahren hin, die von der künstlichen Intelligenz ausgehen. Er schätzte die Wahrscheinlichkeit eines durch künstliche Intelligenz verursachten Desasters im nächsten Jahrzehnt auf über ۱۰ Prozent. Hubinger wies auch auf die aktuellen Einschränkungen bei der Kontrolle von KI hin und sagte, dass es keine Planung gibt, um sicherzustellen, dass diese Systeme ihren Schöpfern gehorchen.
Coxons Rücktritt erfolgt unter dem Umstand, dass er Vertrauen in die Bemühungen von Anthropic äußerte, jedoch darauf hinwies, dass kein Unternehmen verantwortungsbewusst eine überlegene künstliche Intelligenz entwickeln kann, es sei denn, es gibt eine staatliche Intervention und eine koordinierte Verlangsamung der Entwicklung.
Im Februar entfernte Anthropic ein Versprechen aus seinem Sicherheitscharta, das auf die Einstellung der Entwicklung seiner Modelle hinwies, falls die Gefahren nicht kontrolliert werden. Das Unternehmen argumentierte, dass, wenn es einseitig seine Arbeit einstellen würde, weniger vorsichtige Wettbewerber die Branche dominieren würden.
Derzeit prüfen die Regierungen der Vereinigten Staaten neue Gesetze zur Kontrolle der Entwicklung von künstlicher Intelligenz, und Senator Bernie Sanders sowie der demokratische Abgeordnete Greg Casar haben einen Vorschlag zur Aussetzung der Entwicklung von künstlicher Intelligenz bis zur Schaffung einer föderalen Aufsichtsbehörde eingebracht.
