Der Mitbegründer von Ethereum Vitalik Buterin sagte, dass das vorübergehende Anhalten der weltweit zugänglichen Rechenressourcen ein Weg sein könnte, der Menschheit angesichts einer potenziell gefährlichen Form von KI-Superintelligenz "mehr Zeit zu verschaffen".
In einem Blogbeitrag vom 5. Januar, der an seinen Beitrag vom November 2023 anknüpft, in dem er die Idee des "defensiven Akzelerationismus" (d/acc) befürwortet, sagte Buterin, dass eine superintelligente KI nur noch fünf Jahre entfernt sein könnte, und dass man nicht sagen könne, ob das Ergebnis positiv sein würde.
Buterin sagte, dass eine "sanfte Pause" bei industrieller Computerhardware eine Option sein könnte, um die KI-Entwicklung zu verlangsamen, indem die verfügbare globale Rechenleistung für ein bis zwei Jahre um bis zu 99 % reduziert wird, "um der Menschheit mehr Zeit zu geben, sich vorzubereiten".
Quelle: Vitalik Buterin
KI-Superintelligenz ist ein theoretisches KI-Modell, das in der Regel so definiert wird, dass es in allen Fachgebieten weit intelligenter ist als die brillantesten Menschen.
Viele Führungskräfte und Forscher aus dem Bereich der Technik haben ihre Besorgnis über KI geäußert. In einem offenen Brief vom März 2023 forderten mehr als 2.600 Personen, die Entwicklung von KI aufgrund "tiefgreifender Risiken für die Gesellschaft und die Menschheit" zu stoppen.
Buterin merkte an, dass sein Beitrag zur Einführung von d/acc nur "vage Appelle enthielt, keine riskanten Formen von Superintelligenz zu entwickeln", und er wollte seine Gedanken zum Umgang mit dem Szenario teilen, "in dem das KI-Risiko hoch ist".
Dennoch sagte Buterin, dass er nur dann auf eine sanfte Hardware-Pause drängen würde, wenn er "davon überzeugt ist, dass wir etwas 'Muskulöseres' als Haftungsregeln brauchen", was bedeuten würde, dass diejenigen, die KI verwenden, einsetzen oder entwickeln, für Schäden, die durch das Modell verursacht werden, verklagt werden könnten.
Er merkte an, dass eine Hardware-Pause etwa darin bestünde, den Standort von KI-Chips ausfindig zu machen und diese registrieren zu lassen. Buterin schlug vor, dass KI-Hardware im industriellen Maßstab mit einem Chip ausgestattet werden könnte, der es ihr erlaubt, nur dann weiterzulaufen, wenn sie einmal pro Woche drei Signaturen von wichtigen internationalen Organisationen erhält.
"Die Signaturen wären geräteunabhängig (falls gewünscht, könnten wir sogar einen Zero-Knowledge-Beweis verlangen, dass sie auf einer Blockchain veröffentlicht wurden), es ginge also um alles oder nichts", schrieb Buterin. "Es gäbe keine praktische Möglichkeit, ein Gerät zu autorisieren, ohne alle anderen Geräte zu autorisieren."
Die von Buterin unterstützte d/acc-Idee plädiert für einen vorsichtigen Ansatz bei der Entwicklung von Technologie, im Gegensatz zum effektiven Akzelerationismus oder e/acc, der auf uneingeschränkte und ungezügelte technologische Veränderungen drängt.
Melde dich bei unseren Sozialen Medien an, um nichts zu verpassen: X, YouTube, Instagram und Telegram – aktuelle Nachrichten, Analysen, Expertenmeinungen und Interviews mit Fokus auf die DACH-Region.
