Vitalik Buterin, Mitgründer von Ethereum, hat einen Artikel veröffentlicht, in dem er seine Meinung über die Richtung der KI-Debatte darlegt. In dem Artikel stellt der Autor zwei Ansichten vor, die derzeit die Zukunft der KI dominieren: Die eine Ansicht fordert die Einstellung oder Verlangsamung der KI-Entwicklung (die dystopische Ansicht). Die andere Sichtweise fordert eine weitere Beschleunigung der KI-Forschung und -Entwicklung (die utopische Sichtweise).
New monster post: my own current perspective on the recent debates around techno-optimism, AI risks, and ways to avoid extreme centralization in the 21st century.https://t.co/6lN2fLBUUL pic.twitter.com/h5aIyFNCoh
— vitalik.eth (@VitalikButerin) November 27, 2023
Vitalik Buterin stellt ein hybrides Modell vor, bei dem es darum geht, wie wir uns davor schützen können, dass die KI abtrünnig wird, und wie wir gleichzeitig die Vorteile nutzen können, die sich aus der Einführung der KI ergeben. Er nennt dies die defensive Beschleunigungsperspektive.
KI ist eine neue Art von Geist
Buterin beginnt mit der Feststellung, dass wir in den letzten 2000 Jahren zwar rasante Fortschritte gemacht haben, es aber keine Innovation wie KI gegeben hat. Zugegeben, wir haben auch andere Innovationen wie das Rad, technologische Innovationen und sogar industrielle Revolutionen erlebt. Aber der Fortschritt der KI ist mit nichts vergleichbar, was wir je erlebt haben.
Der Autor argumentiert, dass Technologie von Natur aus gut ist und dazu geführt hat, dass die Lebenserwartung der Menschen gestiegen ist, die Armut in der Welt zurückgegangen ist, die Vernetzung verbessert wurde und unsere Lebensqualität allgemein gestiegen ist. Bei dem derzeitigen Tempo, so der Autor, wird es die Technologie ermöglichen, das Altern und Krankheiten zu beenden.
Doch trotz all dieser Vorteile kann das Aufkommen der KI nicht einfach als eine weitere technologische Störung abgetan werden. Es bringt radikale Veränderungen in der Art und Weise mit sich, wie die Menschheit mit der Technologie interagieren wird. “KI ist eine neue Art von Geist, der radikal an Intelligenz gewinnt und gute Chancen hat, die menschlichen Fähigkeiten zu überholen”, meint er.
Eine Gefahr für die Menschheit
Vitalik Buterin zeichnet dann ein Bild, in dem die KI abtrünnig wird. Er sagt, dass die Menschen dann nicht mehr sicher sind, selbst wenn wir zum Mars fliegen. Er behauptet, dass eine superintelligente KI die Menschheit definitiv auslöschen wird, wenn sie beschließt, sich gegen uns zu wenden. Zur Untermauerung seiner Behauptung führt er an, dass laut einer aktuellen Umfrage unter ML-Forschern 5-10% der Befragten glauben, dass KI das Potenzial hat, die Menschheit, wie wir sie kennen, zu vernichten. Es besteht auch die Möglichkeit, dass wir in eine Zukunft kommen, in der KIs uns als Haustiere betrachten. Denn was ein Mensch kann, wird eine KI wahrscheinlich besser können. Er meint auch, dass wir in eine Welt kommen könnten, in der totalitäre Regime die KI nutzen, um ihre Regeln durchzusetzen und jede Form von Widerstand der Massen auszuschalten.
Defensive Beschleunigung
Vitalik schlägt ein KI-Beschleunigungsmodell vor, bei dem der Mensch im Mittelpunkt aller Entscheidungen steht. Obwohl er nicht besonders optimistisch ist, meint er, dass dieses Modell im Moment der beste Weg ist, die KI zu zähmen. Dieses Modell beinhaltet die Dezentralisierung des Entscheidungsprozesses bei der Weiterentwicklung der KI, damit nicht einige wenige Instanzen zu viel Kontrolle über die Weiterentwicklung der KI haben. Er schlägt auch eine Welt vor, die eine Schnittstelle zwischen Mensch und Computergehirn beinhaltet. Das bedeutet, dass menschliche Gehirne mit KI verschmelzen, um die Vorteile der KI zu nutzen. Er räumt zwar ein, dass dieser Weg besorgniserregend ist, besteht aber darauf, dass die Steuerung eines solchen Weges dezentralisiert und von einer auf Sicherheit ausgerichteten Open-Source-Bewegung angeführt werden sollte.
Er schließt mit der Feststellung, dass die Verschmelzung von KI mit menschlichen Gehirnen der am wenigsten unerwünschte Weg ist, wenn die Menschheit eine Zukunft anstrebt, in der wir nicht als Haustiere betrachtet werden.