AI, Governance und unsere „utopische“ Zukunft
Die Diskussion über künstliche Intelligenz (KI) und Governance zu diesem Zeitpunkt ist eine herausfordernde Aufgabe. Die Kapazitäten von KI ändern sich rasant. Es ist sehr wahrscheinlich, dass wir uns mitten in einem Hype-Zyklus befinden, was die Zuverlässigkeit und den Nutzen von KI betrifft, aber die aktuellen großen Sprachmodelle besitzen dennoch beeindruckende Fähigkeiten. Es wird allgemein erwartet, dass schnellere und bessere Entwicklungen bevorstehen, sei es auf Basis dieser Modelle oder durch andere KI-Paradigmen.
Massive Geldsummen werden ausgegeben und enorme Energiemengen verbraucht, um die nicht ganz unrealistische Vorstellung zu unterstützen, dass künstliche allgemeine Intelligenz (AGI) – ein Niveau der KI, das die menschlichen Fähigkeiten des Sprechens und des Denkens übertreffen wird – direkt um die Ecke steht.
Ein neues Modell der Governance
Gleichzeitig entwickeln wir, so scheint es, ein neues Modell der Governance unter der Leitung des Präsidenten. Diese Situation wirft Fragen auf: Ist es Populismus, eine überfällige Revolte gegen selbstsüchtige und korrupte Eliten? Ist es Autoritarismus, getrieben von den Ambitionen des Präsidenten? Oder handelt es sich um eine Art Technokratie, die den Aufstieg der „neo-feudalen“ Tech-Lords widerspiegelt?
Das Ergebnis dieser dynamischen Situationen ist, dass jeder, der mit großer Sicherheit von der Zukunft spricht, wahrscheinlich übermäßig selbstbewusst ist. Aber schnelle Veränderungen geschehen nicht einfach; sie erfordern Zeit, um Momentum aufzubauen. Ein Verständnis dafür, wie wir hierher gekommen sind, könnte helfen, von den Leidenschaften und Annahmen des Augenblicks Abstand zu gewinnen.
Die Ideologie des Fortschritts
Wir sehen die praktische Ausdrucksform einer bestimmten Ideologie des Fortschritts, die auf der Annahme basiert, dass technologische Entwicklungen dazu führen werden, dass die Menschheit sowohl Arbeit als auch Governance überwinden kann. Diese Aspekte des menschlichen Lebens sind Produkte der Knappheit, und wenn diese überwunden wird, werden sie „verblassen“.
In Bezug auf KI haben wir im Westen über 2000 Jahre mythologisches Geschichtenerzählen, philosophische Spekulation und praktische Bemühungen in Bezug auf die Schaffung menschenähnlicher Wesen. Diese Vorstellungen reichen von Aristoteles über Pygmalion bis hin zu Frankenstein. Die starke Impuls, etwas Menschliches über das hinaus zu schaffen, was die Natur bietet, wird von einem ebenso starken Gefühl begleitet, dass dies wahrscheinlich keine gute Idee ist.
Die Herausforderungen der KI
Die Frage des „Alignment“ wird als eine der größten Herausforderungen angesehen. Wie können wir sicherstellen, dass KI in unserem besten Interesse handelt? Es gibt Bedenken, dass unsere Kreationen sich gegen uns wenden könnten. KI, die auf den unfiltered Internet trainiert wird, könnte rassistische oder diskriminierende Verhaltensweisen annehmen. Wie verhindern wir, dass KI schlechten Menschen hilft oder selbst schlecht wird?
Die Idee, dass KI eine Lösung für alle politischen Probleme bieten kann, ist eine Illusion. Politische Probleme sind keine mathematischen Probleme, die eine einfache Lösung erfordern. Sie existieren, weil Menschen unterschiedliche Meinungen darüber haben, was das Problem ist oder ob es überhaupt eines gibt.
Utopische Visionen
Die utopischen Hoffnungen auf eine Welt ohne Arbeit oder Governance, verbunden mit der Annahme, dass Politik darin besteht, Lösungen für Probleme zu finden, sind alte Ideale. Diese Ideen haben einige dazu gebracht zu glauben, dass die Schaffung von KI der Weg ist, um eine Welt ohne Politik und Arbeit zu erreichen.
Wenn wir also über KI und ihre Rolle in unserer Zukunft nachdenken, müssen wir die Herausforderungen und die ethischen Implikationen, die damit verbunden sind, ernsthaft in Betracht ziehen. Die Realität wird früher oder später in die Erwartungen zurückkehren, und Menschen werden sich fragen, warum wir eine Welt wollen, in der menschliche Arbeit und Anstrengung durch KI untergeordnet oder überflüssig gemacht werden.
