Da (1941) Computer Gestalt annahmen, füllten sie zuerst ganze Räume, dann Bürotische und dann Taschen. Eines hatten sie alle gemeinsam: Sie wurden vom menschlichen Verstand entworfen. Im Laufe der Jahre haben sich viele Menschen gefragt: Was ist, wenn Computer sich selbst entwerfen?
Eines Tages könnte ein intelligenter Computer eine Maschine schaffen, die weitaus leistungsfähiger ist als er selbst. Dieser neue Computer würde wahrscheinlich einen anderen noch leistungsfähiger machen und so weiter. Künstliche Intelligenz bewegt sich exponentiell nach oben und erreicht Erkenntnishöhen, die für den Menschen unvorstellbar sind. Dies ist mit einem Wort die technologische Singularität.
Technologische Singularität
Der Begriff "technologische Singularität" stammt aus über 50 Jahren, als Wissenschaftler gerade anfingen, an dem Binärcode und den Schaltkreisen zu basteln, die grundlegende Berechnungen ermöglichten. Schon damals war die technologische Singularität ein beeindruckendes und beeindruckendes Konzept.
Eine neue Generation superintelligenter Computer könnte alles revolutionieren. Von der Nanotechnologie über die immersive virtuelle Realität bis zur superluminalen Raumfahrt.
Mit der technologischen Singularität könnten wir, anstatt nur unser biobasiertes Gehirn auszunutzen, künstliche Intelligenz verwenden und mit ihr kommunizieren. Verbessern oder steigern Sie die Leistung unseres Gehirns mit Implantaten oder sogar digital unsere Gedanken hochladen überlebe unseren Körper.
Das Ergebnis der technologischen Singularität wäre eine aufgeladene Menschheit, die in der Lage ist, mit Lichtgeschwindigkeit und frei von biologischen Sorgen zu denken.
Eine völlig neue Welt
Der Philosoph Nick bostrom Er glaubt, dass diese dynamische Welt eine ganz neue Ära einleiten könnte.
In dieser Welt wären wir alle eher wie Kinder in einem riesigen Disneyland, das nicht von Menschen betrieben wird, sondern von Maschinen, die wir geschaffen haben oder die sie selbst geschaffen haben.
Nick bostrom, Philosoph, Schriftsteller und Direktor des Future of Humanity Institute an der Universität Oxford
Der Sternenhimmel über mir, das moralische Gesetz in meinem Prozessor
Die technologische Singularität könnte uns in eine utopische Fantasie oder einen dystopischen Albtraum führen. Und dieser Bostrom weiß es gut. Seit Jahrzehnten denkt er über die Entstehung einer superintelligenten KI nach und weiß es gut die Risiken, die solche Kreationen mit sich bringen.
Natürlich gibt es den klassischen Science-Fiction-Albtraum einer Roboterrevolution, bei dem Maschinen entscheiden, lieber die Kontrolle über die Erde zu haben.
Noch wahrscheinlicher ist jedoch die Möglichkeit, dass der Moralkodex einer superintelligenten KI, was auch immer er sein mag, einfach nicht mit unserem übereinstimmt.
Eine KI, die für selbstfahrende Autoflotten oder die Verteilung medizinischer Versorgung zuständig ist, könnte Chaos anrichten, wenn sie das menschliche Leben nicht mehr so schätzt wie wir.
Das AI-Ausrichtungsproblem, wie es heißt, hat in den letzten Jahren eine neue Dringlichkeit erhalten, auch dank zur Arbeit von Denkern wie Bostrom.
Technologische Singularität und Denkunterschiede
Wenn wir nicht in der Lage sind, superintelligente künstliche Intelligenz zu kontrollieren, kann unser Schicksal davon abhängen, dass zukünftige maschinelle Intelligenz wie wir denkt. In diesem Zusammenhang erinnert uns Bostrom daran, dass Anstrengungen unternommen werden, „KI so zu gestalten, dass sie tatsächlich Dinge auswählt, die für den Menschen von Vorteil sind, und uns um Klärung bittet, wenn nicht klar ist, was wir meinen. ""
Es gibt Möglichkeiten, wie wir einer aufstrebenden Superintelligenz die menschliche Moral beibringen können. Algorithmen für maschinelles Lernen könnten wie heute gelehrt werden, um das menschliche Wertesystem zu erkennen GAN Sie werden in einer Datenbank mit Bildern und Texten geschult. Oder mehrere AIs könnten unter der Aufsicht eines menschlichen Moderators miteinander streiten, um bessere Modelle menschlicher Präferenzen zu erstellen.
Eine Frage des Respekts
Wenn die technologische Singularität keine einfachen Maschinen mehr schaffen sollte, sondern echte künstliche Denker, sollten wir auch den ethischen Aspekt berücksichtigen. Laut Bostrom wäre es notwendig, sich zu fragen, ob und in welchem Umfang es richtig ist, sie zu beeinflussen.
Kurz gesagt, in dieser Ära bewusster Maschinen könnte die technologische Singularität den Menschen eine neue moralische Verpflichtung auferlegen: digitale Wesen mit Respekt zu behandeln.
