Da (1941) Computer Gestalt annahmen, füllten sie zuerst ganze Räume, dann Bürotische und dann Taschen. Eines hatten sie alle gemeinsam: Sie wurden vom menschlichen Verstand entworfen. Im Laufe der Jahre haben sich viele Menschen gefragt: Was ist, wenn Computer sich selbst entwerfen?
Eines Tages könnte ein intelligenter Computer eine Maschine schaffen, die weitaus leistungsfähiger ist als er selbst. Dieser neue Computer würde wahrscheinlich einen anderen noch leistungsfähiger machen und so weiter. Künstliche Intelligenz durchläuft eine exponentielle Aufwärtskurve und erreicht Höhen der Erkenntnis, die für Menschen unvorstellbar sind. Dies ist mit einem Wort die technologische Singularität.
Technologische Singularität
Der Begriff „technologische Singularität“ reicht über 50 Jahre zurück, als Wissenschaftler gerade anfingen, an Binärcodes und Schaltkreisen zu basteln, die grundlegende Berechnungen ermöglichten. Schon damals war technologische Singularität ein umwerfendes und beeindruckendes Konzept.
Eine neue Generation superintelligenter Computer könnte alles revolutionieren. Von der Nanotechnologie über die immersive virtuelle Realität bis zur superluminalen Raumfahrt.
Mit der technologischen Singularität könnten wir, anstatt nur unser biobasiertes Gehirn zu nutzen, künstliche Intelligenz verwenden, um mit ihr zu interagieren. Verbessern oder steigern Sie die Leistung unseres Gehirns mit Implantaten oder sogar digital unsere Gedanken hochladen überlebe unseren Körper.
Das Ergebnis der technologischen Singularität wäre eine aufgeladene Menschheit, die mit Lichtgeschwindigkeit denken kann und frei von biologischen Sorgen ist.
Eine völlig neue Welt
Der Philosoph Nick bostrom er glaubt, dass diese dynamische Welt eine ganz neue Ära einleiten könnte.
In dieser Welt wären wir alle eher wie Kinder in einem riesigen Disneyland, das nicht von Menschen betrieben wird, sondern von Maschinen, die wir geschaffen haben oder die sie selbst geschaffen haben.
Nick bostrom, Philosoph, Schriftsteller und Direktor des Future of Humanity Institute an der University of Oxford
Der Sternenhimmel über mir, das moralische Gesetz in meinem Prozessor
Die technologische Singularität könnte uns in eine utopische Fantasie oder einen dystopischen Albtraum führen. Und dieser Bostrom weiß es gut. Seit Jahrzehnten denkt er über die Entstehung einer superintelligenten KI nach und weiß es genau die Risiken, die solche Kreationen mit sich bringen.
Es gibt natürlich den klassischen Science-Fiction-Albtraum einer Roboterrevolution, bei der Maschinen entscheiden, dass sie lieber die Kontrolle über die Erde haben möchten.
Noch wahrscheinlicher ist jedoch die Möglichkeit, dass der Moralkodex einer superintelligenten KI, was auch immer es sein mag, einfach nicht mit unserem übereinstimmt.
Eine KI, die für selbstfahrende Autoflotten oder die Verteilung medizinischer Versorgung zuständig ist, könnte Chaos anrichten, wenn sie Menschenleben nicht mehr so schätzt wie wir.
Das KI-Ausrichtungsproblem, wie es heißt, hat in den letzten Jahren eine neue Dringlichkeit erhalten, auch dank zur Arbeit von Denkern wie Bostrom.
Technologische Singularität und Denkunterschiede
Wenn wir nicht in der Lage sind, superintelligente künstliche Intelligenz zu kontrollieren, hängt unser Schicksal möglicherweise davon ab, ob zukünftige maschinelle Intelligenz genauso denkt wie wir. An dieser Front erinnert uns Bostrom daran, dass Bemühungen im Gange sind, „KI so zu gestalten, dass sie tatsächlich Dinge auswählt, die für den Menschen von Vorteil sind, und sich dafür entscheidet, uns um Klarstellung zu bitten, wenn nicht klar ist, was wir meinen. "
Es gibt Möglichkeiten, wie wir einer aufstrebenden Superintelligenz die menschliche Moral beibringen können. Algorithmen für maschinelles Lernen könnten wie heute gelehrt werden, um das menschliche Wertesystem zu erkennen GAN Sie werden in einer Datenbank mit Bildern und Texten geschult. Oder mehrere AIs könnten unter der Aufsicht eines menschlichen Moderators miteinander streiten, um bessere Modelle menschlicher Präferenzen zu erstellen.
Eine Frage des Respekts
Wenn die technologische Singularität nicht mehr einfache Maschinen, sondern echte, künstlich denkende Köpfe hervorbringen würde, sollten wir auch den ethischen Aspekt berücksichtigen. Es wäre, so Bostrom, eine Notwendigkeit, sich zu fragen, ob es richtig ist, sie zu beeinflussen, und in welchem Umfang.
Kurz gesagt, in dieser Ära bewusster Maschinen könnte die technologische Singularität den Menschen eine neue moralische Verpflichtung auferlegen: digitale Wesen mit Respekt zu behandeln.
