Unter (fast) allen zukünftigen und beängstigenden Technologien, die negative Auswirkungen auf die Welt haben könnten, gibt es nur einige absolut erschreckende, die wir niemals sehen wollen. Hier sind einige (in keiner bestimmten Reihenfolge):


Kriegsnanotechnologie
Nichts könnte den Untergang der Menschheit schneller herbeiführen als eine molekulare Nanotechnologie, die in eine Waffe umgewandelt wird. Es ist eine Bedrohung, die sich auf zwei verheerende Faktoren verlassen kann: exponentielles Wachstum und unkontrollierte Replikation. Eine zynische Regierung, eine Nichtregierungsorganisation oder sogar eine Terroristengruppe können mikroskopisch kleine Maschinen erschaffen, die sich selbst replizieren können, indem sie die Ressourcen des Planeten schnell verbrauchen. Winzige Gadgets, die mit der Wildheit eines Feuers die Erde in einen grauen Schleim verwandeln.
Robert Freitas, ein Nanotechnologie-Experte und Theoretiker, hat über mehrere mögliche Varianten tödlicher Nanotechnologie spekuliert. Flugzeugmaschinen könnten das gesamte Sonnenlicht einfangen, andere wären gierig nach Kohlenstoff oder Biomasse oder könnten sich von bestimmten Organismen „ernähren“.
Im schlimmsten Szenario, der sogenannten „globalen Ökophagie“, würde der Planet in nur 20 Monaten komplett zerstört werden. In dieser kurzen verfügbaren Zeit sollte der Mensch scheinbar unaufhaltsame Maschinen bekämpfen und einen Weg finden, ihre Replikation zu stoppen.
Aus diesem Grund, folgert der Experte, müsse die Nanotechnologie streng reguliert werden, indem ein Moratorium für die Verwendung für militärische Zwecke verhängt werde.


Empfindungsfähige Maschinen
Es wird allgemein angenommen, dass die Menschheit früher oder später Zeuge der Geburt künstlicher Bewusstseinsmaschinen werden wird. Es ist jedoch notwendig, rechtzeitig Vorkehrungen zu treffen, um alle möglichen Konsequenzen, einschließlich ethischer, des Falls zu berücksichtigen. Ein Thema, das auch in der TV-Serie "Westworld" brillant aufgegriffen wurde, wenn Sie wissen, wovon ich spreche.
Bereits 2003 stellte der Philosoph Thomas Metzinger fest, dass es furchtbar grausam wäre, Software zu entwickeln, die leiden kann.
„Was würden Sie sagen, wenn jemand zu Ihnen käme und sagen würde: ‚Hey, ich möchte genetisch gestörte Kinder erschaffen! Um des Fortschritts willen brauchen wir Menschen ohne ein paar Stücke oder mit bestimmten emotionalen oder kognitiven Defiziten.‘. Würden Sie das absurd finden? oder nicht?". Darüber hinaus. Wir würden es gefährlich finden. Eine empfindungsfähige Maschine, wenn sie wirklich empfindungsfähig ist, kann in der Tat an allen Arten von Defiziten leiden. Und ohne eine Ethikkommission zu haben, keine Vertretung zu ihrer Verteidigung.
Laut der Futuristin Louie Helm ist eines der besten Dinge an einem Computer, dass man ihn dazu bringen kann, langweilige Dinge zu tun, ohne ihn zu langweilen. Seitdem haben wir uns für einen entschieden AI Anstelle von Menschen für einige Aufgaben kann es unmoralisch sein, sie absichtlich so zu programmieren, dass sie selbstbewusst sind. Ein Gewissen in einer Maschine zu fangen und sie dann zu zwingen, für Sie zu arbeiten, kommt der schlimmsten Sklaverei, die jemals gesehen wurde, sehr, sehr nahe.
Ganz zu schweigen davon, dass eine hypothetische künstliche Intelligenz, die erzeugt wurde, um die biologische Struktur des Gehirns wiederherzustellen, das Ergebnis einer guten Programmierung darin bestehen könnte, dass diese Intelligenz ihre Sinne verlieren würde, wenn sie einer unfairen und bemerkenswerten Belastung für ihre Psyche ausgesetzt würde.
Dies ist ein Grund, der Entwicklung erschreckender Technologien auf der Grundlage künstlicher Intelligenz, die die Berufung haben, ein Bewusstsein zu erlangen, besondere Aufmerksamkeit zu widmen.


Gedankenleser
Die Gefahr erschreckender Technologien, die mit dieser Möglichkeit verbunden sind, besteht natürlich bei Maschinen, die in der Lage sind, die Gedanken und Erinnerungen einer Person aus der Ferne und ohne ihre Zustimmung zu lesen. Dies wird sehr schwierig sein, bis das menschliche Gehirn mit dem Netz oder einer anderen Form der Kommunikation verbunden ist.
Die Entwicklung der Gedankenlesen geht aber schnell voran. Letztes Jahr verwendete ein niederländisches Team Gehirnscans und maschinelles Lernen, um festzustellen, welche Buchstaben eine Person gerade betrachtete. Die Revolution eröffnet das Potenzial, menschliche Gedanken in einer nie dagewesenen Detailgenauigkeit zu rekonstruieren: Es wird möglich sein zu wissen, was wir sehen, was wir denken, woran wir uns erinnern. Hier sind Sie ja. Stellen Sie sich nun so etwas vor, das von jedem totalitären Regime verwendet wird, und überdenken Sie das Konzept des "Absichtsprozesses".