Okay. Es ist einfach passiert. An einem Herbsttag bestand eine künstliche Intelligenz den Mensa-Test mit einer deutlich über dem menschlichen Durchschnitt liegenden Punktzahl. O1, das kürzlich von OpenAI vorgestellte Modell, hat es geschafft. Und mit seinem IQ von 120 übertraf er nicht nur den menschlichen Durchschnitt: Er öffnete die Büchse der Pandora mit ethischen, philosophischen und praktischen Fragen. Wollen wir uns entscheiden oder nicht, die Parameter neu zu definieren, die die sogenannte „Intelligenz“ in einer Welt definieren, in der Maschinen unsere Bewertungssysteme übertreffen können?
Der Aufstieg von o1: dem „bösen Jungen“ im KI-Heiligtum
Il Erdbeerprojekt di OpenAI produzierte, was das Unternehmen als Durchbruch bezeichnetallgemeine künstliche Intelligenz (AGI). Das o1-Modell ist kein einfacher Algorithmus, sondern eine „denkende“ KI, die Verstärkungslernen und Gedankenkettenverarbeitung nutzt, um menschliches Denken nachzuahmen und die Problemlösung durch deduktive Schlussfolgerungen zu erleichtern.
Die Testergebnisse? Beeindruckend, um es gelinde auszudrücken:
- 89. Perzentil bei Bewerbungen auf Doktoratsniveau,
übertrifft die meisten Menschen; - 83 % der Probleme gelöst in der Eignungsprüfung für die Internationale Mathematikolympiade;
- IQ von 120 in einem Mensa-Test.
„Talente“, die deutlich über dem menschlichen Durchschnitt liegen, der zwischen 1 und 85 IQ-Punkten liegt. Ich wiederhole, was ich am Tag danach gesagt habe Bestehen des Turing-Tests von GPT-4: Was sollen wir tun?
Jenseits des Mensa-Tests: die Implikationen einer „brillanten“ KI
Der Erfolg von o1 im Mensa-Test ist nicht nur, wie erwähnt, eine technologische Errungenschaft, sondern ein Wendepunkt, der tiefgreifende Fragen über die Zukunft der Menschheit und der Technologie aufwirft. Yuval Noah Harari, Historiker und Philosoph, beschreibt in seinem Buch „Nexus: A Brief History of Information Networks from the Stone Age to AI“ KI als Agent, grundlegend anders als jede andere von Menschen erfundene Technologie.
„KI ist die gefährlichste Technologie, die wir je geschaffen haben“ sagt Harari unterstreicht seine einzigartige Fähigkeit, autonom zu agieren und sich weiterzuentwickeln.
Potenzial und Gefahren: Das Doppelgesicht der AGI, die in den Mensa-Tests gewinnt
Das Potenzial der kommenden AGI (und sie sagen was bald kommen wird) ist umfangreich und vielversprechend. Könnte sein:
- Personalisieren Sie die Bildung;
- Branchen im Hinblick auf Nachhaltigkeit neu erfinden;
- Beschleunigen Sie die wissenschaftliche Forschung;
- Nahrungsmittel- und Wasserknappheit auf globaler Ebene lösen;
- Menschliche Konflikte vermitteln (daran glaube ich hier nicht).
Die andere Seite der Medaille? Unnötig zu sagen, erschreckend. Bei unsachgemäßer Implementierung könnte diese Technologie auch:
- Produzieren Sie Fake News, Rekonstruktionen und noch mehr irreführende Informationen;
- Befürworten Sie totalitäre und repressive Regime;
- Die Zerstörung von Arbeitsrollen nimmt dramatisch zu;
Mit anderen Worten: eine Zukunft, die uns nicht mehr vorhersieht.
Das Rennen um AGI: ein Wettbewerb ohne Regeln?
Ich versichere Ihnen: Trotz meines vorsichtig optimistischen Ansatzes bereitet mir die Geschwindigkeit, mit der Big-Tech-Unternehmen KI in den Mainstream drängen, auch Sorgen. Abgesehen von ein paar z klare WarnungenAuch uns fehlen ausreichende Leitplanken und Regierungen die WilligenSie haben Mühe, mit der Geschwindigkeit des Wandels Schritt zu halten.
Was wäre nötig, um eine AGI wirklich im Dienste der Menschheit zu haben?
- Das genaue Gegenteil von dem, was ich jetzt wahrnehme: eine schrittweise Umsetzung in kontrollierten Umgebungen;
- Eine klare Ausrichtung der AGI-Systeme auf vom Menschen festgelegte Ziele;
- Eine gemeinsame Vereinbarung zwischen den Regierungen über Entwicklungs- und Umsetzungsparameter;
- Eine laufende Debatte über die Richtung der AGI-Forschung mit starken ethischen Beiträgen und soziologisch.
Die Zukunft ist bereits da: Sind wir bereit?
Das o1-Modell von OpenAI und sein Mensa-Test-Exploit stellen einen wichtigen Meilenstein dar, aber wie Harari betont, besteht eine implizite Gefahr, wenn eine menschliche Erfindung zu einem autonomen Agenten wird, der in der Lage ist, seine Schöpfer bei seinem Streben nach Wissen und Wachstum zu ignorieren.
Die Herausforderung, die uns erwartet, ist nicht nur technologischer, sondern auch zutiefst ethischer und philosophischer Natur. Als Gesellschaft stehen wir vor entscheidenden Fragen. Ich frage sie an mich selbst und ich frage sie an Sie:
- Wie können wir sicherstellen, dass AGI im Einklang mit menschlichen Werten bleibt?
- Welche Rolle wird die Menschheit in einer Welt spielen, in der Maschinen uns an „Intelligenz“ übertreffen können?
- Wie können wir das Potenzial von AGI nutzen und gleichzeitig Risiken minimieren?
Der bestandene Mensa-Test von o1 ist nur ein weiteres Zeichen einer neuen Ära. Der eigentliche Test wird sein, wie wir auf diese technologische Revolution reagieren. Anhand unserer Antwort werden wir über jeden Test hinaus erkennen, über welche wahre Intelligenz wir verfügen.
