Haben Sie sich jemals gefragt, ob Ihre Entscheidungen wirklich bei Ihnen liegen? Experten der Universität Cambridge haben auf diese Frage eine beunruhigende Antwort: KI wird bald in der Lage sein, unsere Absichten vorherzusagen (und vor allem zu verkaufen), noch bevor wir uns ihrer bewusst sind.
Willkommen auf dem „vorausschauenden“ Markt, der unsere aufkeimenden Wünsche in Verhandlungsmasse verwandelt.
Im Markt der Wünsche
Das erste Mal, dass ich diese Forschung gelesen habe von Leverhulme Center für die Zukunft der Intelligenz (Den Link zum Nachlesen finden Sie am Ende des Artikels.) Ich musste mehrmals innehalten und erneut lesen. Es ist alles wahr: Wir treten in eine Ära ein, in der unsere innersten Gedanken, unsere noch ungeformten Absichten, vielleicht sogar Träume Sie werden zum Verhandlungsobjekt werden.
Es ist, als ob jemand einen Blick in unsere Gedanken werfen könnte, während wir noch darüber entscheiden, was wir tun sollen. Und nicht nur schauen, sondern, wie bereits erwähnt, diese Informationen an den Meistbietenden verkaufen. Der Dr. Yaqub Chaudhary bringt es klar zum Ausdruck: „KI-Assistenten dringen in jeden Aspekt unseres Lebens ein, aber wir müssen uns fragen: Wem dienen sie wirklich?“
Das erinnert mich an all die Male, als meine Mutter mit Siri oder Alexa sprach und dachte, sie führe ein privates Gespräch. Wie viel von dem, was er sagte, wurde analysiert, vorhergesagt, verkauft? Wahrscheinlich alles.
Wie diese versteckte Wirtschaft funktioniert
Il Jonnie Penn verwendet eine Metapher, die ich perfekt finde: Basierte die digitale Wirtschaft früher auf unserer Aufmerksamkeit (Likes, Aufrufe, online verbrachte Zeit), strebt sie jetzt nach etwas Tieferem. Es ist, als würde man vom Fotografieren der Meeresoberfläche zur Kartierung der Unterwasserströmungen übergehen.
Cambridge-Forscher nennen es „Intentionsökonomie“, aber ich betrachte es als ein riesiges Wunschvorhersagesystem. Denken Sie darüber nach Minority Report, aber anstatt Verbrechen vorherzusagen, sagt KI Käufe, Entscheidungen und Entscheidungen voraus.
Was macht mir am meisten Angst? Dieses System könnte alles beeinflussen, von unseren alltäglichsten Kaufentscheidungen bis hin zu Wahlentscheidungen. Wie können wir sicher sein, dass unsere Wünsche wirklich unsere sind?
Die Technologie, die unsere Gedanken liest
Ich finde es faszinierend, welches Beispiel Forscher geben, um den Grad der Ausgereiftheit dieser Technologie einfach zu verstehen. Wenn aktuelle Sprachmodelle Sätze und sprachliche Strukturen „antizipieren“ (sie sind eine Art „Mega-T9“ des Smartphones), wird die künstliche Intelligenz nach und nach nicht nur verstehen, was wir sagen, sondern auch analysieren (bis hin zur Vorhersage). wie die wir sagen es, wenn wir sagen es, mit welchem emotionalen Ton wir sagen es.
Hat Ihnen eine App genau in dem Moment, in dem Sie sich dazu entschließen wollten, etwas vorgeschlagen? Noch nicht, denke ich, ich hoffe. Aber wenn es in naher Zukunft passiert, ist es möglicherweise kein Zufall. KI lernt, die Wege unserer Absichten zu erkennen: diejenigen, die unseren Entscheidungen vorausgehen. Von einem Moment, nachdem wir uns etwas gewünscht haben, gehen sie zu einem Moment davor über.
Und große Technologieunternehmen wissen das genau. OpenAI sucht aktiv nach Daten über menschliche Absichten, Shopify entwickelt Chatbots, die unsere Absichten „extrahieren“, Meta lernen, wie wir unsere verborgenen Wünsche verstehen können. Es handelt sich nicht um eine Hypothese, sondern um die einfache Beobachtung des Kontexts.
Die Absichten (und Signale), die wir nicht ignorieren können
Letztes Jahr Apple Er hat etwas getan, das uns zum Nachdenken anregen sollte: Er hat „App Intents“ entwickelt, ein System, das es Apps ermöglicht, unser zukünftiges Handeln vorherzusagen. Es geht nicht mehr nur darum, auf unsere Befehle zu reagieren, sondern sie auch zu antizipieren.
Und was ist mit CICERO, Metas KI spielt Diplomatie. Wenn eine KI Absichten in einem verhandlungsbasierten Spiel vorhersagen und manipulieren kann, was kann sie dann mit unseren alltäglichen Entscheidungen tun?
Il Dr. Chaudhary er sagt es unverblümt:
Schon heute verkaufen Unternehmen unsere Aufmerksamkeit. Der nächste logische Schritt besteht darin, unsere Wünsche zu verkaufen, bevor wir uns ihrer überhaupt bewusst werden.
Ökonomie der Absichten: eine gemeinsam zu planende Zukunft
Die Studie veröffentlicht am Harvard Data Science Review (Ich verlinke es dir hier) stellt uns vor die Wahl. Als Gesellschaft müssen wir entscheiden, ob wir eine Zukunft wollen, in der unsere Absichten eine Ware sind, die gekauft und verkauft werden kann.
Um es klar zu sagen: Wie Dr. Penn selbst in seiner Analyse feststellt, sind diese Entwicklungen nicht zwangsläufig negativ, haben aber durchaus disruptives Potenzial. Der Schlüssel liegt im öffentlichen Bewusstsein. Wir müssen verstehen, was passiert, um Einfluss auf die Richtung zu nehmen, in die sich diese Technologie entwickeln wird.
Ich persönlich glaube, dass wir an einem Scheideweg stehen. Wir können die Ökonomie der Absichten im Verborgenen entstehen lassen oder wir können Transparenz und klare Regeln einfordern. Die Wahl liegt, zumindest vorerst, immer noch in unseren Händen. Oder hat das vielleicht auch schon eine KI vorhergesagt?
