Die neue Forschung von Datenwissenschaftlern der University of Georgia ist paradox.
Trotz der wachsenden Besorgnis über das Eindringen von Algorithmen in das tägliche Leben sind Menschen möglicherweise eher bereit, einem Computer zu vertrauen als ihren Kollegen, insbesondere wenn eine Aufgabe herausfordernd wird.
Von der Auswahl des nächsten Songs auf der Wiedergabeliste bis zur Auswahl der richtigen Hosengröße verlassen sich die Menschen zunehmend auf die Ratschläge von Algorithmen, um tägliche Entscheidungen zu treffen und ihr Leben zu vereinfachen.
Fragen Sie den Algorithmus
„Die Algorithmen sind in der Lage, eine riesige Anzahl von Aufgaben zu erledigen, eine Zahl, die praktisch täglich zunimmt“, sagt er. Erich Bogert des Terry College of Business Abteilung für Managementinformationssysteme.
Es scheint eine Tendenz zu geben, sich auf Algorithmen zu verlassen, wenn eine Aufgabe schwieriger wird, und dieser Effekt ist stärker als die Tendenz, sich auf den Rat anderer Menschen zu verlassen.
Bogert arbeitete mit dem Professor für Managementinformationssysteme zusammen Rick Watson und der Assistenzprofessor Aaron Scheiter auf einem Papier veröffentlicht heute in Nature's Scientific Reports.
die Studie
Die Forschung umfasste 1.500 Personen und ist Teil einer größeren Arbeit, die analysiert, wie und wann Menschen mit Algorithmen interagieren, um Informationen zu verarbeiten und Entscheidungen zu treffen.
Für diese Studie bat das Team die Freiwilligen, die Anzahl der Personen auf einem Foto einer Menschenmenge zu zählen, um Vorschläge einer Gruppe anderer Personen und Vorschläge eines Algorithmus zu unterstützen.
Als die Zahl der Menschen in der Fotografie zunahm, wurde das Zählen schwieriger und die Menschen begannen, den vom Algorithmus generierten Aufforderungen zu folgen, anstatt alleine zu zählen oder den Vorschlägen anderer Menschen zu folgen.
Algorithmen, auf die Sie sich verlassen können
Schecter erklärte, dass es wichtig sei, als Testaufgabe zu zählen, da die Anzahl der Personen auf dem Foto die Aufgabe mit zunehmender Objektivität objektiv schwieriger macht. Es ist auch die Art von Geschäft, in der jeder erwartet, dass Computer gut sind.
Dies ist eine Aufgabe, bei der Menschen einen Computer als gut empfinden, obwohl er möglicherweise anfälliger für Verzerrungen ist als das Zählen von Objekten.
Aaron Scheiter
Sucht ist ein Risiko
„Eines der häufigsten Probleme mit KI ist, wenn es darum geht, Kredite zu vergeben oder Kredite zu genehmigen. Es müssen viele Parameter berücksichtigt werden (z. B. Einkommen oder „Bonität“): Das macht es zu einer guten Aufgabe für einen Algorithmus.“
Die Abhängigkeit von Algorithmen ist jedoch ein Risiko. Ich sage mehr: Es kann schlecht für mich sein. Weil es zu diskriminierenden Praktiken führt, möglicherweise aufgrund sozialer Faktoren, die nicht berücksichtigt werden.
Sie haben zweifellos von den Algorithmen von gehört Gesichtserkennungund wie sie angeklagt wurden. Ihre Verwendung ergab kulturelle Vorurteile in der Art, wie sie konstruiert wurdenDies kann zu Ungenauigkeiten führen, wenn Gesichter mit Identitäten abgeglichen oder qualifizierte Kandidaten ausgewählt werden.
Vorurteile, die bei Aktivitäten wie dem Zählen möglicherweise nicht vorhanden sind. Es ist jedoch wichtig zu verstehen, wie sich Menschen bei Entscheidungen auf Algorithmen verlassen.
Gegenseitiges Vertrauen
Diese Studie war, wie bereits erwähnt, Teil von Schecters größerem Forschungsprogramm zur Mensch-Maschine-Kollaboration, das vom US Army Research Bureau finanziert wurde.
Das ultimative Ziel ist es, Gruppen von Menschen und Maschinen zu betrachten, die Entscheidungen treffen, und herauszufinden, wie wir sie dazu bringen können, einander zu vertrauen, und wie dies ihr Verhalten verändert.
Da es in diesem Zusammenhang kaum Forschung gibt, haben die Forscher praktisch bei Null angefangen. Schecter, Watson und Bogert untersuchen derzeit, wie sich Menschen auf Algorithmen verlassen, wenn sie kreative Urteile und moralische Urteile fällen. Unter den Beispielen? Schreiben Sie beschreibende Passagen oder setzen Sie Kautionen für Gefangene fest.
