Die neue Forschung von Datenwissenschaftlern an der University of Georgia ist paradox.
Trotz der wachsenden Besorgnis über das Eindringen von Algorithmen in das tägliche Leben sind Menschen möglicherweise eher bereit, einem Computer zu vertrauen als ihren Kollegen, insbesondere wenn eine Aufgabe schwierig wird.
Von der Auswahl des nächsten Songs auf der Wiedergabeliste bis zur Auswahl der richtigen Hosengröße verlassen sich die Menschen zunehmend auf die Ratschläge von Algorithmen, um tägliche Entscheidungen zu treffen und ihr Leben zu vereinfachen.
Fragen Sie den Algorithmus
"Algorithmen sind in der Lage, eine Vielzahl von Aufgaben zu erledigen, eine Zahl, die praktisch jeden Tag zunimmt", sagt er. Erich Bogert des Terry College of Business Abteilung für Managementinformationssysteme.
Es scheint eine Tendenz zu geben, sich auf Algorithmen zu verlassen, wenn eine Aufgabe schwieriger wird, und dieser Effekt ist stärker als die Tendenz, sich auf die Ratschläge anderer zu verlassen.
Bogert arbeitete mit dem Professor für Managementinformationssysteme zusammen Rick Watson und der Assistenzprofessor Aaron Scheiter auf einem Papier heute in Nature's Scientific Reports veröffentlicht.
die Studie
Die Forschung umfasste 1.500 Personen und ist Teil einer größeren Arbeit, die analysiert, wie und wann Menschen mit Algorithmen interagieren, um Informationen zu verarbeiten und Entscheidungen zu treffen.
Für diese Studie bat das Team die Freiwilligen, die Anzahl der Personen auf einem Foto einer Menschenmenge zu zählen, um Vorschläge einer Gruppe anderer Personen und Vorschläge eines Algorithmus zu unterstützen.
Mit zunehmender Anzahl von Personen in der Fotografie wurde das Zählen schwieriger und die Personen folgten den vom Algorithmus generierten Eingabeaufforderungen, anstatt allein zu zählen oder den Vorschlägen anderer Personen zu folgen.
Algorithmen, auf die Sie sich verlassen können
Schecter erklärte, dass es wichtig sei, als Testaufgabe zu zählen, da die Anzahl der Personen auf dem Foto die Aufgabe mit zunehmender Objektivität objektiv schwieriger macht. Es ist auch die Art von Geschäft, in der jeder erwartet, dass Computer gut sind.
Dies ist eine Aufgabe, bei der Menschen einen Computer als gut empfinden, obwohl er möglicherweise anfälliger für Verzerrungen ist als das Zählen von Objekten.
Aaron Scheiter
Sucht ist ein Risiko
„Eines der häufigsten Probleme bei AI ist die Verwendung von Krediten oder die Genehmigung von Krediten. Es sind viele Parameter zu berücksichtigen (z. B. Einkommen oder "Bonität"): Dies macht es zu einem guten Job für einen Algorithmus.
Die Abhängigkeit von Algorithmen ist jedoch ein Risiko. Ich sage mehr: Es kann schlecht für mich sein. Weil es zu diskriminierenden Praktiken führt, möglicherweise aufgrund sozialer Faktoren, die nicht berücksichtigt werden.
Sie haben zweifellos von den Algorithmen von gehört Gesichtserkennungund wie sie angeklagt wurden. Ihre Verwendung ergab kulturelle Vorurteile in der Art, wie sie konstruiert wurdenDies kann zu Ungenauigkeiten führen, wenn Gesichter mit Identitäten abgeglichen oder qualifizierte Kandidaten ausgewählt werden.
Vorurteile, die bei Aktivitäten wie dem Zählen möglicherweise nicht vorhanden sind. Es ist jedoch wichtig zu verstehen, wie sich Menschen bei Entscheidungen auf Algorithmen verlassen.
Gegenseitiges Vertrauen
Wie bereits erwähnt, war diese Studie Teil des größeren Forschungsprogramms von Schecter zur Mensch-Maschine-Zusammenarbeit, das vom US Army Research Bureau finanziert wurde.
Das ultimative Ziel ist es, Gruppen von Menschen und Maschinen zu betrachten, die Entscheidungen treffen, und herauszufinden, wie wir sie dazu bringen können, sich gegenseitig zu vertrauen und wie dies ihr Verhalten ändert.
Da es in diesem Zusammenhang nur sehr wenig Forschung gibt, haben die Forscher praktisch bei Null angefangen. Schecter, Watson und Bogert untersuchen derzeit, wie Menschen sich bei kreativen und moralischen Urteilen auf Algorithmen verlassen. Unter den Beispielen? Schreiben Sie beschreibende Passagen oder legen Sie eine Kaution für Gefangene fest.
