Besonders brisant findet ­Noble, dass im Internet Vorurteile versteckt wirken. «Wenn mich ein Algorithmus als kreditunwürdig einstuft, weil in meinem Social-Media-Netzwerk einige meiner Freunde Schulden haben, werde ich das nie erfahren», so Noble. Oder anders gesagt: Ohne ihr Wissen und ohne Abgleich mit der Realität hat sie der Algorithmus in eine Kategorie gesteckt, die zu ihrem Nachteil ist.

Eine hauptsächliche Anziehungskraft von Algorithmen bestehe darin, dass sie es den Mächtigen erlauben, unpopuläre Ergebnisse, für die sie üblicherweise selbst geradestehen müssten, auf Blackboxes zu schieben, kommentierte der Tech-Kritiker Roger McNamee kürzlich auf Twitter. Von einer Blackbox spricht man dann, wenn die Entscheidungsvorgänge innerhalb eines Computerprogramms für Außenstehende nicht nachvollziehbar sind. Die vermeintlich neutrale Mathematik dient also nicht nur der automatisierten Entscheidungsfindung, sondern auch der Verschleierung von Verantwortung.