Οι αλγόριθμοι του διαδικτύου οδηγούν την ανθρωπότητα να υπόκειται σε όλο και μεγαλύτερες διακρίσεις, από το σπίτι μέχρι τους χώρους εργασίας, με την υπάρχουσα νομοθεσία να αποτυγχάνει προς το παρόν να προστατεύσει τους πολίτες.
Αυτό οδηγεί σταδιακά στην εύνοια συγκεκριμένων πληθυσμιακών ομάδων.
Σύμφωνα Sandra Wachter, ακαδημαϊκό και επικεφαλής της σχετικής έρευνας από το Oxford Internet Institute, οι αλγόριθμοι σήμερα αντλούν συμπεράσματα σχετικά με ευαίσθητα προσωπικά χαρακτηριστικά όπως η εθνικότητα, το φύλο, ο σεξουαλικός προσανατολισμός και οι θρησκευτικές πεποιθήσεις με βάση τη συμπεριφορά περιήγησης του κάθε χρήστη στο διαδίκτυο.
Εν συνεχεία, τα χαρακτηριστικά που συλλέγονται χρησιμοποιούνται από τους διαφημιζόμενους στο διαδίκτυο για να στοχεύσουν ή να αποκλείσουν ορισμένες ομάδες από προϊόντα και υπηρεσίες ή ακόμα να τους προσφέρουν διαφορετικές τιμές.
Σύμφωνα με τον ισχύοντα κανονισμό για την προστασία των δεδομένων, είναι παράνομο για τους διαφημιζόμενους να στοχεύουν ομάδες ατόμων βάσει ευαίσθητων πληροφοριών «εξειδικευμένης κατηγορίας», ωστόσο, άλλες ομάδες που δημιουργήθηκαν με αλγόριθμους που βασίζονται σε προφανώς ουδέτερα χαρακτηριστικά, όπως ο «αναγνώστης του περιοδικού Cosmopolitan» ή οι «ενδιαφερόμενοι σε κινηματογραφικές ταινίες Bollywood», οι οποίοι μπορούν να εμπίπτουν σε συναφείς προσωπικές κατηγορίες όπως το φύλο και η εθνικότητα, δεν εμπίπτουν σε αυτό το νομικό πλαίσιο κι έτσι «γλιτώνουν» από τον περιορισμό και δίνονται «βορά» στις ορέξεις τον αλγορίθμων.
Όπως αναφέρει η Sandra Wachter, το Facebook έχει δηλώσει ότι δεν βλέπουν την εθνότητα, αλλά απλώς υποθέτουν μια συγγένεια με συγκεκριμένη εθνότητα.
«Ομαδοποιώντας τους ανθρώπους σύμφωνα με τα υποτιθέμενα ενδιαφέροντά τους τους και όχι μόνο με τα προσωπικά τους χαρακτηριστικά, αποτελεί πλέον συνηθισμένη πρακτική στον κλάδο της διαδικτυακής διαφήμισης», γράφει η Wachter. «Οι χρήστες διαχωρίζονται σε ομάδες και προσφέρουν ή αποκλείουν διαφορετικά προϊόντα, υπηρεσίες ή τιμές βάσει συγγένειας, κι αυτό θα μπορούσε να προκαλέσει ζήτημα διακρίσεων», προσθέτει.
«Εκείνο που με ενδιαφέρει είναι να εξηγήσω τα αλγοριθμικά συστήματα κατά τρόπο ουσιαστικό και να διασφαλίσω ότι κάποιοι είναι υπόλογοι γι’ αυτό που πράττουν. Πρέπει να διασφαλίσουμε ότι η καινοτομία δεν είναι αύξηση των διακρίσεων ανάμεσα στους ανθρώπους ή η δημιουργία νέων».
Πάντως, αλγοριθμικές διακρίσεις έχουν παρατηρηθεί από διάφορες οργανώσεις και οργανισμούς. Η ΜΚΟ ProPublica δημοσίευσε συγκεκριμένες εκθέσεις οι οποίες δείχνουν ότι το Facebook επέτρεψε σε εταιρείες όπως η Amazon, η Goldman Sachs, η Verizon και η Uber να διενεργήσουν στοχευμένες διαφημίσεις για στέγαση και πίστωση, αποκλείοντας ορισμένες ομάδες με βάση την εθνικότητα, την ηλικία και το φύλο.
Για παράδειγμα, η έρευνά τους σε 91 διαφημίσεις της Uber σε δώδεκα πόλεις των ΗΠΑ, ανέδειξε ότι οι 87 από αυτές απευθύνονται αποκλειστικά σε άνδρες και μόνο μία απευθύνεται αποκλειστικά σε γυναίκες.
Τα συγκεκριμένα αποτελέσματα καταδεικνύουν ότι ακόμη και οι πιο «αβλαβείς» όμιλοι μπορούν να έχουν επιβλαβείς συνέπειες. Για παράδειγμα, ένας αλγόριθμος χορήγησης δανείου μπορεί να δει μια θετική συσχέτιση μεταξύ των ιδιοκτητών σκύλων και των ανθρώπων που επιστρέφουν τα δάνειά τους έγκαιρα, ευνοώντας έτσι συγκεκριμένους ανθρώπους.
«Ως εκ τούτου, στο Ηνωμένο Βασίλειο, οι περισσότεροι άνθρωποι δεν θα είναι σε θέση να αγοράσουν ένα σκυλί αν δεν έχουν σπίτι επειδή οι περισσότεροι ιδιοκτήτες δεν επιτρέπουν τα κατοικίδια ζώα αν νοικιάζετε», δήλωσε η Wachter, τονίζοντας ότι με αυτό τον τρόπο προτιμώνται άτομα που έχουν τα δικά τους, ιδιόκτητα σπίτια έναντι των ενοικιαστών, οδηγώντας σε διακρίσεις για συγκεκριμένους πληθυσμούς.
Από νομικής απόψεως, βεβαίως, είναι ιδιαίτερα δύσκολο για τους ανθρώπους να προσφύγουν δικαστικά για διακρίσεις εις βάρος τους, κυρίως ενάντια σε επιχειρήσεις που επιδίδονται σε αυτό το είδος στόχευσης. Αυτό συμβαίνει επειδή τα άτομα σπάνια γνωρίζουν ότι έχουν χαρακτηριστεί ή αντιμετωπίζονται διαφορετικά σε απευθείας σύνδεση.
Ως εκ τούτου, το κλειδί βρίσκεται στην σχετική νομοθεσία, η οποία απαιτείται να αναβαθμιστεί προκειμένου να εξετάσει την κάθε περίπτωση ξεχωριστά και να θέσει ένα γενικότερο πλαίσιο προστασίας απέναντι σε όλους.