Εργαζόμενοι στο έλεος των αλγορίθμων

Εδώ και δύο χρόνια, ο Αλεξάντρου, ένας 38χρονος οδηγός της υπηρεσίας ταξί Uber στο Λονδίνο, συγκέντρωσε σχεδόν 7.000 διαδρομές και διατήρησε μια άψογη βαθμολογία εξυπηρέτησης πελατών με πέντε αστέρια. Οταν άλλοι οδηγοί παραπονέθηκαν ότι το σύστημα της Uber τους τιμωρούσε χωρίς λόγο, εκείνος δεν τους πίστεψε. «Αισθανόμουν ότι αυτό δεν ήταν όλη η αλήθεια. Σίγουρα πρέπει να έφταιγαν και αυτοί για κάτι», λέει. Ομως, τον περασμένο Ιούλιο, ο Αλεξάντρου έλαβε προειδοποίηση από τους υπολογιστές της Uber, που τον ενημέρωσαν ότι το προφίλ του επισημάνθηκε για «δόλια δραστηριότητα». Αλλη μία «κίτρινη κάρτα» ήρθε δύο εβδομάδες αργότερα. Μια τρίτη προειδοποίηση θα οδηγούσε σε κλείσιμο του λογαριασμού του. Σταμάτησε να χρησιμοποιεί την εφαρμογή, φοβούμενος ότι θα αποκλειστεί οριστικά, και άρχισε να αναρωτιέται για το τι μπορεί να έκανε λάθος. Οπως πολλές εταιρείες της λεγόμενης οικονομίας της πλατφόρμας (gig economy), η Uber διαχειρίζεται δεκάδες χιλιάδες οδηγούς της στο Ηνωμένο Βασίλειο με προγράμματα τεχνητής νοημοσύνης, τα οποία ελέγχουν τα πάντα – από τη χρήση αναγνώρισης προσώπου για τον έλεγχο ταυτότητας, τη σύνδεση οδηγών με πελάτες, έως τον εντοπισμό απάτης όταν οι οδηγοί εξαπατούν επιβάτες ή μοιράζονται λογαριασμούς.

Η χρήση ανθρώπων για τη διαχείριση μιας τόσο τεράστιας επιχείρησης θα ήταν αδύνατη, ισχυρίζονται οι εταιρείες, σύμφωνα με τους «Financial Times». Η εταιρεία παράδοσης τροφίμων Deliveroo, για παράδειγμα, δηλώνει στην πολιτική απορρήτου της ότι οι χειροκίνητοι έλεγχοι στην υπηρεσία της «απλώς δεν θα ήταν δυνατοί στα συγκεκριμένα χρονοδιαγράμματα και δεδομένου του όγκου των παραδόσεων που αντιμετωπίζουμε». Ωστόσο, οι εργαζόμενοι στην οικονομία της πλατφόρμας παραπονιούνται ότι δεν γίνονται επανορθώσεις όταν ο υπολογιστής λάβει μια λάθος απόφαση και ότι οι εταιρείες δεν τους ενημερώνουν πώς τους αξιολογούν βάσει αλγορίθμων, επιλέγοντας αντ’ αυτού να κρατήσουν τη διαδικασία μυστική. Ο Αλεξάντρου ισχυρίστηκε ότι ενώ τον είχαν προειδοποιήσει για απάτη, όπως η σκόπιμη παράταση του χρόνου ή της απόστασης ενός ταξιδιού, δεν του δόθηκε καμία εξήγηση για το τι είχε συμβεί και δεν ήταν σε θέση να το μάθει. «Είναι σαν να βρίσκεις μια προειδοποίηση που άφησε το αφεντικό σου στο γραφείο σου, αλλά είναι απρόσιτος, και αν του χτυπήσεις την πόρτα, σου λέει, σταμάτα ό,τι κάνεις λάθος, αλλιώς θα απολυθείς, αλλά δεν σου εξηγούν περί τίνος πρόκειται. Νιώθεις ότι έχεις μπει στο στόχαστρο».

Οταν επικοινώνησε με την Uber για τεχνική υποστήριξη, κανείς δεν μπορούσε να τον βοηθήσει. «Συνέχιζαν να λένε: “Το σύστημα δεν μπορεί να κάνει λάθος, τι έκανες;”». Τελικά πήγε την υπόθεσή του σε μια μη κυβερνητική οργάνωση, τη Workers Info Exchange, η οποία ασκεί πίεση σε εταιρείες όπως η Uber για να εξηγήσουν πώς λειτουργούν τα συστήματά τους. Τον Οκτώβριο, η Uber ζήτησε συγγνώμη που του έδωσαν «κίτρινη κάρτα» κατά λάθος. «Το τμήμα ανθρώπινου δυναμικού χρησιμοποιεί λογισμικό τεχνητής νοημοσύνης για τους οδηγούς», εξηγεί ο Αλεξάντρου. «Το σύστημα μπορεί να σας κάνει να σταματήσετε να εργάζεστε, να τερματίσει τη σύμβασή σας με την Uber, να σας κοστίσει ακόμα και την άδεια ιδιωτικής μίσθωσης». Η Uber είπε ότι ενώ χρησιμοποιεί αυτοματοποιημένες διαδικασίες για τον εντοπισμό απάτης, οι αποφάσεις για τον τερματισμό ενός προγράμματος οδήγησης λαμβάνονται μόνο έπειτα από εξέταση από το προσωπικό της εταιρείας.

Στην Ευρώπη, οι ρυθμιστικές Αρχές και τα δικαστήρια αρχίζουν να αναγνωρίζουν τα προβλήματα των πρακτικών αλγοριθμικής διαχείρισης. Τον Ιανουάριο, ιταλικό δικαστήριο έκρινε ότι η Deliveroo είχε κάνει διακρίσεις εις βάρος εργαζομένων επειδή οι υπολογιστές της δεν έκαναν διάκριση μεταξύ εκείνων που δεν ήταν παραγωγικοί και όσων ήταν άρρωστοι ή ασκούσαν το δικαίωμά τους στην απεργία. Η Ιταλία επέβαλε επίσης πρόστιμο στην Deliveroo και την Glovo, μια εφαρμογή παράδοσης ειδών παντοπωλείου, επειδή δεν αποκάλυψαν τον τρόπο με τον οποίο οι υπολογιστές τους κατανέμουν τις θέσεις εργασίας και βαθμολογούν την απόδοση. Τον Μάρτιο, ολλανδικό δικαστήριο έκρινε ότι η εταιρεία Ola (παρόμοια με την Uber) έπρεπε να παράσχει τα δεδομένα που χρησιμοποιήθηκαν για τη δημιουργία «πιθανοτήτων απάτης» και «προφίλ κερδών» των οδηγών, που χρησιμοποιούνται για να αποφασίσουν σχετικά με την κατανομή θέσεων εργασίας. Παρά αυτές τις διάσπαρτες νομικές νίκες, τα προβλήματα παραμένουν. «Οι νόμοι – τόσο για την απασχόληση όσο και αυτοί περί απορρήτου δεδομένων – αποτυγχάνουν σε αυτούς τους οδηγούς», δήλωσε η Τσανσού Σαφάκ, συντάκτρια της έκθεσης και ερευνήτρια που εργάζεται στην αλγοριθμική επιτήρηση. «Οταν προσπαθείς να ασκήσεις αυτά τα δικαιώματα, βρίσκεσαι να μιλάς ξανά σε bots», λέει θεωρώντας ότι ο κλάδος είναι «βαθιά εχθρικός και αντιστέκεται στην άσκηση των δικαιωμάτων των εργαζομένων», κάτι που απαιτεί αυστηρότερη επιβολή των υφιστάμενων νόμων.

Η Uber ισχυρίζεται ότι «η τεχνολογία μας παίζει σημαντικό ρόλο στη διατήρηση της ασφάλειας όλων όσοι χρησιμοποιούν την πλατφόρμα μας, καθώς και στη μεγιστοποίηση των ευκαιριών κερδών για τους οδηγούς και τους ταχυμεταφορείς». Δεσμεύτηκε μεν ότι θα είναι ανοιχτή και διαφανής σχετικά με τα συστήματά της, κάτι που αμφισβητείται από ακτιβιστές, εργαζομένους και μέλη συνδικάτων, που θεωρούν ότι οι εταιρείες gig αντιμετωπίζουν τον τρόπο που λειτουργούν οι αλγόριθμοί τους ως εμπορικό μυστικό. Η Privacy International θα ξεκινήσει τη Δευτέρα δημόσια αναφορά ζητώντας περισσότερες λεπτομέρειες, όπως ο τρόπος ελέγχου των αυτοματοποιημένων αποφάσεων από μισή ντουζίνα πλατφόρμες συναυλιών.

Στόχος είναι να επιστήσει την προσοχή στην αυξανόμενη αυτοματοποίηση όλων των χώρων εργασίας – όχι μόνο στην οικονομία της πλατφόρμας. «Ολοι αισθάνονται ασφαλείς, έχουν καλή δουλειά και αυτό δεν θα τους επηρεάσει, παρά μόνο αυτούς τους φτωχούς οδηγούς της Uber. Αλλά δεν αφορά μόνο εμάς», λέει ο Αλεξάντρου. «Τα κατώτερα στρώματα, οι εργαζόμενοι σε αυτές τις νέου τύπου δουλειές, οι αυτοαπασχολούμενοι, είμαστε οι πρώτοι που επηρεάζονται γιατί είμαστε οι πιο ευάλωτοι. Τι ακολουθεί όμως; Τι θα συμβεί αν η τεχνητή νοημοσύνη αποφασίσει εάν θα σταλεί ασθενοφόρο στο σπίτι σας ή όχι; Θα νιώσετε ασφαλείς εάν δεν μιλήσετε με κάποιον άνθρωπο; Αυτό επηρεάζει τις ζωές όλων μας».