Επάγγελμα ψηφιακός καθαριστής.

Επάγγελμα ψηφιακός καθαριστής.

Ένα σύγχρονο επάγγελμα με πολλά προβλήματα για το οποίο έγραψε η εφημεριδα ΚΑΘΗΜΕΡΙΝΗ τον Οκτώβριο και τον Δεκέμβριο του 1919. Οι «Ψηφιακοί καθαριστές» είναι υπαρκτά πρόσωπα και χιλιάδες άνθρωποι κάνουν αυτή δουλειά σε όλο τον κόσμο.

Νυχτερινή βάρδια στην «αρένα» του Facebook

Ξυπνούσε κάθιδρος. Εικόνες βασανιστηρίων και σεξουαλικής κακοποίησης στοίχειωναν τα όνειρά του. Τις είχε ξαναδεί, στη δουλειά του. Ως διαχειριστής περιεχομένου για τη Facebook στο Δουβλίνο, ο Κρίστοφερ Γκρέι αποφάσιζε ποιες αναρτήσεις ήταν ακατάλληλες και έπρεπε να διαγραφούν από την πλατφόρμα κοινωνικής δικτύωσης. Αυτό που συχνά τον κρατούσε ξάγρυπνο, όμως, δεν ήταν μόνο η σκληρότητα του υλικού που ήλεγχε αλλά και το κατά πόσον ήταν σωστή η κρίση του.

Το κυνήγι της ακρίβειας του είχε γίνει έμμονη ιδέα. Όπως ισχυρίζεται, τον είχαν συμβουλεύσει να μη σπαταλά πάνω από 30 δευτερόλεπτα σε κάθε ανάρτηση που διαχειριζόταν. Ούτε είχε περιθώριο λάθους. Οι αποφάσεις του ελέγχονταν από προϊσταμένους του. Έπρεπε να είναι κατά 98% σωστός. Η πίεση ήταν μεγάλη και η προσπάθειά του να αντιμετωπίσει ψυχρά το αποτρόπαιο υλικό στην οθόνη του δεν απέδιδε πάντα. Αυτά υποστηρίζει ο Γκρέι στην αγωγή που κατέθεσε στις 4 Δεκεμβρίου στην Ιρλανδία κατά της Facebook και της εταιρείας CPL Solutions, η οποία τον είχε προσλάβει για λογαριασμό του μέσου κοινωνικής δικτύωσης.  

Ο Γκρέι, όμως, ήταν ένας από τους χιλιάδες content moderators οι οποίοι απασχολούνται σε γραφεία υπεργολάβων στην Ιρλανδία, στη Γερμανία, στις ΗΠΑ και αλλού και εστιάζουν αποκλειστικά στις προσωπικές αναρτήσεις κάθε χρήστη (personal posts). Η «Κ» έχει στη διάθεσή της και παρουσιάζει αναλυτικά την αγωγή που κατέθεσε ο Γκρέι στο Δουβλίνο. Στις 17 σελίδες της περιγράφονται με λεπτομέρεια οι απαιτήσεις της δουλειάς του, οι επιπτώσεις της στην ψυχική του υγεία, καθώς και η τάση της Facebook να περιβάλλει με μυστικότητα τον τρόπο με τον οποίο εφαρμόζεται η πολιτική της διαγραφής περιεχομένου.

Η βρετανική οργάνωση Foxglove υποστηρίζει διεθνώς τα δικαιώματα των «ψηφιακών καθαριστών».

Ακατάλληλο υλικό

Όπως αναφέρεται στα δικαστικά έγγραφα, ο Γκρέι ξεκίνησε να εργάζεται ως content moderator τον Ιούνιο του 2017. Η εκπαίδευσή του φέρεται να κράτησε μόλις οκτώ ημέρες. Κατά τον ίδιο επρόκειτο κυρίως για διαλέξεις οι οποίες αφορούσαν την πολιτική εχεμύθειας της Facebook. Κύριο μέλημα των ανωτέρων του φαίνεται ότι ήταν να μην πληγεί η εταιρική φήμη και όχι η επαρκής προετοιμασία των «καθαριστών» για το ακατάλληλο υλικό στο οποίο εκτίθενται. Ακολούθησε μια περίοδος χάριτος, διάρκειας ενός μήνα. Σε αυτό το διάστημα οι διαχειριστές δεν αξιολογούνταν για τις επιδόσεις τους. Στις οθόνες τους εμφανίζονταν εικόνες, κείμενα ή βίντεο χρηστών του Facebook που είχαν επισημανθεί από άλλους χρήστες της πλατφόρμας ως ακατάλληλα.

Στον Γκρέι ανατέθηκε η νυχτερινή βάρδια. Δούλευε από τις 6 το απόγευμα έως τις 2 τα ξημερώματα και κατά μέσον όρο επεξεργαζόταν 600 αναρτήσεις στο οκτάωρό του. Υπήρχαν όμως και ημέρες που έφτανε τις 800. Εάν δαπανούσε πολύ χρόνο σε κάποια ανάρτηση (ξεπερνούσε δηλαδή το αποκαλούμενο «Average Handling Time» ή «AHT») θα έπρεπε να είναι πιο γρήγορος στις επόμενες κρίσεις του. Για δύο μήνες ο 50χρονος «καθαριστής» ήλεγχε κυρίως υλικό που είχε επισημανθεί ως πορνογραφικό. Όπως αναφέρεται στην αγωγή, ο Γκρέι έπρεπε να δει και να διαγράψει, μεταξύ άλλων, εικόνες κακοποίησης παιδιών, σαδομαζοχισμού, κτηνοβασίας και αυνανισμού. Από τον Σεπτέμβριο του 2017 διευρύνθηκαν οι κατηγορίες του ακατάλληλου περιεχομένου το οποίο εμφανιζόταν στον υπολογιστή του.

Σύμφωνα με τα δικαστικά έγγραφα, ο Γκρέι φέρεται να εκτέθηκε σε βίντεο που έδειχναν:

1) δολοφονίες μελών της μειονότητας των Ροχίνγκια,

2) εκτέλεση αιχμαλώτων από μαυροντυμένους μασκοφόρους - υλικό που παραπέμπει στο Ισλαμικό Κράτος,

3) λιθοβολισμό μέχρι θανάτου μιας γυναίκας η οποία φορούσε μαντίλα,

4) μαστίγωμα ενός κατηγορουμένου για σεξουαλικά εγκλήματα στη Ρωσία,

5) βασανισμό ανθρώπων με λιωμένο μέταλλο, πιθανότατα μεταναστών στη Λιβύη,

6) μαγείρεμα ζωντανών σκύλων στην Κίνα.

Μπροστά σε δύο οθόνες

Όταν απέκτησε μεγαλύτερη εμπειρία προστέθηκε στο γραφείο του και δεύτερη οθόνη υπολογιστή. Σε αυτή εμφανίζονταν τα βίντεο που αναρτούσαν ζωντανά οι χρήστες της πλατφόρμας (μέσω της υπηρεσίας Facebook Live). Έπρεπε να παρακολουθήσει όσα επισημαίνονταν ως ακατάλληλα για να βεβαιωθεί ότι δεν έδειχναν τη διάπραξη εγκλήματος ή τρομοκρατικής ενέργειας. Αυτός ο μηχανισμός φαίνεται πως δεν απέδιδε πάντα.

Ενδεικτικά, τον Μάρτιο του 2019 ο 28χρονος τρομοκράτης Μπρέντον Χάρισον Τάραντ επιχείρησε να μεταδώσει ζωντανά στο Facebook τη δολοφονία 50 ανθρώπων σε μουσουλμανικά τεμένη της Νέας Ζηλανδίας και το κατόρθωσε τουλάχιστον για 17 λεπτά, προτού το βίντεο και η προσωπική του σελίδα διαγραφούν. Αργότερα, όμως, αντίγραφα του ίδιου βίντεο δημοσιεύονταν από άλλους χρήστες του μέσου κοινωνικής δικτύωσης. Σταδιακά, όπως επισημαίνεται στην αγωγή, ο Γκρέι άρχισε να επηρεάζεται από τη μακρά έκθεσή του σε ανάρμοστο και βίαιο περιεχόμενο. Υπέφερε από έμμονες ιδέες και εφιάλτες, εμφάνιζε επιθετική συμπεριφορά. Στις 16 Μαρτίου 2018 λύθηκε η σύμβασή του με την εταιρεία. Ο λόγος φέρεται να ήταν η χαμηλή απόδοσή του, ότι δεν ήταν πλέον τόσο ακριβής στην κρίση του. Ο ίδιος ισχυρίζεται ότι η πραγματική αιτία ήταν τα παράπονα που είχε εκφράσει παλιότερα για τις συνθήκες εργασίας. Μίλησε για πρώτη φορά σχετικά με την εμπειρία του στη Facebook τον Μάρτιο του 2019, μήνες προτού καταθέσει την αγωγή.

Η μαρτυρία του δημοσιεύθηκε στην εφημερίδα Irish Times. Η εταιρεία CPL που τον είχε προσλάβει αρνήθηκε σε εκείνο το δημοσίευμα τις κατηγορίες. Υποστήριξε ότι εκπαιδεύει επαρκώς τους υπαλλήλους της, ότι δεν τους ασκεί πίεση και δεν απαιτεί τον έλεγχο συγκεκριμένου αριθμού αναρτήσεων ανά βάρδια.

Το ανάρμοστο υλικό και οι τεχνικές λύσεις

Η «Κ» απευθύνθηκε στη CPL, με αφορμή την αγωγή του Γκρέι, ζητώντας κάποιο νέο σχόλιο, αλλά δεν έλαβε απάντηση. Έθεσε το ίδιο ερώτημα και στη Facebook. Εκπρόσωπος του μέσου κοινωνικής δικτύωσης επανέλαβε στην «Κ», μέσω της εταιρείας επικοινωνίας που τους εκπροσωπεί στην Ελλάδα, τις πάγιες θέσεις τους για το θέμα. Αναγνώρισε ότι η δουλειά των διαχειριστών μπορεί να είναι ορισμένες φορές δύσκολη, ανάλογα και με το υλικό που πρέπει να εξετάσουν. Ανέφερε όμως ότι τους παρέχουν εκπαίδευση πολλών εβδομάδων.

«Όλοι όσοι ελέγχουν περιεχόμενο για τη Facebook έχουν πρόσβαση σε υπηρεσίες ψυχολογικής υποστήριξης για να εξασφαλιστεί η καλή τους υγεία. Αυτές οι παροχές περιλαμβάνουν την καθημερινή παρουσία ειδικών στον χώρο εργασίας, υπηρεσίες τηλεφωνικής υποστήριξης και πρόσβαση στο ιδιωτικό σύστημα υγείας από την πρώτη ημέρα της απασχόλησής τους», ανέφερε. «Πρόκειται για ένα σημαντικό θέμα και δεσμευόμαστε να το αντιμετωπίσουμε σωστά». Σύμφωνα με πληροφορίες που παρείχε η Facebook στην «Κ», σήμερα απασχολούνται διεθνώς περίπου 15.000 άτομα ως content moderators για τις προσωπικές αναρτήσεις των χρηστών και εργάζονται κυρίως σε εταιρείες υπεργολάβους που έχουν τη βάση τους στην Ιρλανδία, στη Γερμανία, στην Ισπανία, στη Λετονία, στην Κένυα, στις ΗΠΑ και άλλες χώρες.

Τα ειδικά «φίλτρα»

Η Facebook επεξεργάζεται, σύμφωνα με τον εκπρόσωπό της, και ορισμένες τεχνικές λύσεις για να μετριάσει όσο το δυνατόν περισσότερο την έκθεση των διαχειριστών σε βίαιο και ανάρμοστο υλικό. Αυτές οι λύσεις περιλαμβάνουν την επεξεργασία εικόνων προτού τις δει ο διαχειριστής, την επιλογή να εμφανιστεί μια εικόνα ασπρόμαυρη, ή τη χρήση εργαλείων που δείχνουν στον διαχειριστή σε ποιο ακριβώς σημείο σε ένα βίντεο έχει εντοπιστεί από κάποιον χρήστη ακατάλληλο περιεχόμενο. Σκοπός θα είναι να μη χρειάζεται να ελεγχθεί ένα βίντεο σε όλη τη διάρκειά του για να περιοριστεί και ο χρόνος που θα αφιερώνει ο «καθαριστής».

Στο πλευρό των διαχειριστών περιεχομένου με κλονισμένη υγεία

Στην αγωγή του ο Γκρέι υποστηρίζει ότι τον Μάρτιο του 2019 διαγνώστηκε με μετατραυματική διαταραχή και κατάθλιψη. Μέχρι και σήμερα ισχυρίζεται ότι αντιμετωπίζει προβλήματα ύπνου. Εκπροσωπείται στην Ιρλανδία από τη δικηγόρο Νταϊάν Τρένορ. Στο πλευρό του βρίσκεται και η αγγλική μη κυβερνητική οργάνωση Foxglove, η οποία υπερασπίζεται τα ανθρώπινα δικαιώματα στον ψηφιακό κόσμο. Τα μέλη της παροτρύνουν και άλλους νυν ή πρώην «ψηφιακούς καθαριστές», που έχουν εκτεθεί σε παρόμοιο υλικό και έχει κλονιστεί η ψυχική τους υγεία, να μιλήσουν δημοσίως για τις εμπειρίες τους.

Σκοπός της οργάνωσης είναι να ασκηθεί πίεση στη Facebook ώστε να άρει το πέπλο μυστικότητας με το οποίο συχνά καλύπτει τις δραστηριότητές του και να βελτιωθούν όσο το δυνατόν περισσότερο οι συνθήκες εργασίας των υπαλλήλων του. Η Κόρι Κρίντερ, νομικός η οποία στο παρελθόν έχει εκπροσωπήσει με επιτυχία και κρατούμενους στο Γκουαντάναμο, χειρίζεται στη Foxglove τις υποθέσεις των content moderators. Όπως λέει σε τηλεφωνική της συνομιλία με την «Κ», μέχρι στιγμής έχει μιλήσει με δεκάδες ανθρώπους που είχαν αυτό το πόστο στη Facebook στην Ιρλανδία, στην Πολωνία και στην Ισπανία και παρατηρεί ότι μοιράζονται κοινά προβλήματα. Παρά το γεγονός ότι χιλιάδες άνθρωποι κάνουν αυτή τη δουλειά, δεν είναι ακόμη εύκολο για τους περισσότερους να μιλήσουν ανοιχτά. Κατά την Κρίντερ μπορεί να φοβούνται ότι δεσμεύονται από τα συμφωνητικά εχεμύθειας που συνήθως υπογράφουν – αν και αυτά δεν τους απαγορεύουν να μιλήσουν σε κάποιον δικηγόρο.

Ακόμη μπορεί να ανησυχούν για το εργασιακό τους μέλλον, ή να θεωρούν ότι είναι αδύνατο να στραφούν νομικά κατά ενός τεχνολογικού κολοσσού. Πρώην διαχειριστής περιεχομένου στο τμήμα Business Integrity της Facebook στην Ελλάδα, που μίλησε στην «Κ» τον περασμένο Οκτώβριο ζητώντας να μη δημοσιοποιηθούν τα πραγματικά του στοιχεία, ανέφερε ότι του απαγορευόταν να αποκαλύψει σε οποιονδήποτε το πόστο του. Ακόμη δεν έπρεπε να μοιραστεί σε μέσα κοινωνικής δικτύωσης (Facebook, Twitter, LinkedIn, Instagram) για ποιον εργάζεται. «Ζητούμε από αυτές τις ομάδες να υπογράψουν συμφωνία τήρησης απορρήτου για να διατηρούν τις πληροφορίες που χρήζουν διαχείρισης ασφαλείς», είχε δηλώσει τότε εκπρόσωπος της Facebook στην «Κ». «Στη Βρετανία υπάρχουν πολύ αυστηροί κανόνες και παρέχεται πρόσβαση σε ψυχολογική υποστήριξη για τους αστυνομικούς οι οποίοι παρακολουθούν αποτρόπαιο υλικό κατά την έρευνα υποθέσεων παιδικής πορνογραφίας», λέει η Κρίντερ σε τηλεφωνική μας συνομιλία.

«Οι εταιρείες κοινωνικής δικτύωσης μπορεί παλιότερα να υποστήριζαν ότι δεν γνωρίζουν ποιες είναι οι συνέπειες της μακράς έκθεσης κάποιου ανθρώπου σε ανάρμοστο υλικό. Πλέον όμως δεν έχουν καμία δικαιολογία». Όπως προσθέτει η ίδια, η προσπάθεια αξιοποίησης των αλγορίθμων και της τεχνητής νοημοσύνης για τον περιορισμό της έκθεσης των διαχειριστών σε ακατάλληλο περιεχόμενο, δεν είναι επαρκής λύση. Υποστηρίζει ότι θα υπάρχει πάντα η ανάγκη της ανθρώπινης ματιάς και φέρνει ως ενδεικτικό παράδειγμα την αδυναμία που θα είχε ένα λογισμικό στην ανίχνευση της ειρωνείας.

Πρώτη αγωγή στην Ευρώπη

Η αγωγή του Γκρέι είναι η πρώτη που κατατίθεται από πρώην διαχειριστή περιεχομένου κατά της Facebook στην Ευρωπαϊκή Ενωση. Παρόμοιες κινήσεις έχουν γίνει στο παρελθόν στις ΗΠΑ. Μια ανησυχητική πτυχή πάντως που θίγει ο Γκρέι, είναι η επίδραση που άσκησε πάνω του η επαναλαμβανόμενη έκθεση σε ρατσιστικό και «ύπουλο» ακροδεξιό υλικό. Άλλαξε σταδιακά ο βαθμός ανοχής που είχε σε παρόμοια θέματα και επηρεάστηκαν έως ένα σημείο και οι πολιτικές του απόψεις. Η περιγραφή του παραπέμπει σε «πλύση εγκεφάλου». Υπό κανονικές συνθήκες, εάν δεν το επέλεγε ο ίδιος, ως ένας απλός χρήστης της πλατφόρμας δεν θα είχε πρόσβαση σε αυτές τις πληροφορίες. Τουλάχιστον όχι σε τόσο μεγάλη έκταση.

Τον Οκτώβριο η αμερικανική ενημερωτική ιστοσελίδα The Verge έδωσε στη δημοσιότητα απομαγνητοφωνήσεις από εσωτερικές συσκέψεις στη Facebook. Σε μία από τις απαντήσεις του προς εργαζομένους της εταιρείας ο ιδρυτής του μέσου κοινωνικής δικτύωσης, Μαρκ Ζούκερμπεργκ, αν και αναγνώρισε τη σοβαρότητα του ζητήματος, χαρακτήρισε «υπερβολικά» κάποια από τα ρεπορτάζ διεθνών ΜΜΕ για τις επιπτώσεις της δουλειάς των «ψηφιακών καθαριστών» στη ψυχική τους υγεία. «Δεν βλέπουν όλοι μόνο τρομερά πράγματα κάθε μέρα», είχε πει.

 https://www.kathimerini.com.cy/gr/geek/geek-social/nyxterini-bardia-stin-arena-toy-facebook