Σάββατο 12 Αυγούστου 2017

το μεγάλο πανοπτικό είναι (πια) και εσοπτικό



«Κάθε φορά που κάποιος χρησιμοποιεί τις υπηρεσίες της Google, λαμβάνει μέρος σε μια δωδεκάδα πειράματα τουλάχιστον». Η δήλωση αυτή έγινε το 2012 από τον επικεφαλής οικονομολόγο της Google κατά τη διάρκεια ενός συνεδρίου οργανωμένου από την ίδια την εταιρεία. Και συνέχισε αποκαλύπτοντας ότι κάθε χρόνο, στα πλαίσια αυτής της διαρκούς καταγραφής κι ανάλυσης της δραστηριότητας των χρηστών, η εταιρεία επικεντρώνεται σε περισσότερα από 500 αντικείμενα μελέτης και κάνει περισσότερα από 5000 πειράματα. Αν τα μεγέθη αυτά αφορούν μόνο στην Google, υπολογίστε πόσα μπορεί να είναι τα πειράματα που διεξάγονται συνολικά από τις κάθε είδους επιχειρηματικές και κρατικές οντότητες που βασιλεύουν στον κυβερνοχώρο. Το συμπέρασμα από έναν τέτοιο υπολογισμό θα ήταν ότι δεν έχουμε να κάνουμε απλά με καταιγισμό τέτοιων «ερευνών», αλλά ότι το διαδίκτυο είναι στην ουσία του ένα διαρκές πείραμα· με πειραματόζωα εμάς τους ίδιους…
Κάθε μέρα, εκατομμύρια δοκιμές, έρευνες και πειράματα χειρίζονται και κατευθύνουν το περιεχόμενο που βλέπουμε online προκειμένου να μας ακτινογραφήσουν, να μας καταγράψουν, αλλά και να μας κατευθύνουν με στόχο, τις περισσότερες φορές, το κέρδος, αλλά όχι μόνο. Ο «θησαυρός» των συσσωρευμένων προσωπικών στοιχείων και των εξελιγμένων τεχνικών χειραγώγησης έχει φτάσει σε τέτοιο μέγεθος ώστε η απλή κερδοφορία να είναι πια σχεδόν μπανάλ· τετριμμένος στόχος, που υπολείπεται της δυνατότητας ελέγχου - και όχι μόνο παρακολούθησης - σε μαζική κλίμακα. That’s big business!

Ηκατανόηση του internet ως του μεγαλύτερου πειράματος ελέγχου και χειραγώγησης στην ανθρώπινη ιστορία δεν συνεπάγεται απαραίτητα «σκοτεινές δυνάμεις» που ραδιουργούν και συνωμοτούν στις ψηφιακές λεωφόρους, μολονότι δεν λείπουν τέτοιες. Στην πλειονότητά τους, τα πειράματα διεξάγονται με πρόσχημα τον εταιρικό ανταγωνισμό και το τραγελαφικό της υπόθεσης είναι ότι πολλές από τις διαστάσεις αυτού του φαινομένου που μετατρέπει την καθημερινή ζωή σε υλικό παρατήρησης και επέμβασης γίνονται ευνοϊκά δεκτές από το κοινό, εφόσον συνοδεύονται από την διαβεβαίωση ότι όλα γίνονται για να βελτιωθούν «οι παρεχόμενες υπηρεσίες» και η «διαδικτυακή εμπειρία».
Σκεφτείτε για παράδειγμα την καθημερινή σας εμπειρία από το διαδίκτυο. Θα έχετε διαπιστώσει ότι οι ιστοσελίδες που επισκέπτεστε - είτε πρόκειται για τα αποτελέσματα σε κάποια μηχανή αναζήτησης, είτε άρθρα σε κάποιο ειδησεογραφικό site, είτε σελίδες στα social media - δεν είναι ακριβώς ίδιες με τις αντίστοιχες που βλέπει ένας άλλος χρήστης ή εσείς σε άλλο μηχάνημα. Αυτό οφείλεται εν μέρει στις διαφορετικές προτιμήσεις που έχουν δηλωθεί, εν μέρει στο ιστορικό και τα cookies (αυτούς τους μόνιμους σπιούνους σε κάθε μηχάνημα) αλλά κυρίως οφείλεται στην εκτεταμένη εφαρμογή της τεχνικής A/B testing. Οι «δοκιμασίες Α/Β» είναι αυτό που υποδηλώνει το όνομα τους: διαφορετικές εκδοχές του ίδιου περιεχομένου, που «σερβίρονται» σε διαφορετικούς χρήστες, προκειμένου να μετρηθούν αντιδράσεις, να αξιολογηθούν οι συνήθειες των πελατών και να προσαρμοστεί ανάλογα το περιεχόμενο. Ο λόγος που τα A/B testing παίζουν καθοριστικό ρόλο στην πολιτική των εταιρειών του διαδικτύου είναι επειδή αφενός είναι εύκολα και φτηνά στην εφαρμογή τους κι αφετέρου καταλήγουν σε αποτελέσματα που ούτε κατά διάνοια θα μπορούσαν να είχαν προβλεφθεί χωρίς δοκιμή. Για παράδειγμα, η Google διαπίστωσε ότι αλλάζοντας ελαφρά την γαλάζια απόχρωση των links στα αποτελέσματα των αναζητήσεων, προκάλεσε πολλαπλασιασμό των κλικς κι αύξηση των κερδών της κατά 200 εκατομμύρια δολάρια.

Το συγκεκριμένο παράδειγμα φαίνεται «ουδέτερο», αλλά η ένταση των πειραματισμών που διεξάγονται online είναι τέτοια ώστε τα αποτελέσματα να έχουν ξεφύγει από το πεδίο της «έρευνας» και να κατατάσσονται πλέον στην κατηγορία της ωμής χειραγώγησης· και το παράδειγμα της Facebook με το πείραμα της «συναισθηματικής επιμόλυνσης» (προηγούμενο τεύχος, don’t believe the hype) δεν ανήκει καν στις κραυγαλέες εξαιρέσεις. Άλλη περίπτωση: ειδησεογραφικές ιστοσελίδες έχουν καταλήξει στο να «σερβίρουν» ταυτόχρονα μέχρι 25 διαφορετικές εκδοχές του περιεχομένου τους (την διάταξη της ύλης, τους τίτλους, την δομή των άρθρων) και με την χρήση ειδικών λογισμικών να καταγράφουν και αναλύουν την απήχηση καθώς και το προφίλ των χρηστών ανάλογα με τις αντιδράσεις τους. Άλλη περίπτωση: ένα από τα μεγαλύτερα site γνωριμιών, το OKCupid, εξαπάτησε εσκεμμένα το 4% των 30 εκατομμυρίων συνδρομητών του, στέλνοντάς τους ψεύτικα μηνύματα άλλων, τυχαίων συνδρομητών ότι επιθυμούν να έρθουν σε επαφή. Ο λόγος; Σύμφωνα με τον συνιδρυτή του OKCupid: «πρόκειται για 300.000 απόπειρες online γνωριμίας που αλλιώς δεν θα συνέβαιναν ποτέ. Από αυτές τις 300.000 περιπτώσεις, 50.000 άνθρωποι μπορεί να ξεκίνησαν μια συζήτηση που αλλιώς δεν θα είχαν. Κι ίσως 5.000 από αυτούς να βγήκαν τελικά σε ραντεβού - κι όλα αυτά χάρη σε ένα τυχαίο πείραμα»… Άλλη περίπτωση: στους κύκλους των ιστοσελίδων που ειδικεύονται στις online απάτες είναι διαδεδομένη η χρήση των «dark patterns» (σκοτεινά μοτίβα), η χρήση δηλαδή κόλπων και σχεδιαστικών τεχνικών, των οποίων η αποτελεσματικότητα έχει διαπιστωθεί μέσω A/B testing, που ωθούν τον χρήστη να κάνει κάτι που αλλιώς δεν υπήρχε περίπτωση· για παράδειγμα, να τσεκάρει ανυποψίαστος ένα κουτάκι που δίνει το δικαίωμα στην ιστοσελίδα να αποκτήσει πρόσβαση σε σειρά προσωπικών του δεδομένων.
Τα εργαλεία που έχουν πλέον στην διάθεσή τους οι κύριοι του κυβερνοχώρου - είτε πρόκειται για εταιρείες, είτε για μαφίες, είτε για κρατικές υπηρεσίες - είναι τέτοια ώστε δεν χρειάζεται καν να κρατούν τα προσχήματα ή τους συμβατικούς περιορισμούς που προβλέπει ο νόμος. Τέτοια είναι η περίπτωση της Google που το 2012 αποκαλύφθηκε ότι στα πλαίσια κάποιας «έρευνας», της οποίας τις παραμέτρους υποτίθεται είχε αλλάξει ένας μοναδικός μηχανικός της εταιρείας, τα αυτοκίνητα της υπηρεσίας street view είχαν σαρώσει «κατά λάθος» τα στοιχεία εκατομμυρίων οικιακών ασύρματων δικτύων απ’ όπου περνούσαν μεταξύ 2007 και 2010. Τα στοιχεία που είχαν μαζευτεί αφορούσαν λογαριασμούς e-mails, κωδικούς, προσωπικά στοιχεία κι έφταναν μέχρι τον εντοπισμό με σχετική ακρίβεια της θέσης κάθε ενοίκου. Οι συνέπειες; Απλά η εταιρεία δεσμεύτηκε ότι θα σταματήσει την πειρατεία κι ότι δεν πρόκειται να χρησιμοποιήσει τα στοιχεία που συνέλεξε. Αναμφίβολα!
Πέντε χιλιάδες πειράματα κάθε χρόνο, από μία μόλις εταιρεία κι αυτό αφορά στο μακρινό 2012… Δεν ξέρουμε αν είναι η Google ή κάποια κρατική υπηρεσία τύπου NSA που κρατάει τα σκήπτρα σε αυτό τον τομέα (κατά πάσα πιθανότητα θα είμαστε οι τελευταίοι που θα το μάθουμε, αν το μάθουμε ποτέ) αλλά σίγουρα η Facebook είναι αυτή για την οποία έχουν αποκαλυφθεί τα περισσότερα. Ίσως έχει να κάνει με το είδος των υπηρεσιών που προσφέρει και την εθελόδουλη παράδοση στις νόρμες των social media μιας τεράστιας μάζας πειραματόζωων, αλλά το γεγονός ότι το μανιπουλάρισμα των χρηστών θεωρείται λίγο-πολύ σαν αναγκαίο για την βελτίωση της εικονικής κοινωνικότητας, επιτρέπει έναν βαθμό δημοσιότητας. Ο κατάλογος που ακολουθεί περιλαμβάνει μερικές από τις χαρακτηριστικότερες περιπτώσεις ερευνών / πειραμάτων που έχει διεξάγει η Facebook.

Περίπτωση 1: Διάδοση φημών
Αντικείμενο: η ευκολία διάδοσης ενός ψέματος
Χρόνος: Ιούλιος- Αύγουστος 2013
Αριθμός χρηστών: άγνωστος

Οι ερευνητές καταρχήν μελέτησαν περισσότερα από 200.000 σχόλια σε φωτογραφίες τα οποία περιείχαν links προς το snopes.com. Το snopes είναι ένα site που αποδομεί / διαψεύδει διαδικτυακές φήμες, επομένως η φωτογραφία που συνοδευόταν από ένα σχετικό link ήταν παράδειγμα κάποιου που εξαπατήθηκε και στη συνέχεια κυκλοφόρησε την φήμη στον κύκλο των φίλων του. Στην συνέχεια, οι ερευνητές επικεντρώθηκαν σε δύο συγκεκριμένες φωτογραφίες (η μία υποτίθεται έδειχνε το θύμα μιας ανύπαρκτης δολοφονίας και η άλλη συνόδευε την «είδηση» ότι ο Ομπάμα θα φορολογούσε μη φαρμακευτικά προϊόντα, όπως τα ρούχα και τα όπλα για να στηρίξει το σύστημα υγείας) προκειμένου να μελετήσουν την έκταση και την ένταση της διάδοσής τους.
Το συμπέρασμα ήταν ότι οι χρήστες είναι εύπιστοι στις φήμες και εύκολοι στο να τις διαδίδουν. Όσο πιο εξωφρενική είναι μια φήμη τόσο περισσότερο και γρηγορότερα κυκλοφορεί σε σχέση με την διάψευσή της. Πάντως, το πείραμα έδειξε επίσης ότι οι αναρτήσεις που επισημαίνονται ως ψευδής από το snopes έχουν τέσσερις φορές περισσότερες πιθανότητες να διαγραφούν.
Η σημασία αυτής της έρευνας σε σχέση με άλλες ίσως είναι μικρή, αλλά επιβεβαίωσε την δυνατότητα του Facebook να εντοπίζει τους πιο ευκολόπιστους χρήστες που διαδίδουν ψεύτικες φήμες και να κρατάει αναλυτικό ημερολόγιο των ανοησιών που έχει αναρτήσει κάποιος χρήστης, ακόμη κι αν τις έχει διαγράψει. Η μελέτη αυτή απόκτησε μεγαλύτερη σημασία από τη στιγμή που το Facebook εξελίχτηκε μεταξύ άλλων σε ειδησεογραφική υπηρεσία, επομένως, ως τέτοια, έχει μεγαλύτερο συμφέρον στο να χειρίζεται κατάλληλα τις φήμες.

[...]

...η συνέχεια στο έντυπο τεύχος του Cyborg.

Harry Tuttle

1 σχόλιο: