«Move fast and break things» - «better ask forgiveness 

than permission» - «dogma of inevitability».

Πως συνδέονται αυτές οι τρεις φράσεις;

Υπάρχει μια γενικότερη αφήγηση που πλανάται πάνω ή… μάλλον, καλλιεργείται γύρω από τις πολυεθνικές “big tech” εταιρίες, τα τεχνολογικά άλματα που τις αφορούν και τις ραγδαίες εξελίξεις σχετικά με την τεχνητή νοημοσύνη.

Πάμε να αποκωδικοποιήσουμε τις τρεις φράσεις που αναφέρονται πιο πάνω και να δούμε πώς σχετίζονται με τη συγκεκριμένη αφήγηση.

1. Δόγμα της αναπόφευκτης εξέλιξης / Dogma of inevitability

Στο βιβλίο «Atlas of AI» της Kate Crawford, η συγγραφέας κριτικάρει τη γενικότερη αφήγηση που έχει διαμορφωθεί γύρω από την τεχνητή νοημοσύνη. Ένα κεντρικό σημείο της είναι το λεγόμενο «δόγμα της αναπόφευκτης εξέλιξης» (dogma of inevitability). Τι σημαίνει αυτό;

Πρόκειται για την ιδέα ότι η ανάπτυξη και διάδοση της τεχνητής νοημοσύνης είναι αναπόφευκτη - ότι, ανεξαρτήτως του τι θέλουν οι κοινωνίες ή τα άτομα, η ΑΙ θα προχωρήσει, θα επεκταθεί, θα αλλάξει τον κόσμο όπως και να ‘χει. Αυτή η αφήγηση χρησιμοποιείται ιδεολογικά για να αποθαρρύνει την κριτική ή την πολιτική παρέμβαση - ουσιαστικά, μας παρουσιάζει την τεχνολογική πρόοδο σαν κάτι φυσικό και μη αναστρέψιμο, άρα και πέρα από τον έλεγχο μας.

Η σημαντική συνέπεια, όπως λέει η Crawford, είναι ότι αν αποδεχτούμε αυτό το «δόγμα», τότε παραιτούμαστε από την ευθύνη και τη δυνατότητα να ρυθμίσουμε ή να κατευθύνουμε την ανάπτυξη της τεχνητής νοημοσύνης. Πιστεύοντας ότι «έτσι κι αλλιώς δεν μπορούμε να κάνουμε τίποτα», μένουμε παθητικοί μπροστά σε σοβαρά ζητήματα όπως:

• Περιβαλλοντικές επιβαρύνσεις από την κατασκευή και λειτουργία ΑΙ υποδομών.
• Συγκέντρωση εξουσίας σε λίγες μεγάλες εταιρείες τεχνολογίας.
• Ελλιπής προστασία προσωπικών δεδομένων και δημοκρατικών διαδικασιών.

Η Crawford συνεχίζει, τονίζοντας ότι η εξέλιξη της τεχνητής νοημοσύνης δεν είναι ουδέτερη ούτε προδιαγεγραμμένη - είναι αποτέλεσμα πολιτικών, οικονομικών και κοινωνικών επιλογών και επομένως, μπορούμε (και πρέπει) να συμμετέχουμε ενεργά στον καθορισμό της.

2. Κινήσου γρήγορα και σπάσε πράγματα / Move fast and break things

Το συγκεκριμένο μότο ήταν το αρχικό σλόγκαν του Mark Zuckerberg και του Facebook στα πρώτα χρόνια ανάπτυξής του.

Στην ουσία, το σλόγκαν αυτό προωθούσε την ιδέα ότι:

• Πρέπει να κινείσαι γρήγορα στην ανάπτυξη προϊόντων και τεχνολογιών.
• Δεν πειράζει αν σπάσεις ("break") υπάρχουσες καταστάσεις, νόρμες, κανόνες ή νόμους. Τα λάθη θεωρούνται μέρος της διαδικασίας και όχι πρόβλημα.
• Ο σκοπός ήταν να προχωράς πιο γρήγορα από τον ανταγωνισμό, ακόμα και αν αυτό είχε παρενέργειες ή παράπλευρες απώλειες.

Αργότερα, το μότο αυτό συνέβαλε στην καλλιέργεια μιας κουλτούρας στη Silicon Valley όπου η ταχύτητα έναντι της υπευθυνότητας υπερτερούσε, το ρίσκο θεωρείτο απαραίτητη συνιστώσα στην εξίσωση και ότι η ρύθμιση και ο έλεγχος θεωρείται ως εμπόδιο ή περίπου «περιορίζει» την ανάπτυξη.

3. Καλύτερα ζήτα συγχώρεση παρά άδεια να κάνεις κάτι / Βetter ask forgiveness than permission

Η τελευταία φράση, έρχεται συμπληρωματικά στο πιο πάνω σλόγκαν. Η συμπληρωματική πλευρά αυτής της λογικής είναι αυτό που περιγράφει η Shoshana Zuboff  στο βιβλίο της «The Age of Surveillance Capitalism» («Η Εποχή του Κατασκοπευτικού Καπιταλισμού»), ως η λογική του «καλύτερα να ζητάς συγχώρεση παρά άδεια να κάνεις κάτι»

Έτσι, οι εταιρείες τεχνολογίας προχωράνε στα project που θέλουν (όπως η, ουσιαστικά, παράνομη καταγραφή φωτογραφιών από το επίπεδο του δρόμου στο πλαίσιο των Google Maps) και αν η κατάσταση ξεφύγει από κάθε όριο και οι αντιδράσεις είναι πολύ έντονες, τότε αναγνωρίζουν το λάθος τους, πληρώνουν ένα μικρό πρόστιμο και συνεχίζουν, κάνοντας παράλληλα εντατικό lobbying ώστε να μην υπάρξει πραγματικά αποτελεσματικό ρυθμιστικό πλαίσιο που θα αποτρέπει την επόμενη παρατυπία τους. 

Η επιλογή των εταιρειών να κινηθούν τελείως αυθαίρετα, έχει πλέον μακρά ιστορία

Είναι η βασική πεποίθηση των ισχυρών εταιρειών τεχνολογίας (Big Tech) ότι αυτό που κάνουν είναι τόσο καινοτόμο και ριζοσπαστικό, που δεν μπορεί να υπόκειται στις συμβατικές ρυθμίσεις - αυτές είναι για τους κοινούς θνητούς. Είναι προφανές ότι εδώ δεν έχουμε να κάνουμε με κάποιο μεγάλο βήμα προς την ελεύθερη ανάπτυξη της τεχνολογίας, αλλά με την εκμετάλλευση ή την απουσία ρυθμιστικού πλαισίου από τις ελάχιστες εταιρείες που έχουν τους πόρους, τη δυνατότητα και την πολιτική επιρροή ώστε να αξιοποιήσουν τα ασύλληπτα κεφάλαια που έχουν στη διάθεση τους.

Άρα, τι βλέπουμε; Και οι τρείς φράσεις απονομιμοποιούν την ιδέα ότι οι κοινωνίες μπορούν να επιβάλουν όρια ή να ρυθμίζουν την τεχνολογική ανάπτυξη. Αν δεχτείς είτε το "move fast and break things", είτε το "η τεχνολογία είναι αναπόφευκτη", τότε νομιμοποιείς την αυθαιρεσία των μεγάλων πολυεθνικών κολοσσών. Πάμε όμως να δούμε ένα παράδειγμα από την πραγματική ζωή.

Το παράδειγμα του  Facebook – Cambridge Analytica

Το Facebook έδινε πρόσβαση σε προσωπικά δεδομένα εκατομμυρίων χρηστών σε τρίτες εταιρείες μέσω εφαρμογών. Η Cambridge Analytica, μια εταιρεία ανάλυσης δεδομένων, χρησιμοποίησε αυτά τα δεδομένα χωρίς συγκατάθεση των χρηστών, για να στοχεύσει σε ατομικό επίπεδο, ανάλογα με τις προτιμήσεις βάση των δεδομένων που ανέλυσε, πολιτικά μηνύματα και να επηρεάσει εκλογικές διαδικασίες όπως το δημοψήφισμα του Brexit και τις προεδρικές εκλογές στις ΗΠΑ το 2016.

Συνεπώς, το Facebook επέτρεψε τη μαζική συλλογή δεδομένων χωρίς να θέτει αυστηρούς ελέγχους, επειδή η φιλοσοφία του ήταν να αναπτύσσει γρήγορα νέα χαρακτηριστικά και να μεγαλώνει την πλατφόρμα του — ακόμα κι αν αυτό παραβίαζε την ιδιωτικότητα των χρηστών. Με απλά λόγια, η προτεραιότητα τους δεν ήταν η ασφάλεια ή η προστασία των χρηστών, αλλά η ταχεία επέκταση και η κυριαρχία στην αγορά.

Όταν αποκαλύφθηκε το σκάνδαλο, πολλοί από τους υπεύθυνους δικαιολογήθηκαν λέγοντας ότι η κλίμακα και η δύναμη των ψηφιακών τεχνολογιών είναι τόσο μεγάλη που «δεν μπορείς να τις ελέγξεις».

Προωθήθηκε από τα lobbies και τα συμβατικά μέσα η αφήγηση ότι τέτοια προβλήματα είναι παράπλευρες συνέπειες της τεχνολογικής εξέλιξης — άρα δεν γίνεται (ή δεν πρέπει) να σταματήσουμε την πρόοδο για να τα αποφύγουμε.

Εν τέλει, το Facebook καταδικάστηκε και κατέβαλε μεγάλο χρηματικό πρόστιμο, ανασκευάζοντας το μότο σε "move fast with stable infrastructure". Δηλαδή, να κινείσαι γρήγορα αλλά με σταθερές υποδομές / βήματα, προσπαθώντας να δείξει ότι έχει μάθει από τα λάθη του, μάλλον με μαρκετίστικο τρόπο.

Συμπερασματικά

Εν τέλει, η κουλτούρα του "move fast and break things"  έσπασε όντως συστήματα που επηρέασαν τη δημοκρατία, την εμπιστοσύνη και την προστασία δεδομένων σε παγκόσμιο επίπεδο. Το «δόγμα της αναπόφευκτης εξέλιξης» χρησιμοποιήθηκε για να αποφευχθεί η πολιτική λογοδοσία: «Δεν φταίμε εμείς, έτσι δουλεύει το internet σήμερα».

Η μη ρύθμιση και ο ελλιπής έλεγχος, δεν είναι μακριά από το «πολιτικό» , έστω και αν πολλές φορές θεωρούμε ότι δεν μας αφορούν άμεσα - επηρεάζουν τις ζωές μας. Πολλές φορές αντιμετωπίσαμε βαριές κοινωνικές συνέπειες οι οποίες έφτασαν στο φώς της δημοσιότητας, όπως η περίπτωση με το σκάνδαλο του Facebook – Cambridge Analytica. Άλλες φορές, οι συνέπειες μπορούν να αφορούν ζητήματα που δεν είναι στη σφαίρα του άμεσα ορατού, όπως παραβιάσεις ιδιωτικότητας, διάδοση παραπληροφόρησης, έλεγχος δημόσιας σφαίρας, παραδείγματος χάρην «συμπιεσμός προς τα κάτω» δημοσιεύσεων που αφορούν την Παλαιστίνη.

Τα τρία αυτά δόγματα δεν είναι απλά άτοπα συνθήματα που πρέπει να προσεγγίζονται ξέχωρα. Εντάσσονται κάτω από την ομπρέλα της «εταιρικής αυθαιρεσίας», την οποία επικαλείται και μια οποιαδήποτε πολυεθνική  που μπορεί να λειτουργεί με γνώμονα το κέρδος, εις βάρος του περιβάλλοντος για παράδειγμα. Το μονοπωλιακό κεφάλαιο θα επιδιώκει το κέρδος, ανεξαρτήτως οποιασδήποτε συνέπειας.

Τα πιο πάνω αποτελεούν ιδεολογικές στρατηγικές που έχουν πραγματικά σοβαρό κοινωνικό και πολιτικό αντίκτυπο. Έχουν σαν στόχο να απονομιμοποιήσουν την λογική ότι οι κοινωνίες μπορούν ή πρέπει να επιβάλλουν όρια στην αυθαιρεσία ή ότι εμείς, δεν έχουμε συλλογική ευθύνη να καθοδηγήσουμε προς το συμφέρον των πολλών τις τεχνολογικές ανακαλύψεις.

Οι τεχνολογικές ανακαλύψεις και η επιστημονική πρόοδος αντιμετωπίζονται ως βήματα της ανθρωπότητας προς τα εμπρός. Η οποιαδήποτε ανακάλυψη μπορεί να έχει απελευθερωτικό ή καταπιεστικό χαρακτήρα, ανάλογα με το ποιάς τάξης τα συμφέροντα υπηρετεί.

Ο αγώνας δεν είναι σε καμία περίπτωση προς το «συμπιεσμό» της επιστημονικής πρόοδου. Αντιθέτως! Ο αγώνας δίνεται για την απελευθέρωση των παραγωγικών δυνάμεων από τα μονοπώλεια, με σκοπό να εξυπηρετούν τις κοινωνικές ανάγκες.

Αντρέας Στεφανής

Μέλος Συντακτικής Επιτροπής «ν»

Μέλος Εκτελεστικού Συμβουλίου ΕΔΟΝ