Αλγοριθμική μεροληψία: Όταν η τεχνητή νοημοσύνη αναπαράγει και ενισχύει τα στερεότυπα κατά των γυναικών στον δημόσιο βίο

Η τεχνητή νοημοσύνη παρουσιάστηκε ως ένα από τα σημαντικότερα εργαλεία εκδημοκρατισμού της γνώσης και της πληροφορίας. Υποσχέθηκε αντικειμενικότητα, αξιοκρατία και ίσες ευκαιρίες. Πίσω, όμως, από την εικόνα της ουδέτερης τεχνολογίας αναδύεται μια λιγότερο φωτεινή πραγματικότητα: οι αλγόριθμοι δεν είναι απαλλαγμένοι από τις κοινωνικές προκαταλήψεις που διαμόρφωσαν τον κόσμο μας. Ειδικά όταν οι προκαταλήψεις αφορούν τις γυναίκες, η τεχνολογία κινδυνεύει να μετατραπεί σε έναν νέο μηχανισμό αναπαραγωγής των ανισοτήτων, ακόμη και εις βάρος εκείνων που διεκδικούν ισότιμη θέση στην πολιτική και τη δημόσια ζωή.

Υπάρχει μια αντίφαση στην καρδιά της ψηφιακής εποχής, την οποία δεν επιτρέπεται πλέον να προσπερνάμε. Την στιγμή που οι κοινωνίες διακηρύσσουν την ανάγκη για ισότητα, συμπερίληψη και συμμετοχή των γυναικών στα κέντρα λήψης αποφάσεων, τα συστήματα τεχνητής νοημοσύνης, που επηρεάζουν όλο και περισσότερο την καθημερινότητά μας, ενδέχεται να αναπαράγουν αντιλήψεις μιας άλλης εποχής. Αντιλήψεις που θέλουν τον άντρα συνδεδεμένο με την εξουσία, την ηγεσία και την επαγγελματική επιτυχία και τη γυναίκα με τη φροντίδα, την οικογένεια και τους παραδοσιακούς κοινωνικούς ρόλους.

Το ζήτημα δεν είναι απλώς τεχνολογικό. Είναι βαθιά πολιτικό και δημοκρατικό. Διότι, όταν οι αλγόριθμοι αξιολογούν, ταξινομούν, προβάλλουν, αποκλείουν ή διαμορφώνουν την πληροφορία που φτάνει στους πολίτες, αποκτούν τη δυνατότητα να επηρεάζουν όχι μόνο την εικόνα που έχουμε για τον κόσμο, αλλά και το ποιος έχει δικαίωμα να εκπροσωπείται σε αυτόν.

Για μεγάλο χρονικό διάστημα, η τεχνητή νοημοσύνη αντιμετωπίστηκε ως μια σχεδόν αλάνθαστη μηχανή επεξεργασίας δεδομένων. Σε αντίθεση με τον άνθρωπο, υποτίθεται ότι δεν έχει προκαταλήψεις, προσωπικές αντιπάθειες ή ιδεολογικές προτιμήσεις. Η αντίληψη αυτή, ωστόσο, παραβλέπει μια κρίσιμη παράμετρο: οι αλγόριθμοι εκπαιδεύονται πάνω σε δεδομένα που έχουν παραχθεί από ανθρώπινες κοινωνίες, με τις ανισότητες, τις ιεραρχίες και τι προκαταλήψεις τους.

Φαίνεται ότι τα συστήματα έχουν εκπαιδευτεί σε εκατομμύρια κείμενα στα οποία οι άντρες εμφανίζονται συχνότερα ως πρωθυπουργοί, υπουργοί, διευθύνοντες σύμβουλοι και πολιτικοί ηγέτες, ενώ οι γυναίκες συνδέονται κυρίως με την οικογένεια, την εκπαίδευση ή την κοινωνική φροντίδα. Δεν χρειάζεται να έχουν σχεδιαστεί με πρόθεση διάκρισης. Αρκεί να έχουν μάθει να θεωρούν φυσιολογική μια άνιση πραγματικότητα.

Μια ακόμη πιο σοβαρή διάσταση αφορά την τεχνολογικά υποβοηθούμενη έμφυλη βία. Τα εργαλεία τεχνητής νοημοσύνης επιτρέπουν πλέον την παραγωγή εξαιρετικά πειστικών πλαστών εικόνων, βίντεο και ηχητικών αποσπασμάτων. Τα deepfakes μπορούν να χρησιμοποιηθούν για τη δυσφήμηση γυναικών πολιτικών, δημοσιογράφων και άλλων προσώπων με δημόσια παρουσία.

Μια γυναίκα μπορεί να βρεθεί αντιμέτωπη με ένα κατασκευασμένο βίντεο σεξουαλικού περιεχομένου ή με μια ψευδή δήλωση που αποδίδεται στο πρόσωπό της. Ακόμη και όταν αποκαλυφθεί η πλαστότητα, η ζημιά στη δημόσια εικόνα και την προσωπικής της αξιοπρέπεια μπορεί να έχει ήδη συντελεστεί.

Η έκταση του προβλήματος καταγράφεται και από την UNESCO. Σε παγκόσμια έρευνα που πραγματοποιήθηκε σε συνεργασία με το International Center for Journalists (ICFJ), το 73% των γυναικών δημοσιογράφων που συμμετείχαν δήλωσε ότι είχε βιώσει κάποια μορφή διαδικτυακής βίας. Επιπλέον, το 20% ανέφερε ότι είχε υποστεί και επίθεση ή κακοποίηση εκτός διαδικτύου, σε σύνδεση με την ψηφιακή βία που είχε προηγηθεί.

Οι συνέπειες δεν περιορίζονται στις δημοσιογράφους. Αφορούν κάθε γυναίκα που επιλέγει να έχει δημόσιο λόγο, να ασκεί κριτική στην εξουσία ή να συμμετέχει ενεργά στην πολιτική και κοινωνική ζωή. Η ψηφιακή βία μπορεί να λειτουργήσει ως μηχανισμός εκφοβισμού και τελικά αποκλεισμού. Η γυναίκα που δέχεται επιθέσεις αναγκάζεται να υπερασπίζεται διαρκώς την προσωπική της εικόνα, αντί να επικεντρώνει τον χρόνο και την ενέργειά της στο έργο και τις δημόσιες παρεμβάσεις της.

Πως, όμως, οι αλγόριθμοι επηρεάζουν τη δημόσια συζήτηση; Το πρόβλημα δεν αφορά μόνο την παραγωγή ψευδούς περιεχομένου. Αφορά και τον τρόπο με τον οποίο οι ψηφιακές πλατφόρμες επιλέγουν τι θα προβάλλουν στους χρήστες. Τα συστήματα συστάσεως και κατάταξης περιεχομένου επηρεάζουν σημαντικά την ορατότητα των πολιτικών προσώπων και των δημόσιων παρεμβάσεών τους. Όταν η αλληλεπίδραση αποτελεί βασικό κριτήριο προβολής, το προκλητικό, προσβλητικό και διχαστικό περιεχόμενο μπορεί να αποκτήσει μεγαλύτερη διάδοση. Έτσι, οι σεξιστικές επιθέσεις κατά γυναικών πολιτικών ενδέχεται να αποκτήσουν δυσανάλογη δημοσιότητα. Το αποτέλεσμα είναι μια προβληματική αντιστροφή: αντί η δημόσια συζήτηση να επικεντρώνεται στις πολιτικές θέσεις και τις αποφάσεις, η προσοχή μετατοπίζεται στην εμφάνιση, την προσωπική ζωή και τα έμφυλα χαρακτηριστικά των γυναικών.

Το Ευρωπαϊκό Κοινοβούλιο, σε σχετική ανάλυση για τις γυναίκες στην εποχή της παραπληροφόρησης με τη χρήση τεχνητής νοημοσύνης αναδεικνύει τους κινδύνους που δημιουργούν τα deepfakes, η έμφυλη παραπληροφόρηση και η διαδικτυακή κακοποίηση στη δημοκρατική συμμετοχή των γυναικών στα κοινά. Το ζήτημα, επομένως, δεν αφορά μόνο την προστασία της προσωπικότητας. Αφορά την ίδια τη λειτουργία της δημοκρατίας.

Η Ευρωπαϊκή Ένωση έχει ήδη αναγνωρίσει την ανάγκη θεσμικής παρέμβασης. Ο Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act), ο οποίος τέθηκε σε ισχύ την 1η Αυγούστου 2024, εισάγει ένα ενιαίο ευρωπαϊκό πλαίσιο για την ανάπτυξη και τη χρήση συστημάτων τεχνητής νοημοσύνης, με βάση τον βαθμό επικινδυνότητάς τους. Προβλέπει, μεταξύ, άλλων, την διασφάλιση της ποιότητας των δεδομένων, τη διαχείριση κινδύνων, τη διαφάνεια και την ανθρώπινη εποπτεία σε συστήματα υψηλού κινδύνου.

Ωστόσο, η νομοθεσία δεν αρκεί από μόνη της για να εξαλείψει τις έμφυλες προκαταλήψεις. Απαιτούνται συστηματικοί έλεγχοι των αλγορίθμων, αξιολόγηση των αποτελεσμάτων τους ως προς το φύλο, ουσιαστική συμμετοχή γυναικών στον σχεδιασμό των τεχνολογικών συστημάτων και δυνατότητα αμφισβήτησης των αυτοματοποιημένων αποφάσεων. Οι εταιρίες τεχνολογίας, οι δημόσιοι οργανισμοί και οι αρμόδιες εποπτικές αρχές οφείλουν να αναλάβουν συγκεκριμένες ευθύνες. Η επίκληση της τεχνολογικής πολυπλοκότητας δεν μπορεί να αποτελεί άλλοθι για την απουσία λογοδοσίας.

Η συζήτηση αφορά άμεσα και την ελληνική πραγματικότητα. Η ψηφιακή μετάβαση της δημόσιας διοίκησης, η αυξανόμενη χρήση εργαλείων τεχνητής νοημοσύνης και η κυριαρχία των μέσων κοινωνικής δικτύωσης στην πολιτική επικοινωνία δημιουργούν νέα δεδομένα για την ισότιμη συμμετοχή των γυναικών στον δημόσιο χώρο.

Χρειάζεται μια συνεκτική εθνική στρατηγική που θα περιλαμβάνει:

• Έλεγχο των συστημάτων τεχνητής νοημοσύνης που χρησιμοποιούνται από δημόσιους φορείς, με ιδιαίτερη έμφαση στον εντοπισμό έμφυλων διακρίσεων ,
• Εκπαίδευση των δημόσιων λειτουργών και των επαγγελματιών των μέσων ενημέρωσης στην αναγνώριση της αλγοριθμικής μεροληψίας,
• Αποτελεσματικούς μηχανισμούς αντιμετώπισης της τεχνολογικά υποβοηθούμενης έμφυλης βίας,
• Ενίσχυση της συμμετοχής των γυναικών στον σχεδιασμό, την ανάπτυξη και την εποπτεία συστημάτων τεχνητής νοημοσύνης, και
• Διαφάνεια στη χρήση αλγοριθμικών εργαλείων από πολιτικούς οργανισμούς και δημόσιους θεσμούς.

Ταυτόχρονα, η δημοσιογραφία οφείλει να ελέγχει την αξιοπιστία του περιεχομένου που παράγεται από την τεχνητή νοημοσύνη και να μην αναπαράγει άκριτα στερεότυπα ή κατασκευασμένες πληροφορίες.

Η τεχνητή νοημοσύνη δεν αποτελεί από μόνη της απειλή για την ισότητα. Μπορεί να συμβάλλει στην αποκάλυψη διακρίσεων, στην καταπολέμηση της παραπληροφόρησης και στη διεύρυνση της συμμετοχής των πολιτών. Αυτό όμως, προϋποθέτει ότι θα σχεδιαστεί και θα χρησιμοποιηθεί με γνώμονα τα ανθρώπινα δικαιώματα και τη δημοκρατική λογοδοσία.

Το κρίσιμο ερώτημα δεν είναι εάν η τεχνητή νοημοσύνη θα επηρεάσει τον δημόσιο βίο. Αυτό ήδη συμβαίνει. Το ερώτημα είναι εάν θα επιτρέψουμε στις κοινωνικές προκαταλήψεις του παρελθόντος να μεταφερθούν στον ψηφιακό κόσμο και να αποκτήσουν τη δύναμη της αυτοματοποιημένης απόφασης.

Η ισότητα των φύλλων δεν μπορεί να εξαρτάται από τα δεδομένα από τα οποία εκπαιδεύτηκε ένας αλγόριθμος. Ούτε η πολιτική καταλληλότητα μιας γυναίκας μπορεί να κρίνεται μέσα από στερεότυπα που η ίδια η κοινωνία οφείλει να έχει ξεπεράσει.

Η δημοκρατία δεν κρίνεται μόνο από το δικαίωμα συμμετοχής. Κρίνεται και από τις πραγματικές συνθήκες μέσα στις οποίες κάθε πολίτης μπορεί να ακουστεί, να διεκδικήσει και να εκπροσωπηθεί ισότιμα.

Επειδή, ο μεγαλύτερος κίνδυνος δεν είναι να αποκτήσει η τεχνητή νοημοσύνη ανθρώπινες προκαταλήψεις. Ο μεγαλύτερος κίνδυνος είναι να αποκτήσουν οι προκαταλήψεις αυτές την επίφαση της αντικειμενικότητας, επειδή πλέον εκφράζονται μέσα από έναν αλγόριθμο.