Στο επίκεντρο των σύγχρονων συζητήσεων, σε ότι αφορά την τεχνητή νοημοσύνη (ΤΝ), βρίσκεται όλο και περισσότερο το ερώτημα της κοινωνικής ευθύνης, πως, δηλαδή, αναπτύσσονται τα συστήματα των Νέων Τεχνολογιών, ποιους εξυπηρετούν και ποιες κοινωνικές ομάδες ενδέχεται να αποκλείσουν. Στο πλαίσιο αυτό η έρευνα της Timnit Gebru άνοιξε τον δρόμο για την συζήτηση σχετικά με το πως οι επιστημονικές εξελίξεις διασταυρώνονται με ζητήματα ισότητας, ισοτιμίας και δημοκρατικής λογοδοσίας.
Η Gebru, με ακαδημαϊκό υπόβαθρο στο Stanford University και επαγγελματική θητεία στην Microsoft και στην Google, ασχολήθηκε από πολύ νωρίς με τα ζητήματα της τεχνητής νοημοσύνης και των κοινωνικών τους επιπτώσεων. Όταν συνειδητοποίησε ότι η αλγοριθμική προκατάληψη και η επιρροή των δεδομένων στα αυτόνομα συστήματα αναγνώρισης προσώπου δεν ήταν ουδέτερες ή ανώδυνες, ανέδειξε μια σειρά ζητημάτων που έως τότε βρισκόταν στο περιθώριο του τεχνολογικού διαλόγου.
Η απομάκρυνσή της από την Google, κατόπιν διαφωνιών σχετικά με την ηθική αξιολόγηση μοντέλων μεγάλης κλίμακας, αποτέλεσε την αφετηρία για μια ευρύτερη συζήτηση γύρω από την διαφάνεια και την ανεξαρτησία της επιστημονικής έρευνας εντός των μεγάλων τεχνολογικών οργανισμών.
Με την ίδρυση του Distributed Artificial Intelligence Research Institute (DAIR), η Gebru επιδίωξε να διαμορφώσει ένα εναλλακτικό μοντέλο λειτουργίας ερευνητικού φορέα, ανεξάρτητου από τις εταιρικές επιρροές. Το Ινστιτούτο εστιάζει σε τρεις άξονες:
- Την συμμετοχή τον τοπικών κοινοτήτων στην διαδικασία της έρευνας.
- Την κριτική αξιολόγηση των κοινωνικών επιπτώσεων της τεχνολογίας.
- Την ανάπτυξη πρακτικών λύσεων για την μείωση των ανισοτήτων στην πρόσβαση και χρήση ψηφιακών συστημάτων.
Ένα από τα έργα του DAIR αφορά την αποτύπωση χωρικών ανισοτήτων σε αστικά κέντρα της Νότιας Αφρικής, μέσω ανάλυσης δορυφορικών εικόνων, ενώ άλλες πρωτοβουλίες του αφορούν τις συνθήκες εργασίας όσων απασχολούνται στον έλεγχο περιεχομένου μεγάλων πλατφορμών, εργασία πολύ σημαντική, αλλά συχνά αόρατη.
Η δράση της Gebru έφερε στο προσκήνιο ζητήματα που πλέον αποτελούν αντικείμενο πολιτικής και θεσμικής συζήτησης σε θέματα όπως η διαφάνεια στις διαδικασίες ανάπτυξης αλγορίθμων, η λογοδοσία και ο εξωτερικός έλεγχος, η προστασία των ευάλωτων κοινωνικών ομάδων από την αλγοριθμικές προκαταλήψεις και η συμμετοχή ανεξάρτητων φορέων στην αξιολόγηση των κοινωνικών επιπτώσεων της τεχνολογίας.
Για να κατανοήσουμε το μέγεθος του προβλήματος πρέπει να κατανοήσουμε τι είναι η αλγοριθμική προκατάληψη. Η αλγοριθμική προκατάληψη αναφέρεται στις συστηματικές στρεβλώσεις που προκύπτουν όταν οι αλγόριθμοι παράγουν άνισα ή μεροληπτικά αποτελέσματα, λόγω των δεδομένων στα οποία έχουν εκπαιδευτεί ή των επιλογών που έχουν γίνει κατά τον σχεδιασμό τους. Για παράδειγμα, ένα σύστημα αναγνώρισης προσώπου που έχει εκπαιδευτεί κυρίως με εικόνες λευκών ανδρών, ενδέχεται να παρουσιάσει υψηλά ποσοστά σφάλματος όταν πρέπει να αναγνωρίσει γυναίκες ή άτομα με σκούρο δέρμα.
Η δικαιοσύνη στα συστήματα τεχνητής νοημοσύνης αφορά την ανάπτυξη και την εφαρμογή τεχνικών, ηθικών και νομικών μηχανισμών που θα εξασφαλίζουν ότι η τεχνητή νοημοσύνη λειτουργεί χωρίς διακρίσεις, με σεβασμό στα ανθρώπινα δικαιώματα και με ίση πρόσβαση των πολιτών στα οφέλη της τεχνολογίας. Αυτό για να επιτευχθεί προϋποθέτει ότι θα υπάρχει διαφάνεια στην εισαγωγή των δεδομένων, δυνατότητα ελέγχου των αποφάσεων των συστημάτων και εκπροσώπηση διαφορετικών κοινωνικών ομάδων στην διαδικασία ανάπτυξης.
Σε ευρωπαϊκό επίπεδο, το AI Act της Ευρωπαϊκής Ένωσης, που εγκρίθηκε το 2024, αποτελεί το πρώτο ολοκληρωμένο νομικό πλαίσιο παγκοσμίως για την τεχνητή νοημοσύνη. Ο κανονισμός αυτός κατατάσσει τα συστήματα ΤΝ σε επίπεδα κινδύνου (ελάχιστου, περιορισμένου, υψηλού και πολύ υψηλού κινδύνου) και οριοθετεί με αυστηρότητα ζητήματα διαφάνειας, ασφάλειας, λογοδοσίας και ανθρώπινης εποπτείας, κυρίως στα συστήματα υψηλού κινδύνου που χρησιμοποιούνται στην υγεία, στην εκπαίδευση, στα χρηματοοικονομικά και στις δημόσιες υπηρεσίες
Η χώρα μας, σε ευθυγράμμιση με τον ευρωπαϊκό κανονισμό, έχει διαμορφώσει την Εθνική Στρατηγική για την Τεχνητή Νοημοσύνη (2021-2027) η οποία στοχεύει:
- Στην ηθική και υπεύθυνη ανάπτυξη της Τεχνητής Νοημοσύνης
- Στην συμμετοχή των πολιτών στην διαδικασία λήψης αποφάσεων
- Στην διασφάλιση της ισότητας και των ανθρωπίνων δικαιωμάτων, και
- Στην προώθηση της έρευνας και καινοτομίας με κοινωνικό πρόσημο.
Παράλληλα, η Ελλάδα συμμετέχει ενεργά στο Ευρωπαϊκό Παρατηρητήριο για την Τεχνητή Νοημοσύνη και υλοποιεί πρωτοβουλίες για τη διαφάνεια στη δημόσια διοίκηση και την προστασία των προσωπικών δεδομένων σύμφωνα με τον GDPR.
Η δράση της Timnit Gebru δεν αντιπαρατίθεται στην τεχνολογική πρόοδο, αντιθέτως επιχειρεί να την διαμορφώσει με δίκαιο και υπεύθυνο τρόπο. Η οριοθέτηση κριτηρίων αξιολόγησης και η ενσωμάτωση της ηθικής και κοινωνικής διάστασης στην λήψη αποφάσεων αποτελούν θεμέλια για μια τεχνητή νοημοσύνη που θα υπηρετεί την ισότητα, τη διαφάνεια και την προστασία των πολιτών. Σε μια περίοδο όπου η τεχνητή νοημοσύνη εντάσσεται ραγδαία σε κρίσιμες κοινωνικές υποδομές, από την υγεία, και την εκπαίδευση έως και την οικονομία, το έργο της Gebru υπενθυμίζει πως η καινοτομία οφείλει να συνοδεύεται από λογοδοσία και κοινωνική ευαισθησία.
