Όταν η AI Κάνει Λάθος, Ποιος Καλείται να Δώσει Εξηγήσεις;

Η τεχνητή νοημοσύνη συμμετέχει πλέον σε αποφάσεις που αφορούν προσλήψεις, δάνεια, αξιολόγηση προσωπικού, υγειονομική περίθαλψη και δημόσιες υπηρεσίες. Πίσω, όμως, από κάθε αυτοματοποιημένη εισήγηση βρίσκεται συχνά ένας εργαζόμενος που πρέπει να την ανακοινώσει και να την υπερασπιστεί. Έτσι δημιουργείται ένα κρίσιμο παράδοξο: ο άνθρωπος αναλαμβάνει την ευθύνη για ένα αποτέλεσμα που δεν δημιούργησε, ενδεχομένως δεν μπορεί να αλλάξει και συχνά δυσκολεύεται να εξηγήσει.

Το Κενό Ανάμεσα στην Απόφαση και στη Λογοδοσία

Όταν ένα σύστημα απορρίπτει μια αίτηση χρηματοδότησης ή υποβαθμίζει έναν υποψήφιο, ο πελάτης και ο εργαζόμενος ζητούν μια κατανοητή αιτιολόγηση. Μια τεχνική αναφορά ή μια αριθμητική βαθμολογία σπανίως αρκεί. Ο επαγγελματίας πρώτης γραμμής πρέπει να μεταφράσει το αποτέλεσμα σε γλώσσα σχετική με την πραγματική κατάσταση του ενδιαφερομένου.

Αν δεν κατανοεί τη λογική του συστήματος, μπορεί να καταφύγει σε γενικές εξηγήσεις, να αποκρύψει τη συμμετοχή της AI ή να παρουσιάσει την απόφαση ως αδιαμφισβήτητη. Αυτές οι πρακτικές ενδέχεται να προστατεύσουν προσωρινά την επαγγελματική του εικόνα, αλλά υπονομεύουν τη διαφάνεια και την εμπιστοσύνη προς τον οργανισμό.

ΔΕΙΤΕ ΕΔΩ ΟΛΑ ΤΑ ΣΕΜΙΝΑΡΙΑ ΓΙΑ ΤΗΝ ΚΑΙΝΟΤΟΜΙΑ, ΤΕΧΝΟΛΟΓΙΑ ΚΑΙ ΠΛΗΡΟΦΟΡΙΚΗ

Τρεις Αντιδράσεις των Επαγγελματιών

Η πρώτη αντίδραση είναι η απόκρυψη της AI. Ο εργαζόμενος χρησιμοποιεί γνώριμη επαγγελματική ορολογία για να δικαιολογήσει ένα αποτέλεσμα, ακόμη και όταν η πραγματική λογική του μοντέλου παραμένει ασαφής. Το πρόβλημα εμφανίζεται όταν η εξήγηση δεν συμβαδίζει με τα πραγματικά δεδομένα και ο πελάτης αντιλαμβάνεται την αντίφαση.

Η δεύτερη είναι η άκριτη προβολή του συστήματος. Γραφήματα, βαθμολογίες και προβλέψεις παρουσιάζονται ως «αντικειμενικά στοιχεία», χωρίς επαρκή εξέταση των δεδομένων ή των παραδοχών τους. Με αυτόν τον τρόπο, η τεχνολογία αποκτά μεγαλύτερο κύρος από όσο δικαιολογεί η αξιοπιστία της. Η τρίτη και πιο παραγωγική προσέγγιση είναι η συμπληρωματικότητα. Ο εργαζόμενος εξετάζει τα αποτελέσματα, τα συγκρίνει με τη δική του εμπειρία, εντοπίζει ασυνέπειες και τα συνδέει με πραγματικές επιχειρησιακές συνέπειες. Η AI δεν αντικαθιστά την επαγγελματική κρίση, αλλά γίνεται αντικείμενο ελέγχου και μάθησης.

Η Ερμηνεία Αποτελεί Νέα Μορφή Εξειδίκευσης

Καθώς η AI αναλαμβάνει μέρος της αρχικής ανάλυσης, η αξία του επαγγελματία μετακινείται προς την ερμηνεία. Απαιτείται να γνωρίζει τι μετρά το σύστημα, ποια δεδομένα χρησιμοποιεί, πού μπορεί να σφάλει και πότε χρειάζεται ανθρώπινη παρέμβαση.

Η εργασία αυτή συχνά παραμένει αόρατη. Όταν ένας υπεύθυνος προσλήψεων βελτιώνει τα κριτήρια ή ένας τραπεζικός λειτουργός εντοπίζει προβληματικές εισηγήσεις, η συνεισφορά του μπορεί να ενσωματωθεί στο εργαλείο χωρίς να αναγνωριστεί. Οι οργανισμοί χρειάζεται επομένως να συμπεριλάβουν την ερμηνεία, τον έλεγχο και τη βελτίωση της AI στις περιγραφές θέσεων, στις αξιολογήσεις απόδοσης και στα κριτήρια ανέλιξης.

Η Ανθρώπινη Εποπτεία Πρέπει να Είναι Ουσιαστική

Η τοποθέτηση ενός ανθρώπου στο τέλος της διαδικασίας δεν εγγυάται πραγματική εποπτεία. Αν ο εργαζόμενος δεν έχει πρόσβαση στις αναγκαίες πληροφορίες, δεν διαθέτει επαρκή κατάρτιση ή δεν μπορεί να αμφισβητήσει το αποτέλεσμα, λειτουργεί απλώς ως ανθρώπινη «σφραγίδα».

Το AI Risk Management Framework του NIST περιλαμβάνει τη διαφάνεια, τη λογοδοσία, την επεξηγησιμότητα, την αξιοπιστία και τη δικαιοσύνη στα βασικά χαρακτηριστικά μιας αξιόπιστης AI. Παράλληλα, τονίζει ότι οι ανθρώπινοι ρόλοι και οι αρμοδιότητες εποπτείας πρέπει να ορίζονται με σαφήνεια. Αντίστοιχα, η Διεθνής Οργάνωση Εργασίας υποστηρίζει μια προσέγγιση «human-in-command», στην οποία ο άνθρωπος διατηρεί ουσιαστικό έλεγχο στον τρόπο υιοθέτησης και χρήσης των αλγοριθμικών εργαλείων.

ΔΕΙΤΕ ΕΔΩ ΟΛΑ ΤΑ ΣΕΜΙΝΑΡΙΑ ΓΙΑ ΔΙΚΗΓΟΡΟΥΣ ΚΑΙ ΝΟΜΙΚΑ ΘΕΜΑΤΑ

Τι Πρέπει να Κάνουν οι Οργανισμοί

Η υπεύθυνη εφαρμογή χρειάζεται επαναλαμβανόμενους κύκλους μάθησης μεταξύ χρηστών, τεχνικών ομάδων, διοίκησης και ανθρώπων που επηρεάζονται από τις αποφάσεις. Τακτικές ανασκοπήσεις περιστατικών, καταγραφή λαθών, μηχανισμοί ένστασης και συμμετοχή των εργαζομένων στον σχεδιασμό μπορούν να αποκαλύψουν προβλήματα που δεν εντοπίζονται στο εργαστήριο.

Η Ευρωπαϊκή Επιτροπή διευκρινίζει ότι το άρθρο 4 του AI Act απαιτεί κατάλληλο επίπεδο AI literacy, ανάλογα με τις γνώσεις των εργαζομένων, το πλαίσιο χρήσης και τους κινδύνους του συστήματος. Η απλή ανάγνωση οδηγιών ενδέχεται να μην επαρκεί, ιδιαίτερα όταν χρειάζεται ανθρώπινη εποπτεία.

Οι Δεξιότητες που Χρειάζεται η Αγορά

Η επαγγελματική αγορά χρειάζεται εργαζομένους που συνδυάζουν ψηφιακή επάρκεια, κριτική σκέψη, γνώση του αντικειμένου και επικοινωνιακή ικανότητα. Χρειάζεται επίσης ηγεσίες που δεν μεταφέρουν την ευθύνη ενός αδιαφανούς συστήματος στον τελευταίο άνθρωπο της αλυσίδας.

Η αξιόπιστη AI δεν εξαρτάται μόνο από καλύτερους αλγορίθμους. Εξαρτάται από οργανισμούς που επιτρέπουν στους ανθρώπους να κατανοούν, να εξηγούν και, όταν χρειάζεται, να αμφισβητούν τις αποφάσεις της.