Γιατί οι Εργαζόμενοι Παρακάμπτουν το AI Ακόμη και Όταν Εφαρμόστηκε με Επιτυχία στην Επιχείρηση

Μια επιχείρηση εγκαθιστά ένα σύστημα AI που προβλέπει τη ζήτηση με μεγαλύτερη ακρίβεια. Οι εργαζόμενοι το συμβουλεύονται καθημερινά, αλλά συνεχίζουν να προσαρμόζουν τις παραγγελίες με τον παλιό τρόπο. Από τα στοιχεία χρήσης, η εφαρμογή φαίνεται επιτυχημένη. Στην πράξη, όμως, οι αποφάσεις ελάχιστα έχουν αλλάξει. Τι εμποδίζει τη μετάβαση από την τεχνολογική υιοθέτηση στην ουσιαστική αξιοποίηση;

Η Απόφαση Έχει και Συνέπειες

Στο Harvard Business Review, ο καθηγητής Das Narayandas επισημαίνει μια συχνά παραγνωρισμένη αιτία: ο εργαζόμενος μπορεί να εμπιστεύεται την απόδοση ενός συστήματος, αλλά να παραμένει προσωπικά εκτεθειμένος εάν ακολουθήσει την πρότασή του και το αποτέλεσμα είναι κακό. Σε αυτή την περίπτωση, η χειροκίνητη παρέμβαση λειτουργεί ως επαγγελματική αυτοπροστασία.

Σκεφτείτε έναν υπεύθυνο πιστώσεων που καλείται να εγκρίνει την εισήγηση ενός μοντέλου. Εάν η διοίκηση εξακολουθεί να του ζητά εξηγήσεις για κάθε προβληματικό δάνειο, χωρίς να έχει ξεκαθαρίσει ποιος ευθύνεται για τους κανόνες, τα δεδομένα και τα όρια του συστήματος, είναι πιθανό να προσθέσει ακόμη έναν έλεγχο. Κάθε πρόσθετο βήμα μοιάζει συνετό. Όταν όμως γίνεται ο κανόνας, τα οφέλη της αυτοματοποίησης περιορίζονται.

ΔΕΙΤΕ ΕΔΩ ΟΛΑ ΤΑ ΣΕΜΙΝΑΡΙΑ ΓΙΑ ΑΝΑΠΤΥΞΗ ΑΝΘΡΩΠΙΝΟΥ ΔΥΝΑΜΙΚΟΥ (HR)

Πότε η Παρέμβαση Είναι Πολύτιμη

Δεν είναι κάθε παράκαμψη λάθος. Ο εργαζόμενος μπορεί να γνωρίζει μια αλλαγή στην αγορά που δεν έχει ακόμη αποτυπωθεί στα δεδομένα ή να εντοπίσει μια περίπτωση έξω από τις δυνατότητες του μοντέλου. Για αυτό η επιχείρηση χρειάζεται να ορίσει πότε το AI παρέχει μόνο συμβουλή, πότε η πρότασή του αποτελεί την προεπιλεγμένη απόφαση και πότε απαιτείται ανθρώπινη έγκριση.

Χρειάζεται επίσης να εξετάζει γιατί οι άνθρωποι παρεμβαίνουν. Εάν οι εξαιρέσεις αυξάνονται, αυτό μπορεί να δείχνει είτε αδυναμία του συστήματος είτε ασάφεια στη διαδικασία λήψης αποφάσεων. Η απλή καταμέτρηση των συνδέσεων σε μια εφαρμογή δεν αποκαλύπτει αυτή τη διαφορά.

Σαφείς Ρόλοι για Ανθρώπους και Συστήματα

Το πλαίσιο διαχείρισης κινδύνων AI του αμερικανικού NIST δίνει έμφαση στον σαφή καθορισμό αρμοδιοτήτων, στην ευθύνη της ανώτατης διοίκησης για τους κινδύνους και στη συνεχή παρακολούθηση. Η πρακτική μετάφραση για μια επιχείρηση είναι συγκεκριμένη: ποιος εγκρίνει τα όρια λειτουργίας, ποιος ελέγχει την ποιότητα των δεδομένων, ποιος χειρίζεται τις εξαιρέσεις και ποιος αποφασίζει ότι το σύστημα πρέπει να διορθωθεί ή να σταματήσει;

Αυτές οι απαντήσεις αποκτούν μεγαλύτερη σημασία όταν το AI δεν περιορίζεται σε εισηγήσεις, αλλά εκτελεί ενέργειες. Όσο διευρύνεται η δυνατότητα ενός συστήματος να ενεργεί, τόσο πιο σαφή πρέπει να είναι τα δικαιώματα πρόσβασής του και τα σημεία όπου απαιτείται ανθρώπινη παρέμβαση.

ΔΕΙΤΕ ΕΔΩ ΟΛΑ ΤΑ ΣΕΜΙΝΑΡΙΑ ΓΙΑ ΔΙΚΗΓΟΡΟΥΣ ΚΑΙ ΝΟΜΙΚΑ ΘΕΜΑΤΑ

Η Εμπιστοσύνη Χτίζεται μαζί με τους Εργαζομένους

Η Διεθνής Οργάνωση Εργασίας τονίζει τη σημασία συμμετοχής των επαγγελματιών που θα χρησιμοποιούν τα συστήματα στον σχεδιασμό και την εποπτεία τους. Ειδικά όταν το AI επηρεάζει τον προγραμματισμό ή την αξιολόγηση της εργασίας, χρειάζεται να ακούγονται και οι εργαζόμενοι που επηρεάζονται. Έτσι μπορούν να εντοπιστούν νωρίς ακατάλληλα δεδομένα, λανθασμένες παραδοχές και πρακτικά εμπόδια.

Για την επαγγελματική αγορά, η ανάγκη είναι διπλή: τεχνολογικά ικανά συστήματα και άνθρωποι που γνωρίζουν πώς να τα εποπτεύουν. Η σχετική κατάρτιση δεν εξαντλείται στη χρήση ενός εργαλείου. Περιλαμβάνει αξιολόγηση αποτελεσμάτων, τεκμηρίωση εξαιρέσεων, προστασία δεδομένων και συνεργασία ανάμεσα σε διοίκηση, ειδικούς και προσωπικό.

Η πραγματική δοκιμή, επομένως, δεν είναι πόσοι εργαζόμενοι άνοιξαν την εφαρμογή. Είναι αν οι αποφάσεις βελτιώθηκαν, αν οι παρεμβάσεις έχουν ουσιαστικό λόγο και αν όλοι γνωρίζουν ποιος αναλαμβάνει δράση όταν κάτι δεν λειτουργεί όπως αναμενόταν.