Όταν η Τεχνητή Νοημοσύνη Κάνει Λάθη: Ο Νέος «Πονοκέφαλος» για τις Επιχειρήσεις

Η τεχνητή νοημοσύνη υπόσχεται ταχύτητα, αυτοματοποίηση και μεγαλύτερη παραγωγικότητα. Όμως όσο οι επιχειρήσεις την ενσωματώνουν πιο βαθιά σε κρίσιμες λειτουργίες, τόσο πιο ορατό γίνεται και το άλλο πρόσωπο της τεχνολογίας: τα λάθη, οι παραλείψεις και οι επιχειρησιακές αστοχίες που μπορούν να μετατραπούν σε πραγματικό κόστος. Το τελευταίο διάστημα, σειρά περιστατικών σε μεγάλες εταιρείες επανέφερε στο προσκήνιο ένα ερώτημα που απασχολεί πλέον διοικήσεις, τμήματα IT και compliance teams: πόση αυτονομία μπορεί να δοθεί στην AI χωρίς ισχυρά όρια και ανθρώπινο έλεγχο;

Από την Παραγωγικότητα στα Επιχειρησιακά Λάθη

Το πιο ηχηρό πρόσφατο παράδειγμα ήρθε από την Amazon, όπου εσωτερικές αστοχίες που συνδέθηκαν με AI-assisted coding οδήγησαν, σύμφωνα με δημοσιεύματα, σε σοβαρές διαταραχές, μεταξύ των οποίων και απώλεια περίπου 120.000 παραγγελιών. Οι πληροφορίες αυτές ώθησαν την εταιρεία να αυστηροποιήσει τους ελέγχους σε κρίσιμα συστήματα, να απαιτεί περισσότερες εγκρίσεις πριν από αλλαγές στον κώδικα και να επανεξετάζει τον τρόπο με τον οποίο χρησιμοποιούνται τα εργαλεία δημιουργικής AI σε παραγωγικά περιβάλλοντα. Το μήνυμα είναι σαφές: όταν η AI περνά από τα βοηθητικά tasks στον πυρήνα της λειτουργίας, το περιθώριο λάθους μικραίνει δραματικά.

ΔΕΙΤΕ ΕΔΩ ΟΛΑ ΤΑ ΣΕΜΙΝΑΡΙΑ ΓΙΑ MANAGEMENT & LEADERSHIP

Οι Εργαζόμενοι Εμπιστεύονται την AI Περισσότερο Απ’ Όσο Πρέπει

Το πρόβλημα, ωστόσο, δεν αφορά μόνο τα ίδια τα συστήματα. Αφορά και τον ανθρώπινο παράγοντα. Σύμφωνα με τη διεθνή μελέτη της KPMG και του University of Melbourne, το 66% όσων χρησιμοποιούν AI στην εργασία τους δηλώνει ότι βασίζεται στα αποτελέσματά της χωρίς να αξιολογεί επαρκώς την ακρίβειά τους, ενώ το 56% αναφέρει ότι έχει κάνει λάθη στην εργασία του εξαιτίας της χρήσης AI. Τα ευρήματα αυτά δείχνουν ότι η υπερβολική εμπιστοσύνη στην τεχνολογία εξελίσσεται σε νέο οργανωσιακό ρίσκο, ιδιαίτερα όταν συνδυάζεται με πίεση χρόνου, ελλιπή εκπαίδευση και απουσία σαφών διαδικασιών ελέγχου.

Νέα Εποχή για Developers και Managers

Η διάδοση των AI coding tools αλλάζει και τη φύση της ίδιας της τεχνικής εργασίας. Οι developers δεν καλούνται πλέον μόνο να γράφουν κώδικα, αλλά ολοένα περισσότερο να ελέγχουν, να επαληθεύουν και να “ανακρίνουν” κώδικα που έχει παραχθεί από μοντέλα. Αυτό σημαίνει ότι οι δεξιότητες μετατοπίζονται από την παραγωγή στην επιθεώρηση και από την εκτέλεση στη διακυβέρνηση. Για τις διοικήσεις, αυτό συνεπάγεται νέες επενδύσεις σε διαδικασίες, testing, audit trails και κανόνες χρήσης. Το NIST, μέσω του Generative AI Profile του AI Risk Management Framework, έχει ήδη επισημάνει ότι η χρήση generative AI απαιτεί διαχείριση κινδύνων όπως ανακρίβεια, μη προβλέψιμη συμπεριφορά, αποτυχία εποπτείας και λανθασμένη υπερ-εμπιστοσύνη από τους χρήστες.

ΔΕΙΤΕ ΕΔΩ ΟΛΑ ΤΑ ΣΕΜΙΝΑΡΙΑ ΓΙΑ SOFT SKILLS

Τα Λάθη Δεν θα Εξαφανιστούν, Αλλά Μπορούν να Περιοριστούν

Η διεθνής συζήτηση πλέον δεν αφορά το αν θα συμβούν νέα λάθη, αλλά το πόσο έτοιμες είναι οι επιχειρήσεις να τα απορροφήσουν χωρίς να βλάψουν πελάτες, έσοδα ή φήμη. Ο ΟΟΣΑ σημειώνει ότι τα καταγεγραμμένα περιστατικά και οι κίνδυνοι που σχετίζονται με την AI αυξάνονται όσο επεκτείνεται η χρήση της, κάτι που καθιστά ακόμη πιο σημαντικά τα συστήματα εσωτερικού ελέγχου, την παράλληλη ανθρώπινη επίβλεψη και τη συστηματική καταγραφή συμβάντων. Για τις επιχειρήσεις, το πραγματικό ανταγωνιστικό πλεονέκτημα δεν θα είναι απλώς η ταχύτερη υιοθέτηση της AI, αλλά η ικανότητα να τη χρησιμοποιούν με πειθαρχία, λογοδοσία και ανθεκτικότητα.