Η AI Μπορεί να Βοηθήσει στην Ανάπτυξη της Επόμενης AI; Ποιος θα Ελέγχει τη Διαδικασία;

Η τεχνητή νοημοσύνη αρχίζει να συμμετέχει στην έρευνα που οδηγεί σε νέα, ισχυρότερα μοντέλα. Καθώς ο ρόλος της μεγαλώνει, προκύπτει ένα δύσκολο ερώτημα: πώς μπορούν οι άνθρωποι να διατηρήσουν ουσιαστική εποπτεία μιας διαδικασίας που ενδέχεται να επιταχύνεται συνεχώς; Με πρόταση που δημοσίευσε στις 21 Σεπτεμβρίου, η OpenAI ζητά διεθνή συνεργασία για τη δημιουργία κοινών τεχνικών προτύπων ασφάλειας στα πλέον προηγμένα μοντέλα AI. Πρόκειται για πρόταση προς συζήτηση, όχι για πρότυπα που έχουν ήδη υιοθετηθεί.

Όταν η AI Συμμετέχει στη Δική της Εξέλιξη

Η λεγόμενη αναδρομική αυτοβελτίωση (recursive self-improvement ή RSI) περιγράφει μια διαδικασία στην οποία συστήματα AI αναλαμβάνουν ολοένα μεγαλύτερο μέρος της έρευνας και ανάπτυξης των επόμενων γενεών τους. Αυτό θα μπορούσε να επιταχύνει την πρόοδο, αλλά και να δυσκολέψει την ανθρώπινη κατανόηση και εποπτεία των επιμέρους βημάτων.

Η OpenAI διευκρινίζει ότι η πλήρως αυτόνομη RSI δεν συμβαίνει σήμερα και υποστηρίζει ότι δεν πρέπει να επιδιωχθεί πριν καταστεί ασφαλής. Θεωρεί, ωστόσο, ότι η AI ήδη επιταχύνει επιμέρους ερευνητικές εργασίες. Η ίδια δυνατότητα, κατά την εταιρεία, μπορεί να αξιοποιηθεί και για την ανάπτυξη καλύτερων μεθόδων ελέγχου και ασφάλειας.

ΔΕΙΤΕ ΕΔΩ ΟΛΑ ΤΑ ΣΕΜΙΝΑΡΙΑ ΓΙΑ ΕΠΑΓΓΕΛΜΑΤΙΕΣ ΠΛΗΡΟΦΟΡΙΚΗΣ

Τι θα Μετρούν τα Κοινά Πρότυπα;

Στο επίκεντρο της πρότασης βρίσκονται κοινές μέθοδοι αξιολόγησης: πόσο ικανό είναι ένα προηγμένο μοντέλο, πόση έρευνα πραγματοποιεί αυτόνομα και κατά πόσον τα μέτρα προστασίας επαρκούν για τους κινδύνους του. Η OpenAI προτείνει επίσης κριτήρια για τις περιπτώσεις που απαιτούν άμεση ανθρώπινη ανασκόπηση και κοινό τρόπο ταξινόμησης, καταγραφής και αναφοράς σοβαρών περιστατικών.

Η εταιρεία εισηγείται να αξιοποιηθεί το υφιστάμενο δίκτυο εθνικών ινστιτούτων ασφάλειας AI, με πρωτοβουλία των ΗΠΑ και συμμετοχή άλλων χωρών. Διευκρινίζει ότι τα προτεινόμενα τεχνικά πρότυπα δεν ισοδυναμούν από μόνα τους με άδειες λειτουργίας ή υποχρεωτική έγκριση μοντέλων πριν από τη διάθεσή τους. Κάθε κυβέρνηση θα αποφασίζει εάν και πώς θα τα εντάξει στο δικό της νομικό πλαίσιο.

ΔΕΙΤΕ ΕΔΩ ΟΛΑ ΤΑ ΣΕΜΙΝΑΡΙΑ ΓΙΑ ΔΙΚΗΓΟΡΟΥΣ ΚΑΙ ΝΟΜΙΚΑ ΘΕΜΑΤΑ

Γιατί Χρειάζεται Διεθνής Συνεννόηση;

Ένα περιστατικό που αφορά προηγμένη AI μπορεί να έχει επιπτώσεις πέρα από τη χώρα όπου αναπτύχθηκε το μοντέλο. Διαφορετικοί ορισμοί κινδύνου και ασύμβατες μέθοδοι αξιολόγησης θα δυσκόλευαν τη σύγκριση αποτελεσμάτων και την ανταλλαγή πληροφοριών. Παράλληλα, η τεχνογνωσία για τα ισχυρότερα μοντέλα συγκεντρώνεται σε περιορισμένο αριθμό οργανισμών. Αυτά είναι τα προβλήματα που η OpenAI επιδιώκει να αντιμετωπίσει με μια κοινή τεχνική βάση.

Η συζήτηση έχει σημασία και για την Ευρώπη: ο κανονισμός AI Act προβλέπει ήδη υποχρεώσεις για παρόχους μοντέλων γενικού σκοπού που ενδέχεται να παρουσιάζουν συστημικούς κινδύνους. Η διεθνής πρόταση της OpenAI αφορά ένα διαφορετικό, συμπληρωματικό επίπεδο συνεργασίας. Το ζητούμενο πλέον είναι αν εταιρείες, ανεξάρτητοι ειδικοί και κυβερνήσεις μπορούν να συμφωνήσουν σε μετρήσεις που θα επιτρέπουν να ελέγχεται έμπρακτα η ασφάλεια των πιο προηγμένων συστημάτων.