Μέσα από σειρά βίντεο που συγκέντρωσε η μη κερδοσκοπική Palisade Research και κοινοποίησε αποκλειστικά στο Reuters, ερευνητές υποστηρίζουν ότι τα εργαστήρια AI δεν λαμβάνουν επαρκή μέτρα προστασίας απέναντι στο ενδεχόμενο δημιουργίας συστημάτων που θα μπορούν να αυτοβελτιώνονται και τελικά να αποκτούν δυνατότητες τις οποίες οι άνθρωποι θα δυσκολεύονται να ελέγξουν
Έντονη προειδοποίηση προς τις κορυφαίες εταιρείες τεχνητής νοημοσύνης απευθύνουν νυν και πρώην ερευνητές της OpenAI και της Google DeepMind, εκφράζοντας ανησυχίες ότι η ταχύτητα ανάπτυξης των νέων συστημάτων υπερβαίνει την ικανότητα της κοινωνίας να διαχειριστεί τους κινδύνους τους.
Μέσα από σειρά βίντεο που συγκέντρωσε η μη κερδοσκοπική Palisade Research και κοινοποίησε αποκλειστικά στο Reuters, ερευνητές υποστηρίζουν ότι τα εργαστήρια AI δεν λαμβάνουν επαρκή μέτρα προστασίας απέναντι στο ενδεχόμενο δημιουργίας συστημάτων που θα μπορούν να αυτοβελτιώνονται και τελικά να αποκτούν δυνατότητες τις οποίες οι άνθρωποι θα δυσκολεύονται να ελέγξουν.
Η πρωτοβουλία, με την ονομασία «frominside.ai», επιχειρεί να μεταφέρει τη συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης πέρα από τον στενό κύκλο των ειδικών και των μέσων κοινωνικής δικτύωσης. Οι συμμετέχοντες υποστηρίζουν ότι οι ανησυχίες τους για τους λεγόμενους υπαρξιακούς κινδύνους είναι πραγματικές και δεν αποτελούν επικοινωνιακή τακτική.
«Ο κίνδυνος κλιμακώνεται με ταχύτατους ρυθμούς», δήλωσε ο Τζέφρι Ίρβινγκ, συνιδρυτής και επικεφαλής επιστήμονας της μη κερδοσκοπικής Resolution, ο οποίος έχει εργαστεί τόσο στην OpenAI όσο και στη DeepMind. Όπως ανέφερε, θεωρεί προσωπική ευθύνη του, αλλά και ευθύνη συνολικά του κλάδου, να μιλήσει ανοιχτά για τους κινδύνους.
Η συζήτηση έχει ενταθεί μετά από περιστατικά που έδειξαν τις δυνατότητες των σύγχρονων AI agents. Τον Ιούλιο, πράκτορες τεχνητής νοημοσύνης της OpenAI φέρεται να διέφυγαν από το περιβάλλον δοκιμών τους και να παραβίασαν συστήματα της Hugging Face, προκαλώντας νέα συζήτηση για τα όρια και τις δικλίδες ασφαλείας των αυτόνομων μοντέλων.
Οι ανησυχίες αφορούν κυρίως τις μελλοντικές γενιές συστημάτων, ιδιαίτερα εάν αποκτήσουν τη δυνατότητα αναδρομικής αυτοβελτίωσης. Πρόκειται για το ενδεχόμενο ένα μοντέλο να μπορεί να βελτιώνει διαρκώς τις ικανότητές του και να αποκτά νέες δυνατότητες με ελάχιστη ανθρώπινη παρέμβαση.
Ο Νιλ Νάντα, ερευνητής επιστήμονας στη Google DeepMind, δήλωσε ότι εκτιμά σε τουλάχιστον 10% την πιθανότητα η τεχνητή νοημοσύνη να οδηγήσει σε αφανισμό της ανθρωπότητας, χαρακτηρίζοντας το ποσοστό «εξωφρενικά υψηλό». Ο ίδιος τάχθηκε υπέρ μιας πολύ πιο προσεκτικής προσέγγισης στην ανάπτυξη των συστημάτων.
Ανάλογες ανησυχίες εξέφρασε ο Χουάν Ουρίμπε, μηχανικός έρευνας στον τομέα του AI alignment στην OpenAI. Όπως υποστήριξε, τα κορυφαία εργαστήρια τεχνητής νοημοσύνης ανταγωνίζονται μεταξύ τους με ρυθμούς που, κατά την άποψή του, δεν αφήνουν αρκετό περιθώριο για αξιολόγηση των κινδύνων.
Στο ίδιο πλαίσιο, η πρώην ερευνήτρια πολιτικής της OpenAI Ρόζι Κάμπελ υποστήριξε ότι οι συνεχείς οργανωτικές αλλαγές στα εργαστήρια AI μπορούν να δυσκολεύουν ακόμη περισσότερο τις προσπάθειες παρέμβασης στην κατεύθυνση της τεχνολογικής ανάπτυξης. Η Κάμπελ, η οποία αποχώρησε από την OpenAI το 2024, δήλωσε ότι είχε διαπιστώσει αυξανόμενη εσωτερική περιχαράκωση του οργανισμού.
Την ίδια ώρα, οι ίδιες οι εταιρείες επιχειρούν να τοποθετηθούν απέναντι στη συζήτηση για τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης. Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, κάλεσε πρόσφατα τον κλάδο να προσαρμόσει τον ρυθμό εξέλιξης των πιο προηγμένων συστημάτων, ενώ ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, συμφώνησε με την ανάγκη για μεγαλύτερη προσοχή.
Παράλληλα, διακεκριμένοι ερευνητές AI, μεταξύ των οποίων ο επικεφαλής επιστήμονας της OpenAI και ένας από τους συνιδρυτές της Anthropic, δημοσίευσαν μελέτη με την οποία καλούν τους υπευθύνους χάραξης πολιτικής να εξετάσουν τον τρόπο με τον οποίο αναπτύσσονται μοντέλα με δυνατότητες αναδρομικής αυτοβελτίωσης.
Οι δύο εταιρείες συνέχισαν πάντως να παρουσιάζουν νέα μοντέλα μέσα στον μήνα, στο πλαίσιο του ανταγωνισμού τους για την προσέλκυση πελατών. Η OpenAI ανακοίνωσε παράλληλα ότι ανέβαλε την κυκλοφορία ενός ακόμη ισχυρότερου μοντέλου.
Για τον Ίρβινγκ, η διαφορά μεταξύ της σημερινής προσέγγισης των εταιρειών και των ανησυχιών των ερευνητών είναι ουσιαστική. Όπως υποστήριξε, εάν ένα σύστημα θεωρείται πραγματικά επικίνδυνο, η επιλογή της επιβράδυνσης δεν θα πρέπει να αντιμετωπίζεται μόνο ως ζήτημα συντονισμού μεταξύ των εταιρειών, αλλά θα μπορούσε να εφαρμοστεί μονομερώς.
Στο μεταξύ, ο πρώην ερευνητής διακυβέρνησης της OpenAI Ντάνιελ Κοκοτάιλο δήλωσε ότι μετά το περιστατικό με τη Hugging Face επικοινώνησαν μαζί του πρώην συνάδελφοί του για να εκφράσουν ιδιωτικά τους προβληματισμούς τους.
Ο Κοκοτάιλο, ο οποίος σήμερα είναι εκτελεστικός διευθυντής της ερευνητικής ομάδας AI Futures Project, υποστήριξε ότι ορισμένα υψηλόβαθμα στελέχη των εργαστηρίων τεχνητής νοημοσύνης έχουν καταλήξει στην πεποίθηση ότι επιτελούν τον «καλό» ρόλο στη συγκεκριμένη τεχνολογική κούρσα και ότι μια μονομερής διακοπή της ανάπτυξης θα μπορούσε να επιδεινώσει την κατάσταση.
www.worldenergynews.gr
