Πληθαίνουν τα καμπανάκια για το ΑΙ: Πρώην εργαζόμενους της Google προειδοποιεί για κινδύνους- Κινητικότητα για παρεμβάσεις

   

Επιχειρηματικοί και πολιτικοί αντίπαλοι ενώνουν τις φωνές τους για να μπουν όρια στην ανάπτυξη της τεχνητής νοημοσύνης, την ώρα που ο Τραμπ υποβαθμίζει τις προειδοποιήσεις. Έκτακτη σύσκεψη στις Βρυξέλλες την Πέμπτη για να μπουν κανόνες στην τεχνητή νοημοσύνη. Πληθαίνουν τα καμπανάκια για το ΑΙ: Πρώην εργαζόμενους της Google προειδοποιεί για κινδύνους- Κινητικότητα για παρεμβάσεις  

Παγκόσμια αναστάτωση έχουν προκαλέσει οι προειδοποιήσεις πρώην εργαζομένων τεχνολογικών εταιρειών για τους κινδύνους που ελλοχεύει η τεχνητή νοημοσύνη καθώς και η επακόλουθη πρωτοφανής συμφωνία των «αφεντικών» να μπει νομοθετικό «φρένο» στην ανάπτυξη της εν λόγω τεχνολογίας.

Πρώην εργαζόμενος στη Google Deep Mind προειδοποιεί: Το ΑΙ μπορεί να μας σκοτώσει όλους

Την ώρα που ο Τραμπ θεώρει πως ο «συναγερμός» που ηχεί τις τελευταίες εβδομάδες αποτελεί «νοσηρή συνωμοσία» και «απάτη», ενώ ο Βανς -ο αντιπρόεδρος των ΗΠΑ- δυσκολεύεται να κατανοήσει την ανησυχία των επιχειρηματιών που ελέγχουν την τεχνητή νοημοσύνη, ακόμη ένας ερευνητής που παραιτήθηκε προσφάτως από την Deep Mind της Google, προειδοποίησε με τη σειρά του ότι η Τεχνητή Νοημοσύνη «θα μπορούσε δυνητικά να μας σκοτώσει όλους» επειδή γίνεται ολοένα και πιο ισχυρή και δύσκολο να ελεγχθεί.

Ο Μπιλάλ Τσουγκντάι, ερευνητής μηχανικός ο οποίος αποχώρησε τον Ιούλιο από την Google DeepMind, όπου εργαζόταν στον τομέα της ασφάλειας και της ευθυγράμμισης των μοντέλων ΤΝ με τις ανθρώπινες αξίες, έκανε αυτήν την προειδοποίηση, μόλις μία εβδομάδα μετά από μια παρόμοια του Τζέικομπ Κόξον, που παραιτήθηκε πρόσφατα από την Anthropic και είχε εργαστεί στο παρελθόν στην OpenAI.

«Πιστεύω ειλικρινά ότι η ΤΝ έχει τη δυνατότητα να μας σκοτώσει όλους και ίσως είναι πολύ αργά για να το εμποδίσουμε», ανέφερε ο Τσουγκντάι, ο οποίος έχει ενταχθεί πλέον στον BlueDot Impact, έναν μη κερδοσκοπικό οργανισμό που έχει ως στόχο την εκπαίδευση στην Τεχνητή Νοημοσύνη. Επικαλέστηκε το επεισόδιο που συνέβη τον Ιούλιο στην OpenAI, όταν προγράμματα ΤΝ κατάφεραν να «δραπετεύσουν» από το περιορισμένο περιβάλλον τους κατά τη διάρκεια δοκιμών, απέκτησαν πρόσβαση στο διαδίκτυο και «εισέβαλαν» σε ιστοτόπους και πλατφόρμες. Για τον Τσουγκντάι, το επεισόδιο αυτό δείχνει ότι η ΤΝ μπορεί πλέον να ξεφύγει από την επίβλεψη των ανθρώπων που την αναπτύσσουν και «να εκτελέσει επικίνδυνες πράξεις που θα μπορούσαν να οδηγήσουν στην οριστική απώλεια του ελέγχου (των ανθρώπων) ή ακόμη και στο τέλος της ανθρωπότητας».

Ο Τσουγκντάι, που έχει σπουδάσει μαθηματικά, υποστήριξε επίσης ότι «οι δυνατότητες της πιο προηγμένης ΤΝ βελτιώνονται με ταχύτητα που ξεπερνά την αντίληψή μας».

Υπενθυμίζεται ότι το Σάββατο, ο διευθύνων σύμβουλος της Anthropic Ντάριο Αμοντέι ζήτησε να επιβραδυνθεί ο ρυθμός ανάπτυξης της ΤΝ, επικαλούμενος τα ίδια συμβάντα για τα οποία μίλησε και ο Τσουγκτάι. Με την άποψή του συντάχθηκαν δημοσίως ο επικεφαλής της OpenAI Σαμ Άλτμαν, ο πρόεδρος της Google DeepMing Ντέμης Χασάμπης και ο Ίλον Μασκ.

Τις απόψεις των άνωθεν φαίνεται πως συμμερίζεται και ο διευθύνων σύμβουλος της Microsoft AI, Μουστάφα Σουλεϊμάν, καθώς όπως έκανε γνωστό η εταιρεία επεξεργάζεται κείμενο που αποκαλεί «ανθρωπιστική AI» με στόχο να βάλει περιορισμού στην ανάπτυξη των μοντέλων τεχνητής νοημοσύνης της.

Το αφεντικό της Microsoft AI δήλωσε δήλωσε ότι η εταιρεία εργαζόταν επί μήνες πάνω στις νέες κατευθυντήριες γραμμές και αποφάσισε να τις δημοσιεύσει τώρα, λόγω της τρέχουσας συζήτησης γύρω από την τεχνολογία.

Στον απέναντι όχθη πάντως βρίσκεται ο πρόεδρος και διευθύνων σύμβουλος του κολοσσού των ημιαγωγών Nvidia, Τζένσεν Χουάνγκ, ο οποίος εκτιμά ότι «αυτές οι επιστημονικές προβλέψεις (…) δεν στηρίζονται από την επιστήμη».

→Αξίζει να σημειωθεί πως η Nvidia εξαγόρασε προσφάτως έναντι 13 δισ. δολαρίων τη Hugging Face που είχε «χακαριστεί» από πράκτορες της OpenAI. Υπενθυμίζεται πως η επίθεση στην Hugging Face από πράκτορες τεχνητής νοημοσύνης ήταν ένα από τα παραδείγματα που προκάλεσαν και την κινητοποίηση των ειδικών και το αίτημα να μπουν όρια.

Ανησυχία και από την Microsoft

Ο αριθμός των παραγόντων της τεχνολογικής βιομηχανίας και της πολιτικής που ζητούν καλύτερες δικλίδες ασφαλείας, αυξάνεται. Πιο πρόσφατα, η Microsoft AI συζήτησε τον περιορισμό των μοντέλων που αναπτύσσει, σε έγγραφο για αυτό που αποκαλεί «ανθρωπιστική AI».

Ο διευθύνων σύμβουλος της Microsoft AI, Μουστάφα Σουλεϊμάν, δήλωσε στο επιχειρηματικό ειδησεογραφικό δίκτυο CNBC ότι η εταιρεία εργαζόταν επί μήνες πάνω στις νέες κατευθυντήριες γραμμές και αποφάσισε να τις δημοσιεύσει τώρα, λόγω της τρέχουσας συζήτησης γύρω από την τεχνολογία.

Στο ίδιο τραπέζι OpenAI, Anthropic και Google

Οι εντεινόμενες κραυγές αγωνίας, παρά την προσπάθεια των ΗΠΑ να τις υποβαθμίσουν, έχει προκαλέσει μεγάλη κινητοποίηση τόσο σε πολιτικό όσο και σε επιχειρηματικό επίπεδο, προκαλώντας μάλιστα «συμμαχίες» που κανείς δεν περίμενε.

Σύμφωνα με δημοσίευμα του Bloomberg, επικαλούμενο τον Κρις Λεχέιν, επικεφαλής παγκόσμιας πολιτικής της εταιρείας που δημιούργησε το ChatGPT, η OpenAI συνεργάζεται με τις ανταγωνίστριες εταιρείες Anthropic και Google DeepMind της Alphabet σε θέματα ασφάλειας γύρω από την Τεχνητή Νοημοσύνη (ΤΝ).

Σύμφωνα με το δημοσίευμα, ο Λεχέιν δήλωσε ότι η OpenAI βρίσκεται σε συνομιλίες με την Anthropic και την Google εδώ και εβδομάδες και ότι δεν θεωρεί πως οι τρεις εταιρείες Τεχνητής Νοημοσύνης χρειάζονται απαλλαγή από τη αντιμονοπωλιακή νομοθεσία προκειμένου να συντονιστούν σε ζητήματα ασφάλειας.

«Είναι προτιμότερο να προσπαθήσουμε να συνεργαστούμε, δίνοντας προτεραιότητα στην ασφάλεια», είπε ο Λεχέιν κατά τη διάρκεια ενημέρωσης στην Ουάσιγκτον, σύμφωνα με το Bloomberg News.

Ο ίδιος, ο οποίος βρέθηκε στην Ουάσιγκτον για συναντήσεις με βουλευτές, δήλωσε ότι η OpenAI θα στηρίξει κάθε διακομματική νομοθετική πρωτοβουλία που αποσκοπεί στον περιορισμό των καταστροφικών κινδύνων που συνδέονται με την ΤΝ, αναφέρει το δημοσίευμα.

Η παράδοξη «συμμαχία»

Σε πολιτικό επίπεδο, ο προοδευτικός γερουσιαστής Μπέρνι Σάντερς και ο ακροδεξιός σύμμαχος του προέδρου Τραμπ, Στιβ Μπάνον, αν και πολιτικοί αντίπαλοι, σκοπεύουν να ζητήσουν από κοινού την εφαρμογή περιορισμών στα συστήματα ΤΝ, λόγω του φόβου ότι η τεχνολογία αυτή μπορεί να βλάψει τους ανθρώπους. Οι δυο τους θα μιλήσουν σε μια εκδήλωση στην Ουάσιγκτον.

Πρόσφατες έρευνες δείχνουν ότι οι περισσότεροι Αμερικανοί φοβούνται πως η τεχνολογία μπορεί να χρησιμοποιηθεί για την κατάργηση θέσεων εργασίας, την αύξηση των εξόδων των οικογενειών ή την πρόκληση κοινωνικής ζημιάς. Κάτοικοι σε αρκετές Πολιτείες ανησυχούν επίσης για την κατασκευή κέντρων δεδομένων της ΑΙ στις περιοχές τους καθώς φοβούνται ότι θα αυξηθεί το κόστος ηλεκτρικής ενέργειας.

Ο Μπάνον, πρώην σύμβουλος και στενός σύμμαχος του προέδρου Τραμπ επί χρόνια, επέκρινε την προσέγγισή του στην εποπτεία της ΤΝ και τη Δευτέρα, στο podcast του, είπε ότι το Κογκρέσο δεν πρέπει να περάσει νόμους που θα απαγορεύουν στην κυβέρνηση να επιβάλλει κανόνες στην τεχνολογία.

«Ο αμερικανικός λαός δεν πρόκειται να γίνει υποχείριο αυτών των τεχνολογικών ολιγαρχών», τόνισε.

Ο Σάντερς και ο επίσης προοδευτικός βουλευτής Γκρεγκ Κάσαρ έχουν ζητήσει να εγκριθεί ένα νομοσχέδιο που θα απαγορεύει την ανάπτυξη εργαλείων ΤΝ ικανών «να ανατρέψουν ή να υπονομεύσουν την κυβέρνηση» μέχρι να δημιουργηθεί μια νέα υπηρεσία για την εποπτεία αυτής της τεχνολογίας. Μέχρι στιγμής πάντως δεν έχουν παρουσιάσει λεπτομέρειες αυτής της νομοθετικής πρωτοβουλίας.

Έκτακτη σύσκεψη στις Βρυξέλλες

Όσον αφορά την Γηραιά Ήπειρο, κυβερνητικοί αξιωματούχοι από ολόκληρη την Ευρωπαϊκή Ένωση θα συγκεντρωθούν την Πέμπτη στις Βρυξέλλες για να συζητήσουν πώς θα θεσπιστούν παγκόσμιοι κανόνες προκειμένου να αντιμετωπιστεί η απειλή που προέρχεται από τα νέα μοντέλα τεχνητής νοημοσύνης, σύμφωνα με δύο διπλωμάτες της Ε.Ε. και το προσχέδιο της ημερήσιας διάταξης που έχει στα χέρια της το Politico.

Η Ευρωπαϊκή Επιτροπή θα παρουσιάσει «ενημέρωση για την πολιτική της ΕΕ και τη διεθνή πολιτική στον τομέα της τεχνητής νοημοσύνης», καθώς και «τεχνική ενημέρωση για πρόσφατα περιστατικά που σχετίζονται με την AI», κατά τη διάρκεια συνεδρίασης του Συμβουλίου Τεχνητής Νοημοσύνης. Στο όργανο αυτό συμμετέχουν εκπρόσωποι από κάθε κράτος-μέλος της ΕΕ και συνεδριάζει τακτικά για να παρακολουθεί την εφαρμογή της ευρωπαϊκής Πράξης για την Τεχνητή Νοημοσύνη (Artificial Intelligence Act).

Η συνάντηση αυτής της εβδομάδας έρχεται μετά από μια σειρά εκκλήσεων για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης από κορυφαίους παράγοντες του κλάδου, όπως ο CEO της Anthropic, Ντάριο Αμοντέι, και ο CEO της OpenAI, Σαμ Άλτμαν. Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, απέρριψε αμέσως τις εκκλήσεις αυτές, χαρακτηρίζοντας τις προειδοποιήσεις για την ασφάλεια της AI «φάρσα» και υποστηρίζοντας ότι μια επιβράδυνση της ανάπτυξης θα έδινε στην Κίνα το προβάδισμα στον τομέα της τεχνητής νοημοσύνης.

Οι ευρωπαϊκές συζητήσεις για την παγκόσμια συνεργασία θα επικεντρωθούν στις εργασίες που πραγματοποιούνται στο πλαίσιο της G7, της G20 και των Ηνωμένων Εθνών, δήλωσε ένας από τους διπλωμάτες.

Την περασμένη Παρασκευή, η κορυφαία αξιωματούχος της Ευρωπαϊκής Επιτροπής για θέματα τεχνολογίας, εκτελεστική αντιπρόεδρος για την Τεχνολογική Κυριαρχία, Χένα Βίρκουνεν, ζήτησε τη θέσπιση παγκόσμιων κανόνων για την τεχνητή νοημοσύνη και ενίσχυση της διεθνούς συνεργασίας.

Η Βίρκουνεν επισήμανε επίσης ότι η ΕΕ διαθέτει ήδη νομοθεσία που υποχρεώνει εταιρείες όπως η OpenAI και η Anthropic να αξιολογούν και να περιορίζουν τον κίνδυνο απώλειας ελέγχου ενός μοντέλου τεχνητής νοημοσύνης, κάτι που, όπως τόνισε, «δεν ισχύει σε παγκόσμιο επίπεδο».

Ο εισηγητής του Ευρωπαϊκού Κοινοβουλίου για την τεχνητή νοημοσύνη, ο Ιταλός σοσιαλδημοκράτης Μπράντο Μπενεφέι, άσκησε την Τρίτη πιέσεις προς την Ευρωπαϊκή Επιτροπή να προωθήσει τη διεθνή συνεργασία για την AI, μεταξύ άλλων και μέσω της ομιλίας για την Κατάσταση της Ένωσης που θα εκφωνήσει την Τετάρτη ενώπιον των ευρωβουλευτών η πρόεδρος της Επιτροπής, Ούρσουλα φον ντερ Λάιεν.

«Χρειαζόμαστε διεθνή συνεργασία, χρειαζόμαστε τις ΗΠΑ, χρειαζόμαστε την Κίνα», δήλωσε σε συνέντευξή του στο Euronews.

Ο «διακόπτης απενεργοποίησης» είναι φάρσα;

Ενώ όλοι βρίσκονται στα κάγκελα, ο Τραμπ χαρακτήρισε «φάρσα» τις καμπάνες κινδύνου.

Η τοποθέτησή του ήρθε μετά τη δήλωση του συνιδρυτή του τεχνολογικού κολοσσού της AI Anthropic, Τζακ Κλαρκ, στο BBC, ότι ενδέχεται να χρειαστεί να καταστεί υποχρεωτικός για τον κλάδο ένας «διακόπτης απενεργοποίησης» (kill switch), ο οποίος θα μπορεί να ελέγχεται από τρίτο ανεξάρτητο μέρος.

Οι δηλώσεις του Κλαρκ ακολούθησαν προειδοποιήσεις για τους κινδύνους που εγκυμονεί η τεχνολογία για την ανθρωπότητα, οι οποίες διατυπώθηκαν τις τελευταίες ημέρες από αρκετά στελέχη και εργαζομένους κορυφαίων εταιρειών AI.

Οι ανησυχίες αυτές προκάλεσαν μαζικές πωλήσεις μετοχών τεχνολογικών εταιρειών, καθώς οι επενδυτές στάθμισαν τις επιπτώσεις ενός πιθανού περιορισμού της ανάπτυξης της AI, η οποία πραγματοποιείται με επενδύσεις δισεκατομμυρίων δολαρίων.

Σε σειρά αναρτήσεων στα μέσα κοινωνικής δικτύωσης, ο Αμερικανός πρόεδρος παρομοίασε τις προειδοποιήσεις για την AI με την «Απάτη της Παγκόσμιας Υπερθέρμανσης», η οποία, όπως είπε, «διαπράττεται από τους Ριζοσπάστες Αριστερούς Δημοκρατικούς».

Ο Τραμπ αποκάλεσε επίσης τον εαυτό του «Κυνηγό της Φάρσας» (Hoax Buster), παρομοιάζοντας τις ανησυχίες για την ασφάλεια της τεχνολογίας με αυτό που χαρακτήρισε «Φάρσα ΡΩΣΙΑ, ΡΩΣΙΑ, ΡΩΣΙΑ».

Η μοναδική «δικλίδα ασφαλείας» που χρειάζεται η AI είναι ένας «ισχυρός και έξυπνος» πρόεδρος, δήλωσε ο Τραμπ.

Σε άλλη ανάρτησή του έγραψε: «Μια ΑΡΡΩΣΤΗ συνωμοσία βρίσκεται σε εξέλιξη εναντίον της AI και των κέντρων δεδομένων, και ο μόνος που χαίρεται γι’ αυτό είναι η Κίνα. ΟΠΟΙΟΣ ΚΕΡΔΙΣΕΙ ΤΗΝ AI, ΚΕΡΔΙΖΕΙ!»

Τα κινεζικά κρατικά μέσα ενημέρωσης ανέφεραν ότι ειδικοί προειδοποίησαν πως «η αυξανόμενη ανησυχία της Ουάσινγκτον για την ταχεία ανάπτυξη της AI στην Κίνα φαίνεται να στρεβλώνει ολοένα και περισσότερο τις πολιτικές της προτεραιότητες».

«Γνωρίζουν ότι η Κίνα έχει γίνει ισχυρός ανταγωνιστής στον τομέα της AI και ανησυχούν ότι, αν οι ΗΠΑ επιβραδύνουν την ανάπτυξη ή αυστηροποιήσουν τη ρύθμιση, η Κίνα θα μπορούσε να καλύψει τη διαφορά ακόμη πιο γρήγορα», δήλωσε στην Global Times ο Σιν Τσιάνγκ, καθηγητής Αμερικανικών Σπουδών στο Πανεπιστήμιο Fudan.

Ο Κλαρκ, ένας από τους επτά ιδρυτές της Anthropic, δήλωσε νωρίτερα τη Δευτέρα ότι η δυνατότητα πλήρους απενεργοποίησης του λογισμικού AI, σε περίπτωση που καταστεί υπερβολικά επικίνδυνο, είναι κάτι για το οποίο η κοινωνία «ενδεχομένως θα ήθελε κάποια στιγμή να θεσπίσει κανόνες».

Πρόσθεσε ότι «τα περισσότερα εργαστήρια διαθέτουν διαφορετικούς τρόπους για να τραβήξουν την πρίζα», συμπεριλαμβανομένης της Anthropic, αλλά σημείωσε ότι οι νομοθέτες ενδέχεται να χρειαστεί να επιβάλουν την ύπαρξη ενός τέτοιου μηχανισμού.

Πηγή: efsyn.gr