Οι κίνδυνοι γύρω από την τεχνητή νοημοσύνη πρέπει να διερευνηθούν διεξοδικά καθώς θα μπορούσε να αποτελέσει υπαρξιακή απειλή για την ανθρώπινη ζωή, λέει ένας Αυστραλός βουλευτής.
Σε μια ομιλία στο Κοινοβούλιο στις 6 Φεβρουαρίου, ο βουλευτής των Εργατικών Τζούλιαν Χιλ (Julian Hill) είπε ότι το ChatGPT έχει τη δυνατότητα να φέρει επανάσταση στον κόσμο, αλλά προειδοποίησε ότι εάν η τεχνητή νοημοσύνη ξεπεράσει την ανθρώπινη νοημοσύνη, θα μπορούσε να προκαλέσει σημαντική ζημιά. «Δεν χρειάζεται πολύς χρόνος, αν αρχίσετε να σκέφτεστε, για να συνειδητοποιήσετε ότι οι ανατρεπτικοί και καταστροφικοί κίνδυνοι από το αδάμαστο AGI είναι πραγματικοί, εύλογοι και εύκολο να υλοποιηθούν», είπε.
Ο Χιλ είπε ότι οι αναλυτές κινδύνου που εργάζονται σε απειλές όπως αστεροειδείς, κλιματική αλλαγή, υπερηφαίστεια, πυρηνικές καταστροφές, ηλιακές εκλάμψεις ή πανδημίες υψηλής θνησιμότητας βάζουν όλο και περισσότερο την τεχνητή γενική νοημοσύνη (AGI) στην κορυφή της λίστας των ανησυχιών τους. «Το AGI έχει τη δυνατότητα να φέρει επανάσταση στον κόσμο μας με τρόπους που δεν μπορούμε ακόμη να φανταστούμε, αλλά εάν το AGI ξεπεράσει την ανθρώπινη νοημοσύνη, θα μπορούσε να προκαλέσει σημαντική βλάβη στην ανθρωπότητα εάν οι στόχοι και τα κίνητρά της δεν ευθυγραμμίζονται με τα δικά μας», είπε.
«Ο κίνδυνος που ανησυχεί όλο και περισσότερο τους ανθρώπους που είναι πολύ πιο έξυπνοι από εμένα είναι αυτό που αποκαλούν «απίθανο» ότι οι άνθρωποι θα μπορέσουν να ελέγξουν το AGI ή ότι ένας κακόβουλος παράγοντας μπορεί να αξιοποιήσει το AGI για μαζική καταστροφή».
Ο Χιλ σημείωσε επίσης ότι οι στρατοί σε όλο τον κόσμο επιδίωκαν την ανάπτυξη AGI καθώς θα μπορούσε να μεταμορφώσει τον πόλεμο και να καταστήσει τις τρέχουσες «αμυντικές ικανότητες ξεπερασμένες». «Ένας αντίπαλος με δυνατότητα AGI θα μπορούσε να κατακτήσει την Αυστραλία ή να εξαπολύσει την καταστροφή σε επίπεδο κοινωνίας χωρίς να περιορίζεται από τους παγκόσμιους κανόνες που έχουν συμφωνηθεί», είπε. Τα προγράμματα τεχνητής νοημοσύνης έχουν απαγορευτεί σε σχολεία στη Νέα Νότια Ουαλία, το Κουίνσλαντ, την Τασμανία, τη Βικτώρια και τη Δυτική Αυστραλία.
Ομιλία του βουλευτή Εν μέρει Γράφτηκε από το ChatGPT
Για να δείξει τις ανησυχίες του, ο Χιλ είπε ότι είχε χρησιμοποιήσει το ChatGPT για να γράψει μέρη της ομιλίας που εκφωνούσε. Το πρόγραμμα χρειάστηκε μόλις 90 δευτερόλεπτα για να συνοψίσει τις πρόσφατες αναφορές των μέσων ενημέρωσης σχετικά με μαθητές που χρησιμοποιούν τεχνητή νοημοσύνη στην Αυστραλία για να κλέψουν και είπε ότι η παράγραφος που παρήγαγε ήταν «αρκετά καλή».
Το ChatGPT έγραψε, «Πρόσφατα, υπήρξαν αναφορές στα μέσα ενημέρωσης για μαθητές στην Αυστραλία που χρησιμοποιούν τεχνητή νοημοσύνη για να κλέψουν στις εξετάσεις τους. Η τεχνολογία AI, όπως το έξυπνο λογισμικό που μπορεί να γράφει δοκίμια και να δημιουργεί απαντήσεις, γίνεται πιο προσιτή στους μαθητές, επιτρέποντάς τους να ολοκληρώνουν εργασίες και δοκίμια χωρίς να κατανοούν πραγματικά το υλικό. Αυτό προκαλεί ανησυχία, κατανοητή ανησυχία, στους εκπαιδευτικούς, οι οποίοι ανησυχούν για τον αντίκτυπο στην ακεραιότητα του εκπαιδευτικού συστήματος».
Το ChatGPT έγραψε επίσης ότι οι μαθητές ουσιαστικά παρακάμπτουν την εκπαίδευσή τους και αποκτούν ένα αθέμιτο πλεονέκτημα χρησιμοποιώντας την τεχνητή νοημοσύνη. «Αυτό μπορεί να οδηγήσει σε έλλειψη δεξιοτήτων κριτικής σκέψης και σε μείωση της συνολικής ποιότητας της εκπαίδευσης. Επιπλέον, οι δάσκαλοι μπορεί να μην είναι σε θέση να εντοπίσουν εάν ένας μαθητής έχει χρησιμοποιήσει τεχνητή νοημοσύνη για να ολοκληρώσει μια εργασία, γεγονός που καθιστά δύσκολο τον εντοπισμό και την αντιμετώπιση της εξαπάτησης. Η χρήση της τεχνητής νοημοσύνης για την εξαπάτηση εγείρει επίσης ηθικά ερωτήματα σχετικά με την ευθύνη των μαθητών να μάθουν και να κατανοήσουν το υλικό στο οποίο δοκιμάζονται», έγραψε.
Ο Χιλ προειδοποίησε ότι η ποιότητα της απάντησης σήμαινε ότι η ανθρωπότητα έπρεπε να είναι ένα βήμα μπροστά. «Εάν οι άνθρωποι καταφέρουν να ελέγξουν το AGI πριν από μια έκρηξη πληροφοριών, θα μπορούσε να μεταμορφώσει την επιστήμη, τις οικονομίες, το περιβάλλον και την κοινωνία μας με προόδους σε κάθε τομέα της ανθρώπινης προσπάθειας», είπε, καλώντας για έρευνα ή διεθνή συνεργασία για τη διερεύνηση του ζητήματος.
«Το βασικό μήνυμα που θέλω να περάσω είναι ότι πρέπει να ξεκινήσουμε τώρα».
Η κοινότητα AI ανησυχεί
Η ομιλία του Χιλ έρχεται μετά από απόφαση του Διεθνούς Συνεδρίου για τη Μηχανική Μάθηση να απαγορεύσει στους συγγραφείς να χρησιμοποιούν το chatbot για τη σύνταξη επιστημονικών εργασιών.
«Κατά τη διάρκεια των τελευταίων ετών, παρατηρήσαμε και είμαστε μέρος της ταχείας προόδου στα γλωσσικά μοντέλα μεγάλης κλίμακας (LLM), τόσο στην έρευνα όσο και στην ανάπτυξη. Αυτή η πρόοδος δεν επιβραδύνθηκε, αλλά επιταχύνθηκε μόνο τους τελευταίους μήνες. Όπως πολλοί, συμπεριλαμβανομένου και εμείς, έχουμε παρατηρήσει, τα LLM που κυκλοφόρησαν τους τελευταίους μήνες, όπως το chatGPT του OpenAI, είναι πλέον σε θέση να παράγουν αποσπάσματα κειμένου που συχνά είναι δύσκολο να διακριθούν από το κείμενο που έχει γραφτεί από ανθρώπους», ανέφερε η ICML.
«Τέτοια ταχεία πρόοδος έρχεται συχνά με απρόβλεπτες συνέπειες. Δυστυχώς, δεν είχαμε αρκετό χρόνο για να παρατηρήσουμε, να διερευνήσουμε και να εξετάσουμε τις επιπτώσεις του στη διαδικασία αναθεώρησης και δημοσίευσής μας. Ως εκ τούτου, αποφασίσαμε να απαγορεύσουμε την παραγωγή/δημιουργία έντυπου κειμένου ICML χρησιμοποιώντας γλωσσικά μοντέλα μεγάλης κλίμακας», προσθέτει.
Η άμυνα των ΗΠΑ τοποθετεί το AGI στη λίστα παρακολούθησης
Εν τω μεταξύ, η Υπηρεσία Πληροφοριακών Συστημάτων Άμυνας των ΗΠΑ (DISA) έχει τοποθετήσει το AGI στη λίστα παρακολούθησης.
Η λίστα παρακολούθησης DISA είναι γνωστή για τα στοιχεία που αργότερα έγιναν πυλώνες της άμυνας των ΗΠΑ, όπως το 5G, η ψηφιακή άμυνα μηδενικής εμπιστοσύνης, η κρυπτογραφία ανθεκτική στην κβαντική τεχνολογία κλπ.
Ο επικεφαλής Τεχνολογίας της DISA, Στέφεν Γουάλας (Stephen Wallace), δήλωσε σε εκδήλωση που διοργανώθηκε από τη Διεθνή Ένωση Επικοινωνιών και Ηλεκτρονικών Ενόπλων Δυνάμεων (AFCEA) ότι ο οργανισμός είχε δείξει ενδιαφέρον για την τεχνολογία.
«Ξεκινάμε να εξετάζουμε: Πώς η [τεχνητή νοημοσύνη] αλλάζει πραγματικά την αποστολή της DISA στο τμήμα και τι παρέχουμε για το τμήμα στο μέλλον».