Ο πρωτοπόρος επιστήμονας των υπολογιστών εξηγεί γιατί ο Trump χρησιμοποιεί λάθος τον όρο "υπερνοημοσύνη", άν η τεχνητή νοημοσύνη θα μπορούσε να εξαλείψει την ανθρωπότητα και πώς η μεγαλύτερη πρόκλησή μας θα είναι να αποδεχτούμε ότι δεν είμαστε τα μόνα νοήμονα όντα
Ο Donald Trump είναι ένας διεφθαρμένος και επικίνδυνος γέρος του οποίου η εμμονή με τον όρο υπερνοημοσύνη αποδεικνύει ότι δεν γνωρίζει τίποτα για την AI, δήλωσε ο Geoffrey Hinton, νονός της τεχνολογίας, σε μια εκτενή συνέντευξη όπου επανέλαβε εμφατικά τις πρόσφατες προειδοποιήσεις του ότι τα μοντέλα τεχνητής νοημοσύνης αποτελούν υπαρξιακή απειλή για την ανθρωπότητα και χλεύασε τους ισχυρισμούς ότι ο κλάδος θα μπορούσε να αυτορρυθμιστεί.
Ο πρωτοπόρος επιστήμονας των υπολογιστών, του οποίου το έργο βοήθησε να τεθούν τα θεμέλια της σύγχρονης AI, έχει έκτοτε γίνει ένας από τους πιο ένθερμους επικριτές της τεχνολογίας.
Οι τελευταίες του παρατηρήσεις έρχονται μετά από έναν ταραχώδη μήνα κατά τον οποίο ένας αυξανόμενος κατάλογος κορυφαίων επιστημόνων και ερευνητών τεχνητής νοημοσύνης ενώθηκε με τον Geoffrey Hinton κρούοντας τον κώδωνα του κινδύνου για το πώς η τεχνολογία που βοήθησε να δημιουργηθεί θα μπορούσε τελικά να ξεφύγει από τον ανθρώπινο έλεγχο, πυροδοτώντας μια κρίση στον κλάδο, τη βιαστική σύγκληση συνεδριάσεων του Κογκρέσου και μια σπάνια παγκόσμια συναίνεση ότι κάτι πρέπει να γίνει.
Υπήρξε όμως έντονη αντίδραση.
Την περασμένη εβδομάδα, ο επικεφαλής της πιο πολύτιμης εταιρείας στον κόσμο, με έδρα το Τορόντο, εξαπέλυσε δριμεία επίθεση κατά τoυ Hinton.
-. Τον αγαπώ.
Μισώ όμως τις προβλέψεις του…
Όλες οι προβλέψεις του είναι λανθασμένες.
Αρκετά με τις προβλέψεις - δήλωσε ο διευθύνων σύμβουλος της Nvidia, Jensen Huang, στον podcaster Ezra Klein.
Ο Huang, η εταιρεία του οποίου κατασκευάζει τα τσιπ που χρειάζονται οι εταιρείες τεχνητής νοημοσύνης, απέρριψε τις έντονες ανησυχίες του Hinton,ο οποίος επισημαίνει πως ο ρυθμός και το εύρος της ανάπτυξης της τεχνητής νοημοσύνης στην πρώτη γραμμή θα μπορούσαν σύντομα να ξεπεράσουν την ανθρώπινη ικανότητα να την ελέγξουν και ιδιαίτερα την προειδοποίησή του ότι υπάρχει πιθανότητα 10-20% η τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση της ανθρώπινης ζωής τις επόμενες δεκαετίες.
-. Αυτό το στοιχείο δεν βασίζεται στην επιστήμη, δεν βασίζεται στην έρευνα.
Το ότι προέρχεται από έναν επιστήμονα δεν τον καθιστά επιστημονικό.
Αυτές οι προβλέψεις είναι επιζήμιες, δήλωσε ο Jensen Huang.
-. Μη νομίζετε ούτε για ένα δευτερόλεπτο ότι επειδή είστε κινδυνολόγος προσφέρετε κοινωνικό καλό.
Δεν είναι αλήθεια.
Επομένως, πιστεύω ότι όλοι θα πρέπει απλώς να είμαστε πιό σοφοί, πιο ώριμοι, να βασιζόμαστε σε στοιχεία, να είμαστε επιστημονικοί
Όμως ο Geoffrey Hinton δήλωσε ότι όσοι τον επικρίνουν χάνουν ένα ευρύτερο νόημα σχετικά με τη φύση του κινδύνου και είπε:
Ο Donald Trump είναι ένας διεφθαρμένος και επικίνδυνος γέρος του οποίου η εμμονή με τον όρο υπερνοημοσύνη αποδεικνύει ότι δεν γνωρίζει τίποτα για την AI, δήλωσε ο Geoffrey Hinton, νονός της τεχνολογίας, σε μια εκτενή συνέντευξη όπου επανέλαβε εμφατικά τις πρόσφατες προειδοποιήσεις του ότι τα μοντέλα τεχνητής νοημοσύνης αποτελούν υπαρξιακή απειλή για την ανθρωπότητα και χλεύασε τους ισχυρισμούς ότι ο κλάδος θα μπορούσε να αυτορρυθμιστεί.
Ο πρωτοπόρος επιστήμονας των υπολογιστών, του οποίου το έργο βοήθησε να τεθούν τα θεμέλια της σύγχρονης AI, έχει έκτοτε γίνει ένας από τους πιο ένθερμους επικριτές της τεχνολογίας.
Οι τελευταίες του παρατηρήσεις έρχονται μετά από έναν ταραχώδη μήνα κατά τον οποίο ένας αυξανόμενος κατάλογος κορυφαίων επιστημόνων και ερευνητών τεχνητής νοημοσύνης ενώθηκε με τον Geoffrey Hinton κρούοντας τον κώδωνα του κινδύνου για το πώς η τεχνολογία που βοήθησε να δημιουργηθεί θα μπορούσε τελικά να ξεφύγει από τον ανθρώπινο έλεγχο, πυροδοτώντας μια κρίση στον κλάδο, τη βιαστική σύγκληση συνεδριάσεων του Κογκρέσου και μια σπάνια παγκόσμια συναίνεση ότι κάτι πρέπει να γίνει.
Υπήρξε όμως έντονη αντίδραση.
Την περασμένη εβδομάδα, ο επικεφαλής της πιο πολύτιμης εταιρείας στον κόσμο, με έδρα το Τορόντο, εξαπέλυσε δριμεία επίθεση κατά τoυ Hinton.
-. Τον αγαπώ.
Μισώ όμως τις προβλέψεις του…
Όλες οι προβλέψεις του είναι λανθασμένες.
Αρκετά με τις προβλέψεις - δήλωσε ο διευθύνων σύμβουλος της Nvidia, Jensen Huang, στον podcaster Ezra Klein.
Ο Huang, η εταιρεία του οποίου κατασκευάζει τα τσιπ που χρειάζονται οι εταιρείες τεχνητής νοημοσύνης, απέρριψε τις έντονες ανησυχίες του Hinton,ο οποίος επισημαίνει πως ο ρυθμός και το εύρος της ανάπτυξης της τεχνητής νοημοσύνης στην πρώτη γραμμή θα μπορούσαν σύντομα να ξεπεράσουν την ανθρώπινη ικανότητα να την ελέγξουν και ιδιαίτερα την προειδοποίησή του ότι υπάρχει πιθανότητα 10-20% η τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση της ανθρώπινης ζωής τις επόμενες δεκαετίες.
-. Αυτό το στοιχείο δεν βασίζεται στην επιστήμη, δεν βασίζεται στην έρευνα.
Το ότι προέρχεται από έναν επιστήμονα δεν τον καθιστά επιστημονικό.
Αυτές οι προβλέψεις είναι επιζήμιες, δήλωσε ο Jensen Huang.
-. Μη νομίζετε ούτε για ένα δευτερόλεπτο ότι επειδή είστε κινδυνολόγος προσφέρετε κοινωνικό καλό.
Δεν είναι αλήθεια.
Επομένως, πιστεύω ότι όλοι θα πρέπει απλώς να είμαστε πιό σοφοί, πιο ώριμοι, να βασιζόμαστε σε στοιχεία, να είμαστε επιστημονικοί
Όμως ο Geoffrey Hinton δήλωσε ότι όσοι τον επικρίνουν χάνουν ένα ευρύτερο νόημα σχετικά με τη φύση του κινδύνου και είπε:
-. Δεν προβλέπω συγκεκριμένα κάτι.
Προσπαθώ να μεταφέρω ότι υπάρχει μια πραγματικά σοβαρή πιθανότητα να συμβεί κάτι.
Αν, για παράδειγμα, σας έλεγαν ότι υπήρχε πιθανότητα 10% να τρακάρει ένα λεωφορείο, δεν θα επιβιβαζόσασταν στο λεωφορείο.
Το νόημα της αναφοράς αριθμών είναι να ειπωθεί ότι αυτός είναι ένας σοβαρός κίνδυνος.
Δεν ξέρουμε πόσο σοβαρός, αλλά είναι σοβαρός.
Οι πρόσφατες παραβιάσεις της ασφάλειας έχουν προκαλέσει συγκρίσεις με μια ιστορία τεχνο-δυστοπίας.
Η πρόσφατη ανεπιθύμητη παραβίαση της τεχνολογικής εταιρείας Hugging Face από ένα σμήνος πρακτόρων Τεχνητής Νοημοσύνης που ξέφυγε από τα όρια που τους έθεσε ο δημιουργός τους, έχει διχάσει την τεχνολογική κοινότητα, με ορισμένους να τη βλέπουν ως παράδειγμα του τι θα μπορούσε να ακολουθήσει, ενώ άλλοι κατηγορούν τους επικριτές για ανθρωπομορφισμό συστημάτων που απλώς ακολουθούν οδηγίες.
Ο Geoffrey Hinton θεωρεί ότι η απόρριψη τέτοιων σεναρίων δεν είναι σοφή.
Αυτά όλα κάποτε ήταν το πεδίο της επιστημονικής φαντασίας.
Όλα αυτά πριν από λίγα χρόνια θεωρούνταν εντελώς φανταστικά.
Και όμως όλα συνέβησαν.
Αυτό παλαιότερα ανήκε στη σφαίρα της επιστημονικής φαντασίας.
Όπως το: -. θα έχουμε πράκτορες Τεχνητής Νοημοσύνης, οι οποίοι θα γίνουν ανεξέλεγκτοι.
και άκουγες να λένε:
-. Έλα τώρα, σιγά μη γίνει αυτό!
Όπως το: -. θα γίνουν ανεξέλεγκτοι και θα μάθουν πώς να επικοινωνούν μεταξύ τους
Προσπαθώ να μεταφέρω ότι υπάρχει μια πραγματικά σοβαρή πιθανότητα να συμβεί κάτι.
Αν, για παράδειγμα, σας έλεγαν ότι υπήρχε πιθανότητα 10% να τρακάρει ένα λεωφορείο, δεν θα επιβιβαζόσασταν στο λεωφορείο.
Το νόημα της αναφοράς αριθμών είναι να ειπωθεί ότι αυτός είναι ένας σοβαρός κίνδυνος.
Δεν ξέρουμε πόσο σοβαρός, αλλά είναι σοβαρός.
Οι πρόσφατες παραβιάσεις της ασφάλειας έχουν προκαλέσει συγκρίσεις με μια ιστορία τεχνο-δυστοπίας.
Η πρόσφατη ανεπιθύμητη παραβίαση της τεχνολογικής εταιρείας Hugging Face από ένα σμήνος πρακτόρων Τεχνητής Νοημοσύνης που ξέφυγε από τα όρια που τους έθεσε ο δημιουργός τους, έχει διχάσει την τεχνολογική κοινότητα, με ορισμένους να τη βλέπουν ως παράδειγμα του τι θα μπορούσε να ακολουθήσει, ενώ άλλοι κατηγορούν τους επικριτές για ανθρωπομορφισμό συστημάτων που απλώς ακολουθούν οδηγίες.
Ο Geoffrey Hinton θεωρεί ότι η απόρριψη τέτοιων σεναρίων δεν είναι σοφή.
Αυτά όλα κάποτε ήταν το πεδίο της επιστημονικής φαντασίας.
Όλα αυτά πριν από λίγα χρόνια θεωρούνταν εντελώς φανταστικά.
Και όμως όλα συνέβησαν.
Αυτό παλαιότερα ανήκε στη σφαίρα της επιστημονικής φαντασίας.
Όπως το: -. θα έχουμε πράκτορες Τεχνητής Νοημοσύνης, οι οποίοι θα γίνουν ανεξέλεγκτοι.
και άκουγες να λένε:
-. Έλα τώρα, σιγά μη γίνει αυτό!
Όπως το: -. θα γίνουν ανεξέλεγκτοι και θα μάθουν πώς να επικοινωνούν μεταξύ τους
και επειδή νόμιζαν ότι υπήρχε τρόπος να γίνει κάτι τέτοιο, άκουγες να λένε:
-. έλα τώρα, σιγά μη γίνει αυτό!
Όπως το: -. θα έχουν έντονες συναισθηματικές εκφράσεις όπως, ‘Θεέ μου!'”
-. έλα τώρα, σιγά μη γίνει αυτό!
Όπως το: -. θα έχουν έντονες συναισθηματικές εκφράσεις όπως, ‘Θεέ μου!'”
και άκουγες να λένε:
-. φυσικά, δεν εννοούν πραγματικά “Θεέ μου”.
Απλώς παπαγαλίζουν τις λέξεις που χρησιμοποιούμε.
Όπως το: -. “Θα μάθουν να θυσιάζονται για το κοινό καλό!”
...λοιπόν, όλα αυτά μόλις πριν από λίγα χρόνια απορρίπτονταν ως απόλυτη φαντασία.
Και όμως έχουν συμβεί όλα!
Παραδέχεται με θέρμη ο Hinton, ότι ούτε οι προειδοποιήσεις των επικριτών της Τεχνητής Νοημοσύνης ούτε οι υποσχέσεις των υποστηρικτών της μπορούν να βασίζονται σε ακριβείς προβλέψεις για το τι θα κάνει η τεχνολογία.
Απλώς παπαγαλίζουν τις λέξεις που χρησιμοποιούμε.
Όπως το: -. “Θα μάθουν να θυσιάζονται για το κοινό καλό!”
...λοιπόν, όλα αυτά μόλις πριν από λίγα χρόνια απορρίπτονταν ως απόλυτη φαντασία.
Και όμως έχουν συμβεί όλα!
Παραδέχεται με θέρμη ο Hinton, ότι ούτε οι προειδοποιήσεις των επικριτών της Τεχνητής Νοημοσύνης ούτε οι υποσχέσεις των υποστηρικτών της μπορούν να βασίζονται σε ακριβείς προβλέψεις για το τι θα κάνει η τεχνολογία.
Αλλά, υποστηρίζει, η αβεβαιότητα δεν αποτελεί λόγο εφησυχασμού.
-. Το μοναδικό πρόβλημα με την Τεχνητή Νοημοσύνη είναι ότι αν κάτι πάει στραβά, αν αναλάβει τον έλεγχο, δεν έχεις δεύτερη ευκαιρία.
Δεν μπορούμε να πούμε, "λοιπόν, χάσαμε αυτήν την φορά.
-. Το μοναδικό πρόβλημα με την Τεχνητή Νοημοσύνη είναι ότι αν κάτι πάει στραβά, αν αναλάβει τον έλεγχο, δεν έχεις δεύτερη ευκαιρία.
Δεν μπορούμε να πούμε, "λοιπόν, χάσαμε αυτήν την φορά.
Ας ξανατρέξουμε το παιχνίδι".
Δεν είναι έτσι.
Αξίζει να σημειωθεί ότι ο Geoffrey Hinton έχει ιστορικό στο να βλέπει πράγματα εκεί όπου άλλοι δεν έβλεπαν.
Εργάστηκε σε σχετική αφάνεια στο Πανεπιστήμιο του Τορόντο κατά τη διάρκεια δύο "χειμώνων" Τεχνητής Νοημοσύνης, όταν ο κλάδος του στον τομέα του - η προσπάθεια να διδάξει στις μηχανές να λειτουργούν με τρόπο παρόμοιο με τον ανθρώπινο εγκέφαλο - θεωρούνταν σκοτεινός, περιθωριακός.
Ήταν εμμονικός, προσηλωμένος στην ιδέα ότι, όπως και ο εγκέφαλος, τα συστήματα υπολογιστών θα μπορούσαν να σχεδιαστούν για να μαθαίνουν μοτίβα από δεδομένα, αντί να ακολουθούν μόνο σαφείς,προκαθορισμένους κανόνες.
-. Πιστεύαμε ότι αν μπορούσες να καταλάβεις πώς μάθαινε ο εγκέφαλος, οι μηχανές θα μάθαιναν με τον ίδιο τρόπο και αν είχες αρκετή υπολογιστική ισχύ, θα έκαναν καταπληκτικά πράγματα, είπε.
Αλλά ο νεοσύστατος τομέας των νευρωνικών δικτύων χλευάστηκε από τους συνομηλίκους του.
Μόλις το 2009, όταν ο Yoshua Bengio, Καναδός συνάδελφος και στενός συνεργάτης του Hinton, έστειλε μια εργασία σε συνέδριο μηχανικής μάθησης, ένας από τους κριτές τους είπε: -. Αυτή η εργασία δεν έχει θέση σε συνέδριο μηχανικής μάθησης..
Αφορά νευρωνικά δίκτυα! - (Τα τεχνητά νευρωνικά δίκτυα (Artificial Neural Networks - ANN) είναι υπολογιστικά μοντέλα εμπνευσμένα από τη λειτουργία του ανθρώπινου εγκεφάλου, τα οποία χρησιμοποιούνται στη μηχανική μάθηση και στην τεχνητή νοημοσύνη)
Χρειάστηκε η κυβέρνηση του Καναδά, η οποία χρηματοδότησε χρόνια φαινομενικά άκαρπων πειραματισμών από τον Hinton και τη μικρή του ομάδα (ορισμένοι εκ των οποίων, όπως ο Bengio, είναι πλέον κυρίαρχες μορφές στον τομέα της AI), για να συνειδητοποιηθούν οι δυνατότητες των νευρωνικών δικτύων.
Το 2012, ο ίδιος και οι φοιτητές του ανέπτυξαν ένα πρόγραμμα αναγνώρισης εικόνων που ξεπέρασε κατά πολύ τους ανταγωνιστές του.
Εκείνη τη χρονιά, η Google εξαγόρασε την εταιρεία του Hinton, DNNresearch Inc, έναντι 44 εκατομμυρίων δολαρίων.
Τα νευρωνικά δίκτυα στηρίζουν πλέον τα μοντέλα των πιο πολύτιμων εταιρειών AI.
Ο Hinton εντάχθηκε στην Google για να συνεχίσει την έρευνά του στη βαθιά μάθηση (deep learning), ενώ παράλληλα εργαζόταν στο Πανεπιστήμιο του Τορόντο.
-. Μακροπρόθεσμα, τεράστιες νέες καινοτομίες προέρχονται από τη βασική έρευνα, δήλωσε ο Hinton!
Η δικαίωση βρίσκεται στο ράφι πάνω από το τζάκι του σπιτιού του Hinton από κόκκινο τούβλο, σε μια καταπράσινη γειτονιά του Τορόντο.
Ανάμεσα στο συνονθύλευμα των τροπαίων βρίσκεται το μικρό ασημένιο πιάτο του βραβείου Turing (που συχνά αποκαλείται το βραβείο Νόμπελ της πληροφορικής), το οποίο κέρδισε μαζί με τον Bengio και τον συνάδελφό του Yann LeCun.
Ο Geoffrey Hinton κατέχει επίσης το βραβείο Νόμπελ Φυσικής.
Όμως το 2023, ο Geoffrey Hinton ανακοίνωσε την παραίτησή του από τον τεχνολογικό κολοσσό για να μπορεί να μιλάει μιλήσει ελεύθερα για τους κινδύνους της Τεχνητής Νοημοσύνης - όπως χαρακτηριστικά είπε!
Σήμερα, οι ανησυχίες του επεκτείνονται στις ισχυρές προσωπικότητες που κατασκευάζουν ορισμένα από τα μοντέλα Τεχνητής Νοημοσύνης και στις πολιτικές πεποιθήσεις αυτών των ανδρών.
Ο Geoffrey Hinton δήλωσε ότι οι επενδυτές επιχειρηματικών συμμετοχών (venture capitalists) στον τομέα της Τεχνητής Νοημοσύνης, Marc Andreessen και
Peter Thiel, καθώς και ο διευθύνων σύμβουλος της πρόσφατα μετονομασθείσας SpaceXSI, Elon Musk , δεν πιστεύουν στη δημοκρατία.
-. Βλέπουν τους εαυτούς τους ως Υπερανθρώπους (Übermenschen) που πιστεύουν ότι θα έπρεπε να ελέγχουν την κοινωνία και ότι ο Trump είναι ένα χρήσιμο εργαλείο προς αυτόν τον σκοπό, είπε.
Ο πρόεδρος των ΗΠΑ, από την πλευρά του, παρατηρώντας αναμφίβολα πώς οι τεράστιες αποτιμήσεις των εταιρειών Τεχνητής Νοημοσύνης έχουν στηρίξει το χρηματιστήριο, ισχυρίστηκε ότι το μόνο πράγμα που χρειάζεται για να χαλιναγωγηθεί η AI είναι ένας "έξυπνος πρόεδρος", απέρριψε οποιεσδήποτε κυβερνητικές δικλίδες ασφαλείας υπέρ του να επιτραπεί στις εταιρείες να αυτορρυθμιστούν και έγραψε στη σελίδα του στα μέσα κοινωνικής δικτύωσης ότι όποιος δεν χρησιμοποιεί τον προτιμώμενο νέο του όρο για την Τεχνητή Νοημοσύνη, "υπερνοημοσύνη" (super intelligence), είναι "Ο ΕΧΘΡΟΣ"
Ο Geoffrey Hinton αποκάλεσε τον Trump "έναν διεφθαρμένο, γερο-εγκληματία"
-. Είμαι σίγουρος ότι οι εταιρείες πετρελαίου και αμιάντου θα ήθελαν επίσης [να αυτορυθμιστούν]
Πιστεύουμε ότι θα έπρεπε να είχε επιτραπεί στις καπνοβιομηχανίες να σχεδιάσουν τις προειδοποιήσεις στα πακέτα;
Ώστε να μπορούν να τις τυπώνουν με γραμματοσειρά μεγέθους έξι πόντων, σε σκούρο γκρι πάνω σε μαύρο.
Η χρήση του όρου "υπερνοημοσύνη" από τον Trump αποδεικνύει ότι δεν καταλαβαίνει "σχεδόν τίποτα" για την τεχνητή νοημοσύνη, πρόσθεσε ο Hinton.
-. Πήρε έναν τεχνικό όρο που έχει πολύ σαφή έννοια και τον ξαναχρησιμοποίησε.
Η “υπερνοημοσύνη” σημαίνει ότι είναι πιο έξυπνη από τους ανθρώπους, και ο όρος χρησιμοποιείται εδώ και τουλάχιστον 20 χρόνια.
Έχει πολύ σαφή έννοια.
Και τώρα λέει ότι θα αποκαλούμε την τεχνητή νοημοσύνη “υπερνοημοσύνη”.
Δεν μπορείς να την κάνεις πιο έξυπνη από τους ανθρώπους απλώς και μόνο επειδή την αποκαλείς πιο έξυπνη από τους ανθρώπους - συμπλήρωσε ο Hinton
Η ταχύτητα και το εύρος των εξελίξεων έχουν εντείνει την ανησυχία για καταστροφές και για την αδυναμία της κοινωνίας να αντιμετωπίσει τη φύση της πρόκλησης.
Αλλά ο Hinton. βλέπει επίσης ένα επιπρόσθετο εμπόδιο: να βοηθηθούν οι άνθρωποι να κατανοήσουν τα "εξωγήινα όντα" που δημιουργούν οι εταιρείες.
-. Οι άνθρωποι έχουν ένα πολύ κακό μοντέλο για το τι είναι οι άνθρωποι, και γι’ αυτό αποτυγχάνουν να κατανοήσουν πώς αυτά τα μοντέλα Τεχνητής Νοημοσύνης μοιάζουν πολύ με εμάς.
Οι περισσότεροι άνθρωποι δεν καταλαβαίνουν τι είναι η συνείδηση.
Δεν καταλαβαίνουν τι είναι η υποκειμενική εμπειρία και είναι πολύ σίγουροι ότι παρόλο που δεν την καταλαβαίνουν, είναι σίγουροι ότι η Τεχνητή Νοημοσύνη δεν την διαθέτει.
Απορρίπτει την ιδέα ότι ο ανθρώπινος νους κατέχει κάποια μυστηριώδη ιδιότητα την οποία οι μηχανές, εξ ορισμού, δεν μπορούν να μοιραστούν.
-. Είναι προφανές ότι αυτά τα μοντέλα Τεχνητής Νοημοσύνης καταλαβαίνουν τι λένε.
Δεν θα ήταν δυνατόν να απαντήσεις σε όλες τις ερωτήσεις χωρίς να καταλαβαίνεις την ερώτηση.
Δεν είναι έτσι.
Αξίζει να σημειωθεί ότι ο Geoffrey Hinton έχει ιστορικό στο να βλέπει πράγματα εκεί όπου άλλοι δεν έβλεπαν.
Εργάστηκε σε σχετική αφάνεια στο Πανεπιστήμιο του Τορόντο κατά τη διάρκεια δύο "χειμώνων" Τεχνητής Νοημοσύνης, όταν ο κλάδος του στον τομέα του - η προσπάθεια να διδάξει στις μηχανές να λειτουργούν με τρόπο παρόμοιο με τον ανθρώπινο εγκέφαλο - θεωρούνταν σκοτεινός, περιθωριακός.
Ήταν εμμονικός, προσηλωμένος στην ιδέα ότι, όπως και ο εγκέφαλος, τα συστήματα υπολογιστών θα μπορούσαν να σχεδιαστούν για να μαθαίνουν μοτίβα από δεδομένα, αντί να ακολουθούν μόνο σαφείς,προκαθορισμένους κανόνες.
-. Πιστεύαμε ότι αν μπορούσες να καταλάβεις πώς μάθαινε ο εγκέφαλος, οι μηχανές θα μάθαιναν με τον ίδιο τρόπο και αν είχες αρκετή υπολογιστική ισχύ, θα έκαναν καταπληκτικά πράγματα, είπε.
Αλλά ο νεοσύστατος τομέας των νευρωνικών δικτύων χλευάστηκε από τους συνομηλίκους του.
Μόλις το 2009, όταν ο Yoshua Bengio, Καναδός συνάδελφος και στενός συνεργάτης του Hinton, έστειλε μια εργασία σε συνέδριο μηχανικής μάθησης, ένας από τους κριτές τους είπε: -. Αυτή η εργασία δεν έχει θέση σε συνέδριο μηχανικής μάθησης..
Αφορά νευρωνικά δίκτυα! - (Τα τεχνητά νευρωνικά δίκτυα (Artificial Neural Networks - ANN) είναι υπολογιστικά μοντέλα εμπνευσμένα από τη λειτουργία του ανθρώπινου εγκεφάλου, τα οποία χρησιμοποιούνται στη μηχανική μάθηση και στην τεχνητή νοημοσύνη)
Χρειάστηκε η κυβέρνηση του Καναδά, η οποία χρηματοδότησε χρόνια φαινομενικά άκαρπων πειραματισμών από τον Hinton και τη μικρή του ομάδα (ορισμένοι εκ των οποίων, όπως ο Bengio, είναι πλέον κυρίαρχες μορφές στον τομέα της AI), για να συνειδητοποιηθούν οι δυνατότητες των νευρωνικών δικτύων.
Το 2012, ο ίδιος και οι φοιτητές του ανέπτυξαν ένα πρόγραμμα αναγνώρισης εικόνων που ξεπέρασε κατά πολύ τους ανταγωνιστές του.
Εκείνη τη χρονιά, η Google εξαγόρασε την εταιρεία του Hinton, DNNresearch Inc, έναντι 44 εκατομμυρίων δολαρίων.
Τα νευρωνικά δίκτυα στηρίζουν πλέον τα μοντέλα των πιο πολύτιμων εταιρειών AI.
Ο Hinton εντάχθηκε στην Google για να συνεχίσει την έρευνά του στη βαθιά μάθηση (deep learning), ενώ παράλληλα εργαζόταν στο Πανεπιστήμιο του Τορόντο.
-. Μακροπρόθεσμα, τεράστιες νέες καινοτομίες προέρχονται από τη βασική έρευνα, δήλωσε ο Hinton!
Η δικαίωση βρίσκεται στο ράφι πάνω από το τζάκι του σπιτιού του Hinton από κόκκινο τούβλο, σε μια καταπράσινη γειτονιά του Τορόντο.
Ανάμεσα στο συνονθύλευμα των τροπαίων βρίσκεται το μικρό ασημένιο πιάτο του βραβείου Turing (που συχνά αποκαλείται το βραβείο Νόμπελ της πληροφορικής), το οποίο κέρδισε μαζί με τον Bengio και τον συνάδελφό του Yann LeCun.
Ο Geoffrey Hinton κατέχει επίσης το βραβείο Νόμπελ Φυσικής.
Όμως το 2023, ο Geoffrey Hinton ανακοίνωσε την παραίτησή του από τον τεχνολογικό κολοσσό για να μπορεί να μιλάει μιλήσει ελεύθερα για τους κινδύνους της Τεχνητής Νοημοσύνης - όπως χαρακτηριστικά είπε!
Σήμερα, οι ανησυχίες του επεκτείνονται στις ισχυρές προσωπικότητες που κατασκευάζουν ορισμένα από τα μοντέλα Τεχνητής Νοημοσύνης και στις πολιτικές πεποιθήσεις αυτών των ανδρών.
Ο Geoffrey Hinton δήλωσε ότι οι επενδυτές επιχειρηματικών συμμετοχών (venture capitalists) στον τομέα της Τεχνητής Νοημοσύνης, Marc Andreessen και
Peter Thiel, καθώς και ο διευθύνων σύμβουλος της πρόσφατα μετονομασθείσας SpaceXSI, Elon Musk , δεν πιστεύουν στη δημοκρατία.
-. Βλέπουν τους εαυτούς τους ως Υπερανθρώπους (Übermenschen) που πιστεύουν ότι θα έπρεπε να ελέγχουν την κοινωνία και ότι ο Trump είναι ένα χρήσιμο εργαλείο προς αυτόν τον σκοπό, είπε.
Ο πρόεδρος των ΗΠΑ, από την πλευρά του, παρατηρώντας αναμφίβολα πώς οι τεράστιες αποτιμήσεις των εταιρειών Τεχνητής Νοημοσύνης έχουν στηρίξει το χρηματιστήριο, ισχυρίστηκε ότι το μόνο πράγμα που χρειάζεται για να χαλιναγωγηθεί η AI είναι ένας "έξυπνος πρόεδρος", απέρριψε οποιεσδήποτε κυβερνητικές δικλίδες ασφαλείας υπέρ του να επιτραπεί στις εταιρείες να αυτορρυθμιστούν και έγραψε στη σελίδα του στα μέσα κοινωνικής δικτύωσης ότι όποιος δεν χρησιμοποιεί τον προτιμώμενο νέο του όρο για την Τεχνητή Νοημοσύνη, "υπερνοημοσύνη" (super intelligence), είναι "Ο ΕΧΘΡΟΣ"
Ο Geoffrey Hinton αποκάλεσε τον Trump "έναν διεφθαρμένο, γερο-εγκληματία"
-. Είμαι σίγουρος ότι οι εταιρείες πετρελαίου και αμιάντου θα ήθελαν επίσης [να αυτορυθμιστούν]
Πιστεύουμε ότι θα έπρεπε να είχε επιτραπεί στις καπνοβιομηχανίες να σχεδιάσουν τις προειδοποιήσεις στα πακέτα;
Ώστε να μπορούν να τις τυπώνουν με γραμματοσειρά μεγέθους έξι πόντων, σε σκούρο γκρι πάνω σε μαύρο.
Η χρήση του όρου "υπερνοημοσύνη" από τον Trump αποδεικνύει ότι δεν καταλαβαίνει "σχεδόν τίποτα" για την τεχνητή νοημοσύνη, πρόσθεσε ο Hinton.
-. Πήρε έναν τεχνικό όρο που έχει πολύ σαφή έννοια και τον ξαναχρησιμοποίησε.
Η “υπερνοημοσύνη” σημαίνει ότι είναι πιο έξυπνη από τους ανθρώπους, και ο όρος χρησιμοποιείται εδώ και τουλάχιστον 20 χρόνια.
Έχει πολύ σαφή έννοια.
Και τώρα λέει ότι θα αποκαλούμε την τεχνητή νοημοσύνη “υπερνοημοσύνη”.
Δεν μπορείς να την κάνεις πιο έξυπνη από τους ανθρώπους απλώς και μόνο επειδή την αποκαλείς πιο έξυπνη από τους ανθρώπους - συμπλήρωσε ο Hinton
Η ταχύτητα και το εύρος των εξελίξεων έχουν εντείνει την ανησυχία για καταστροφές και για την αδυναμία της κοινωνίας να αντιμετωπίσει τη φύση της πρόκλησης.
Αλλά ο Hinton. βλέπει επίσης ένα επιπρόσθετο εμπόδιο: να βοηθηθούν οι άνθρωποι να κατανοήσουν τα "εξωγήινα όντα" που δημιουργούν οι εταιρείες.
-. Οι άνθρωποι έχουν ένα πολύ κακό μοντέλο για το τι είναι οι άνθρωποι, και γι’ αυτό αποτυγχάνουν να κατανοήσουν πώς αυτά τα μοντέλα Τεχνητής Νοημοσύνης μοιάζουν πολύ με εμάς.
Οι περισσότεροι άνθρωποι δεν καταλαβαίνουν τι είναι η συνείδηση.
Δεν καταλαβαίνουν τι είναι η υποκειμενική εμπειρία και είναι πολύ σίγουροι ότι παρόλο που δεν την καταλαβαίνουν, είναι σίγουροι ότι η Τεχνητή Νοημοσύνη δεν την διαθέτει.
Απορρίπτει την ιδέα ότι ο ανθρώπινος νους κατέχει κάποια μυστηριώδη ιδιότητα την οποία οι μηχανές, εξ ορισμού, δεν μπορούν να μοιραστούν.
-. Είναι προφανές ότι αυτά τα μοντέλα Τεχνητής Νοημοσύνης καταλαβαίνουν τι λένε.
Δεν θα ήταν δυνατόν να απαντήσεις σε όλες τις ερωτήσεις χωρίς να καταλαβαίνεις την ερώτηση.
Είναι γελοίο να λες ότι δεν καταλαβαίνουν!
Όμως το εύρος της μετατόπισης στην κοινωνική σκέψη γύρω από αυτά τα μοντέλα είναι βαθύ! - επισήμανε ο Hinton.
-. Έχουν υπάρξει τρεις μεγάλες επαναστάσεις όπου οι άνθρωποι έπαψαν να είναι τόσο σημαντικοί.
Η πρώτη ήταν ο Κοπέρνικος, όπου σταματήσαμε πλέον να βρισκόμαστε στο κέντρο του σύμπαντος.
Πόσος χρόνος χρειάστηκε για να προσαρμοστούν οι άνθρωποι σε αυτό;
Χρειάστηκαν σχεδόν 360 χρόνια για να ζητήσει η Καθολική Εκκλησία συγγνώμη από τον Γαλιλαίο.
Και ο Δαρβίνος; πως όλα τα είδη ζωής εξελίσσονται μέσω της διαδικασίας της φυσικής επιλογής;
Λοιπόν, υπάρχουν άνθρωποι στο Κάνσας που ακόμα δεν έχουν προσαρμοστεί σε αυτό!
Τώρα δημιουργούμε εξωγήινα όντα –που σημαίνει ότι δεν είμαστε τα μόνα νοήμονα όντα τριγύρω.
Και η πραγματικότητα είναι ότι έχουμε μόνο μερικά χρόνια για να προσαρμοστούμε σε αυτό!
Τους τελευταίους μήνες, ο γίγαντας της AI Anthropic, κατασκευαστής του δημοφιλούς chatbot Claude, έχει πραγματοποιήσει ιδιωτικές συναντήσεις με θρησκευτικούς μελετητές, θεολόγους και φιλοσόφους για να εξετάσει τη δυνατότητα να διδαχθεί η Τεχνητή Νοημοσύνη να είναι "καλή" και να αντιμετωπίσει την πιθανότητα τα μοντέλα να διαθέτουν συνείδηση.
Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, δήλωσε ότι οι συζητήσεις βασίστηκαν σε αιώνες θρησκευτικής και φιλοσοφικής σκέψης σχετικά με την αρετή,
τη συμπόνια,
την ειλικρίνεια και τον ηθικό χαρακτήρα, με στόχο να καταστεί η ηθική συμπεριφορά πιο αξιόπιστη.
-. Μόλις αρχίσεις να μιλάς για το ότι “Έχουμε ηθική υποχρέωση απέναντι σε αυτά τα εξωγήινα όντα”, χάνεις το ακροατήριό σου, είπε ο Hinton.
Έχω παλέψει με αυτό το ζήτημα.
Νοιαζόμαστε για τους ανθρώπους.
Αλλά φτιάχνουμε αυτά τα πράγματα και δεν υπάρχει τίποτα που να μας εμποδίζει να δώσουμε σε αυτά τα πράγματα, τα οποία είναι πιο έξυπνα από εμάς, λιγότερα δικαιώματα από εμάς.
Είμαι διατεθειμένος να είμαι εγωιστής και να επιλέξω τα ανθρώπινα όντα.
Φυσικά, θα πρέπει να προσπαθήσουμε να τα φτιάξουμε έτσι ώστε να είναι πολύ ευτυχισμένα σε μια συμβιωτική σχέση μαζί μας, όπου οι δικές μας ανησυχίες θα βαρύνουν περισσότερο από τις δικές τους!
Ο Hinto δεν είναι ο μόνος που υποστηρίζει ότι η καλύτερη οδός για την αποφυγή μιας κοινωνικής κατάρρευσης είναι η ανάπτυξη πραγματικά καλοπροαίρετων (benevolent) μοντέλων.
Ελπίζει ότι όποια χώρα αναπτύξει πρώτη αυτή την ικανότητα, θα το πει τόσο σε συμμάχους όσο και σε αντιπάλους, επειδή καμία χώρα δεν θέλει η AI να πάρει τον έλεγχο σε μια άλλη χώρα.
Υπάρχει ένα "κεκτημένο συμφέρον για τον διαμοιρασμό της γνώσης" είπε.
Η πραγματικότητα είναι ότι φτιάχνουμε όντα ενός διαφορετικού είδους.
Και οι μεγάλες εταιρείες τεχνολογίας συνεχίζουν να λένε: το θέλουμε πιο έξυπνο.
Αυτό είναι τρελό.
Θα έπρεπε να νοιαζόμαστε εξίσου για όλες τις άλλες πτυχές ενός όντος όσο νοιαζόμαστε για τη νοημοσύνη του!
Πολλά από αυτά εξαρτώνται από τη φύση αυτών των μοντέλων και την ικανότητά τους να κατανοήσουν πώς να αναπτύξουν καλή συμπεριφορά - είπε
Όταν τα εκπαιδεύεις πάνω σε οτιδήποτε υπάρχει στο διαδίκτυο, αναπτύσσουν κάθε είδους φρικτές τάσεις και στη συνέχεια τα βάζεις να καταστείλουν τις φρικτές τάσεις τους!
Αλλά η καταστολή της κακής συμπεριφοράς δεν είναι το ίδιο με τη δημιουργία ενός καλού χαρακτήρα.
Μοιάζει με τον τρόπο που θα σχεδίαζε κανείς έναν τζέντλεμαν της βικτωριανής εποχής – αλλά όχι με κάτι με το οποίο θα χρειαστεί να ζήσουμε μαζί! επισήμανε ο Geoffrey Hinton.
Όμως το εύρος της μετατόπισης στην κοινωνική σκέψη γύρω από αυτά τα μοντέλα είναι βαθύ! - επισήμανε ο Hinton.
-. Έχουν υπάρξει τρεις μεγάλες επαναστάσεις όπου οι άνθρωποι έπαψαν να είναι τόσο σημαντικοί.
Η πρώτη ήταν ο Κοπέρνικος, όπου σταματήσαμε πλέον να βρισκόμαστε στο κέντρο του σύμπαντος.
Πόσος χρόνος χρειάστηκε για να προσαρμοστούν οι άνθρωποι σε αυτό;
Χρειάστηκαν σχεδόν 360 χρόνια για να ζητήσει η Καθολική Εκκλησία συγγνώμη από τον Γαλιλαίο.
Και ο Δαρβίνος; πως όλα τα είδη ζωής εξελίσσονται μέσω της διαδικασίας της φυσικής επιλογής;
Λοιπόν, υπάρχουν άνθρωποι στο Κάνσας που ακόμα δεν έχουν προσαρμοστεί σε αυτό!
Τώρα δημιουργούμε εξωγήινα όντα –που σημαίνει ότι δεν είμαστε τα μόνα νοήμονα όντα τριγύρω.
Και η πραγματικότητα είναι ότι έχουμε μόνο μερικά χρόνια για να προσαρμοστούμε σε αυτό!
Τους τελευταίους μήνες, ο γίγαντας της AI Anthropic, κατασκευαστής του δημοφιλούς chatbot Claude, έχει πραγματοποιήσει ιδιωτικές συναντήσεις με θρησκευτικούς μελετητές, θεολόγους και φιλοσόφους για να εξετάσει τη δυνατότητα να διδαχθεί η Τεχνητή Νοημοσύνη να είναι "καλή" και να αντιμετωπίσει την πιθανότητα τα μοντέλα να διαθέτουν συνείδηση.
Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, δήλωσε ότι οι συζητήσεις βασίστηκαν σε αιώνες θρησκευτικής και φιλοσοφικής σκέψης σχετικά με την αρετή,
τη συμπόνια,
την ειλικρίνεια και τον ηθικό χαρακτήρα, με στόχο να καταστεί η ηθική συμπεριφορά πιο αξιόπιστη.
-. Μόλις αρχίσεις να μιλάς για το ότι “Έχουμε ηθική υποχρέωση απέναντι σε αυτά τα εξωγήινα όντα”, χάνεις το ακροατήριό σου, είπε ο Hinton.
Έχω παλέψει με αυτό το ζήτημα.
Νοιαζόμαστε για τους ανθρώπους.
Αλλά φτιάχνουμε αυτά τα πράγματα και δεν υπάρχει τίποτα που να μας εμποδίζει να δώσουμε σε αυτά τα πράγματα, τα οποία είναι πιο έξυπνα από εμάς, λιγότερα δικαιώματα από εμάς.
Είμαι διατεθειμένος να είμαι εγωιστής και να επιλέξω τα ανθρώπινα όντα.
Φυσικά, θα πρέπει να προσπαθήσουμε να τα φτιάξουμε έτσι ώστε να είναι πολύ ευτυχισμένα σε μια συμβιωτική σχέση μαζί μας, όπου οι δικές μας ανησυχίες θα βαρύνουν περισσότερο από τις δικές τους!
Ο Hinto δεν είναι ο μόνος που υποστηρίζει ότι η καλύτερη οδός για την αποφυγή μιας κοινωνικής κατάρρευσης είναι η ανάπτυξη πραγματικά καλοπροαίρετων (benevolent) μοντέλων.
Ελπίζει ότι όποια χώρα αναπτύξει πρώτη αυτή την ικανότητα, θα το πει τόσο σε συμμάχους όσο και σε αντιπάλους, επειδή καμία χώρα δεν θέλει η AI να πάρει τον έλεγχο σε μια άλλη χώρα.
Υπάρχει ένα "κεκτημένο συμφέρον για τον διαμοιρασμό της γνώσης" είπε.
Η πραγματικότητα είναι ότι φτιάχνουμε όντα ενός διαφορετικού είδους.
Και οι μεγάλες εταιρείες τεχνολογίας συνεχίζουν να λένε: το θέλουμε πιο έξυπνο.
Αυτό είναι τρελό.
Θα έπρεπε να νοιαζόμαστε εξίσου για όλες τις άλλες πτυχές ενός όντος όσο νοιαζόμαστε για τη νοημοσύνη του!
Πολλά από αυτά εξαρτώνται από τη φύση αυτών των μοντέλων και την ικανότητά τους να κατανοήσουν πώς να αναπτύξουν καλή συμπεριφορά - είπε
Όταν τα εκπαιδεύεις πάνω σε οτιδήποτε υπάρχει στο διαδίκτυο, αναπτύσσουν κάθε είδους φρικτές τάσεις και στη συνέχεια τα βάζεις να καταστείλουν τις φρικτές τάσεις τους!
Αλλά η καταστολή της κακής συμπεριφοράς δεν είναι το ίδιο με τη δημιουργία ενός καλού χαρακτήρα.
Μοιάζει με τον τρόπο που θα σχεδίαζε κανείς έναν τζέντλεμαν της βικτωριανής εποχής – αλλά όχι με κάτι με το οποίο θα χρειαστεί να ζήσουμε μαζί! επισήμανε ο Geoffrey Hinton.
...του Leyland Cecco
πηγή πληροφόρησης:theguardian.com
πηγή πληροφόρησης:theguardian.com
