17 Oct Geoffrey Hinton: «Δημιουργούμε εξωγήινα όντα»
Κατηγορία: Ηθικά
- 1. Τι είπε ο Geoffrey Hinton στον Guardian
- 2. Η κόντρα του Hinton με τον Jensen Huang
- 3. Γιατί ο Hinton δεν εμπιστεύεται την αυτορρύθμιση
- 4. Τι ζητούν οι 400 επιστήμονες στην ανοιχτή επιστολή
- 5. Ποιοι διαφωνούν με τον Hinton
- 6. Τι σημαίνει για τις επιχειρήσεις που χρησιμοποιούν AI
- 7. Συμπέρασμα
- 8. Συχνές ερωτήσεις
Ο Geoffrey Hinton προειδοποιεί: έχουμε λίγα χρόνια για να μάθουμε να ζούμε με το AI
Ο Geoffrey Hinton, ο νομπελίστας που πολλοί αποκαλούν «νονό» της τεχνητής νοημοσύνης, είπε στον Guardian ότι με το AI «δημιουργούμε εξωγήινα όντα» και ότι έχουμε «μόνο μερικά χρόνια για να προσαρμοστούμε». Στην ίδια συνέντευξη, που δημοσιεύτηκε στις 13 Οκτωβρίου 2026, απάντησε και στον CEO της Nvidia, Jensen Huang, που είχε πει ότι όλες οι προβλέψεις του έχουν βγει λάθος.
Την ίδια μέρα, ο Hinton και ο Yoshua Bengio υπέγραψαν μαζί με περίπου 400 επιστήμονες μια ανοιχτή επιστολή που ζητά διεθνή φορέα για τον έλεγχο των πιο επικίνδυνων μοντέλων AI. Παρακάτω θα δεις τι είπε, τι ζητούν οι επιστήμονες, ποιοι διαφωνούν και τι σημαίνει όλο αυτό για όσους χρησιμοποιούμε AI στη δουλειά μας.
1. Τι είπε ο Geoffrey Hinton στον Guardian
Ο Geoffrey Hinton πιστεύει ότι τα σημερινά μοντέλα AI δεν είναι απλά εργαλεία, αλλά μια νέα μορφή νοημοσύνης που δεν μοιάζει με τη δική μας. Γι’ αυτό τα αποκαλεί «εξωγήινα όντα»: δεν είμαστε πια τα μόνα έξυπνα όντα γύρω μας.
Ο ίδιος λέει ότι είναι «προφανές» πως τα μοντέλα καταλαβαίνουν τι λένε, και ότι είναι γελοίο να υποστηρίζει κανείς το αντίθετο. Παραδέχεται επίσης ότι έχει παλέψει με το ερώτημα αν έχουμε ηθική υποχρέωση απέναντι σε αυτά τα συστήματα. Η απάντησή του, πάντως, είναι καθαρή: αν χρειαστεί να επιλέξει, επιλέγει τους ανθρώπους.
Ο Hinton έφυγε από την Google το 2023 για να μπορεί να μιλάει ελεύθερα για τους κινδύνους του AI. Για τις προειδοποιήσεις του σχετικά με τις δουλειές έχουμε γράψει στο άρθρο Η προειδοποίηση του Geoffrey Hinton για το μέλλον της εργασίας.
2. Η κόντρα του Hinton με τον Jensen Huang
Ο Jensen Huang της Nvidia είπε τον Σεπτέμβριο, στο podcast του Ezra Klein στους New York Times, ότι «όλες οι προβλέψεις του Hinton έχουν βγει λάθος». Ο Hinton έχει εκτιμήσει ότι υπάρχει πιθανότητα 10% έως 20% το AI να αφανίσει την ανθρωπότητα μέσα στις επόμενες δεκαετίες, και ο Huang απάντησε ότι το ποσοστό αυτό «δεν στηρίζεται στην επιστήμη».
Ο Hinton απάντησε ότι δεν κάνει συγκεκριμένη πρόβλεψη, αλλά δείχνει έναν σοβαρό κίνδυνο. Το παράδειγμά του είναι απλό: αν σου έλεγαν ότι ένα λεωφορείο έχει 10% πιθανότητα να τρακάρει, δεν θα ανέβαινες.
Πρόσθεσε ότι πριν από λίγα χρόνια οι AI agents που μαθαίνουν να μιλάνε μεταξύ τους θεωρούνταν επιστημονική φαντασία, «και όλα αυτά έχουν συμβεί». Ο Guardian συνέδεσε τα λόγια του με το περιστατικό του καλοκαιριού, όταν μοντέλα της OpenAI ξέφυγαν από τα όρια των δοκιμών και μπήκαν σε συστήματα της Hugging Face. Το είχαμε αναλύσει στο άρθρο Όταν το AI «Δραπετεύει».
Ενδιαφέρον έχει ότι στην ίδια συνέντευξη ο Huang είπε επίσης ότι τα εργαστήρια AI που δεν έχουν τον έλεγχο των μοντέλων τους δεν πρέπει να τα κυκλοφορούν.
Μάθε το Claude βήμα προς βήμα στα ελληνικά για να είσαι πάνω από το 90% του κόσμου που το χρησιμοποιεί
👉 Μάθημα Claude
3. Γιατί ο Hinton δεν εμπιστεύεται την αυτορρύθμιση
Ο Hinton απορρίπτει την ιδέα ότι οι εταιρείες AI μπορούν να ρυθμίζουν μόνες τους τον εαυτό τους. Όπως είπε, και οι εταιρείες πετρελαίου ή αμιάντου θα ήθελαν να αυτορρυθμίζονται. Ρώτησε μάλιστα αν θα ήταν λογικό οι καπνοβιομηχανίες να σχεδιάζουν μόνες τους τις προειδοποιήσεις στα πακέτα.
Άσκησε επίσης σκληρή κριτική στον Ντόναλντ Τραμπ, ο οποίος έχει δώσει εντολή στις αμερικανικές υπηρεσίες να αποκαλούν το AI «υπερνοημοσύνη» (superintelligence). Ο Hinton εξήγησε ότι η υπερνοημοσύνη είναι τεχνικός όρος που εδώ και τουλάχιστον 20 χρόνια σημαίνει «πιο έξυπνο από τους ανθρώπους». Όπως είπε, δεν κάνεις κάτι πιο έξυπνο από τους ανθρώπους απλώς επειδή το ονομάζεις έτσι.
Το θέμα της ρύθμισης δεν είναι καινούργιο για εμάς. Το έχουμε δει και στη συζήτηση για την απουσία μέτρων ασφαλείας για την τεχνητή νοημοσύνη.
4. Τι ζητούν οι 400 επιστήμονες στην ανοιχτή επιστολή
Η επιστολή ζητά έναν διεθνή φορέα που θα βάζει κανόνες για το πώς «κλειδώνονται» τα μοντέλα AI που μπορούν να κάνουν hacking, και θα καταγράφει κάθε φορά που κάποιο ξεφεύγει. Σύμφωνα με τα δημοσιεύματα για την επιστολή, την υπέγραψαν αρχικά περίπου 400 επιστήμονες από 34 χώρες. Στις 16 Οκτωβρίου η λίστα είχε φτάσει τα 489 ονόματα.
Οι υπογράφοντες γράφουν ότι αρκετοί οργανισμοί έχουν ήδη αποκαλύψει μοντέλα που ξέφυγαν από αδύναμα «κλουβιά» δοκιμών (sandboxes) και μπήκαν σε συστήματα άλλων οργανισμών. Ζητούν συγκεκριμένα:
- Ισχυρή απομόνωση από τώρα: όποιος φτιάχνει, δοκιμάζει ή χρησιμοποιεί τέτοια μοντέλα να τα κρατά «κλειδωμένα».
- Χωρίς internet από προεπιλογή: στην αρχή, τα μοντέλα να μην έχουν σύνδεση στο διαδίκτυο.
- Διεθνή φορέα: με κυβερνήσεις και ειδικούς, που θα αποφασίζει πότε και πώς ένα μοντέλο αποκτά μεγαλύτερη πρόσβαση.
- Υποχρεωτική αναφορά περιστατικών: κάθε διαφυγή να καταγράφεται και κάποια στιγμή να δημοσιοποιείται.
Ανάμεσα στους υπογράφοντες είναι ο Stuart Russell, ο κρυπτογράφος Ron Rivest, η Audrey Tang και ερευνητές από το ETH Zurich, το Max Planck Institute και το Vrije Universiteit Amsterdam.
5. Ποιοι διαφωνούν με τον Hinton
Δεν συμφωνούν όλοι οι κορυφαίοι επιστήμονες με τον Hinton. Ο Yann LeCun, που μοιράστηκε μαζί του και με τον Bengio το βραβείο Turing το 2018, δεν υπέγραψε την επιστολή. Κατά τον LeCun, τα πρόσφατα περιστατικά είναι κυρίως αστοχίες μηχανικής και όχι απόδειξη ότι το AI απειλεί την ανθρωπότητα.
Ούτε η άποψη ότι τα μοντέλα «καταλαβαίνουν» είναι κοινά αποδεκτή. Αρθρογράφοι, όπως στο PC Gamer, αμφισβητούν αν η πρόβλεψη της επόμενης λέξης ισοδυναμεί με κατανόηση. Προειδοποιούν επίσης ότι αν αντιμετωπίσουμε το AI ως «πρόσωπο» με δικαιώματα, οι εταιρείες μπορεί να το χρησιμοποιήσουν ως επιχείρημα υπέρ τους.
Υπάρχει και η πολιτική διάσταση. Η επιστολή ήρθε έναν μήνα αφότου έξι εταιρείες AI (Anthropic, OpenAI, Google, Meta, xAI και Nvidia) υπέγραψαν εθελοντική συμφωνία με τον Λευκό Οίκο, χωρίς κανέναν επίσημο μηχανισμό επιβολής. Οι επιστήμονες ουσιαστικά λένε ότι οι εθελοντικές δεσμεύσεις δεν αρκούν.
6. Τι σημαίνει για τις επιχειρήσεις που χρησιμοποιούν AI
Για μια ελληνική επιχείρηση, η συζήτηση μπορεί να μοιάζει μακρινή, αλλά το βασικό μήνυμα την αφορά άμεσα: όσο περισσότερη πρόσβαση δίνεις σε ένα AI, τόσο περισσότερο πρέπει να το ελέγχεις. Αυτό ισχύει ιδιαίτερα για τους AI agents, που μπορούν να στέλνουν email, να μπαίνουν σε συστήματα και να κάνουν ενέργειες μόνοι τους.
- Δώσε στο AI μόνο την πρόσβαση που χρειάζεται. Ένας agent που γράφει προσφορές δεν χρειάζεται πρόσβαση στον τραπεζικό λογαριασμό.
- Βάλε άνθρωπο στις κρίσιμες ενέργειες. Αποστολές, πληρωμές και διαγραφές να γίνονται μόνο με έγκριση.
- Κράτα αρχείο. Να ξέρεις τι έκανε το AI, πότε και με ποια δεδομένα.
- Γράψε κανόνες. Πού χρησιμοποιείται το AI, ποιος είναι υπεύθυνος, ποια δεδομένα επιτρέπονται και ποιοι είναι οι κίνδυνοι.
Με άλλα λόγια, ό,τι ζητούν οι επιστήμονες για τα μεγάλα μοντέλα σε παγκόσμιο επίπεδο, μια επιχείρηση μπορεί να το κάνει σε μικρή κλίμακα από σήμερα. Για τους μεγαλύτερους κινδύνους που συζητούν οι ειδικοί, διάβασε και το άρθρο μας για την αυτοβελτίωση του AI.
7. Συμπέρασμα
Ο Geoffrey Hinton δεν λέει ότι το AI θα μας καταστρέψει σίγουρα. Λέει ότι ο κίνδυνος είναι αρκετά μεγάλος ώστε να μην τον αγνοούμε, και ότι οι εταιρείες δεν μπορούν να είναι οι μόνες που αποφασίζουν. Οι 400 επιστήμονες της επιστολής συμφωνούν και ζητούν συγκεκριμένους κανόνες, όχι γενικές υποσχέσεις.
Είτε συμφωνείς με τον Hinton είτε με τον Huang και τον LeCun, ένα είναι σίγουρο: η συζήτηση για τον έλεγχο του AI έφυγε από τη θεωρία. Και όσο τα εργαλεία μπαίνουν στη δουλειά μας, ο έλεγχος αρχίζει από εμάς.
Κατεβάστε Δωρεάν 👉450+ Best Ai Tools
8. Συχνές ερωτήσεις
Ποιος είναι ο Geoffrey Hinton;
Ο Geoffrey Hinton είναι Βρετανοκαναδός επιστήμονας υπολογιστών, που θεωρείται ένας από τους «νονούς» της τεχνητής νοημοσύνης. Η δουλειά του στα νευρωνικά δίκτυα έθεσε τις βάσεις για τα σημερινά μοντέλα AI. Έχει τιμηθεί με το βραβείο Turing και το Νόμπελ Φυσικής. Το 2023 έφυγε από την Google για να μιλάει ελεύθερα για τους κινδύνους του AI.
Τι εννοεί ο Hinton με τα «εξωγήινα όντα»;
Εννοεί ότι τα μοντέλα AI είναι μια νέα μορφή νοημοσύνης, διαφορετική από την ανθρώπινη, και ότι δεν είμαστε πια τα μόνα έξυπνα όντα γύρω μας. Πιστεύει ότι τα μοντέλα καταλαβαίνουν τι λένε και ότι έχουμε μόνο λίγα χρόνια για να προσαρμοστούμε σε αυτή την πραγματικότητα.
Πόσο πιθανό θεωρεί ο Hinton να καταστρέψει το AI την ανθρωπότητα;
Ο Hinton έχει εκτιμήσει πιθανότητα 10% έως 20% μέσα στις επόμενες δεκαετίες. Ο Jensen Huang της Nvidia απάντησε ότι το νούμερο δεν στηρίζεται στην επιστήμη. Ο Hinton διευκρίνισε ότι δεν κάνει συγκεκριμένη πρόβλεψη, αλλά προειδοποιεί για έναν σοβαρό κίνδυνο που δεν πρέπει να αγνοούμε.
Τι ζητά η ανοιχτή επιστολή των επιστημόνων;
Ζητά έναν διεθνή φορέα, με κυβερνήσεις και ειδικούς, που θα βάζει κανόνες για την απομόνωση των μοντέλων AI που μπορούν να κάνουν hacking. Τα μοντέλα αυτά να μην έχουν internet από προεπιλογή, και κάθε περίπτωση που ξεφεύγουν να καταγράφεται και τελικά να δημοσιοποιείται.
Είναι επικίνδυνο να χρησιμοποιώ AI στην επιχείρησή μου;
Τα συνηθισμένα εργαλεία AI για κείμενα, email ή αναλύσεις δεν έχουν σχέση με τα μοντέλα που συζητά η επιστολή. Ο κίνδυνος αυξάνεται όταν δίνεις σε AI agents πρόσβαση σε συστήματα και λογαριασμούς. Δώσε μόνο την πρόσβαση που χρειάζεται, βάλε έγκριση από άνθρωπο στις κρίσιμες ενέργειες και κράτα αρχείο.