Ένας από τους δημιουργούς του ChatGPT έχει προστεθεί σε μια αυξανόμενη ομάδα ερευνητών που προειδοποιούν για τις δυνητικά καταστροφικές συνέπειες της ανάπτυξης της τεχνητής νοημοσύνης.
Ο πρώην εργαζόμενος στο OpenAI Paul Christiano, ο οποίος τώρα διευθύνει το μη κερδοσκοπικό ερευνητικό κέντρο Alignment Research Center για την τεχνητή νοημοσύνη, δήλωσε ότι πιστεύει ότι υπάρχει σημαντική πιθανότητα η τεχνολογία να οδηγήσει στην καταστροφή της ανθρωπότητας.
Ο κύριος κίνδυνος, υποστήριξε, θα έρθει όταν τα συστήματα τεχνητής νοημοσύνης φτάσουν και ξεπεράσουν τη γνωστική ικανότητα ενός ανθρώπου. Ο Δρ Κριστιάνο προβλέπει ότι υπάρχει “50/50 πιθανότητα καταστροφής” όταν φτάσει αυτή η στιγμή.
Τείνω να φαντάζομαι κάτι σαν τη μετάβαση ενός έτους από τα συστήματα τεχνητής νοημοσύνης που είναι μια αρκετά μεγάλη υπόθεση, σε ένα είδος επιταχυνόμενης αλλαγής, ακολουθούμενη από περαιτέρω επιτάχυνση κ.λπ.
, δήλωσε στο podcast Bankless.
Νομίζω ότι μόλις έχετε αυτή την άποψη, τότε πολλά πράγματα μπορεί να μοιάζουν με προβλήματα AI, επειδή συμβαίνουν πολύ σύντομα μετά την κατασκευή AI
.
Πρόσθεσε ακόμα: “Ο πιο πιθανός τρόπος με τον οποίο θα πεθάνουμε περιλαμβάνει όχι την τεχνητή νοημοσύνη που έρχεται από το πουθενά και σκοτώνει τους πάντες, αλλά περιλαμβάνει την ανάπτυξη μεγάλης τεχνητής νοημοσύνης παντού… [Και] αν για κάποιο λόγο, Θεός φυλάξοι, όλα αυτά τα συστήματα τεχνητής νοημοσύνης προσπαθούσαν να μας σκοτώσουν, σίγουρα θα μας σκότωναν”.
Τα σχόλιά του έρχονται εν μέσω αυξημένων ανησυχιών σχετικά με την ταχεία πρόοδο της τεχνητής νοημοσύνης τους τελευταίους μήνες, με τον αποκαλούμενο νονό της τεχνητής νοημοσύνης Geoffrey Hinton να εγκαταλείπει την Google και να κρούει τον κώδωνα του κινδύνου για τους κινδύνους της τεχνητής νοημοσύνης.
Μιλώντας στους New York Times, δήλωσε ότι μετανιώνει για το έργο που είχε συνεισφέρει στον τομέα λόγω του απρόβλεπτου μέλλοντος που αντιμετωπίζουμε πλέον.
“Λίγοι άνθρωποι πίστευαν στην ιδέα ότι αυτό το πράγμα θα μπορούσε πραγματικά να γίνει πιο έξυπνο από τους ανθρώπους, αλλά οι περισσότεροι πίστευαν ότι ήταν πολύ μακριά. Και εγώ πίστευα ότι ήταν πολύ μακριά. Πίστευα ότι ήταν 30-50 χρόνια ή και περισσότερο μακριά. Προφανώς δεν το πιστεύω πλέον αυτό”, είπε.
“Δεν νομίζω ότι πρέπει να το επεκτείνουν περισσότερο μέχρι να καταλάβουν αν μπορούν να το ελέγξουν”.
Η στάση του επαινέθηκε από άλλους ερευνητές, με την Catherine Olsson του AnthropicAI να λέει ότι μπορεί να ενθαρρύνει και άλλους στον τομέα να μιλήσουν.
Όπως καταλαβαίνουμε λοιπόν από την συνέντευξη του Cristiano και από την παραίτηση του Geoffrey Hinton… τα πράγματα εξελίσσονται πολύ γρήγορα και θα δεν θα έχουν αίσιο τέλος.
