Ακούγεται σαν κάτι επιστημονικής φαντασίας, αλλά πόσο πρέπει να ανησυχούμε για συστήματα τεχνητής νοημοσύνης που λειτουργούν με τόσο απαίσιο τρόπο και έχουν τη δυνατότητα να στραφούν εναντίον μας;
εικόνα: 123RF
(Σημείωση: Αυτό το podcast περιέχει spoiler ταινιών μήτρα Και το τελειωτής, καθώς και τον ελληνικό μύθο του βασιλιά Μίδα. Όλα αυτά είναι τουλάχιστον 20 ετών και το τελευταίο γράφτηκε πριν από σχεδόν 3.000 χρόνια, οπότε αν δεν τα έχετε πιάσει ακόμα, κατηγορείτε μόνο τον εαυτό σας).
Στην ταινία του 1999 μήτραΤοποθετημένο στο εγγύς μέλλον, η ανθρώπινη φυλή -ανησυχούμενη για την αυξημένη αίσθηση και τις πιθανές ανωμαλίες των μηχανών τεχνητής νοημοσύνης (AI) που δημιούργησε- παίρνει την απόφαση να κάψει τον ουρανό.
Πιστεύουν ότι χωρίς μια πηγή ενέργειας τόσο άφθονη όσο ο ήλιος, οι μηχανές – που εξαρτώνται από την ηλιακή ενέργεια – θα ήταν παράλυτες.
Το σχέδιό τους όμως απέτυχε.
«Το ανθρώπινο σώμα παράγει περισσότερη βιολογική ενέργεια από μια μπαταρία 120 volt και περισσότερα από 25.000 BTU από τη θερμότητα του σώματος», λέει ένας από τους κύριους χαρακτήρες της ταινίας, ο Lawrence Fishburne Morpheus, σε ένα ηχητικό σχόλιο.
«Σε συνδυασμό με κάποια μορφή σύντηξης, οι μηχανές βρήκαν όλη τη δύναμη που θα μπορούσαν ποτέ να χρειαστούν».
Αυτό, σύμφωνα με τον καθηγητή νομικής του Πανεπιστημίου του Οτάγκο, Κόλιν Τζαάγκαν, διευθυντή του Κέντρου για το δίκαιο και την πολιτική στις αναδυόμενες τεχνολογίες, συνοψίζει όμορφα την πραγματικότητα των συστημάτων τεχνητής νοημοσύνης.
«Ένα από τα πράγματα που καθορίζουν την τεχνητή νοημοσύνη είναι ότι βρίσκει τις δικές της καινοτόμες λύσεις στις προκλήσεις που της παρουσιάζουμε, στα προβλήματα που της παρουσιάζουμε», λέει.
υλικό επιστημονικής φαντασίας
Τα συστήματα Rogue AI μπορεί να ακούγονται σαν επιστημονική φαντασία, αλλά τέτοια συστήματα είναι ολοένα και πιο κοινά σε πολλά στοιχεία υψηλής τεχνολογίας της κοινωνίας, από αυτοοδηγούμενα αυτοκίνητα μέχρι ψηφιακούς βοηθούς, αναγνώριση προσώπου, προτάσεις Netflix και πολλά άλλα.
Οι δυνατότητες τεχνητής νοημοσύνης αυξάνονται με γρήγορους ρυθμούς. Ο ρυθμός είναι πέρα από τα ρυθμιστικά πλαίσια.
Καθώς τα συστήματα τεχνητής νοημοσύνης αναλαμβάνουν όλο και πιο περίπλοκα καθήκοντα και ευθύνες, θεωρητικοί και ερευνητές έχουν στρέψει το μυαλό τους στο ερώτημα του φιάσκου της τεχνητής νοημοσύνης: τι θα συμβεί αν δώσουμε σε ένα σύστημα τεχνητής νοημοσύνης πάρα πολλή ισχύ, πάρα πολλή ευθύνη και δεν το κάνει. δεν συμπεριφερόμαστε όπως περιμέναμε;
Οφέλη – και κίνδυνοι
Όταν ρωτήθηκε για τα πιθανά οφέλη των προηγμένων συστημάτων AI στο εγγύς μέλλον, η Javagan ήταν ενθουσιασμένη.
«Αν νομίζετε, για παράδειγμα, στον ιατρικό τομέα, είναι πλέον πολύ δύσκολο για τους κλινικούς γιατρούς να αντιμετωπίζουν τόσες πολλές συννοσηρότητες.
“Η προσπάθεια διαχείρισης όλων των αντενδείξεων και των παρενεργειών αυτών των πραγμάτων και του τρόπου με τον οποίο σχετίζονται μεταξύ τους… γίνεται πολύ περίπλοκη. Έτσι τα συστήματα που μπορούν να εξετάσουν μια σειρά διαφορετικών συνόλων δεδομένων και να βελτιώσουν τα αποτελέσματα μπορούν [would be beneficial]. “
Όμως, όπως λέει η Javagan, μέρος της συνιστώσας «έξυπνης» της τεχνητής νοημοσύνης είναι ότι αυτά τα συστήματα μαθαίνουν, βρίσκουν καινοτόμες λύσεις στα προβλήματα — και παρόλο που αυτό μπορεί να ακούγεται συναρπαστικό στη θεωρία, σίγουρα υπάρχουν κίνδυνοι.
Πάρτε, για παράδειγμα, την τεχνητή νοημοσύνη που έχει ως αποστολή τον μετριασμό ή την αναστροφή των επιπτώσεων της κλιματικής αλλαγής.
Ένα τέτοιο καθεστώς μπορεί να καταλήξει στο συμπέρασμα ότι η καλύτερη πορεία δράσης είναι η εξάλειψη της μοναδικής μεγαλύτερης αιτίας της υπερθέρμανσης του πλανήτη, των ανθρώπων.
«Μία από τις μεγάλες ανησυχίες σχετικά με τη γενική νοημοσύνη από αυτή την άποψη είναι ότι εάν δεν είμαστε πολύ προσεκτικοί σχετικά με τον τρόπο που κάνουμε ερωτήσεις, πώς κατανέμουμε τις εργασίες, θα βρούμε λύσεις σε εκείνες τις εργασίες που θα κάνουν κυριολεκτικά αυτό που τους είπαμε να κάνουν, αλλά απολύτως μην κάνουμε αυτό που θέλαμε ή αυτό που θέλαμε».
Ο Javajan περιγράφει αυτό το πρόβλημα ως το «πρόβλημα του βασιλιά Μίδα», αναφερόμενος στον θρύλο στον οποίο ο άπληστος Φρύγος βασιλιάς Μίδας εύχεται ό,τι αγγίζει να γίνει χρυσός, χωρίς να σκέφτεται τις μακροπρόθεσμες επιπτώσεις.
Το δίλημμα: εξεύρεση συμφωνίας
Η τεχνητή νοημοσύνη μπορεί να κάνει τη ζωή μας πολύ πιο εύκολη. Οι πιθανές εφαρμογές του είναι σχεδόν απεριόριστες. Το πιο σημαντικό, η έρευνα για την τεχνητή νοημοσύνη μπορεί να διεξαχθεί σε οποιαδήποτε χώρα, περιορισμένη μόνο από χρόνο, πόρους και τεχνογνωσία.
Αυτά τα αναμφισβήτητα οφέλη θα μπορούσαν επίσης να επιδεινωθούν: τα οπλικά συστήματα ελεγχόμενα από AI, τα αυτόνομα οχήματα ή ο πόλεμος δεν φαίνονται πολύ καλή εξέλιξη για την ανθρωπότητα.
Αλλά είναι δυνατό, και όπως συμβαίνει με τα πυρηνικά όπλα, αν πιστεύετε ότι οι γεωπολιτικοί σας αντίπαλοι μπορεί να αναπτύξουν αυτές τις ικανότητες, είναι εύκολο να δικαιολογήσετε την ανάπτυξή τους μόνοι σας.
Εδώ μπορούν να φανούν χρήσιμα οι παγκόσμιες συμφωνίες ή τα σύνορα: Οι χώρες σε όλο τον κόσμο ενώνονται, ξεκινούν διάλογο και συμφωνούν στα όρια της ανάπτυξης της τεχνητής νοημοσύνης, λέει ο Javajan.
Ορισμένοι ερευνητές έχουν προτείνει ότι η μελλοντική έρευνα AI θα πρέπει να καθοδηγείται από αξίες και ηθική, αντί να απαγορεύει ορισμένες δυνατότητες. Αλλά αυτό φέρνει μαζί του ένα νέο, εξίσου δύσκολο ερώτημα: Τι ακριβώς είναι οι ανθρώπινες αξίες;
Ο Javajan δίνει ένα παράδειγμα από μια έρευνα που διανεμήθηκε σε όλο τον κόσμο: οι συμμετέχοντες έλαβαν ένα σενάριο στο οποίο ένα αυτοοδηγούμενο αυτοκίνητο έπρεπε να αποφασίσει σε κλάσματα του δευτερολέπτου εάν θα συνεχίσει στην προγραμματισμένη πορεία του και αν θα προσκρούσει σε ένα επερχόμενο φορτηγό υλοτόμησης προς την αντίθετη κατεύθυνση. Η κατεύθυνση ή η στροφή, σώζει τον οδηγό, αλλά εμπλακεί σε μια ομάδα ποδηλατών.
«Κάποιοι είπαν ότι πρέπει να σώσετε τους ανθρώπους στο αυτοκίνητο. Κάποιοι είπαν ότι πρέπει να μεγιστοποιήσετε τον αριθμό των ζωών που σώθηκαν. Κάποιοι είπαν ότι πρέπει να δώσετε προτεραιότητα στις ζωές των παιδιών έναντι των ηλικιωμένων.
Στη Γαλλία, ήθελαν να δώσουν προτεραιότητα στις ζωές ελκυστικών, όμορφων ανθρώπων έναντι άλλων ανθρώπων!
“Λοιπόν, σίγουρα: Ποιες είναι οι ανθρώπινες αξίες; Οι αξίες των μεγιστάνων της τεχνολογίας της Silicon Valley;”
Ο Javajan λέει ότι το μέλλον της τεχνητής νοημοσύνης είναι ένας τομέας όπου η φιλοσοφία, η τεχνολογία και η νομοθεσία διασταυρώνονται, το καθένα εξίσου σημαντικό με το άλλο – και ενώ υπάρχουν ακόμα πολλά άγνωστα, το γεγονός ότι είναι ένα θέμα που συζητείται ευρύτερα είναι θετικό.
«Είναι μια συζήτηση που θα πρέπει να διευρυνθεί… μεγάλο μέρος αυτής της τεχνολογίας είναι εδώ μαζί μας αυτή τη στιγμή».
Μάθετε πώς να ακούτε και να εγγραφείτε Οι λεπτομέριες εδώ πέρα.
Μπορείτε επίσης να ενημερώνεστε κάνοντας μας like Facebook ή ακολουθήστε μας Κελάδημα.
εικόνα:
“Φανταστική τηλεόραση. Αναγνώστης. Φιλικός επίλυσης προβλημάτων Hipster. Πρόβλημα προβλημάτων. Εξαιρετικά ταπεινός διοργανωτής.”