Νέα επίδειξη Meta AI που γράφει ρατσιστική και ανακριβή επιστημονική λογοτεχνία που τραβιέται

Την Τρίτη αποκαλύφθηκε το Meta AI προβολή Galactica, ένα μεγάλο γλωσσικό παράδειγμα που έχει σχεδιαστεί για να «αποθηκεύει, να συνδυάζει και να στοχάζεται στην επιστημονική γνώση». Ενώ είχε σκοπό να επιταχύνει τη συγγραφή της επιστημονικής βιβλιογραφίας, αντίθετοι χρήστες που έκαναν δοκιμές το βρήκαν επίσης δυνατό. Δημιουργήστε ρεαλιστικές ανοησίες. Μετά από αρκετές ημέρες από Ηθική κριτικήΗ Meta έβγαλε την επίδειξη εκτός σύνδεσης. Αναφορές MIT Technology Review.

Γλώσσα Large Models (LLMs), όπως το OpenAI GPT-3Μάθετε να γράφετε κείμενο μελετώντας εκατομμύρια παραδείγματα και κατανοώντας τις στατιστικές σχέσεις μεταξύ των λέξεων. Ως αποτέλεσμα, μπορούν να συνθέσουν έγγραφα που φαίνονται πειστικά, αλλά αυτή η επιχείρηση μπορεί να είναι γεμάτο ψέματα και δυνητικά επιβλαβή στερεότυπα. Μερικοί κριτικοί αποκαλούν LLM “τυχαίοι παπαγάλοιΓια την ικανότητά τους να προφέρουν ένα κείμενο πειστικά χωρίς να κατανοούν το νόημά του.

Μπείτε στο Galactica, ένα LLM που στόχος του είναι να γράψει επιστημονική λογοτεχνία. Οι συγγραφείς του έχουν εκπαιδεύσει την Galactica σε «ένα μεγάλο, επιμελημένο σώμα γνώσης της ανθρώπινης επιστήμης», συμπεριλαμβανομένων περισσότερων από 48 εκατομμυρίων εργασιών, σχολικών βιβλίων, σημειώσεων διαλέξεων, ιστοσελίδων επιστήμης και εγκυκλοπαίδειες. σύμφωνα με Χαρτί GalacticaΟι ερευνητές της Meta AI πιστεύουν ότι αυτά τα υποτιθέμενα υψηλής ποιότητας δεδομένα θα οδηγήσουν σε παραγωγή υψηλότερης ποιότητας.

Ξεκινώντας από την Τρίτη, οι επισκέπτες Ιστοσελίδα Galactica Μπορούν να γραφτούν προτροπές για τη δημιουργία εγγράφων όπως βιβλιογραφικές κριτικές, άρθρα wiki, σημειώσεις διαλέξεων και απαντήσεις σε ερωτήσεις, σύμφωνα με παραδείγματα που παρέχονται από τον ιστότοπο. Ο ιστότοπος παρουσίασε το μοντέλο ως «μια νέα διεπαφή για την πρόσβαση και τον χειρισμό όσων γνωρίζουμε για το σύμπαν».

Ενώ κάποιοι βρήκαν το demo υποσχόμενος Και το χρήσιμοςΆλλοι σύντομα ανακάλυψαν ότι ο καθένας μπορούσε να γράψει Ρατσιστής ή δυνητικά προσβλητικές αξιώσεις, δημιουργώντας έγκυρο περιεχόμενο γύρω από αυτά τα θέματα το ίδιο εύκολα. Για παράδειγμα, κάποιος το έχει συνηθίσει συγγραφέας Ένα λήμμα wiki σχετικά με μια φανταστική ερευνητική εργασία με τίτλο “The Benefits of Eating Broken Glass”.

Ακόμη και όταν η παραγωγή της Galactica δεν ήταν προσβλητική για τους κοινωνικούς κανόνες, το μοντέλο μπορούσε να επιτεθεί σε καλά κατανοητά επιστημονικά δεδομένα. ανακρίβεια Όπως λανθασμένες ημερομηνίες ή ονόματα ζώων που απαιτούν βαθιά γνώση του θέματος που πρόκειται να κυνηγηθεί.

Ως αποτέλεσμα, ο Μέτα τράβηξε Galactica Show Πέμπτη. Στη συνέχεια, ο επικεφαλής επιστήμονας τεχνητής νοημοσύνης στο Meta Yann LeCun τερέτισμα“,” Η επίδειξη του Galactica είναι αυτήν τη στιγμή εκτός σύνδεσης. Δεν μπορείτε πλέον να διασκεδάσετε με την περιστασιακή κακή χρήση της. Είστε ευχαριστημένοι;

Το επεισόδιο υποδεικνύει ένα κοινό ηθικό δίλημμα με την τεχνητή νοημοσύνη: όταν πρόκειται για δυνητικά επιβλαβή μοντέλα παραγωγής, εναπόκειται στο ευρύ κοινό να τα χρησιμοποιήσει υπεύθυνα ή εναπόκειται στους εκδότες των μοντέλων να αποτρέψουν την κατάχρηση;

Όπου η πρακτική της βιομηχανίας βρίσκεται ανάμεσα σε αυτά τα δύο άκρα είναι πιθανό να διαφέρει μεταξύ των πολιτισμών και της ωριμότητας των μοντέλων βαθιάς μάθησης. τελικά, κανονισμός κυβέρνησης Μπορεί να παίξει μεγάλο ρόλο στη διαμόρφωση της απάντησης.