Πριν από το ντεμπούτο του iOS 18 στο WWDC τον Ιούνιο, η Apple κυκλοφόρησε ένα σύνολο μεγάλων μοντέλων γλώσσας ανοιχτού κώδικα. Η Apple περιγράφει αυτά τα στοιχεία, τα οποία ονομάζει OpenELM, ως εξής: Μια οικογένεια από Ανοίγει-πηγή Hαποδοτικότητα προς τηνΓλώσσα ΜOdels.
Στις δοκιμές της, η Apple λέει ότι το OpenELM προσφέρει παρόμοια απόδοση με άλλα μοντέλα ανοιχτής γλώσσας, αλλά με λιγότερα δεδομένα εκπαίδευσης.
Η Apple εξηγεί:
Για το σκοπό αυτό, κυκλοφορήσαμε το OpenELM, ένα εξελισσόμενο μοντέλο ανοιχτής γλώσσας. Το OpenELM χρησιμοποιεί μια στρατηγική κλιμάκωσης επιπέδων για την αποτελεσματική κατανομή παραμέτρων σε κάθε επίπεδο του μοντέλου μετασχηματιστή, με αποτέλεσμα βελτιωμένη ακρίβεια. Για παράδειγμα, με προϋπολογισμό παραμέτρων περίπου 1 δισεκατομμύριο παραμέτρους, το OpenELM παρουσιάζει βελτίωση 2,36% στην ακρίβεια σε σχέση με το OLMo ενώ απαιτεί 2 φορές λιγότερα κουπόνια προ-εκπαίδευσης.
Ξεφεύγοντας από προηγούμενες πρακτικές παροχής μόνο βαρών μοντέλων και κώδικα συμπερασμάτων και προεκπαίδευσης σε ιδιωτικά σύνολα δεδομένων, η έκδοσή μας περιλαμβάνει το πλήρες πλαίσιο εκπαίδευσης και αξιολόγησης του μοντέλου γλώσσας σε δημόσια διαθέσιμα σύνολα δεδομένων, συμπεριλαμβανομένων αρχείων καταγραφής εκπαίδευσης, πολλαπλών σημείων ελέγχου και προ- σημεία. Διαμορφώσεις εκπαίδευσης. Κυκλοφορούμε επίσης κώδικα για τη μετατροπή μοντέλων στη βιβλιοθήκη MLX για εξαγωγή συμπερασμάτων και τελειοποίηση σε συσκευές Apple. Αυτή η ολοκληρωμένη έκδοση στοχεύει να ενδυναμώσει και να ενισχύσει την ανοιχτή ερευνητική κοινότητα, ανοίγοντας το δρόμο για μελλοντικές ανοιχτές ερευνητικές προσπάθειες.
Μπορείτε να βρείτε περισσότερες λεπτομέρειες στους παρακάτω συνδέσμους:
Το iOS 18 θα περιλαμβάνει μια σειρά από νέες δυνατότητες τεχνητής νοημοσύνης και η σημερινή κυκλοφορία του OpenELM είναι απλώς το τελευταίο κομμάτι της δουλειάς της Apple στα παρασκήνια.
Bloomberg Την περασμένη εβδομάδα ανέφερα ότι οι δυνατότητες τεχνητής νοημοσύνης του iOS 18 θα τροφοδοτούνται από ένα μεγάλο μοντέλο γλώσσας εξ ολοκλήρου στη συσκευή, το οποίο θα παρέχει οφέλη απορρήτου και ταχύτητας.
Ακολουθήστε την ευκαιρία: Νήματα, Κελάδημα, ΊνσταγκραμΚαι Μαστόδοντας.