Ο Ryzen 79% ταχύτερος από τον Meteor Lake της Intel στα benchmarks τεχνητής νοημοσύνης σύμφωνα με την AMD

Σε μια πρόσφατη αποκάλυψη στο Tom's Hardware, η AMD γνωστοποίησε μερικές συναρπαστικές πληροφορίες σχετικά με τις "επιδόσεις της τεχνητής νοημοσύνης για τελικούς χρήστες", παρουσιάζοντας μια αναμέτρηση μεταξύ του AMD Ryzen 7 7840U (15W) και του Core Ultra 7 155H (28W) της Intel. Τα αποτελέσματα των δοκιμών , οι οποίες χρησιμοποίησαν τα μοντέλα Llama 2 και Mistral Instruct 7B, είναι αρκετά εντυπωσιακά. Η λύση της AMD όχι μόνο ξεπέρασε τον ανταγωνιστή της, αλλά το έκανε καταναλώνοντας λιγότερη ενέργεια και πωλείται σε πιο προσιτή τιμή. Αυτά τα ευρήματα υπογραμμίζουν την κυριαρχία της AMD στην τοπική επεξεργαστική ισχύ της ΤΝ, αφήνοντας την Intel πολύ πίσω.

Για τις συγκριτικές δοκιμές, η AMD χρησιμοποίησε το LM Studio και στους δύο ανταγωνιστικούς φορητούς υπολογιστές, μια διαδικασία που η εταιρεία ισχυρίζεται ότι χρειάζεται μόνο λίγα λεπτά για να ρυθμιστεί. Μόλις εγκατασταθεί, το LM Studio επιτρέπει την εκτέλεση διαφόρων μεγάλων γλωσσικών μοντέλων (LLM) τοπικά, εξασφαλίζοντας μέγιστη ιδιωτικότητα, χρήση χωρίς συνδρομή και ανεξαρτησία από σύνδεση στο διαδίκτυο. Εργασίες όπως η συγγραφή ιστοριών, η δημιουργία demo της Unity με μπάλες που αναπηδούν και η δημιουργία ποιημάτων εκτελέστηκαν χρησιμοποιώντας τα μοντέλα Llama 2 και Mistral Instruct 7B, επιδεικνύοντας την ικανότητα της AMD σε ποικίλες δραστηριότητες που σχετίζονται με την τεχνητή νοημοσύνη.

Οι μετρήσεις επιδόσεων που ανέδειξε η AMD ρίχνουν φως στις δυνατότητες του Ryzen, όπως ο "χρόνος μέχρι το πρώτο token" και τα "tokens ανά δευτερόλεπτο". Αυτές οι μετρήσεις παρέχουν πληροφορίες σχετικά με την αποτελεσματικότητα και την ταχύτητα των αποκρίσεων LLM, υπογραμμίζοντας περαιτέρω την υπεροχή της AMD στην επεξεργασία AI. Η AMD αποδίδει την επιτυχία της στην αξιοποίηση τριών τύπων πυρήνων - NPU, GPU RDNA 3 και CPU Zen 4, με ιδιαίτερη έμφαση στα χαρακτηριστικά επιτάχυνσης AVX512 και VNNI που είναι ενσωματωμένα στους πυρήνες CPU Zen 4.

Υπό το πρίσμα αυτών των αποκαλύψεων, η AMD δημοσίευσε επίσης ένα blog που περιγράφει λεπτομερώς πώς να αξιοποιήσετε το LM Studio και τα διάφορα LLM σε τοπικά μηχανήματα, απευθυνόμενη σε χρήστες με AMD Ryzen AI PCs ή σε όσους είναι εξοπλισμένοι με Radeon RX 7000 ή νεότερες GPU. Εν τω μεταξύ, η Intel φαίνεται να ετοιμάζεται για μια απάντηση, αναγνωρίζοντας τις ελλείψεις των επιδόσεων AI της οικογένειας Meteor Lake και πειράζοντας επερχόμενους επεξεργαστές όπως οι Arrow Lake και Lunar Lake, οι οποίοι υπόσχονται τριπλάσιες επιδόσεις AI για εργασίες GPU και NPU. Οι επεξεργαστές επόμενης γενιάς της Intel αναμένεται να κυκλοφορήσουν στην αγορά αργότερα φέτος, θέτοντας τις βάσεις για μια πιθανή αναζωπύρωση της αντιπαλότητας AMD vs. Intel.