Η νέα υπηρεσία AWS επιτρέπει σε πελάτες να νοικιάζουν GPUs της Nvidia με τη μέρα

Όλο και περισσότερες εταιρείες εκτελούν μεγάλα γλωσσικά μοντέλα, τα οποία απαιτούν πρόσβαση σε GPU. Οι πιο δημοφιλείς από αυτές είναι μακράν της Nvidia, γεγονός που τις καθιστά ακριβές και συχνά σε έλλειψη. Η ενοικίαση μιας μακροχρόνιας περίπτωσης από έναν πάροχο cloud, όταν χρειάζεστε πρόσβαση σε αυτούς τους δαπανηρούς πόρους μόνο για μια και μόνο εργασία, δεν έχει απαραίτητα νόημα.

Για να βοηθήσει στην επίλυση αυτού του προβλήματος, η AWS εγκαινίασε σήμερα το Amazon Elastic Compute Cloud (EC2) Capacity Blocks for ML, επιτρέποντας στους πελάτες να αγοράσουν πρόσβαση σε αυτές τις GPU για ένα καθορισμένο χρονικό διάστημα, συνήθως για να εκτελέσουν κάποιο είδος εργασίας που σχετίζεται με την τεχνητή νοημοσύνη, όπως η εκπαίδευση ενός μοντέλου μηχανικής μάθησης ή η εκτέλεση ενός πειράματος με ένα υπάρχον μοντέλο.

έγραψε ο Channy Yun σε ένα blog post που ανακοίνωσε τη νέα λειτουργία.

Το προϊόν παρέχει στους πελάτες πρόσβαση σε instances GPUs Nvidia H100 Tensor Core σε μεγέθη cluster από ένα έως 64 instances με 8 GPUs ανά instance. Μπορούν να κάνουν κράτηση χρόνου για έως και 14 ημέρες σε βήματα της μίας ημέρας, έως και οκτώ εβδομάδες εκ των προτέρων. Όταν λήξει το χρονικό πλαίσιο, τα instances θα κλείσουν αυτόματα.

Το νέο προϊόν επιτρέπει στους χρήστες να εγγραφούν για τον αριθμό των instances που χρειάζονται για ένα καθορισμένο χρονικό διάστημα, όπως ακριβώς συμβαίνει με την κράτηση ενός δωματίου ξενοδοχείου για έναν ορισμένο αριθμό ημερών (όπως το θέτει η εταιρεία). Από τη σκοπιά του πελάτη, θα γνωρίζει ακριβώς πόσο θα διαρκέσει η εργασία, πόσες GPU θα χρησιμοποιήσει και πόσο θα κοστίσει εκ των προτέρων, δίνοντάς του βεβαιότητα κόστους.

Για την Amazon, μπορεί να βάλει αυτούς τους πόρους με μεγάλη ζήτηση να εργαστούν σε ένα περιβάλλον σχεδόν τύπου δημοπρασίας, εξασφαλίζοντάς της έσοδα (εφόσον βέβαια έρθουν οι πελάτες). Η τιμή για την πρόσβαση σε αυτούς τους πόρους θα είναι πραγματικά δυναμική, μεταβαλλόμενη ανάλογα με την προσφορά και τη ζήτηση, σύμφωνα με την εταιρεία.

Καθώς ένας χρήστης εγγράφεται στην υπηρεσία, εμφανίζεται το συνολικό κόστος για το χρονικό διάστημα και τους πόρους. Οι χρήστες μπορούν να το επιλέξουν προς τα πάνω ή προς τα κάτω, ανάλογα με την όρεξη για πόρους και τον προϋπολογισμό τους, προτού συμφωνήσουν να αγοράσουν.

Η νέα λειτουργία είναι γενικά διαθέσιμη από σήμερα στην περιοχή AWS US East (Ohio).