Από τη Delta Network στη Ρόδο, παρακολουθούμε στενά τις εξελίξεις στην τεχνολογία που μπορούν να ωφελήσουν τις επιχειρήσεις. Η πρόσφατη ανακοίνωση της AMD για την κυκλοφορία των επιταχυντών GPU Instinct MI350P μάς βρίσκει ιδιαίτερα ενδιαφέροντες, καθώς σηματοδοτεί μια σημαντική εξέλιξη στον τομέα της τεχνητής νοημοσύνης (AI) για τα υφιστάμενα data centers.
Οι κάρτες MI350P PCIe της AMD είναι σχεδιασμένες για να ενσωματωθούν εύκολα σε τυπικούς servers με αερόψυξη. Αυτό είναι κρίσιμο, καθώς επιτρέπει στις επιχειρήσεις να αναβαθμίσουν σταδιακά τις δυνατότητές τους στην AI, χρησιμοποιώντας την υπάρχουσα υποδομή ψύξης, τροφοδοσίας και rack. Είναι η πρώτη φορά μετά από τέσσερα χρόνια που η AMD προσφέρει έναν επιταχυντή Instinct σε μορφή PCIe, κάτι που διευρύνει σημαντικά τις επιλογές των επιχειρήσεων.
Η κάρτα Instinct MI350P είναι full height, full length και μπορεί να εγκατασταθεί σε οποιοδήποτε server 2U ή μεγαλύτερο. Αυτό προσφέρει την ευελιξία σε μια επιχείρηση να πειραματιστεί με την AI ξεκινώντας με μία μόνο κάρτα, αντί να δεσμευτεί αμέσως σε μια δέσμη οκτώ GPUs, όπως συνήθως προσφέρονταν παλαιότερα οι λύσεις της AMD. Είναι ιδανική για μικρά, μεσαία και μεγάλα μοντέλα AI, καθώς και για RAG pipelines (Retrieval-Augmented Generation).
Με 144GB μνήμης υψηλού εύρους ζώνης 3e (HBM3E) και απόδοση έως 4TB/s, η MI350P επιτυγχάνει εκτιμώμενες επιδόσεις 2.299 teraflops (TFLOPS) και έως 4.600 κορυφαία TFLOPS σε MXFP4. Η AMD αναφέρει ότι αυτές είναι οι υψηλότερες επιδόσεις που είναι διαθέσιμες σε μια κάρτα PCIe για επιχειρήσεις. Υποστηρίζει επίσης τεχνολογίες όπως η sparsity, αγνοώντας μηδενικές τιμές στα δεδομένα, επιταχύνοντας έτσι την επεξεργασία και εξασφαλίζοντας αποτελεσματική απόδοση σε μορφότυπους υψηλότερης ακρίβειας, όπως INT8 και BF16.
Οι κάρτες MI350P μπορούν να χειριστούν μεγάλα γλωσσικά μοντέλα (LLMs) με 200 έως 250 δισεκατομμύρια παραμέτρους ανά GPU, καλύπτοντας ένα ευρύ φάσμα φορτίων εργασίας inference. Η υποστήριξη του open source software stack ROCm της AMD εξασφαλίζει συμβατότητα και ευελιξία. Αν και η AMD δεν έχει ανακοινώσει ακόμη ημερομηνία διάθεσης ή τιμή, η MI350P αποτελεί μια πολλά υποσχόμενη λύση για τις ελληνικές επιχειρήσεις που επιθυμούν να ενσωματώσουν την AI στις λειτουργίες τους με οικονομικά αποδοτικό και κλιμακούμενο τρόπο.
Επιμελημένη ελληνική απόδοση από τη συντακτική ομάδα της Delta Network με χρήση AI, με βάση το πρωτότυπο άρθρο. Για το πλήρες κείμενο, επισκέψου την πηγή.