Η Cerebras Systems, μια εκκίνηση με έδρα τις ΗΠΑ, ξεκίνησε το μεγαλύτερο chip που ενσωματώνει περισσότερα από 1,2 τρισεκατομμύρια τρανζίστορ και έχει μέγεθος 46.225 τετραγωνικά χιλιοστά. Το νέο τσιπ Cerebras Wafer Scale Engine (WSE) έχει βελτιστοποιηθεί για AI και είναι 56,7 φορές μεγαλύτερο από τη μεγαλύτερη μονάδα επεξεργασίας γραφικών που έχει μέγεθος 815 τετραγωνικά χιλιοστά και περιέχει 21,1 δισεκατομμύρια τρανζίστορ. Ο νέος Cerebras Wafer Scale Engine (WSE) παρέχει 3.000 φορές μεγαλύτερη ταχύτητα, μνήμη on-chip και έρχεται με 10.000 φορές μεγαλύτερο εύρος ζώνης μνήμης. Το μεγαλύτερο μέγεθος του chip διασφαλίζει ότι η επεξεργασία των πληροφοριών μπορεί να γίνει ταχύτερα και μπορεί ακόμη και να μειώσει το χρόνο-προς-διορατικότητα, ή «χρόνο εκπαίδευσης» που επιτρέπει στους ερευνητές να δοκιμάσουν περισσότερες ιδέες, να χρησιμοποιήσουν περισσότερα δεδομένα και να λύσουν νέα προβλήματα.
Το Cerebras WSE έχει σχεδιαστεί για AI και περιέχει θεμελιώδεις καινοτομίες που προωθούν την τελευταία λέξη της τεχνολογίας με την επίλυση τεχνικών προκλήσεων δεκαετιών, που είναι περιορισμένου μεγέθους chip - όπως η διασύνδεση, απόδοση, παράδοση ισχύος και συσκευασία. Το WSE μπορεί να επιταχύνει υπολογισμούς και επικοινωνίες, γεγονός που μειώνει τον χρόνο προπόνησης. Το WSE έχει 56,7 φορές περισσότερη περιοχή πυριτίου από τη μεγαλύτερη μονάδα επεξεργασίας γραφικών. Επίσης, το WSE μπορεί να παρέχει περισσότερους πυρήνες για περισσότερους υπολογισμούς και διαθέτει περισσότερη μνήμη πιο κοντά στους πυρήνες, έτσι ώστε οι πυρήνες να μπορούν να λειτουργούν αποτελεσματικά. Όλη η επικοινωνία διατηρείται στο ίδιο το πυρίτιο λόγω της τεράστιας σειράς πυρήνων και η μνήμη είναι ενσωματωμένη σε ένα τσιπ.
Το τσιπ Cerebras WSE περιέχει 46.225 mm2 πυριτίου και διαθέτει 400.000 βελτιστοποιημένες με AI, χωρίς cache, χωρίς overhead, υπολογιστικούς πυρήνες και 18 gigabytes τοπικής, κατανεμημένης, εξαιρετικά γρήγορης μνήμης SRAM. Το τσιπ έρχεται με 9 petabytes ανά δευτερόλεπτο εύρους ζώνης μνήμης, όπου οι πυρήνες συνδέονται μαζί με ένα λεπτόκοκκο, όλο το υλικό, δικτυωμένο δίκτυο επικοινωνίας συνδεδεμένο με πλέγμα που παρέχει συνολικό εύρος ζώνης 100 petabits ανά δευτερόλεπτο. Αυτό σημαίνει ότι το εύρος ζώνης επικοινωνίας χαμηλού λανθάνοντος χρόνου του WSE είναι εξαιρετικά μεγάλο που κάνουν τις ομάδες πυρήνων να συνεργάζονται με τη μέγιστη απόδοση και το εύρος ζώνης μνήμης δεν είναι πλέον εμπόδιο. Περισσότερη τοπική μνήμη, περισσότεροι πυρήνες και ύφασμα υψηλού εύρους ζώνης χαμηλού λανθάνοντος χρόνου σε συνδυασμό αποτελούν τη βέλτιστη αρχιτεκτονική για την επιτάχυνση της εργασίας AI.
Τα χαρακτηριστικά του τσιπ Cerebras WSE:
- Αυξημένοι πυρήνες: Το WSE ενσωματώνει 400.000 βελτιστοποιημένους AI υπολογιστικούς πυρήνες που ονομάζονται SLAC (Sparse Linear Algebra Cores) οι οποίοι είναι προγραμματιζόμενοι, ευέλικτοι και βελτιστοποιημένοι για την αραιή γραμμική άλγεβρα που υποστηρίζει όλους τους υπολογισμούς του νευρικού δικτύου. Η δυνατότητα προγραμματισμού της SLAC διασφαλίζει ότι οι πυρήνες μπορούν εύκολα να εκτελούν όλους τους αλγόριθμους νευρωνικών δικτύων σε όλο και περισσότερο μεταβαλλόμενο πεδίο μηχανικής μάθησης. Οι πυρήνες του WSE ενσωματώνουν την τεχνολογία συλλογής αραιοτήτων που εφευρέθηκε από το Cerebras που επιταχύνει την υπολογιστική απόδοση σε αραιοφόρους φόρτους εργασίας (φόρτος εργασίας που περιέχει μηδενικά) όπως η βαθιά μάθηση.
- Ενισχυμένη μνήμη: Το Cerebras WSE ενσωματώνει περισσότερη τοπική μνήμη μαζί με περισσότερους πυρήνες που είναι περισσότερο από οποιοδήποτε τσιπ που επιτρέπει ευέλικτο, γρήγορο υπολογισμό σε χαμηλότερη καθυστέρηση και με λιγότερη ενέργεια. Το WSE έρχεται με 18 GB (Gigabytes) μνήμης on-chip προσβάσιμη από τον πυρήνα του σε έναν κύκλο ρολογιού. Αυτή η συλλογή πυρήνα-τοπικής μνήμης κάνει το WSE να προσφέρει ένα σύνολο 9 petabytes ανά δευτερόλεπτο εύρους ζώνης μνήμης που είναι 10.000 X περισσότερο εύρος ζώνης μνήμης και 3.000 X