Съобщение за процесора Cerebras ― Cerebras Wafer Scale Engine (WSE) или Cerebras wafer scale engine ― като част от годишната конференция Hot Chips 31. Гледайки това силициево чудовище, това, което е изненадващо, дори не е фактът, че могат да го пуснат в плът. Изненадваща е смелостта на дизайна и работата на разработчиците, които рискуваха да разработят кристал с площ от 46 225 квадратни милиметра със страни 21,5 см. За производството на един процесор е необходима цяла 300-милиметрова пластина. При най-малката грешка процентът на дефекти е 100%, а цената на проблема е дори трудно да си представим.
Cerebras WSE се произвежда от TSMC. Технологичен процес: 16 nm FinFET. Този тайвански производител също заслужава паметник за освобождаването на Cerebras. Производството на такъв чип изискваше най-високо умение и решаване на много проблеми, но си заслужаваше, уверяват разработчиците. Чипът Cerebras е по същество суперкомпютър върху чип с невероятна производителност, минимална консумация на енергия и фантастичен паралелизъм. Сега това е идеалното решение за машинно обучение, което ще позволи на изследователите да започнат да решават проблеми с изключителна сложност.
Всяка матрица Cerebras WSE съдържа 1,2 трилиона транзистора, организирани в 400 000 оптимизирани за AI изчислителни ядра и 18 GB локално разпределена SRAM. Всичко това е свързано с мрежова мрежа с обща пропускателна способност от 100 петабита в секунда. Честотната лента на паметта достига 9 PB/s. Йерархията на паметта е едностепенна. Няма кеш памет, няма припокриване и минимални забавяния на достъпа. Това е идеална архитектура за ускоряване на задачи, свързани с AI. Голи числа: в сравнение с най-модерните графични ядра, чипът Cerebras осигурява 3000 пъти повече памет в чипа и 10 000 пъти по-голяма скорост на трансфер на паметта.
Компютърните ядра на Cerebras - SLAC (Sparse Linear Algebra Cores) са напълно програмируеми и могат да бъдат оптимизирани за работа с всякакви невронни мрежи. Освен това, архитектурата на ядрото по своята същност филтрира данни, представени с нули. Това освобождава изчислителни ресурси от необходимостта да се извършват неактивни операции за умножение по нула, което за оскъдни зареждания с данни означава по-бързи изчисления и изключителна енергийна ефективност. По този начин процесорът Cerebras се оказва стотици или дори хиляди пъти по-ефективен за машинно обучение по отношение на площта на чипа и потреблението от настоящите решения за AI и машинно обучение.
Производство на чип с подобен размер много уникални решения. Дори трябваше да се опакова в кутията почти на ръка. Имаше проблеми със захранването на кристала и охлаждането му. Отвеждането на топлина стана възможно само с течност и само с организирането на зонално захранване с вертикална циркулация. Всички проблеми обаче бяха решени и чипът излезе работещ. Ще бъде интересно да научим за практическото му приложение.
Източник: 3dnews.ru