Анонс на процесора Cerebras ― Cerebras Wafer Scale Engine (WSE) или движка Cerebras мащаб на силиконовата плоча ― в рамките на ежегодната конференция Hot Chips 31. Като гледате този силиконов гигант, впечатлява не само че е успял да бъде произведен. Впечатлява смелостта на идеята и усилията на разработчиците, които рискуваха да създадат кристал с площ от 46 225 квадратни милиметра и страни 21,5 см. За производството на един процесор е необходима цяла 300-мм плоча. При най-малката грешка нивото на дефекти е 100%, а цената е трудно представима.
Изработката на Cerebras WSE се извършва от компанията TSMC. Технологичният процес е 16 нм FinFET. Този тайвански производител също е спечелил паметник за производството на Cerebras. Производството на подобен чип изисква висше майсторство и решение на множество проблеми, но е оправдало усилията, уверяват разработчиците. Чипът Cerebras е всъщност суперкомпютър на чип с невероятна пропускна способност, минимално потребление и фантастичен паралелизъм. В момента това е идеалното решение за машинно обучение, което ще позволи на изследователите да започнат да решават задачи с извънредна сложност.
Всеки кристал Cerebras WSE съдържа 1,2 трлн транзистора, организирани в 400 000 ИИ-оптимизирани изчислителни ядра и 18 Гбайта локална разпределена памет SRAM. Всичко това е свързано в клетъчна мрежа с обща производителност от 100 петабита в секунда. Пропускната способност на паметта достига 9 Пбайт/с. Иерархията на паметта е едноуровнева. Няма кеш памет, няма застъпвания, закъсненията при достъп са минимални. Това е идеалната архитектура за ускоряване на задачи, свързани с ИИ. Голите цифри: в сравнение с най-съвременните графични ядра, чипът Cerebras предлага 3000 пъти по-голям обем памет на кристала и 10 000 пъти по-висока скорост на обмен с паметта.
Изчислителните ядра Cerebras ― SLAC (Sparse Linear Algebra Cores) ― са напълно програмирани и могат да бъдат оптимизирани за работа с всякакви невронни мрежи. Освен това, архитектурата на ядрата първоначално филтрира данните, представени с нули. Това освобождава изчислителните ресурси от необходимостта да извършват ненужни операции по умножение с нула, което за натоварване с разредени данни означава ускорение на изчисленията и максимална енергийна ефективност. По този начин процесорът Cerebras се оказва стотици или дори хиляди пъти по-ефективен за машинно обучение в термини на използвана площ на кристала и неговото потребление в сравнение с актуалните решения за изкуствен интелект и машинно обучение.
Производството на чип с такъв размер много уникални решения. Дори опаковането му в корпус се наложи да се извърши почти ръчно. Появиха се проблеми с подаването на електрическа мощност към кристала и с неговото охлаждане. Отводът на топлина стана възможен само с течности и единствено чрез организиране на зонално подаване с вертикална циркулация. Въпреки това, всички проблеми бяха решени и чипът излезе работещ. Ще бъде интересно да научим за неговото практическо приложение.
Източник: 3dnews.ru
