HBM2E: 460 гігабайтів за секунду на стос
2 липня 2020 року SK hynix почала повномасштабний серійний випуск пам'яті HBM2E: вісім кристалів по 16 гігабітів, з'єднаних наскрізними отворами в кремнії, 16 гігабайтів на стос і понад 460 гігабайтів за секунду через 1024 лінії при 3,6 гігабіта за секунду на контакт.
Чому це важливо
Вузьке місце навчання перестає бути в арифметиці й переходить у подавання. Атлас має покоління прискорювачів — A100 у травні того самого року, — і не має того, чим їх годують; без пам'яті такої смуги тензорні ядра стоять порожні більшу частину часу.
Арифметику SK hynix наводить у самому релізі: 3,6 гігабіта за секунду на контакт, помножені на 1024 лінії вводу-виводу, дають 3686,4 гігабіта за секунду, тобто 460,8 гігабайта за секунду. Місткість подвоєно проти попереднього покоління HBM2. Реліз описує швидкість образом: 124 фільми Full-HD по 3,7 гігабайта за секунду. Технологію наскрізних отворів компанія описує окремо — до 30 % менший розмір і до 50 % менше споживання проти звичайного пакування. Між оголошенням розробки в серпні 2019 року й серійним випуском минуло десять місяців, і в атласі стоїть друга з цих дат: доступність, а не готовність зразка. Запис не називає покупця. Реліз згадує прискорювачі глибокого навчання й високопродуктивні обчислення як клас, а не конкретну систему; перший названий на ім'я замовник з'явиться у SK hynix через два роки, разом із HBM3.