ШІ потребує збільшення пам'яті DATA центрів

  

 

Попит з боку ІІ-індустрії вперся в обмежену пропозицію. Дата-центрам потрібні великі обсяги пам'яті, а швидко наростити виробництво неможливо. За даними Bernstein Research, ціни на DRAM для ПК та серверів за рік до червня зросли приблизно на 660%. Так само подорожчала і флеш-пам'ять NAND.

   Бум штучного інтелекту: Великі технологічні компанії скуповують величезні обсяги кремнію для ШІ-кластерів. Переорієнтація заводів: Виробники (Micron, SK Hynix, Samsung) перенаправили потужності на випуск дорогої HBM-пам'яті та серверної DDR5. менше ресурсів.Скорочення старих ліній: Випуск старої пам'яті DDR4 зменшився, через що вона теж зросла в ціні та зрівнялася з DDR5.

Під час роботи пам'ять виконує роль буфера між накопичувачем і процесором, тобто дані спочатку зчитуються з жорсткого диска (або іншого накопичувача) в оперативну пам'ять, а вже потім обробляються центральним процесором.

Спрощена схема роботи пам'яті комп'ютера. Така схема застосовується, тому що процесор — дуже швидкий пристрій, і йому потрібно швидко отримувати доступ до потрібних даних і команд, інакше він буде простоювати, а продуктивність системи знизиться; а оскільки жорсткий диск і SSD не можуть забезпечити необхідну швидкість, усі необхідні дані зчитуються та переміщуються в швидшу оперативну пам'ять і зберігаються там, доки не знадобляться процесору для обробки.

Фізично оперативна пам'ять являє собою набір мікросхем, припаяних до плати.

Мікросхеми на платі пам’яті. Якщо зазирнути всередину однієї такої мікросхеми, то можна побачити, що вона складається з безлічі з’єднаних між собою шарів, кожен шар складається з величезної кількості комірок, що утворюють прямокутні матриці. Одна комірка може містити 1 біт інформації, а складається вона з одного польового транзистора та одного конденсатора. 

 

 

Будова комірки в чіпі

Ця конструкція виглядає досить складно і може відрізнятися залежно від застосованих технологій, тому для наочності краще уявити комірку у вигляді схеми.

Схематична будова комірки динамічної пам’яті

Так легше зрозуміти, що саме конденсатор зберігає інформацію, а транзистор виконує роль електричного ключа, який або утримує заряд на конденсаторі, або відкриває його для зчитування. Коли конденсатор заряджений, можна отримати логічну одиницю, а коли розряджений — нуль.

Спрощена схема масиву комірок, сторінка

Таких конденсаторів у чіпі дуже багато, але зчитати заряд з однієї конкретної комірки неможливо — зчитується вся сторінка цілком.

Щоб це зробити, необхідно на потрібну нам горизонтальну лінію, яка називається рядком, подати сигнал, який відкриє транзистори, після чого підсилювачі, розташовані на кінцях вертикальних ліній, зчитують заряди, що знаходилися на конденсаторах.

Спрощена схема масиву комірок (зчитування)

Кожне таке зчитування спорожнює заряди на сторінці, через що доводиться її заново переписувати; для цього на рядок також подається заряд, що відкриває транзистор, а на стовпці подається вища напруга, тим самим заряджаючи конденсатори та записуючи інформацію.

Спрощена схема масиву комірок (запис)

Затримки між цими операціями називають «латентністю» або, у народі, «таймінгами»; чим вони менші, тим швидшою буде вся система в цілому

Окрім самих чіпів пам’яті, на модуль розпаюються SMD-компоненти — резистори та конденсатори, що забезпечують розв’язку сигнальних ланцюгів і живлення чіпів, а також мікросхема SPD — це спеціальна мікросхема, у якій зберігаються дані про параметри всього модуля (ємність, робоча напруга, таймінги, кількість банків тощо). Це потрібно для того, щоб під час запуску системи BIOS на материнській платі встановив оптимальні налаштування відповідно до інформації, що міститься в мікросхемі.

Компоненти модуля пам’яті, мікросхема SPD

Також існує кілька форм-факторів модулів: модулі для комп’ютерів називаються DIMM, а для ноутбуків і компактних систем — SO-DIMM; вони відрізняються розміром і кількістю контактів для підключення. Це дворядні модулі, які мають два незалежні ряди контактів — по одному з кожного боку.

DIMM і SO-DIMM

Наприклад, у старих модулях SIMM контакти з обох боків були замкнені, і вони могли передавати лише 32 біти інформації за такт, тоді як DIMM можуть передавати 64 біти.

DIMM і SIMM

Крім того, модулі поділяються на однорангові, дворангові та чотирирангові. Ранг — це блок даних шириною 64 біти, який може бути сформований різною кількістю чіпів пам’яті. Однорангова пам’ять має ширину 64 біти, тоді як дворангова пам’ять має ширину 128 бітів. Однак, оскільки один канал пам’яті має ширину лише 64 біти, як і одноранговий модуль, контролер пам’яті може одночасно звертатися лише до одного рангу. У той час як дворанговий модуль може займатися відповіддю на передану йому команду, а інший ранг уже може готувати інформацію для наступної команди, що незначно підвищує продуктивність.

Ранги оперативної пам’яті

Також хочеться окремо сказати про пам'ять з корекцією помилок, ECC-пам'ять, оскільки ці модулі мають додатковий банк пам'яті на кожні 8 мікросхем. Додаткові банки та логіка в модулі слугують для перевірки та усунення помилок.

ECC-пам'ять з корекцією помилок

Використання буферів та корекції помилок незначно погіршує продуктивність, але значно підвищує надійність даних. Тому ECC-пам'ять широко використовується в серверах та робочих станціях

Ширина даних у ECC

Ще трохи розповім про типи пам’яті, оскільки в сучасних комп’ютерах використовується синхронна динамічна пам’ять з довільним доступом і подвоєною швидкістю передачі даних DDR SDRAM 4-го покоління, а незабаром з’явиться 5-те.

Синхронна динамічна пам'ять (DDR)

Пам'ять типу DDR прийшла на зміну пам'яті типу SDR. SDR SDRAM працює синхронно з контролером. У ній внутрішня та зовнішня шина даних працюють на одній і тій самій частоті. При подачі сигналу на мікросхему відбувається синхронне зчитування інформації та передача її у вихідний буфер. Передача кожного біта з буфера відбувається з кожним тактом роботи ядра пам'яті. У пам'яті SDR синхронізація обміну даними відбувається за фронтом тактового імпульсу.

Синхронна динамічна пам'ять (SDR)

При подачі сигналу на мікросхему відбувається синхронне зчитування інформації та передача її у вихідний буфер. Передача кожного біта з буфера відбувається з кожним тактом роботи ядра пам’яті. У SDR-пам’яті синхронізація обміну даними відбувається за фронтом тактового імпульсу.

SDR

Після SDR з'явилася пам'ять DDR, у якій обмін даними по зовнішній шині відбувається не тільки по фронту тактового імпульсу, але й по спаду, завдяки чому на тій самій частоті можна передати вдвічі більше інформації, а щоб скористатися цим збільшенням, внутрішню шину розширили вдвічі. Тобто, працюючи на тих самих частотах, що й SDR, пам’ять DDR передає у 2 рази більше даних.

SDR і DDR

Наступні покоління пам’яті DDR не сильно відрізняються: збільшується лише частота роботи буферів вводу-виводу, а також розширюється шина, що з’єднує ядро пам’яті з буферами; сам принцип роботи не змінюється, але навіть так кожне нове покоління отримує таким чином істотне збільшення пропускної здатності без збільшення частоти роботи самих комірок пам’яті.

DDR 2, DDR 3, DDR 4, DDR 5

Зрозуміло, що з кожним новим поколінням поліпшується робота логіки, технологічний процес та багато іншого. Але сам принцип роботи залишається незмінним, і для загального розуміння цього достатньо