Создан первый в отрасли монолитный 3D-чип

В обычных 2D-чипах компоненты расположены на одной плоской поверхности с ограниченной распределённой памятью, поэтому данные должны передаваться по нескольким длинным и загруженным маршрутам. Поскольку вычислительные элементы работают намного быстрее, чем перемещаются данные, а чип не может хранить достаточное количество памяти поблизости, система постоянно ожидает поступления информации. Инженеры называют это узким местом «стеной памяти» — точкой, в которой скорость обработки превышает способность чипа передавать данные.

На протяжении десятилетий производители микросхем решали проблему «стены памяти» за счёт уменьшения размеров транзисторов — крошечных переключателей на микросхеме, которые выполняют вычисления и хранят данные, — и увеличения их количества на каждом чипе. Но и эта стратегия приближается к жёстким физическим ограничениям, которые исследователи называют «стеной миниатюризации».

Новый чип преодолевает эти препятствия, буквально поднимаясь над ними. «Вертикально интегрируя память и вычислительные ресурсы, мы можем передавать гораздо больше информации гораздо быстрее, подобно тому, как лифты в высотных зданиях позволяют множеству жильцов перемещаться между этажами одновременно», — сказал Татагата Шримани, доцент кафедры электротехники и вычислительной техники в Университете Карнеги — Меллона.

До сих пор большинство попыток создать 3D-чипы сводились к наложению друг на друга отдельных чипов. Такой подход работает, но соединения между слоями грубые, редкие и подвержены возникновению узких мест.

Вместо того чтобы изготавливать отдельные чипы, а затем соединять их, команда создаёт каждый слой непосредственно поверх предыдущего в рамках одного непрерывного процесса. Этот «монолитный» метод предполагает использование достаточно низких температур, чтобы не повредить нижние слои, что позволяет исследователям плотнее укладывать компоненты и соединять их гораздо более плотно.

В отличие от современных плоских 2D-чипов, ключевые ультратонкие компоненты нового прототипа возвышаются, как этажи в высотном здании, а вертикальные соединения действуют как многочисленные высокоскоростные лифты, обеспечивающие быструю передачу больших объёмов данных. Рекордная плотность вертикальных соединений и тщательно продуманное сочетание памяти и вычислительных блоков помогают чипу обходить узкие места, которые долгое время препятствовали совершенствованию плоских конструкций. В ходе аппаратных тестов и моделирования новый 3D-чип превзошёл 2D-чипы примерно на порядок.

Хотя в академических лабораториях уже создавались экспериментальные 3D-чипы, это первый случай, когда такой чип продемонстрировал явное повышение производительности и был изготовлен на коммерческой фабрике. «Это открывает двери в новую эру производства чипов и инноваций», — сказал Субхашиш Митра, профессор электротехники имени Уильяма Э. Айера и профессор компьютерных наук в Стэнфордском университете, а также главный исследователь новой статьи, описывающей чип, представленный на 71-й ежегодной международной конференции IEEE по электронным устройствам (IEDM). «Подобные прорывы — это путь к тысячекратному увеличению производительности аппаратного обеспечения, которое потребуется будущим системам искусственного интеллекта».

Первые аппаратные тесты показывают, что прототип уже превосходит аналогичные 2D-чипы примерно в четыре раза. Моделирование более высоких будущих версий с большим количеством слоёв памяти и вычислительных блоков указывает на ещё больший прирост производительности. Конструкции с дополнительными уровнями демонстрируют до 12-кратного улучшения при выполнении реальных задач ИИ, в том числе на основе модели LLaMA с открытым исходным кодом от Meta.

Самое поразительное, по словам исследователей, заключается в том, что эта конструкция открывает реальный путь к увеличению в 100–1000 раз показателя энергозадержки (EDP) — ключевого параметра, который обеспечивает баланс между скоростью и энергоэффективностью. Благодаря значительному сокращению времени передачи данных и увеличению количества вертикальных каналов чип может обеспечить как более высокую пропускную способность, так и более низкое энергопотребление на операцию — сочетание, которое долгое время считалось недостижимым для обычных плоских архитектур.