Этот массивный чип, названный Wafer Scale Engine 3 (WSE-3), представляет собой третье поколение суперкомпьютерной платформы Cerebras, специально разработанной для работы в системах искусственного интеллекта.

Новый чип имеет размеры 8,5 на 8,5 дюймов и содержит в себе 900 000 ядер искусственного интеллекта. По словам разработчиков, этот чип будет использоваться для запуска невероятно производительного суперкомпьютера с искусственным интеллектом. Представители компании Cerebras утверждают, что новый чип потребляет столько же энергии, сколько его предшественник, но вдвое мощнее.

Сравнивая WSE-3 с другими чипами, ученые отмечают, что он значительно превосходит по размеру и производительности даже самые передовые графические процессоры, используемые в настоящее время для обучения моделей искусственного интеллекта. Например, графический процессор Nvidia H200 имеет всего 80 миллиардов транзисторов, что в 57 раз меньше, чем у WSE-3.

Condor Galaxy 3, суперкомпьютер, который будет базироваться на чипе WSE-3, планируется разместить в Далласе, штат Техас. Этот суперкомпьютер будет состоять из 64 «строительных блоков» системы искусственного интеллекта Cerebras CS-3, каждый из которых будет работать на основе WSE-3. По заявлению компании, объединение всех этих систем даст в общей сложности 16 экзафлопс вычислительной мощности.

Суперкомпьютер Condor Galaxy 3 будет использоваться для обучения будущих систем искусственного интеллекта, в которых будет использоваться значительно больше параметров, чем в существующих моделях.

Например, GPT-4 от OpenAI использует около 1,76 триллиона переменных для обучения, тогда как Condor Galaxy 3 сможет обрабатывать системы искусственного интеллекта с примерно 24 триллионами параметров.