Cerebras

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску

Cerebras Systems — американская компания, занимающаяся искусственным интеллектом, с офисами в Кремниевой долине, Сан-Диего, Торонто и Токио[1]. Cerebras создает компьютерные системы для сложных приложений искусственного интеллекта, требующих глубокого обучения[2].

История[править | править код]

Cerebras была основана в 2015 году Эндрю Фельдманом, Гэри Лаутербахом, Майклом Джеймсом, Шоном Ли и Жан-Филиппом Фрикером[3]. Эти пять основателей работали вместе в SeaMicro, которая была основана в 2007 году Фельдманом и Лаутербахом и позже была продана AMD в 2012 году за 334 миллиона долларов[4][5].

В мае 2016 года Cerebras получила 27 миллионов долларов в виде финансирования серии А под руководством Benchmark Foundation Capital и Eclipse Ventures[3][6]. В декабре 2016 года финансирование серии B обеспечила компания Coatu Management Llc, а в январе 2017 года финансирование серии C обеспечила компания VY Capital[3]. В ноябре 2018 года Cerebras завершили раунд серии D с 88 миллионами долларов, превратив компанию в единорога[англ.]. Среди инвесторов этого раунда были Altimeter, VY Capital, Coatue, Foundation Capital, Benchmark и Eclipse[7][8].

19 августа 2019 года Cerebras анонсировала свой Wafer-Scale Engine (WSE)[9][10][11]. В ноябре 2019 года Cerebras завершила раунд серии E с более чем 270 миллионами долларов при оценке в 2,4 миллиарда долларов[12].

В 2020 году компания объявила об открытии офиса в Японии и партнерстве с Tokyo Electron Devices.

В апреле 2021 года Cerebras анонсировала CS-2, основанную на процессоре Wafer Scale Engine Two (WSE-2), который имеет 850 000 ядер[1]. В августе 2021 года компания анонсировала свою технологию масштабирования нейровычислений, которая может управлять нейронной сетью с более чем 120 триллионами соединений[13] .

Технология[править | править код]

Cerebras Wafer Scale Engine (WSE) — это единый интегрированный процессор масштаба кремниевой пластины, который включает в себя вычислительные ресурсы, память и межкомпонентную матрицу соединений[14]. WSE-1 является основой Cerebras CS-1, компьютера первого поколения с искусственным интеллектом Cerebras. Это устройство, устанавливаемое в 19-дюймовую стойку, предназначено для обучения ИИ и поддержке рабочих вычислений на основе нейросетей в центрах обработки данных[10]. CS-1 включает в себя один центральный процессор WSE с 400 000 процессорных ядер, а также двенадцать соединений 100 Gigabit Ethernet для передачи и передачи данных[10][15]. WSE-1 включает 1,2 триллиона транзисторов, 400 000 вычислительных ядер и 18 гигабайт оперативной памяти[9][10][11].

В апреле 2021 года Cerebras анонсировала систему искусственного интеллекта CS-2, основанную на процессоре Wafer Scale Engine 2-го поколения (WSE-2), производимом по 7-нм техпроцессу TSMC[1]. Вычислительный комплекс имеет высоту 26 дюймов и умещается в одну треть стандартной стойки центра обработки данных[16]. Процессор Cerebras WSE-2 обладает 850 000 ядрами, на пластине-процессоре размещаются 2,6 триллиона транзисторов. WSE-2, по сравнению с предыдущей версией, расширил объём встроенной SRAM до 40 гигабайт, пропускную способность памяти до 20 петабайт в секунду и общую пропускную способность фабрики соединений до 220 петабит в секунду.

В августе 2021 года компания объявила о своем решении для масштабирования нейровычислений, которое объединяет несколько интегральных схем (обычно называемых «чипами») в нейронную сеть с множеством соединений. Это позволяет единой системе поддерживать модели ИИ с более чем 120 триллионами параметров. Такое решение включает четыре нововведения: Cerebras Weight Streaming, новую архитектуру исполнения программного обеспечения; Cerebras MemoryX, технология расширения памяти; Cerebras SwarmX, оптимизированная для ИИ коммуникационная ткань; и Selectable Sparsity, технология динамического сбора разреженных частиц.

Использование[править | править код]

Сообщается, что технологии Cerebras используют клиенты, работающие в фармацевтическом и медико-биологическом секторах.

В 2020 году GlaxoSmithKline (GSK) начала использовать систему искусственного интеллекта Cerebras CS-1 в своем лондонском центре искусственного интеллекта для моделирования нейронных сетей, чтобы ускорить генетические и геномные исследования и сократить время, необходимое для открытия лекарств. Исследовательская группа GSK смогла повысить сложность моделей кодировщиков, которые они могли генерировать, одновременно сократив время обучения. Среди других клиентов фармацевтической отрасли — компания AstraZeneca, которая смогла сократить время обучения с двух недель на кластере графических процессоров до двух дней с помощью системы Cerebras CS-1.

Аргоннская национальная лаборатория использует CS-1 с 2020 года в исследованиях COVID-19 и раковых опухолях на основе крупнейшей в мире базы данных по лечению рака. Серия моделей, запущенных на CS-1 для прогнозирования реакции лекарств от рака на опухоли, достигла ускорения во много сотен раз на CS-1 по сравнению с исходным уровнем производительности, обеспечиваемым GPU.

Суперкомпьютер Lassen Национальной лаборатории Лоуренса Ливермора использовал CS-1 как для классифицированных, так и в несекретных задач для физического моделирования.

В августе 2021 года Cerebras объявила о партнерстве с компанией Peptilogics, занимающейся биотехнологической платформой, по разработке решений искусственного интеллекта для ускорения цикла разработки пептидных терапевтических средств.

Примеры выпущенных устройств[править | править код]

  • Система Cerebras CS-1 на процессоре WSE-1 (2020 год)[17];
  • Система Cerebras CS-2 на процессоре WSE-2 (2022 год)[18].

См. также[править | править код]

Примечания[править | править код]

  1. 1 2 3 Cerebras launches new AI supercomputing processor with 2.6 trillion transistors (амер. англ.). VentureBeat (20 апреля 2021). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  2. Cerebras Systems deploys the ‘world’s fastest AI computer’ at Argonne National Lab (амер. англ.). VentureBeat (19 ноября 2019). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  3. 1 2 3 Aaron Tilley. AI Chip Boom: This Stealthy AI Hardware Startup Is Worth Almost A Billion (англ.). Forbes. Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  4. Quentin Hardy. A.M.D. Buying SeaMicro for $334 Million (амер. англ.). Bits Blog (29 февраля 2012). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  5. Cade Metz. How Google Spawned The 384-Chip Server (англ.) // Wired. — ISSN 1059-1028. Архивировано 8 сентября 2021 года.
  6. A stealthy startup called Cerebras raised around $25 million to build deep learning hardware (амер. англ.). TechCrunch. Дата обращения: 23 октября 2021.
  7. Dylan Martin. AI Chip Startup Cerebras Reveals 'World's Fastest AI Supercomputer'. CRN (27 ноября 2019). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  8. Moor Insights and Strategy. Cerebras Unveils AI Supercomputer-On-A-Chip (англ.). Forbes. Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  9. 1 2 Metz, Cade (2019-08-19). "To Power A.I., Start-Up Creates a Giant Computer Chip". The New York Times. Архивировано 23 октября 2021. Дата обращения: 23 октября 2021.
  10. 1 2 3 4 The Cerebras CS-1 computes deep learning AI problems by being bigger, bigger, and bigger than any other chip (амер. англ.) (недоступная ссылка — история). TechCrunch. Дата обращения: 23 октября 2021.
  11. 1 2 Cerebras’ New Monster AI Chip Adds 1.4 Trillion Transistors (англ.). IEEE Spectrum (20 апреля 2021). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  12. Sally Ward-Foxton. EETimes - Cerebras Crams More Compute Into Second-Gen ‘Dinner Plate Sized’ Chip. EETimes (20 апреля 2021). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  13. Cerebras' Tech Trains "Brain-Scale" AIs (англ.). IEEE Spectrum (24 августа 2021). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  14. Cerebras’s Giant Chip Will Smash Deep Learning’s Speed Barrier (англ.). IEEE Spectrum (1 января 2020). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  15. Neocortex Will Be First-of-Its-Kind 800,000-Core AI Supercomputer (амер. англ.). HPCwire (9 июня 2020). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  16. Tiernan Ray. Cerebras continues 'absolute domination’ of high-end compute, it says, with world’s hugest chip two-dot-oh (англ.). ZDNet. Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  17. Самый большой в мире процессор Cerebras оказался в сотни раз быстрее суперкомпьютера на базе NVIDIA GPU (рус.). 3DNews (19 ноября 2020). Дата обращения: 17 ноября 2022. Архивировано 19 ноября 2022 года.
  18. Cerebras Systems поставила рекорд в области машинного обучения для одиночных систем (рус.). Servernews.ru (24 июня 2022). Дата обращения: 17 ноября 2022. Архивировано 19 ноября 2022 года.