Apache Beam

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску
Apache Beam
Логотип программы Apache Beam
Автор Google
Разработчик Apache Software Foundation
Написана на Java, Python, Go
Операционная система Cross-platform
Первый выпуск 15 июня 2016; 7 лет назад (2016-06-15)
Последняя версия
Репозиторий Beam Repository
Лицензия Apache License 2.0
Сайт beam.apache.org
Логотип Викисклада Медиафайлы на Викискладе

Apache Beam — унифицированная модель программирования с открытым кодом, созданная для описания и выполнения конвейров обработки данных, предназначенных для таких процессов, как ETL, а также для пакетной и многопоточной обработки данных.[2] Конвейры Beam создаются с помощью одного из представленных комплектов для разработки программного обеспечения и выполняются одним из поддерживаемых Beam “исполнителей”, в состав которых входят Apache Flink, Apache Samza, Apache Spark и Google Cloud Dataflow.[3]

История[править | править код]

Apache Beam[3] является одной из реализаций модели потока данных Dataflow компании Google.[4] Она основана на предыдущей работе компании Google связанной с абстракциями распределенных вычислений, в частности на FlumeJava[5] и Millwheel.[6][7]

В 2014 году компания Google выпустила реализацию модели Dataflow в виде комплекта для разработки программного обеспечения с открытым исходным кодом, а также распределенную (в виде одного из сервисов "Oблачной платформы Google") и локальную (не распределенную) среды выполнения.

Хронология[править | править код]

Второстепенные релизы Apache Beam выходят раз в 6 недель.[8]

Версия Дата выхода
Текущая версия: 2.41.0 2022-08-23
Старая версия, не поддерживается: 2.40.0 2022-06-27
Старая версия, не поддерживается: 2.39.0 2022-05-25
Старая версия, не поддерживается: 2.38.0 2022-04-20
Старая версия, не поддерживается: 2.37.0 2022-03-04
Старая версия, не поддерживается: 2.36.0 2022-02-07
Старая версия, не поддерживается: 2.35.0 2021-12-29
Старая версия, не поддерживается: 2.34.0 2021-11-11
Старая версия, не поддерживается: 2.33.0 2021-10-07
Старая версия, не поддерживается: 2.32.0 2021-08-25
Старая версия, не поддерживается: 2.31.0 2021-07-08
Старая версия, не поддерживается: 2.30.0 2021-06-09
Старая версия, не поддерживается: 2.29.0 2021-04-27
Старая версия, не поддерживается: 2.28.0 2021-02-22
Старая версия, не поддерживается: 2.27.0 2021-01-08
Старая версия, не поддерживается: 2.26.0 2020-12-11
Старая версия, не поддерживается: 2.25.0 2020-10-23
Старая версия, не поддерживается: 2.24.0 2020-09-18
Старая версия, не поддерживается: 2.23.0 2020-07-29
Старая версия, не поддерживается: 2.22.0 2020-06-08
Старая версия, не поддерживается: 2.21.0 2020-05-27
Старая версия, не поддерживается: 2.20.0 2020-04-15
Старая версия, не поддерживается: 2.19.0 2020-02-04
Старая версия, не поддерживается: 2.18.0 2020-01-23
Старая версия, не поддерживается: 2.17.0 2020-01-06
Старая версия, не поддерживается: 2.16.0 2019-10-07
Старая версия, не поддерживается: 2.15.0 2019-08-22
Старая версия, не поддерживается: 2.14.0 2019-08-01
Старая версия, не поддерживается: 2.13.0 2019-05-22
Старая версия, не поддерживается: 2.12.0 2019-04-25
Старая версия, не поддерживается: 2.11.0 2019-02-26
Старая версия, не поддерживается: 2.10.0 2019-02-01
Старая версия, не поддерживается: 2.9.0 2018-12-13
Старая версия, не поддерживается: 2.8.0 2018-10-29
Старая версия, не поддерживается: 2.7.0 (LTS) 2018-10-03
Старая версия, не поддерживается: 2.6.0 2018-08-08
Старая версия, не поддерживается: 2.5.0 2018-06-26
Старая версия, не поддерживается: 2.4.0 2018-03-20
Старая версия, не поддерживается: 2.3.0 2018-01-30
Старая версия, не поддерживается: 2.2.0 2017-12-02
Старая версия, не поддерживается: 2.1.0 2017-08-23
Старая версия, не поддерживается: 2.0.0 2017-05-17
Старая версия, не поддерживается: 0.6.0 2017-03-11
Старая версия, не поддерживается: 0.5.0 2017-02-02
Старая версия, не поддерживается: 0.4.0 2016-12-29
Старая версия, не поддерживается: 0.3.0 2016-10-31
Старая версия, не поддерживается: 0.2.0 2016-08-08
Старая версия, не поддерживается: 0.1.0 2016-06-15
Легенда:
Старая версия, не поддерживается
Старая поддерживаемая версия
Текущая версия
Тестовая версия
Будущая версия

Ссылки[править | править код]

  1. Release 2.55.1 — 2024.
  2. Woodie, Alex Apache Beam's Ambitious Goal: Unify Big Data Development. Datanami (22 апреля 2016). Дата обращения: 4 августа 2016. Архивировано 13 августа 2016 года.
  3. 1 2 Cloud Dataflow - Batch & Stream Data Processing. Дата обращения: 1 февраля 2023. Архивировано 23 декабря 2018 года.
  4. Akidau, Tyler; Schmidt, Eric; Whittle, Sam; Bradshaw, Robert; Chambers, Craig; Chernyak, Slava; Fernández-Moctezuma, Rafael J.; Lax, Reuven; McVeety, Sam; Mills, Daniel; Perry, Frances (1 August 2015). "The dataflow model" (PDF). Proceedings of the VLDB Endowment. 8 (12): 1792—1803. doi:10.14778/2824032.2824076. Архивировано (PDF) 4 марта 2016. Дата обращения: 4 августа 2016.
  5. Chambers, Craig; Raniwala, Ashish; Perry, Frances; Adams, Stephen; Henry, Robert R.; Bradshaw, Robert; Weizenbaum, Nathan (1 January 2010). "FlumeJava: Easy, Efficient Data-parallel Pipelines" (PDF). Proceedings of the 31st ACM SIGPLAN Conference on Programming Language Design and Implementation. ACM: 363—375. doi:10.1145/1806596.1806638. S2CID 14888571. Архивировано из оригинала (PDF) 23 сентября 2016. Дата обращения: 4 августа 2016.
  6. Akidau, Tyler; Whittle, Sam; Balikov, Alex; Bekiroğlu, Kaya; Chernyak, Slava; Haberman, Josh; Lax, Reuven; McVeety, Sam; Mills, Daniel; Nordstrom, Paul (27 August 2013). "MillWheel" (PDF). Proceedings of the VLDB Endowment. 6 (11): 1033—1044. doi:10.14778/2536222.2536229. Архивировано из оригинала (PDF) 1 февраля 2016. Дата обращения: 4 августа 2016.
  7. Pointer, Ian Apache Beam wants to be uber-API for big data. InfoWorld. Дата обращения: 4 августа 2016. Архивировано 22 декабря 2018 года.
  8. Policies. beam.apache.org. Дата обращения: 21 апреля 2022. Архивировано 1 февраля 2023 года.