Эта статья является кандидатом в хорошие статьи

Шеннон, Клод

Материал из Википедии — свободной энциклопедии
Перейти к: навигация, поиск
Клод Элвуд Шеннон
Claude Elwood Shannon
Shannon.jpg
Дата рождения:

30 апреля 1916(1916-04-30)[1][2]

Место рождения:

Петоцки, Мичиган, США

Дата смерти:

24 февраля 2001(2001-02-24)[1] (84 года)

Место смерти:

Медфорд, Массачусетс, США

Страна:

Flag of the United States.svg США

Научная сфера:

электротехника, теория информации, кибернетика, математика, криптография

Место работы:

Bell Labs
Массачусетский технологический институт
Институт перспективных исследований

Альма-матер:

Мичиганский университет
Массачусетский технологический институт

Научный руководитель:

Вэнивар Буш
Франк Лорен Хичкок

Известен как:

автор фундаментальных трудов по теории информации, электротехнике и криптографии

Награды и премии:
Commons-logo.svg Клод Элвуд Шеннон на Викискладе

Клод Э́лвуд Ше́ннон (англ. Claude Elwood Shannon; 30 апреля 1916, Петоцки[en], Мичиган, США — 24 февраля 2001, Медфорд, Массачусетс, США) — американский инженер, криптоаналитик и математик. Cчитается «отцом информационного века»[3].

Является основателем теории информации, нашедшей применение в современных высокотехнологических системах связи. Предоставил фундаментальные понятия, идеи и их математические формулировки, которые в настоящее время формируют основу для современных коммуникационных технологий. Его статьи «Математическая теория связи» и «Теория связи в секретных системах» считаются основополагающими для теории информации и криптографии[4]. Клод Шеннон был одним из первых, кто подошел к криптографии с научной точки зрения, он первым сформулировал ее теоретические основы и ввел в рассмотрение многие основные понятия. Шеннон внес огромный вклад в теорию вероятностных схем; теорию игр; теорию автоматов и теорию систем управления — области наук, входящие в понятие «кибернетика».

В 1948 году предложил использовать слово «бит» для обозначения наименьшей единицы информации (в статье «Математическая теория связи»). Кроме того, понятие энтропии было важной особенностью теории Шеннона. Он продемонстрировал, что введенная им энтропия эквивалентна мере неопределённости информации в передаваемом сообщении.

Биография[править | править вики-текст]

Детство и юность[править | править вики-текст]

Клод Шеннон родился 30 апреля 1916 года в городе Петоцки, штат Мичиган, США. Отец его, Клод, старший (1862—1934), был бизнесменом, добившимся успеха своими собственными силами, адвокатом и в течение некоторого времени судьей. Мать Шеннона, Мейбел Вулф Шеннон (1890—1945), была преподавателем иностранных языков и впоследствии стала директором Гэйлордской средней школы. Отец Шеннона был умен математически и понимал работы своего сына. Стоит заметит, что любовь к науке была с достатком привита Шеннону своим дедушкой. Дед Шеннона был изобретателем и фермером. Он изобрел стиральную машину вместе с многой другой полезной в сельском хозяйстве техникой[5].

Первые шестнадцать лет своей жизни Клод провел в Гэйлорде, Мичиган, где в 1932 году он закончил общеобразовательную среднюю школу Гэйлорда. В юности он работал курьером службы Western Union. Молодой Клод увлекался конструированием механических и автоматических устройств. Он собирал модели самолетов и радиотехнические цепи, создал радиоуправляемую лодку и телеграфную систему между домом друга и своим домом. Временами ему приходилось ремонтировать радиостанции для местного универмага[4]. Томас Эдисон был его дальним родственником[6][7].

Шеннон был аполитичен, а также он был атеистом[8].

Университетские годы[править | править вики-текст]

В 1932 году Шеннон был зачислен в Мичиганский университет, где выбрал курс, посещая который начинающий ученый познакомился с работами Джорджа Буля. В 1936 году Клод оканчивает Мичиганский университет, получив степень бакалавра по двум специальностям: математик и электротехник, и устраивается в Массачусетский технологический институт (MIT), где работал ассистентом-исследователем. Он выполнял обязанности оператора на механическом вычислительном устройстве, аналоговом компьютере, называемом «дифференциальный анализатор», разработанным его научным руководителем Ванневару Бушу. Изучая сложные, узкоспециализированные электросхемы дифференциального анализатора, Шеннон увидел, что концепции Буля могут получить достойное применение. После того, как он проработал лето 1937 года в Bell Telephone Laboratories, он написал основанную на своей магистерской работе того же года статью «Символический анализ релейных и переключательных схем». Необходимо отметить, что Фрэнк Лорен Хичкок[en] контролировал магистерскую диссертацию, давал полезную критику и советы. Сама статья была опубликована в 1938 году в издании Американского института инженеров-электриков[en] (AIEE)[9][10]. В этой работе он показал, что переключающиеся схемы могут быть использованы для замены схем с электромеханическими реле, которые использовались тогда для маршрутизации телефонных вызовов. Затем он расширил эту концепцию, показав, что эти схемы могут решить все проблемы, которые позволяет решить Булева алгебра со своей помощью. Также, в последней главе он представляет заготовки нескольких схем, например, 4-разрядного сумматора[10]. За эту статью Шеннон был награждён Премией имени Альфреда Нобеля Американского института инженеров-электриков в 1940 году. Доказанная возможность реализовывать любые логические вычисления в электрических цепях вошла в основу проектирования цифровых схем. А цифровые цепи — это, как известно, основа современной вычислительной техники, таким образом, результаты его работ являются одними из наиболее важных научных результатов ХХ столетия. Говард Гарднер из Гарвардского университета отозвался о работе Шеннона, как о «возможно, самой важной, а также самой известной магистерской работе столетия».

По совету Буша Шеннон решил работать над докторской диссертацией по математике в MIT. Буш был назначен президентом Института Карнеги в Вашингтоне и предложил Шеннону принять участие в работе, которую делала Барбара Беркс по генетике. Именно генетика, по мнению Буша, могла послужить предметом приложения усилий Шеннона. Сам Шеннон, проведя лето в Вудс Хоул, Массачусетс[en], заинтересовался нахождением математического фундамента для законов наследования Менделя. Докторская диссертация Шеннона, получившая название «Алгебра теоретической генетики», была завершена весной 1940 года[11]. Однако эта работа не была выпущена в свет вплоть до 1993 года, пока она не появилась в сборнике Шеннона «Collected Papers». Его исследования могли стать весьма важными в противном случае, но бо́льшая часть этих результатов была получена независимо от него. Шеннон получает докторскую степень по математике и степень магистра по электротехнике. После этого он не возвращался к исследованиям в биологии[12].

Шеннон также был заинтересован в применении математики в информационных системах, таких как системы связи. После очередного лета, проведенного в Bell Labs, в 1940 году Шеннон на один академический год стал научным сотрудником в Институте перспективных исследований в Принстоне, штат Нью-Джерси, США[12]. Там, Шеннон работал под руководством известного математика, Германа Вейля, а также имел возможность обсудить свои идеи с влиятельными учеными и математиками, такими как Джон фон Нейман. Он также имел случайные встречи с Альбертом Эйнштейном и Куртом Гёделем. Шеннон свободно работал в различных дисциплинах, и эта способность, возможно, способствовала дальнейшему развитию его математической теории информации[13].

Военное время[править | править вики-текст]

Весной 1941 года он возвращается в компанию Bell Labs в рамках контракта с секцией D-2 (секция систем управления) Национального исследовательского комитета обороны США (NDRC[en]), где он проработает до 1956 года. Со вступлением США во Вторую мировую войну Т. Фрай возглавил работу над программой для систем управления огнём для противовоздушной обороны. Шеннон присоединился к группе Фрая и работал над устройствами обнаружения самолетов противника и наведения на них зенитных установок, также он разрабатывал криптографические системы, в том числе и правительственную связь, которая обеспечивала переговоры Черчилля и Рузвельта через океан. Как говорил сам Шеннон, работа в области криптографии подтолкнула его к созданию теории информации.

Также в лаборатории Белл Шеннон, исследуя переключающие цепи, обнаруживает новый метод их организации, который позволяет уменьшить количество контактов реле, необходимых для реализации сложных логических функций. Он опубликовал доклад, названный «Организация двухполюсных переключающих цепей». В конце 1940 года Шеннон получил Национальную научно-исследовательскую премию.

Шеннону приписывают изобретение сигнальных ориентированных графов[en], в 1942 г. Он вывел предельную формулу усиления при исследовании функциональной работы аналогового компьютера[14].

В начале 1943 года, Шеннон вступил в контакт с ведущим британским математиком Аланом Тьюрингом. Тьюринг прибыл в Вашингтон, чтобы поделиться с криптоаналитической службой США методами, использующимися тогда в в центре правительственной связи, в Блетчли-парке, чтобы раскрыть шифр, используемый на подводных лодках Кригсмарине в северной части Атлантического океана[15]. Он также заинтересовался шифрованием речи и с этой целью уделил некоторое время «Bell Labs». Шеннон и Тьюринг встретились за чашкой чая[15]. Тьюринг показал Шеннону документ, который теперь известен как «Универсальная машина Тьюринга»[16]. Это впечатлило Шеннона, так как многие из идей Тьюринга дополняли его собственные идеи.

В 1945 году, когда война подходила к концу, Национального исследовательский комитет обороны США выпускал сводку технических отчетов в качестве последнего шага до своего окончательного закрытия. В нём присутствовало специальное эссе под названием «Усреднение данных и прогнозирование для систем управления огнем» совместного соавторства Шеннона, Ральфа Биба Блэкмена[en] и Хендрика Боде[en], формально относящееся к проблеме усреднения данных в системах управления огнем по аналогии с «проблемой разделения сигнала от помех в системах связи.» Другими словами, они моделировали эту проблему с точки зрения обработки данных и сигналов и тем самым возвестили приход Информационного Века[17].

В конце войны, он подготовил секретный меморандум для Bell Labs под названием «Математическая теория криптографии», датированная сентябрем 1945 года. Эта статья была рассекречена и опубликована в 1949 году как «Теория связи в секретных системах» в Bell System Technical Journal. Не будет преувеличением сказать, что эта статья своим появлением обозначила переход криптографии из искусства в полноценную науку[12]. Шеннон доказал, что криптосистемы одноразовых блокнотов нерушимы с криптографической точки зрения. Он также доказал, что любая криптографически нерушимая система должна иметь по существу те же характеристики, что и одноразовый блокнот: ключ должен быть выбран случайным образом, причем должен быть столь же большим как открытый текст, а также должен никогда не использоваться повторно полностью или частично, и, конечно, храниться в секрете[18]. Теория связи и криптография развивались одновременно, и «они были так близко друг к другу, что невозможно разделить их»[19]. Шеннон объявил о своем намерении "развивать эти результаты … в предстоящем меморандуме о передаче информации[20]

Послевоенное время[править | править вики-текст]

В 1948 году обещанный меморандум появился как статья «Математическая теория связи» в двух частях, соответственно, в июле и октябре в Bell System Technical Journal. Эта работа посвящена проблеме кодирования передаваемой информации. В этой фундаментальной работе Шеннон использовал инструменты теории вероятностей, разработанные Норбертом Винером, которые находились в зарождающейся стадии относительно их применения к теории связи в то время. Также Шеннон ввел важное определение информационной энтропии как меры неопределенности информации в сообщениях. Эта статья по сути положила начало такой науке, как теория информации[12][21].

После 1948 года Шеннон провел много значимых исследований в теории информации.

Шеннон также занимался изучением теории игр. Он пытался создать всевозможные машины, которые всегда должны были следовать наиболее выигрышным стратегиям. Например, Шеннон занимался разработкой принципов построения шахматных программ (задолго то того, как такие программы начали практически реализовываться специалистами различных стран)[22]. В конце 40-х — начале 50-х годов он предложил две стратегии поиска наилучшего хода в данной позиции. Одна определяла тотальный перебор возможных ходов с построением разветвленного дерева вариантов, а вторая — использование шахматных знаний для отсечения малоперспективных вариантов[21].

Ещё одной сферой приложений интересов Клода Шеннона в теории игр являлась игра в рулетку. Совместно с Эдом Торпом профессором MIT, Шеннон в 1961 году создал аналоговое вычислительное устройство (размером с пачку сигарет, управляемое четырьмя кнопками для ввода информации о скорости вращения колеса рулетки), которое помогало игроку «правильно» сделать ставку. По утверждению Эда Торпа, это устройство было испытано ими в 1961 году в казино Лас Вегас, обеспечив выигрыш в 44% (при этом сам факт существования такого устройства авторы хранили в секрете до 1966 года). Некоторые (однако, далеко не все) детали этого устройства были описаны с статье, опубликованной в Review of the Statistical Institute, 1969, vol. 37:3[21].

В те же 50-е годы Шеннон создал машину, которая «читала мысли» при игре в «монетку»: человек загадывал «орел» или «решку», а машина отгадывала с вероятностью выше 1/2, потому что человек никак не может избежать каких-либо закономерностей, которые машина может использовать[23].

С 1950 по 1956 Шеннон занимался теорией игр, в том числе созданием логических машин, таким образом, продолжая начинания фон Неймана и Тьюринга. В 1952 Шеннон разработал обучаемую механическую мышку, которая могла находить выход из лабиринта[24]. Также он реализовал шуточную машину «Ultimate Machine», другое имя которой — «Useless Machine». Идея этой машины — при переключении выключателя в положение «On», появляется «палец», который возвращает этот тумблер в первоначальное положение «Off»[25]. Дополнительно, он построил устройство, которое может собирать Кубик Рубика[6].

Шеннон также считается основоположником идеи сжатия информации без потерь и её распаковки. Он разрабатывал теории, которые позволяют убрать всю ненужную избыточность в сообщениях адресанта. Причем, если они отправляются через зашумленный канал, то всевозможная информация, направленная только на нахождение ошибок при передаче сообщения, может добавиться обратно к сообщению.

Шеннон уходит из Bell Labs в 1956 году, но он продолжает консультировать их. Интересуется приложением теории информации к теории игр и к финансовой математике. Он также продолжает работу в MIT до 1978. Шеннон оставил после себя школу учеников. Существовала группа, усердно занимающая теорией информации в MIT, которых курировал Шеннон. Студенты видели в нём кумира. Однако Шеннон не преподавал университетские курсы лекций, но довольно часто проводил семинары, на которых он также не любил давать стандартные, изученные им самим вещи. Однако, он импровизировал на них и каждый раз получал что-то новое или рассматривал старые задачи с другой, новой стороны[12]. Кстати говоря, Шеннон не любил писать научные статьи по той же самой причине, однако понимал, что это необходимо делать для развитич науки[12].

В конце 1960-х — 1970-е годы он занимался плодотворно финансовой математикой[12]. Сначала он изучал опубликованные данные о пенсионных фондах и других и в итоге собрал электрическую цепь, которая показывала «денежное течение» в США. Но особенно его заинтересовала: теория выбора инвестиционного портфеля[en]. В этой дисциплине Шеннон вместе с Джоном Келли[en] пытался решить проблему распределения активов[en], сущность которой состоит в следующем: «Как лучше всего диверсифицировать инвестиционный портфель при различных возможностях инвестирования».

Выйдя на пенсию в 1978 году, Шеннон много времени уделял своему давнему увлечению — жонглированию. Он построил несколько жонглирующих машин и даже создал общую теорию жонглирования (еще в 40-х годах он катался, одновременно жонглируя, на одноколесном велосипеде по коридорам Bell Labs)[21]. Например, в 1983 году Шеннон сконструировал машину-жонглера, сделанную буквально из подручных средств, которая была одета так, чтобы быть похожей на Филдса Уильяма. Машина умела жонглировать тремя металлическими шариками[12].

В 1985 году Клод Шеннон со своей супругой Бетти посещает Международный симпозиум по теории информации в Брайтоне. Шеннон довольно долго не посещал международные конференции, и сначала его даже не узнали. На банкете Клод Шеннон дал короткую речь, пожонглировал тремя мячиками, а затем раздал сотни и сотни автографов изумленным его присутствием ученым и инженерам, отстоявшим длиннейшую очередь, испытывая трепетные чувства по отношению к великому ученому. Один из участников тогда сказал: «Это было, как если бы сэр Исаак Ньютон появился на конференции по физике»[26].

В 1993 году выпустил сборник Collected Papers, в которых он собирает 127 написанных им статей с 1938 до 1982 года[7].

Последние годы жизни[править | править вики-текст]

У Шеннона развилась болезнь Альцгеймера и он провел последние несколько лет своей жизни в доме престарелых в штате Массачусетс. За ним ухаживала вся семья[27]. Клод Шеннон ушел из жизни 24 февраля 2001 года. Его жена, Мэри Элизабет Мур Шеннон, заявила в своем некрологе, что, если бы это не было для исследования способов лечения болезни Альцгеймера, то «Он был бы смущен» всем этим[28].

Личная жизнь[править | править вики-текст]

27 марта, 1949 года, Шеннон женился на Мэри Элизабет Мур Шеннон[29]. Он встретил её, когда она работала аналитиком в Bell Labs. Шеннон имел трех детей вместе с ней: Роберт Джеймс, Андрю Мур и Маргарита Катерина.

Статья «Теория связи в секретных системах»[править | править вики-текст]

Работа Шеннона «Теория связи в секретных системах» (1945) с грифом «секретно», которую рассекретили и опубликовали только лишь в 1949 году, послужила началом обширных исследований в теории кодирования и передачи информации. Именно Клод Шеннон впервые начал изучать криптографию, применяя научный подход. В этой статье системы связи описываются с математической стороны и это имело огромный успех в криптографии[4].

Также, статье Шеннон определил основополагающие понятия теории криптографии, без которых криптография уже немыслима. Важной заслугой Шеннона являются исследования [[Абсолютно стойкая система|абсолютно криптостойких систем] и доказательство их существования, а также существование криптостойких шифров и требуемые для этого условия[12]. Шеннон также сформулировал основные требования, предъявляемые к надежным шифрам. Он ввёл ставшие уже привычными понятия рассеивания и перемешивания, а также методы создания криптостойких систем шифрования на основе простых операций.

Статья «Математическая теория связи»[править | править вики-текст]

Статья «Математическая теория связи» была опубликована в 1948 году и сделала Клода Шеннона всемирно известным. В ней Шеннон изложил свои идеи, ставшие впоследствии основой современных теорий и техник обработки, передачи и хранения информации. Перед написанием статьи Шеннон ознакомился с работами Хартли и Найквиста[12]. В статье Шеннон обобщил их идеи, ввёл понятие информации, содержащейся в передаваемых сообщениях. В качестве меры информации передаваемого сообщения , Хартли и Найквист предлагали использовать логарифмическую функцию .

Шеннон разделил системы связи на несколько частей следующим образом[30]:

  1. Источник информации
  2. Передатчик
  3. Канал
  4. Приемник
  5. Пункт назначения

Шеннон группировал системы связи в три категории: дискретные, непрерывные и смешанные, причем утверждая, что дискретный случай — основа остальных двух, но имеет б́ольшее применение. [31]

Шеннон первым начал рассматривать передаваемые сообщения и шумы в каналах связи с точки зрения статистики, рассматривая как конечные, так и непрерывные множества сообщений. Шеннон стал рассматривать источник сообщений как множество всех возможных сообщений, а канал — как множество всевозможных шумов[12].

Шеннон ввел понятие энтропии, аналогичное энтропии из термодинамики, которое является мерой неопределенности информации. Также Шеннон определил бит, как количество полученной информации (или уменьшенной энтропии) при нахождении ответа на вопрос, в котором возможны только два варианта ответа (например, «да» или «нет»), причем оба — с одинаковой вероятностью (если нет — то количество полученной информации будет меньше одного бита)[12].

Первая теорема в его статье описывает связь по зашумленному каналу следующим образом[31]:

Пусть источник сообщений имеет энтропию (бит на символ), а — пропускная способность канала (бит в секунду). Тогда возможно такое кодирование информации, при котором средняя скорость передачи через данный канал будет равняться символов в секунду, где — сколь угодно малая величина. Дополнительно, средняя скорость передачи данных не может быть больше

Главная идея этой теоремы состоит в том, что количество информации, которое возможно передать, зависит от энтропии, или, другими словами, случайности сообщений источника. Следовательно, основываясь на статистической характеристике источника сообщений, возможно кодировать информацию так, чтобы достичь максимальную скорость, которую позволяет достичь канал, т.е. желаемую пропускную способность канала. Это было революционное утверждение, т.к. инженеры ранее полагали, что максимум информации исходного сигнала, которое можно передать через среду зависит от таких факторов, как, например, частота, но никак не свойства сигнала[31].

Вторая теорема Шеннона описывает связь в зашумленном канале. Шеннон утверждает[31]:

Пусть источник сообщений имеет энтропию на одну секунду, а — пропускная способность канала. Если , то возможно такое кодирование информации, при котором данные источника будут переданы через канал со сколь угодно малым количеством ошибок. Если , то возможно кодирование, при котором неоднозначность полученной информации будет меньше чем , где — сколь угодно малая величина. Дополнительно, не существует методов кодирования, которые дадут неоднозначность меньше чем .

Идея, которую высказал Шеннон, заключается в том, что не важно, как «шумит» канал, все равно существует способ кодирования, позволяющий безошибочно передать информацию через канал (пока выполняется ). И эта идея является революционной, поскольку люди до этого считали, что существует какой-то порог значения шума в канале, что передача желаемой информации становится невозможна[31].

Он вывел формулу для скорости передачи информации источником сообщений и для пропускной способности канала , размерность каждой скорости — бит в секунду. Как следствие из предыдущей теоремы, верно следующее утверждение:

Пусть — скорость передачи информации источником сообщений, а — пропускная способность канала. Тогда , и что возможно такое кодирование информации, при котором количество ошибочных битов в единицу времени[en] будет меньше любой заранее выбранной положительной константы . В его доказательстве фигурирует множество всевозможных кодирований сообщений источника в потоки бит, и он показал, что случайно выбранное из этого множества кодирование будет обладать желаемым указанным выше свойством с высокой вероятностью[12]

.

Другими словами: любой канал с шумом характеризуется максимальной скоростью передачи информации, этот предел назван в честь Шеннона. При передаче информации со скоростями, превышающими этот предел, происходят неизбежные искажения данных, но снизу к этому пределу можно приближаться с необходимой точностью, обеспечивая сколь угодно малую вероятность ошибки передачи информации в зашумлённом канале.

После опубликования этой статьи ученые старались найти такие кодирования, которые работают так же хорошо, как и «случайное кодирование Шеннона»[12]. Конечно же, в настоящее существуют кодирования, дающие пропускную способность, близкую к пределу Шеннона.

Развитая Шенноном теория информации помогла решить главные проблемы, связанные с передачей сообщений, а именно: устранить избыточность передаваемых сообщений, произвести кодирование и передачу сообщений по каналам связи с шумами. Решение проблемы избыточности подлежащего передаче сообщения позволяет максимально эффективно использовать канал связи. К примеру, современные повсеместно используемые методы снижения избыточности в системах телевизионного вещания на сегодняшний день позволяют передавать до шести цифровых программ телевидения в полосе частот, которую занимает обычный сигнал аналогового телевидения[32].

Решение проблемы передачи сообщения по каналам связи с шумами при заданном соотношении мощности полезного сигнала к мощности сигнала помехи в месте приема позволяет передавать по каналу связи сообщения со сколь угодно малой вероятностью ошибочной передачи. Также, это отношение определяет пропускную способность канала. Это обеспечивается применением кодов, устойчивых к помехам, при этом скорость передачи сообщений по данному каналу должна быть ниже его пропускной способности[32].

В своих работах Шеннон доказал принципиальную возможность решения обозначенных проблем, это явилось в конце 40-х годов настоящей сенсацией в научных кругах. Данная работа, как и работы, в которых исследовалась потенциальная помехоустойчивость, дали начало огромному числу исследований, продолжающихся и по сей день, уже более полувека. Ученые из СССР и США (СССР — Пинскер, Хинчин, Добрушин, Колмогоров; США — Галлагер[en], Вольфовиц[en], Файнстейн) дали строгую трактовку изложенной Шенноном теории[32].

На сегодняшний день все системы цифровой связи проектируются на основе фундаментальных принципов и законов передачи информации, разработанных Шенноном. В соответствии с теорией информации, вначале из сообщения устраняется избыточность, затем информация кодируется при помощи кодов, устойчивых к помехам, и лишь потом сообщение передается по каналу потребителю. Именно благодаря теории информации была значительно сокращена избыточность телевизионных, речевых и факсимильных сообщений[32].

Большое количество исследований было посвящено созданию кодов, устойчивых к помехам, и простых методов декодирования сообщений. Исследования, проведенные за последние пятьдесят лет, легли в основу созданной Рекомендации МСЭ по применению помехоустойчивого кодирования и методов кодирования источников информации в современных цифровых системах[32].

Теоремы Шеннона[править | править вики-текст]

В теории информации, по традиции, утверждения типа «для любого кода имеет место некоторое свойство» называются обратными теоремами, а утверждения типа «Существует код с заданным свойством» — прямыми теоремами[33].

Награды и почетные звания[править | править вики-текст]

Память[править | править вики-текст]

  1. в Мичиганском университете
  2. в Лаборатории информационных систем и принятия решений[en] в Массачусетском технологическом институте
  3. в Гэйлорде, Мичиган
  4. в Университете Калифорнии, Сан-Диего
  5. в Bell Labs
  6. в AT&T Shannon Labs[en].

Некоторые факты[править | править вики-текст]

  • Виктор Шестаков из МГУ сформулировал теорию релейно-контактных схем, основанную на Булевой алгебре, в 1935 году, т.е. раньше Шеннона. Однако, публикация трудов Шестакова состоялась в 1941 году, т.е. позже публикаций тезисов Шеннона (1938 год)[37][38].

Цитаты о Шенноне[править | править вики-текст]

« Весьма дрянным будет сравнение Шеннона с Эйнштейном. Вклад Эйнштейна выглядит устрашающим. Однако, мы не живем в веке релятивизма, но в веке информации. Шеннон оставил свой след в каждом цифровом устройстве, которым мы пользуемся, в каждом мониторе, в который мы смотрим, во всех средствах цифровой связи. Он один из тех людей, которые меняют мир настолько, что, после перемен, старый мир становится всеми забыт[39].
Джеймс Глеик, The New Yorker
»

Клод Шеннон был больше инженером, чем математиком и многие его работы имели скорее физическое, чем математическое обоснование. И в СССР работы Шеннона были отнесены к разделам кибернетики, которая считалась тогда «лженаукой мракобесов». Даже публикация переводов потребовала немалых усилий. Но великий математик А. Н. Колмогоров был в восхищении после прочтения работ Шеннона и организовал неформальный семинар, посвященный идеям Шеннона, в 1954 году[12]. В предисловии к русскому переводу работ Шеннона А. Н. Колмогоров писал[21]:

« Значение работ Шеннона для чистой математики не сразу было достаточно оценено. Мне вспоминается, что ещё на международном съезде математиков в Амстердаме (1954 г.) мои американские коллеги, специалисты по теории вероятностей, считали мой интерес к работам Шеннона несколько преувеличенным, так как это более техника, чем математика. Сейчас такие мнения вряд ли нуждаются в опровержении. Правда, строгое математическое «обоснование» своих идей Шеннон в сколько-нибудь трудных случаях предоставил своим продолжателям. Однако, его математическая интуиция изумительно точна…
Андрей Николаевич Колмогоров
»

См. также[править | править вики-текст]

Примечания[править | править вики-текст]

  1. 1 2 Немецкая национальная библиотека, Берлинская государственная библиотека, Баварская государственная библиотека и др. Record #119110792 // Общий нормативный контроль — 2012—2016.
  2. data.bnf.fr: open data platform — 2011.
  3. (2009) «Claude Elwood Shannon 30 April 1916 -- 24 February 2001». Biographical Memoirs of Fellows of the Royal Society 55: 257–265. DOI:10.1098/rsbm.2009.0015.
  4. 1 2 3 Robert G. Gallager Claude E. Shannon: A Retrospective on His Life, Work, and Impact (англ.) // IEEE TRANSACTIONS ON INFORMATION THEORY. — 2001. — 7 Ноябрь.
  5. Claude Shannon. Проверено 10 сентября 2014.
  6. 1 2 MIT Professor Claude Shannon dies; was founder of digital communications. MIT — News office, Cambridge, Massachusetts. Проверено 27 февраля 2001.
  7. 1 2 Shannon C. E. Collected Papers / Edited by N.J.A Sloane and Aaron D. Wyner. — IEEE press, 1993. — 923 с. — ISBN 0-7803-0434-9.
  8. William Poundstone. Fortune's Formula: The Untold Story of the Scientific Betting System. — Macmillan, 2010. — P. 18. — ISBN 978-0-374-70708-8.
  9. Shannon, C. E. (1938). «A Symbolic Analysis of Relay and Switching Circuits». Trans. AIEE 57 (12): 713–723. DOI:10.1109/T-AIEE.1938.5057767.
  10. 1 2 Claude Shannon, "A Symbolic Analysis of Relay and Switching Circuits, " unpublished MS Thesis, Massachusetts Institute of Technology, August 10, 1937.
  11. C. E. Shannon, «An algebra for theoretical genetics», (Ph.D. Thesis, Massachusetts Institute of Technology, 1940), MIT-THESES//1940-3 Online text at MIT — Contains a biography on pp. 64-65.
  12. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 S.W. Golomb, E. Berlekamp, T. M. Cover, R. G. Gallager, J. L. Massey and A. J. Viterbi Claude Elwood Shannon (1916-2001) (англ.) // Notices of the AMS. — Vol. 49, no. 1. — P. 8-17.
  13. Erico Marui Guizzo, «The Essential Message: Claude Shannon and the Making of Information Theory» (M.S. Thesis, Massachusetts Institute of Technology, Dept. of Humanities, Program in Writing and Humanistic Studies, 2003), 14.
  14. Okrent Howard. 3. 3 Flowgraph Theory // NASAP-70 User's and Programmer's manual. — Los Angeles, California: School of Engineering and Applied Science, University of California at Los Angeles, 1970. — P. 3–9.
  15. 1 2 Hodges, Andrew (1992), Alan Turing: The Enigma, London: Vintage, сс. 243–252, ISBN 978-0-09-911641-7 
  16. Turing, A.M. (1936), "On Computable Numbers, with an Application to the Entscheidungsproblem", Proceedings of the London Mathematical Society, 2 Т. 42: 230–65, 1937, DOI 10.1112/plms/s2-42.1.230 
  17. David A. Mindell, Between Human and Machine: Feedback, Control, and Computing Before Cybernetics, (Baltimore: Johns Hopkins University Press), 2004, pp. 319—320. ISBN 0-8018-8057-2.
  18. Shannon, Claude (1949). «Communication Theory of Secrecy Systems». Bell System Technical Journal 28 (4): 656—715.
  19. quoted in Kahn, The Codebreakers, p. 744.
  20. quoted in Erico Marui Guizzo, "The Essential Message: Claude Shannon and the Making of Information Theory, « unpublished MS thesis, Massachusetts Institute of Technology, 2003, p. 21. Архивная копия от 28 мая 2008 на Wayback Machine
  21. 1 2 3 4 5 В.И. Венец Памяти Клода шеннона (рус.) // Информационные процессы : журнал. — 2001. — Т. 1, № 1. — С. 99-10.
  22. Hamid Reza Ekbia (2008), Artificial dreams: the quest for non-biological intelligence, Cambridge University Press, с. 46, ISBN 978-0-521-87867-8 
  23. Сергей Серый Клод Элвуд Шеннон // "Компьютерные Вести" : газета. — 1998. — № 21.
  24. Bell Labs Advances Intelligent Networks. Архивировано из первоисточника 22 июля 2012.
  25. Pesta, Abigail. Looking for Something Useful to Do With Your Time? Don't Try This (12 March 2013), стр. 1. Проверено 14 марта 2013.
  26. A Personal tribute to Claude Shannon , Boston colledge — Boston college, 'Juggle' magazine, May/June, 2001
  27. claude shannon – computer science theory.
  28. Bell Labs digital guru dead at 84 — Pioneer scientist led high-tech revolution (The Star-Ledger, obituary by Kevin Coughlin February 27, 2001)
  29. Shannon, Claude Elwood (1916–2001) -- from Eric Weisstein's World of Scientific Biography.
  30. * Shannon C. E. A Mathematical Theory of Communication // Bell System Technical Journal. — 1948. — Т. 27. — С. 379—423, 623—656.
  31. 1 2 3 4 5 Eugene Chiu, Jocelyn Lin, Brok Mcferron, Noshirwan Petigara, Satwiksai Seshasa Mathematical Theory of Claude Shannon (англ.) // 6.933J / STS.420J The Structure of Engineering Revolutions. — 2001.
  32. 1 2 3 4 5 М.А. Быховский. Пионеры информационного века. История развития теории связи. выпуск 4.. — Эко-Трендз, 2006. — («История электросвязи и радиотехники»).
  33. Габидулин Э. М., Пилипчук Н. И. Лекции по теории информации МФТИ, 2007. — 214 с. — ISBN 5-7417-0197-3
  34. 100 ­лет со дня рождения Клода Шеннона. Проверено 1 мая 2016.
  35. Исследователь РКЦ Александр Холево удостоен престижной международной награды – премии Шеннона. Российский квантовый центр (21 июня 2015). Проверено 22 июня 2015.
  36. Claude Shannon Statue Dedications.
  37. Бажанов В. А., Волгин Л. И. В. И. Шестаков и К.Шеннон: судьба одной замечательной идеи. — Научно-технический калейдоскоп, 2001. — Т. 2. — С. 43-48.
  38. Б. В. Бирюков, И. С. Верстин, В. И. Левин Жизненный и научный путь Виктора Ивановича Шестакова — создателя логической теории релейно-контактных схем. — РФФИ, проект № 05-06-80382. — С. 20-22.
  39. Sionhan Roberts Claude Shannon, the Father of the Information Age, Turns 1100100 (англ.) : журнал The New Yorker. — 2016. — 30 Апрель.

Библиография[править | править вики-текст]

Ссылки[править | править вики-текст]