Решил почитать про resource theory, одно потянулось за другим, и так я дошел до демона Максвелла и машины Сциларда. С ними вроде все понятно, но вот позднейшая интерпретация Чарли Беннеттом в терминах информации меня смутила.
Напомню, что за демон Максвелла такой (не путать с демоном Лапласа). У нас коробка с перегородкой, в ней дверца, которая делит коробку на левую и правую половины. Справа и слева молекулы газа. Когда молекула подлетает справа, демон открывает дверцу и пропускает молекулу налево, а потом закрывает дверцу. Когда молекулы подлетают слева, дверца остается закрытой. Через некоторое время все молекулы будут слева. Энтропия газа при этом уменьшилась, что противоречит второму началу термодинамики. Как же так, спрашивает Максвелл?
Лео Сцилард, который вместе с Ферми запатентовал ядерный реактор, опубликовал в 1929 году статью, где сделал следующий шаг . Допустим у нас всего одна молекула, но мы не знаем, слева или справа. Если бы мы знали, то заменив перегородку движущимся пистоном мы могли бы позволить молекуле давить на пистон и двигать его в нужную нам сторону. Т.е. извлекать работу из энергии окружающей среды (вечный двигатель второго рода). Если мы не знаем, где молекула, то так не сделаешь: если ошибешься, то работа получится отрицательной, так, что в среднем получится нулевая работа. Но давайте спросим демона Максвелла. С его подсказки мы сможем заставить молекулу сделать полезную работу. Потом вставим перегородку-пистон обратно и опять спросим демона. И так далее. Мы получили вечный двигатель второго рода. Т.е. информация превращается в полезную работу. Второе начало надо поправлять. Но как? Может, для измерения положения молекулы надо совершать работу, так что второе начало на самом деле работает как надо?
В 1961 Рольф Ландауэр предложил, что стирание одного бита информации увеличивает энтропию на kT log 2. Т.е. дело не в том, что измерение требует работы, а в том, что после каждого цикла мы должны стирать информацию о том, где была молекула в этот раз. Если это учесть, то машина Сциларда не нарушает второго начала.
Чарли Беннетт в 1982 году в обзоре "Thermodynamics of computation" сделал, казалось бы, логичный вывод. Информация - это ресурс, который позволяет нам извлекать полезную работу из окружающей среды, Например, если некто дал мне случайную последовательность битов, то это не позволяет мне извлечь полезную работу. А если некто дал мне последовательность битов, кодирующую поэму Омара Хайяма "The Moving Finger Writes; and having Writ...", то я смогу извлечь из нее полезную работу. Как? Ну, если мы используем машину Сциларда для кодирования одного бита (молекула слева это 0, молекула справа это 1), то можно считать, что некто дал мне несколько машин Сциларда, причем в первом случае я не знаю, где там молекулы, а во втором - знаю.
Но тут я уже чувствую, что меня обманывают. Если мне дали два закрытых конверта и сказали, что в первом из них бумага с последовательностью 10 нулей, а во втором - бумага с последовательностью 10 случайных битов, то почему первый конверт ценнее чем второй?
Напомню, что за демон Максвелла такой (не путать с демоном Лапласа). У нас коробка с перегородкой, в ней дверца, которая делит коробку на левую и правую половины. Справа и слева молекулы газа. Когда молекула подлетает справа, демон открывает дверцу и пропускает молекулу налево, а потом закрывает дверцу. Когда молекулы подлетают слева, дверца остается закрытой. Через некоторое время все молекулы будут слева. Энтропия газа при этом уменьшилась, что противоречит второму началу термодинамики. Как же так, спрашивает Максвелл?
Лео Сцилард, который вместе с Ферми запатентовал ядерный реактор, опубликовал в 1929 году статью, где сделал следующий шаг . Допустим у нас всего одна молекула, но мы не знаем, слева или справа. Если бы мы знали, то заменив перегородку движущимся пистоном мы могли бы позволить молекуле давить на пистон и двигать его в нужную нам сторону. Т.е. извлекать работу из энергии окружающей среды (вечный двигатель второго рода). Если мы не знаем, где молекула, то так не сделаешь: если ошибешься, то работа получится отрицательной, так, что в среднем получится нулевая работа. Но давайте спросим демона Максвелла. С его подсказки мы сможем заставить молекулу сделать полезную работу. Потом вставим перегородку-пистон обратно и опять спросим демона. И так далее. Мы получили вечный двигатель второго рода. Т.е. информация превращается в полезную работу. Второе начало надо поправлять. Но как? Может, для измерения положения молекулы надо совершать работу, так что второе начало на самом деле работает как надо?
В 1961 Рольф Ландауэр предложил, что стирание одного бита информации увеличивает энтропию на kT log 2. Т.е. дело не в том, что измерение требует работы, а в том, что после каждого цикла мы должны стирать информацию о том, где была молекула в этот раз. Если это учесть, то машина Сциларда не нарушает второго начала.
Чарли Беннетт в 1982 году в обзоре "Thermodynamics of computation" сделал, казалось бы, логичный вывод. Информация - это ресурс, который позволяет нам извлекать полезную работу из окружающей среды, Например, если некто дал мне случайную последовательность битов, то это не позволяет мне извлечь полезную работу. А если некто дал мне последовательность битов, кодирующую поэму Омара Хайяма "The Moving Finger Writes; and having Writ...", то я смогу извлечь из нее полезную работу. Как? Ну, если мы используем машину Сциларда для кодирования одного бита (молекула слева это 0, молекула справа это 1), то можно считать, что некто дал мне несколько машин Сциларда, причем в первом случае я не знаю, где там молекулы, а во втором - знаю.
Но тут я уже чувствую, что меня обманывают. Если мне дали два закрытых конверта и сказали, что в первом из них бумага с последовательностью 10 нулей, а во втором - бумага с последовательностью 10 случайных битов, то почему первый конверт ценнее чем второй?
(no subject)
Date: 2019-06-09 04:23 pm (UTC)"The entropy of a thermodynamic system is a measure of the degree of ignorance of a person whose sole knowledge about its microstate
consists of the values of the macroscopic quantities Xi which define its thermodynamic state. This is a completely ‘objective’
quantity, in the sense that it is a function only of the Xi, and does not depend on anybody’s personality. There is then no reason why it cannot be measured in a laboratory." (взято тут: https://arxiv.org/abs/quant-ph/0203017 ).
Если рассматривать уравнение (на самом деле, неравенство) Клаузиуса как определение энтропии, то, конечно, понятие информации тут не фигурирует. Если же вспомнить Больцмана, то ситуация изменяется. Различие между макросостоянием и микросостоянием - это различие между тем, что мы обычно знаем о системе и тем, что в принципе могли бы узнать. Неравенство Клаузиуса перестает быть определением, а становится нетривиальным фактом: оно дает ограничение на количество полезной работы, которую можно извлечь из системы, макроскопическое состояние которой мы знаем. С этой точки зрения естественно, что дополнительная информация о микросостоянии позволяет нам нарушать это неравенство.
Пример с кредитной карточкой хороший. Мне он говорит вот что. В человеческом обществе безусловно верно, что информация - это ресурс. Ее ценность, конечно, зависит от законов человеческого общества. Например, если insider trading сурово карается, то ценность инсайдерской информации падает. Второй закон термодинамики тоже говорит нам, что информация о физическом состоянии это тоже ресурс, но в данном случае ценность ресурса никакими изменениями в законодательстве не поменять. Можно, конечно, поспорить о том, что такое физическая информация и как она отличается от просто информации. Тут, возможно, обман и происходит: все эти термодинамические соображения применимы только к информации о физических системах, а не к информации в смысле, принятом в computer science.
(no subject)
Date: 2019-06-09 05:59 pm (UTC)"Информацiя физична" - получается, это просто философская игра словъ. Мы можемъ формулировать законы физики въ терминахъ величинъ и распредѣленiй вѣроятности для исходовъ при заданныхъ распредѣленiяхъ начальныхъ данныхъ, а можно въ терминахъ "knowledge of persons", но это игра словъ. Лучше обходиться безъ лишнихъ понятiй.
Еще, я думаю, было-бы полезно разсмотрѣть случай "мезосистемы", напримѣръ, когда газъ состоитъ из 10 частицъ, а тепловой резервуаръ вокругъ газа - изъ 20 слабо связанныхъ линейныхъ осцилляторовъ. Тогда можно въ принципѣ построить тепловую машину, но одновременно можно и смотрѣть на индивидуальныя частицы. Думаю, сразу можно будетъ убѣдиться въ объективности энтропiи, а также въ ея вѣроятностномъ характерѣ. Также, можно попробовать въ явномъ видѣ написать гамильтонiанъ для демона Максвелла или убѣдиться, что это невозможно. (Я думаю, это будетъ невозможно.)