Что значит «неограниченное» сжатие?

Какое основное ограничение существует у нынешней технологии сжатия данных? Все существующие способы сжатия данных не способны преодолеть энтропийный предел сжатия данных. А речь идет сжатии данных без потерь информации: способе сокращения размера данных, при использовании которого они могут быть восстановлены в первоначальном виде с абсолютной точностью.

Как известно, в рамках ныне существующей теории информации уплотнение данных не может быть большим некоторого теоретического предела. Теорема Шеннона об источнике кодирования без шума устанавливает предел максимального уплотнения данных без потерь информации, утверждая, что данные невозможно уплотнить так, чтобы их код (число бит на символ алфавита или цифру разрядности) в среднем значении был меньше уровнем энтропии данных. То есть всегда имеется определенный предел степени сжатия, заданный энтропией входного потока данных, у которых различают их максимальную информационную емкость и действительную энтропию (их разница — это избыточность данных).
Читать дальше ->

https://habrahabr.ru/post/344754/