Оценка энтропии длинных кодовых слов на выходе нейросетевого преобразователя биометрии в пространствах множества сверток Хэмминга
DOI:
https://doi.org/10.22213/2410-9304-2019-2-30-36Ключевые слова:
нейросетевой преобразователь, расстояния Хэмминга, дискретный спектр, вычисление энтропии длинных кодов, малые выборкиАннотация
Работа построена на учете дискретного характера спектра состояний нейросетевого преобразователя биометрических данных в код длиной 256 бит. Вычислить энтропию кодов такой длины по Шеннону технически невозможно. Предложено от обычных кодов перейти в пространстве расстояний Хэмминга. В этом случае число выходных состояний свертывается и вычисления оказываются выполнимы на обычной вычислительной машине. Даются примеры спектров расстояния Хэмминга для идеального «белого» шума, вычисленные в резных системах счисления (в системах с резным модулем). С ростом модуля, по которому вычисляется расстояние Хэмминга, быстро растет число учитываемых спектральных линий. Дана таблица значений амплитуд вероятности состояний простейшей хи-квадрат молекулы, настроенной на обработку сверток Хэмминга по модулю 2, 3, 4, …, 247. Приводится формула вычисления состояний двухуровневой молекулы Хэмминга, вычисляющей расстояния Хэмминга на двух уровнях. Проведением численных экспериментов доказывается, что предложенный алгоритм позволяет оценивать энтропию длинных кодов на малых выборках с привлечением обычных вычислительных машин. При этом преобразования для разных систем отсчета (для сверток Хэмминга, вычисленных по разному модулю) дополняют друг друга. Ошибки вычислений для сверток Хэмминга, вычисленных по разным модулям, оказываются не коррелированными. Это позволяет надеяться на то, что предложенный метод позволит достаточно точно оценивать близость кодов длиной 256 бит к идеальному «белому» шуму.
Принципиально важным является то, что все свертки Хэмминга, независимо от системы счисления, в которой они вычислены, всегда позволяют логарифмически уменьшать число рассматриваемых состояний. Это в конечном итоге и позволяет упростить задачу и оценивать энтропию длинных кодов на обычной вычислительной машине с привлечением малых выборок в несколько сотен тестовых примеров.Библиографические ссылки
Куделькин В. А., Янников И. М., Телегина М. В. Принципы создания интегрированных систем безопасности критически важных и потенциально опасных объектов // Интеллектуальные системы в производстве. 2017. Т. 15. № 1. C. 105–109.
Куделькин В. А., Янников И. М., Габричидзе Т. Г. Особенности обработки данных в интеллектуальной интегрированной системе безопасности объектов и территорий // Интеллектуальные системы в производстве. 2017. Т. 15. № 4. C. 94–101.
Иванов А. И. Нейросетевая биометрия для облаков. Российские стандарты для защиты цифровых прав граждан // Системы безопасности. 2018. № 3. С. 134–143. URL: www.secuteck.ru/imeg/ss-3-2018.
Иванов А. И., Захаров О. С. Среда моделирования «БиоНейроАвтограф». Программный продукт создан лабораторией биометрических и нейросетевых технологий, размещен с 2009 г. на сайте АО «ПНИЭИ». URL: http://пниэи.рф/ activity/science/noc/ bioneuroautograph.zip.
Иванов А. И. Автоматическое обучение больших искусственных нейронных сетей в биометрических приложениях : учеб. пособие. Пенза, 2013. 30 с. URL: http://пниэи.рф/activity/ science/noc/tm_Iva-novAI.pdf.
Многомерный портрет цифровых последовательностей идеального «белого шума» в свертках Хэмминга / В. И. Волчихин, А. И. Иванов, А. П.Юнин, Е. А. Малыгина // Известия высших учебных заведений. Поволжский регион. Технические науки. 2017. № 4. С. 4–13.
Юнин А. П., Корнеев О. В. Оценка энтропии легко запоминаемых, длинных паролей со смыслом в ASCII кодировке для русского и английского языков // Труды научно-технической конференции кластера пензенских предприятий, обеспечивающих безопасность информационных технологий. Т. 10. Пенза, 2016. С. 40–42. URL: http://пниэи.рф/activity/ science/BIT/T10-p40.pdf.
Оценка качества «белого» шума: реализация теста «стаи обезьян» через множество сверток Хэмминга, построенных на разных системах счисления / А. П. Юнин, А. И. Иванов, К. А. Ратников, Е. А. Кольчугина // Известия высших учебных заве-дений. Поволжский регион. Технические науки. 2018. № 4 (48). С. 32–36.
Дискретный характер закона распределения хи-квадрат критерия для малых тестовых выборок / Б. Б. Ахметов, А. И. Иванов, Н. И. Серикова, Ю. В. Фунтикова // Вестник Национальной академии наук Республики Казахстан. 2015. № 1. С. 17–25.
Циклические континуально-квантовые вычисления: усиление мощности хи-квадрат критерия на малых выборках / В. Кулагин, А. Иванов, А. Газин, Б. Ахметов // Аналитика. 2016. № 5 (30). С. 22–29.
Перспективы создания циклической континуально-квантовой хи-квадрат машины для проверки статистических гипотез на малых выборках биометрических данных и данных иной природы / В. И. Волчихин, А. И. Иванов, Д. В. Пащенко, Б. Б. Ахметов, С. Е. Вятчанин // Известия высших учебных заведений. Поволжский регион. Технические науки. 2017. № 1. С. 5–15.
Volchikhin V. I., Ivanov A. I., Malygina E. A., Kupriyanov E. N., Serikova Yu. I. Precision statistics: fractional number of degrees of freedom chi-square criterion for small samples of biometric data. /Journal of computational and engineering mathematics. Vol. 6, №1 (2019) p.p. 55-62.
Волчихин В. И., Иванов А. И. Нейросетевая молекула: решение обратной задачи биометрии через программную поддержку квантовой суперпозиции на выходах сети искусственных нейронов // Вестник Мордовского университета. 2017. Т. 27. № 4. С. 518–523.