Estimation of the Entropy of Long Code Words at the Output of a Neural Network Biometrics Converter in Spaces of Hamming Convolutions
DOI:
https://doi.org/10.22213/2410-9304-2019-2-30-36Keywords:
neural converter, Hemming distances, discrete spectrum, calculation of entropy of long codes, small samplesAbstract
The work is based on accounting the discrete nature of the spectrum of states of a neural converter of biometric data into the code of 256 bits. It is technically impossible to compute the entropy of codes with such a length according to Shannon. It is proposed to move from usual codes to the space of Hemming distances. In this case, the number of output states of convolvong and calculations turn out to be workable at a usual computing machine. Examples of Hemming spectrum distances are given for an ideal "white" noise, computed in a divided system of numeration (in systems with the divided module). With growing of the module, according to which the Hemming distance is computed, the number taken into account spectral lines is quickly growing. The table is given for the values of amplitudes of state probabilities for the simplest chi-square molecule adjusted for processing the Hemming convolutions by modulo 2, 3, 4, , 247. The formula is given for calculation of states for the two-level Hemming molecule computing Hemming distances at two levels. The performed numerical experiments prove that the proposed algorithm allows to evaluate the entropy of long codes on small samples with attraction of usual computing machines. At that, the transformations for miscellaneous reference systems (for Hemming convolutions computed for miscellaneous modules) complement each other. The errors of calculations for Hemming convolutions computed for miscellaneous modules turn out to be not correlated. This allows to hope that the proposed method will allow to evaluate accurately enough the vicinity of codes with 256 bits length to the ideal "white" noise.
The principally important issue is that all Hemming convolutions regardless of numeration systems, in which they are computed, always allow to reduce logarithmically the number of the considered states. This finally allows to simplify the task and evaluate the entropy of long codes by a usual computing machine with application of small samples of several hundreds of test examples.References
Куделькин В. А., Янников И. М., Телегина М. В. Принципы создания интегрированных систем безопасности критически важных и потенциально опасных объектов // Интеллектуальные системы в производстве. 2017. Т. 15. № 1. C. 105–109.
Куделькин В. А., Янников И. М., Габричидзе Т. Г. Особенности обработки данных в интеллектуальной интегрированной системе безопасности объектов и территорий // Интеллектуальные системы в производстве. 2017. Т. 15. № 4. C. 94–101.
Иванов А. И. Нейросетевая биометрия для облаков. Российские стандарты для защиты цифровых прав граждан // Системы безопасности. 2018. № 3. С. 134–143. URL: www.secuteck.ru/imeg/ss-3-2018.
Иванов А. И., Захаров О. С. Среда моделирования «БиоНейроАвтограф». Программный продукт создан лабораторией биометрических и нейросетевых технологий, размещен с 2009 г. на сайте АО «ПНИЭИ». URL: http://пниэи.рф/ activity/science/noc/ bioneuroautograph.zip.
Иванов А. И. Автоматическое обучение больших искусственных нейронных сетей в биометрических приложениях : учеб. пособие. Пенза, 2013. 30 с. URL: http://пниэи.рф/activity/ science/noc/tm_Iva-novAI.pdf.
Многомерный портрет цифровых последовательностей идеального «белого шума» в свертках Хэмминга / В. И. Волчихин, А. И. Иванов, А. П.Юнин, Е. А. Малыгина // Известия высших учебных заведений. Поволжский регион. Технические науки. 2017. № 4. С. 4–13.
Юнин А. П., Корнеев О. В. Оценка энтропии легко запоминаемых, длинных паролей со смыслом в ASCII кодировке для русского и английского языков // Труды научно-технической конференции кластера пензенских предприятий, обеспечивающих безопасность информационных технологий. Т. 10. Пенза, 2016. С. 40–42. URL: http://пниэи.рф/activity/ science/BIT/T10-p40.pdf.
Оценка качества «белого» шума: реализация теста «стаи обезьян» через множество сверток Хэмминга, построенных на разных системах счисления / А. П. Юнин, А. И. Иванов, К. А. Ратников, Е. А. Кольчугина // Известия высших учебных заве-дений. Поволжский регион. Технические науки. 2018. № 4 (48). С. 32–36.
Дискретный характер закона распределения хи-квадрат критерия для малых тестовых выборок / Б. Б. Ахметов, А. И. Иванов, Н. И. Серикова, Ю. В. Фунтикова // Вестник Национальной академии наук Республики Казахстан. 2015. № 1. С. 17–25.
Циклические континуально-квантовые вычисления: усиление мощности хи-квадрат критерия на малых выборках / В. Кулагин, А. Иванов, А. Газин, Б. Ахметов // Аналитика. 2016. № 5 (30). С. 22–29.
Перспективы создания циклической континуально-квантовой хи-квадрат машины для проверки статистических гипотез на малых выборках биометрических данных и данных иной природы / В. И. Волчихин, А. И. Иванов, Д. В. Пащенко, Б. Б. Ахметов, С. Е. Вятчанин // Известия высших учебных заведений. Поволжский регион. Технические науки. 2017. № 1. С. 5–15.
Volchikhin V. I., Ivanov A. I., Malygina E. A., Kupriyanov E. N., Serikova Yu. I. Precision statistics: fractional number of degrees of freedom chi-square criterion for small samples of biometric data. /Journal of computational and engineering mathematics. Vol. 6, №1 (2019) p.p. 55-62.
Волчихин В. И., Иванов А. И. Нейросетевая молекула: решение обратной задачи биометрии через программную поддержку квантовой суперпозиции на выходах сети искусственных нейронов // Вестник Мордовского университета. 2017. Т. 27. № 4. С. 518–523.
