Рассмотрены клеточные нейронные сети (КНС) с биполярной ступенчатой функцией активации, полученные путём обучения на заданном множестве бинарных эталонных изображений. Обученные варианты КНС с различными размерами окрестности клетки протестированы при решении задачи фильтрации зашумлённых изображений эталонов. Установлено, что глобальные методы обучения (метод Хебба и проекционный метод), традиционно используемые в сетях Хопфилда, в клеточных сетях порождают шумы высокого уровня (десятки процентов) на выходе даже при отсутствии шума на входе. Предложен локальный аналог проекционного метода, который обеспечивает значительно более качественную фильтрацию зашумлённых изображений, чем классический локальный алгоритм обучения персептрона. Локальный метод Хебба работает лучше двух указанных методов только при минимальной окрестности и больших уровнях шума (не ниже 70%). Исследовано влияние числа уровней квантования весов КНС на их информационную ёмкость. Показано, что при числе уровней квантования больше 8 и числе нейронов 16 х 16 ёмкость КНС с квантованными весами, обученной согласно локальному правилу Хебба, аппроксимирует ёмкость КНС с непрерывными весами; при использовании локального проекционного метода подобный результат достигается при числе уровней не менее 64.
Скачать электронную версию публикации
Загружен, раз: 146
- Title Ассоциативная память на основе клеточной нейронной сети с биполярной ступенчатой функцией активации
- Headline Ассоциативная память на основе клеточной нейронной сети с биполярной ступенчатой функцией активации
- Publesher
Tomsk State University - Issue Прикладная дискретная математика 48
- Date:
- DOI 10.17223/20710410/48/9
Ключевые слова
клеточные нейронные сети, фильтрация шумов, алгоритм обучения персептрона, локальный метод проекций, окрестность клетки, информационная ёмкость клеточной нейронной сети, квантование весов, cellular neural networks, noise filtering, perceptron training algorithm, local projection method, cell neighborhood, informational capacity of cellular neural network, weight quantizationАвторы
Ссылки
Осовский С. Нейронные сети для обработки информации. М.: Финансы и статистика, 2002.
Hopfield J. Neural networks and physical systems with emergent collective computational abilities // Proc. NAS USA. 1982. V. 79. P.2554-2558.
Personnaz L., Guyon I., and Dreyfus G. Collective computational properties of neural networks: new learning mechanisms // Phys. Rev. Ser. A. 1986. V. 34. No. 5. P.4217-4228.
Michel A. N. and Liu D. Qualitative Analysis and Synthesis of Recurrent Neural Networks. N.Y.: Marcel Dekker Inc., 2002.
Tarkov M. S. Synapses reduction in autoassociative Hopfield network // Proc. Int. IEEE Conf. SIBIRCON-2017. Novosibirsk, Sept. 18-22, 2017. P.158-160. https://ieeexplore.ieee. org/xpl/conhome/8099466/proceeding.
Chua L. O. and Yang L. Cellular neural networks: theory and application // IEEE Trans. Circuits and Systems. 1988. V. CAS-35. P. 1257-1290.
Pudov S. G. Learning of cellular neural networks // Future Generation Computer Systems. 2001. V. 17. P.689-697.
Park J., Kim H.-Y., Park Y., and Leed S.-W. A synthesis procedure for associative memories based on space-varying cellular neural networks // Neural Networks. 2001. V. 14. P. 107-113.
Li H., Liao X., Li C., et al. Edge detection of noisy images based on cellular neural networks // Commun. Nonlinear Sci. Numer. Simulat. 2011. V. 16. P.3746-3759.
Duan S., Hu X., Dong Z., et al. Memristor-based cellular nonlinear/neural network: design, analysis, and applications // IEEE Trans. Neural Networks and Learning Systems. 2015. V. 26. No. 6. P.1202-1213.
Rosenblatt F. Principles of Neurodynamics. Washington: Spartan, 1959.
Chua L. Memristor - the missing circuit element // IEEE Trans. Circuit Theory. 1971. V. 18. P. 507-519.
Strukov D.B., Snider G.S., Stewart D.R., and Williams R.S. The missing memristor found // Nature. 2008. V.453. P.80-83.
He W., Sun H., Zhou Y., et al. Customized binary and multi-level HfO2-x-based memristors tuned by oxidation conditions // Scientific Reports. 2017. V. 7. Article number: 10070.
Ассоциативная память на основе клеточной нейронной сети с биполярной ступенчатой функцией активации | Прикладная дискретная математика. 2020. № 48. DOI: 10.17223/20710410/48/9