Heuristic Models and Methods for Application of the Kohonen Neural Network in the Intellectual System of Medical-Sociological Monitoring

Abstract

For increasing the speed of making classification decisions, the possibilities of supervised deep neural networks training are used in systems of medical and sociological monitoring. But the data obtained during the monitoring process are semistructured and -labelled. This greatly reduces speed and increases supervised machine-training error. The paper proposes heuristic models and methods of using the Kohonen network to increase the training rate on the semi-supervised mode without losing the accuracy level of data classification in intelligent systems of medical and sociological monitoring. More specifically, proposed tools include improved models for the presentation of semi-structured and -labelled medical and sociological monitoring data in the spaces of properties and features due to formalization of procedure of the detailed data aggregation, as well as the semi-supervised training of the Kohonen network using the method of matching existing pre-labelled data with the obtained labels of features clusters. In addition, the method of adjusting weight coefficients in the process of training the Kohonen neural network through the use of a modified genetic algorithm to classify medical and sociological monitoring data was further developed. The proposed modification of the genetic algorithm consists in using the method of matching labels of classes and clusters in assessment the adaptability of chromosomes in the population generated for each example from training sample of medical and sociological monitoring data. It is proposed for evaluating the adaptability of chromosomes to calculate the completeness of the classification as the ratio of the number of found representatives of the positive class to all representatives of the positive class. When performing the selection procedure on the basis of the obtained adaptability score, the two most adapted (“winner” and “vice-winner”) chromosomes are selected and crossed, whereas in contrast, the two least adapted (“loser” and “vice-loser”) chromosomes are deleted. The crossing is implemented as the exchange of genes between the winner and vice-winner chromosomes, taking into account a randomly selected crossing-over point. Upon mutation, a random number distributed according to a uniform law is added to each chromosome gene, which is an auxiliary method for creating a new chromosome to prevent degeneration of the population. The proposed heuristic models and methods are the basis for the implementation of a separate module as part of the intellectual system of medical and sociological monitoring. Testing the modified intellectual system using well-known test examples from the machine training database and real medical and sociological data showed an increase in the training speed of the Kohonen network with a given level of classification accuracy. Thus, the introduction of the proposed tools allows increasing the efficiency of classification decisions without losing their level of accuracy in intelligent systems of medical and sociological monitoring.

В системах медико-соціологічного моніторингу для збільшення оперативності прийняття класифікаційних рішень використовують можливості навчання глибинних нейронних зі вчителем. Але данні, що накопичуються в процесі моніторингу є слабко структурованими та маркованими. Це значно знижує швидкість та підвищує помилку машинного навчання зі вчителем. В роботі запропоновані евристичні моделі та методи застосування мережі Кохонена для збільшення швидкості навчання з частковим залученням вчителя без втрати рівня достовірності класифікації даних в інтелектуальних системах медико-соціологічного моніторингу. А саме удосконалені моделі представлення слабко структурованих та маркованих даних медико-соціологічного моніторингу в просторах властивостей та ознак за рахунок формалізації процедури агрегації деталізованих даних, а також метод навчання мережі Кохонена з частковим залученням вчителя з використанням методу узгодження наявних попередньо маркованих даних із отриманими маркерами кластерів ознак. Крім того отримав подальший розвиток метод корегування вагових коефіцієнтів в процесі навчання нейронної мережі Кохонена за рахунок використання модифікованого генетичного алгоритму для класифікації даних медико-соціологічного моніторингу. Запропонована модифікація генетичного алгоритму полягає у використанні методу узгодження маркерів класів та кластерів при розрахуванні оцінки пристосованості хромосом в популяції, яка генерується для кожного прикладу із навчальної вибірки даних медико-соціологічного моніторингу. Для оцінки пристосованості хромосом запропоновано розраховувати повноту класифікації, як відношення кількості представників позитивного класу, яких знайдено до усіх представників позитивного класу. При виконанні процедури селекції на основі отриманої оцінки пристосованості обирається по дві найбільш («переможець» та «віце-переможець») пристосовані хромосоми, які схрещуються та найменш («лузер» та «віце-лузер») пристосовані хромосоми які видаляються. Схрещування реалізовано як обмін генами між хромосомами «переможець» та «віце-переможець» з врахуванням випадково обраної точки кросинговеру. При мутації до кожного гену хромосоми додається випадкове число, розподілене за рівномірним законом, що є допоміжним методом для створення нової хромосоми для запобігання виродження популяції. Запропоновані евристичні моделі та методи є основою для реалізації окремого модуля у складі інтелектуальної системи медико-соціологічного моніторингу. Апробація модифікованої інтелектуальної системи на відомих тестових прикладах із бази даних машинного навчання та реальних медико-соціологічних даних показала підвищення швидкості навчання мережі Кохонена із забезпеченням заданого рівня достовірності класифікації.

В системах медико-социологического мониторинга для увеличения оперативности принятия классификационных решений используют возможности обучения глубинных нейронных с учителем. Но данные, которые накапливаются, в процессе мониторинга являются слабо структурированными и маркированными. Это значительно снижает скорость и повышает ошибку машинного обучения с учителем. В работе предложены эвристические модели и методы применения сети Кохонена для увеличения скорости обучения с частичным привлечением учителя без потери уровня достоверности классификации данных в интеллектуальных системах медико-социологического мониторинга. А именно усовершенствованные модели представления слабо структурированных и маркированных данных медикосоциологического мониторинга в пространствах свойств и признаков за счет формализации процедуры агрегации детализированных данных, а также метод обучения сети Кохонена с частичным привлечением учителя с использованием метода согласования имеющихся предварительно маркированных данных с полученными маркерами кластеров признаков. Кроме того получил дальнейшее развитие метод корректировки весовых коэффициентов в процессе обучения нейронной сети Кохонена за счет использования модифицированного генетического алгоритма для классификации данных медикосоциологического мониторинга. Предложенная модификация генетического алгоритма заключается в использовании метода согласования маркеров классов и кластеров при расчете оценки приспособленности хромосом в популяции, которая генерируется для каждого примера с обучающей выборки данных медико-социологического мониторинга. Для оценки приспособленности хромосом предложено рассчитывать полноту классификации, как отношение числа представителей положительного класса, которые найдено ко всем представителям положительного класса. При выполнении процедуры селекции на основе полученной оценки приспособленности избирается по две наиболее («победитель» и «вице-победитель») приспособленные хромосомы, которые скрещиваются и наименее («лузер» и «вице-лузер») приспособленные хромосомы которые удаляются. Скрещивание реализовано как обмен генами между хромосомами «победитель» и «вице-победитель» с учетом случайно выбранной точки кроссинговера. При мутации к каждому гену хромосомы добавляется случайное число, распределенное по равномерному закону, что является вспомогательным методом для создания новой хромосомы для предотвращения вырождения популяции. Предложенные эвристические модели и методы являются основой для реализации отдельного модуля в составе интеллектуальной системы медико-социологического мониторинга. Апробация модифицированной интеллектуальной системы на известных тестовых примерах, из базы данных машинного обучения и реальных медико-социологических данных, показала повышение скорости обучения сети Кохонена с обеспечением заданного уровня достоверности классификации.