1.1. Изучение коллективной динамики и структурообразования в неравновесных средах
Рассмотрена одномерная колебательная среда со связью через диффузное линейное поле. В пределе быстрой диффузии эта система сводится к классической модели Курамото-Баттогтоха. Показано, что для конечной диффузии реализуются устойчивые химерные солитоны, представляющие собой локализованные синхронные области в бесконечной асинхронной среде. Солитоны устойчивы также при конечной плотности осцилляторов, но в этом случае они движутся с почти постоянной скоростью. Этот дрейф, вызванный конечной плотностью, исчезает в континуальном пределе. Показано, что скорость солитонов обратно пропорциональна плотности частиц. Продемонстрировано, что длинноволновая неустойчивость однородного асинхронного состояния может привести к солитонной турбулентности, которая проявляется как случайная последовательность слияний и рождений солитонов. Когда неустойчивость асинхронного состояния усиливается, турбулентность перерастает в пространственно-временную перемежаемость.
[1.1a] Smirnov, M.I. Bolotov, D.I. Bolotov, G.V. Osipov, A. Pikovsky. Finite-density-induced motility and turbulence of chimera solitons // New Journal of Physics, V. 24, P. 043042 (2022). (WoS, Scopus, РИНЦ, Q1).
[1.1b] Болотов М.И., Смирнов Л.А., Осипов Г.В. Динамика многокомпонентных сред нелокально связанных фазовых осцилляторов. // Программы для ЭВМ. (Номер регистрации (свидетельства): 2022610662. Дата регистрации: 13.01.2022.)
[1.1c] Муняев В.О. Синхронизация и хаос в ансамблях связанных ротаторов // Диссертация на соискание степени кандидата физико-математических наук, специальность 1.3.4. – радиофизика (дата защиты 15.02.2023).
1.2. Методы машинного обучения и обработки больших массивов данных в кардиологии
1.2.1. Выполнен сбор данных ЭКГ для машинного обучения в объеме 1200 12-канальных ЭКГ покоя и 700 1-канальных ЭКГ длительностью от 1 часа до 20 часов. Выполнена доврачебная разметка собранных данных автоматическими методами с использованием машинного обучения с последующей валидацией врачами функциональной диагностики.
[2.1a] Никольский А.В., Москаленко В.А., Карчков Д.А., Осипов Г.В. “Телемедицинский кардиомониторинг: организационные, правовые и клинические аспекты сегодня.” // IV Санкт-Петербургский аритмологический форум ФГБУ “НМИЦ ССХ им. Алмазова” 18-21.05.2022.
[2.1b] Никольский А.В., Москаленко В.А., Карчков Д.А., Золотых Н.Ю., Осипов Г.В. “Возможности телемедицинского мониторинга сегодня” // IV Санкт-Петербургский аритмологический форум ФГБУ “НМИЦ ССХ им. Алмазова” 18-21.05.2022
[2.1c] Никольский А.В., Москаленко В.А., Карчков Д.А., Осипов Г.В. “Возможности телемедицинского кардиомониторинга” // Симпозиум “Цифровые технологии в кардиологии” Форум молодых кардиологов Российского кардиологического общества на базе ФГБУ “НМИЦ ССХ им. Бакулева” г. Москва 14.05.2022.
[2.1d] Никольский А.В., Москаленко В.А., Карчков Д.А., Золотых Н.Ю., Осипов Г.В. “Машинный анализ ЭКГ и кардиомониторинг- новые возможности скрининга пациентов” // Международный конгресс, посвященный А.Ф. Самойлову «Фундаментальная и клиническая электрофизиология. Актуальные вопросы аритмологии». 7-8 апреля 2022, г. Казань. К 155-летию А.Ф. Самойлова.
1.2.2. Методом картирования биоэлектрической активности изолированного сердца крысы мультиэлектродными матрицами был показан аритмогенный эффект сочетанного воздействия механического и гипоксического воздействия на миокард. Были изучены механизмы активности синусового узла и электрической проводимости миокарда в качестве предикторов жизнеугрожающих аритмий, проявляющиеся в изменениях значений частотных и пространственно-временных параметров работы сердца.
[2.2a] Харьковская Е.Е., Осипов Г.В., Мухина И.В. Изучение механизма развития фибрилляции сердца крысы методом мультиэлектродного картирования. // Ежегодная всероссийская научно-практическая конференция “Кардиология на марше 2022” и 62-я сессия ФГБУ “НМИЦ Кардиологии” Минздрава России. 7-9 июня 2022 г.
[2.2b] Харьковская Е.Е., Осипов Г.В., Мухина И.В. Влияние дигоксина на электрическую активность изолированного сердца крысы.// Российский кардиологический журнал. V Международный конгресс, посвященный А.Ф. Самойлову «Фундаментальная и клиническая электрофизиология. Актуальные вопросы аритмологии». 7-8 апреля 2022, г. Казань. К 155-летию А.Ф. Самойлова. 27(5S), дополнительный выпуск (апрель). С: 55.
1.2.3. Исследованы алгоритмы диагностики синусового ритма и мерцательной аритмии. Среди большого спектра состояний сердечно-сосудистой системы человека, основное внимание было сконцентрировано на детектировании в сигнале большой длительности участков, классифицируемых специалистами как комплексы с превалированием синусового ритма и фибрилляции предсердий (мерцательной аритмии). Разработан механизм поиска указанных патологий на основе модифицированной архитектуры сверточной нейронной сети типа U-net. Модифицированная U-Net архитектура в задаче определения синусового ритма и фибрилляции оказалась предпочтительнее по точности определения фибрилляции в сравнении с архитектурой CNN-LSTM, а также точность, полнота и F1-score по классу синусового ритма в сравнении с архитектурой глубокой CNN. Стоит отметить, что рассматриваемая в рамках исследования нейронная сеть, после необходимых доработок, будет интегрирована в существующий диагностический комплекс «Кардио-Маяк», разработанный на базе ННГУ им. Лобачевского.
В ходе дальнейших исследований были проанализированы известные свёрточные нейронные сети (а именно DenseNet, ResNet, XceptionNet и классические глубокие CNN), показавшие отличные результаты в анализе изображений. В частности, данные сети были адаптированы под анализ сигналов ЭКГ для проверки эффективности в задаче определения типа ритма (синусовый, фибрилляции). В рамках исследования возможностей различных архитектур нейронных сетей по детектированию фибрилляции в сигнале ЭКГ было установлено, что наиболее подходящей архитектурой для решения задачи выступает DenseNet. Решение интегрировано в диагностическую систему “Кардиомаяк”, ориентированную на исследование патологических сигналов электрокардиограмм. Выбор архитектуры обусловлен лучшим соотношением метрик качества и числу обучаемых параметров. Матрица рассогласований имеет долю 4.23% суммарной ошибки. Значения чувствительности и специфичности превышают 95% и 97% соответственно.
[2.3a] Родионов, Д. М., Карчков, Д. А., Москаленко, В. А., Никольский, A. B., Осипов, Г. В., Золотых, Н. Ю. Диагностика синусового ритма и мерцательной аритмии средствами искусственного интеллекта. // Проблемы информатики, V. 1 (54), Pp. 77-88 (2022). [2.3b] Rodionov, D., Karchkov, D., Moskalenko, V., Nikolsky, A., Osipov, G., Zolotykh, N. // Possibility of Using Various Architectures of Convolutional Neural Networks in the Problem of Determining the Type of Rhythm. In International Conference on Neuroinformatics (pp. 362-370). Springer, Cham. (2023).
1.3. Методы машинного обучения и обработки больших массивов данных в нейронауке
1.3.1. Предложен новый подход к анализу экспериментальных данных активности нейронов с использованием современных методов классификации данных. Выявлено, что представление данных в виде средней активности спайковых последовательностей несет информацию о типе нейрональных клеток и позволяет эффективно классифицировать исходные данные. Были получены и успешно протестированы модели классификации последовательностей потенциалов действия нейронов, выделенных из лобной коры крыс и представленных в открытом доступе, для задачи классификации типов нейронов на возбуждающие и тормозные. Предложенные модели анализа временных рядов продемонстрировали хорошее качество классификации. Предложенный подход позволяет использовать модельные данные не только для этого типа данных, но и для других подобного характера. В дальнейшем планируется сравнить предобработку данных в виде средней активности с предобработкой в виде межспайковых интервалов, а также изучить такое представление данных на устойчивость к шумовому сигналу.
[3.1] Rylov A., Levanova T., Stasenko S. Classification of Neuron Type Based on Average Activity // International Conference on Neuroinformatics. Springer, Cham. С. 207-213. (2023).
1.3.2. Экстремальные события (ЭС) – редкие, повторяющиеся и сильные отклонения от регулярного поведения, наблюдающиеся в различных биологических и инженерных системах и сильно влияющие на их динамику. ЭС часто происходят спонтанно, без видимых предпосылок. Они редки в том смысле, что частота, с которой они происходят, значительно меньше, чем типичная частота системы, и они экстремальны в том смысле, что их амплитуды в несколько раз превышают стандартное отклонение наблюдаемой величины от среднего. Разработана новая, основанная на математической оптимизации, Громовмодель ансамблевого глубокого обучения для предсказания сложных паттернов активности в нейродинамике. Для этого реализован ансамбль, состоящий из трех глубоких нейросетей: (i) нейронная сеть с прямой связью (FNN), (ii) резервуарные вычисления (RC) и (iii) сеть долгосрочной-краткосрочной памяти (LSTM). Две из указанных сетей (RC и LSTM) являются вариантами рекуррентных нейронных сетей, которые хорошо работают с последовательностями и временными рядами. Полученный таким образом метод ансамблевого прогнозирования будет иметь лучшую точность, чем его компоненты, но в то же время не должен быть слишком сложным для понимания и объяснения. В-третьих, весовые коэффициенты, с которыми ответы каждой нейросети в отдельности учитываются в составе общего ответа ансамбля, дополнительно оптимизируются, что также помогает улучшить точность предсказания. Работоспособность подхода продемонстрирована на искусственных данных, содержащих хаотическую динамику и ЭС, сгенерированных с использованием трех известных динамических систем: системы Льенара, системы двух связанных элементов ФитцХью-Нагумо и системы двух пачечных нейронов Хиндмарш-Роуз со взаимными химическими связями. На примере указанных моделей определено, как конкретные свойства временного ряда (такие как глобальный и локальный показатели Ляпунова) влияют на длительность и точность прогноза.
[3.2а] Gromov N, Gubina E, Levanova T. Loss functions in the prediction of extreme events and chaotic dynamics using machine learning approach. // In 2022 Fourth International Conference Neurotechnologies and Neurointerfaces (CNN). Pp. 46-50. IEEE. (2022).
[3.2b] Леванова Т.А., Громов Н.В. «Прогнозирование экстремальных событий и хаотической динамики с использованием подхода машинного обучения» // Программы для ЭВМ. (Номер регистрации (свидетельства): 2022682860. Дата регистрации: 28.11.2022.).
1.4. Исследования и разработки в области классических нейросетей, искусственного интеллекта с точки зрения различных приложений
Разработан подход к задаче обучения без учителя, в рамках которого процесс распознавания агентом изображения представляет собой последовательность экспериментов. Обучение сводится к целенаправленному поиску и сохранению информации о том, какой эксперимент информационно выгодно совершать при какой предыстории экспериментов и их сенсорных результатов. Метод был протестирован на изображениях простой структуры (рукописные символы алфавитов мира). Было показано, что в ходе обучения вырастает структура распознающей последовательности экспериментов, которая интерпретируемо сопоставляется с рукописным символом, который изучался агентом. Разработана формула, сопоставляющая последовательности экспериментов и их результатам проверки число (энергию), которое тем больше, чем более нетривиальные предсказания исполнились в серии экспериментов, поставленных агентом в данной сессии распознавания. В ходе тестирования было показано, что основные положения метода работоспособны, а выделяемые в ходе обучения агента события на изображениях зачастую имеют понятную человеку семантику.
[4.1] Середа Я.А., Никоноров И.Д., Преображенская Ю.Д. Модель обучения агента, основанная на заполнении когнитивной карты // XXIV Международная научно-техническая конференция “НЕЙРОИНФОРМАТИКА-2022” : сборник научных трудов. – Москва : МФТИ, 2022. с. 279-287
1.5 Дополнительные задачи
В рамках выполнения проекта были также решены следующие дополнительные задачи, в рамка которых методы машинного и глубокого обучения используются для решения ряда физических проблем (в частности, фотоники).
1.5.1. Показано, что сценарии развития модуляционной неустойчивости в нелинейных фотонных решетках определяются топологическими свойствами энергетических зон. Анализ модуляционной неустойчивости позволил установить топологию зонной структуры (тривиальна она или нетривиальна). С помощью методов машинного обучения определены параметры решёток, для которых теоретически описанные алгоритмы извлечения топологического инварианта работают наиболее эффективно.
Проведена классификация топологических фаз фотонных решеток с радиационными потерями с помощью методов машинного обучения, в частности – создана нейронная сеть, определяющая топологические свойства по измерению интенсивности на выходе массива волноводов с вытекающими каналами после эволюции пространственно локализованного начального распределения, выявлены свойства нейронной сети, а именно установлена ее устойчивости при учете шумов, беспорядка и дальнодействия.
Показано, что каналируемый доменной стенкой импульс в топологической решётке на основе димеризованного графена является нелинейной простой волной с укручающимся по мере распространения задним фронтом. С помощью методов машинного обучения определены параметры системы, при которых учет пространственной дисперсии приводит к формированию квазисолитонных структур. Выполненное численное моделирование реалистичной фотонной решётки показало хорошее согласие с развитой теорией.
Исследованы связанные состояния, локализованные около топологического дефекта в наноструктурированной метаповерхности симметрии С6, параметры которой были оптимизированы с помощью методов машинного обучения. Структура спектрально изолированного связанного состояния, интенсивность поля в котором спадает с увеличением расстояния от центра сочленения, получена в полномасштабном численном моделировании метаповерхности, и аналитически проанализирована с помощью метода сильной связи и континуальных уравнений Дирака.
[5.1a] Smolina E.O., Smirnov L.A., Smirnova D.A. Edge states and modulation instability in nonlinear photonic topological lattices // Saint Petersburg OPEN 2022, 24-27 мая, 2022.
[5.1b] E. Smolina, L. Smirnov, D. Smirnova, A. Khorkin, and N. Kulikov. Probing band topology of photonic topological insulators // AIRI Summer School and Conference at Sirius University, 18-26 июля 2022.
[5.1c] Смолина Е.О., Смирнов Л.А., Вычисление топологического инварианта фотонных систем// Международный форум молодых ученых государств-участников СНГ «Наука без границ», Нижний Новгород 1-4 ноября 2022.
[5.1d] Е. О. Смолина, А. С. Хорькин, Д. А. Смирнова, Н. С. Куликов, Л. А. Смирнов, определение топологического фаз фотонных решёток// Школа Нелинейные волны – 2022, Нижний Новгород 7-13 ноября 2022, Тезисы докладов, с. 252-253.
[5.1e] Е. О. Смолина, Л. А. Смирнов, Д. А. Смирнова. Краевые волны и модуляционная неустойчивость в нелинейных фотонных топологических решётках. // Всероссийская научная конференция с международным участием «Енисейская фотоника-2022», Красноярск 19-24 сентября 2022, Тезисы докладов (том 2), с.77-78.
[5.1f] Е. О. Смолина, Д. А. Смирнова. Моды топологических дефектов в кекуле-структурированных метаповерхностях. // Всероссийская научная конференция с международным участием «Енисейская фотоника-2022» , Красноярск 19-24 сентября 2022, Тезисы докладов (том 2), с.90-91.
1.5.2. Рассмотрена задача о распространении оптических импульсов в средах с нелинейностью Керра. В качестве математической модели, описывающей процессы распространения оптического импульса, выбрано обобщенное параболическое уравнение, которое в безразмерных переменных имеет вид одномерного модифицированного Нелинейного Уравнения Шредингера. Эксперименты по обучению полносвязной нейронной сети с различными функциями оптимизации показали перспективность использования квази-ньютоновской функции оптимизации L-BGFS над функциями первого порядка в данной задаче.
Были рассмотрены два способа учета изменения (невязки) сохраняющейся величины в функции потерь нейронной сети. Для одномерной задачи метод плоскостей непрерывности был более эффективен чем интегрирование методом Монте-Карло, который обычно дает преимущество в более высокоразмерных задачах. Введение пяти эквидистантных плоскостей непрерывности уменьшило ошибку оригинального метода примерно на 20%. Было также показано, что сходимость и точность модифицированной версии PINN чувствительны к расположению плоскостей непрерывности – одна удачно выбранная плоскость может уменьшить относительную ошибку нейросетевого решения на 60%.
[5.2a] Е.П. Васильев, Д.И. Болотов, М.И. Болотов, Л.А. Смирнов. Нейросетевой подход к решению задачи самовоздействия волновых полей в нелинейных средах // Проблемы информатики 1, 5-16 (2022) (РИНЦ).
[5.2b] Gurieva J.V., Vasiliev E.P., Smirnov L.A. improvements of accuracy and convergence speed of ai-based solution for the korteweg – de vries equation // Сборник трудов Молодежной школы «Математика и ИТ – вместе в цифровое будущее», Нижний Новгород 25–29 апреля 2022, с. 5-10 (РИНЦ)
[5.2c] Gurieva J.V., Vasiliev E.P., Smirnov L.A. Application of conservation laws to the learning of physics-informed neural networks // Procedia Computer Science, V. 212, Pp. 464-473 (2022) ( Scopus).
[5.2d] Ю.В. Гурьева, Е.П. Васильев, Л.А. Смирнов. Применение законов сохранения в нейросетевом решении одномерного нелинейного уравнения Шрёдингера // 22-я международная конференция и молодежная школа “Математическое моделирование и суперкомпьютерные технологии”, Нижний Новгород 14-15 ноября 2022, (секционный доклад).