Приветствие
О себе:
Меня зовут Дария. Последние несколько лет я занимаюсь наукой о мозге. Она бесповоротно очаровала меня теми вопросами, на которые пытается дать ответы — кто я? Что такое сознание? Как мы воспринимаем окружающий мир? Постепенно на смену восторженному куражу, который сопровождал меня в начале научного пути, пришло агностическое успокоение и нацеленность на прикладные нюансы: если раньше я занималась исключительно фундаментальными исследованиями восприятия и мышления, то сейчас большую часть времени отвожу разработке математических методов анализа сигналов мозга и их применению в клинических задачах.
Мотивация создания канала:
На всём протяжении моей исследовательской деятельности казалось невозможным соприкасаться с открывающимися мне гранями науки в одиночестве — хотелось делиться ими с окружающими. Я делала это в различных форматах: на открытых лекциях, в качестве преподавателя на образовательных модулях или публикуя научно-популярные тексты (например, в издании "Нож"). Этот канал я решила создать как платформу, на которой я смогла бы не столько выступать в роли непредвзятого "эксперта", которая в той или иной степени неизбежно накладывается при публичном представлении информации, сколько делиться интересующими меня аспектами науки через призму собственного опыта.
Некоторые темы, которых будет касаться канал:
- Будни учёного: рассказы о том, над чем я работаю в текущий момент;
- Образовательное: особенности выживания в аспирантуре НИУ ВШЭ, обучение в которой я начинаю с ноября, рефлексия на тему магистратуры там же и бакалавриата по свободным искусствам и наукам в СПбГУ;
- Заметки по последним прочитанным статьям и книгам из области нейронауки и психологии;
- Soft skills учёного: навыки и лайфхаки, которые оптимизировали мою продуктивность и работу в академической среде;
- Сводки по научным мероприятиям, в которых я участвую (конференции, семинары и т. д.);
- Вопросы нейроучёному: ответы на самые распространённые вопросы о мозге и психике, с которыми мне приходилось сталкиваться.
Добро пожаловать!
О себе:
Меня зовут Дария. Последние несколько лет я занимаюсь наукой о мозге. Она бесповоротно очаровала меня теми вопросами, на которые пытается дать ответы — кто я? Что такое сознание? Как мы воспринимаем окружающий мир? Постепенно на смену восторженному куражу, который сопровождал меня в начале научного пути, пришло агностическое успокоение и нацеленность на прикладные нюансы: если раньше я занималась исключительно фундаментальными исследованиями восприятия и мышления, то сейчас большую часть времени отвожу разработке математических методов анализа сигналов мозга и их применению в клинических задачах.
Мотивация создания канала:
На всём протяжении моей исследовательской деятельности казалось невозможным соприкасаться с открывающимися мне гранями науки в одиночестве — хотелось делиться ими с окружающими. Я делала это в различных форматах: на открытых лекциях, в качестве преподавателя на образовательных модулях или публикуя научно-популярные тексты (например, в издании "Нож"). Этот канал я решила создать как платформу, на которой я смогла бы не столько выступать в роли непредвзятого "эксперта", которая в той или иной степени неизбежно накладывается при публичном представлении информации, сколько делиться интересующими меня аспектами науки через призму собственного опыта.
Некоторые темы, которых будет касаться канал:
- Будни учёного: рассказы о том, над чем я работаю в текущий момент;
- Образовательное: особенности выживания в аспирантуре НИУ ВШЭ, обучение в которой я начинаю с ноября, рефлексия на тему магистратуры там же и бакалавриата по свободным искусствам и наукам в СПбГУ;
- Заметки по последним прочитанным статьям и книгам из области нейронауки и психологии;
- Soft skills учёного: навыки и лайфхаки, которые оптимизировали мою продуктивность и работу в академической среде;
- Сводки по научным мероприятиям, в которых я участвую (конференции, семинары и т. д.);
- Вопросы нейроучёному: ответы на самые распространённые вопросы о мозге и психике, с которыми мне приходилось сталкиваться.
Добро пожаловать!
Голубь Скиннера pinned «Приветствие О себе: Меня зовут Дария. Последние несколько лет я занимаюсь наукой о мозге. Она бесповоротно очаровала меня теми вопросами, на которые пытается дать ответы — кто я? Что такое сознание? Как мы воспринимаем окружающий мир? Постепенно на смену…»
BF-NAICS 2021
#resources
Эта неделя запомнилась мне участием в форуме BF-NAICS 2021. На протяжении трёх дней представители нейронауки, сферы искусственного интеллекта и теории сложных систем обсуждали текущие достижения в фундаментальных исследованиях и прикладных разработках. В следующих постах поделюсь заметками на основе некоторых докладов.
Ссылки на видеозаписи пленарных лекций представлены ниже:
13 сентября:
- Стефано Боккалетти, "Процессы и динамика в сетях за пределами парных взаимодействий";
- Андрей Зиновьев, "Многомерная геометрия сложных молекулярных данных";
- Константин Анохин, "Нейронный код: в поисках клеточных принципов кодирования когнитивной информации";
14 сентября:
- Итамар Прокачча, "Диффузионная ограниченная агрегация: создание моделей фрактального роста";
- Иван Оселедец, "Геометрия в задачах машинного обучения";
- Василий Ключарев, Анна Шестакова, "Машинное обучение в когнитивной нейровизуализации";
15 сентября:
- Михаил Иванченко, "Динамика старения: сложные системы, сети, биомаркеры";
- Михаил Бурцев, "Вызовы для глубокого обучения";
- Михаил Лебедев, "Управление нейроинтерфейсом в разных режимах: «ловкость рук» и нейропластичность";
- Павел Балабан, "Формирование, поддержание и регуляция памяти".
#resources
Эта неделя запомнилась мне участием в форуме BF-NAICS 2021. На протяжении трёх дней представители нейронауки, сферы искусственного интеллекта и теории сложных систем обсуждали текущие достижения в фундаментальных исследованиях и прикладных разработках. В следующих постах поделюсь заметками на основе некоторых докладов.
Ссылки на видеозаписи пленарных лекций представлены ниже:
13 сентября:
- Стефано Боккалетти, "Процессы и динамика в сетях за пределами парных взаимодействий";
- Андрей Зиновьев, "Многомерная геометрия сложных молекулярных данных";
- Константин Анохин, "Нейронный код: в поисках клеточных принципов кодирования когнитивной информации";
14 сентября:
- Итамар Прокачча, "Диффузионная ограниченная агрегация: создание моделей фрактального роста";
- Иван Оселедец, "Геометрия в задачах машинного обучения";
- Василий Ключарев, Анна Шестакова, "Машинное обучение в когнитивной нейровизуализации";
15 сентября:
- Михаил Иванченко, "Динамика старения: сложные системы, сети, биомаркеры";
- Михаил Бурцев, "Вызовы для глубокого обучения";
- Михаил Лебедев, "Управление нейроинтерфейсом в разных режимах: «ловкость рук» и нейропластичность";
- Павел Балабан, "Формирование, поддержание и регуляция памяти".
bfnaics.kantiana.ru
BF-NAICS 2022
Балтийский форум: нейронаука, искусственный интеллект и сложные системы
BF-NAICS 2021. Астроциты в искусственном интеллекте [1]
#neuro
В последний день форума BF-NAICS 2021 на секции по нейронауке запомнился доклад, представленный группой из Института прикладной физики РАН и Нижегородского государственного университета им. Н.И. Лобачевского. Он был посвящён моделированию рабочей памяти с использованием искусственной сети, включающей не только нейроны, но и астроциты.
Препринт с подробностями разработки: Tsybina, Y., Kastalskiy, I., Krivonosov, M., Zaikin, A., Kazantsev, V., Gorban, A., & Gordleeva, S. (2021). Astrocytes mediate analogous memory in a multi-layer neuron-astrocytic network. arXiv preprint arXiv:2108.13414.
Общая проблематика
Рабочая память предполагает хранение информации на протяжении некоторого промежутка времени (нескольких секунд). Затем часть информации переходит в долговременную память, а часть — стирается. При предъявлении стимулов, схожих с хранящейся в рабочей памяти информации, происходит её извлечение. Это извлечение представляется в виде активации кластеров нейронов, кодирующих исходную информацию. На текущий момент актуальна разработка адекватных математических моделей, которые смогли бы воспроизвести механизмы рабочей памяти.
Зачем нужны астроциты?
Астроциты — это тип нейроглии. Нейроглия выполняет вспомогательную роль, создавая благоприятные условия для функционирования нейронов, обеспечивая их метаболические и иные процессы. В частности, астроциты могут участвовать в росте нервной ткани, гомеостазе, защищать нервную ткань от прямого контакта с кровеносным руслом и т. д. Так считалось длительное время, пока последние исследования не показали, что астроциты могут напрямую участвовать в непосредственных процессах обмена информацией между нейронами. Поэтому дополнение искусственных нейронных сетей моделями астроцитов может привести к более точному и биологически обоснованному воспроизведению реальных процессов нейрональной коммуникации.
Что было сделано?
Авторы представили модель рабочей памяти на основе спайковой нейронной сети (англ. Spiking neural network, SNN) и слоя искусственных астроцитов. На сеть подавалось изображение (фотография лица человека), которое сохранялось и поддерживалось в ней на протяжении характеристического времени, соответствующего активации астроцитов. Эта медленная и постепенная активация астроцитов, предполагающая изменение уровня концентрации ионов кальция и продолжающаяся несколько секунд, посредством изменения частоты возбуждения нейронов модулировала передачу сигналов в нейрональных ансамблях, соответствующих заданным астроцитам. Если в этот период на сеть подавалась информация, напоминающая исходную, паттерны, хранящиеся в сети, успешно реконструировались. Затем паттерны окончательно пропадали, что открывало доступ к сохранению новой информации.
#neuro
В последний день форума BF-NAICS 2021 на секции по нейронауке запомнился доклад, представленный группой из Института прикладной физики РАН и Нижегородского государственного университета им. Н.И. Лобачевского. Он был посвящён моделированию рабочей памяти с использованием искусственной сети, включающей не только нейроны, но и астроциты.
Препринт с подробностями разработки: Tsybina, Y., Kastalskiy, I., Krivonosov, M., Zaikin, A., Kazantsev, V., Gorban, A., & Gordleeva, S. (2021). Astrocytes mediate analogous memory in a multi-layer neuron-astrocytic network. arXiv preprint arXiv:2108.13414.
Общая проблематика
Рабочая память предполагает хранение информации на протяжении некоторого промежутка времени (нескольких секунд). Затем часть информации переходит в долговременную память, а часть — стирается. При предъявлении стимулов, схожих с хранящейся в рабочей памяти информации, происходит её извлечение. Это извлечение представляется в виде активации кластеров нейронов, кодирующих исходную информацию. На текущий момент актуальна разработка адекватных математических моделей, которые смогли бы воспроизвести механизмы рабочей памяти.
Зачем нужны астроциты?
Астроциты — это тип нейроглии. Нейроглия выполняет вспомогательную роль, создавая благоприятные условия для функционирования нейронов, обеспечивая их метаболические и иные процессы. В частности, астроциты могут участвовать в росте нервной ткани, гомеостазе, защищать нервную ткань от прямого контакта с кровеносным руслом и т. д. Так считалось длительное время, пока последние исследования не показали, что астроциты могут напрямую участвовать в непосредственных процессах обмена информацией между нейронами. Поэтому дополнение искусственных нейронных сетей моделями астроцитов может привести к более точному и биологически обоснованному воспроизведению реальных процессов нейрональной коммуникации.
Что было сделано?
Авторы представили модель рабочей памяти на основе спайковой нейронной сети (англ. Spiking neural network, SNN) и слоя искусственных астроцитов. На сеть подавалось изображение (фотография лица человека), которое сохранялось и поддерживалось в ней на протяжении характеристического времени, соответствующего активации астроцитов. Эта медленная и постепенная активация астроцитов, предполагающая изменение уровня концентрации ионов кальция и продолжающаяся несколько секунд, посредством изменения частоты возбуждения нейронов модулировала передачу сигналов в нейрональных ансамблях, соответствующих заданным астроцитам. Если в этот период на сеть подавалась информация, напоминающая исходную, паттерны, хранящиеся в сети, успешно реконструировались. Затем паттерны окончательно пропадали, что открывало доступ к сохранению новой информации.
BF-NAICS 2021. Астроциты в искусственном интеллекте [2]
(Продолжение)
Устойчивость алгоритма
Использование разных уровней зашумления, а также предъявление нового лица показали, что алгоритм с использованием астроцитарной модуляции устойчив к зашумлению до 80 % (cм. Рис., Part 2: Test 1, Test 2) и успешно воспроизводит черты исходного лица даже при предъявлении нового (cм. рисунок, Part 2: Test 4). Использование же исключительно слоёв нейронов без астроцитов лишь повторяет визуальные паттерны без дополнительной информационной обработки, что выражается в меньшей устойчивости к зашумлению и невозможности воспроизвести исходную информацию при предъявлении нового стимула (см. Рис., Part 1).
Итоги
Cочетание динамики активации астроцитов с взаимодействием нейронов позволило создать устойчивую модель зрительной рабочей памяти, которая потенциально может превзойти стандартные алгоритмы глубокого обучения как в вычислительной эффективности, так и в точном воспроизведении процессов, происходящих в мозге.
(Продолжение)
Устойчивость алгоритма
Использование разных уровней зашумления, а также предъявление нового лица показали, что алгоритм с использованием астроцитарной модуляции устойчив к зашумлению до 80 % (cм. Рис., Part 2: Test 1, Test 2) и успешно воспроизводит черты исходного лица даже при предъявлении нового (cм. рисунок, Part 2: Test 4). Использование же исключительно слоёв нейронов без астроцитов лишь повторяет визуальные паттерны без дополнительной информационной обработки, что выражается в меньшей устойчивости к зашумлению и невозможности воспроизвести исходную информацию при предъявлении нового стимула (см. Рис., Part 1).
Итоги
Cочетание динамики активации астроцитов с взаимодействием нейронов позволило создать устойчивую модель зрительной рабочей памяти, которая потенциально может превзойти стандартные алгоритмы глубокого обучения как в вычислительной эффективности, так и в точном воспроизведении процессов, происходящих в мозге.
Почему голубь?
#history
Предыстория
Название канала косвенно отсылает к продолжавшейся в 50-х годах XX века когнитивной революции, в результате которой изучение мозга и психики вышло на междисциплинарный уровень, а объяснение ментальных процессов стало осуществляться в терминах информационной обработки. Господствовавший на момент когнитивной революции бихевиоризм, напротив, отрицал возможность изучения "тёмного ящика" субъективного опыта и вместо этого ставил во главу угла исследования поведения как набора внешних реакций на внешние стимулы. Для радикального бихевиориста разум представлял собой чистый лист, который затем преобразуется посредством опыта и который можно научить чему угодно. Несмотря на то что ныне подобный подход считается устаревшим и упрощённым, отзвуки наследия бихевиористов возможно найти и сейчас — например, в прикладном анализе поведения, методы которого используются для коррекции поведения при аутизме, или в компонентах когнитивно-поведенческой терапии. Также экспериментальная деятельность бихевиористов позволила зафиксировать ряд интересных феноменов в психологии. К ним, в частности, относится "суеверие", обнаруженное у голубей одним из самых влиятельных бихевиористов Б. Ф. Скиннером.
Суеверные голуби
Скиннер помещал голодных голубей в клетку рядом с механической кормушкой, через которую поступал корм через регулярные интервалы времени независимо от поведения птиц. Обнаружилось, что голуби начинали повторять собственное поведение, которое однажды случайно совпало с поступлением еды. Голуби могли совершать повороты тела против часовой стрелки, двигать головой наподобие маятника или помещать её в определённые углы клетки. То есть случайное подкрепление поведения формировало ритуал, который голуби повторяли так, словно влияли на механизм, поставляющий корм. Довольно легко провести параллель с поведением людей — не только с суевериями и ритуалами в чистом виде, но и с классическими когнитивными искажениями. В частности, люди могут испытывать иллюзию контроля, преувеличивая своё влияние на события: например, люди готовы платить больше за лотерейный билет, если им предлагают выбирать его самостоятельно, а не случайным образом.
И ещё о голубях
"Суеверие" голубей могло ставиться последующими исследованиями под сомнения (например, ритуалы могли рассматриваться как результат предвосхищения корма, а не попыток влиять на время его подачи). Но этим приключения голубей Скиннера не ограничивались. Во время Второй мировой войны, когда автоматические системы управления полётом ракет не были достаточно развиты, Скиннер руководил проектом по созданию биологической системы наведения вооружений. Проект, что было ожидаемо, назывался "Голубь" (англ. Project Pigeon). Скиннер обучал голубей клевать мишень, проецируемую на экран внутри ракеты от линз с носа ракеты, что влияло на направление её движения. Предсказуемым образом проект был завершён в силу непрактичности.
Метафорическое
Для меня образ голубя Скиннера будет служить напоминанием о том, что как бихевиоризм изжил себя, оставшись закономерной ступенью развития науки о мозге, так же и когнитивный подход с его современными установками ждут перемены. И пока я занимаюсь научной деятельностью, я буду стараться быть открытой этим переменам.
#history
Предыстория
Название канала косвенно отсылает к продолжавшейся в 50-х годах XX века когнитивной революции, в результате которой изучение мозга и психики вышло на междисциплинарный уровень, а объяснение ментальных процессов стало осуществляться в терминах информационной обработки. Господствовавший на момент когнитивной революции бихевиоризм, напротив, отрицал возможность изучения "тёмного ящика" субъективного опыта и вместо этого ставил во главу угла исследования поведения как набора внешних реакций на внешние стимулы. Для радикального бихевиориста разум представлял собой чистый лист, который затем преобразуется посредством опыта и который можно научить чему угодно. Несмотря на то что ныне подобный подход считается устаревшим и упрощённым, отзвуки наследия бихевиористов возможно найти и сейчас — например, в прикладном анализе поведения, методы которого используются для коррекции поведения при аутизме, или в компонентах когнитивно-поведенческой терапии. Также экспериментальная деятельность бихевиористов позволила зафиксировать ряд интересных феноменов в психологии. К ним, в частности, относится "суеверие", обнаруженное у голубей одним из самых влиятельных бихевиористов Б. Ф. Скиннером.
Суеверные голуби
Скиннер помещал голодных голубей в клетку рядом с механической кормушкой, через которую поступал корм через регулярные интервалы времени независимо от поведения птиц. Обнаружилось, что голуби начинали повторять собственное поведение, которое однажды случайно совпало с поступлением еды. Голуби могли совершать повороты тела против часовой стрелки, двигать головой наподобие маятника или помещать её в определённые углы клетки. То есть случайное подкрепление поведения формировало ритуал, который голуби повторяли так, словно влияли на механизм, поставляющий корм. Довольно легко провести параллель с поведением людей — не только с суевериями и ритуалами в чистом виде, но и с классическими когнитивными искажениями. В частности, люди могут испытывать иллюзию контроля, преувеличивая своё влияние на события: например, люди готовы платить больше за лотерейный билет, если им предлагают выбирать его самостоятельно, а не случайным образом.
И ещё о голубях
"Суеверие" голубей могло ставиться последующими исследованиями под сомнения (например, ритуалы могли рассматриваться как результат предвосхищения корма, а не попыток влиять на время его подачи). Но этим приключения голубей Скиннера не ограничивались. Во время Второй мировой войны, когда автоматические системы управления полётом ракет не были достаточно развиты, Скиннер руководил проектом по созданию биологической системы наведения вооружений. Проект, что было ожидаемо, назывался "Голубь" (англ. Project Pigeon). Скиннер обучал голубей клевать мишень, проецируемую на экран внутри ракеты от линз с носа ракеты, что влияло на направление её движения. Предсказуемым образом проект был завершён в силу непрактичности.
Метафорическое
Для меня образ голубя Скиннера будет служить напоминанием о том, что как бихевиоризм изжил себя, оставшись закономерной ступенью развития науки о мозге, так же и когнитивный подход с его современными установками ждут перемены. И пока я занимаюсь научной деятельностью, я буду стараться быть открытой этим переменам.