#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Квантовые объяснения".
Этим эссе Юдковский открывает цепочку "Квантовая механика и множественные миры". В эссе Юдковский рассуждает, что именно ему не нравится в традиционном способе объяснять квантовую механику, и предупреждает читателя о том, что будет дальше.
https://lesswrong.ru/644
Новый перевод на сайте — эссе Элиезера Юдковского "Квантовые объяснения".
Этим эссе Юдковский открывает цепочку "Квантовая механика и множественные миры". В эссе Юдковский рассуждает, что именно ему не нравится в традиционном способе объяснять квантовую механику, и предупреждает читателя о том, что будет дальше.
https://lesswrong.ru/644
LessWrong на русском
Квантовые объяснения
Часто говорят, что квантовая механика должна быть непонятной. Это плохой подход --- как для ученика, так и для преподавателя. Я же обнаружил, что традиционно "непонятные" предметы обычно проще математики. Особенно если хочется всего лишь понять самые основы…
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Почему эволюция не наделила нас стремлением максимизировать эволюционную приспособленность? Можем ли мы уверенно предсказывать результат процесса, не имея понятия о его промежуточных шагах? Почему эмпатия мешает нам понимать, как устроен организм, отличный от человека? Как выглядела оптимизация на Земле до нашего времени?
Сегодня, 28 декабря, мы продолжим заканчиваем обсуждать цепочку "Простая математика эволюции" и переходим к цепочке "Хрупкие цели"
Поговорим про следующие эссе:
- Суть твоя — осколки бога;
- Убеждение в разумности;
- Люди в смешных нарядах;
- Оптимизация и взрывное развитие интеллекта.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/jhxrvud3ibhxvc2xkj5d2oigyy
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Почему эволюция не наделила нас стремлением максимизировать эволюционную приспособленность? Можем ли мы уверенно предсказывать результат процесса, не имея понятия о его промежуточных шагах? Почему эмпатия мешает нам понимать, как устроен организм, отличный от человека? Как выглядела оптимизация на Земле до нашего времени?
Сегодня, 28 декабря, мы продолжим заканчиваем обсуждать цепочку "Простая математика эволюции" и переходим к цепочке "Хрупкие цели"
Поговорим про следующие эссе:
- Суть твоя — осколки бога;
- Убеждение в разумности;
- Люди в смешных нарядах;
- Оптимизация и взрывное развитие интеллекта.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/jhxrvud3ibhxvc2xkj5d2oigyy
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
LessWrong на русском
Простая математика эволюции
Цель первой цепочки тома "Машина в призраке" --- описать противоречия между историей нашего происхождения, нашим современным биологическим устройством и нашими стремлениями. Это потребует углубиться в описание эволюции сильнее, чем привычно для не биологов…
Чтобы достигать своих целей, их полезно явным образом формулировать и записывать. Наступление Нового года часто кажется достаточно удобным временем для подведения итогов прошлого года и планирования будущего.
Однако, если вы никогда этим не занимались, построить план на год может оказаться достаточно сложно. И поэтому, возможно, стоит воспользоваться какими-либо шаблонами и подсказками.
Я хочу поделиться двумя известными мне руководствами на эту тему:
1. Руководство Алекса Вермеера "8760 часов". Только на английском.
2. "Year Compass". Есть переводы на несколько языков, в том числе на русский (впрочем, я не уверен в качестве перевода).
Удачного вам планирования!
Однако, если вы никогда этим не занимались, построить план на год может оказаться достаточно сложно. И поэтому, возможно, стоит воспользоваться какими-либо шаблонами и подсказками.
Я хочу поделиться двумя известными мне руководствами на эту тему:
1. Руководство Алекса Вермеера "8760 часов". Только на английском.
2. "Year Compass". Есть переводы на несколько языков, в том числе на русский (впрочем, я не уверен в качестве перевода).
Удачного вам планирования!
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Как выглядела оптимизация на Земле до нашего времени? Почему у ИИ не может быть полной свободы действий? Как выглядел бы мир, в котором арифметика в известном нам виде не была бы изобретена? Чем решение моральных дилемм может помочь в определении собственных ценностей?
Сегодня, 4 января, мы продолжим обсуждать цепочку "Хрупкие цели".
Поговорим про следующие эссе:
- Оптимизация и взрывное развитие интеллекта;
- Призраки в машине;
- Искусственное суммирование;
- Ценности терминальные и инструментальные.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/s7qqigrt2bhv7b6jlmthg4de2q
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Как выглядела оптимизация на Земле до нашего времени? Почему у ИИ не может быть полной свободы действий? Как выглядел бы мир, в котором арифметика в известном нам виде не была бы изобретена? Чем решение моральных дилемм может помочь в определении собственных ценностей?
Сегодня, 4 января, мы продолжим обсуждать цепочку "Хрупкие цели".
Поговорим про следующие эссе:
- Оптимизация и взрывное развитие интеллекта;
- Призраки в машине;
- Искусственное суммирование;
- Ценности терминальные и инструментальные.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/s7qqigrt2bhv7b6jlmthg4de2q
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
kocherga-club.ru
Клуб чтения цепочек - 4 января
Собираемся, чтобы обсуждать материалы, посвящённые рациональному мышлению. В первую очередь — сборник эссе Элиезера Юдковского «Рациональность: от ИИ до зомби».
#проекты_участников #видео
Роман Галимов записал видео о том, что такое рациональность. В первую очередь видео предназначено для людей, которые очень плохо знакомы с описываемым явлением. Однако, возможно, кого-нибудь оно заинтересует познакомиться с рациональностью поближе.
https://www.youtube.com/watch?v=JIqO3V3drKw
Роман Галимов записал видео о том, что такое рациональность. В первую очередь видео предназначено для людей, которые очень плохо знакомы с описываемым явлением. Однако, возможно, кого-нибудь оно заинтересует познакомиться с рациональностью поближе.
https://www.youtube.com/watch?v=JIqO3V3drKw
YouTube
ЧТО ТАКОЕ РАЦИОНАЛЬНОСТЬ? Рациональное мышление для начинающих v2.0
Рациональность - это набор идей и практик для того, чтобы эффективнее добиваться своих целей. В этом ролике дается общее представление о рациональном мышлени...
#встречи #онлайн
В воскресенье, 10 января, пройдёт очередная онлайн-встреча рационалистов.
На встрече Филипп Благовещенский перескажет статью Эндрю Критча "Некоторые области исследований ИИ и их релевантность для экзистенциальной безопасности" (Andrew Critch, "Some AI research areas and their relevance to existential safety"). В статье Эндрю Критч заявляет, что главный способ повлиять на экзистенциальную безопасность ИИ сейчас — это легитимизировать полезные возможные требования государств и социума к компаниям, которые будут делать ИИ. Также он оценивает 10 существующих областей исследований ИИ по полезности.
Эндрю Критч — исследователь экзистенциальной безопасности ИИ, исследователь в CHAI, UC Berkeley, в прошлом research fellow в MIRI.
Начало встречи в 13-00 по московскому времени (UTC+3).
Участие бесплатно, но требуется регистрация: https://kocherga-club.ru/events/vaju2gg2evfqjetao3ebdwfw7u
В воскресенье, 10 января, пройдёт очередная онлайн-встреча рационалистов.
На встрече Филипп Благовещенский перескажет статью Эндрю Критча "Некоторые области исследований ИИ и их релевантность для экзистенциальной безопасности" (Andrew Critch, "Some AI research areas and their relevance to existential safety"). В статье Эндрю Критч заявляет, что главный способ повлиять на экзистенциальную безопасность ИИ сейчас — это легитимизировать полезные возможные требования государств и социума к компаниям, которые будут делать ИИ. Также он оценивает 10 существующих областей исследований ИИ по полезности.
Эндрю Критч — исследователь экзистенциальной безопасности ИИ, исследователь в CHAI, UC Berkeley, в прошлом research fellow в MIRI.
Начало встречи в 13-00 по московскому времени (UTC+3).
Участие бесплатно, но требуется регистрация: https://kocherga-club.ru/events/vaju2gg2evfqjetao3ebdwfw7u
Lesswrong
Some AI research areas and their relevance to existential safety - LessWrong
Followed by: What Multipolar Failure Looks Like, and Robust Agent-Agnostic
Processes (RAAPs), which provides examples of multi-stakeholder/multi-agent
interactions leading to extinction events.
INTRODUCTION
This post is an overview of a variety of AI research…
Processes (RAAPs), which provides examples of multi-stakeholder/multi-agent
interactions leading to extinction events.
INTRODUCTION
This post is an overview of a variety of AI research…
#мета
Включил возможность оставлять комментарии к сообщениям.
Мне не хочется сходу писать формальные правила. Поэтому пока я лишь посоветую не забывать идеи, которым посвящён этот канал: в частности "Как люди понимают слова" (особенно про "Замаскированные вопросы"), "Иллюзия прозрачности" и "Милосердие к нелепости".
Включил возможность оставлять комментарии к сообщениям.
Мне не хочется сходу писать формальные правила. Поэтому пока я лишь посоветую не забывать идеи, которым посвящён этот канал: в частности "Как люди понимают слова" (особенно про "Замаскированные вопросы"), "Иллюзия прозрачности" и "Милосердие к нелепости".
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Представьте, что ваша пожилая мать находится в горящем доме, а вы прикованы к инвалидной коляске и не можете ей помочь. Однако вам повезло: у вас в кармане крохотное устройство, которое может выполнить желаемый вами исход. Как вы сформулируете своё желание для этого устройства?
Скажете: «вытащи мою маму из этого дома»? Но устройство не знает, что для вас ценно вытащить её в целости и сохранности, а не просто максимизировать дистанцию между её телом и центром дома. Перечислить все отрицательные исходы, которых вы хотели бы избежать, например «без значительных ожогов», «без психологической травмы», «без лишних жертв»? Но вы вряд ли сможете перечислить всю полноту негативных исходов. Чтобы устройство сработало так, как вы хотите, оно должно разделять все ценности, которые привели вас к составлению желания.
Сегодня, 11 января, мы заканчиваем обсуждать цепочку "Хрупкие цели".
Поговорим про следующие эссе:
- Дырявые обобщения;
- Скрытая сложность желаний;
- Антропоморфный оптимизм;
- Потерянные цели.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/5u3xado2gre3ngfs3wbabkspdy
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Представьте, что ваша пожилая мать находится в горящем доме, а вы прикованы к инвалидной коляске и не можете ей помочь. Однако вам повезло: у вас в кармане крохотное устройство, которое может выполнить желаемый вами исход. Как вы сформулируете своё желание для этого устройства?
Скажете: «вытащи мою маму из этого дома»? Но устройство не знает, что для вас ценно вытащить её в целости и сохранности, а не просто максимизировать дистанцию между её телом и центром дома. Перечислить все отрицательные исходы, которых вы хотели бы избежать, например «без значительных ожогов», «без психологической травмы», «без лишних жертв»? Но вы вряд ли сможете перечислить всю полноту негативных исходов. Чтобы устройство сработало так, как вы хотите, оно должно разделять все ценности, которые привели вас к составлению желания.
Сегодня, 11 января, мы заканчиваем обсуждать цепочку "Хрупкие цели".
Поговорим про следующие эссе:
- Дырявые обобщения;
- Скрытая сложность желаний;
- Антропоморфный оптимизм;
- Потерянные цели.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/5u3xado2gre3ngfs3wbabkspdy
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
kocherga-club.ru
Клуб чтения цепочек - 11 января
Собираемся, чтобы обсуждать материалы, посвящённые рациональному мышлению. В первую очередь — сборник эссе Элиезера Юдковского «Рациональность: от ИИ до зомби».
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
«Логика остаётся истинной, куда бы ты ни пошёл,
Поэтому логика никогда не скажет тебе, где ты живёшь».
Сегодня, 18 января, мы начнём обсуждать цепочку "Как люди понимают слова". Порассуждаем об ограничениях классической логики и теоретической философии а также коснёмся тем эмпиризма, индукции, дедукции, семиотики, и традиционной рациональности.
Поговорим про следующие эссе:
- Притча о кинжале;
- Притча о болиголове;
- Слова как скрытые умозаключения;
- Экстенсионалы и интенсионалы.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/36w4vogv7zhrbiwe2mzubuf2ma
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
«Логика остаётся истинной, куда бы ты ни пошёл,
Поэтому логика никогда не скажет тебе, где ты живёшь».
Сегодня, 18 января, мы начнём обсуждать цепочку "Как люди понимают слова". Порассуждаем об ограничениях классической логики и теоретической философии а также коснёмся тем эмпиризма, индукции, дедукции, семиотики, и традиционной рациональности.
Поговорим про следующие эссе:
- Притча о кинжале;
- Притча о болиголове;
- Слова как скрытые умозаключения;
- Экстенсионалы и интенсионалы.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/36w4vogv7zhrbiwe2mzubuf2ma
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#мета
На данный момент сообщество LessWrong в России представлено сайтом lesswrong.ru , этим каналом (и почти дублирующим его группой в ВК) и множеством более мелких сообществ, которые так или иначе разделяют наши идеи и сохраняют какую-то связь.
Мы переводим статьи, распространяем интересные идеи и подталкиваем друг друга к мысли, что некоторые штуки в нашей жизни можно сделать лучше.
Можем ли мы сделать лучше само сообщество и как именно?
Для желающих развивать сообщество и дальше я создал чат: https://t.me/lesswrong_ru_improvement
В этом чате можно оставлять как обратную связь по существующей активности, так и планировать что-то более масштабное.
Однако стоит помнить, что нет никаких особых людей, обладающих какими-то суперрациональными навыками, которые только и ждут, когда им в чате напишут идеи, которые хорошо было бы реализовать. Все гениальные идеи, которые мы сможем нагенерировать, либо реализуем мы сами, либо они так и останутся нереализованными. Сообщество сейчас -- это совершенно некоммерческое предприятие и что-то делают лишь достаточно малое количество волонтёров в свободное от работы время.
Также на всякий случай напомню, что о технических проблемах на сайте лучше сразу писать на Гитхаб: https://github.com/lesswrong-ru/lesswrong-ru/issues
На данный момент сообщество LessWrong в России представлено сайтом lesswrong.ru , этим каналом (и почти дублирующим его группой в ВК) и множеством более мелких сообществ, которые так или иначе разделяют наши идеи и сохраняют какую-то связь.
Мы переводим статьи, распространяем интересные идеи и подталкиваем друг друга к мысли, что некоторые штуки в нашей жизни можно сделать лучше.
Можем ли мы сделать лучше само сообщество и как именно?
Для желающих развивать сообщество и дальше я создал чат: https://t.me/lesswrong_ru_improvement
В этом чате можно оставлять как обратную связь по существующей активности, так и планировать что-то более масштабное.
Однако стоит помнить, что нет никаких особых людей, обладающих какими-то суперрациональными навыками, которые только и ждут, когда им в чате напишут идеи, которые хорошо было бы реализовать. Все гениальные идеи, которые мы сможем нагенерировать, либо реализуем мы сами, либо они так и останутся нереализованными. Сообщество сейчас -- это совершенно некоммерческое предприятие и что-то делают лишь достаточно малое количество волонтёров в свободное от работы время.
Также на всякий случай напомню, что о технических проблемах на сайте лучше сразу писать на Гитхаб: https://github.com/lesswrong-ru/lesswrong-ru/issues
#встречи #онлайн
Сегодня, 24 января, состоится очередная академическая онлайн-встреча рационалистов.
Алеся Соколова расскажет про теорему Белла и квантовые вычисления.
В программе:
- как можно думать про квантовую механику тем, кто не готов разбираться в уравнении Шрёдингера,
- как говорить о квантовых состояниях, не убивая котов,
- чем квантовые вычисления отличаются от классических и зачем они нужны.
О докладчике: студентка магистратуры МФТИ, младший научный сотрудник в Российском квантовом центре, сотрудник Лаборатории Искусственных Квантовых Систем МФТИ.
Начало встречи в 13:00.
Участие во встрече бесплатно, но необходимо зарегистрироваться: https://kocherga-club.ru/events/vxwxwgurcvff3oqmrfijps2uw4
Сегодня, 24 января, состоится очередная академическая онлайн-встреча рационалистов.
Алеся Соколова расскажет про теорему Белла и квантовые вычисления.
В программе:
- как можно думать про квантовую механику тем, кто не готов разбираться в уравнении Шрёдингера,
- как говорить о квантовых состояниях, не убивая котов,
- чем квантовые вычисления отличаются от классических и зачем они нужны.
О докладчике: студентка магистратуры МФТИ, младший научный сотрудник в Российском квантовом центре, сотрудник Лаборатории Искусственных Квантовых Систем МФТИ.
Начало встречи в 13:00.
Участие во встрече бесплатно, но необходимо зарегистрироваться: https://kocherga-club.ru/events/vxwxwgurcvff3oqmrfijps2uw4
kocherga-club.ru
Академическая встреча - 24 января
Встреча рационалистов с докладами и обсуждениями от участников сообщества. В программе: доклад про теорему Белла и квантовые вычисления.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Атеизм — это религия? Трансгумагизм — это культ? Человек — это двуногое существо без перьев? (И как его отличить от ощипанной курицы?) Какая из птиц более типичная птица: малиновка или страус? А если мы заявим, что птицы — такие летающие штуки с перьями, то что делать с пингвинами?
Сегодня, 25 января, мы продолжим обсуждать цепочку "Как люди понимают слова" и разберём такие понятия как эффект образца, эмпирические кластеры объектов, и замаскированный вопрос.
Поговорим про следующие эссе:
- Кластеры подобия;
- Типичность и асимметричное подобие;
- Кластерная структура пространства вещей;
- Замаскированные вопросы.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/ohklqvxsvndxdopaam5x6hwbmq
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Атеизм — это религия? Трансгумагизм — это культ? Человек — это двуногое существо без перьев? (И как его отличить от ощипанной курицы?) Какая из птиц более типичная птица: малиновка или страус? А если мы заявим, что птицы — такие летающие штуки с перьями, то что делать с пингвинами?
Сегодня, 25 января, мы продолжим обсуждать цепочку "Как люди понимают слова" и разберём такие понятия как эффект образца, эмпирические кластеры объектов, и замаскированный вопрос.
Поговорим про следующие эссе:
- Кластеры подобия;
- Типичность и асимметричное подобие;
- Кластерная структура пространства вещей;
- Замаскированные вопросы.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/ohklqvxsvndxdopaam5x6hwbmq
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
LessWrong на русском
Как люди понимают слова
Цепочка о том, как люди пользуются словами и как они при этом ошибаются. О том, почему нельзя просто взять и определить слово так, как хочется. О том, как наши мозги, судя по всему, обрабатывают определения. Ориентироваться по цепочке можно по эссе [Когда…
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Возможно ли распределить объекты по категориям раз и навсегда? Почему даже если нам известны все характеристики объекта, мы сомневаемся, к какой категории его отнести? Если дерево падает в лесу, и нет никого рядом, чтобы это услышать, — создаёт ли дерево звук? Как можно разрешить спор с помощью проверяемого эксперимента?
Сегодня, 1 февраля, мы продолжим обсуждать цепочку "Как люди понимают слова".
Поговорим про следующие эссе:
- Нейронные категории;
- Как алгоритм ощущается изнутри;
- Споры об определениях;
- Ощути смысл.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/sustmqvti5c2jcxkjdgqwqs6s4
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Возможно ли распределить объекты по категориям раз и навсегда? Почему даже если нам известны все характеристики объекта, мы сомневаемся, к какой категории его отнести? Если дерево падает в лесу, и нет никого рядом, чтобы это услышать, — создаёт ли дерево звук? Как можно разрешить спор с помощью проверяемого эксперимента?
Сегодня, 1 февраля, мы продолжим обсуждать цепочку "Как люди понимают слова".
Поговорим про следующие эссе:
- Нейронные категории;
- Как алгоритм ощущается изнутри;
- Споры об определениях;
- Ощути смысл.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/sustmqvti5c2jcxkjdgqwqs6s4
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Минута дружественной рекламы.
В прошлом году появился телеграм-канал @transhumblock . Автор этого канала собирает подборки ссылок и пишет обзорные посты на разные темы, касающиеся трансгуманизма. Что такое вообще трансгуманизм? Чем могут заниматься трансгуманисты? Какие интересные с точки зрения трансгуманизма научные открытия происходят прямо сейчас?
В прошлом году появился телеграм-канал @transhumblock . Автор этого канала собирает подборки ссылок и пишет обзорные посты на разные темы, касающиеся трансгуманизма. Что такое вообще трансгуманизм? Чем могут заниматься трансгуманисты? Какие интересные с точки зрения трансгуманизма научные открытия происходят прямо сейчас?
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Можно ли определять значения слова так, как вам угодно? А если вы это делаете это последовательно? Почему словарь не является авторитетом? Как техника табуирования слов помогает достичь взаимопонимания? И для чего здесь важно помнить о свежем взгляде на вещи?
Сегодня, 8 февраля, мы продолжим обсуждать цепочку "Как люди понимают слова" (https://lesswrong.ru/260 ).
Поговорим про следующие эссе:
- Аргумент к традиционному пониманию;
- Пустые ярлыки;
- Табуируй свои слова;
- Замени символ на суть.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/zs3gzu2p6be3pmmzc7qnu4idva
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Можно ли определять значения слова так, как вам угодно? А если вы это делаете это последовательно? Почему словарь не является авторитетом? Как техника табуирования слов помогает достичь взаимопонимания? И для чего здесь важно помнить о свежем взгляде на вещи?
Сегодня, 8 февраля, мы продолжим обсуждать цепочку "Как люди понимают слова" (https://lesswrong.ru/260 ).
Поговорим про следующие эссе:
- Аргумент к традиционному пониманию;
- Пустые ярлыки;
- Табуируй свои слова;
- Замени символ на суть.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/zs3gzu2p6be3pmmzc7qnu4idva
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Последнее время на LessWrong'e часто встречается термин "шестерёночные модели". Статья ниже описывает, что это такое, зачем они нужны, как отличать хорошую модель от плохой и как всё это связано с Системой-1 и Системой-2.
Оригинальное эссе (на которое ссылается автор): "Gears in understanding".
Также на эту тему есть интересное эссе "Gears-Level Models are Capital Investments".
Оригинальное эссе (на которое ссылается автор): "Gears in understanding".
Также на эту тему есть интересное эссе "Gears-Level Models are Capital Investments".
Forwarded from Небольшой список имени Байеса
#шестеренки #gearsinunderstanding
В последнее время понятие шестерёнок (gears) стало одним из ключевых в словаре lesswrong-сообщества. В этом посте я переформулировал основные тезисы оригинальной статьи Gears in Understanding, а также добавил свои рассуждения о том, как ложится схема шестерёнок на модель двух систем, и какими качествами должна обладать хорошая шестереночная модель.
https://telegra.ph/SHesterenochnye-modeli-shesterenochnyh-modelej-02-06
В последнее время понятие шестерёнок (gears) стало одним из ключевых в словаре lesswrong-сообщества. В этом посте я переформулировал основные тезисы оригинальной статьи Gears in Understanding, а также добавил свои рассуждения о том, как ложится схема шестерёнок на модель двух систем, и какими качествами должна обладать хорошая шестереночная модель.
https://telegra.ph/SHesterenochnye-modeli-shesterenochnyh-modelej-02-06
Telegraph
Шестереночные модели шестереночных моделей
Эпистемическая рациональность базируется на способности строить хорошие (т.е. обладающие большой предсказательной силой) модели окружающих вещей и явлений. Один из эффективных способов отличить хорошие модели от плохих (а также перейти от менее хороших моделей…
#в_мире
На lesswrong.com завершился процесс рецензирования и голосования за лучшие эссе 2019 года. Если вы хотите лучше познакомиться с современным LessWrong'ом, список результатов может стать неплохой отправной точкой.
https://www.lesswrong.com/posts/kdGSTBj3NA2Go3XaE/2019-review-voting-results
На lesswrong.com завершился процесс рецензирования и голосования за лучшие эссе 2019 года. Если вы хотите лучше познакомиться с современным LessWrong'ом, список результатов может стать неплохой отправной точкой.
https://www.lesswrong.com/posts/kdGSTBj3NA2Go3XaE/2019-review-voting-results
Lesswrong
2019 Review: Voting Results! - LessWrong
You can see the full voting results here: 1000+ karma voters (All voters)
--------------------------------------------------------------------------------
The 2019 Review votes are in!
This year, 88 voters participated, evaluating 116 posts. (Of those…
--------------------------------------------------------------------------------
The 2019 Review votes are in!
This year, 88 voters participated, evaluating 116 posts. (Of those…
#переводы
Новый перевод на сайте -- короткий художественный рассказ пользователя Dias под названием "Карантин".
https://lesswrong.ru/645
Новый перевод на сайте -- короткий художественный рассказ пользователя Dias под названием "Карантин".
https://lesswrong.ru/645
LessWrong на русском
Короткая история: Карантин
*Второе июня, 42 после Падения* *Где-то в горах Колорадо* Сначала они увидели человека, идущего в нескольких милях от комплекса. По крайней мере, это выглядело как человек. Выцветшие джинсы, белая футболка, ветровка, походный рюкзак. Белый, светло-коричневые…
#встречи #онлайн
В воскресенье, 14 февраля, состоится очередная онлайн-встреча рационалистов с докладами и обсуждениями от участников сообщества. В программе:
1) Антон Чайников и Рафаил Ахмедишев про то, как слова не выражают суть.
Многие тексты нужно перечитывать многократно, чтобы понять целиком. Некоторые невозможно понять, только читая: нужно пытаться переформулировать своим языком, или делать упражнения на материал, или ???. Почему вообще так? Такое происходит сплошь и рядом в математике; где ещё? В каких контекстах эта проблема малоизвестна / недооценена? Что стоит делать с текстами (или не-текстами) в связи с?
2) Георгий Ланец расскажет и предложит обсудить, как калифорнийские рационалисты думают переехать из Беркли.
Привет. За последние полгода на LessWrong.com достаточно много обсуждений вида «А не перенести ли центр рационального сообщества куда-то вне Беркли». Кажется полезным следить, как решается проблема координации переезда сообщества и выбора места, которое всех устроит. Особенно — потому что это типичная проблема из Inadequate Equilibria.
Начало встречи в 13:00 по московскому времени (UTC+3).
Регистрация: https://kocherga-club.ru/events/6iij2mqx3vevxjtgb57bltguy4
В воскресенье, 14 февраля, состоится очередная онлайн-встреча рационалистов с докладами и обсуждениями от участников сообщества. В программе:
1) Антон Чайников и Рафаил Ахмедишев про то, как слова не выражают суть.
Многие тексты нужно перечитывать многократно, чтобы понять целиком. Некоторые невозможно понять, только читая: нужно пытаться переформулировать своим языком, или делать упражнения на материал, или ???. Почему вообще так? Такое происходит сплошь и рядом в математике; где ещё? В каких контекстах эта проблема малоизвестна / недооценена? Что стоит делать с текстами (или не-текстами) в связи с?
2) Георгий Ланец расскажет и предложит обсудить, как калифорнийские рационалисты думают переехать из Беркли.
Привет. За последние полгода на LessWrong.com достаточно много обсуждений вида «А не перенести ли центр рационального сообщества куда-то вне Беркли». Кажется полезным следить, как решается проблема координации переезда сообщества и выбора места, которое всех устроит. Особенно — потому что это типичная проблема из Inadequate Equilibria.
Начало встречи в 13:00 по московскому времени (UTC+3).
Регистрация: https://kocherga-club.ru/events/6iij2mqx3vevxjtgb57bltguy4