#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Насколько мы недооцениваем силу интеллекта? Какие противоречия содержит теория разумного замысла? Почему прогресс общества строится на противоречии эволюции, а не подражании ей? Какие математические ограничения эволюции мы можем перечислить?
Сегодня, 7 декабря, мы начнём говорить про цепочку «Простая математика эволюции».
Будем обсуждать следующие эссе:
- Сила интеллекта;
- Чуждый Бог;
- Чудо эволюции;
- Эволюции неразумны (но всё равно работают).
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/yg27wbkr6bevhnxjq4b5pbuw5i
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Насколько мы недооцениваем силу интеллекта? Какие противоречия содержит теория разумного замысла? Почему прогресс общества строится на противоречии эволюции, а не подражании ей? Какие математические ограничения эволюции мы можем перечислить?
Сегодня, 7 декабря, мы начнём говорить про цепочку «Простая математика эволюции».
Будем обсуждать следующие эссе:
- Сила интеллекта;
- Чуждый Бог;
- Чудо эволюции;
- Эволюции неразумны (но всё равно работают).
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/yg27wbkr6bevhnxjq4b5pbuw5i
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
LessWrong на русском
Простая математика эволюции
Цель первой цепочки тома "Машина в призраке" --- описать противоречия между историей нашего происхождения, нашим современным биологическим устройством и нашими стремлениями. Это потребует углубиться в описание эволюции сильнее, чем привычно для не биологов…
Forwarded from Вячеслав Матюхин
Запоздалый анонс: на завтрашней академической встрече в 13:00 продолжим дискуссионный формат.
На этот раз я, @mrgutkun и @eliseealex устроим «рацио-джем»: возьмём широкую тему и будем обмениваться идеями по ней. У нас будет какой-то план и список тезисов, но тема достаточно широкая, что мы заранее не знаем точно, что получится.
Тема — всё про абстракции и про инсайты, которые мы как программисты можем извлечь из опыта работы с ними (потому что почти всё программирование — работа с абстракциями и поиск абстракций), в применении к мышлению, миру и решению задач в нём.
Возможные мотивы:
- выбор неправильных абстракций/интерфейсов, протекающие абстракции и проблемы от этого
- оверинжиниринг в реальном мире
- правильные абстракции и как они могут сделать задачи, которые выглядели очень сложными, очень простыми
- лестница абстракций и выбор подходящей точки на ней при решении задачи
Приходите :) Страница встречи: https://kocherga-club.ru/events/gdwrxncjordc3pcowi4vkzaoru
(кстати, пример отличного выступления на смежную тему: https://www.youtube.com/watch?v=mVVNJKv9esE; но у нас скорее всего будет более философский формат, чем программерский)
На этот раз я, @mrgutkun и @eliseealex устроим «рацио-джем»: возьмём широкую тему и будем обмениваться идеями по ней. У нас будет какой-то план и список тезисов, но тема достаточно широкая, что мы заранее не знаем точно, что получится.
Тема — всё про абстракции и про инсайты, которые мы как программисты можем извлечь из опыта работы с ними (потому что почти всё программирование — работа с абстракциями и поиск абстракций), в применении к мышлению, миру и решению задач в нём.
Возможные мотивы:
- выбор неправильных абстракций/интерфейсов, протекающие абстракции и проблемы от этого
- оверинжиниринг в реальном мире
- правильные абстракции и как они могут сделать задачи, которые выглядели очень сложными, очень простыми
- лестница абстракций и выбор подходящей точки на ней при решении задачи
Приходите :) Страница встречи: https://kocherga-club.ru/events/gdwrxncjordc3pcowi4vkzaoru
(кстати, пример отличного выступления на смежную тему: https://www.youtube.com/watch?v=mVVNJKv9esE; но у нас скорее всего будет более философский формат, чем программерский)
kocherga-club.ru
Академическая встреча - 13 декабря
Встреча рационалистов с докладами от участников сообщества. Темы докладов появятся позже.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Эволюция - это удобная аналогия для описания процессов. Можно сказать, что за счёт естественного отбора на рынке выживают только сильнейшие корпорации. Однако корректно ли переносить принцип эволюции на описание экономических процессов?
Чтобы ген прижился, он должен быть выгоден организму. Но наши представления о выгодных генах отличаются от того, какие гены на самом деле приживаются, потому что естественный отбор "рассуждает" не так, как мы.
Сегодня, 14 декабря, мы продолжим говорить про цепочку «Простая математика эволюции» (https://lesswrong.ru/node/426 ).
Будем обсуждать следующие эссе:
- Корпорации и нанороботы не эволюционируют;
- Эволюция к вымиранию;
- Трагедия группового отбора;
- Фальшивый критерий оптимизации.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/7gxxbgjv35anxby6ix4vmqqtzy
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Эволюция - это удобная аналогия для описания процессов. Можно сказать, что за счёт естественного отбора на рынке выживают только сильнейшие корпорации. Однако корректно ли переносить принцип эволюции на описание экономических процессов?
Чтобы ген прижился, он должен быть выгоден организму. Но наши представления о выгодных генах отличаются от того, какие гены на самом деле приживаются, потому что естественный отбор "рассуждает" не так, как мы.
Сегодня, 14 декабря, мы продолжим говорить про цепочку «Простая математика эволюции» (https://lesswrong.ru/node/426 ).
Будем обсуждать следующие эссе:
- Корпорации и нанороботы не эволюционируют;
- Эволюция к вымиранию;
- Трагедия группового отбора;
- Фальшивый критерий оптимизации.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/7gxxbgjv35anxby6ix4vmqqtzy
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
LessWrong на русском
Простая математика эволюции
Цель первой цепочки тома "Машина в призраке" --- описать противоречия между историей нашего происхождения, нашим современным биологическим устройством и нашими стремлениями. Это потребует углубиться в описание эволюции сильнее, чем привычно для не биологов…
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Почему отдельные организмы — исполнители адаптаций, а не максимизаторы приспособленности? Зачем требуется экстремальная аккуратность, чтобы рассуждать об эволюционной психологии? Что нам показывают суперстимулы и какие их примеры мы можем назвать кроме мороженого, шоколадного батончика и видеоигр?
Сегодня, 21 декабря, мы продолжим обсуждать цепочку «Простая математика эволюции» (https://lesswrong.ru/node/426 ).
Поговорим про следующие эссе:
- Исполнители адаптаций, а не максимизаторы приспособленности;
- Эволюционная психология;
- Особенно элегантный эксперимент в эволюционной психологии;
- Суперстимулы и крах западной цивилизации.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/4vjzew76b5bxrf6mzscqpmlooa
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Почему отдельные организмы — исполнители адаптаций, а не максимизаторы приспособленности? Зачем требуется экстремальная аккуратность, чтобы рассуждать об эволюционной психологии? Что нам показывают суперстимулы и какие их примеры мы можем назвать кроме мороженого, шоколадного батончика и видеоигр?
Сегодня, 21 декабря, мы продолжим обсуждать цепочку «Простая математика эволюции» (https://lesswrong.ru/node/426 ).
Поговорим про следующие эссе:
- Исполнители адаптаций, а не максимизаторы приспособленности;
- Эволюционная психология;
- Особенно элегантный эксперимент в эволюционной психологии;
- Суперстимулы и крах западной цивилизации.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/4vjzew76b5bxrf6mzscqpmlooa
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
LessWrong на русском
Простая математика эволюции
Цель первой цепочки тома "Машина в призраке" --- описать противоречия между историей нашего происхождения, нашим современным биологическим устройством и нашими стремлениями. Это потребует углубиться в описание эволюции сильнее, чем привычно для не биологов…
Forwarded from Эффективный альтруизм
В подборке главных новостей — ежегодный опрос EA Survey, обновленные рекомендации GiveWell и акции по удвоению пожертвований
• Ежегодный опрос участников сообщества
В декабре проходит ежегодный опрос участников эффективного альтруизма — EA Survey. Примите участие в нем, это важный источник для эффективных организаций и организаторов сообщества. Он помогает оценить демографию, получить инсайты о том, как люди присоединяются к сообществу и насколько вовлечены в него, куда жертвуют, какие проблемы считают более важными. По результатам прошлогоднего опроса была выпущена серия постов с итогами и анализом данных.
Чтобы ответить на ключевые вопросы хватит 20 минут. Один случайно выбранный участник опроса получит купон на 500$, которые можно направить в любую эффективную организацию, перечисленную в EA Funds. Опрос продлится до конца года.
Заполнить опрос: https://www.surveymonkey.com/r/EAS2020Share
• Обновленные рекомендации GiveWell и ACE
GiveWell и Animal Charity Evaluators (ACE) обновили рекомендации для тех, кто хочет максимально эффективно помогать людям или приносить наибольшую выгоду животным соответственно. В списке GiveWell Top Charities появилась организация New Incentives, которая стимулирует темпы вакцинации с помощью денежных переводов. А среди рекомендаций ACE появилась Wild Animal Initiative — организация, исследующая недооцененную тему благополучия диких животных.
Ещё одна хорошая новость: команда исследователей данных, специалистов по политике и экспертов по климату запустила Giving Green, чтобы выявлять научно-обоснованные проекты по борьбе с изменением климата. В серии постов они объясняют свой подход и дают рекомендации по пожертвованиям. Они приводят как организации, работающие над политическими изменениями, так и над компенсацией углеродного следа, но считают, что первые гораздо эффективнее.
• Мэтчинг пожертвований в эффективные организации
Началась ежегодная акция Double Up Drive, во время которой группа игроков в покер и другие доноры предлагают удвоить пожертвования в эффективные организации и выделяют на это более миллиона долларов. Сделайте пожертвование через сайт акции и команда организаторов удвоит его. Акция продлится до 27 декабря или до исчерпания средств на мэтчинг.
Ещё одна акция проводится на площадке Every.org. Все пользователи, присоединившиеся по приглашению другого пользователя (можно использовать эту ссылку) до 25 декабря и сделавшие пожертвование минимум на 10$ в организацию на свой выбор, получат купон на 25$ для следующего пожертвования.
• Ежегодный опрос участников сообщества
В декабре проходит ежегодный опрос участников эффективного альтруизма — EA Survey. Примите участие в нем, это важный источник для эффективных организаций и организаторов сообщества. Он помогает оценить демографию, получить инсайты о том, как люди присоединяются к сообществу и насколько вовлечены в него, куда жертвуют, какие проблемы считают более важными. По результатам прошлогоднего опроса была выпущена серия постов с итогами и анализом данных.
Чтобы ответить на ключевые вопросы хватит 20 минут. Один случайно выбранный участник опроса получит купон на 500$, которые можно направить в любую эффективную организацию, перечисленную в EA Funds. Опрос продлится до конца года.
Заполнить опрос: https://www.surveymonkey.com/r/EAS2020Share
• Обновленные рекомендации GiveWell и ACE
GiveWell и Animal Charity Evaluators (ACE) обновили рекомендации для тех, кто хочет максимально эффективно помогать людям или приносить наибольшую выгоду животным соответственно. В списке GiveWell Top Charities появилась организация New Incentives, которая стимулирует темпы вакцинации с помощью денежных переводов. А среди рекомендаций ACE появилась Wild Animal Initiative — организация, исследующая недооцененную тему благополучия диких животных.
Ещё одна хорошая новость: команда исследователей данных, специалистов по политике и экспертов по климату запустила Giving Green, чтобы выявлять научно-обоснованные проекты по борьбе с изменением климата. В серии постов они объясняют свой подход и дают рекомендации по пожертвованиям. Они приводят как организации, работающие над политическими изменениями, так и над компенсацией углеродного следа, но считают, что первые гораздо эффективнее.
• Мэтчинг пожертвований в эффективные организации
Началась ежегодная акция Double Up Drive, во время которой группа игроков в покер и другие доноры предлагают удвоить пожертвования в эффективные организации и выделяют на это более миллиона долларов. Сделайте пожертвование через сайт акции и команда организаторов удвоит его. Акция продлится до 27 декабря или до исчерпания средств на мэтчинг.
Ещё одна акция проводится на площадке Every.org. Все пользователи, присоединившиеся по приглашению другого пользователя (можно использовать эту ссылку) до 25 декабря и сделавшие пожертвование минимум на 10$ в организацию на свой выбор, получат купон на 25$ для следующего пожертвования.
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Квантовые объяснения".
Этим эссе Юдковский открывает цепочку "Квантовая механика и множественные миры". В эссе Юдковский рассуждает, что именно ему не нравится в традиционном способе объяснять квантовую механику, и предупреждает читателя о том, что будет дальше.
https://lesswrong.ru/644
Новый перевод на сайте — эссе Элиезера Юдковского "Квантовые объяснения".
Этим эссе Юдковский открывает цепочку "Квантовая механика и множественные миры". В эссе Юдковский рассуждает, что именно ему не нравится в традиционном способе объяснять квантовую механику, и предупреждает читателя о том, что будет дальше.
https://lesswrong.ru/644
LessWrong на русском
Квантовые объяснения
Часто говорят, что квантовая механика должна быть непонятной. Это плохой подход --- как для ученика, так и для преподавателя. Я же обнаружил, что традиционно "непонятные" предметы обычно проще математики. Особенно если хочется всего лишь понять самые основы…
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Почему эволюция не наделила нас стремлением максимизировать эволюционную приспособленность? Можем ли мы уверенно предсказывать результат процесса, не имея понятия о его промежуточных шагах? Почему эмпатия мешает нам понимать, как устроен организм, отличный от человека? Как выглядела оптимизация на Земле до нашего времени?
Сегодня, 28 декабря, мы продолжим заканчиваем обсуждать цепочку "Простая математика эволюции" и переходим к цепочке "Хрупкие цели"
Поговорим про следующие эссе:
- Суть твоя — осколки бога;
- Убеждение в разумности;
- Люди в смешных нарядах;
- Оптимизация и взрывное развитие интеллекта.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/jhxrvud3ibhxvc2xkj5d2oigyy
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Почему эволюция не наделила нас стремлением максимизировать эволюционную приспособленность? Можем ли мы уверенно предсказывать результат процесса, не имея понятия о его промежуточных шагах? Почему эмпатия мешает нам понимать, как устроен организм, отличный от человека? Как выглядела оптимизация на Земле до нашего времени?
Сегодня, 28 декабря, мы продолжим заканчиваем обсуждать цепочку "Простая математика эволюции" и переходим к цепочке "Хрупкие цели"
Поговорим про следующие эссе:
- Суть твоя — осколки бога;
- Убеждение в разумности;
- Люди в смешных нарядах;
- Оптимизация и взрывное развитие интеллекта.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/jhxrvud3ibhxvc2xkj5d2oigyy
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
LessWrong на русском
Простая математика эволюции
Цель первой цепочки тома "Машина в призраке" --- описать противоречия между историей нашего происхождения, нашим современным биологическим устройством и нашими стремлениями. Это потребует углубиться в описание эволюции сильнее, чем привычно для не биологов…
Чтобы достигать своих целей, их полезно явным образом формулировать и записывать. Наступление Нового года часто кажется достаточно удобным временем для подведения итогов прошлого года и планирования будущего.
Однако, если вы никогда этим не занимались, построить план на год может оказаться достаточно сложно. И поэтому, возможно, стоит воспользоваться какими-либо шаблонами и подсказками.
Я хочу поделиться двумя известными мне руководствами на эту тему:
1. Руководство Алекса Вермеера "8760 часов". Только на английском.
2. "Year Compass". Есть переводы на несколько языков, в том числе на русский (впрочем, я не уверен в качестве перевода).
Удачного вам планирования!
Однако, если вы никогда этим не занимались, построить план на год может оказаться достаточно сложно. И поэтому, возможно, стоит воспользоваться какими-либо шаблонами и подсказками.
Я хочу поделиться двумя известными мне руководствами на эту тему:
1. Руководство Алекса Вермеера "8760 часов". Только на английском.
2. "Year Compass". Есть переводы на несколько языков, в том числе на русский (впрочем, я не уверен в качестве перевода).
Удачного вам планирования!
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Как выглядела оптимизация на Земле до нашего времени? Почему у ИИ не может быть полной свободы действий? Как выглядел бы мир, в котором арифметика в известном нам виде не была бы изобретена? Чем решение моральных дилемм может помочь в определении собственных ценностей?
Сегодня, 4 января, мы продолжим обсуждать цепочку "Хрупкие цели".
Поговорим про следующие эссе:
- Оптимизация и взрывное развитие интеллекта;
- Призраки в машине;
- Искусственное суммирование;
- Ценности терминальные и инструментальные.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/s7qqigrt2bhv7b6jlmthg4de2q
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Как выглядела оптимизация на Земле до нашего времени? Почему у ИИ не может быть полной свободы действий? Как выглядел бы мир, в котором арифметика в известном нам виде не была бы изобретена? Чем решение моральных дилемм может помочь в определении собственных ценностей?
Сегодня, 4 января, мы продолжим обсуждать цепочку "Хрупкие цели".
Поговорим про следующие эссе:
- Оптимизация и взрывное развитие интеллекта;
- Призраки в машине;
- Искусственное суммирование;
- Ценности терминальные и инструментальные.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/s7qqigrt2bhv7b6jlmthg4de2q
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
kocherga-club.ru
Клуб чтения цепочек - 4 января
Собираемся, чтобы обсуждать материалы, посвящённые рациональному мышлению. В первую очередь — сборник эссе Элиезера Юдковского «Рациональность: от ИИ до зомби».
#проекты_участников #видео
Роман Галимов записал видео о том, что такое рациональность. В первую очередь видео предназначено для людей, которые очень плохо знакомы с описываемым явлением. Однако, возможно, кого-нибудь оно заинтересует познакомиться с рациональностью поближе.
https://www.youtube.com/watch?v=JIqO3V3drKw
Роман Галимов записал видео о том, что такое рациональность. В первую очередь видео предназначено для людей, которые очень плохо знакомы с описываемым явлением. Однако, возможно, кого-нибудь оно заинтересует познакомиться с рациональностью поближе.
https://www.youtube.com/watch?v=JIqO3V3drKw
YouTube
ЧТО ТАКОЕ РАЦИОНАЛЬНОСТЬ? Рациональное мышление для начинающих v2.0
Рациональность - это набор идей и практик для того, чтобы эффективнее добиваться своих целей. В этом ролике дается общее представление о рациональном мышлени...
#встречи #онлайн
В воскресенье, 10 января, пройдёт очередная онлайн-встреча рационалистов.
На встрече Филипп Благовещенский перескажет статью Эндрю Критча "Некоторые области исследований ИИ и их релевантность для экзистенциальной безопасности" (Andrew Critch, "Some AI research areas and their relevance to existential safety"). В статье Эндрю Критч заявляет, что главный способ повлиять на экзистенциальную безопасность ИИ сейчас — это легитимизировать полезные возможные требования государств и социума к компаниям, которые будут делать ИИ. Также он оценивает 10 существующих областей исследований ИИ по полезности.
Эндрю Критч — исследователь экзистенциальной безопасности ИИ, исследователь в CHAI, UC Berkeley, в прошлом research fellow в MIRI.
Начало встречи в 13-00 по московскому времени (UTC+3).
Участие бесплатно, но требуется регистрация: https://kocherga-club.ru/events/vaju2gg2evfqjetao3ebdwfw7u
В воскресенье, 10 января, пройдёт очередная онлайн-встреча рационалистов.
На встрече Филипп Благовещенский перескажет статью Эндрю Критча "Некоторые области исследований ИИ и их релевантность для экзистенциальной безопасности" (Andrew Critch, "Some AI research areas and their relevance to existential safety"). В статье Эндрю Критч заявляет, что главный способ повлиять на экзистенциальную безопасность ИИ сейчас — это легитимизировать полезные возможные требования государств и социума к компаниям, которые будут делать ИИ. Также он оценивает 10 существующих областей исследований ИИ по полезности.
Эндрю Критч — исследователь экзистенциальной безопасности ИИ, исследователь в CHAI, UC Berkeley, в прошлом research fellow в MIRI.
Начало встречи в 13-00 по московскому времени (UTC+3).
Участие бесплатно, но требуется регистрация: https://kocherga-club.ru/events/vaju2gg2evfqjetao3ebdwfw7u
Lesswrong
Some AI research areas and their relevance to existential safety - LessWrong
Followed by: What Multipolar Failure Looks Like, and Robust Agent-Agnostic
Processes (RAAPs), which provides examples of multi-stakeholder/multi-agent
interactions leading to extinction events.
INTRODUCTION
This post is an overview of a variety of AI research…
Processes (RAAPs), which provides examples of multi-stakeholder/multi-agent
interactions leading to extinction events.
INTRODUCTION
This post is an overview of a variety of AI research…
#мета
Включил возможность оставлять комментарии к сообщениям.
Мне не хочется сходу писать формальные правила. Поэтому пока я лишь посоветую не забывать идеи, которым посвящён этот канал: в частности "Как люди понимают слова" (особенно про "Замаскированные вопросы"), "Иллюзия прозрачности" и "Милосердие к нелепости".
Включил возможность оставлять комментарии к сообщениям.
Мне не хочется сходу писать формальные правила. Поэтому пока я лишь посоветую не забывать идеи, которым посвящён этот канал: в частности "Как люди понимают слова" (особенно про "Замаскированные вопросы"), "Иллюзия прозрачности" и "Милосердие к нелепости".
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Представьте, что ваша пожилая мать находится в горящем доме, а вы прикованы к инвалидной коляске и не можете ей помочь. Однако вам повезло: у вас в кармане крохотное устройство, которое может выполнить желаемый вами исход. Как вы сформулируете своё желание для этого устройства?
Скажете: «вытащи мою маму из этого дома»? Но устройство не знает, что для вас ценно вытащить её в целости и сохранности, а не просто максимизировать дистанцию между её телом и центром дома. Перечислить все отрицательные исходы, которых вы хотели бы избежать, например «без значительных ожогов», «без психологической травмы», «без лишних жертв»? Но вы вряд ли сможете перечислить всю полноту негативных исходов. Чтобы устройство сработало так, как вы хотите, оно должно разделять все ценности, которые привели вас к составлению желания.
Сегодня, 11 января, мы заканчиваем обсуждать цепочку "Хрупкие цели".
Поговорим про следующие эссе:
- Дырявые обобщения;
- Скрытая сложность желаний;
- Антропоморфный оптимизм;
- Потерянные цели.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/5u3xado2gre3ngfs3wbabkspdy
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Представьте, что ваша пожилая мать находится в горящем доме, а вы прикованы к инвалидной коляске и не можете ей помочь. Однако вам повезло: у вас в кармане крохотное устройство, которое может выполнить желаемый вами исход. Как вы сформулируете своё желание для этого устройства?
Скажете: «вытащи мою маму из этого дома»? Но устройство не знает, что для вас ценно вытащить её в целости и сохранности, а не просто максимизировать дистанцию между её телом и центром дома. Перечислить все отрицательные исходы, которых вы хотели бы избежать, например «без значительных ожогов», «без психологической травмы», «без лишних жертв»? Но вы вряд ли сможете перечислить всю полноту негативных исходов. Чтобы устройство сработало так, как вы хотите, оно должно разделять все ценности, которые привели вас к составлению желания.
Сегодня, 11 января, мы заканчиваем обсуждать цепочку "Хрупкие цели".
Поговорим про следующие эссе:
- Дырявые обобщения;
- Скрытая сложность желаний;
- Антропоморфный оптимизм;
- Потерянные цели.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/5u3xado2gre3ngfs3wbabkspdy
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
kocherga-club.ru
Клуб чтения цепочек - 11 января
Собираемся, чтобы обсуждать материалы, посвящённые рациональному мышлению. В первую очередь — сборник эссе Элиезера Юдковского «Рациональность: от ИИ до зомби».
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
«Логика остаётся истинной, куда бы ты ни пошёл,
Поэтому логика никогда не скажет тебе, где ты живёшь».
Сегодня, 18 января, мы начнём обсуждать цепочку "Как люди понимают слова". Порассуждаем об ограничениях классической логики и теоретической философии а также коснёмся тем эмпиризма, индукции, дедукции, семиотики, и традиционной рациональности.
Поговорим про следующие эссе:
- Притча о кинжале;
- Притча о болиголове;
- Слова как скрытые умозаключения;
- Экстенсионалы и интенсионалы.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/36w4vogv7zhrbiwe2mzubuf2ma
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
«Логика остаётся истинной, куда бы ты ни пошёл,
Поэтому логика никогда не скажет тебе, где ты живёшь».
Сегодня, 18 января, мы начнём обсуждать цепочку "Как люди понимают слова". Порассуждаем об ограничениях классической логики и теоретической философии а также коснёмся тем эмпиризма, индукции, дедукции, семиотики, и традиционной рациональности.
Поговорим про следующие эссе:
- Притча о кинжале;
- Притча о болиголове;
- Слова как скрытые умозаключения;
- Экстенсионалы и интенсионалы.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/36w4vogv7zhrbiwe2mzubuf2ma
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#мета
На данный момент сообщество LessWrong в России представлено сайтом lesswrong.ru , этим каналом (и почти дублирующим его группой в ВК) и множеством более мелких сообществ, которые так или иначе разделяют наши идеи и сохраняют какую-то связь.
Мы переводим статьи, распространяем интересные идеи и подталкиваем друг друга к мысли, что некоторые штуки в нашей жизни можно сделать лучше.
Можем ли мы сделать лучше само сообщество и как именно?
Для желающих развивать сообщество и дальше я создал чат: https://t.me/lesswrong_ru_improvement
В этом чате можно оставлять как обратную связь по существующей активности, так и планировать что-то более масштабное.
Однако стоит помнить, что нет никаких особых людей, обладающих какими-то суперрациональными навыками, которые только и ждут, когда им в чате напишут идеи, которые хорошо было бы реализовать. Все гениальные идеи, которые мы сможем нагенерировать, либо реализуем мы сами, либо они так и останутся нереализованными. Сообщество сейчас -- это совершенно некоммерческое предприятие и что-то делают лишь достаточно малое количество волонтёров в свободное от работы время.
Также на всякий случай напомню, что о технических проблемах на сайте лучше сразу писать на Гитхаб: https://github.com/lesswrong-ru/lesswrong-ru/issues
На данный момент сообщество LessWrong в России представлено сайтом lesswrong.ru , этим каналом (и почти дублирующим его группой в ВК) и множеством более мелких сообществ, которые так или иначе разделяют наши идеи и сохраняют какую-то связь.
Мы переводим статьи, распространяем интересные идеи и подталкиваем друг друга к мысли, что некоторые штуки в нашей жизни можно сделать лучше.
Можем ли мы сделать лучше само сообщество и как именно?
Для желающих развивать сообщество и дальше я создал чат: https://t.me/lesswrong_ru_improvement
В этом чате можно оставлять как обратную связь по существующей активности, так и планировать что-то более масштабное.
Однако стоит помнить, что нет никаких особых людей, обладающих какими-то суперрациональными навыками, которые только и ждут, когда им в чате напишут идеи, которые хорошо было бы реализовать. Все гениальные идеи, которые мы сможем нагенерировать, либо реализуем мы сами, либо они так и останутся нереализованными. Сообщество сейчас -- это совершенно некоммерческое предприятие и что-то делают лишь достаточно малое количество волонтёров в свободное от работы время.
Также на всякий случай напомню, что о технических проблемах на сайте лучше сразу писать на Гитхаб: https://github.com/lesswrong-ru/lesswrong-ru/issues
#встречи #онлайн
Сегодня, 24 января, состоится очередная академическая онлайн-встреча рационалистов.
Алеся Соколова расскажет про теорему Белла и квантовые вычисления.
В программе:
- как можно думать про квантовую механику тем, кто не готов разбираться в уравнении Шрёдингера,
- как говорить о квантовых состояниях, не убивая котов,
- чем квантовые вычисления отличаются от классических и зачем они нужны.
О докладчике: студентка магистратуры МФТИ, младший научный сотрудник в Российском квантовом центре, сотрудник Лаборатории Искусственных Квантовых Систем МФТИ.
Начало встречи в 13:00.
Участие во встрече бесплатно, но необходимо зарегистрироваться: https://kocherga-club.ru/events/vxwxwgurcvff3oqmrfijps2uw4
Сегодня, 24 января, состоится очередная академическая онлайн-встреча рационалистов.
Алеся Соколова расскажет про теорему Белла и квантовые вычисления.
В программе:
- как можно думать про квантовую механику тем, кто не готов разбираться в уравнении Шрёдингера,
- как говорить о квантовых состояниях, не убивая котов,
- чем квантовые вычисления отличаются от классических и зачем они нужны.
О докладчике: студентка магистратуры МФТИ, младший научный сотрудник в Российском квантовом центре, сотрудник Лаборатории Искусственных Квантовых Систем МФТИ.
Начало встречи в 13:00.
Участие во встрече бесплатно, но необходимо зарегистрироваться: https://kocherga-club.ru/events/vxwxwgurcvff3oqmrfijps2uw4
kocherga-club.ru
Академическая встреча - 24 января
Встреча рационалистов с докладами и обсуждениями от участников сообщества. В программе: доклад про теорему Белла и квантовые вычисления.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Атеизм — это религия? Трансгумагизм — это культ? Человек — это двуногое существо без перьев? (И как его отличить от ощипанной курицы?) Какая из птиц более типичная птица: малиновка или страус? А если мы заявим, что птицы — такие летающие штуки с перьями, то что делать с пингвинами?
Сегодня, 25 января, мы продолжим обсуждать цепочку "Как люди понимают слова" и разберём такие понятия как эффект образца, эмпирические кластеры объектов, и замаскированный вопрос.
Поговорим про следующие эссе:
- Кластеры подобия;
- Типичность и асимметричное подобие;
- Кластерная структура пространства вещей;
- Замаскированные вопросы.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/ohklqvxsvndxdopaam5x6hwbmq
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Атеизм — это религия? Трансгумагизм — это культ? Человек — это двуногое существо без перьев? (И как его отличить от ощипанной курицы?) Какая из птиц более типичная птица: малиновка или страус? А если мы заявим, что птицы — такие летающие штуки с перьями, то что делать с пингвинами?
Сегодня, 25 января, мы продолжим обсуждать цепочку "Как люди понимают слова" и разберём такие понятия как эффект образца, эмпирические кластеры объектов, и замаскированный вопрос.
Поговорим про следующие эссе:
- Кластеры подобия;
- Типичность и асимметричное подобие;
- Кластерная структура пространства вещей;
- Замаскированные вопросы.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/ohklqvxsvndxdopaam5x6hwbmq
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
LessWrong на русском
Как люди понимают слова
Цепочка о том, как люди пользуются словами и как они при этом ошибаются. О том, почему нельзя просто взять и определить слово так, как хочется. О том, как наши мозги, судя по всему, обрабатывают определения. Ориентироваться по цепочке можно по эссе [Когда…
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Возможно ли распределить объекты по категориям раз и навсегда? Почему даже если нам известны все характеристики объекта, мы сомневаемся, к какой категории его отнести? Если дерево падает в лесу, и нет никого рядом, чтобы это услышать, — создаёт ли дерево звук? Как можно разрешить спор с помощью проверяемого эксперимента?
Сегодня, 1 февраля, мы продолжим обсуждать цепочку "Как люди понимают слова".
Поговорим про следующие эссе:
- Нейронные категории;
- Как алгоритм ощущается изнутри;
- Споры об определениях;
- Ощути смысл.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/sustmqvti5c2jcxkjdgqwqs6s4
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Возможно ли распределить объекты по категориям раз и навсегда? Почему даже если нам известны все характеристики объекта, мы сомневаемся, к какой категории его отнести? Если дерево падает в лесу, и нет никого рядом, чтобы это услышать, — создаёт ли дерево звук? Как можно разрешить спор с помощью проверяемого эксперимента?
Сегодня, 1 февраля, мы продолжим обсуждать цепочку "Как люди понимают слова".
Поговорим про следующие эссе:
- Нейронные категории;
- Как алгоритм ощущается изнутри;
- Споры об определениях;
- Ощути смысл.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/sustmqvti5c2jcxkjdgqwqs6s4
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Минута дружественной рекламы.
В прошлом году появился телеграм-канал @transhumblock . Автор этого канала собирает подборки ссылок и пишет обзорные посты на разные темы, касающиеся трансгуманизма. Что такое вообще трансгуманизм? Чем могут заниматься трансгуманисты? Какие интересные с точки зрения трансгуманизма научные открытия происходят прямо сейчас?
В прошлом году появился телеграм-канал @transhumblock . Автор этого канала собирает подборки ссылок и пишет обзорные посты на разные темы, касающиеся трансгуманизма. Что такое вообще трансгуманизм? Чем могут заниматься трансгуманисты? Какие интересные с точки зрения трансгуманизма научные открытия происходят прямо сейчас?
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Можно ли определять значения слова так, как вам угодно? А если вы это делаете это последовательно? Почему словарь не является авторитетом? Как техника табуирования слов помогает достичь взаимопонимания? И для чего здесь важно помнить о свежем взгляде на вещи?
Сегодня, 8 февраля, мы продолжим обсуждать цепочку "Как люди понимают слова" (https://lesswrong.ru/260 ).
Поговорим про следующие эссе:
- Аргумент к традиционному пониманию;
- Пустые ярлыки;
- Табуируй свои слова;
- Замени символ на суть.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/zs3gzu2p6be3pmmzc7qnu4idva
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Можно ли определять значения слова так, как вам угодно? А если вы это делаете это последовательно? Почему словарь не является авторитетом? Как техника табуирования слов помогает достичь взаимопонимания? И для чего здесь важно помнить о свежем взгляде на вещи?
Сегодня, 8 февраля, мы продолжим обсуждать цепочку "Как люди понимают слова" (https://lesswrong.ru/260 ).
Поговорим про следующие эссе:
- Аргумент к традиционному пониманию;
- Пустые ярлыки;
- Табуируй свои слова;
- Замени символ на суть.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/zs3gzu2p6be3pmmzc7qnu4idva
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.