Новости сообщества LessWrong
1.24K subscribers
20 photos
1 file
814 links
Новости русскоязычной части сообщества LessWrong. Интересные статьи, новые переводы и встречи.
Download Telegram
#книги #в_мире

На прошлой неделе вышла книга Джулии Галеф "Настрой разведчика" (Julia Galef, "The Scout Mindset").

Джулия Галеф -- одна из основательниц и первая президент Центра прикладной рациональности (CFAR). Сейчас она ведёт подкаст Rationally Speaking, где обсуждает рациональность со многими интересными людьми.

В своей книге Галеф задаётся вопросом, почему у одних людей получается мыслить чётко и ясно, а у других нет. Многие считают, что первые просто умнее, однако, кажется, дело не просто в каких-то знаниях, которые можно просто взять и рассказать.

С точки зрения Галеф одной из важных составляющих в умении рассуждать здраво является "настрой разведчика" -- желание разобраться, как всё устроено на самом деле, а не просто отстоять свою точку зрения любой ценой. И книга как раз посвящена тому, как воспитать этот настрой в себе.
#встречи #онлайн #в_мире

Новость для интересующихся онлайн-встречами за пределами русскоязычного сообщества.

23 мая израильское сообщество поклонников творчества Скотта Александера проводит онлайн-встречу с профессором Скоттом Ааронсоном -- специалистом по квантовым вычислениям и теории сложности вычислений, а также автором блога Shtetl-Optimized.

Начало встречи 20:30 по московскому времени (17:30 UTC).

Ссылку на регистрацию можно найти здесь: https://www.lesswrong.com/events/AJX8EKjyEFiYbAmgk/scott-aaronson-at-the-astralcodexten-online-meetup
#в_мире #аудио

Новость для любителей подкастов, владеющих английским.

Спенсер Гринберг (Spencer Greenberg), ведущий подкастов с сайта Clearer thinking, опубликовал на LessWrong'е подборку лучших, с его точки зрения, бесед с наиболее интересными рационалистами. Подборка сгруппирована по темам.

https://www.lesswrong.com/posts/fgYQjTktBmNZvMqce/curated-conversations-with-brilliant-rationalists
#в_мире #встречи #онлайн

10-12 сентября пройдёт LessWrong Community Weekend - ежегодная встреча рационалистов. До пандемии эта встреча проходила вживую в Германии, однако второй год подряд она будет проходить онлайн, что даёт возможность познакомиться и пообщаться с рационалистами со всего мира.

Небольшие подробности: https://www.lesswrong.com/events/sgsNzr6fyeHgjtpFy/online-lesswrong-community-weekend-1

Подача заявок: https://docs.google.com/forms/d/e/1FAIpQLSdA94s73C0fFHz6jGDJ1mroQp559sMSjOj06bqurSKdij6zpA/viewform?usp=sf_link Заявки принимаются до 1 сентября.
#встречи #москва #санкт-петербург #онлайн #в_мире

Этой осенью по всему миру проходят встречи поклонников творчества Скотта Александера (ACX Meetups Everywhere 2021).

В Москве встреча пройдёт завтра, 5 сентября, в парке Музеон. Начало в 17:30 по московскому времени. Желающих прийти просят отметиться по ссылке https://www.lesswrong.com/events/d6jB5mpKm5AfAkivh/moscow-russia-acx-meetups-everywhere-2021 (предположу, что можно написать организатору, контакты тоже по ссылке).

В Санкт-Петербурге аналогичная встреча пройдёт 25 сентября. Предполагаемое место встречи: Александровский сад около метро Горьковская. Время: 14:00 по московскому времени. Подробности: https://www.lesswrong.com/events/GGoseABKggoNspxs8/saint-petersburg-russia-acx-meetups-everywhere-2021

Также 5 сентября пройдёт онлайн-встреча поклонников творчества Скотта Александера, организуемая израильским сообществом. Гостем на этой встрече будет Сэм Альтман, генеральный директор Open AI. Подробности и регистрация: https://www.lesswrong.com/events/NvSJe9eRQu7iQ37mw/sam-altman-at-the-astralcodexten-online-meetup-1
#в_мире

Команда LessWrong.com объявила о том, что она преобразовалась в организацию под названием Lightcone Infrastructure. Цель новой организации: создавать технические средства, инфраструктуру и сообщество, чтобы человечество успешно провело ближайшее столетие и распространилось по доступному световому конусу как можно дальше. Поддержка существующего форума LessWrong входит в приоритеты организации, однако теперь будут и другие проекты.

Lightcone Infrastructure приглашает к себе работать. Удалённых вакансий у них я пока не заметил, впрочем, они обещают помочь с визой и переездом.

Сайт новой организации: https://www.lightconeinfrastructure.com

Подробная заметка Оливера Хабрики о том, что это и почему: https://www.lesswrong.com/posts/eR7Su77N2nK3e5YRZ/the-lesswrong-team-is-now-lightcone-infrastructure-come-work-3
#в_мире

John Wentworth опубликовал на lesswrong.com заметку с рекомендациями для старших школьников и студентов, что им стоит изучать, если они хотят заниматься проблемой соответствия ИИ целям оператора (AI alignment), да и другими научными задачами, которые непонятно, как решать.

https://www.lesswrong.com/posts/bjjbp5i5G8bekJuxv/study-guide

Текст на английском. Впрочем, если вы хотите заниматься серьёзными научными задачами, английский язык тоже входит в перечень того, что нужно изучить.
#в_мире #переводы #юдковский

В сентябре этого года состоялась встреча в некотором чате, где Элиезер Юдковский описывал, как он представляет грядущие проблемы, связанные с вероятным появлением сильного искусственного интеллекта. Пару недель назад отредактированную расшифровку этой встрече выложили на AI Alignment Forum, а на днях Максим Выменец выложил свой перевод этой расшифровки.

https://vk.com/@makikoty-obsuzhdenie-agi-s-eliezerom-udkovskim
#в_мире

Дункан Сабьен (в прошлом инструктор CFAR и автор их "Participant Handbook") опубликовал на lesswrong.com эссе о технике под названием "Split and commit". Лаконичный перевод названия я пока не придумал, а суть можно описать так: "Подумай о вариантах и определись с действиями".

Как многие из читателей уже знают, мы (люди) довольно часто ошибаемся. И даже если мы очень уверены, что мы правы, это всё равно мало что говорит о том, ошибаемся мы на самом деле или нет.

При этом любое увиденное нами свидетельство может быть свидетельством в пользу нескольких гипотез. Однако очень часто мы держим в голове всего лишь одну гипотезу. Сабьен пишет, что даже люди, которые умеют выражать свою степень уверенности в числах, например, могут сказать, что уверены в такой-то гипотезе на 85%, часто не задумываются о том, а на что приходятся оставшиеся 15%.

В связи с этим Сабьен предлагает следующее возможное решение. Когда мы задумываемся о том, в каком мире совмещается рассматриваемая нами гипотеза Х и увиденное нами свидетельство, следует также подумать, в каком мире было бы верно не-Х и при этом мы могли бы увидеть то же самое свидетельство. Например, задать себе вопрос: "Если вдруг выяснится, что всё устроено не так, как я думал, какой следующий по правдоподобности вариант?"

А после этого рекомендуется подумать, что мы будем делать в каждом из этих возможных миров.

В эссе всё это расписано более подробно и с примерами: https://www.lesswrong.com/posts/t2LGSDwT7zSnAGybG/split-and-commit
#в_мире

На lesswrong.com началось определение лучших постов за 2020 год. Как и в предыдущие года команда организаторов планирует издать лучшие постов (а также лучшие отзывы) в виде книг.

До 14 декабря будет идти процесс предварительного голосования (номинирование понравившихся постов для будущей оценки), дальше будет стадия написания отзывов, а после 25 января - окончательное голосование.

Подробности: https://www.lesswrong.com/posts/M9kDqF2fn3WH44nrv/the-2020-review-preliminary-voting
#в_мире #книги

Некоторое время назад я писал, что на lesswrong.com началось определение лучших постов 2020 года. А тем временем команда организаторов издала сборник лучших постов 2019 года под названием "The Engines of Cognition". Сборник уже доступен на Амазоне. Подробности:

https://www.lesswrong.com/posts/mvPfao35Moah8py46/the-engines-of-cognition-book-launch

Если вы хотите просто прочитать эти посты, большую их часть вы можете найти на странице с итогами голосования 2019 года. (Организаторы печати сборников учитывают результаты голосования, но окончательный состав сборника определяют сами, поэтому в сборнике есть работы, в голосовании не участвовавшие. Их можно найти поиском по сайту.)
#в_мире

В начале февраля на lesswrong.com закончилось голосование за лучшие посты 2020 года. Если вы давно хотели узнать, что считается важным на Lesswrong'е сейчас, это может быть неплохая точка старта:

https://www.lesswrong.com/posts/TSaJ9Zcvc3KWh3bjX/voting-results-for-the-2020-review

Также в "библиотечном разделе" появился новый подраздел "Лучшее". Туда уже сложены работы, признанные лучшими в 2018 и 2019 годах. Видимо, работы 2020 года туда добавят чуть позже, когда определятся с форматом нового книжного издания.
#в_мире #эффективный_альтруизм

В этом месяце известнейшие журналы "Time" и "New Yorker" выпустили огромные статьи, посвящённые эффективному альтруизму:

1. "Want to do more good? This movement might have the answer"
2. "The reluctant prophet of Effective Altruism"

Это связано с выходом новой книги Уильяма Макаскилла "What We Owe the Future".

Более подробно про эффективный альтруизм можно почитать в "The Effective Altruism Handbook". Некоторое количество материалов есть на русскоязычном сайте .
#встречи #в_мире

В этом году многие читатели этой группы уехали в разные страны. Однако встречи LW и ЭА проводятся во многих странах и теперь иногда их помогают организовывать люди, которые раньше организовывали встречи в России.

В частности, в Белграде недавно запустились регулярные встречи LW/EA/ACX. Ближайшая будет 6 ноября. Подробности: https://www.lesswrong.com/events/XKrqMjeoyKePtEmMp/ea-acx-lw-belgrade-november-meet-up

Чтобы получать информацию о дальнейших встречах в Сербии, подписывайтесь на тамошнюю локальную группу: https://www.lesswrong.com/groups/xjkZ4uHHaKitGBni5

Встречи в Белграде проходят на английском языке.
#в_мире

Команда организаторов lesswrong.com объявила о начале ежегодного определения лучших постов за прошлый (2021) год. До 15 декабря будет идти стадия предварительной номинации, после чего начнётся стадия написания обзоров.

Подробности: https://www.lesswrong.com/posts/qCc7tm29Guhz6mtf7/the-lesswrong-2021-review-intellectual-circle-expansion

В качестве эксперимента в этом году предлагается возможность номинировать на голосование посты из рациосферы, даже если они не были скопированы на Lesswrong.

Также организаторы объявили, что, как и в предыдущие годы, лучшие посты за 2020 год будут оформлены в красивые книжечки. Анонс, где и как их можно будет заказать, ожидается вскоре. Однако уже сейчас эту подборку можно увидеть в разделе Best of LessWrong. На всякий случай напоминаю, что если вы очень хотите узнать, чем занимались на LW в последние годы, но не знаете, с чего начать, то этот раздел как раз для вас.
#в_мире #эффективный_альтруизм

Сообщество Эффективного Альтруизма проводит очередной ежегодный опрос участников сообщества. Опрос также включает в себя вопросы о том, что, с вашей точки зрения, должно быть более приоритетно для сообщества.

Ссылка на опрос: https://rethinkpriorities.qualtrics.com/jfe/form/SV_1NfgYhwzvlNGUom
#в_мире #эффективный_альтруизм

Некоторое время назад вышел первый выпуск журнала "Asterisk". Журнал основан эффективными альтруистами и материалы в нём в той или иной мере связаны с движением ЭА и/или проблемами, которые оно пытается решить. Однако создатели всё же рассчитывают на более широкую аудиторию, чем регулярные посетители форума ЭА.

Название журнала можно перевести на русский как "Звёздочка". Тут идёт и отсылка к космосу, и к тому, что знаком звёздочки часто обозначаются комментарии к тексту, ну и в англоязычном написании можно также увидеть слово "риск", что отсылает к многочисленным обсуждаемым проблемам.

В журнале будут выходить длинные статьи о сложных вопросах без попыток дать на них простые ответы. Что автор думает, менее важно, чем почему он так думает. На многие вопросы хочется найти ответы, однако реальность достаточно сложна, и если где-то есть неопределённость, стоит на неё указать. Более подробно о ценностях журнала можно прочитать на его сайте.

Предполагается, что журнал будет выходить раз в квартал.
#в_мире

На lesswrong.com завершилось голосование для определения лучших постов за 2021 год. Как я уже писал, эти подборки представляют собой прекрасную возможность для человека, который не является завсегдатаем LessWrong'а, узнать, какие темы там сейчас обсуждаются и считаются интересными.

Результаты голосования: https://www.lesswrong.com/posts/zajNa9fdr8JYJpxrG/voting-results-for-the-2021-review

Подборки за прошлые года: https://www.lesswrong.com/bestoflesswrong