По четвергам продолжаются встречи "Клуба чтения Цепочек", где участники обсуждают книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В ближайший четверг, 1 февраля, участники заканчивают обсуждать цепочку "Теория ценности" и переходят к цепочке "Количественный гуманизм" ("Quantified Humanism"). В этой цепочке Юдковский рассуждает о том, как вообще можно применять математические теории к повседневной интуиции о морали и принятию этических решений.

Встречи проходят в онлайне, на платформе Zoom. Ссылка для подключения публикуется в телеграм-группе https://t.me/lwreading

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

По понедельникам продолжаются встречи читательского клуба, на которых участники обсуждают эссе из подборки "Best of Lesswrong", составленной на основе ежегодных голосований за лучшие эссе соответствующего года.

В ближайший понедельник, 19 февраля, участники заканчивают обсуждение цепочки "Alignment & Agency" из подборки 2020 года.

Встречи проходят в онлайне на Discord-сервере.

Начало встречи в 20:00 по московскому времени (UTC+3).

Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences

По понедельникам продолжаются встречи читательского клуба, на которых участники обсуждают эссе из подборки "Best of Lesswrong", составленной на основе ежегодных голосований за лучшие эссе соответствующего года.

Завтра, в понедельник, 26 февраля, участники заканчивают обсуждение цепочки "Alignment & Agency" и переходят к обсуждению цепочки "Takeoff & Takeover" из подборки 2020 года. Эта цепочка в основном посвящена вопросам, с какой скоростью может происходить рост возможностей искусственного интеллекта, насколько вероятно, что он захватит власть, и как это может выглядеть.

Встречи проходят в онлайне на Discord-сервере.

Начало встречи в 20:00 по московскому времени (UTC+3).

Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences

Логика - волшебный инструмент

Интуитивно апелляция к авторитету логики кажется нам очень сильным аргументом. Но почему? Следуя логике, ты всегда прав? Или нарушая логику, ты всегда неправ? А может, этот инструмент работает как-то иначе?

Видеоверсия уже на ютубе.

Встречи "Клуба чтения Цепочек", где участники обсуждают книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби", опять "переезжают" с четверга на воскресенье.

Ближайшая встреча состоится 10 марта. Участники продолжают обсуждать цепочку "Количественный гуманизм" ("Quantified Humanism").

Встречи проходят в онлайне, на платформе Zoom. Ссылка для подключения - а также анонсы будущих встреч - публикуется в телеграм-группе https://t.me/lwreading

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

Наконец-то допилил перевод "Обзора катастрофических рисков ИИ" - длинююююющей статьи Дэна Хендрикса, Мантаса Мазейки и Томаса Вудсайда из Center for AI Safety.

Это именно то, что написано в названии. Предварительных знаний оно не требует, и вполне может служить хорошим ликбезом по поводу проблемы.

Аннотация и краткое содержание
1. Введение
2. Злонамеренное использование
3. ИИ-гонка
4. Организационные риски
5. Мятежные ИИ
6. Обсуждение связей между рисками
7. Заключение
Часто задаваемые вопросы
Источники

А оригинал вот.

Upd. И вот на русском лессронге тоже теперь есть!

Новость с lesswrong.com

Как я уже писал ранее, если вам интересно узнать, что обсуждается на современном LessWrong'е, лучше начать с раздела Best of Lesswrong, где собираются эссе, признанные лучшими на ежегодных голосованиях участников.

Недавно в этот раздел добавились эссе, признанными лучшими из всего, что было написано на LW в 2022 году. При этом раздел изменился: если раньше в нём было оглавление книг, составляемых из эссе-победителей голосования, то теперь эссе разбиты по шести большим темам, независимо от года написания (впрочем, просмотр можно переключить, чтобы они отображались по годам).

Подробнее об этом можно почитать здесь: https://www.lesswrong.com/posts/qvCMiwkBqdYjfiX6n/new-lesswrong-review-winner-ui-the-leastwrong-section-and

Старый раздел с оглавлениями книг по-прежнему доступен: https://www.lesswrong.com/books

По воскресеньям продолжаются встречи "Клуба чтения Цепочек", где участники обсуждают книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

24 марта участники планируют обсудить эссе "Двенадцать добродетелей рационалиста", которое завершает том "Просто доброта", и перейти к обсуждению последнего тома "Стать сильнее" и цепочке "Yudkowsky's Coming of Age". В этой цепочке Юдковский разбирает ошибочные убеждения своей юности, как он к ним пришёл, что мешало от них отказаться, и что в итоге ему помогло поменять свои взгляды. Цепочка не переведена на русский язык.

Встречи проходят в онлайне, на платформе Zoom. Ссылка для подключения публикуется в телеграм-группе https://t.me/lwreading

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

Срочная новость!

Открыта новая планета: Международный скандал и споры о приоритете. Максимальный репост!

Весной по всему миру проходят ACX Meetups - встречи поклонников творчества Скотта Александера.

Места и даты встреч на эту весну можно увидеть по ссылке: https://www.astralcodexten.com/p/spring-meetups-everywhere-2024

В списке есть города из больше, чем 50 стран. В России встречи планируются в Москве, Санкт-Петербурге и Нижнем Новгороде.

Новый перевод на сайте - эссе Элиезера Юдковского "'Эмпиризм!` как анти-эпистемология".

В этом эссе Юдковский в своей любимой диалоговой форме рассуждает о том, какие проблемы могут быть у подхода "нужно выбирать наиболее простую теорию".

https://lesswrong.ru/3552

Читательский онлайн-клуб, собирающийся по понедельникам, переходит к новой книге. В ближайшее время мы будем читать и обсуждать книгу Джуды Перла "Causality: models, reasoning, and inference".

Обсуждения будут проходить по понедельникам (начиная с 8 апреля) на Discord-сервере https://discord.gg/mQhDfBUjTs

Начало в 20:00 по московскому времени (UTC+3).

Обсуждение встреч ведётся в телеграм-канале https://t.me/readthesequences

#продуктивность #ситхские_техники #совет_недели

В чате ситхских техник (встречи по которым проходят, страшно сказать, уже три года) я на прошлой неделе решил завести рубрику "Совет недели [как улучшить свою личную продуктивность]". Нулевой совет довольно банален: "нужно хорошо спать, вовремя есть, достаточно гулять". Следующий, уже более полноценный, совет оказался более объемным, так что я решил оформить его отдельной статьей и принести заодно и в свой канал.

Так что представляю вам первый полноценный пост из (надеюсь) еженедельной серии: если вы находитесь в низкоресурсном состоянии, то начните работу по повышению личной продуктивности с того, что сделайте несколько задач, которые можно сделать за пару минут (и которые вы откладываете уже пару дней-недель-месяцев). Подробности, примеры и шестеренки - в статье:
https://telegra.ph/Sithskij-sovet-nedeli-1-razberites-s-melochyu-04-04

Автор телеграм-канала "Небольшой список имени Байеса" продолжает свою серию советов по личной продуктивности для тех, кто считает, что у него с ней довольно плохо. В своём втором совете он рассуждает о важности деления задач на подзадачи.

https://telegra.ph/Sithskij-sovet-nedeli-2-nachinaem-prodvigatsya-malymi-shagami-04-12

На сайте "Reducing Suffering" вышел перевод статьи Брайана Томасика о том, чем же так хороша максимизация ожидаемой полезности.

https://reducingsuffering.github.io/brian-tomasik-why-maximize-expected-value.html

На всякий случай напоминаю, что некоторое время назад читательский клуб, собирающийся по понедельникам в онлайне, перешёл к обсуждению книги Джуды Перла "Causality: Models, Reasoning, and Inference".

Пока участников ещё несложно догнать.

На встрече 22 апреля участники продолжат обсуждение первой главы и немного поговорим про то, как именно выглядят количественные выражения каузальных зависимостей, метки на стрелках графа.

Будет обсуждаться раздел 1.4 - Functional Causal Models.

Начало встречи в 20:00 по московскому времени.

Встречи проходят на Discord-сервере: https://discord.gg/mQhDfBUjTs

Обсуждение встреч проходит также в телеграм-канале: https://t.me/readthesequences

Очередной совет недели от автора телеграм-канала "Небольшой список имени Байеса (https://t.me/bayesian_little_list/)". В совете рассматриваются некоторые способы, как можно начать делать то, что мы делать вроде бы хотим, но то прокрастинируем, то просто забываем.

https://telegra.ph/Sithskij-sovet-nedeli-3-probuem-chashche-nahodit-sloty-vremeni-dlya-delaniya-del-04-20

Немного несерьёзные новости с lesswrong.com

1 апреля команда организаторов выпустила музыкальный альбом под названием "I Have Been A Good Bing". Вся музыка сгенерирована искусственным интеллектом, тексты созданы (большей частью людьми) на основе постов с LW или других рационалистских блогов. Судя по дате выпуск альбома планировался как шалость на первое апреля, но, кажется, она удалась в достаточной степени, чтобы быть "актуальной" и после.

Пост на LW (со ссылками, где можно послушать): https://www.lesswrong.com/posts/YMo5PuXnZDwRjhHhE/lesswrong-s-first-album-i-have-been-a-good-bing

Некоторые из нас иногда не успевают сделать то, что мы хотим, из-за того, что невовремя "залипли" в соцсети, компьютерные игры, ролики на Ютубе и прочие развлечения, создатели которых нередко напрямую заинтересованы в том, чтобы мы в них "залипали". Очередной совет недели от автора канала "Небольшой список имени Байеса" посвящён тому, почему так происходит и что можно для начала попробовать с этим сделать. Эта тема является довольно сложной, поэтому она будет развиваться в следующих советах.

https://telegra.ph/Sithskij-sovet-nedeli-4-nachinaem-menshe-zalipat-04-26

В очередном совете недели автор телеграм-канала "Небольшой список имени Байеса" продолжает обсуждать тему "залипания" в соцсети, Ютуб и прочие штуки, которые кажутся приятными, но иногда противоречат нашим долгосрочным целям. В новой статье он пишет о том, как можно попробовать "залипать" меньше, а если это не получается - хотя бы делать это продуктивнее.

https://telegra.ph/Sithskij-sovet-nedeli-5-zalipaem-mensheproduktivnee-05-05