#в_мире
John Wentworth опубликовал на lesswrong.com заметку с рекомендациями для старших школьников и студентов, что им стоит изучать, если они хотят заниматься проблемой соответствия ИИ целям оператора (AI alignment), да и другими научными задачами, которые непонятно, как решать.
https://www.lesswrong.com/posts/bjjbp5i5G8bekJuxv/study-guide
Текст на английском. Впрочем, если вы хотите заниматься серьёзными научными задачами, английский язык тоже входит в перечень того, что нужно изучить.
John Wentworth опубликовал на lesswrong.com заметку с рекомендациями для старших школьников и студентов, что им стоит изучать, если они хотят заниматься проблемой соответствия ИИ целям оператора (AI alignment), да и другими научными задачами, которые непонятно, как решать.
https://www.lesswrong.com/posts/bjjbp5i5G8bekJuxv/study-guide
Текст на английском. Впрочем, если вы хотите заниматься серьёзными научными задачами, английский язык тоже входит в перечень того, что нужно изучить.
Lesswrong
Study Guide — LessWrong
This post is for students who hope to eventually work on technical problems we don’t understand, especially agency and AI alignment, and want to know…
#в_мире #переводы #юдковский
В сентябре этого года состоялась встреча в некотором чате, где Элиезер Юдковский описывал, как он представляет грядущие проблемы, связанные с вероятным появлением сильного искусственного интеллекта. Пару недель назад отредактированную расшифровку этой встрече выложили на AI Alignment Forum, а на днях Максим Выменец выложил свой перевод этой расшифровки.
https://vk.com/@makikoty-obsuzhdenie-agi-s-eliezerom-udkovskim
В сентябре этого года состоялась встреча в некотором чате, где Элиезер Юдковский описывал, как он представляет грядущие проблемы, связанные с вероятным появлением сильного искусственного интеллекта. Пару недель назад отредактированную расшифровку этой встрече выложили на AI Alignment Forum, а на днях Максим Выменец выложил свой перевод этой расшифровки.
https://vk.com/@makikoty-obsuzhdenie-agi-s-eliezerom-udkovskim
VK
Обсуждение AGI с Элиезером Юдковским
Оригинал: https://www.alignmentforum.org/posts/CpvyhFy9WvCNsifkY/discussion-with-eliezer-yudkowsky-on-agi-interventions
#в_мире
Дункан Сабьен (в прошлом инструктор CFAR и автор их "Participant Handbook") опубликовал на lesswrong.com эссе о технике под названием "Split and commit". Лаконичный перевод названия я пока не придумал, а суть можно описать так: "Подумай о вариантах и определись с действиями".
Как многие из читателей уже знают, мы (люди) довольно часто ошибаемся. И даже если мы очень уверены, что мы правы, это всё равно мало что говорит о том, ошибаемся мы на самом деле или нет.
При этом любое увиденное нами свидетельство может быть свидетельством в пользу нескольких гипотез. Однако очень часто мы держим в голове всего лишь одну гипотезу. Сабьен пишет, что даже люди, которые умеют выражать свою степень уверенности в числах, например, могут сказать, что уверены в такой-то гипотезе на 85%, часто не задумываются о том, а на что приходятся оставшиеся 15%.
В связи с этим Сабьен предлагает следующее возможное решение. Когда мы задумываемся о том, в каком мире совмещается рассматриваемая нами гипотеза Х и увиденное нами свидетельство, следует также подумать, в каком мире было бы верно не-Х и при этом мы могли бы увидеть то же самое свидетельство. Например, задать себе вопрос: "Если вдруг выяснится, что всё устроено не так, как я думал, какой следующий по правдоподобности вариант?"
А после этого рекомендуется подумать, что мы будем делать в каждом из этих возможных миров.
В эссе всё это расписано более подробно и с примерами: https://www.lesswrong.com/posts/t2LGSDwT7zSnAGybG/split-and-commit
Дункан Сабьен (в прошлом инструктор CFAR и автор их "Participant Handbook") опубликовал на lesswrong.com эссе о технике под названием "Split and commit". Лаконичный перевод названия я пока не придумал, а суть можно описать так: "Подумай о вариантах и определись с действиями".
Как многие из читателей уже знают, мы (люди) довольно часто ошибаемся. И даже если мы очень уверены, что мы правы, это всё равно мало что говорит о том, ошибаемся мы на самом деле или нет.
При этом любое увиденное нами свидетельство может быть свидетельством в пользу нескольких гипотез. Однако очень часто мы держим в голове всего лишь одну гипотезу. Сабьен пишет, что даже люди, которые умеют выражать свою степень уверенности в числах, например, могут сказать, что уверены в такой-то гипотезе на 85%, часто не задумываются о том, а на что приходятся оставшиеся 15%.
В связи с этим Сабьен предлагает следующее возможное решение. Когда мы задумываемся о том, в каком мире совмещается рассматриваемая нами гипотеза Х и увиденное нами свидетельство, следует также подумать, в каком мире было бы верно не-Х и при этом мы могли бы увидеть то же самое свидетельство. Например, задать себе вопрос: "Если вдруг выяснится, что всё устроено не так, как я думал, какой следующий по правдоподобности вариант?"
А после этого рекомендуется подумать, что мы будем делать в каждом из этих возможных миров.
В эссе всё это расписано более подробно и с примерами: https://www.lesswrong.com/posts/t2LGSDwT7zSnAGybG/split-and-commit
Lesswrong
Split and Commit — LessWrong
This is an essay describing a basic sanity-inducing mental movement that I use approximately ten times per week, and suspect other people would benef…
#в_мире
На lesswrong.com началось определение лучших постов за 2020 год. Как и в предыдущие года команда организаторов планирует издать лучшие постов (а также лучшие отзывы) в виде книг.
До 14 декабря будет идти процесс предварительного голосования (номинирование понравившихся постов для будущей оценки), дальше будет стадия написания отзывов, а после 25 января - окончательное голосование.
Подробности: https://www.lesswrong.com/posts/M9kDqF2fn3WH44nrv/the-2020-review-preliminary-voting
На lesswrong.com началось определение лучших постов за 2020 год. Как и в предыдущие года команда организаторов планирует издать лучшие постов (а также лучшие отзывы) в виде книг.
До 14 декабря будет идти процесс предварительного голосования (номинирование понравившихся постов для будущей оценки), дальше будет стадия написания отзывов, а после 25 января - окончательное голосование.
Подробности: https://www.lesswrong.com/posts/M9kDqF2fn3WH44nrv/the-2020-review-preliminary-voting
Lesswrong
The 2020 Review - LessWrong
Today is the first day of the LessWrong 2020 Review. At the end of each year, we take a look at the best posts from the previous year, and reflect on which of them have stood the test of time. …
#в_мире #книги
Некоторое время назад я писал, что на lesswrong.com началось определение лучших постов 2020 года. А тем временем команда организаторов издала сборник лучших постов 2019 года под названием "The Engines of Cognition". Сборник уже доступен на Амазоне. Подробности:
https://www.lesswrong.com/posts/mvPfao35Moah8py46/the-engines-of-cognition-book-launch
Если вы хотите просто прочитать эти посты, большую их часть вы можете найти на странице с итогами голосования 2019 года. (Организаторы печати сборников учитывают результаты голосования, но окончательный состав сборника определяют сами, поэтому в сборнике есть работы, в голосовании не участвовавшие. Их можно найти поиском по сайту.)
Некоторое время назад я писал, что на lesswrong.com началось определение лучших постов 2020 года. А тем временем команда организаторов издала сборник лучших постов 2019 года под названием "The Engines of Cognition". Сборник уже доступен на Амазоне. Подробности:
https://www.lesswrong.com/posts/mvPfao35Moah8py46/the-engines-of-cognition-book-launch
Если вы хотите просто прочитать эти посты, большую их часть вы можете найти на странице с итогами голосования 2019 года. (Организаторы печати сборников учитывают результаты голосования, но окончательный состав сборника определяют сами, поэтому в сборнике есть работы, в голосовании не участвовавшие. Их можно найти поиском по сайту.)
Lesswrong
Book Launch: The Engines of Cognition - LessWrong
The Engines of Cognition is a newly published collection of essays by the LessWrong Community. They're currently available with Prime at Amazon US, where they'll arrive in time for Christmas, and you…
#в_мире
В начале февраля на lesswrong.com закончилось голосование за лучшие посты 2020 года. Если вы давно хотели узнать, что считается важным на Lesswrong'е сейчас, это может быть неплохая точка старта:
https://www.lesswrong.com/posts/TSaJ9Zcvc3KWh3bjX/voting-results-for-the-2020-review
Также в "библиотечном разделе" появился новый подраздел "Лучшее". Туда уже сложены работы, признанные лучшими в 2018 и 2019 годах. Видимо, работы 2020 года туда добавят чуть позже, когда определятся с форматом нового книжного издания.
В начале февраля на lesswrong.com закончилось голосование за лучшие посты 2020 года. Если вы давно хотели узнать, что считается важным на Lesswrong'е сейчас, это может быть неплохая точка старта:
https://www.lesswrong.com/posts/TSaJ9Zcvc3KWh3bjX/voting-results-for-the-2020-review
Также в "библиотечном разделе" появился новый подраздел "Лучшее". Туда уже сложены работы, признанные лучшими в 2018 и 2019 годах. Видимо, работы 2020 года туда добавят чуть позже, когда определятся с форматом нового книжного издания.
#в_мире #эффективный_альтруизм
В этом месяце известнейшие журналы "Time" и "New Yorker" выпустили огромные статьи, посвящённые эффективному альтруизму:
1. "Want to do more good? This movement might have the answer"
2. "The reluctant prophet of Effective Altruism"
Это связано с выходом новой книги Уильяма Макаскилла "What We Owe the Future".
Более подробно про эффективный альтруизм можно почитать в "The Effective Altruism Handbook". Некоторое количество материалов есть на русскоязычном сайте .
В этом месяце известнейшие журналы "Time" и "New Yorker" выпустили огромные статьи, посвящённые эффективному альтруизму:
1. "Want to do more good? This movement might have the answer"
2. "The reluctant prophet of Effective Altruism"
Это связано с выходом новой книги Уильяма Макаскилла "What We Owe the Future".
Более подробно про эффективный альтруизм можно почитать в "The Effective Altruism Handbook". Некоторое количество материалов есть на русскоязычном сайте .
#встречи #в_мире
В этом году многие читатели этой группы уехали в разные страны. Однако встречи LW и ЭА проводятся во многих странах и теперь иногда их помогают организовывать люди, которые раньше организовывали встречи в России.
В частности, в Белграде недавно запустились регулярные встречи LW/EA/ACX. Ближайшая будет 6 ноября. Подробности: https://www.lesswrong.com/events/XKrqMjeoyKePtEmMp/ea-acx-lw-belgrade-november-meet-up
Чтобы получать информацию о дальнейших встречах в Сербии, подписывайтесь на тамошнюю локальную группу: https://www.lesswrong.com/groups/xjkZ4uHHaKitGBni5
Встречи в Белграде проходят на английском языке.
В этом году многие читатели этой группы уехали в разные страны. Однако встречи LW и ЭА проводятся во многих странах и теперь иногда их помогают организовывать люди, которые раньше организовывали встречи в России.
В частности, в Белграде недавно запустились регулярные встречи LW/EA/ACX. Ближайшая будет 6 ноября. Подробности: https://www.lesswrong.com/events/XKrqMjeoyKePtEmMp/ea-acx-lw-belgrade-november-meet-up
Чтобы получать информацию о дальнейших встречах в Сербии, подписывайтесь на тамошнюю локальную группу: https://www.lesswrong.com/groups/xjkZ4uHHaKitGBni5
Встречи в Белграде проходят на английском языке.
Lesswrong
EA/ACX/LW Belgrade November Meet-up — LessWrong
Hello everyone! • We are excited to announce that the 2nd EA Serbia event will be happening on the 6th of November, at 14:30! We will meet again in B…
#в_мире
Команда организаторов lesswrong.com объявила о начале ежегодного определения лучших постов за прошлый (2021) год. До 15 декабря будет идти стадия предварительной номинации, после чего начнётся стадия написания обзоров.
Подробности: https://www.lesswrong.com/posts/qCc7tm29Guhz6mtf7/the-lesswrong-2021-review-intellectual-circle-expansion
В качестве эксперимента в этом году предлагается возможность номинировать на голосование посты из рациосферы, даже если они не были скопированы на Lesswrong.
Также организаторы объявили, что, как и в предыдущие годы, лучшие посты за 2020 год будут оформлены в красивые книжечки. Анонс, где и как их можно будет заказать, ожидается вскоре. Однако уже сейчас эту подборку можно увидеть в разделе Best of LessWrong. На всякий случай напоминаю, что если вы очень хотите узнать, чем занимались на LW в последние годы, но не знаете, с чего начать, то этот раздел как раз для вас.
Команда организаторов lesswrong.com объявила о начале ежегодного определения лучших постов за прошлый (2021) год. До 15 декабря будет идти стадия предварительной номинации, после чего начнётся стадия написания обзоров.
Подробности: https://www.lesswrong.com/posts/qCc7tm29Guhz6mtf7/the-lesswrong-2021-review-intellectual-circle-expansion
В качестве эксперимента в этом году предлагается возможность номинировать на голосование посты из рациосферы, даже если они не были скопированы на Lesswrong.
Также организаторы объявили, что, как и в предыдущие годы, лучшие посты за 2020 год будут оформлены в красивые книжечки. Анонс, где и как их можно будет заказать, ожидается вскоре. Однако уже сейчас эту подборку можно увидеть в разделе Best of LessWrong. На всякий случай напоминаю, что если вы очень хотите узнать, чем занимались на LW в последние годы, но не знаете, с чего начать, то этот раздел как раз для вас.
Lesswrong
The LessWrong 2021 Review: Intellectual Circle Expansion — LessWrong
If you're already familiar with the LessWrong annual review, feel free to skip this opening and jump to What's new in 2021? or Unveiling the 2020 Annual Review books …
#в_мире #эффективный_альтруизм
Сообщество Эффективного Альтруизма проводит очередной ежегодный опрос участников сообщества. Опрос также включает в себя вопросы о том, что, с вашей точки зрения, должно быть более приоритетно для сообщества.
Ссылка на опрос: https://rethinkpriorities.qualtrics.com/jfe/form/SV_1NfgYhwzvlNGUom
Сообщество Эффективного Альтруизма проводит очередной ежегодный опрос участников сообщества. Опрос также включает в себя вопросы о том, что, с вашей точки зрения, должно быть более приоритетно для сообщества.
Ссылка на опрос: https://rethinkpriorities.qualtrics.com/jfe/form/SV_1NfgYhwzvlNGUom
#в_мире #эффективный_альтруизм
Некоторое время назад вышел первый выпуск журнала "Asterisk". Журнал основан эффективными альтруистами и материалы в нём в той или иной мере связаны с движением ЭА и/или проблемами, которые оно пытается решить. Однако создатели всё же рассчитывают на более широкую аудиторию, чем регулярные посетители форума ЭА.
Название журнала можно перевести на русский как "Звёздочка". Тут идёт и отсылка к космосу, и к тому, что знаком звёздочки часто обозначаются комментарии к тексту, ну и в англоязычном написании можно также увидеть слово "риск", что отсылает к многочисленным обсуждаемым проблемам.
В журнале будут выходить длинные статьи о сложных вопросах без попыток дать на них простые ответы. Что автор думает, менее важно, чем почему он так думает. На многие вопросы хочется найти ответы, однако реальность достаточно сложна, и если где-то есть неопределённость, стоит на неё указать. Более подробно о ценностях журнала можно прочитать на его сайте.
Предполагается, что журнал будет выходить раз в квартал.
Некоторое время назад вышел первый выпуск журнала "Asterisk". Журнал основан эффективными альтруистами и материалы в нём в той или иной мере связаны с движением ЭА и/или проблемами, которые оно пытается решить. Однако создатели всё же рассчитывают на более широкую аудиторию, чем регулярные посетители форума ЭА.
Название журнала можно перевести на русский как "Звёздочка". Тут идёт и отсылка к космосу, и к тому, что знаком звёздочки часто обозначаются комментарии к тексту, ну и в англоязычном написании можно также увидеть слово "риск", что отсылает к многочисленным обсуждаемым проблемам.
В журнале будут выходить длинные статьи о сложных вопросах без попыток дать на них простые ответы. Что автор думает, менее важно, чем почему он так думает. На многие вопросы хочется найти ответы, однако реальность достаточно сложна, и если где-то есть неопределённость, стоит на неё указать. Более подробно о ценностях журнала можно прочитать на его сайте.
Предполагается, что журнал будет выходить раз в квартал.
Asteriskmag
Asterisk Magazine covers science, emerging technologies, economics, politics, culture, global health, threats to human development and flourishing.
#в_мире
На lesswrong.com завершилось голосование для определения лучших постов за 2021 год. Как я уже писал, эти подборки представляют собой прекрасную возможность для человека, который не является завсегдатаем LessWrong'а, узнать, какие темы там сейчас обсуждаются и считаются интересными.
Результаты голосования: https://www.lesswrong.com/posts/zajNa9fdr8JYJpxrG/voting-results-for-the-2021-review
Подборки за прошлые года: https://www.lesswrong.com/bestoflesswrong
На lesswrong.com завершилось голосование для определения лучших постов за 2021 год. Как я уже писал, эти подборки представляют собой прекрасную возможность для человека, который не является завсегдатаем LessWrong'а, узнать, какие темы там сейчас обсуждаются и считаются интересными.
Результаты голосования: https://www.lesswrong.com/posts/zajNa9fdr8JYJpxrG/voting-results-for-the-2021-review
Подборки за прошлые года: https://www.lesswrong.com/bestoflesswrong
Lesswrong
Voting Results for the 2021 Review — LessWrong
Well, that's a wrap for the 2021 Review. We had 238 people cast votes. 452 posts were originally nominated, of which 149 posts received at least one…