T-invariant (@t_invariant) – медиа о текущем состоянии российской науки, в том числе в условиях войны в Украине. В интервью, опубликованном на «Сигме», социолог Михаил Соколов объясняет, какой исторический эксперимент ставится над учеными, которые остались в России, и почему разразится скандал, когда GPT-чат начнет перепроверять учебники на русском языке.

#sygma_ru #sociology #science #chatgpt

https://syg.ma/@t-invariant-media/mikhail-sokolov-prizma-skvoz-kotoruiu-sieichas-smotriat-na-rossiiu-eto-voina

syg.ma — открытая платформа, где все могут что-либо опубликовать. Мнение редакции может не совпадать с точкой зрения автор_ок. Мы работаем через VPN. О том, как продолжить нас читать и оставаться в безопасности — здесь. Поддержите нас через Patreon.

Перевод эссе Ноама Хомского «Ложное обещание ChatGPT», опубликованного год назад в The New York Times.

Как это ни печально, некоторые энтузиасты машинного обучения, похоже, гордятся тем, что их творения могут генерировать правильные «научные» прогнозы (скажем, о движении физических тел) не прибегая к объяснениям (включающим, скажем, ньютоновские законы движения и всемирного тяготения). Но такого рода предсказания, даже если они успешны, псевдонаучны. Хотя учёные, несомненно, стремятся к теориям, которые бы обладали высокой степенью эмпирического подтверждения, как заметил философ Карл Поппер, «мы ищем не высоковероятных теорий, а объяснений, то есть плодотворных и невероятных теорий».

Теория, что яблоки падают на землю, поскольку это их естественное место (точка зрения Аристотеля), возможна, но она лишь вызывает дальнейшие вопросы. (Почему земля — их естественное место?). Теория, что яблоки падают на землю из-за того, что масса искривляет пространство-время (точка зрения Эйнштейна), крайне невероятна, но она на самом деле объясняет, почему они падают. Подлинный интеллект проявляется в способности думать и выражать невероятные, но проницательные вещи.

Подлинный интеллект также способен к моральному мышлению. Это означает ограничение безграничного творчества наших умов набором этических принципов, определяющих, что должно быть, а чего не должно быть (и, конечно, этот интеллект способен подвергать сами эти принципы творческой критике). Чтобы быть полезным, ChatGPT должен иметь возможность генерировать по-новому выглядящие мысли; чтобы быть приемлемым для большинства своих пользователей, он должен избегать морально неприемлемого контента. Но пока программисты ChatGPT и других чудес машинного обучения лишь из-за всех сил пытаются и будут продолжать пытаться достичь такого рода баланса.

#sygma_ru #translations #chatgpt #ai

https://syg.ma/@ludensmodus/noam-homskiy-lozhnoe-obeshchanie-chatgpt

syg.ma — открытая платформа, где все могут что-либо опубликовать. Мнение редакции может не совпадать с точкой зрения автор:ок. Мы работаем через VPN или через браузер Ceno.

Поддержите нас через Patreon и подпишитесь на наш телеграм.