🌍 После некоторого затишья мир вновь активно возвращается к вопросам регулирования и этики ИИ. За последние пару недель:

🇺🇸 в Калифорнии подготовили и начали обсуждать законопроект, регулирующий применение ИИ в трудовых отношениях. Причём если раньше, в законах тех же штатов Иллинойс и Нью-Йорк, речь шла просто о каких-то базовых правилах, не допускающих дискриминацию, то в этом случае уже планируют предусмотреть конкретные меры ответственности за необъективную работу ИИ

🇬🇧любопытно, но почти одновременно с этим было опубликовано исследование Лондонской школы экономики (London School of Economics), где выяснилось, что ИИ уже качественнее и беспристрастнее ведёт подбор персонала, нежели люди (и что проблема скорее в предвзятом отношении людей к работе ИИ)

🇰🇷в Южной Корее были выпущены Руководящие принципы в области ИИ

Документ носит рекомендательные характер для гос органов. Цель - обеспечить разработку искусственного интеллекта (ИИ) таким образом, чтобы не ущемлять человеческое достоинство и основные права человека. В принципах также содержится рекомендация премьер-министру и государственным учреждениям разработать законодательство и политику, чтобы разработчики ИИ соблюдали руководящие принципы.

🇯🇵 Япония принимает закон об экономической безопасности

В положениях закона интересуют два блока:
1) НИОКР в ИИ - ИИ прямо выделен в числе направлений научно-исследовательской деятельности, в рамках которых Правительство будет выделять финансирование и инициировать ГЧП проекты
2) полупроводники - полупроводники прямо выделены в качестве стратегического ресурса (наряду с редкоземельными металлами, батареями и лекарствами). Для стабильных поставок этих ресурсов Правительство Японии будет не только разрабатывать отдельные политики, но и предоставлять льготы поставщикам (а также будет закупаться ими впрок на случай будущего дефицита)

🇫🇷 Во Франции предлагают установить 3хлетнюю регуляторную песочницу для апробации технологий распознавания лиц

🇺🇸🇪🇺 По итогам заседания Совета по торговле и Технологиям США и ЕС договорились теснее координировать усилия в области НИОКР. Одним из ключевых результатов встречи также стало обязательство разработать «совместную дорожную карту по инструментам оценки и измерения для надежного ИИ и управления рисками». Также предлагается создание совместного центра/хранилища метрик и методологий для измерения достоверности ИИ и рисков ИИ

🇷🇺 А тем временем в России создана Комиссия по этике в сфере искусственного интеллекта

Комиссия станет площадкой для обмена опытом по вопросам, связанным с этикой искусственного интеллекта и координационным органом, обеспечивающим взаимодействие подписантов Кодекса этики в сфере ИИ

🇷🇺✍🏻 2 июня в Нижнем Новгороде на площадке ЦИПРа прошла торжественная церемония присоединения новых участников к Кодексу этики в сфере искусственного интеллекта при посредством подписания через платформу ГосКлюч. В церемонии приняли участие заместитель Заместитель Председателя Правительства Российской Федерации Дмитрий Чернышенко и Губернатор Нижегородской области Глеб Никитин.

Ведущим церемонии выступил Председатель Комиссии по реализации Кодекса этики в сфере ИИ Андрей Незнамов.

Дмитрий Чернышенко отметил, что «в прошлом году мы увидели прямой эффект от внедрения ИИ в 300 млрд рублей по отраслям нашей промышленности. Крайне важно, чтобы данная деятельность соответствовала очень строгим стандартам этики использования этих технологии».

К Кодексу присоединились 19 представителей нижегородского научного и бизнес-сообщества: Администрация города Нижнего Новгорода, ООО «Протон», ООО «АВМ Реалити», ННГУ им. Н.И. Лобачевского, ООО «НЕЙРО», «Артезио», «Лаборатория компьютерного зрения», ООО «ЭР-ТОП», АНО «Центр искусственного интеллекта «Горький», ООО «ЛАД Ай Ти», ООО «Интелливижн», ООО «Глобус-ИТ», ООО «Риверстарт», ГБОУ ВО НГИЭУ Княгининский университет, Волго-Вятский банк ПАО Сбербанк, ООО «Фокстанк Моторс», ООО «Мягкий сон», ООО ПКФ «Кварц», АО «Управляющая компания БХХ «Оргхим», ООО «Матллер».

Глеб Никитин подчеркнул, что «принятие такого значимого решения для общества и государства в Нижнем Новгороде является ярчайшим событием в развитии всей отечественной ИИ-отрасли. Устойчивое развитие предполагает саморегулирование и следование определенным идеологическим принципам».

Кроме того, Дмитрий Чернышенко сообщил, что в ближайшее время планируется присоединение новых участников к Кодексу этики в сфере ИИ на площадках других регионов: в Ханты-Мансийске и Иннополисе, на Дальнем Востоке.

⚡️🇷🇺Сбер и ДВФУ создадут Дальневосточный центр изучения правовых и этических аспектов ИИ и цифровых технологий

Меморандум об учреждении центра подписан на форуме ПМЭФ 2022.

Центр займётся широким спектром задач — от анализа регулирования ИИ в странах Азиатско-Тихоокеанского региона (АТР) до научного сотрудничества с ведущими институтами из этих стран.

🇨🇦 Парламент Канады принял в 1 чтении законопроект, устанавливающий (помимо прочего) базовые требования к разработке систем ИИ.

Законопроект устанавливает базовые требования для "высокорисковых систем ИИ" (хотя пока что ни в действующем праве Канады, ни в законопроекте нет критериев, что считать высокорисковыми системами). Но сами по себе положения носят весьма общий характер:

Суть:
1) "лицо, отвечающее" за систему ИИ, должно само определять, относить ли СИИ к высокорисковым системам. "Ответственным лицом" считается любой субъект, который отвечает за "создание, разработку, обеспечение доступности и работы СИИ"
2) если СИИ оказывается высокорисковой - надо идентифицировать возможные риски причинения вреда и небеспристрастности ИИ, принять меры по их устранению, а также обеспечить мониторинг соблюдения этих мер. Все предпринимаемые меры должны быть задокументированы
3) также для высокорисковых СИИ надо опубликовать на доступном языке описание, как работает ИИ и какие меры приняты для устранения рисков
4) если работа высокорисковых СИИ может привести к причинению вреда - необходимо уведомить об этом Минпром (или уполномоченного представителя Тайного совета (Queen’s Privy Council for Canada)

Законопроект также предусматривает создание новой должности - Комиссара по ИИ и данным (Artificial Intelligence Data Commissioner) - с достаточно широким спектром полномочий - от права запросить документацию по устранению рисков до выдачи приказов о запрете использовать высокорисковую СИИ в случае серьёзного риска причинения вреда

🌍 Делимся докладом Google и The Economist Group о развитии ИИ в странах Магриба и Ближнего Востока.

Доклад интересен не только обзором экономического эффекта от разработки и внедрения систем ИИ в этих странах. В нём также кратко рассматриваются стратегии развития ИИ, принятые в этом регионе на государственном уровне, а также обзор, какие (по мнению авторов доклада) есть проблемы с обеспечением этичности ИИ в этом регионе

🇰🇷 В Сеуле запускают опытную коммерческую эксплуатацию ВАТС (4 уровень автоматизации). Причём запускают в самом многолюдном и загруженном районе города. Сообщается, что первыми пассажирами беспилотного такси были министр землеустройства, инфраструктуры и транспорта Кореи и мэр Сеула

🇪🇺 Делимся докладом Еврокомиссии, посвящённым соблюдению прав ребёнка в при внедрении и использовании искусственного интеллекта.

Доклад очень разносторонний. В нём можно найти:
🌍 обзор, какие международные акты и инициативы, относящиеся к правам ребёнка и применимые к сфере ИИ, есть на уровне ООН, Юнисеф, Юнеско, ОЭСР, Совета Европы и ЕС
🧑‍🔬 анализ воздействия на детей рекомендательных систем, диалоговых систем и социальных роботов. Причём рассматриваются не только негативная, но и позитивная сторона вопроса
👥 обзор рисков в области этики и основных прав, связанных с внедрением таких систем. Причём учитываются не только позиции "взорослых" - учёных и чиновников - но и взгляд подрастающего поколения: были проведены воркшопы, где дети и подростки сами делились своим восприятием возможностей и рисков использования систем ИИ
✔️ в качестве заключения обозначены ключевые риски и методология их устранения

Также делимся небольшим докладом "Справедливое использование ИИ", подготовленным Ассоциацией банковских и финансовых услуг Великобритании (UK Finance) и юридической фирмой Herbert Smith Freehills

Доклад интересен (в числе прочего) тем, что рассматривает принцип справедливого ИИ ("fairness", "fair AI") с призмы английского права. В нём можно увидеть, какие уже действующие акты применимы по этому вопросу на различных уровнях

Сегодня начал работу X Петербургский международный юридический форум.

⏰В 12:15 (мск) состоится сессия «Беспилотные транспортные средства: новации в регулировании».

❓Обсудим подготовку нормативно-правовой базы для внедрения автономного судовождения морского и речного транспорта; правовое регулирование в области беспилотного воздушного транспорта; какие еще шаги необходимо предпринять для выпуска беспилотных автомобилей на автомобильные дороги общего пользования и внедрение и развитие беспилотников на железной дороге.

👥Участвуют:
• Дмитрий Тер-Степанов, заместитель генерального директора — директор направления «Эффективное регулирование» организации «Цифровая экономика;
• Дмитрий Баканов, замглавы Минтранса РФ;
• Анатолий Дюбанов, директор департамента развития цифровой экономики Минэкономразвития РФ;
• Виталий Клюев, директор департамента государ ственной политики в области морского и речного транспорта Минтранса РФ;
• Антон Никифоров, руководитель отдела беспилотных авиационных систем АО «Почта России»;
• Артем Шейкин, член комитета Совета Федерации Федерального Собрания Российской Федерации по конституционному законодательству и государственному строительству.
• Михаил Кузнецов, заместитель начальника управления по надзору за исполнением законов на транспорте и в таможенной сфере Генпрокуратуры РФ.

🎤Модератор: Андрей Незнамов, управляющий директор — начальник центра регулирования AI ПАО «Сбер».

Трансляция по ссылке.

🌍🎓 А тем временем в Университете Иннополис проходит очень интересное мероприятие - Летняя школа этики искусственного интеллекта

⚡️🇷🇺📄 В Госдуму внесён законопроект, упрощающий внедрение ИИ в рамках ГЧП/МЧП/концессионных проектов

Сенаторы Российской Федерации А.А.Турчак, И.В.Рукавишникова, К.К.Долгов, А.В.Синицын; Депутаты Государственной Думы М.А.Топилин, А.Е.Хинштейн, Д.Б.Кравченко, А.И.Немкин внесли в Госдуму проект ФЗ о поправках в Федеральный закон "О государственно - частном партнёрстве..." и в ФЗ "О концессионных соглашениях...".

Предлагаемые поправки снимают барьеры, которые мешают полноценно внедрять ИИ в рамках проектов гсоударственно-частного/муниципального частного партнёрства и концессий.

Особенно предлагаемые поправки важны для создания в России "умных городов" - одно из приоритетных направлений по Концепции развития регулирования ИИ (утв. Распоряжением Правительства РФ от 19.08.2020 № 2129-р).

В сложившейся мировой практике инструменты ГЧП/МЧП/концессии - повсеместный инструмент для внедрения умных городов. Где-то это на уровне ГЧП (например, Сингапур, так как он сам по себе государство). Где-то инструменты, аналогичные российскому мчп (Лондон)

В России за исключением Москвы, Санкт-Петербурга и Севастополя все города считаются муниципальными образованиями. Сейчас в ФЗ "О ГЧП..." российским муниципалитетам прямо запрещено реализовывать собственные цифровые мчп проекты.

Такие формулировки предлагается исключить.

Необходимость таких изменений прямо обозначена как в Национальной стратегии развития ИИ (утв. Указом Президента РФ от 10.10.2019 № 490), так и Концепцией развития регулирования ИИ (утв. Распоряжением Правительства РФ от 19.08.2020 № 2129-р).

Текст законопроекта можно посмотреть здесь

🇷🇺🚂 Сегодня вступили в силу новые правила технической эксплуатации железных дорог.

Как правило, когда говорят про беспилотный транспорт, в основном имеют в виду автомобили, реже воздушные суда и корабли. А поезда почти не упоминают. А зря. Конечно, поезду не надо самостоятельно поворачивать, как, например, машине, но автоматизация движения и там очень технологически сложна и не обходится без ИИ (см., например, обзор технологии автоматического управления от Cognitive pilot).

Новые правила не обходят стороной активное внедрение ИИ в "железке". По правилам можно использовать поезда, снабжённые системами автоматического управления, на железнодрожных путях и инфраструктуре не общего пользования. Но для этого надо, чтобы:
1) в поезде всегда была возможность переключиться на ручной режим управления (п. 162 раздела IX);
2) до допуска поезда к эксплуатации даже на жд путях необщего пользования надо убедиться, что эта система работает и проходит надлежащее обслуживание (п. 141 раздела IX);
3) допуск к ремонту на стрелочных переводах на жд станциях, снабжённых автоматизированной системой управления, должен быть ограничен владельцем жд пути отдельным локальным актом (п. 19 раздела I Приложения 2);
4) при этом ответственность за надёжную работу систем автоматического управления лежит за разработчиками и производителями таких систем (п. 162 раздела IX).

🇷🇺📃 Сегодня на сайте regulation.gov.ru был опубликован проект - программы экспериментального правового режима для беспилотных автомобилей.
Общая информация:
◦ В эксперименте будут участвовать ООО «Газпромнефть-Снабжение», ООО «Сбер Автомотив Технологии», ООО «НПО «СтарЛайн», ООО «Яндекс.Испытания».
◦ Предполагается, что экспериментальный правовой режим будет установлен на территориях города федерального значения Москвы, города федерального значения Санкт-Петербурга, а также Республики Адыгея (Адыгея), Республики Башкортостан, Республики Бурятии, Республики Крым, Республики Татарстан (Татарстан), Чувашской Республики, Забайкальского, Краснодарского, Красноярского, Приморского и Хабаровского краев, Московской, Ленинградской, Амурской, Владимирской, Воронежской, Иркутской, Кемеровской, Курганской, Липецкой, Мурманской, Нижегородской, Новгородской, Новосибирской, Омской, Оренбургской, Пензенской, Ростовской, Самарской, Свердловской, Смоленской, Тверской, Томской, Тульской, Тюменской, Челябинской областей, Еврейской автономной области, Ханты-Мансийского автономного округа – Югры и Ямало-Ненецкого автономного округа.
◦ Срок эксперимента - 3 года.

Уважаемые друзья, прямо сейчас на полях Восточного экономического форума в рамках 11-ой Международной конференции АТЭС по сотрудничеству в сфере высшего образования (МКО АТЭС 2022) «Глобальное образование в эпоху турбулентности», организованной при поддержке Министерства науки и высшего образования Российской Федерации, Министерства иностранных дел Российской Федерации, а также Рабочей группы АТЭС по развитию человеческих ресурсов проходит первый Дальневосточный конгресс по искусственному интеллекту. Конгресс организован Дальневосточным центром искусственного интеллекта, созданным совместно Сбером и Дальневосточным федеральном университетом.
Ссылка для участия в Конгрессе https://us02web.zoom.us/j/82318176156

⌛️В скором времени мы поделимся с вами новыми интересными событиями!

🇪🇺📝 А сейчас предлагаем ознакомиться с отчетом Института прогрессивной политики (PPI), являющийся аналитическим центром в области государственной политики США, выпущенном в марте 2021 года на тему «Способствование внедрению искусственного интеллекта малыми и средними предприятиями в Европейском союзе».

В отчете содержатся различные предложения, касающиеся стратегических направлений, которые могли бы позволить политикам и законодательным органам достичь баланса между двумя целями: ускоренного внедрения технологий ИИ и снижением связанных с ними рисков, а также воплотить принцип «сначала подумай о малом». Идея данного принципа заключается том, что государственная политика должна изначально учитывать потенциальное воздействие на МСП.

В отчете рассматривается перспектива повышения производительности малых и средних предприятий ЕС за счет внедрения ИИ, существующие барьеры на пути внедрения ИИ, а также инструменты управления рисками применения ИИ при максимизации преимуществ.

Кроме того, в отчете предложен ряд шагов, которые ЕС может заблаговременно предпринять, чтобы облегчить МСП переход к внедрению технологий ИИ:
1) Инвестирование в данные как общественное благо;
2) Обеспечение правовой определенности;
3) Развитие экосистемы ИИ-платформ;
4) Способствование развитию квалифицированных кадров в области ИИ.

В контексте обеспечения правовой определенности для развития цифровых технологий отмечается, что европейским организациям уже сейчас приходится сталкиваться с регуляторными барьерами, включая GDPR, Регламент ЕС об отношениях между платформой и бизнесом (Regulation on Platform-to-Business relations), Директиву об электронной коммерции (e-Commerce Directive), рассматриваемый проект Закона о цифровых услугах (Digital Services Act), а также иные нормативные правовые акты, действующие в таких чувствительных отраслях, как здравоохранение, транспорт, финансы, страхование и т. д.

В рассматриваемом документе указано, что разрабатываемые законы и другие нормативные правовые акты должны быть направлены на стимулирование инвестиций и увеличение возможностей организаций в области внедрения новых бизнес-идей и технологий.

Для достижения эффективного регулирования предлагаются следующие шаги:
1) Определить, не препятствуют ли существующие правила и нормы разработке и внедрению систем ИИ;
2) Более тщательно проработать и внести уточнения в понятия «низкорисковых» и «высокорисковых» систем ИИ;
3) Рассмотреть возможность изменения гражданского процессуального законодательства ЕС в качестве альтернативы создания отдельного регулирования;
4) Рассмотреть возможность объединения всей необходимой информации путем создания специального веб-сайта по регулированию ИИ для МСП, который предоставлял бы собой единый ресурс с информацией о преимуществах внедрения ИИ для бизнеса, потенциальные обязательства и барьеры, о которых необходимо знать, а также передовой опыт в области кибербезопасности и обмена данными.

⚡️✍🏻Сегодня в рамках Восточного экономического форума состоялся очередной раунд подписания Кодекса этики в сфере ИИ. На площадке форума к Кодексу присоединились 11 организаций Дальневосточного региона: представителей бизнеса и академического сообщества.

В торжественной церемонии подписания Кодекса принял участие Заместитель Председателя Правительства Российской Федерации Дмитрий Чернышенко, министр Российской Федерации по развитию Дальнего Востока и Арктики Алексей Чекунков, а также Первый заместитель Председателя Правления ПАО Сбербанк Александр Ведяхин.

Гости церемонии отметили стремительное развитие технологий искусственного интеллекта в стране, а также подчеркнули важность следования принципам этики при их разработке и применении.

"Символично, что церемония его подписания на Дальнем Востоке проходит именно на площадке Дальневосточного федерального университета. Ведь ДВФУ – один из крупнейших вузов и центр цифрового развития Дальнего Востока" - подчеркнул Дмитрий Чернышенко.

Кроме того, Александр Ведяхин отметил расширение георграфии распространения принципов этики, закрепленных в Кодексе: "К Кодексу уже присоединились свыше 100 российских компаний
и организаций, и в этом году он действительно приобретает статус национального".

Также на ВЭФ был открыт Дальневосточный центр ИИ. Детали здесь