⬆️ Как пояснил для нашего ТГ канала Андрей Грудев (Президент Ассоциации предприятий индустрии беспилотных авиационных систем «АЭРОНЕКСТ», Заместитель директора по стратегическим проектам ГК "Геоскан"):

1️⃣ указанная мера призвана облегчить работу ключевых драйверов индустрии – производителей т.н. «лёгких дронов», взлётная масса которых не превышает 30 кг.; и

2️⃣ в то же время создание «тяжёлых дронов» (с максимальной взлётной массой от 30 кг), по сути приравниваемых к обычным воздушным судам также не требует лицензирования, несмотря на высокие риски, возникающие в связи с их работой, поскольку в Федеральном законе 99-ФЗ сказано: «К лицензируемым видам деятельности относятся виды деятельности, …. регулирование которых не может осуществляться иными методами, кроме как лицензированием».

С учетом того, что есть сертификация авиационной техники (АТ), разработчиков и изготовителей (ст. 8 Воздушного кодекса), то, по мнению Ассоциации, надо вообще убирать избыточное дублирование в виде лицензирования разработчиков и производителей гражданской АТ.

⚡️🇷🇺Сбер готовит первую заявку в Роспатент на продукт, созданный ИИ.

Мы обязательно поделимся с подписчиками деталями эксперимента.

⚡️🇷🇺 На сегодняшнем заседании СБ РФ по вопросам защиты национальных интересов в сфере разработки искусственного интеллекта Зампред Дмитрий Медведев предложил сформировать позицию по чувствительным этическим вопросам применения и внедрения ИИ.

Речь идёт о тех вопросах, которые сейчас обсуждаются на международной арене, например, идеи:
1️⃣ "возможный запрет применения некоторых форм ИИ, если это потребуется";
2️⃣ "ограничение его использования в отдельных сферах" и идеи "введения внешнего контроля за разработками в этой области"; и
3️⃣ "рекомендации по моральной стороне использования технологий искусственного интеллекта".

При этом Д. Медведев обратил особое внимание на ряд обстоятельств:
❗️недопустимо "перегнуть" палку и "запретить то, что в конечном счете станет исключительно важным для человеческого развития"
❗️необходимо коммерциализировать производство отечественных технологий и обеспечить их продвижение на зарубежные рынки;
❗️ "в ряде случаев потребуются законы, которые, к сожалению, пишутся очень медленно, как правило, и подзаконные акты, прежде всего акты правительства";
❗️"этические вопросы пока нигде не решены, они только начинают обсуждаться, а там критических проблем предостаточно".

При это он отметил важность обсуждения этих вопросов на международном уровне и а частности в рамках БРИКС. «А документ на уровне БРИКС мог бы включать в конечном счете выход на модельные законы, которые содержат регулирование актуальных для всех стран проблем. Это вопросы беспилотного транспорта, разработки и внедрения интеллектуальных разработок, искусственного интеллекта в медицине и здравоохранении».

⚡️🇺🇸📃 В США Сенат одобрил законопроект, направленный на стимулирование производства полупроводников в США и развитие искусственного интеллекта.

Законопроект предусматривает целый пакет изменений:
1️⃣ создание нового управления в Национальном научном фонде, которое бы фокусировалось на поддержке исследований и развития ИИ и квантовых технологий, и инвестирование более 80 млрд долларов в создание и будущие программы этого фонда.

При этом разработка технологий ИИ и машинного обучения обозначена в качестве первостепенного по значимости направления технологического развития, на котором должен фокусироваться Национальный научный фонд. Робототехнике в системе приоритетов присвоено 4е место после "полупроводников и современного компьютерного оборудования" (2е место) и квантовых технологий (3е место);

2️⃣ запрет федеральным гос органам приобретать беспилотные авиационные системы, созданные в Китае и/или компаниями, аффилированными с Коммунистической партией Китая; а также

3️⃣ обязанность Административно-бюджетного управления (OMB) опубликовать руководство по использованию ИИ госорганами. Данное руководство включало бы в себя как общие принципы, так и более конкретные политики, которые должны быть учтены государственными органами. При этом глава каждого федерального агентства должен будет разработать и обновлять перечень используемых и планируемых к внедрению систем ИИ.

В общей сложности законопроект подразумевает инвестирование 250 млрд. долларов в течение 5 лет. Законопроект был поддержан как республиканцами, так и демократами, а Президент США Джо Байден выпустил заявление, в котором поздравил Сенат с принятием законопроекта.

⚡️⚡️⚡️Срочно: Минтранспорта опубликовало для обсуждения проект Федерального закона «О высокоавтоматизированных транспортных средствах ‎и о внесении изменений в отдельные законодательные акты ‎Российской Федерации» (№ 02/04/06-21/00116763).

Законопроект призван урегулировать вопросы, возникающие в связи с изготовлением и эксплуатацией высокоавтоматизированных ТС ("ВАТС"). В частности:

1️⃣ устанавливаются общие требования к ВАТС и условия их допуска к участию в дорожном движении;
2️⃣ устанавливаются ключевые обязанности изготовителей, владельцев и операторов ВАТС;
3️⃣ регламентируются ключевые положения об ответственности изготовителя, владельца и оператора ВАТС.

Этот законопроект – третий по счёту среди проектов, посвящённых регулированию ВАТС. Первым был внесенный в Думу проект ФЗ «Об опытной эксплуатации инновационных транспортных средств и внесении изменений в отдельные законодательные акты Российской Федерации» (2019 год). Затем в Думу был внесен законопроект госсовета Татарстана (2020 год). Однако оба законопроекта были отозваны. И вот сейчас третий вариант - один из самых детальных.

Текущий законопроект разработан регулятором при непосредственном участии ключевых игроков этого рынка. И хотя он, конечно, будет дорабатываться, принятие такого закона было бы одним из важнейших событий в развитии индустрии ВАТС в России.

В серии следующих постов мы будем рассказывать о регулировании ВАТС в зарубежных странах, а также прокомментируем основные положения проекта российского закона.

📊🚗🇨🇳 Сегодня мы делимся с вами краткой аналитической справкой о регулировании беспилотных автомобилей в Китае⬇️.

Недавно технический директор китайского технологического гиганта Alibaba Ченг Ли объявил о планах по разработке беспилотных грузовых атомобилей совместно с дочерней логистической компанией Cainiao, что в очередной раз подчеркивает необходимость и важность развития регулирования высокоавтоматизированных транспортных средст. Как обещали, будем постепенно рассказывать про опыт регулирования беспилотныхных транспортных средств в зарубежных странах.

Китай является одним из мировых лидеров по регулированию беспилотных автомобилей, с чем связано их активное внедрение и тестирование на дорогах общего пользования.

Основой китайского регулирования беспилотников являются:
🔘 Закон КНР о безопасности дорожного движения, главным образом регулирующий вопросы дорожного движения в Китае, и
🔘Национальное руководство по дорожным испытаниям, целью которого является введение общенациональной правовой базы для тестирования беспилотных автомобилей на дорогах общего пользования, а также содействие развитию автоматизированной технологии вождения путем проведения испытаний на дорогах общего пользования.

В Национальном руководстве по дорожным испытаниям содержится определение «интеллектуального и подключенного ТС»; разграничение трёх уровней автоматизации; процедуры и требования к испытаниям беспилотников; требования к испытываемому транспортному средству; требования к водителю-испытателю.

Кроме национального законодательства, регулирование беспилотных автомобилей устанавливается и на местном уровне. Так, местные органы власти в сфере транспорта в Пекине, Шанхае, Чунцине, Чанше, Гуандуне, Фучжоу Пинтане, Чанчу, Тяньцзине, Чжэцзяне, Цзинане, Ухане и Цзянсу установили местные правила для дальнейшего регулирования беспилотников в своих регионах. Данные местные правила содержат аналогичные, но более подробные требования в отношении испытуемого транспортного средства и водителя-испытателя, чем предусмотренные Национальным руководством по дорожным испытаниям, с учетом местных особенностей.

Также в Китае существует Стратегия инноваций и развития интеллектуальных транспортных средств, предусматривающая создание к 2025 году комплексной системы, включающей технологические инновации, промышленную экосистему, инфраструктуру, правила и стандарты, регулирование продуктов и кибербезопасность – все это направлено на создание экосистемы для развития интеллектуальных транспортных средств в Китае.

Стоит отметить, что законодательное регулирование в сфере беспилотных автомобилей в Китае стремительно развивается. Так, 24 марта 2021 года Министерство общественной безопасности Китая опубликовало Проект Предлагаемых поправок к Закону о безопасности дорожного движения. Данные поправки предусматривают уточнение требований, связанных с дорожными испытаниями ТС, оснащенных автоматизированными функциями вождения, и доступом к ним, а также регулирование порядка распределения ответственности за нарушения ПДД и ДТП.

В области местного законодательства в настоящее время на рассмотрении находится
Проект Регламента Специальной экономической зоны Шэньчжэнь по администрированию интеллектуальных и подключенных транспортных средств, который закрепляет всю цепочку жизни беспилотных автомобилей: разработку, дорожные испытания, регистрацию доступа, управление, использование, ДТП, обработку аварий и нарушений, решение вопросов юридической ответственности.

⚡️🇷🇺📃 Госдума приняла в 3 чтении законопроект - спутник к закону об ЭПР. По сравнению с первоначальным текстом законопроекта, итоговая версия оказалась изменена. Ниже обзор ключевых изменений:
❗️исключается возможность создания ЭПР, позволяющих заключать договор об оказании услуг связи с помощью биометрических технологий (исключены правки в ст. 44 закона о связи) (в рамках проекта дистанционного заключения договоров об оказании услуг связи с использованием биометрических технологий) ;
❗️исключаются правки в п. 1 ст. 53 Закона о связи, отменяющие в рамках ЭПР режим ограниченного доступа баз данных об абонентах операторов связи (в рамках проекта сервиса для малого и среднего бизнеса по подбору оптимальных сфер и мест деятельности на базе больших данных). Вместо этого предусматривается возможность создания ЭПР, в рамках которого оператор подвижной радиотелефонной связи сможет предоставлять другим участникам ЭПР сведения о количестве абонентов, находящихся в определенный период времени на определенной территории в границах территории действия регуляторной песочницы (в рамках ст. 53.1 закона о связи);
❗️предусмотрены дополнительные правки в ВК РФ (п. 1 ст. 66), позволяющие в рамках ЭПР допускать к полёту воздушные суда, не имеющие государственный и регистрационный или учетный опознавательные знаки, не прошедшее подготовку и не имеющее на борту соответствующую документацию (в рамках проекта сервиса грузовых перевозок с использованием беспилотных авиационных систем). Также в рамках новой версии законопроекта вносятся правки в п. 4 ст. 54 ВК РФ (в дополнение к правкам в ст. 53). Благодаря данным правкам в рамках ЭПР будут упрощены условия допуска лиц к выполнению функций внешнего пилота.

Сегодня на круглом столе "Искусственный интеллект: разумный партнер" XII Международного ИТ-Форума с участием стран БРИКС и ШОС представлен доклад "Этика и цифра: от проблем к решениям", в котором рассмотрено, в том числе и развитие оценки воздействия алгоритмических систем на международном уровне и ее перспективы в России.
Доклад подготовлен нашими коллегами из #РАНХиГС @CDTO_online совместно с коллегами из @AI_regulation @GDPRru @privacy_chat
#ИИ #AI #digital #AIIA #TechnologyAssessment

🇺🇸 🚗📃 В штате Луизиана подписан закон, устанавливающий минимальные требования к роботам - курьерам. К такому курьеру устанавливаются требования по максимальной скорости (в зависимости от локации - от 19.3 до 32.19 км/час), поведению на дороге (пропускать пешеходов, не создавать пробки), перевозимым грузам (не допускается перевозка грузов, представляющих опасность для жизни и здоровья), наличию осветительных приборов и страхованию (на сумму не менее 100 000 долларов).

🇦🇺📊Делимся докладом Комиссии Австралии по защите прав человека по правовым вопросам, возникающим при внедрении ИИ. Доклад подготовлен для Ген. Атторнея Австралии по итогам трех лет исследований и консультаций.

Доклад состоит из 38 рекомендаций по направлениям:
1️⃣ стратегия внедрения новых технологий;
2️⃣ использование ИИ гос органами и бизнесом;
3️⃣ создание Комиссариата по безопасности ИИ;
4️⃣ рекомендации по обеспечению доступности технологий.

2 часть придерживается традиционного разграничения бизнес/государство. Ключевые положения:
А. Для гос-ва
1) внедрить процедуру оценки влияния систем ИИ на права человека
2) уведомлять пользователя о взаимодействии с ИИ
3) не можете объяснить, как алгоритм пришёл к решению, влияющего на права гражданина - не используйте систему ИИ.
Б. Для бизнеса
1) рекомендуется оценка влияния ИИ на права человека
2) уведомлять пользователя о взаимодействии с ИИ
3) презумпция, что компания в ответе за решения ИИ.

Также будут разработаны руководства по предотвращению дискриминации.

🚆🗓 Одна из из самых перспективных сфер внедрения ИИ в России - автономное управление на ж/д транспорте.

Развитие регулирования там идет очень быстро, как и внедрение ИИ в работу. Делимся с подписчиками интересными моментами из выступлений спикеров семинара «Технологии автономного вождения на железнодорожном транспорте - Предвосхищая ожидания», организованного ОАО «РЖД» как председательствующей организацией в Международном совете по железнодорожным исследованиям. В нем приняли участие представители России, Австралии, Китая, Франции, Бельгии и США.

Внедрение технологий автономного управления в этой сфере порождает целый ряд этических и регуляторных вопросов. Позднее мы расскажем поподробнее про эти аспекты.

⚡️🇪🇺Европейский совет по защите данных (EDPB) и Европейский инспектор по защите данных (EDPS) опубликовали совместную позицию в отношении ранее опубликованнного проекта Регламента Еврокомиссии ЕС о регулировании ИИ.

Совместная позиция состоит, в частности, из следующих положений:
1️⃣ Хотя EDPB и EDPS всячески приветствуют инициативы регулирования ИИ на уровне ЕС, они обеспокоены тем, что проект регламента не включает вопросы международного сотрудничества правоохранительных органов по вопросам, связанным с применением ИИ;
2️⃣ По мнению EDPB и EDPS, следует также дополнительно обратить внимание, что любые случаи обработки персональных данных системами ИИ будут регулироваться не только регламентом, но и GDPR. По их мнению, для оценки рисков в рамках предлагаемого Регламентом риск-ориентированного подхода в параметре "риски нарушения основополагающих прав" должны быть учтены требования GDPR. И соответствие европейским нормам в области регулирования и защиты данных должно быть одним из условий, без которого будет невозможен допуск зарубежных технологий и ПО на европейский рынок;
3️⃣ ❗️При этом EDPB и EDPS выступают за запрет использования технологий распознавания лиц, голоса, ДНК, походки и других способов биометрической идентификации при помощи искусственного интеллекта. Также они выступают за максимальное ограничение внедрения технологий распознавания эмоций (за исключением использования таких технологий в медицинских целях), за запрет использования ИИ для социального скоринга или для классификации людей по каким-либо признакам, если это может повлечь дискриминацию.

Перевод проекта Регламента на русский язык смотрите в этом посте.

🌍 Как Вам, вероятно, уже известно, Организация экономического сотрудничества и развития (ОЭСР) проводит публичные консультации по проекту классификации систем ИИ (см. 2пейджер здесь). По итогам ожидается разработать простой и понятный классификатор систем ИИ, основанный на критериях:
1️⃣ контекста (context);
2️⃣ используемых данных (data and input);
3️⃣ моделей ИИ (AI model);
4️⃣ получаемых результатов (task and output).

По замыслу ОЭСР, такой классификатор мог бы стать полезным инструментом, в частности - для регулирования отношений, связанных с ИИ.

У нас есть статус членов сети экспертов, так что если у Вас есть вопросы или пожелания, связанные с проектом классификатора, то мы можем их адресовать в ОЭСР. Для этого Вы можете написать в ЛС администраторам нашего канала.

⚡️⚡️🇪🇺Совет Европейского Союза (Council of the European Union) опубликовал "Выводы об использовании технологий обработки данных для "Лучшего регулирования".

Документ содержит общую позицию Совета ЕС по использованию современных технологий (среди которых Совет ЕС прямо выделяет ИИ) и по совершенствованию нормативного регулирования. В целом, позиция Совета ЕС следующая:
1️⃣ необходимо придерживаться человеко-центрированного подхода и учёта европейских ценностей и основополагающих прав в использовании технологий;
2️⃣ следует уделять особое внимание этическим стандартам использования технологий, а также обеспечивать безопасность и защиту законных интересов граждан;
3️⃣ важно учитывать и прорабатывать риски, связанных с защитой персональных данных, не допускать дискриминацию и унижение человеческого достоинства;
4️⃣ следует придерживаться принципы открытости работы государственного сектора настолько, насколько это возможно;
5️⃣ государствам - членам ЕС, а также Комиссии следует определиться, как можно использовать современные технологии для поддержки и разработки нового, "по умолчанию рассчитанного на цифровую среду" ("digital by default") регулирования.

#ИИ
Прозрачность и предсказуемость функционирования ИИ (explainable AI) стали предметом судебных разбирательств в Европе.

Итальянские суды приняли два значимых решения по искусственному интеллекту. В обоих случаях присутствует асимметричность информации между онлайн-платформами и пользователями, которую первые используют в своих интересах.

Дело Deliveroo (онлайн-компания по доставке продуктов питания и еды из ресторанов)

Deliveroo использует алгоритм «Франк» для рейтингования своих курьеров и распределения заказов. Рейтинг зависит от «надежности» курьера и его готовности работать в пиковое время. Рейтинг понижается, например, если курьер не предупреждает о том, что не сможет выйти в свою смену, хотя бы за сутки до ее начала. Чем выше рейтинг, тем больше заказов в удобное время получает курьер.

Суд пришел к выводу, что алгоритм Deliveroo не принимает во внимание причины, по которым курьер не сообщил о том, что не сможет выйти на работу. Таким образом, не делается различий между теми, кто просто прогулял, и теми, у кого были уважительные причины (болезнь, уход за ребенком, забастовка и т.д.). По решению суда Deliveroo должны устранить дискриминацию, которая лежит в основе работы их алгоритма.

Дело Mevaluate (платформа, которая позволяет узнать о репутации человека или компании)

Mevaluate строит свои рейтинги на основе персональных данных. Суд решил, что пользователям платформы ничего не известно о том, как и на основании какой логики работает ее алгоритм, он абсолютно непрозрачен. Пользователям неизвестно, как их персональные данные используются системой.

В связи с этим согласия на обработку персональных данных, которые предоставляют пользователи, даются ими неинформированно и, следовательно, не распространяются на работу алгоритма. Суд поддержал запрет Mevaluate обрабатывать персональные данные через свою платформу.

🤖🌍 22.06.2021 состоялся совместный вебинар ОЭСР и Европейской комиссии на тему: «Национальный стратегии ИИ в Европе».  Организаторами мероприятия выступили Генеральный директорат Европейской комиссии (DG Connect) и команда Обсерватории политики ИИ отдела политики цифровой экономики ОЭСР. В ходе мероприятия:

🔵 представлены доклады AI Watch «Национальные стратегии в области искусственного интеллекта: европейская перспектива» и ОЭСР «Состояние реализации принципов ИИ ОЭСР: выводы из национальных политик в области ИИ»;

🔵 рассмотрен Согласованный план по ИИ в Европе;

🔵 отмечены основные направления и тенденции в национальных стратегиях ИИ стран Европы.

⬇️ Детальная информация представлена  в нашем кратком обзоре.

🇦🇺Недавно Правительство Австралии опубликовало "План действий Австралии по внедрению искусственного интеллекта" ("Australia's AI action plan").

В Плане обозначены четыре ключевые цели:

1️⃣ Трансформировать австралийский бизнес. Эта цель будет достигаться путём:
💵 финансовой поддержки разработки и внедрения ИИ бизнесом и налоговых послаблений; а также
❗️создания Национального ИИ Центра ("National AI Centre") - центра компетенций, призванного устранять любые правовые проблемы, с которыми сталкивается малый и средний бизнес при разработке, внедрении технологий ИИ;
❗️создания четырёх Центров возможностей в сфере ИИ и цифровой экономики ("AI and Digital Capability Centres") - связующих звеньев между разработчиками и бизнесом. Цель - убедиться, что бизнес, внедряющий ИИ, не будет испытывать недостатка в специалистах и доступных технологиям;

2️⃣ Создавать и привлекать из других стран перспективные кадры. Эта цель будет достигаться за счёт масштабных грантов и создания нового исследовательского центра в Аделайдском университете;

3️⃣ Использовать технологии ИИ для решения текущих национальных проблем. В этой связи отмечены, в частности:
- экологические проблемы (сохранение Большого Барьерного Рифа);
- медицинские проблемы (из них в особенности - повышение качества мед услуг, улучшение методик лечения нервных заболеваний, депрессии);
- совершенствование ВПК;

4️⃣ ❗️Сделать Австралию мировым лидером в части ответственного и инклюзивного ИИ.

В 2019 году Правительство Австралии опубликовало 8 принципов этики ИИ:
- направленность на повышение благополучия людей, общества и сохранение окружающей среды;
- человеко-центричность;
- объективность;
- защита персональных данных;
- надёжность и безопасность;
- прозрачность и объяснимость;
- возможность оспаривания решений, принятых с использованием ИИ;
- ответственность.

Чтобы продвигать эти принципы, в Австралии, в частности:
📃 планируются изменения в ряде НПА в области персональных данных; а
💵❗️ обязательным условием финансовой помощи (см. выше) будет внедрение и соблюдение австралийских принципов этики ИИ ("Grantees are also expected to adopt Australia’s AI Ethics Principles in their solutions").

При этом уточняется, что австралийское правительство будет учитывать выводы, к которым пришла Комиссия Австралии в докладе по защите прав человека по правовым вопросам, возникающим при внедрении ИИ (см. наш обзор доклада здесь).

Мы будем внимательно следить за новостями из Австралии и с радостью поделимся ими с вами!

⚡️🇷🇺📃🚁 В. Путин подписал закон, отменяющий требование лицензирования разработки, производства, испытания и ремонта беспилотных авиационных систем и их элементов, включающих БВС взлётной массой до 30 кг (см. описание закона и его значение здесь и здесь).

🇷🇺📃 Подписан и вступил в силу закон - спутник к ФЗ Об экспериментальных правовых режимах.

Закон устанавливает возможность изъятий из общего регулирования в рамках регуляторных песочниц.

Например, в рамках ЭПР могут быть предусмотрены изъятия в том числе из:
🚗 ФЗ "О безопасности дорожного движения", "Об обязательном страховании гражданской ответственности владельцев транспортных средств", "Устав автомобильного транспорта", "О техническом осмотре транспортных средств..." (в рамках проекта коммерческого использования ВАТС);
🚁 Воздушного кодекса (в рамках проекта сервиса грузовых перевозок с использованием БВС);
🏥 ФЗ "Об основах охраны здоровья граждан в Российской Федерации", ФЗ "О персональных данных" (в частности, в рамках проекта оказания медицинской помощи с применением телемедицинских технологий/внедрения систем поддержки принятия врачебных решений, использующих технологии ИИ).

Стоит учитывать, что к 3 чтению в ГД в закон было внесено много изменений (см. к примеру, наш обзор, как изменился закон с момента его направления в ГД, здесь).

🌍 Помимо Закона - спутника и ФЗ, отменяющего требования лицензирования разработки БВС массой до 30 кг, прошлая неделя оказалась необычайно богатой на события.

Например:

🇷🇺📃Подписан закон, наделяющий госкорпорацию развития «ВЭБ.РФ» полномочиями по участию в управлении институтами развития;

🇷🇺📃Президент утвердил новую Стратегию национальной безопасности РФ.
Заслуживают внимания следующие положения Стратегии (части IV "Обеспечение национальной безопасности"):
- пп. 12 п. 57 раздела "Информационная безопасность" - ИИ наряду с квантовыми вычислениями выделен в качестве технологий обеспечения информационной безопасности;
- пп. 6 п. 67 раздела "Экономическая безопасность" - использование технологий ИИ заявлено в качестве способа повышения производительности труда
- пп. 14 п. 76 раздела "Научно-техническое развитие" - ИИ и робототехника выделены в качестве технологий, развитие которых необходимо для для научно-технического развития РФ.

Но это далеко не всё...