Добро пожаловать на канал Центра регулирования искусственного интеллекта!
Он целиком посвящен вопроса регулирования этих технологий и смежных сфер. Мы говорим про законодательство, этику применения ИИ, международное регулирование, стандартизацию, правовые аспекты внедрения ИИ в отдельных отраслях.
На этом канале будут размещаться:


- Проекты нормативно-правовых актов на стадии обсуждения
- Авторские переводы зарубежных законов и других актов
- Справки и подборки
- Большие аналитические исследования, проводимые в России
- Вакансии для юристов в сфере ИИ
- Анонсы мероприятий по теме регулирования ИИ
- Актуальные новости

Поехали!

⚡️🇪🇺📃Проект регламента Еврокомиссии о регулировании ИИ - впервые на русском языке

14 апреля Еврокомиссия опубликовала проект регламента о регулировании ИИ. Проект устанавливает детальные предложения о регулировании технологий ИИ в Европе.

Проект вызывал очень много дискуссий и обсуждений во всех странах мира, перед которыми стоит вопрос о дальнейшем развитии регулирования этой сфере.

Центр регулирования ИИ подготовил перевод данного проекта на русский язык.

🚗🇩🇪📃 В Бундестаге ФРГ приняли закон, разрешающий использовать беспилотники на дорогах общего пользования для перевозки пассажиров и грузов. Принятие закона в Бундесрате ожидается в ближайшее время. Текст закона доступен здесь.

⚡️🇺🇸📊 Американский исследовательский центр CNA (Center for Naval Analyses), исторически близкий к ВМС США, опубликовал отчёт про развитие искусственного интеллекта в России.

Центр регулирования ИИ подготовил выжимку с основными положениями отчёта на русском языке.

⚡️🚁🇷🇺📃Сегодня Государственная Дума приняла в первом чтении законопроект, призванный отменить обязательное лицензирование:
1️⃣ разработки
2️⃣ производства
3️⃣ испытаний и
4️⃣ ремонта
беспилотных авиационных систем /их элементов, включающих беспилотные воздушные суда (БВС) максимальной взлётной массой до 30 кг.

Напомним, что сейчас любые БВС относятся к категории «авиационная техника» в ФЗ «О лицензировании отдельных видов деятельности». То есть, на создание «лёгких» БВС распространяются такие же требования по получению лицензии, как, например, и на создание полноценного самолёта.

При этом речь идёт не только о собственно производстве воздушного судна, но и о существенном перечне работ и услуг, затрагивающих всю отрасль. Например, необходимо получать лицензию для:
❗️проведения НИОКР (в том числе с применением методов научного и математического моделирования);
❗️разработки технических предложений по созданию БВС;
❗️создании макетного образца БВС и
❗️разработки программно-математического обеспечения для него.

В Законопроекте предлагается сделать важное исключение из этого правила для беспилотников до 30 кг - а это значительная часть рынка. Таким образом, Законопроект стимулирует развитие рынка БВС.

⬆️ Как пояснил для нашего ТГ канала Андрей Грудев (Президент Ассоциации предприятий индустрии беспилотных авиационных систем «АЭРОНЕКСТ», Заместитель директора по стратегическим проектам ГК "Геоскан"):

1️⃣ указанная мера призвана облегчить работу ключевых драйверов индустрии – производителей т.н. «лёгких дронов», взлётная масса которых не превышает 30 кг.; и

2️⃣ в то же время создание «тяжёлых дронов» (с максимальной взлётной массой от 30 кг), по сути приравниваемых к обычным воздушным судам также не требует лицензирования, несмотря на высокие риски, возникающие в связи с их работой, поскольку в Федеральном законе 99-ФЗ сказано: «К лицензируемым видам деятельности относятся виды деятельности, …. регулирование которых не может осуществляться иными методами, кроме как лицензированием».

С учетом того, что есть сертификация авиационной техники (АТ), разработчиков и изготовителей (ст. 8 Воздушного кодекса), то, по мнению Ассоциации, надо вообще убирать избыточное дублирование в виде лицензирования разработчиков и производителей гражданской АТ.

⚡️🇷🇺Сбер готовит первую заявку в Роспатент на продукт, созданный ИИ.

Мы обязательно поделимся с подписчиками деталями эксперимента.

⚡️🇷🇺 На сегодняшнем заседании СБ РФ по вопросам защиты национальных интересов в сфере разработки искусственного интеллекта Зампред Дмитрий Медведев предложил сформировать позицию по чувствительным этическим вопросам применения и внедрения ИИ.

Речь идёт о тех вопросах, которые сейчас обсуждаются на международной арене, например, идеи:
1️⃣ "возможный запрет применения некоторых форм ИИ, если это потребуется";
2️⃣ "ограничение его использования в отдельных сферах" и идеи "введения внешнего контроля за разработками в этой области"; и
3️⃣ "рекомендации по моральной стороне использования технологий искусственного интеллекта".

При этом Д. Медведев обратил особое внимание на ряд обстоятельств:
❗️недопустимо "перегнуть" палку и "запретить то, что в конечном счете станет исключительно важным для человеческого развития"
❗️необходимо коммерциализировать производство отечественных технологий и обеспечить их продвижение на зарубежные рынки;
❗️ "в ряде случаев потребуются законы, которые, к сожалению, пишутся очень медленно, как правило, и подзаконные акты, прежде всего акты правительства";
❗️"этические вопросы пока нигде не решены, они только начинают обсуждаться, а там критических проблем предостаточно".

При это он отметил важность обсуждения этих вопросов на международном уровне и а частности в рамках БРИКС. «А документ на уровне БРИКС мог бы включать в конечном счете выход на модельные законы, которые содержат регулирование актуальных для всех стран проблем. Это вопросы беспилотного транспорта, разработки и внедрения интеллектуальных разработок, искусственного интеллекта в медицине и здравоохранении».

⚡️🇺🇸📃 В США Сенат одобрил законопроект, направленный на стимулирование производства полупроводников в США и развитие искусственного интеллекта.

Законопроект предусматривает целый пакет изменений:
1️⃣ создание нового управления в Национальном научном фонде, которое бы фокусировалось на поддержке исследований и развития ИИ и квантовых технологий, и инвестирование более 80 млрд долларов в создание и будущие программы этого фонда.

При этом разработка технологий ИИ и машинного обучения обозначена в качестве первостепенного по значимости направления технологического развития, на котором должен фокусироваться Национальный научный фонд. Робототехнике в системе приоритетов присвоено 4е место после "полупроводников и современного компьютерного оборудования" (2е место) и квантовых технологий (3е место);

2️⃣ запрет федеральным гос органам приобретать беспилотные авиационные системы, созданные в Китае и/или компаниями, аффилированными с Коммунистической партией Китая; а также

3️⃣ обязанность Административно-бюджетного управления (OMB) опубликовать руководство по использованию ИИ госорганами. Данное руководство включало бы в себя как общие принципы, так и более конкретные политики, которые должны быть учтены государственными органами. При этом глава каждого федерального агентства должен будет разработать и обновлять перечень используемых и планируемых к внедрению систем ИИ.

В общей сложности законопроект подразумевает инвестирование 250 млрд. долларов в течение 5 лет. Законопроект был поддержан как республиканцами, так и демократами, а Президент США Джо Байден выпустил заявление, в котором поздравил Сенат с принятием законопроекта.

⚡️⚡️⚡️Срочно: Минтранспорта опубликовало для обсуждения проект Федерального закона «О высокоавтоматизированных транспортных средствах ‎и о внесении изменений в отдельные законодательные акты ‎Российской Федерации» (№ 02/04/06-21/00116763).

Законопроект призван урегулировать вопросы, возникающие в связи с изготовлением и эксплуатацией высокоавтоматизированных ТС ("ВАТС"). В частности:

1️⃣ устанавливаются общие требования к ВАТС и условия их допуска к участию в дорожном движении;
2️⃣ устанавливаются ключевые обязанности изготовителей, владельцев и операторов ВАТС;
3️⃣ регламентируются ключевые положения об ответственности изготовителя, владельца и оператора ВАТС.

Этот законопроект – третий по счёту среди проектов, посвящённых регулированию ВАТС. Первым был внесенный в Думу проект ФЗ «Об опытной эксплуатации инновационных транспортных средств и внесении изменений в отдельные законодательные акты Российской Федерации» (2019 год). Затем в Думу был внесен законопроект госсовета Татарстана (2020 год). Однако оба законопроекта были отозваны. И вот сейчас третий вариант - один из самых детальных.

Текущий законопроект разработан регулятором при непосредственном участии ключевых игроков этого рынка. И хотя он, конечно, будет дорабатываться, принятие такого закона было бы одним из важнейших событий в развитии индустрии ВАТС в России.

В серии следующих постов мы будем рассказывать о регулировании ВАТС в зарубежных странах, а также прокомментируем основные положения проекта российского закона.

📊🚗🇨🇳 Сегодня мы делимся с вами краткой аналитической справкой о регулировании беспилотных автомобилей в Китае⬇️.

Недавно технический директор китайского технологического гиганта Alibaba Ченг Ли объявил о планах по разработке беспилотных грузовых атомобилей совместно с дочерней логистической компанией Cainiao, что в очередной раз подчеркивает необходимость и важность развития регулирования высокоавтоматизированных транспортных средст. Как обещали, будем постепенно рассказывать про опыт регулирования беспилотныхных транспортных средств в зарубежных странах.

Китай является одним из мировых лидеров по регулированию беспилотных автомобилей, с чем связано их активное внедрение и тестирование на дорогах общего пользования.

Основой китайского регулирования беспилотников являются:
🔘 Закон КНР о безопасности дорожного движения, главным образом регулирующий вопросы дорожного движения в Китае, и
🔘Национальное руководство по дорожным испытаниям, целью которого является введение общенациональной правовой базы для тестирования беспилотных автомобилей на дорогах общего пользования, а также содействие развитию автоматизированной технологии вождения путем проведения испытаний на дорогах общего пользования.

В Национальном руководстве по дорожным испытаниям содержится определение «интеллектуального и подключенного ТС»; разграничение трёх уровней автоматизации; процедуры и требования к испытаниям беспилотников; требования к испытываемому транспортному средству; требования к водителю-испытателю.

Кроме национального законодательства, регулирование беспилотных автомобилей устанавливается и на местном уровне. Так, местные органы власти в сфере транспорта в Пекине, Шанхае, Чунцине, Чанше, Гуандуне, Фучжоу Пинтане, Чанчу, Тяньцзине, Чжэцзяне, Цзинане, Ухане и Цзянсу установили местные правила для дальнейшего регулирования беспилотников в своих регионах. Данные местные правила содержат аналогичные, но более подробные требования в отношении испытуемого транспортного средства и водителя-испытателя, чем предусмотренные Национальным руководством по дорожным испытаниям, с учетом местных особенностей.

Также в Китае существует Стратегия инноваций и развития интеллектуальных транспортных средств, предусматривающая создание к 2025 году комплексной системы, включающей технологические инновации, промышленную экосистему, инфраструктуру, правила и стандарты, регулирование продуктов и кибербезопасность – все это направлено на создание экосистемы для развития интеллектуальных транспортных средств в Китае.

Стоит отметить, что законодательное регулирование в сфере беспилотных автомобилей в Китае стремительно развивается. Так, 24 марта 2021 года Министерство общественной безопасности Китая опубликовало Проект Предлагаемых поправок к Закону о безопасности дорожного движения. Данные поправки предусматривают уточнение требований, связанных с дорожными испытаниями ТС, оснащенных автоматизированными функциями вождения, и доступом к ним, а также регулирование порядка распределения ответственности за нарушения ПДД и ДТП.

В области местного законодательства в настоящее время на рассмотрении находится
Проект Регламента Специальной экономической зоны Шэньчжэнь по администрированию интеллектуальных и подключенных транспортных средств, который закрепляет всю цепочку жизни беспилотных автомобилей: разработку, дорожные испытания, регистрацию доступа, управление, использование, ДТП, обработку аварий и нарушений, решение вопросов юридической ответственности.

⚡️🇷🇺📃 Госдума приняла в 3 чтении законопроект - спутник к закону об ЭПР. По сравнению с первоначальным текстом законопроекта, итоговая версия оказалась изменена. Ниже обзор ключевых изменений:
❗️исключается возможность создания ЭПР, позволяющих заключать договор об оказании услуг связи с помощью биометрических технологий (исключены правки в ст. 44 закона о связи) (в рамках проекта дистанционного заключения договоров об оказании услуг связи с использованием биометрических технологий) ;
❗️исключаются правки в п. 1 ст. 53 Закона о связи, отменяющие в рамках ЭПР режим ограниченного доступа баз данных об абонентах операторов связи (в рамках проекта сервиса для малого и среднего бизнеса по подбору оптимальных сфер и мест деятельности на базе больших данных). Вместо этого предусматривается возможность создания ЭПР, в рамках которого оператор подвижной радиотелефонной связи сможет предоставлять другим участникам ЭПР сведения о количестве абонентов, находящихся в определенный период времени на определенной территории в границах территории действия регуляторной песочницы (в рамках ст. 53.1 закона о связи);
❗️предусмотрены дополнительные правки в ВК РФ (п. 1 ст. 66), позволяющие в рамках ЭПР допускать к полёту воздушные суда, не имеющие государственный и регистрационный или учетный опознавательные знаки, не прошедшее подготовку и не имеющее на борту соответствующую документацию (в рамках проекта сервиса грузовых перевозок с использованием беспилотных авиационных систем). Также в рамках новой версии законопроекта вносятся правки в п. 4 ст. 54 ВК РФ (в дополнение к правкам в ст. 53). Благодаря данным правкам в рамках ЭПР будут упрощены условия допуска лиц к выполнению функций внешнего пилота.

Сегодня на круглом столе "Искусственный интеллект: разумный партнер" XII Международного ИТ-Форума с участием стран БРИКС и ШОС представлен доклад "Этика и цифра: от проблем к решениям", в котором рассмотрено, в том числе и развитие оценки воздействия алгоритмических систем на международном уровне и ее перспективы в России.
Доклад подготовлен нашими коллегами из #РАНХиГС @CDTO_online совместно с коллегами из @AI_regulation @GDPRru @privacy_chat
#ИИ #AI #digital #AIIA #TechnologyAssessment

🇺🇸 🚗📃 В штате Луизиана подписан закон, устанавливающий минимальные требования к роботам - курьерам. К такому курьеру устанавливаются требования по максимальной скорости (в зависимости от локации - от 19.3 до 32.19 км/час), поведению на дороге (пропускать пешеходов, не создавать пробки), перевозимым грузам (не допускается перевозка грузов, представляющих опасность для жизни и здоровья), наличию осветительных приборов и страхованию (на сумму не менее 100 000 долларов).

🇦🇺📊Делимся докладом Комиссии Австралии по защите прав человека по правовым вопросам, возникающим при внедрении ИИ. Доклад подготовлен для Ген. Атторнея Австралии по итогам трех лет исследований и консультаций.

Доклад состоит из 38 рекомендаций по направлениям:
1️⃣ стратегия внедрения новых технологий;
2️⃣ использование ИИ гос органами и бизнесом;
3️⃣ создание Комиссариата по безопасности ИИ;
4️⃣ рекомендации по обеспечению доступности технологий.

2 часть придерживается традиционного разграничения бизнес/государство. Ключевые положения:
А. Для гос-ва
1) внедрить процедуру оценки влияния систем ИИ на права человека
2) уведомлять пользователя о взаимодействии с ИИ
3) не можете объяснить, как алгоритм пришёл к решению, влияющего на права гражданина - не используйте систему ИИ.
Б. Для бизнеса
1) рекомендуется оценка влияния ИИ на права человека
2) уведомлять пользователя о взаимодействии с ИИ
3) презумпция, что компания в ответе за решения ИИ.

Также будут разработаны руководства по предотвращению дискриминации.

🚆🗓 Одна из из самых перспективных сфер внедрения ИИ в России - автономное управление на ж/д транспорте.

Развитие регулирования там идет очень быстро, как и внедрение ИИ в работу. Делимся с подписчиками интересными моментами из выступлений спикеров семинара «Технологии автономного вождения на железнодорожном транспорте - Предвосхищая ожидания», организованного ОАО «РЖД» как председательствующей организацией в Международном совете по железнодорожным исследованиям. В нем приняли участие представители России, Австралии, Китая, Франции, Бельгии и США.

Внедрение технологий автономного управления в этой сфере порождает целый ряд этических и регуляторных вопросов. Позднее мы расскажем поподробнее про эти аспекты.

⚡️🇪🇺Европейский совет по защите данных (EDPB) и Европейский инспектор по защите данных (EDPS) опубликовали совместную позицию в отношении ранее опубликованнного проекта Регламента Еврокомиссии ЕС о регулировании ИИ.

Совместная позиция состоит, в частности, из следующих положений:
1️⃣ Хотя EDPB и EDPS всячески приветствуют инициативы регулирования ИИ на уровне ЕС, они обеспокоены тем, что проект регламента не включает вопросы международного сотрудничества правоохранительных органов по вопросам, связанным с применением ИИ;
2️⃣ По мнению EDPB и EDPS, следует также дополнительно обратить внимание, что любые случаи обработки персональных данных системами ИИ будут регулироваться не только регламентом, но и GDPR. По их мнению, для оценки рисков в рамках предлагаемого Регламентом риск-ориентированного подхода в параметре "риски нарушения основополагающих прав" должны быть учтены требования GDPR. И соответствие европейским нормам в области регулирования и защиты данных должно быть одним из условий, без которого будет невозможен допуск зарубежных технологий и ПО на европейский рынок;
3️⃣ ❗️При этом EDPB и EDPS выступают за запрет использования технологий распознавания лиц, голоса, ДНК, походки и других способов биометрической идентификации при помощи искусственного интеллекта. Также они выступают за максимальное ограничение внедрения технологий распознавания эмоций (за исключением использования таких технологий в медицинских целях), за запрет использования ИИ для социального скоринга или для классификации людей по каким-либо признакам, если это может повлечь дискриминацию.

Перевод проекта Регламента на русский язык смотрите в этом посте.