Время первых: Евросоюз первым в мире задумался о регулировании ИИ

В Европарламенте одобрен первый в мире набор правил для искусственного интеллекта. Они запрещают распознавание лиц без участия людей. Это нужно, по мнению евродепутатов для того, чтобы человек знал, когда с ним общается другой индивид, а когда —чат- бот, по типу знаменитого ChatGPT.

«Когда мы говорим о разработке крупномасштабных систем искусственного интеллекта, мы также должны думать о их потенциальных недостатках или дисбалансах, которые делают их вредными. Мы имеем дело со всё мощными и подключёнными друг к другу информационными устройствами... По сути, эти правила дают более строгие гарантии того, что правительства и частные компании будут использовать эти системы лишь на благо всем нам. Мы будем знать, как искусcтвенный интеллект применяется, например, правоохранительными органами или в миграционном контроле. Пока мы часто не знаем, участвуют ли в этом такие системы», — говорит эксперт Сара Чандер из Ассоциации Европейских цифровых прав.

Евродепутаты предлагают запретить системы удаленной биометрической идентификации в реальном времени в публичных местах.

Кроме того, они выступают против бесконтрольного сбора биометрических данных в социальных сетях и системах видеонаблюдения для создания баз данных по распознаванию лиц (это то, о чем мы в DRC говорим уже не первый год — еще со времен ковида). Предлагается запретить использование систем распознавания эмоций правоохранительными органами, в учебных заведениях и на рабочих местах.

А в довершение всего, вишенкой на торте™, по предлагаемым нормам на искусственный интеллект можно будет жаловаться. Правда, пока не очень понятно, куда и кому — но, как говорится, сам факт.

В Европарламенте рассчитывают, что новые правила заработают уже к концу 2023 года.

#искусственный_интеллект #AI #новости_от_DRC #Евросоюз #правила

__________
• DRC.LAW: услуги IT-юристов с гарантией. Решение вопросов правового характера для бизнесов в сферах IT и Телеком, пользователей и владельцев веб-сайтов

Знак нейросети: контент, созданный искусственным интеллектом, предложили маркировать

Сейчас уже почти никто не сомневается, что нейросети — это будущее не только искусственного интеллекта, но и большинства цифрового контента. ChatGPT, Midjourney, DALL-E и многие другие создают творения, которые уже сейчас порой плохо отличимы от того, что способен создать человек — а ведь это только начало.

Похожая ситуация когда-то произошла в шахматах, когда человек впервые стал играть с компьютером. На короткой дистанции казалось, что у гроссмейстеров есть шансы победить, но в перспективе стало понятно, что разница между мозгом человека и мозгом машины — примерно такая же, как между «Феррари» и «Боингом».

Но как бы там ни было, генерация контента нейросетями — это уже реальность сегодняшнего дня. А следовательно, ее надо так или иначе включать в правовое поле и гражданский оборот. И в этом смысле интересно последнее предложение о маркировке контента, который создают нейросетки.

В письме, которое направил главе Минцифры Максуту Шадаеву ректор Российского технологического университета (РТУ МИРЭА) Станислав Куджа, контент нейросетей предлагается маркировать специальным графическим знаком. Отметим, что подобная идея сейчас обсуждается и на Западе. Скажем, профессор Калифорнийского университета Хани Фарид высказал предложение использовать для этого специальные водяные знаки с уникальным идентификатором.

По мнению профессора, при темпе развития нейросетей рядовой человек скоро окажется неспособен отличать созданный ими контент от творения человеческих рук и мозга. И в насквозь информационном мире создание, к примеру, фейковых видео с помощью ИИ может привести к политическим, военным или биржевым кризисам.

И опасность эту недооценивать действительно нельзя.

#контент #нейросети #маркировка #AI #искусственный_интеллект

__________
• DRC.LAW: услуги IT-юристов с гарантией. Решение вопросов правового характера для бизнесов в сферах IT и Телеком, пользователей и владельцев веб-сайтов

В среду депутаты Европарламента большинством голосов одобрили закон о регулировании искусственного интеллекта (ИИ). За принятие документа проголосовали 499 депутатов, против — 28, воздержались 93 парламентария. Теперь окончательную редакцию закона парламент обсудит с Советом ЕС.

Документ выделяет четыре категории систем ИИ: с ограниченным, неприемлемым и высоким риском, а также генерирующие системы (нейросети).

К высокорисковым закон отнес системы, которые причиняют ущерб здоровью, безопасности и основным правам человека, а также вредят окружающей среде.

Также в эту категорию включили системы, оказывающие влияние на мнение избирателей в политкампаниях, и рекомендательные алгоритмы, используемые соцсетями с более чем 45 млн пользователей.

Новым законом будет запрещено распознавать лица людей в общественных местах в режиме реального времени. Единственное исключение — это расследование тяжких преступлений, и в этом случае правоохранители будут обязаны запрашивать доступ к данным у суда.

Системы распознавания эмоций нельзя будет использовать правоохранительным органам (включая погранконтроль), а также работодателям и учебным заведениям.

Специально оговорен в документе запрет т.н. «прогностических систем полиции» — так называется механизм, который использует ИИ для анализа big data и выявления на их основе потенциальных преступников (или же, напротив, их жертв).

Отдельный раздел документа посвящен нейросетям — таким, например, как ChatGPT. Созданный ими контент обязательно должен быть промаркирован. Любые нейросети не должны допускать в своей работе генерацию нелегального контента.

Кроме того, закон обяжет такие сети, как, например Midjourney или Stable Diffusion, сообщать о материалах, которые они используют для своего обучения и повышения «насмотренности». А обладатели авторских прав на такие материалы могут подать судебный иск, если выяснят, что разработчик незаконно обучал нейросеть на основе их контента.

#новости_oт_DRC #Европарламент #AI_Act #искусственный_интеллект #новые_законы

Искусственный интеллект, блокчейн и криптовалюты это ярчайшие примеры прорывных технологий XXI века. Каждая из них не просто произвела революцию в своей сфере, но еще и открыла таким же, как и мы, цифровым энтузиастам, целые миры возможностей, которые только еще предстоит изучить.

В настоящее время существует уже несколько областей, где ИИ можно безопасно интегрировать с криптовалютами, улучшая существующие процессы и обеспечивая целый ряд преимуществ. Однако, как и в случае с любой новой технологией здесь имеются и риски, о которых всегда следует помнить.

Поэтому сегодня мы предлагаем нашим читателям материал, в котором финансовый консультант из США JC Keen пытается ответить на вопрос о том, что же будет, если две прорывные технологии — ИИ и криптовалюты — окажутся в слиянии и синергии? И есть ли проблемы, способные этому помешать?

Читайте, размышляйте, при желании — дискутируйте с нами ))

#новости_от_DRC #перевод #AI #crypto #криптовалюты #ИИ #искусственный_интеллект

Буквально два дня назад в Китае начали действовать новые правила касательно генеративного искусственного интеллекта.

Учитывая, что многие китайские практики по регулированию цифровой сферы вызывают явный интерес со стороны российских властей, пройти мимо того, что наш Суверенный Интернет™️, возможно, ожидает в будущем - мы, понятное дело не могли.

Поэтому собрали большой материал на тему того, как теперь в Поднебесной собираются регулировать сферу ИИ. И, как говорится, не ждём, но готовимся.

#Китай #ИИ #правила #новости_от_DRC #generative_AI #искусственный_интеллект

Интересное от коллег из Казахстана - журналисты «Курсив медиа» публикуют перевод колонки сотрудников Института инноваций и общественных целей UCL Марианны Маццукато и Фаусто Джерноне о том, как государство должно грамотно выстраивать свою политику в отношении искусственного интеллекта.

Думаем, что с этой точкой зрения как минимум интересно ознакомиться.

#ИИ #перевод #искусственный_интеллект