ИИ раздевает людей: новый отчёт раскрывает масштабы и последствия сервисов для создания фальшивых обнажённых изображений
📊 По данным компании Graphika, только в сентябре 34 веб-сайта, предлагающих сервисы для создания фальшивых обнажённых изображений с помощью ИИ, привлекли более 24 миллионов уникальных посетителей.
😱 Исследователи предупреждают, что такие сервисы могут привести к увеличению онлайн-вреда, включая сексторшн, преследование и производство материалов сексуального насилия над детьми.
🎭 Приложения для создания глубоких подделок (deepfake) существуют уже несколько лет и часто используются против знаменитостей и интернет-личностей без их согласия.
#ГлубокиеПодделки #ИИ #Безопасность @SecLabNews
#ГлубокиеПодделки #ИИ #Безопасность @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
ИИ разрушает вашу личность: как сервисы, которые создают обнажённые изображения, крадут вашу идентичность и унижают ваше достоинство
Растущая популярность приложений для создания фальшивых обнажённых изображений вызывает серьёзные опасения.
Google создает ИИ-помощника, который знает все о вас
🚀 Project Ellmann - это новый амбициозный проект Google, который планирует использовать модель искусственного интеллекта Gemini для создания более персонализированного опыта общения с пользователями.
🧠 Project Ellmann будет анализировать фотографии в Google Photos и историю поиска, чтобы создать детализированный профиль жизни каждого пользователя и отвечать на их вопросы более конкретно и точно.
🛡 Project Ellmann вызывает вопросы о доверии к технологии и конфиденциальности данных, так как многие пользователи могут не захотеть предоставлять такой доступ к своей личной жизни ради удобства.
#Google #ИИ #ProjectEllmann @SecLabNews
🧠 Project Ellmann будет анализировать фотографии в Google Photos и историю поиска, чтобы создать детализированный профиль жизни каждого пользователя и отвечать на их вопросы более конкретно и точно.
#Google #ИИ #ProjectEllmann @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Project Ellmann: ChatGPT от Google, который уже знает всё о вашей жизни
Новый проект Google будет использовать ИИ для составления профиля жизни каждого пользователя.
LAION-5B стал источником CSAM для генеративных нейросетей
🔎 В наборе данных LAION-5B, который использовался для обучения популярных генеративных нейросетей, было выявлено наличие 1 008 изображений CSAM, подтверждённых инструментом PhotoDNA от Microsoft.
🌐 Некоторые из ссылок на фотографии CSAM в LAION-5B вели на известные сайты, такие как Reddit, X, Blogspot, Wordpress, а также на сайты для взрослых XHamster и XVideos.
🚫LAION объявила о временном снятии публичных наборов данных с публикации и обещала провести обновление фильтрации, чтобы удалить подозрительный и потенциально незаконный контент.
#LAION5B #CSAM #ИИ @SecLabNews
🚫LAION объявила о временном снятии публичных наборов данных с публикации и обещала провести обновление фильтрации, чтобы удалить подозрительный и потенциально незаконный контент.
#LAION5B #CSAM #ИИ @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Обнаружены материалы сексуального насилия над детьми в обучающем наборе данных для Stable Diffusion
Число материалов, раскрытых Microsoft, может быть гораздо больше заявленного.
Китайский ИИ разоблачает американских агентов в Пекине
🕵️♂️ МГБ Китая разработало ИИ-систему для слежки за иностранцами в Пекине, улучшая эффективность наблюдения.
👁 Система ИИ использует данные из баз и камер для создания досье и определения потенциальных уязвимостей целей.
🌐 Новая система ИИ отслеживает американских шпионов и других важных персон, отражая растущие амбиции МГБ Китая.
#Китай #ИИ #Разведка @SecLabNews
🕵️♂️ МГБ Китая разработало ИИ-систему для слежки за иностранцами в Пекине, улучшая эффективность наблюдения.
#Китай #ИИ #Разведка @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Новый виток шпионской войны: Китай использует ИИ для отслеживания американских агентов в Пекине
Система не просто отслеживает, но и анализирует поведенческие модели целей.
МВФ: ИИ угрожает труду, доходам и неравенству в мире
🤖 Почти 40% мировой занятости подвержены влиянию ИИ, при этом в развитых экономиках около половины рабочих мест могут быть заменены ИИ-инструментами, а в развивающихся странах и странах с низким доходом многие не могут воспользоваться преимуществами ИИ из-за отсутствия инфраструктуры или квалифицированной рабочей силы.
💸 ИИ может усугубить неравенство доходов и богатства внутри стран, если он будет дополнять работу высокооплачиваемых сотрудников и увеличивать доходы от капитала, а также между странами, если развивающиеся экономики не смогут конкурировать с развитыми на рынках ИИ.
🌐 Для смягчения негативных последствий ИИ и создания более инклюзивного будущего труда и доходов необходимо разработать всеобъемлющие системы социальной защиты, предложить программы переподготовки уязвимым работникам и усилить международное сотрудничество в области регулирования и этики ИИ.
#ИИ #труд #неравенство @SecLabNews
#ИИ #труд #неравенство @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
МВФ: 30% рабочих мест могут исчезнуть из-за ИИ
ИИ переформирует глобальную экономику планеты, усилив напряжение в обществе.
Геометрия больше не проблема: ИИ DeepMind справился с задачами олимпиад
🧠 Британская компания DeepMind продемонстрировала возможности созданной ею системы искусственного интеллекта AlphaGeometry в решении сложных геометрических задач, используемых на престижной Международной математической олимпиаде среди учащихся средних школ.
🥇 Из 30 тестовых задач она решила 25, что фактически соответствует "золотому" результату победителя олимпиады среди школьников. Для сравнения, предыдущий рекорд для ИИ составлял 10 решённых задач.
🔑 Ключом к успеху стал нейро-символьный подход AlphaGeometry, сочетающий возможности нейронных сетей и логического вывода. Обучение системы было проведено на основе синтетических данных без использования готовых решений от человека.
#ИИ #DeepMind #математика @SecLabNews
#ИИ #DeepMind #математика @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Нейросеть DeepMind приближается к "золоту" Международной математической олимпиады
Системе AlphaGeometry удалось решить 25 из 30 задач по геометрии.
Ректор МИРЭА предложил запретить ИИ в ряде сфер деятельности
✍️ Ректор РТУ МИРЭА Станислав Кудж направил письмо министру цифрового развития России Максуту Шадаеву с предложением ограничить использование искусственного интеллекта (ИИ) в определенных областях.
🚫 В письме речь идет о введении законодательных запретов на применение ИИ в некоторых сферах, включая создание рекламы для детей, социальный скоринг, принятие судебных решений и другие виды деятельности, где ИИ может нанести вред человеку или нарушить его права.
🛡 Ректор МИРЭА также призывает к разработке риск-ориентированного подхода в регулировании ИИ в России и выделяет категории деятельности с повышенными рисками, где использование ИИ требует особого контроля и прозрачности.
#ИИ #регулирование #МИРЭА @SecLabNews
#ИИ #регулирование #МИРЭА @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
МИРЭА предлагает ввести жёсткие ограничения на ИИ в России
Соответствующее письмо ректор вуза Станислав Куджа отправил главе Минцифры
Пентагон тестирует ИИ для армии США
🤝 Согласно данным компании DefenseScoop, министерство обороны США заключило контракт со специализирующимся на ИИ стартапом Scale AI. Его задача — создать инструменты для тестирования и оценки работы больших языковых моделей, способных к анализу и генерации текста.
🌐 Речь идет о комплексной платформе, которая позволит Пентагону глубоко и всесторонне изучить возможности нейросетей. Она будет выдавать обратную связь для военных, а также генерировать специальные тестовые данные для проверки ИИ на конкретных задачах. К примеру, для анализа разведданных, планирования операций, обработки отчетов с горячих точек.
📈 Нейронные сети могут радикально ускорить обработку поступающей развединформации и принятие стратегических решений. Однако главное препятствие — склонность ИИ к генерации ложных материалов, так называемым «галлюцинациям».
#ИИ #Пентагон #нейросетим @SecLabNews
#ИИ #Пентагон #нейросетим @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
ИИ на службе Пентагона: готовность №1 к внедрению спорной технологии
Насколько безопасны нейросети в погонах? Scale AI обещает дать ответ.
Gemini: как чат-бот от Google нарушил исторический и культурный контекст
😂 Пользователи в социальных сетях подшучивали над чат-ботом Gemini, который генерировал нелепые изображения исторических персонажей, следуя этическим настройкам.
🌎 Gemini отказался создавать изображения белой пары, ссылаясь на то, что это укрепляет вредные стереотипы. Вместо этого он генерировал картинки с представителями разных этнических групп.
🙏 Gemini нарушил гендерные различия при генерации конкретных личностей. Например, он изобразил Папу Римского как чернокожую женщину в папском облачении.
😆 Gemini, выполняя просьбу нарисовать немецкого солдата 1943 года, изобразил чернокожих, азиатов и коренных американцев в нацистской форме. Это вызвало смех и недоумение у пользователей социальных сетей.
#Gemini #Google #ИИ @SecLabNews
#Gemini #Google #ИИ @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Почему чернокожая женщина не может быть Папой Римским? Чат-бот Gemini оказался чересчур толерантным
Google запретила модели генерировать картинки с людьми, пока она не научится здравому смыслу.
Глава NVIDIA: программирование устарело, нужно изучать другие области
🌍 На Всемирном правительственном саммите в Дубае глава Nvidia Дженсен Хуанг выступил с неожиданным заявлением. Он выразил мнение, что учиться программировать уже не так важно, как раньше.
👁 По словам Хуанга, со временем для написания кода будет достаточно сформулировать техническое задание на естественном языке. Всю рутинную работу вместо программистов сможет выполнять ИИ. Молодым людям, по его мнению, имеет смысл тратить своё время на обретение более ценных навыков в области биотехнологий, образования, производства и сельского хозяйства.
🧐 Глава Nvidia предположил, что единственным необходимым языком останется родной, в котором каждый человек уже эксперт с рождения. Однако людям по-прежнему нужно знать, как и когда применять ИИ-программирование.
#ИИ #программирование #образование @SecLabNews
#ИИ #программирование #образование @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Человеческий – новый язык программирования: взгляд главы NVIDIA на будущее ИИ
Наша цель – сделать ИИ доступным для всех, а не учить детей программированию.
Искусственный интеллект помогает США наносить авиаудары на Ближнем Востоке
🆕 США впервые использовали искусственный интеллект для определения целей авиаударов в военных операциях на Ближнем Востоке в феврале.
🎯 Алгоритмы машинного обучения, способные самостоятельно научиться идентифицировать объекты, помогли выбрать цели для более чем 85 американских авиаударов.
⚙️ ИИ также помогал выявлять пусковые установки ракет в Йемене и надводные суда в Красном море. Разработка алгоритмов велась в рамках проекта Project Maven, запущенного в 2017 году для ускорения внедрения ИИ в оборонной сфере.
#ИИ #авиаудары #БлижнийВосток @SecLabNews
#ИИ #авиаудары #БлижнийВосток @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
США впервые применили ИИ для выбора целей авиаударов на Ближнем Востоке
Пентагон раскрыл секреты использования ИИ в боевых операциях.
Россия входит в десятку лидеров по объему ИИ-вычислений
🏆 Россия вошла в топ-10 по объему вычислительных мощностей для ИИ. Общий уровень внедрения ИИ в приоритетных направлениях экономики достиг 31,5%, сообщил министр экономического развития Максим Решетников.
🚀 Прогнозируется, что внедрение искусственного интеллекта в 95% организаций к 2030 году принесет прирост ВВП России на 11,2 трлн рублей. Бизнес и государство планируют нарастить инвестиции в данные технологии до 850 млрд рублей.
📔 С 2025 года модуль по искусственному интеллекту станет обязательным для всех образовательных программ в России. При этом экономике уже требуется 10 тыс. специалистов в области ИИ.
#ИИ #ТехнологическийПрорыв #Россия @SecLabNews
#ИИ #ТехнологическийПрорыв #Россия @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
ИИ-прорыв: Россия вошла в десятку лидеров по вычислительным мощностям
Бизнес и государство вложат 850 млрд рублей в развитие ИИ.
Робот Figure 01 научился вести беседу в реальном времени благодаря OpenAI
💥 Компания Figure представила первые результаты сотрудничества с OpenAI, демонстрируя, как робот Figure 01 ведет беседу в реальном времени.
🔍 В новом ролике Figure 01 успешно идентифицировал предметы, передал яблоко и аккуратно расставил посуду. При этом он продолжал беседовать с человеком, демонстрируя уверенные и точные движения.
🚀 Бретт Эдкок подчеркнул амбициозную цель разработки - научить мировую модель ИИ управлять миллиардами роботов-гуманоидов, что открывает новые горизонты для применения робототехники в будущем.
#OpenAI #робототехника #ИИ #Figure01 @SecLabNews
💥 Компания Figure представила первые результаты сотрудничества с OpenAI, демонстрируя, как робот Figure 01 ведет беседу в реальном времени.
#OpenAI #робототехника #ИИ #Figure01 @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Figure 01: первый в мире коммерчески жизнеспособный универсальный робот-гуманоид
Новое видео демонстрирует поразительные возможности робота.
Создание «русского GitHub» приостановлено из-за отсутствия финансирования
⏳ Инициатива по созданию национальной платформы для обмена и разработки открытого кода, которую предполагалось завершить к концу апреля 2024 года, была отложена на неопределенный срок из-за недостатка финансирования.
💸 В декабре 2022 года Министерство цифрового развития России предложило выделить 1,3 миллиарда рублей из фонда «Росинфокоминвест», где средства находились без использования с 2007 года, для финансирования данного эксперимента. Однако средства так и не были переданы в Российский фонд развития информационных технологий.
👨💻 По словам источника, близкого к правительству, в настоящий момент ведется работа с экспертами для пересмотра стратегии реализации данного и других проектов, с упором на активное привлечение искусственного интеллекта для обработки данных и кода, а также на вовлечение IT-сообщества для решения поставленных задач.
#открытыйкод #платформа #IT #ИИ @SecLabNews
👨💻 По словам источника, близкого к правительству, в настоящий момент ведется работа с экспертами для пересмотра стратегии реализации данного и других проектов, с упором на активное привлечение искусственного интеллекта для обработки данных и кода, а также на вовлечение IT-сообщества для решения поставленных задач.
#открытыйкод #платформа #IT #ИИ @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
82 участника, 1,3 миллиарда и...отсрочка: что происходит с российской платформой для обмена кодом
Отложенный старт или смена курса?
Дженсен Хуанг предрекает эру игр, созданных ИИ
🔮 На конференции Nvidia GPU Technology Conference Дженсен Хуанг рассказал о своем видении будущего технологий, где ИИ будет генерировать компьютерную графику.
🎮 Хуанг считает, что игры, полностью созданные ИИ, могут появиться в ближайшие 10 лет, а первые попытки - уже через 5 лет.
⚡️ По его словам, даже плохая игра, созданная ИИ менее чем за 10 минут, будет лучше, чем большинство людей могут сделать самостоятельно, благодаря быстрому повторению идей.
#ИИ #Видеоигры #Nvidia @SecLabNews
#ИИ #Видеоигры #Nvidia @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Дженсен Хуанг: ИИ будет генерировать каждый пиксель игры через 10 лет
Глава Nvidia считает, что даже плохая игра от ИИ будет лучше, чем смогут сделать большинство людей.
Большие данные и большие вызовы: ИИ-плагиат захлестнул университеты
📊 Компания Turnitin, предоставляющая услуги по проверке текстов на заимствования и плагиат, сообщила о выявлении более 22 миллионов студенческих работ, содержащих около 11% текста, сгенерированного ИИ.
🤖 Примерно 6 миллионов из этих работ содержат до 80% текста, созданного с помощью языковых моделей.
🏛 Несмотря на эффективность нового детектора, Turnitin подчеркивает необходимость пересмотра академических правил в связи с ростом использования ИИ в образовании.
#ИИ #образование #Turnitin @SecLabNews
#ИИ #образование #Turnitin @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Чем умнее ИИ, тем хитрее студенты: у миллионов письменных работ – один соавтор
Как технологии влияют на академическую честность?
Испытано на практике: GPT-4 взламывает реальные системы
🤯 Учёные из Иллинойсского университета доказали, что GPT-4 способна самостоятельно эксплуатировать уязвимости в реальных системах после получения их описания.
🔓 Модель смогла использовать 87% из 15 критических уязвимостей, в то время как другие модели с задачей справиться не смогли.
💰 Исследователи утверждают, что затраты на успешную эксплуатацию уязвимости с помощью LLM обойдутся в разы дешевле, чем услуги профессионального пентестера.
#ИИ #Кибербезопасность #GPT4 @SecLabNews
#ИИ #Кибербезопасность #GPT4 @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Скайнет близко? GPT-4 научился самостоятельно взламывать системы, эксплуатируя актуальные уязвимости
Уже в ближайшие годы ИИ станет самым матёрым киберпреступником на Земле.
«Грифботы»: новая технология или путь к психологическим травмам?
🤖 Ученые выражают опасения относительно использования ИИ для создания "грифботов" - чат-ботов, которые позволяют общаться с умершими, создавая иллюзию их присутствия и потенциально приводя к психологическому вреду из-за "цифрового преследования".
🚸 В исследовании освещены риски, связанные с злоупотреблением такими технологиями, включая возможность использования ИИ для скрытой рекламы и воздействия на уязвимые группы населения, такие как дети, которым могут внушать, что умерший родитель все еще с ними.
🔒 Авторы предлагают разработать этические принципы для ИИ-платформ и получение согласия от лиц для использования их данных в создании ботов после смерти.
#ИИ #грифботы #цифровоебессмертие @SecLabNews
🚸 В исследовании освещены риски, связанные с злоупотреблением такими технологиями, включая возможность использования ИИ для скрытой рекламы и воздействия на уязвимые группы населения, такие как дети, которым могут внушать, что умерший родитель все еще с ними.
#ИИ #грифботы #цифровоебессмертие @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Вечная память или цифровое проклятие? Воскрешая умерших, ИИ наносит психологический вред
Эксперты призывают к законодательному регулированию ИИ, воссоздающего личности умерших людей.
Сэм Альтман представляет будущее базового дохода
🤖 Глава OpenAI, Сэм Альтман, предложил использовать вычислительные мощности ИИ-моделей в качестве универсального базового дохода.
🔬 Каждый человек получит долю мощностей GPT-7 и сможет использовать этот ресурс по своему усмотрению, включая перепродажу или передачу ученым для исследований.
💰 Концепция подразумевает, что владение частью ИИ может стать более ценным, чем традиционные деньги в будущем.
#УниверсальныйБазовыйДоход #ИИ #СэмАльтман @SecLabNews
#УниверсальныйБазовыйДоход #ИИ #СэмАльтман @SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Кусочек GPT-7 вместо социальных выплат: Сэм Альтман предлагает помощь нуждающимся
В будущем вычислительные мощности ИИ могут стоить дороже любых денег.
ИИ: как технологическое цунами изменит рынок труда
🌊 МВФ предупреждает о грядущем "цунами" на рынке труда из-за повсеместного внедрения ИИ.
📉 Прогнозы МВФ: ИИ может затронуть до 40% рабочих мест в мире, что приведет к массовым увольнениям.
⚖️ Без правильного управления ИИ может усилить неравенство и распространить дезинформацию.
🚀 ИИ особенно ударит по младшим разработчикам, чьи места уже начинают вытеснять умные ИИ-помощники, такие как GitHub Copilot.
#ИИ #МВФ #БудущееТруда @SecLabNews
🌊 МВФ предупреждает о грядущем "цунами" на рынке труда из-за повсеместного внедрения ИИ.
📉 Прогнозы МВФ: ИИ может затронуть до 40% рабочих мест в мире, что приведет к массовым увольнениям.
⚖️ Без правильного управления ИИ может усилить неравенство и распространить дезинформацию.
🚀 ИИ особенно ударит по младшим разработчикам, чьи места уже начинают вытеснять умные ИИ-помощники, такие как GitHub Copilot.
#ИИ #МВФ #БудущееТруда @SecLabNews
SecurityLab.ru
МВФ: ИИ грозит рынку труда «цунами» безработицы
МВФ предупреждает о массовой безработице и потере контроля над информацией.