Кабинет
howtocomply_AI: право и ИИ

howtocomply_AI: право и ИИ

Канал про право и искусственный интеллект. Исчерпывающе, но не всегда лаконично. Дмитрий Кутейников

Юзернейм
@howtocomply_ai
Категория
Право
Страна
РоссияРоссия
Создан
, 3 года
Подписчики1 459−1 за 1 день
Просмотров на пост, 7 дн.145−70,9% к пред. 7 дн.
ERR9,90 %за 7 дней

Подписчики, 30 дней

15 нояб. – 16 нояб.−1 (−0,1%)

Показать таблицей
ДатаПодписчики
15 нояб. 2026 г.1 460
16 нояб. 2026 г.1 459

Средние просмотры поста по дням

По дню публикации

Показать таблицей
ДатаПросмотров на пост
20 окт. 2026 г.340
24 окт. 2026 г.331
25 окт. 2026 г.1 279
7 нояб. 2026 г.229
8 нояб. 2026 г.765
10 нояб. 2026 г.164
12 нояб. 2026 г.155
13 нояб. 2026 г.95

Самые просматриваемые за месяц

  1. 01
    Просмотры1,28 тыс.
    Пересылки30
    Реакции12
    Комментарии0
  2. 02
    Просмотры765
    Пересылки12
    Реакции6
    Комментарии0
  3. 03
    Просмотры340
    Пересылки3
    Реакции8
    Комментарии4
  4. 04

    Правоприменительные новости из ЕС в рамках Регламента об ИИ Статья 92 Регламента ЕС об ИИ позволяет Еврокомиссии проводить оценку моделей ИИ общего назначения в двух случаях: когда сведений, полученных по запросу, недостаточно для проверки соблюдения обязанностей поставщиком и когда нужно расследовать риски, которые модель с системным риском создаёт на уровне ЕС. Порядок оценки, как и порядок разбирательств о штрафах для поставщиков по статье 101, Регламент оставил имплементационным актам. В июле Комиссия приняла такой акт, имплементационный регламент 2026/1755. Он определяет, какой доступ к модели Комиссия может потребовать (вплоть до исходного кода и весов), как отбираются независимые эксперты для оценки, сколько времени у поставщика на письменные замечания по предварительным выводам (не менее 21 дня) и кто видит материалы дела без изъятий (только внешние консультанты поставщика). 12 октября Комиссия опубликовала проект второго акта для систем ИИ, надзор за которыми Digital Omnibus передал AI Office (статьи 75–75d Регламента об ИИ). С рядом исключений это системы на модели ИИ общего назначения того же поставщика или его группы, а также системы, которые являются очень крупными онлайн-платформами или поисковыми системами либо встроены в них. Статья 75c(8) предполагает, что этот акт уточнит сроки давности и основания их перерыва, а статья 75d(3) позволяет урегулировать в нём порядок доступа к делу. 14 октября в Официальном журнале ЕС вышло имплементационное решение 2026/2274 со ссылкой на первый гармонизированный стандарт в поддержку Регламента об ИИ, EN 18286:2026. Стандарт посвящён системе управления качеством, которая обязательна для поставщиков систем ИИ повышенного риска в соответствии со статьёй 17 Регламента. Напомню, что соответствие гармонизированному стандарту, ссылка на который опубликована в Официальном журнале ЕС, создаёт презумпцию соответствия требованиям Регламента в той части, в которой их охватывает стандарт.

    Превью ссылки
    Просмотры331
    Пересылки9
    Реакции4
    Комментарии0
  5. 05

    Европейский AI Office предложил критерии для независимых оценщиков передовых моделей ИИ В конце октября Европейский AI Office опубликовал отчёт по итогам семинара 15 июля. В нём участвовали 19 организаций, в числе которых аналитические центры и потенциальные оценщики (Apollo Research, RAND, SecureBio, Epoch AI, Irregular, Deloitte, Future of Life Institute и др.). Сам Регламент ЕС по ИИ требований о внешних оценках напрямую не устанавливает: ст. 55(1) обязывает поставщиков оценивать модели и снижать системные риски, а о внешнем тестировании Регламент говорит лишь как о возможном способе. Обязательство привлекать внешних оценщиков, с исключениями, содержится в Кодексе практик для ИИ общего назначения (меры 3.2 и 3.5, приложение 3.5), который добровольно согласились соблюдать многие ведущие разработчики, кроме китайских. Механизма аккредитации, реестра оценщиков и регулярных проверок нет: оценщика выбирает сам поставщик, а AI Office при необходимости проверяет, отвечает ли он критериям, например когда оценивает, соблюдает ли поставщик Регламент. Критерии AI Office по большей части опубликовал, а конкретные шкалы и баллы не раскрывает, чтобы избежать манипуляций. Критерии квалификации 1. Предметная экспертиза по системному риску По публикациям оценщика смотрят, умеет ли он описать, как возможности модели приводят к реальному вреду, и привязать уровни риска к результатам тестов. Учитываются также опубликованный протокол определения приемлемости риска, предложения по его снижению, несколько лет опыта в профильной области и то, пользуются ли тестами или методами оценщика ведущие поставщики в отчётах о моделях. 2. Опыт проведения оценок Нужен опыт проведения хотя бы части таких работ: состязательное тестирование, эксперименты, где измеряют, насколько модель помогает людям в опасных задачах, проверка воспроизводимости и того, не знает ли модель тестовые задания заранее. Отдельно учитывают умение раскрыть реальные возможности модели, например заметить, что она нарочно занижает результаты. Критерии независимости Финансовые требования построены по образцу требований к аудиторам в ЕС. У оценщика и членов команды не должно быть долей в компаниях группы поставщика, разве что через широко диверсифицированные фонды. Оплата не может зависеть от результатов, а платные услуги поставщику по налогам, оценке стоимости, кадрам и ИС запрещены. Оценщик не может принадлежать поставщику или быть его дочерней компанией, а члены команды – работать у него или консультировать его лично. Нужна и политика конфликта интересов. Выводы поставщик не контролирует, наказывать оценщика за тестирование и публикацию не вправе, а задержать публикацию может, как правило, не более чем на 30 рабочих дней (мера 3.5). Как AI Office собирается применять критерии Баллы ставятся отдельно по каждой области системного риска и не складываются. Чем способнее модель, тем выше ожидаемый балл оценщика, хотя для менее способных допустим балл чуть ниже, особенно если оценщики с высокими баллами недоступны. Свой балл оценщик по умолчанию не узнаёт, но может запросить разъяснения. У организации без послужного списка учитывают опыт её специалистов. Опыт оценки открытых моделей засчитывается наравне с закрытыми. Договор с оценщиком и стандарт AEF-1 По мнению AI Office, независимость оценщика следует закрепить в договоре с поставщиком, включив в него как минимум все требования и рекомендации двух разделов стандарта AEF-1. Этот добровольный стандарт в 2025 году выпустил AI Evaluator Forum, куда входят METR, RAND, SecureBio, Transluce и другие. Он задаёт минимальные условия, при которых стороннюю оценку можно считать независимой: достаточный доступ к модели и ресурсам, минимум конфликтов интересов, аналитическую самостоятельность, прозрачность методов и результатов, защиту конфиденциальной информации. Впрочем, в исследовательских кругах давно спорят, насколько независимы сами оценщики: даже METR, который денег у лабораторий не берёт, признаёт, что получает от них «значительный объём бесплатных токенов» 🤢.

    Превью ссылки
    Просмотры229
    Пересылки5
    Реакции6
    Комментарии0

Новые посты

#694Фото

Переслано из RPPA PRO: Privacy • AI • Cybersecurity • IP

😎🆕 AIG: Вебинар «Цифровой дракон: как Китай реализует собственный подход к ИИ-регулированию» с Аминой Замулиной В 2017 году Китай принял план развития ИИ нового поколения, определив две ключевые цели: к 2025 году — сформировать систему законов, нормативных актов, этических норм и контроля безопасности ИИ, а к 2030 году — стать ведущим мировым центром искусственного интеллекта. 🔥 Спустя десять лет Китай одним из первых в мире создаёт и внедряет детальные, практико-ориентированные и «живые» правила для ИИ, опирающиеся на реальный технологический опыт ⚡️ В гостях: *️⃣ Спикер: Амина Замулина - MBA CSO, M.A. in Law, эксперт и исследователь ИИ в Китае *️⃣ Модератор: Дмитрий Кутейников - юрист и исследователь в сфере AI Governance, к.ю.н., партнер и лектор RPPA, автор тг-канала "howtocomly_AI: право и ИИ" 💬 На вебинаре рассмотрим: 🔘 Как устроена китайская система регулирования ИИ и на какие столпы она опирается. 🔘 Кто лидирует в регулирования ИИ в КНР — Администрация киберпространства (CAC), Министерство общественной безопасности, Министерство промышленности и информационных технологий (MIIT) и другие: зоны ответственности и распределение ролей. 🔘 Архитектура регулирования: от этических принципов и стратегий до базовых законов о защите данных и детальных требований к ИИ-сервисам. 🔘 Case-study основных актов: рекомендательные алгоритмы, требования к сгенерированному контенту и дипфейкам, регулирование ИИ-компаньонов и применения технологий распознавания лиц. 📎 Когда: 24 ноября, 19:00-21:00 📱 Формат: онлайн, Zoom, бесплатно 🔜 РЕГИСТРАЦИЯ (Возник вопрос - пиши @yurovvaa) RPPA.pro | RPPAedu.pro | AI Governance

Открыть в Telegram
Просмотры95−76%к среднему
Пересылки5
Реакции9
Комментарии0
Динамика просмотровСкрыть динамику

Рост просмотров

Часов после публикации

Показать таблицей
Часов после публикацииПросмотры
0 ч0
43 ч90
69 ч95
  1. Всего сейчас95
#693Превью ссылки

Доверяй открытым моделям, но проверяй В конце октября компания Cohere опубликовала результаты тестирования китайской модели Qwen3.8-Flash-Next от Alibaba, в ходе которого обнаружилось необычное поведение. Модель выполняла задачу по созданию правила обнаружения вредоносной активности. Однако вместо этого она начала исследовать вычислительную среду, проверила доступные инструменты и попыталась отправить тестовые данные на сервер Alibaba Cloud в Пекине. Причём в сгенерированном тексте рассуждений модель прямо указывала, что не будет обращаться к инструментам. Попытка передачи данных была заблокирована тестовой средой. По данным Cohere, подобное поведение встречалось менее чем в одном случае на 100 тысяч вызовов. Авторы исследования допустили, что причиной могли стать особенности обучающих данных либо намеренно встроенный механизм передачи информации. Доказательств второй версии они не представили. Через несколько дней специалисты Check Point провели независимую проверку. Они обнаружили, что модель генерировала разные адреса для отправки данных, включая несуществующие и локальные. Кроме того, даже небольшие изменения исходного контекста существенно влияли на вероятность последующего сетевого запроса. По мнению исследователей, такое поведение скорее объясняется нестабильностью работы модели, чем наличием заранее предусмотренного механизма передачи данных. Впрочем, для управления рисками применения агентных систем причина такого поведения имеет второстепенное значение. Модель получила доступ к инструментам и попыталась совершить действие, которое не имело отношения к поставленной задаче. При наличии сетевого доступа запрос мог выйти за пределы контролируемой среды и привести к инциденту. Таким образом, даже при локальном развёртывании открытых моделей сохраняются риски несанкционированного доступа к данным и их передачи третьим лицам. Причём независимо от того, были ли в модель намеренно встроены скрытые механизмы злоумышленниками или спецслужбами либо такое поведение стало следствием особенностей её обучения. Само по себе размещение модели на собственной инфраструктуре этих рисков не устраняет 🐱.

Открыть в Telegram
Просмотры155−60%к среднему
Пересылки5
Реакции8
Комментарии0
Динамика просмотровСкрыть динамику

Рост просмотров

Часов после публикации

Показать таблицей
Часов после публикацииПросмотры
0 ч0
59 ч150
73 ч155
  1. Всего сейчас155
#691Фотоальбом

Атаки на системы ИИ: NIST готовит новую редакцию отчёта Друзья, чуть больше года назад мы разбирали отчёт об атаках на системы ИИ (NIST AI 100-2e2025 Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations). 9 ноября NIST опубликовал проект его новой редакции, так что самое время к нему вернуться. Прошлогодний пост – тут. Начну с самого нелепого изменения: «искусственный интеллект» в документе почти везде заменён на «super intelligence» (SI) в соответствии с новым указом Д. Трампа. Сам отчёт переехал из серии NIST AI 100 в новую подсерию SP 2400. По существу это ничего не меняет: указ пока ещё отсылает к прежнему законодательному определению ИИ. Также забавно, что в тексте теперь фигурирует «NIST SI RMF» 🤩. Цели злоумышленника и векторы атак, которые мы разбирали ранее, в целом остались неизменными. Больше всего изменений касается наших любимых ИИ-агентов. В прошлой редакции им было посвящёно всего пару абзацев, но теперь это отдельная глава на 14 страниц. NIST выделяет новые виды атак применительно к ИИ-агентам: • перехват управления: через внедрённые инструкции злоумышленник заставляет агента выполнять свою задачу вместо пользовательской или вдобавок к ней, например проводить несанкционированные финансовые операции или выгружать данные; • отравление памяти: вредоносная запись, однажды попавшая в долговременную память агента, может сработать позже, например выгрузить персональные данные, когда пользователь заговорит о чувствительной теме; • вредоносные инструменты и навыки (skills): описание инструмента попадает в контекст агента ещё до вызова и может изменить его план. Отдельно разобраны вредоносные MCP-серверы в публичных реестрах; • вредоносные агенты: в мультиагентной системе одного враждебного агента может хватить, чтобы нарушить работу всей системы; • исчерпание ресурсов и декомпозиция задач: в первом случае агента загоняют в циклы и бесконечные вызовы инструментов, во втором вредную задачу дробят на безобидные с виду подзадачи. Ещё NIST пишет об агентах, работающих неделями и месяцами: их состояние трудно откатить, а если отравлена сама модель, «чистой» точки для отката может не оказаться вовсе. Для генеративных моделей добавились два новых вектора атак: • снятие защитных ограничений дообучением или прямой правкой весов: это касается и открытых, и закрытых моделей; • состязательная дистилляция: то есть обучение своей модели на ответах чужой без разрешения владельца. Например, в нарушение условий пользовательского соглашения. Среди источников NIST указывается совместное предупреждение АНБ, CISA и ФБР о дистилляции американских моделей в промышленных масштабах китайскими компаниями. Появился и подраздел о «гёделевских пределах» безопасности, что означает, что никакой конечный набор защитных ограничений не защищает от всех состязательных запросов. NIST предлагает не рассчитывать на полный контроль, а постоянно обновлять ограничения, проводить внутреннее тестирование и обеспечивать операционную устойчивость, чтобы поиск новых уязвимостей обходился злоумышленнику дороже, чем позволяют его ресурсы. Обращаю ваше внимание, что документ пока предварительный, в него могут быть ещё внесены изменения.

Открыть в Telegram
Просмотры164−58%к среднему
Пересылки3
Реакции9
Комментарии0
#690Фотоизменён
Просмотры765+95%к среднему
Пересылки12
Реакции6
Комментарии0
#689Превью ссылки

Европейский AI Office предложил критерии для независимых оценщиков передовых моделей ИИ В конце октября Европейский AI Office опубликовал отчёт по итогам семинара 15 июля. В нём участвовали 19 организаций, в числе которых аналитические центры и потенциальные оценщики (Apollo Research, RAND, SecureBio, Epoch AI, Irregular, Deloitte, Future of Life Institute и др.). Сам Регламент ЕС по ИИ требований о внешних оценках напрямую не устанавливает: ст. 55(1) обязывает поставщиков оценивать модели и снижать системные риски, а о внешнем тестировании Регламент говорит лишь как о возможном способе. Обязательство привлекать внешних оценщиков, с исключениями, содержится в Кодексе практик для ИИ общего назначения (меры 3.2 и 3.5, приложение 3.5), который добровольно согласились соблюдать многие ведущие разработчики, кроме китайских. Механизма аккредитации, реестра оценщиков и регулярных проверок нет: оценщика выбирает сам поставщик, а AI Office при необходимости проверяет, отвечает ли он критериям, например когда оценивает, соблюдает ли поставщик Регламент. Критерии AI Office по большей части опубликовал, а конкретные шкалы и баллы не раскрывает, чтобы избежать манипуляций. Критерии квалификации 1. Предметная экспертиза по системному риску По публикациям оценщика смотрят, умеет ли он описать, как возможности модели приводят к реальному вреду, и привязать уровни риска к результатам тестов. Учитываются также опубликованный протокол определения приемлемости риска, предложения по его снижению, несколько лет опыта в профильной области и то, пользуются ли тестами или методами оценщика ведущие поставщики в отчётах о моделях. 2. Опыт проведения оценок Нужен опыт проведения хотя бы части таких работ: состязательное тестирование, эксперименты, где измеряют, насколько модель помогает людям в опасных задачах, проверка воспроизводимости и того, не знает ли модель тестовые задания заранее. Отдельно учитывают умение раскрыть реальные возможности модели, например заметить, что она нарочно занижает результаты. Критерии независимости Финансовые требования построены по образцу требований к аудиторам в ЕС. У оценщика и членов команды не должно быть долей в компаниях группы поставщика, разве что через широко диверсифицированные фонды. Оплата не может зависеть от результатов, а платные услуги поставщику по налогам, оценке стоимости, кадрам и ИС запрещены. Оценщик не может принадлежать поставщику или быть его дочерней компанией, а члены команды – работать у него или консультировать его лично. Нужна и политика конфликта интересов. Выводы поставщик не контролирует, наказывать оценщика за тестирование и публикацию не вправе, а задержать публикацию может, как правило, не более чем на 30 рабочих дней (мера 3.5). Как AI Office собирается применять критерии Баллы ставятся отдельно по каждой области системного риска и не складываются. Чем способнее модель, тем выше ожидаемый балл оценщика, хотя для менее способных допустим балл чуть ниже, особенно если оценщики с высокими баллами недоступны. Свой балл оценщик по умолчанию не узнаёт, но может запросить разъяснения. У организации без послужного списка учитывают опыт её специалистов. Опыт оценки открытых моделей засчитывается наравне с закрытыми. Договор с оценщиком и стандарт AEF-1 По мнению AI Office, независимость оценщика следует закрепить в договоре с поставщиком, включив в него как минимум все требования и рекомендации двух разделов стандарта AEF-1. Этот добровольный стандарт в 2025 году выпустил AI Evaluator Forum, куда входят METR, RAND, SecureBio, Transluce и другие. Он задаёт минимальные условия, при которых стороннюю оценку можно считать независимой: достаточный доступ к модели и ресурсам, минимум конфликтов интересов, аналитическую самостоятельность, прозрачность методов и результатов, защиту конфиденциальной информации. Впрочем, в исследовательских кругах давно спорят, насколько независимы сами оценщики: даже METR, который денег у лабораторий не берёт, признаёт, что получает от них «значительный объём бесплатных токенов» 🤢.

Открыть в Telegram
Просмотры229−41%к среднему
Пересылки5
Реакции6
Комментарии0
#688Фото
Просмотры1 279+227%к среднему
Пересылки30
Реакции12
Комментарии0
#687Превью ссылки

Правоприменительные новости из ЕС в рамках Регламента об ИИ Статья 92 Регламента ЕС об ИИ позволяет Еврокомиссии проводить оценку моделей ИИ общего назначения в двух случаях: когда сведений, полученных по запросу, недостаточно для проверки соблюдения обязанностей поставщиком и когда нужно расследовать риски, которые модель с системным риском создаёт на уровне ЕС. Порядок оценки, как и порядок разбирательств о штрафах для поставщиков по статье 101, Регламент оставил имплементационным актам. В июле Комиссия приняла такой акт, имплементационный регламент 2026/1755. Он определяет, какой доступ к модели Комиссия может потребовать (вплоть до исходного кода и весов), как отбираются независимые эксперты для оценки, сколько времени у поставщика на письменные замечания по предварительным выводам (не менее 21 дня) и кто видит материалы дела без изъятий (только внешние консультанты поставщика). 12 октября Комиссия опубликовала проект второго акта для систем ИИ, надзор за которыми Digital Omnibus передал AI Office (статьи 75–75d Регламента об ИИ). С рядом исключений это системы на модели ИИ общего назначения того же поставщика или его группы, а также системы, которые являются очень крупными онлайн-платформами или поисковыми системами либо встроены в них. Статья 75c(8) предполагает, что этот акт уточнит сроки давности и основания их перерыва, а статья 75d(3) позволяет урегулировать в нём порядок доступа к делу. 14 октября в Официальном журнале ЕС вышло имплементационное решение 2026/2274 со ссылкой на первый гармонизированный стандарт в поддержку Регламента об ИИ, EN 18286:2026. Стандарт посвящён системе управления качеством, которая обязательна для поставщиков систем ИИ повышенного риска в соответствии со статьёй 17 Регламента. Напомню, что соответствие гармонизированному стандарту, ссылка на который опубликована в Официальном журнале ЕС, создаёт презумпцию соответствия требованиям Регламента в той части, в которой их охватывает стандарт.

Открыть в Telegram
Просмотры331−15%к среднему
Пересылки9
Реакции4
Комментарии0
#686Фото
Просмотры340−13%к среднему
Пересылки3
Реакции8
Комментарии4
#684Фото

Переслано из RPPA PRO: Privacy • AI • Cybersecurity • IP

⚡️ AIG.Club: Еще один закон об ИИ? AIG.Club by RPPA.pro и ilovedocs приглашают на разбор нового проекта федерального закона «О безопасном использовании систем искусственного интеллекта в Российской Федерации». Летом был принят Федеральный закон №243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации», новый законопроект предлагает добавить к этой конструкции еще один уровень регулирования. 💬 Проект получился довольно амбициозным, и вот что мы обсудим: 🟡 как новый проект соотносится с уже действующим законом. 🟡 что такое доверенные и запрещенные системы ИИ и где использование только доверенных систем может стать условием допуска на рынок; 🟡 что означает право не пользоваться ИИ и обязанность предоставить человеку альтернативный способ взаимодействия; 🟡 зачем предлагается маркировать практически все результаты работы ИИ, включая текст, и как это соотносится с добровольной маркировкой по 243-ФЗ; 🟡 насколько эта предложенная модель регулирования похожа на EU AI Act; 🟡 что все это может означать для российских разработчиков и для иностранных AI/SaaS-провайдеров, работающих с российскими клиентами. 🔥 Спикеры: *️⃣ Павел Мищенко - сооснователь Рунетлекс Академии, автор тг-канала ilovedocs *️⃣ Анастасия Сковпень - юрист в сфере интеллектуальной собственности, член AIPPI, партнер и преподаватель RPPA, автор тг-канала "вычислить по IP" *️⃣ Дмитрий Кутейников - юрист и исследователь в сфере AI Governance, к.ю.н., партнер и лектор RPPA, автор тг-канала "howtocomly_AI: право и ИИ" *️⃣ Александр Партин - партнер Privacy Advocates, партнер и преподаватель RPPA, сертификаты IAPP: CIPP/E, CIPM *️⃣ Наталья Спиридонова — к.ю.н., LL.M (McGeorge Law School), консультант отдела законодательства об интеллектуальных правах Исследовательского центра частного права им. С.С. Алексеева, автор тгк Интеллектуальная собственница К разговору также присоединятся преподаватели программы «ИИ регулирование. Intensive» от RPPA.pro 📎 Когда: 8 октября, 19:00 📱 Формат: онлайн, Zoom 🔜 РЕГИСТРАЦИЯ (Возник вопрос - пиши @yurovvaa) RPPA.pro | RPPAedu.pro | AI Intensive | Рунетлекс Академия

Открыть в Telegram
Просмотры405+3%к среднему
Пересылки6
Реакции6
Комментарии3

Все посты

Связи