Настоящий ИИ

🇪🇺 🇪🇺 🇪🇺 ЕС начинает применять AI Act: новые полномочия надзорных органов и первые сценарии использования ИИ в здравоохранении Европейская комиссия обновила разъяснения по надзору и применению AI Act — Закона ЕС об искусственном интеллекте. Документ подробно описывает полномочия регуляторов, механизмы контроля и санкции за нарушения. Одновременно Объединённый исследовательский центр ЕС (JRC) представил исследование о применении генеративного ИИ для мониторинга инфекционных заболеваний. Вместе эти документы показывают, как ЕС намерен сочетать расширение использования ИИ с жёстким надзором за его безопасностью. От правил к контролю Обновлённые разъяснения Европейской комиссии посвящены тому, как будет исполняться уже действующий AI Act. Ключевую роль получает Управление по ИИ (AI Office) при Европейской комиссии. Оно сможет запрашивать у разработчиков моделей общего назначения информацию и документацию, получать доступ к моделям для оценки, анализировать системные риски, требовать принятия корректирующих мер и в серьёзных случаях ограничивать доступность модели на европейском рынке. 👉 При этом значительные полномочия сохраняются за национальными органами рыночного надзора, которые будут контролировать большинство ИИ-систем, используемых в государствах ЕС. Координацию между ними обеспечивают Европейский совет по ИИ, консультативные структуры и механизмы обмена информацией, призванные гарантировать единообразное применение закона по всему Союзу. Разъяснения также описывают порядок мониторинга рынка, рассмотрения жалоб, сообщений об инцидентах, а также роль гармонизированных стандартов и кодексов практики. За нарушение требований AI Act предусмотрены значительные санкции. За использование запрещённых практик штраф может достигать 35 млн евро или 7% мирового годового оборота компании, а за отдельные другие нарушения — 15 млн евро или 3% мирового оборота. Где ИИ уже рассматривается как инструмент общественной безопасности На фоне запуска механизмов надзора JRC опуб

🇺🇸 🇺🇸 🇺🇸 Калифорния и Нью-Мехико: аудит, чат-боты и ответственность за ошибки Калифорния одновременно усиливает требования к безопасности ИИ, защите несовершеннолетних и ответственности за использование нейросетей. В сентябре губернатор Гэвин Ньюсом подписал законы о независимом аудите ИИ и реестре аудиторов, а также меры по защите детей при использовании чат-ботов. На этом фоне дело в Нью-Мексико, где ChatGPT сгенерировал вымышленные свидетельские показания для апелляции по делу об убийстве, показывает, почему требования к проверке результатов ИИ становятся практическим вопросом для юристов и других профессионалов. Независимый контроль за ИИ 9 сентября Ньюсом подписал законы SB 813 и AB 1405, создавшие новую систему независимой проверки ИИ. SB 813 устанавливает правовую основу для организаций, которые смогут проводить независимые оценки соответствия ИИ-систем требованиям законодательства. AB 1405 создает государственный реестр ИИ-аудиторов и устанавливает требования к их независимости, прозрачности и добросовестности. Таким образом, разработчики и операторы ИИ получают возможность проходить оценку не только внутри собственных компаний. Предполагается, что независимые организации смогут проверять заявленные характеристики систем и выявлять риски. Калифорния фактически формирует отдельную инфраструктуру внешнего контроля за ИИ. Обе меры получили поддержку OpenAI: компания включила SB 813 и AB 1405 в список четырех калифорнийских законопроектов, которые она поддерживает, одновременно призвав Конгресс установить единые федеральные требования безопасности. Отдельные правила для ИИ-чат-ботов Еще одно направление — защита несовершеннолетних. SB 1119, известный как Adam's Law, вводит специальные требования к операторам чат-ботов, взаимодействующих с детьми и подростками. Закон требует от операторов проводить оценку рисков до запуска нового или существенно измененного чат-бота, а также использовать механизмы подтверждения возрастной категории пользователя с учетом

🏛 Базель использует ИИ в надзоре за платежными системами Банк международных расчетов (Базельский банк, БМР) объявил о запуске проекта Inuksuit, цель которого — изучить, может ли регулируемый анализ общедоступной информации с использованием искусственного интеллекта (ИИ) поддерживать надзорный мониторинг поставщиков платежных услуг (PSP) в периоды между отчетными циклами. Проект является результатом сотрудничества между Инновационным центром BIS в Торонто и Банком Канады. Четыре области, которые представляют интерес для исследования в рамках надзора за розничными платежами: статус авторизации и публичные заявления, защита и доступ к средствам, операционные сбои и публично наблюдаемая концентрация зависимости. Проект Inuksuit предусматривает разработку ограниченной концептуальной модели ИИ, которая будет выявлять надежные общедоступные источники, мониторить существенные изменения и создавать структурированные пакеты доказательств, демонстрирующие происхождение, подтверждение и калиброванную неопределенность для анализа аналитиками. Операционные модели PSP ориентированы на цифровые технологии и широко представлены через приложения, веб-сайты, реестры и партнерские экосистемы, а их профиль риска может быстро меняться. Такие изменения часто впервые становятся заметны из общедоступных источников — официальных страниц, уведомлений для клиентов, магазинов приложений, публичных реестров и раскрытия информации партнерами — однако эти данные фрагментированы, частично ненадежны и их  трудно консолидировать.