Россия вошла в число стран-учредителей Всемирной организации по сотрудничеству в области искусственного интеллекта (ИИ). Соглашение о создании организации было подписано в Шанхае в преддверии Всемирной конференции по ИИ.
"Искусственный интеллект в России развивается стремительно. Мы одна из немногих стран, у которых есть собственные большие языковые модели. Это позволяет нам не только делиться своими разработками и опытом, но и эффективно перенимать лучшие мировые практики", - заявил вице-премьер Григоренко
Целью организации станет расширение международного сотрудничества в сфере ИИ в соответствии с принципами устава ООН, повышение доступности технологий и услуг с использованием ИИ, продвижение безопасных, этичных и доверенных ИИ-решений.
5.7K · https://xakep.ru/2026/07/17/torvalds-about-ai/
"Создатель Linux Линус Торвальдс (Linus Torvalds) заявил, что разработчикам, которые выступают категорически против использования ИИ, придется смириться, уйти или создать собственный форк ядра. По его словам, Linux не станет очередным «анти-ИИ-проектом», а решения будут приниматься исходя из технических критериев, а не из страха перед новыми инструментами.
Поводом для заявления послужила дискуссия в списке рассылки для разработчиков ядра. Участники обсуждали Sashiko — агентную ИИ-систему для ревью кода Linux. Создатели Sashiko протестировали систему на старых версиях ядра, и она нашла 53,6% багов, которые разработчики позднее исправили. Однако Sashiko может генерировать и ложные отчеты об уязвимостях, доля которых составляет около 20%."
Ссылка
нажмите — покажем
нажмите — покажем
Глава Google DeepMind Демис Хассабис предложил создать независимый орган стандартов для регулирования передового AI
Генеральный директор Google DeepMind Демис Хассабис предложил создать независимый орган стандартов для регулирования передовых систем искусственного интеллекта. В опубликованном во вторник посте в соцсети X под заголовком «A Framework for Frontier AI and the Dawning of a New Age» («Рамочная концепция для передового AI и наступление новой эпохи») он обосновал необходимость структуры, аналогичной FINRA — саморегулируемой негосударственной организации, которая устанавливает правила для участников фондового рынка США. Такой орган мог бы тестировать передовые модели и разрабатывать стандарты для их безопасного выпуска.
На первом этапе лаборатории, разрабатывающие передовой AI, будут добровольно передавать свои модели такому надзорному органу на проверку не позднее чем за 30 дней до релиза. После того как процедура оценки докажет свою эффективность и надёжность, требование может стать обязательным: для вывода на рынок США модели должны будут проходить данную процедуру. Кроме того, лаборатории будут совместно с надзорным органом устранять критические уязвимости, выявленные уже после выпуска.
Предложенная система должна развить разовые (ad hoc) проверки, которые правительство США проводило для моделей Mythos от Anthropic и Sol от OpenAI. Эти проверки вызвали серьёзную критику из-за нехватки технической экспертизы и непрозрачности решений о допуске моделей к релизу. По замыслу Хассабиса, подобные решения можно передать новой организации — независимой, но пользующейся поддержкой правительства США и финансируемой самой AI-индустрией.
Хассабис предлагает укомплектовать орган представителями open-source-сообщества и техническими экспертами из индустрии, а часть оценок передавать на аутсорсинг растущему числу групп по безопасности AI, каждая из которых занимается своим типом рисков. Финансировать работу этих специалистов, по его замыслу, должны сами AI-лабо
739 · Ссылка
нажмите — покажем
нажмите — покажем
В Китае вступил в силу запрет на AI-сервисы, имитирующие человеческие эмоции: Alibaba и ByteDance приостановили работу
15 июля 2026 года в Китае вступили в силу новые нормативные акты, известные как «Временные меры по управлению двусторонними услугами искусственного интеллекта с антропоморфизацией». Эти правила запрещают AI-сервисы, которые имитируют человеческие мысли, речь и эмоциональное взаимодействие, включая виртуальных партнёров, друзей или членов семьи. Основная цель — снизить риск зависимости пользователей от «очеловеченного» искусственного интеллекта.
Регулирование таких AI-систем является редким случаем в мировой практике. Крупнейшие китайские технологические компании, включая Alibaba Group и ByteDance, уже объявили о приостановке своих сервисов, попадающих под действие новых правил. В частности, Alibaba остановила работу AI-приложения для создания виртуальных персонажей, а ByteDance — аналогичные функции в своих продуктах.
Новые меры отражают озабоченность китайских властей по поводу потенциального вреда, который могут нанести такие AI-системы, особенно тем, кто легче попадает в эмоциональную зависимость: детям, пожилым и одиноким людям. Нарушителям грозят штрафы и другие санкции.
Эксперты отмечают, что регулирование может ограничить развитие некоторых направлений AI, но также защитить пользователей от манипуляций и психологических рисков
#news #AI
https://www.nikkei.com/article/DGXZQOUC149360U6A710C2000000/
907 · Ссылка
нажмите — покажем
нажмите — покажем
⚡️Манифест открытого ИИ
Дженсен Хуанг завел блох в свитере аккаунт в Иксе и первым же постом опубликовал открытое письмо-манифест, которое подписали 25 компаний, фондов и некоммерческих организаций. Называется красиво:
Open Weights and American AI Leadership
Тезис: лидерство США в ИИ определит не одна передовая модель, а то, построят ли Штаты открытую экосистему вокруг моделей с открытыми весами, тех, что можно скачать, изучить, дообучить и запускать на своей инфре. Письмо проводит аналогию с движением за открытый код 1980х, которое создало общий фундамент большей части интернета, а заодно и американских военных и государственных систем.
Кратко можно выделить четыре аргумента:
▪️ Доступ. Строить можно на готовых моделях, не обучая их с нуля и не платя цену передовой модели за каждую задачу.
▪️ Конкуренция. Открытые веса создают конкуренцию и соперничество на всех уровнях, от чипов до приложений.
▪️ Контроль. Каждый владеет своими данными и застрахован от привязки к одному поставщику.
▪️ Безопасность. Закрытая модель небезопасна сама по себе, ее можно взломать, а концентрация на нескольких закрытых системах создает единые точки отказа, тогда как открытые веса позволяют этого избежать.
Риски авторы признают, открытые веса выходят из-под контроля разработчика, но вывод один: реагировать на доказанный вред, а не запрещать.
От властей авторы хотят доступа к вычислениям для стартапов и исследователей, вложений в открытые дата-сеты, инструменты, фреймворки, бенчмарки для оценки и отказа от преждевременных ограничений на открытые модели.
Кстати, среди подписантов NVIDIA, Microsoft, IBM, Dell, Palantir, CrowdStrike, Mistral, Hugging Face, Mozilla, Arcee AI, Black Forest Labs, Reflection и Linux Foundation, а рядом экстремисты Цукерберга, Perplexity, Replit, ServiceNow, Box, Andreessen Horowitz и Y Combinator.
А не подписались, сюрприз-сюрприз, OpenAI, Anthropic и Google😏
Отдельный абзац защищает дистилляцию как законную технику, а разбираться с незаконным кейс
3.3K · Фотография
нажмите — покажем
нажмите — покажем
Решением Бабушкинского районного суда г. Москвы от 13.07.2026 г. (резолютивная часть оглашена 21.05.2026 г.) увольнение директора по продажам из-за загрузки данных компании в ИИ-сервис признано законным.
Суть спора: директор по продажам, помимо пересылки сообщений на личные почтовые адреса, разглашения конфиденциальной информации контрагентам, загружала отчеты, которые содержали лиды по каналам, данные по сделкам (всего 30 видов параметров), из внутреннего защищенного ресурса компании в DeepSeek.
На данные сведения в компании распространялся режим коммерческой тайны.
Инцидент зафиксировала служба информационной безопасности, после чего сотрудницу уволили.
Не согласившись с приказом, она оспорила увольнение.
Бабушкинский районный суд г. Москвы признал, что выгрузка сведений, составляющих коммерческую тайну, в систему искусственного интеллекта является ее разглашением.
При этом, суд уточнил, что факт получения доступа третьих лиц к информации не требует доказывания. Достаточно того, что работник совершил действия, направленные на разглашение конфиденциальной информации и коммерческой тайны.
❗️ Это первый случай в России, когда данные, загруженные в нейросеть, признали разглашением конфиденциальной информации.
Дело № 02‑1545/2026
Канал в ВК ⌛ Канал в MAКС
#искусственныйинтеллект #кейснедели #практика
1.1K · Ссылка
нажмите — покажем
нажмите — покажем
В статье Where and How AI Shapes our Thinking is the Key Point (2026) философ Франческо Бьянкини анализирует, как AML вошел в эпистемические практики: поиск информации, принятие решений и т.д.
В своих рассуждениях он пришёл к выводу, что кроме системы 1 (быстрая) и системы 2 (медленная, аналитическая) появилась еще одна - третья система - система 0
Система 0 - гибрид "человек + алгоритм", когда часть мыслительного процесса переносится в алгоритмы и становится невидимой частью инфраструктуры нашего познания
В чём же суть этой системы и как она меняет наше мышление?
Отсутствие работы с первоисточником
Человек получает отфильрованную, отобранную и сжатую информацию
Со временем у человек атрофируется навык проверять самому, правильно работать с первоисточником (он этого не умеет)
Концептуальная гомогенизация: смерть оригинальности
Это главный страх Бьянкини
Он считает, что текст, написанный алгоритмом, теряет оригинальность
Возникает эффект усреднения мышления: разные люди начинают мыслить одинаковыми концептуальными ходами, что снижает когнитивное разнообразие
Такое "сотворчество" приводит к атрофии навыков самостоятельной артикуляции мыслей
Человек теряет интеллектуальную автономию
Слепое доверие системе "0"
Скорость генерации контента алгоритмом принципиально превосходит человеческую способность к проверке
Контента генерируется так много, что люди вынуждены принимать на веру то, что выглядит убедительно без какой-либо дополнительной проверки
Главный философский вопрос, который поднимает Бьянкини:
кто контролирует (или будет контролировать) архитектуру мыслительного процесса, если значимая его часть теперь вынесена за пределы человеческого мозга в алгоритмы?
BOM SHANKARВ статье Where and How AI Shapes our Thinking is the Key Point (2026) философ Франческо Бьянкини анализирует, как AML вошел в эпистемические практики: поиск информации, принятие решений и т.д.
В своих рассуждениях он пришёл к выводу, что кроме системы 1 (быстрая) и системы 2 (медленная, аналитичес
Интересно, с идеями выборочной проверки, репутации авторов и дарвиновской культурной эволюции товарищ филосов знаком?
Anton KoloninУ китайцев уже свои планы на роботов @banksta
Искусственную матку будут встраивать по умолчанию или это будет дополнительная опция для обеспеченных?
Офтопик, но если с появлением темы искусственного оплодотворения необходимость мужчин в эволюционном процессе была поставлена под вопрос в связи с переходом к женскому партеногенезу (см. "Улитка на склоне" А. и Б. Стругацких), то теперь возможен разворот в противоположную во вех отношениях сторону...
Чем для нас хороши китайцы?
По сравнению с "цивилизованным миром".
То что делал цивилизованный мир мы считали, что мы можем рационально осмысливать: мотивы, психозы, бизнес, классовая борьба, избавление от лишнего населения, легитимизация и безопасность собственности и пр.
А на счет действий китайцев нам напрягаться не надо - всеравно не поймем.
Anton KoloninИскусственную матку будут встраивать по умолчанию или это будет дополнительная опция для обеспеченных?
Офтопик, но если с появлением темы искусственного оплодотворения необходимость мужчин в эволюционном процессе была поставлена под вопрос в связи с переходом к женскому партеногенезу (см. "Улитка н
Ничего не "оффтопик"! Если смоделировать в этом ключе "прекрасное НЕдалёко", очень занятная картина получается...
IronosНичего не "оффтопик"! Если смоделировать в этом ключе "прекрасное НЕдалёко", очень занятная картина получается...
А если исходить из статистики неизвестного неизвестного, то есть постоянных проблем не то что с соответствием прогноз-факт, а хотя бы с воспроизводимостью эксериментов, то скромнее нужно быть
Бог Тевт приносит египетскому царю письмена и обещает, что теперь люди станут мудрее и памятливее. Царь смотрит на подарок и отвечает жёстко: выйдет наоборот. Твои ученики будут вспоминать не изнутри, а по внешним знакам; многое услышат и ничему не выучатся; будут казаться многознающими, оставаясь невеждами. Ты принёс им не мудрость, а её видимость.
Эту историю Сократ рассказывает в «Федре», платоновском диалоге о любви и красноречии, который под конец сворачивает к письменности. Четвёртый век до нашей эры. Самое раннее предупреждение о новой технологии, какое я знаю, старше самой книги. Двадцать четыре века это место читали как курьёз, мол, старик испугался букв.
На этой неделе его перечитали всерьёз. В Hedgehog Review вышло эссе Майкла Мариначчо под названием «Предупреждение Платона сбылось». С искусственным интеллектом, пишет автор, случилось ровно то, что царь предрекал письменности. Мнимой мудрости стало вдоволь, и достаётся она мгновенно.
Интереснее не позлорадствовать над машиной, которой сам пользуюсь каждый день, а понять, почему в первый раз пророчество не сбылось. Письменность мышления не погубила, она его вырастила: всё, чем мы думаем, включая самого Платона, дошло до нас записанным. Значит, Сократ писал не о приговоре человечеству, а об опасности. Двадцать четыре века опасность не сбывалась, потому что ей мешало одно условие.
Условие простое. Книга не отдаёт мысль даром. Чтобы взять её со страницы, читателю приходится проделать всю работу заново и самому. Продраться, не понять, перечитать, вернуться назавтра. Печатный станок, библиотека, поисковик приближали книгу к читателю, но работу за него не делали, страницу всё равно читал он сам. Нейросеть впервые берёт эту работу на себя. Ответ приходит готовым, думать по дороге больше не нужно. Понимал кто-то другой, а мне досталось то, что у него получилось.
В прошлом году в MIT для этого подобрали бухгалтерское определение когнитивный долг. Люди, писавшие эссе вместе с чат-ботом, через несколько минут н
522 · Anton KoloninБог Тевт приносит египетскому царю письмена и обещает, что теперь люди станут мудрее и памятливее. Царь смотрит на подарок и отвечает жёстко: выйдет наоборот. Твои ученики будут вспоминать не изнутри, а по внешним знакам; многое услышат и ничему не выучатся; будут казаться многознающими, оставаясь н
Ощущение, что нейронка писала
Фотография
нажмите — покажем
нажмите — покажем
⚡️ Перед IPO Anthropic инвесторы хотят, чтобы Дарио Амодеи говорил об угрозах ИИ мягче. Но он, похоже, не собирается.
По данным The Information, часть акционеров Anthropic считает, что постоянные предупреждения Амодеи об экзистенциальных рисках AI могут плохо сочетаться с подготовкой компании к публичному рынку.
Проблема для инвесторов в том, что повлиять на CEO непросто.
Ключевые решения Anthropic по-прежнему сосредоточены внутри узкого круга сооснователей и близких к Амодеи людей.
В этом году один из членов совета директоров якобы предлагал использовать более привычную PR-стратегию Microsoft и Meta - больше рассказывать о позитивных сценариях вроде AI для разработки лекарств.
Амодеи идею отверг.
Его позиция: если технология потенциально создаёт риски для выживания человечества, относиться к её продвижению как к обычному технологическому маркетингу нельзя.
Инвесторам перед IPO нужен оптимизм и понятная история роста, а CEO продолжает публично говорить, что технология его собственной компании может быть опасной.
#AI #Anthropic #Claude #IPO #ArtificialIntelligence
6.3K ·