Дмитрий
сша и китай договариваются не отдавать ядерную кнопку ии.
кто вообще в здравии и сознании будет обсуждать предоставление доступа к «кнопке» инструменты с вероятностной оценкой и смещением?
как оказалось - эксперты из брукингса и фуданьского университета выкатили совместные «красные линии»: никакой автономии в пуске ракет и атаках на системы командования. человек должен оставаться последним звеном. вроде база. но когда читаешь про предложение создать горячую линию для ии-инцидентов, сразу вспоминаешь, как китайская сторона просто не взяла трубку америки во время шпионского аэростата в 23-м – видимо, решили, что это спам-звонок 🙃
в сухом остатке: системы пво и без того работают на полуавтомате, потому что скорость реакции критична. как в этой гонке вшить бюрократический «человеческий контроль», если автоматический ответ на подозрительную активность одна сторона сочтёт началом атаки? а дозваниваться и объяснять, что «это баг», будет поздно – оператор на том конце уже будет пить успокоительное.
тут прикол в чём. мы пытаемся договориться о правилах игры, где логика взаимного недоверия перемалывает любой договор. пока политики сверяют определения «контроля», инженеры пилят софт. реальная гарантия не в запрете на код, а в отсутствии повода нажать на кнопку. а пока его нет, остаётся надеяться, что у дежурного на том конце провода не включён автоответчик с голосом «вызывающему абоненту – ядерный гриб».
🐵 Код нашего разума
75 ·