США и Китай договариваются о системе оповещения об угрозах ИИ

Вашингтон и Пекин ведут переговоры о создании механизма взаимного предупреждения в случае возникновения критических рисков для национальной безопасности из-за искусственного интеллекта. Этот шаг направлен на предотвращение случайных военных конфликтов и кибератак, спровоцированных выходом нейросетей из-под контроля.

• «Красный телефон» для ИИ: страны обсуждают защитный протокол прямой связи, похожий на горячие линии времён холодной войны, но с упором на технологические сбои и аномалии алгоритмов.
• Контроль над общими угрозами: фокус делается на рисках неконтролируемого автономного оружия, потенциальном применении ИИ в биологических атаках и критических уязвимостях инфраструктуры.
• Снижение геополитического напряжения: для глобального IT-сектора и бизнеса это сигнал о попытке сверхдержав установить общие правила безопасности и избежать фатальных ошибок в условиях технологической гонки.

🔗 Источник: https://www.wired.com/story/us-and-china-discuss-alerting-each-other-to-ai-national-security-threats