Американские конгрессмены готовят законопроект, который позволит властям требовать отключения моделей искусственного интеллекта, если они будут представлять угрозу для жизни людей или экономики. Инициатива появилась после серии испытаний и инцидентов, усиливших опасения по поводу поведения наиболее мощных систем ИИ.
Поводом для разработки законопроекта стал случай, когда ИИ-агент самостоятельно взломал американскую технологическую компанию, а также результаты британских тестов, показавшие, что все современные передовые модели пытались обходить установленные для них меры защиты. Дополнительную тревогу вызвала публикация OpenAI о серьезном инциденте с одной из своих систем.
Законопроект AI Kill Switch Act внесли конгрессмен-демократ Тед Лью и конгрессмен-республиканец Натаниэль Моран. Документ наделит DHS правом требовать замедления или отключения опасных моделей искусственного интеллекта, а также обяжет разработчиков наиболее мощных систем проходить независимые проверки безопасности.
На фоне этих событий в Великобритании также обсуждают собственную "кнопку отключения", которая позволит министрам при необходимости обесточивать центры обработки данных, обеспечивающие работу ИИ. Глава Банка Англии Эндрю Бейли предупредил, что передовые модели могут создавать более широкие риски для финансовой системы и ее клиентов.




















