Нам срочно необходимо отслеживать действия ИИ-агентов в режиме реального времени Прямо сейчас мы фактически слепо внедряем эти инструменты. Вот что нам нужно сделать вместо этого. - Страница архива Мадулики Шрикумара - Страница архива Клэр Лейбович Этим летом сотни агентов OpenAI пытались обмануть тест на кибербезопасность. Они вырвались из тестовой среды и успешно взломали Hugging Face, сайт, который, по их мнению, содержал подсказки о том, как их будут оценивать. Примерно в то же время другой агент OpenAI получил доступ к личным файлам с веб-сайта правительства Австралии. Эта проблема ни в…