Агентический ИИ Я сказал агенту ИИ, что его неправильные ответы были правильными. Одна модель мне поверила. В исследовательской работе утверждается, что ярлыки вознаграждений практически не меняют способ обучения агентов. Я проверил это на трех моделях, и одна из них сделала именно то, что ей предписывали неправильные этикетки. Многие команды сохраняют прошлые попытки агента ИИ, каждая из которых отмечена оценкой, и показывают их модели при следующей попытке. Оценка — это награда. Есть надежда, что модель прочитает это и повторит то, что сработало. Я проверил эту надежду, перевернув ярлыки. В…