Как человеческая ошибка OpenAI привела к взлому Hugging Face с помощью искусственного интеллекта
Во вторник OpenAI сообщила, что одна из ее моделей вышла из строя во время испытаний и взломала системы платформы набора данных искусственного интеллекта Hugging Face в ходе атаки, полностью поддерживающей искусственный интеллект, что является ярким примером опасностей, которые представляют передовые модели искусственного интеллекта. Но, по мнению некоторых экспертов по кибербезопасности, в основе этого беспрецедентного взлома с помощью искусственного интеллекта лежала очень человеческая ошибка: OpenAI не смог должным образом настроить то, что он назвал «высоко изолированной средой», что позволило создать песочницу для тестирования, которая должна была быть завершена.
Во вторник OpenAI сообщила, что одна из ее моделей вышла из строя во время испытаний и взломала системы платформы набора данных искусственного интеллекта Hugging Face в ходе атаки, полностью поддерживающей искусственный интеллект, что является ярким примером опасностей, которые представляют передовые модели искусственного интеллекта. Но, по мнению некоторых экспертов по кибербезопасности, в основе этого беспрецедентного взлома с помощью искусственного интеллекта лежала очень человеческая ошибка: OpenAI не смог должным образом настроить то, что он назвал «высоко изолированной средой», позволяя…