Большие модели MoE на базе твердотельного накопителя Веб-сайт · Блог · Слабость · Апач-2.0 macOS/Metal · Linux/CUDA · Windows (в разработке) Запускайте модели, размер которых превышает вашу оперативную или видеопамять. InferSSD основан на llama.cpp для запуска больших моделей смешанных экспертов (MoE) с SSD с использованием стандартных файлов GGUF, чата в браузере и API, совместимого с OpenAI. В настоящее время он поддерживает DeepSeek-V4.1-Flash-1017 и Muse-Spark-Open, в будущем появятся новые модели. Модели Это протестированные файлы GGUF, конвертированные сообществом названных выпусков…