GGUF

GGUF — двоичный формат файла, предназначенный для хранения переносимых моделей машинного обучения, предназначенных для использования в библиотеке GGML и совместимых с ней. Является расширением предшествующих форматов GGML, GGMF, GGJT, заменяя их.