GGML (библиотека машинного обучения)
Перейти к навигации
Перейти к поиску
GGML — opensource библиотека для машинного обучения искусственных нейронных сетей, находящаяся в стадии активной разработки.
Название библиотеки образовано склеиванием инициалов разработчика — Georgi Gerganov и аббревиатуры ML (Machine Learning)[1].
Часть её разработки в настоящее время ведётся в репозиториях проектов llama.cpp и whisper.cpp.
Возможности[править | править код]
- Низкоуровневая кроссплатформенная реализация
- Поддержка целочисленного квантования
- Широкая поддержка оборудования
- Автоматическое дифференцирование
- Оптимизаторы ADAM и L-BFGS
Библиотека не содержит зависимостей от сторонних программ и не требует выделения дополнительной памяти во время выполнения.
С данной библиотекой связаны форматы файлов хранения моделей GGML и расширяющие его GGMF, GGJT и GGUF.