GGML (библиотека машинного обучения): различия между версиями
Перейти к навигации
Перейти к поиску
In.wiki (комментарии | вклад) |
In.wiki (комментарии | вклад) |
||
Строка 1: | Строка 1: | ||
'''GGML''' — [[opensource]] библиотека для [[Машинное обучение|машинного обучения]] [[Искусственные нейронные сети|искусственных нейронных сетей]], находящаяся в стадии активной разработки. | '''GGML''' — [[opensource]] библиотека для [[Машинное обучение|машинного обучения]] [[Искусственные нейронные сети|искусственных нейронных сетей]], находящаяся в стадии активной разработки. | ||
− | Название библиотеки образовано склеиванием инициалов разработчика — Georgi Gerganov и аббревиатуры ML (Machine Learning)<ref>[https://www.ibm.com/think/topics/gguf-versus-ggml What is the difference between GGUF and GGML?]</ref>. | + | Название библиотеки образовано склеиванием инициалов разработчика — [[Герганов, Георгий|Georgi Gerganov]] и аббревиатуры ML (Machine Learning)<ref>[https://www.ibm.com/think/topics/gguf-versus-ggml What is the difference between GGUF and GGML?]</ref>. |
Часть её разработки в настоящее время ведётся в репозиториях проектов [[llama.cpp]] и [[whisper.cpp]]. | Часть её разработки в настоящее время ведётся в репозиториях проектов [[llama.cpp]] и [[whisper.cpp]]. |
Версия от 14:38, 23 июля 2025
GGML — opensource библиотека для машинного обучения искусственных нейронных сетей, находящаяся в стадии активной разработки.
Название библиотеки образовано склеиванием инициалов разработчика — Georgi Gerganov и аббревиатуры ML (Machine Learning)[1].
Часть её разработки в настоящее время ведётся в репозиториях проектов llama.cpp и whisper.cpp.
Возможности
- Низкоуровневая кроссплатформенная реализация
- Поддержка целочисленного квантования
- Широкая поддержка оборудования
- Автоматическое дифференцирование
- Оптимизаторы ADAM и L-BFGS
Библиотека не содержит зависимостей от сторонних программ и не требует выделения дополнительной памяти во время выполнения.
С данной библиотекой связаны форматы файлов хранения моделей GGML и расширяющие его GGMF, GGJT и GGUF.