Строка 4: |
Строка 4: |
| | author = [[Георгий Герганов]] | | | author = [[Георгий Герганов]] |
| | developer = Георгий Герганов и сообщество | | | developer = Георгий Герганов и сообщество |
− | | released = {{Start date and age|2023|3|10}}<ref name="githubrelease"/> | + | | released = {{Start date and age|2023|3|10}}<ref name="githubrelease">{{cite web |title=Initial release · ggerganov/llama.cpp@26c0846 |url=https://github.com/ggerganov/llama.cpp/commit/26c084662903ddaca19bef982831bfb0856e8257 |website=GitHub |access-date=15 May 2024 |language=en}}</ref> |
| | programming language = [[C++]], [[C (Язык программирования)|C]] | | | programming language = [[C++]], [[C (Язык программирования)|C]] |
| | genre = [[Библиотека (программирование_|Библиотека]] для [[инференс]]а LLM. | | | genre = [[Библиотека (программирование_|Библиотека]] для [[инференс]]а LLM. |
− | | license = [[MIT License]]<ref name="license"/> | + | | license = [[MIT License]] |
| + | <ref name="license">{{cite web |title=llama.cpp/LICENSE at master · ggerganov/llama.cpp |url=https://github.com/ggerganov/llama.cpp/blob/master/LICENSE |website=GitHub |language=en}}</ref> |
| | repo = {{URL|github.com/ggml-org/llama.cpp}} | | | repo = {{URL|github.com/ggml-org/llama.cpp}} |
| }} | | }} |
Строка 19: |
Строка 20: |
| | | |
| == Предыстория == | | == Предыстория == |
− | В конце сентября 2022 года [[Георгий Герганов]] начал работу над библиотекой [[GGML (библиотека машинного обучения)|GGML]], библиотекой на языке [[C (язык программирования)|C]], реализующей [[Тензорная алгебра|тензорную алгебру]]. Герганов разрабатывал библиотеку с учётом строгого управления памятью и [[Многопоточность|многопоточности]]. Создание GGML было вдохновлено работой [[Беллар, Фабрис|Фабриса Беллара]] над [[LibNC]][8]. До llama.cpp Герганов работал над аналогичной библиотекой [[whisper.cpp]], которая реализовала [[Whisper]] — [[модель преобразования речи в текст]] от [[OpenAI]][9]. | + | В конце сентября 2022 года [[Георгий Герганов]] начал работу над библиотекой [[GGML (библиотека машинного обучения)|GGML]], библиотекой на языке [[C (язык программирования)|C]], реализующей [[Тензорная алгебра|тензорную алгебру]]. Герганов разрабатывал библиотеку с учётом строгого управления памятью и [[Многопоточность|многопоточности]]. Создание GGML было вдохновлено работой [[Беллар, Фабрис|Фабриса Беллара]] над [[LibNC]]<ref name="changelog-podcast-mar-2023">{{cite web |title=Bringing Whisper and LLaMA to the masses with Georgi Gerganov (Changelog Interviews #532) |url=https://changelog.com/podcast/532 |website=Changelog |access-date=28 July 2024 |language=en |date=22 March 2023}}</ref>. До llama.cpp Герганов работал над аналогичной библиотекой [[whisper.cpp]], которая реализовала [[Whisper]] — [[модель преобразования речи в текст]] от [[OpenAI]]<ref name="llamafileregister">{{cite web |last1=Connatser |first1=Matthew |title=Llamafile LLM driver project boosts performance on CPU cores |url=https://www.theregister.com/2024/04/03/llamafile_performance_gains/ |website=www.theregister.com |access-date=10 May 2024 |language=en}}</ref>. |
| | | |
| == Примечания == | | == Примечания == |
| [[Категория:Программное обеспечение для машинного обучения]] | | [[Категория:Программное обеспечение для машинного обучения]] |