1610 байт добавлено
, 2 месяца назад
'''Инференс''' [[модели нейронной сети]] – это ключевой этап в процессе работы с моделью.
Если на этапе [[Обучения модели нейронной сети|обучения модели]] идёт настройка её параметров, то инференс представляет собой применение этих параметров на практике.
Таким образом, если обучение модели можно сравнивать с разработкой программы, то инференс модели - с выполнением программы.
В ряде источников английское слово inference переводится как "вывод". Это не вполне точно, т.к. ориентирует читателя на некую ассоциацию с [[Логический вывод|логическим выводом]] из сферы классического искусственного интеллекта.
Инференс может осуществляться не только с использованием той кодовой базы, на которой шла разработка модели, но и на совершенно другой. Для этого необходимо, чтобы движок инференса понимал формат модели.
'''Известные движки инференса:'''
* [[llama.cpp]]
[[Категория:Машинное обучение]]