Изменения
Перейти к навигации
Перейти к поиску
Строка 2:
Строка 2: + + + + + + + + + + + + + + + + + + + +
нет описания правки
По аналогии с [[Рекуррентная нейронная сеть|рекуррентными нейронными сетями]] (РНС), Трансформеры предназначены для обработки последовательностей, таких как текст на естественном языке, и решения таких задач как [[машинный перевод]] и [[автоматическое реферирование]]. В отличие от РНС, Трансформеры не требуют обработки последовательностей по порядку. Для примера, если входные данные это текст, Трансформеру не требуется обрабатывать конец текста после обработки его начала. Благодаря этому Трансформеры [[Параллельные вычисления|распараллеливаются]] легче чем РНС и могут быть быстрее обучены.<ref name="paper" />
По аналогии с [[Рекуррентная нейронная сеть|рекуррентными нейронными сетями]] (РНС), Трансформеры предназначены для обработки последовательностей, таких как текст на естественном языке, и решения таких задач как [[машинный перевод]] и [[автоматическое реферирование]]. В отличие от РНС, Трансформеры не требуют обработки последовательностей по порядку. Для примера, если входные данные это текст, Трансформеру не требуется обрабатывать конец текста после обработки его начала. Благодаря этому Трансформеры [[Параллельные вычисления|распараллеливаются]] легче чем РНС и могут быть быстрее обучены.<ref name="paper" />
Трансформеры используются в [[Яндекс.Переводчик]]е<ref>{{cite web
|author = Семен Козлов
|url = https://habr.com/ru/post/341240/
|title = Transformer — новая архитектура нейросетей для работы с последовательностями
|lang = ru
|website =
|publisher = [[Хабр]]
|date = 2017-10-30
|accessdate = 2020-11-03
}}</ref>, [[Google Переводчик]]е<ref>{{cite web
|author = Isaac Caswell, Bowen Liang
|url = https://ai.googleblog.com/2020/06/recent-advances-in-google-translate.html
|title = Recent Advances in Google Translate
|lang = en
|website =
|publisher = Google AI Blog
|date = 2020-06-08
|accessdate = 2020-11-03
}}</ref>, [[GPT-3]].
== Примечания ==
== Примечания ==
{{примечания}}
{{примечания}}