Изменения
Перейти к навигации
Перейти к поиску
мСтрока 37:
Строка 37: − +
→Языковые модели GPT от OpenAI: Ссылка на Common Crawl
|GPT-2, но с изменениями для возможности масштабирования в большем объёме.
|GPT-2, но с изменениями для возможности масштабирования в большем объёме.
|175 миллиардов ({{рост}}11 566 %)
|175 миллиардов ({{рост}}11 566 %)
|570 ГБ обычного текста, 0,4 трлн токенов. В основном содержит данные из наборов данных CommonCrawl, WebText, английской Википедии, а также [[BookCorpus]].
|570 ГБ обычного текста, 0,4 трлн токенов. В основном содержит данные из наборов данных [[Common Crawl]], WebText, английской Википедии, а также [[BookCorpus]].
|11 июня 2020<ref>{{Cite web|language=en-US|url=https://openai.com/research/language-models-are-few-shot-learners|title=Language models are few-shot learners|website=openai.com|archive-url=https://web.archive.org/web/20230321182325/https://openai.com/research/language-models-are-few-shot-learners|archive-date=2023-03-21|access-date=2023-03-21|url-status=live}}</ref>
|11 июня 2020<ref>{{Cite web|language=en-US|url=https://openai.com/research/language-models-are-few-shot-learners|title=Language models are few-shot learners|website=openai.com|archive-url=https://web.archive.org/web/20230321182325/https://openai.com/research/language-models-are-few-shot-learners|archive-date=2023-03-21|access-date=2023-03-21|url-status=live}}</ref>
|-
|-