3. «Transformer» (трансформер) — это тип нейросети, которая используется для обучения. Трансформеры используют механизм, называемый «вниманием», чтобы определить, какие части входных данных наиболее важны при генерации каждого следующего слова. Что позволяет им учитывать контекст, точнее генерировать связные ответы и логические продолжения запросов. Архитектура нейросетей типа Трансформер стала прорывом в области обработки естественного языка и позволила ИИ-системам существенно улучшить понимание и генерацию естественно звучащего текста
Pretrained» (предварительно обученный) — означает, что модель была обучена на большом наборе данных до того, как вы начали с ней взаимодействовать. Этот процесс предварительного обучения включает статистическое изучение данных — в результате которого модель запоминает множество различных аспектов языка, включая синтаксис, грамматику, стиль, контекст, факты и даже некоторые аспекты культуры и истории, которые были отражены в данных (текстах, на которых шло обучение).
Платформы Runway ML, Pika Labs, Emu Video, Zeroscope и др. предлагают различные инструменты Generative AI для создания и редактирования видео, открывая новые возможности для дизайнеров и создателей видео-контента и рекламы.