¿Una IA en fabla aragonesa?: Inyección de conocimiento lingüístico en modelos basados en Transformer para transferencia croslingüe

Abstract

Los modelos del lenguaje basados en Transformer, base de la actual revolución en IA, solo están disponibles para lenguas mayoritarias, dado el gran número de textos necesarios para entrenarlos. En este trabajo proponemos métodos para adaptar modelos preexistentes a lenguas minoritarias, especialmente el aragonés, por medio de inyección de conocimiento lingüístico estructurado.