///
Modelos transformer superam, devido ao mecanismo de autoatenção, as redes neurais recorrentes tradicionais na captura de dependências de longo alcance em documentos jurídicos extensos, sendo esta a principal razão para a adoção dos transformers em tarefas como sumarização e busca semântica no campo jurídico.