Considere-se a aplicação de um modelo grande de li...

Q: Considere-se a aplicação de um modelo grande de linguagem (LLM) com 3 bilhões de parâmetros, distribuído em formato não quantizado, meia-precisão. A quantidade mínima de memória necessária para carreg

A) 16GB; | B) 128GB. | C) 8GB; | D) 32GB; | E) 64GB;

457941200636046

Ano: 2024Banca: FGVOrganização: CVMDisciplina: Linguagens de ProgramaçãoTemas: Linguagens de Programação

Considere-se a aplicação de um modelo grande de linguagem (LLM) com 3 bilhões de parâmetros, distribuído em formato não quantizado, meia-precisão.

A quantidade mínima de memória necessária para carregar os pesos do modelo para inferência (sem gradientes), considerando apenas o espaço ocupado pelos pesos, é:

Gabarito comentado

Anotações

Marcar para revisão

Considere-se a aplicação de um modelo grande de linguagem (LLM) com...

Questões relacionadas para praticar

Considere-se a aplicação de um modelo grande de linguagem (LLM) com...

Questões relacionadas para praticar