O Google anunciou uma pesquisa que revela uma tecnologia inovadora chamada Confident Adaptive Language Modeling (CALM).
O objetivo é construir uma plataforma para modelos de linguagem como GPT-3, LaMDA, T5 e PaLM que podem processar linguagem natural.
O CALM funciona alocando recursos dinamicamente com base na complexidade das várias partes da tarefa, usando algoritmos para prever se uma tarefa exigirá todos ou alguns dos recursos.
Ou seja, o que esse novo framework faz é dedicar menos recursos às partes triviais da tarefa de geração de texto e todo o poder às partes mais difíceis.
Perguntas simples como a cor do céu podem ser respondidas sem gastar tanto processamento.
Os pesquisadores do Google acreditam que o CALM pode acelerar os modelos de linguagem, mantendo o alto desempenho e fornecer resultados mais rápidos aos usuários.
Abaixo, um exemplo da velocidade do CALM.
Por enquanto, o Google não tem nenhuma ferramenta aberta para que os usuários possam testar. A empresa diz que está trabalhando cautelosamente em uma alternativa ao ChatGPT.
