Frequency e Presence Penalties em LLMs: O Que São e Como Ajustar

Ao configurar requisições via API para modelos como GPT-4o ou Claude, a maioria dos desenvolvedores altera apenas a temperatura e deixa o restante das opções no padrão. No entanto, quando a aplicação começa a entrar em loops de repetição ou a utilizar infinitamente os mesmos termos em textos longos, apenas reduzir a temperatura não resolve o problema.

É exatamente nessa camada de controle refinado que entram os parâmetros de frequency penalty e presence penalty. Compreender a lógica por trás dessas duas configurações permite otimizar o vocabulário gerado e incentivar a introdução de novos tópicos sem comprometer a coerência do resultado final.

O Que São Presence Penalty e Frequency Penalty na Prática

O frequency penalty penaliza a probabilidade de um token ser selecionado com base em quantas vezes ele já surgiu na resposta. Quanto mais vezes uma palavra se repete ao longo do texto gerado, maior fica a penalização aplicada a ela, tornando este o parâmetro ideal para evitar vícios de linguagem e listas redundantes.

Por outro lado, o presence penalty aplica uma penalidade fixa a qualquer token que já tenha aparecido ao menos uma vez na geração, independentemente da sua contagem acumulada. Em termos práticos, essa configuração desencoraja o modelo a revisitar termos já citados e o estimula a introduzir novos conceitos e temas.

Nas APIs da OpenAI e de outros provedores, ambos os parâmetros variam geralmente entre -2.0 e 2.0. Valores positivos reduzem a probabilidade de repetição, enquanto valores negativos encorajam o reuso, sendo bastante úteis para cenários que exigem a manutenção estrita de terminologias ou código.

Como Ajustar os Penalties: O Framework dos 4 Cenários

Para calibrar esses parâmetros sem prejudicar a coesão ou a gramática do texto, aplique as diretrizes abaixo de acordo com o caso de uso:

1. Brainstorming e Geração Criativa

Configure a presence penalty entre 0.5 e 1.0 para forçar o modelo a variar o assunto e evitar focar excessivamente no mesmo conjunto de palavras iniciais.

2. Redação de Textos Longos sem Vícios

Ajuste a frequency penalty entre 0.3 e 0.7 para barrar a repetição excessiva de palavras de transição e adjetivos ao longo de relatórios ou artigos extensos.

3. Extração de Dados e JSON Estruturado

Mantenha ambos os parâmetros zerados (0.0) para evitar que o modelo sofra penalidades ao repetir nomes de chaves e estruturas obrigatórias da sintaxe.

4. Formatação Rigorosa de Código e Padronização

Considere usar valores levemente negativos (-0.1 a -0.4) quando for indispensável forçar a reincidência de variáveis, funções ou nomes de marcas específicos.

Exemplo Prático de Configuração na API

Considere um cenário de criação de um assistente para redação de artigos técnicos longos sobre tecnologia.

• Com valores padrão (0.0/0.0): o modelo costuma reutilizar adjetivos como "revolucionário" ou "eficiente" dezenas de vezes no mesmo texto, tornando a leitura previsível.
• Com Frequency Penalty em 0.6: a taxa de reuso desses vocábulos cai drasticamente, obrigando a IA a selecionar sinônimos e estruturas variadas.
• Com Presence Penalty em 0.4: o sistema passa a trazer novos subtemas para a discussão a cada parágrafo, garantindo uma cobertura mais ampla do tema.

Combinar ambos com moderação resulta em uma escrita natural e diversificada.

Erros Comuns ao Ajustar Penalties

• Configurar a frequency penalty acima de 1.2. Valores muito altos fazem a IA cometer erros gramaticais grosseiros para evitar repetir até preposições e artigos essenciais.
• Usar presence penalty alta na geração de código. O modelo passará a inventar nomes de variáveis confusos a cada linha para não repetir identificadores, quebrando a execução do script.
• Ajustar penalidades mantendo temperatura elevada. Somar temperaturas altas com sanções de repetição extremas resulta em respostas desconexas e totalmente fora do contexto.
• Alterar os dois parâmetros ao mesmo tempo. Aumentar ambos simultaneamente dificulta identificar qual parâmetro foi o responsável por corrigir ou estragar a resposta final.

Como Praticar esses Ajustes no Seu Dia a Dia

A forma mais eficaz de compreender o impacto desses parâmetros é utilizar ambientes de teste como o Playground da OpenAI ou Google AI Studio. Mantenha a temperatura fixa em um valor moderado (como 0.7) e faça testes incrementais alterando uma variável por vez.

O domínio fino dos parâmetros de geração é essencial para qualquer desenvolvedor que deseja criar produtos baseados em LLMs com alto desempenho, saídas previsíveis e custos otimizados de tokens.