Uma nova metodologia denominada “Chain of Draft” (CoD) possibilita que modelos de IA solucionem tarefas complexas utilizando até 92,4% menos palavras – sem perda de acurácia – e com respostas mais rápidas.
O CoD gera resultados intermediários, concisos, porém informativos, resolvendo problemas de forma similar ao método tradicional de “Chain of Thought” (CoT), mas com uma redução significativa de palavras. Inspirado no comportamento humano, em que anotações resumidas em tópicos substituem longos discursos, o CoD imita essa prática anotando apenas os pontos essenciais.
Nas demonstrações exibidas, observa-se que, para tarefas de cálculo, o CoD apresenta uma explicação resumida e direta, enquanto o método CoT utiliza uma sequência detalhada de raciocínios – ambos alcançando respostas corretas. Em uma situação exemplificada, onde era necessário determinar quantos pirulitos foram dados, o método CoD explicava o raciocínio com passos sucintos, evidenciando uma redução significativa no número de palavras.
Em um experimento comparativo, os pesquisadores mensuraram o desempenho do CoD em tarefas aritméticas, de compreensão e de raciocínio simbólico. Os resultados indicaram que, mesmo empregando entre 68% e 86% menos palavras, o CoD obteve uma acurácia comparável às explicações detalhadas do CoT. Por exemplo, em tarefas de compreensão relacionadas a datas, a acurácia para um modelo avançado passou de 72,6% para 88,1%, enquanto em outro modelo a melhoria foi de 84,3% para 89,7%.
Prompts curtos entregam acurácia semelhante com menos recursos
Comparando o CoD com os prompts padrão e os detalhados do CoT, os resultados mostram que o uso de etapas intermediárias mais enxutas não compromete a qualidade das respostas. Essa abordagem reduz o número de tokens tanto na saída quanto na entrada – especialmente em cenários de few-shot prompting – diminuindo os custos computacionais e agilizando as respostas.
O CoD reduz custos computacionais e tempos de resposta
Ao diminuir a quantidade de tokens gerados nas respostas e compactar os exemplos de few-shot, o método diminui os custos de processamento e permite respostas mais rápidas. Esses benefícios fazem do CoD uma ferramenta valiosa para aplicações que demandam baixa latência e operam em larga escala. Contudo, os pesquisadores ressaltam que prompts muito compactos podem não ser ideais para todas as tarefas, principalmente aquelas que exigem considerações mais profundas, autocorreção ou a consulta de conhecimentos externos.
Para contornar essas limitações, sugerem combinar o CoD com estratégias complementares, como raciocínio paralelo adaptativo e validação em múltiplos níveis. Ademais, tais descobertas podem orientar futuros treinamentos de modelos de IA, integrando processos de raciocínio compacto aos conjuntos de dados de treinamento.
O método “Chain of Draft” foi desenvolvido pela equipe de pesquisa da Zoom Communications – que já disponibiliza, desde 2023, um Assistente de IA para otimizar reuniões – demonstrando que a baixa latência pode ser decisiva em situações em tempo real, como videoconferências.
Resumo
- Pesquisadores desenvolveram o método “Chain of Draft” (CoD), que permite resolver tarefas complexas usando até 92,4% menos palavras sem prejuízo na acurácia.
- O CoD gera resultados intermediários de forma concisa, inspirando-se em anotações essenciais utilizadas por humanos.
- Em comparação com a abordagem “Chain of Thought” (CoT), o CoD alcança resultados semelhantes com redução de 68% a 86% no número de palavras, o que diminui os tokens de entrada e saída, reduz custos computacionais e acelera as respostas.
