Estratégias eficazes para construir agentes de LLM (Large Language Model)

Definição e tipos de sistemas agentic: Workflows vs. Agentes

Aprendizado Técnico

Compreender a diferença entre workflows, que são sistemas com caminhos de código predefinidos, e agentes, que são sistemas onde LLMs direcionam dinamicamente seus processos e uso de ferramentas. Workflows são ideais para tarefas bem definidas, enquanto agentes oferecem flexibilidade para tarefas complexas.

Itens Importantes

• Workflows são sistemas orquestrados por caminhos de código predefinidos.
• Agentes são sistemas onde LLMs direcionam dinamicamente seus processos e ferramentas.
• A escolha entre workflow e agente depende da complexidade e previsibilidade da tarefa.

Dados Relevantes

• Agentes podem ser sistemas totalmente autônomos ou implementações prescritivas.
• Anthropic categoriza workflows e agentes como sistemas agentic, diferenciando-os arquiteturalmente.

Quando e como usar frameworks para sistemas agentic

Aprendizado Técnico

Frameworks como LangGraph e Amazon Bedrock’s AI Agent simplificam a implementação de sistemas agentic, abstraindo tarefas de baixo nível. No entanto, podem obscurecer prompts e respostas, dificultando a depuração. É recomendável começar com APIs LLM diretamente e usar frameworks com compreensão do código subjacente.

Itens Importantes

• Frameworks simplificam tarefas de baixo nível, mas podem obscurecer prompts.
• Comece com APIs LLM diretamente para entender os fundamentos.
• Certifique-se de entender o código subjacente ao usar frameworks.

Dados Relevantes

• Exemplos de frameworks incluem LangGraph, Amazon Bedrock’s AI Agent, Rivet e Vellum.
• O uso incorreto de frameworks devido a suposições erradas é uma fonte comum de erros.

Bloco de construção fundamental: LLM Aumentado

Aprendizado Técnico

O LLM aumentado é o bloco de construção básico de sistemas agentic, aprimorado com capacidades como recuperação, ferramentas e memória. É crucial adaptar essas capacidades ao caso de uso específico e garantir uma interface bem documentada para o LLM. O Model Context Protocol facilita a integração com ferramentas de terceiros.

Itens Importantes

• O LLM aumentado possui capacidades de recuperação, ferramentas e memória.
• Adapte as capacidades ao seu caso de uso específico.
• Use o Model Context Protocol para integrar ferramentas de terceiros.

Dados Relevantes

• Os modelos atuais podem gerar consultas de pesquisa, selecionar ferramentas e reter informações ativamente.
• O Model Context Protocol permite integração com um ecossistema crescente de ferramentas.

Workflow: Encadeamento de Prompts (Prompt Chaining)

Aprendizado Técnico

O encadeamento de prompts decompõe uma tarefa em uma sequência de passos, onde cada chamada LLM processa a saída da anterior. Verificações programáticas podem ser adicionadas para garantir que o processo permaneça no caminho certo. É ideal para tarefas que podem ser decompostas em subtarefas fixas.

Itens Importantes

• Decomponha a tarefa em uma sequência de passos.
• Adicione verificações programáticas para garantir o processo.
• Ideal para tarefas com subtarefas fixas.

Dados Relevantes

• O objetivo é trocar latência por maior precisão.
• Exemplo: Gerar cópia de marketing e traduzi-la para outro idioma.

Workflow: Roteamento (Routing)

Aprendizado Técnico

O roteamento classifica uma entrada e a direciona para uma tarefa de acompanhamento especializada. Isso permite a separação de preocupações e a construção de prompts mais especializados. O roteamento é útil para tarefas complexas com categorias distintas que são melhor tratadas separadamente.

Itens Importantes

• Classifique a entrada e direcione-a para uma tarefa especializada.
• Permite a separação de preocupações e construção de prompts especializados.
• Útil para tarefas complexas com categorias distintas.

Dados Relevantes

• Otimizar para um tipo de entrada pode prejudicar o desempenho em outras.
• Exemplo: Direcionar consultas de atendimento ao cliente para diferentes processos.

Workflow: Paralelização (Parallelization)

Aprendizado Técnico

A paralelização permite que LLMs trabalhem simultaneamente em uma tarefa e agreguem suas saídas programaticamente. Manifesta-se em duas variações: seccionamento (dividir uma tarefa em subtarefas independentes) e votação (executar a mesma tarefa várias vezes).

Itens Importantes

• LLMs trabalham simultaneamente em uma tarefa.
• Seccionamento: dividir uma tarefa em subtarefas independentes.
• Votação: executar a mesma tarefa várias vezes.

Dados Relevantes

• Útil quando as subtarefas podem ser paralelizadas ou quando múltiplas perspectivas são necessárias.
• Exemplo: Implementar guardrails com instâncias de modelo separadas.

Agentes: Autonomia e Uso em Problemas Abertos

Aprendizado Técnico

Agentes são LLMs que usam ferramentas baseadas em feedback ambiental em um loop. Eles são adequados para problemas abertos onde é difícil prever o número de passos necessários e onde um caminho fixo não pode ser codificado. A autonomia dos agentes permite escalar tarefas em ambientes confiáveis.

Itens Importantes

• Agentes usam ferramentas baseadas em feedback ambiental em um loop.
• Adequado para problemas abertos com passos imprevisíveis.
• A autonomia permite escalar tarefas em ambientes confiáveis.

Dados Relevantes

• A implementação é frequentemente direta, mas o design do conjunto de ferramentas é crucial.
• Exemplo: Agente de codificação para resolver tarefas SWE-bench.

Conclusão Instrucional

Resumo

Agentes de LLM eficazes são construídos com simplicidade, transparência e interfaces bem projetadas. Frameworks podem ajudar no início, mas a construção com componentes básicos é essencial para a produção.

Conexões

A escolha entre workflows e agentes depende da complexidade da tarefa. Comece com prompts simples e adicione sistemas agentic apenas quando soluções mais simples forem insuficientes.

Implicações Futuras

O sucesso na área de LLM não se resume a construir o sistema mais sofisticado, mas sim o sistema certo para as necessidades específicas, com foco em design, documentação e testes.