Modelos de Decisão com IA: Como Diferem dos LLMs

Os modelos de decisão têm atraído atenção recente como uma abordagem distinta à Inteligência Artificial. Um dos mais comentados é o Jev, da TypeSafe AI. O Jev produz escolhas estruturadas, pontuações e estimativas de confiança, em vez de texto.

Embora os modelos de IA tradicionais façam previsões e classificações há anos, o Jev foca em tomar decisões estruturadas que o software pode usar diretamente. Essa abordagem oferece outra maneira de construir aplicações de IA, especialmente quando um sistema precisa avaliar informações e escolher o próximo passo.

Como o Jev funciona?

Com um LLM tradicional, você envia um prompt e recebe texto gerado. Mesmo quando solicita JSON, a aplicação deve processar a resposta e validar seu conteúdo antes de usá-lo.

O Jev funciona de forma diferente. Você fornece algum contexto, define as perguntas que deseja ter respondidas e especifica o tipo de resposta esperado. O Jev retorna resultados estruturados que sua aplicação pode processar diretamente.

O Jev suporta três tipos principais de perguntas:

• Escolha: Seleciona uma opção de uma lista que você define, como faturamento, suporte técnico ou vendas.
• Pontuação: Avalia algo em uma escala ordenada, como baixa, média ou alta prioridade.
• Sim ou não: Estima a probabilidade de uma afirmação ser verdadeira, como se um chamado de suporte precisa de atenção humana.

Você pode fazer várias perguntas sobre a mesma entrada em uma única solicitação. Por exemplo, uma aplicação de suporte pode classificar um chamado, avaliar sua urgência e estimar se uma pessoa deve revisá-lo. O Jev retorna os resultados em um formato estruturado, permitindo que a aplicação decida o que fazer em seguida.

Modelos de Decisão vs. LLMs

LLMs e modelos de decisão servem a propósitos diferentes. Um LLM pode explicar uma decisão, gerar conteúdo, escrever código ou raciocinar através de uma tarefa complexa. O Jev é projetado para decisões focadas com saídas definidas.

A distinção não é que os LLMs não possam tomar decisões. Eles também podem classificar informações e retornar dados estruturados. O Jev é construído especificamente em torno dessa tarefa, sem gerar uma resposta livre que a aplicação deva interpretar.

Isso pode torná-lo útil para decisões repetitivas e bem definidas. Para tarefas que exigem explicações detalhadas, saída criativa ou raciocínio complexo em várias etapas, um LLM continua sendo a ferramenta mais adequada.

O que são pontuações de confiança?

Uma das principais funcionalidades do Jev é que suas saídas incluem probabilidades e informações de confiança. Esses valores ajudam os desenvolvedores a avaliar o quão fortemente o modelo favorece uma resposta.

Por exemplo, uma aplicação de suporte ao cliente pode perguntar se um chamado deve ser escalado. Se o modelo indicar uma alta probabilidade de que a escalação é necessária, a aplicação pode enviar o chamado para uma equipe de suporte sênior. Se o resultado for incerto, pode enviá-lo para revisão humana.

No entanto, a confiança não garante a correção. Um modelo pode ter alta confiança e ainda assim tomar a decisão errada. Os desenvolvedores devem testar seus resultados contra exemplos reais e escolher limiares que se adequem às consequências de cada decisão.

Também é importante distinguir a probabilidade de uma resposta de uma pontuação de confiança separada. O significado exato depende do tipo de saída. As aplicações devem seguir a documentação do modelo, em vez de tratar todos os números retornados como a mesma medição.

Onde os modelos de decisão podem ser úteis?

Classificação e roteamento

Muitas aplicações precisam organizar as informações recebidas antes de processá-las. Uma plataforma de suporte pode classificar solicitações por tópico e enviá-las para a equipe certa. Uma aplicação de negócios pode categorizar documentos, e-mails ou feedback de clientes.

O Jev pode retornar uma categoria de uma lista predefinida, permitindo que a aplicação roteie o item sem precisar analisar um parágrafo gerado.

Pontuação e avaliação

Modelos de decisão também podem avaliar informações contra uma escala definida. Por exemplo, uma aplicação pode classificar um chamado de suporte por urgência, pontuar um documento por relevância ou avaliar se uma resposta atende a critérios específicos.

Os resultados podem ser usados para ranquear itens, priorizar trabalho ou identificar casos que precisam de revisão adicional. A qualidade dessas decisões ainda depende do modelo e do quão bem os critérios descrevem a tarefa.

Agentes de IA e seleção de ferramentas

Agentes de IA usam modelos para decidir quais ações tomar. Um agente pode escolher uma ferramenta, classificar uma solicitação ou determinar se uma tarefa precisa de informações adicionais.

Um LLM de propósito geral pode tomar essas decisões como parte de seu raciocínio. Um modelo de decisão pode lidar com uma escolha mais estreita antes que o agente aja.

Por exemplo, um fluxo de trabalho personalizado usando Hermes Agent poderia usar o Jev para classificar uma tarefa recebida antes de passá-la ao agente. Ele também pode ajudar a determinar qual fluxo de trabalho deve processar uma solicitação. Isso exigiria uma integração personalizada, em vez de depender de suporte nativo presumido.

Os modelos de decisão não devem ser tratados como controles de segurança por si só. Se um agente pode executar comandos ou modificar arquivos, permissões e regras determinísticas devem aplicar quais ações são permitidas. A classificação de um modelo pode informar esse processo, mas não deve substituí-lo.

Alternativas para o Jev

O Jev faz parte de um tipo mais amplo de modelos projetados para produzir decisões estruturadas. OpenJev e Laya são outros dois projetos que valem a pena explorar ao comparar abordagens.

OpenJev

O OpenJev é um projeto aberto relacionado à abordagem do Jev. Vale a pena examinar se você deseja explorar uma implementação fora de um serviço hospedado. Antes de usá-lo, verifique sua disponibilidade atual, requisitos de hardware, recursos suportados e licença.

Laya

O Laya é um modelo de decisão open-source da Convai Innovations. Ele foca em tarefas como escolher de opções predefinidas, avaliar informações e responder perguntas de sim ou não. Pode ser relevante se você quiser avaliar um modelo que pode ser executado em seu próprio ambiente.

Estes projetos devem ser comparados em desempenho real, e não apenas em suas capacidades declaradas. Use os mesmos dados de teste e meça precisão, latência, requisitos de recursos e o quão bem suas estimativas de confiança coincidem com os resultados reais.

Você pode executar modelos de decisão localmente?

Executar um modelo localmente dá-lhe mais controle sobre o ambiente de software e onde os dados são processados. No entanto, as opções de implantação disponíveis diferem por projeto. O Jev é oferecido através de uma API, enquanto alternativas open-source podem fornecer opções para executar inferência em seu próprio hardware.

Os requisitos de hardware dependem do tamanho do modelo, uso de memória e throughput. Alguns modelos podem rodar em uma CPU, enquanto outros se beneficiam de uma GPU, especialmente ao processar muitas solicitações.

Se você deseja experimentar com modelos de IA locais, a DaDesktop fornece desktops em nuvem com opções de GPU dedicadas. Você pode usá-los para desenvolvimento e testes sem comprar uma GPU de alto desempenho para seu computador local.

Saiba mais sobre executar LLMs locais ou explore ambientes de agentes de IA.

Quando você deve usar um modelo de decisão?

Modelos de decisão são úteis quando uma aplicação precisa de uma resposta definida que possa acionar uma próxima etapa específica. Eles podem complementar LLMs ao lidar com classificação, pontuação e roteamento, enquanto um modelo generativo lida com linguagem e raciocínio mais complexo.

A melhor escolha depende da sua aplicação. Teste o modelo contra seus próprios dados, compare-o com classificadores convencionais e LLMs, e meça precisão, latência e custo. Para decisões importantes, inclua revisão humana e salvaguardas onde necessário.

Quer discutir seu caso de uso? Entre em contato conosco e apontaremos a direção certa para você.