Gerenciamento de Objetivos em Agentes de IA: Mantendo Intenção ao Longo do Tempo

Gerenciamento de objetivos é o processo arquitetural que mantém estados futuros desejados pelo agente através do tempo.

Um agente autônomo pode encontrar muitos objetivos possíveis: satisfazer uma solicitação, terminar uma tarefa, preservar um compromisso, investigar uma anomalia, reduzir incerteza ou responder a um novo risco.

Esses objetivos não podem ser tratados como igualmente ativos ou igualmente importantes.

Gerenciamento de objetivos fornece um mecanismo para decidir quais objetivos existem, quais merecem recursos agora e o que deve acontecer quando as condições mudam.

Um objetivo representa um estado que o agente busca produzir, manter, evitar ou verificar.

Uma representação útil contém mais do que texto em linguagem natural. Pode incluir identificador, condição desejada, prioridade, status, origem, dependências, restrições, informações temporais, progresso e critérios de conclusão.

Isso permite que a arquitetura raciocine sobre objetivos independentemente da linguagem utilizada para descrevê-los.

O objetivo torna-se estado cognitivo durável em vez de uma instrução existente apenas dentro de um prompt.

Um prompt pode comunicar um objetivo ao modelo, mas não fornece sozinho gerenciamento de ciclo de vida.

Quando uma chamada termina, intenção local ao prompt desaparece se a arquitetura externa não a persistir.

Objetivos persistentes exigem identificadores estáveis, transições explícitas e armazenamento durável.

Prompting pode expressar um objetivo. Gerenciamento determina o que acontece com ele ao longo do tempo.

Objetivos descrevem resultados desejados. Tarefas normalmente descrevem unidades de trabalho realizadas para atingir esses resultados.

Um objetivo pode exigir várias tarefas, enquanto uma tarefa pode contribuir para mais de um objetivo.

Separar os conceitos preserva a diferença entre aquilo que o agente quer atingir e o trabalho necessário para chegar lá.

Objetivos evoluem conforme o agente interage com o ambiente.

Objetivos podem surgir de usuários, objetivos superiores, planejamento, monitoramento do ambiente, compromissos ou mecanismos internos de motivação.

A origem deve permanecer registrada porque influencia autoridade e governança.

Um objetivo atribuído explicitamente pelo usuário e um objetivo hipotético gerado internamente não deveriam necessariamente possuir o mesmo nível de autoridade.

Representação explícita permite que o restante da arquitetura cognitiva raciocine sobre intenção.

O modelo pode registrar condição desejada, status, prioridade, objetivo pai, dependências, prazo, restrições e evidências necessárias para conclusão.

Também pode preservar proveniência: quem ou o que criou o objetivo e por quê.

Isso permite que objetivos sobrevivam a chamadas individuais do modelo e façam parte do estado persistente.

Agentes frequentemente possuem mais objetivos do que conseguem perseguir simultaneamente.

Prioridade determina quais objetivos recebem atenção, capacidade de memória de trabalho, esforço de planejamento e recursos de execução.

Ela pode depender de urgência, importância, motivação, risco, compromissos, prazos e dependências.

Prioridade deve ser dinâmica porque novas evidências podem alterar o valor relativo dos objetivos.

Objetivos complexos frequentemente precisam ser decompostos em estados intermediários menores.

Um objetivo pai pode gerar subobjetivos necessários para sua conclusão.

A relação deve ser preservada para que o agente saiba por que cada subobjetivo existe.

Caso contrário, subobjetivos obsoletos podem continuar ativos depois que o objetivo superior desapareceu.

Objetivos podem depender de outros objetivos ou condições externas.

Um agente pode precisar de autorização antes de agir, informação antes de decidir ou conclusão de uma etapa antes de iniciar outra.

Representar dependências permite distinguir objetivos que devem ser abandonados daqueles que estão apenas aguardando.

Múltiplos objetivos válidos podem ser incompatíveis.

Eles podem competir por tempo, recursos ou resultados mutuamente exclusivos.

Gerenciamento deve detectar esses conflitos antes de planejar cegamente para todos.

Resolução pode considerar autoridade, prioridade, restrições, compromissos, utilidade e segurança.

Alguns objetivos recebem maior persistência porque o agente assumiu um compromisso.

Compromissos podem surgir de promessas, atribuições aceitas, contratos ou políticas.

Um objetivo comprometido não deveria desaparecer apenas porque outra observação parece momentaneamente mais interessante.

Ainda assim, compromissos precisam poder ser reconsiderados quando se tornam impossíveis, inseguros ou não autorizados.

Ambientes mudam, e um objetivo racional no momento de sua criação pode posteriormente tornar-se desnecessário, impossível ou inseguro.

Reconsideração determina se a intenção ativa ainda deveria continuar sob as novas evidências.

Isso impede que persistência se transforme em rigidez.

Um agente persistente precisa preservar intenção quando apropriado e mudar de direção quando as condições justificarem.

Um objetivo deve definir como a arquitetura determina que ele foi atingido.

Conclusão pode depender de estado observável, artefatos verificados, resultados de ferramentas ou confirmação externa.

Confiança do modelo por si só frequentemente é insuficiente.

Critérios explícitos tornam o encerramento do objetivo testável e observável.

Objetivos de longa duração se beneficiam de representação explícita de progresso.

Progresso pode registrar subobjetivos concluídos, dependências restantes, evidências obtidas e resultados já produzidos.

Isso ajuda o agente a retomar depois de interrupções e evita repetir trabalho concluído.

Objetivos ativos fornecem sinais top-down para atenção.

Informação relevante para objetivos de alta prioridade pode merecer processamento mesmo sem alta saliência.

Atenção também pode detectar evidências inesperadas que alteram prioridades.

Objetivos moldam atenção e evidências atendidas podem provocar reconsideração de objetivos.

O subconjunto de objetivos atualmente relevante pode permanecer na memória de trabalho.

Ela pode preservar objetivo ativo, subobjetivo atual, restrições e condições imediatas de conclusão.

Nem todo objetivo persistente precisa permanecer cognitivamente ativo simultaneamente.

Os dois subsistemas resolvem problemas diferentes.

Gerenciamento determina qual resultado merece ser perseguido. Planejamento determina como atingir aquele resultado.

Um objetivo pode sobreviver a um plano que falhou, permitindo replanejamento sem perda de intenção.

Motivação fornece sinais sobre por que certos resultados deveriam ser preferidos.

Ela pode influenciar geração e prioridade de objetivos quando o agente possui autonomia para escolher entre alternativas.

Gerenciamento transforma essas pressões em representações explícitas de objetivos.

Objetivos autogerados ainda devem operar dentro de limites de autorização e segurança.

Objetivos fornecem critérios para avaliar ações candidatas.

Um mecanismo de decisão pode comparar ações segundo progresso esperado, custos, riscos e restrições.

Quando vários objetivos estão ativos, decisões podem exigir trade-offs explícitos entre eles.

Agentes persistentes precisam de objetivos capazes de sobreviver a chamadas de modelo, reinicializações e períodos de espera.

Estado de objetivo pode ser armazenado com identificador, ciclo de vida, progresso e dependências.

Ao retomar, o agente pode reconstruir objetivos ativos sem tentar inferir toda intenção novamente a partir do histórico bruto.

Falhas de objetivos podem ocorrer mesmo quando planejamento e execução funcionam corretamente.

Comportamento de longa duração pode se afastar gradualmente do objetivo que originalmente o justificava.

Cada decisão local pode parecer razoável enquanto a trajetória acumulada deixa de avançar o resultado desejado.

Representação explícita permite verificar continuamente planejamento, decisões e ações contra o estado desejado.

Criar ou modificar objetivos concede grande autoridade comportamental à representação resultante.

Conteúdo não confiável, memórias recuperadas ou saídas de ferramentas não deveriam automaticamente tornar-se objetivos persistentes.

Admissão de objetivos deve preservar proveniência, autoridade e restrições de política.

Uma arquitetura segura distingue aquilo que o agente observa daquilo que está autorizado a perseguir.

Estado de objetivos deve ser inspecionável.

Engenheiros devem conseguir determinar quais objetivos existem, prioridade, status, origem, dependências, progresso e razões para transições.

Isso permite diagnosticar falhas no nível da intenção e não apenas através da saída final do modelo.

Agentes persistentes precisam de intenção persistente.

Memória preserva aquilo que aconteceu; objetivos preservam aquilo que o agente ainda tenta fazer acontecer.

Objetivos duráveis permitem que trabalho incompleto, compromissos e objetivos de longo horizonte permaneçam relevantes através do tempo.

Continuidade cognitiva inclui continuidade de intenção além de continuidade de memória.

Um agente que lembra interações anteriores mas perde todo objetivo não concluído após uma reinicialização é historicamente persistente, porém comportamentalmente descontínuo.

Persistir objetivos, progresso e dependências permite que ciclos posteriores herdem intenção não concluída.

Reconsideração garante que continuidade não preserve indefinidamente objetivos obsoletos.

Arquiteturas orientadas a objetivos possuem longa história na inteligência artificial.

Arquiteturas Belief-Desire-Intention distinguem estado informacional, resultados desejados e intenções comprometidas.

Pesquisas em goal reasoning estendem essa perspectiva permitindo que sistemas deliberem sobre quais objetivos devem existir ou continuar quando condições mudam.

Agentes modernos baseados em modelos de linguagem tornam novamente central o problema de representar intenção durável fora de chamadas individuais e transitórias do modelo.

Um subsistema de produção deve tratar objetivos como estado persistente tipado.

Ele deve expor transições de ciclo de vida, prioridades, relações pai-filho, dependências, critérios de conclusão, proveniência e autoridade.

Planejamento, atenção e decisão devem consumir esse estado através de contratos definidos em vez de reconstruírem objetivos independentemente a partir de prompts.

Para agentes autônomos persistentes, gerenciamento de objetivos é a camada de controle que determina quais estados futuros continuam valendo a pena perseguir.

Termos como goal, desire, intention, objective e task variam entre psicologia cognitiva, planejamento e arquiteturas de agentes.

A Loomia utiliza objetivo como representação computacional de um estado futuro desejado e gerenciamento de objetivos como o sistema de ciclo de vida que governa essas representações.

Essa terminologia descreve uma abstração de engenharia e não implica desejo ou intenção subjetivos semelhantes aos humanos.