Atenção
Atenção em um agente de IA é o processo que prioriza quais observações, memórias, objetivos e estados internos disponíveis recebem processamento cognitivo.
Atenção em um agente de IA é o processo de priorização dependente de contexto que determina quais sinais, memórias, objetivos e estados internos disponíveis recebem processamento cognitivo preferencial.
Em resumo
- →Atenção determina prioridade de processamento cognitivo.
- →Ela é distinta de saliência, memória de trabalho e contexto do modelo.
- →Objetivos, urgência, novidade, importância e saliência podem influenciar atenção.
- →Atenção e recuperação de memória formam um ciclo de feedback.
- →Agentes persistentes precisam de atenção para impedir que estado acumulado se transforme em ruído cognitivo.
Definição
Atenção determina quais informações disponíveis recebem processamento cognitivo preferencial em determinado momento.
Candidatos podem incluir observações, objetivos, memórias, estado de tarefa e sinais cognitivos internos.
Atenção vs. saliência
Saliência descreve quão fortemente uma informação se destaca. Atenção determina se aquela informação realmente recebe prioridade de processamento.
Saliência pode influenciar atenção, mas objetivos, restrições de segurança e requisitos da tarefa podem superá-la.
Atenção vs. memória de trabalho
Memória de trabalho contém informação atualmente disponível para cognição.
Atenção seleciona qual parte desse estado ativo se torna o foco imediato de processamento.
Atenção e recuperação de memória
A atenção atual pode determinar qual informação o agente procura na memória de longo prazo.
Memórias recuperadas podem então alterar prioridade atencional introduzindo novas evidências ou contexto.
Por que atenção importa para agentes de IA persistentes
Agentes persistentes acumulam mais memórias, objetivos e estado do que conseguem processar simultaneamente.
Atenção determina continuamente quais partes desse estado acumulado merecem processamento cognitivo agora.
Modos de falha comuns
Falhas de atenção podem provocar comportamento incorreto mesmo quando o agente possui o conhecimento necessário.
- →Distração.
- →Visão de túnel.
- →Negligência de objetivo.
- →Inversão de prioridade.
- →Troca excessiva de foco.
- →Captura adversarial de atenção.
Atenção em Agentes de IA: Priorizando o que a Cognição Processa a Seguir
Atenção em agentes de IA é o mecanismo que prioriza quais observações, memórias, objetivos e estados ativos recebem processamento cognitivo em determinado momento.
glossaryMemória de Trabalho
Memória de trabalho em um agente de IA é o estado limitado e dinamicamente atualizado de informação atualmente disponível para cognição ativa.
glossaryRecuperação de Memória
Recuperação de memória é o processo pelo qual um agente de IA seleciona memórias armazenadas relevantes para seu contexto, objetivos e processo cognitivo atuais.
glossaryMemória de Agentes
Memória de agentes é o conjunto de mecanismos através dos quais um agente de IA retém, recupera, atualiza, organiza e utiliza informações de estados ou experiências anteriores para influenciar comportamento presente e futuro.
glossaryContinuidade Cognitiva
Continuidade cognitiva é a capacidade de um agente de IA preservar, recuperar, atualizar e evoluir as estruturas internas que influenciam seu comportamento entre interações e ao longo do tempo.
glossaryAgente de IA Persistente
Um agente de IA persistente é um agente de IA cujo comportamento pode ser influenciado por estado interno durável que sobrevive a interações individuais e pode ser recuperado, atualizado e evoluído ao longo do tempo.
glossaryGerenciamento de Objetivos
Gerenciamento de objetivos é o processo através do qual um agente de IA representa, prioriza, monitora e governa estados futuros desejados ao longo do tempo.
glossaryPlanejamento
Planejamento em um agente de IA é o processo de construir e revisar caminhos estruturados do estado atual em direção a um objetivo ativo.
glossaryRaciocínio
Processo cognitivo pelo qual um agente de IA interpreta contexto, evidências, memória, conhecimento, objetivos e estado interno para derivar inferências estruturadas.
glossaryTomada de Decisão
Tomada de decisão é o processo cognitivo pelo qual um agente de IA avalia alternativas e seleciona, adia ou rejeita uma direção sob objetivos, evidências, restrições e incerteza.
glossaryGeração de Comportamento
Geração de comportamento é o processo pelo qual um agente de IA converte seu estado cognitivo atual em comportamentos candidatos que podem ser ranqueados e selecionados antes da execução.