Como funciona o processo de inferência de IA da Nesa?

O principal objetivo de conceção deste processo é reforçar a proteção da privacidade e aumentar a fiabilidade dos resultados ao longo do pipeline de inferência de IA. Ao contrário das APIs de IA tradicionais, que recorrem diretamente a servidores centralizados, a Nesa visa tornar a inferência mais transparente, verificável e dar aos utilizadores um controlo mais forte sobre os dados.

Que etapas envolve um pedido de IA?

O processo de inferência de IA da Nesa começa com a submissão de um pedido por parte do utilizador e termina com a devolução de um resultado verificado. Inclui várias fases: atribuição de tarefas, execução da inferência e verificação do resultado.

Quando uma aplicação ou programador envia um pedido para a rede Nesa, esta recebe primeiro os dados de entrada e gera uma tarefa de inferência com base nas necessidades do modelo. Ao contrário das APIs de IA tradicionais, que encaminham os pedidos diretamente para um único servidor, a Nesa direciona a tarefa para o seu sistema de escalonamento.

O sistema de escalonamento MetaInf seleciona então os melhores nodos para a tarefa com base no estado, nas capacidades de hardware e na carga da rede. Alguns modelos podem até ser divididos entre vários nodos para processamento colaborativo, o que reforça a proteção da privacidade.

Após a inferência, a camada de verificação confirma que o resultado corresponde ao processo esperado. Só nesse momento o resultado é devolvido à aplicação ou ao utilizador final.

Esta estrutura constitui a base operacional da rede de inferência de IA da Nesa.

Como é que a Nesa aloca as tarefas de inferência?

A Nesa utiliza o seu sistema de escalonamento MetaInf para alocar tarefas de inferência. A função principal do MetaInf é encontrar os melhores recursos disponíveis para cada tarefa na rede.

Quando chega um novo pedido de inferência, o escalonador avalia a capacidade computacional, a disponibilidade e a carga atual de cada nodo. Como diferentes modelos têm requisitos distintos de GPU, CPU e memória, as tarefas nunca são atribuídas ao acaso.

Para modelos complexos, o MetaInf pode dividir as computações por vários nodos. Isto reduz a dependência de um único ponto e melhora a privacidade, uma vez que nenhum nodo tem visibilidade do processo de inferência completo.

Após a conclusão da tarefa, o escalonador organiza também a agregação e verificação dos resultados para garantir consistência e rastreabilidade ao longo de todo o processo.

Que responsabilidades têm os nodos no processo de inferência?

Os nodos da rede Nesa são os fornecedores de recursos computacionais que executam efetivamente as tarefas de inferência. Recebem as atribuições do escalonador e executam as computações do modelo de acordo com regras definidas.

Em cenários de inferência privada, os nodos veem normalmente apenas parte da tarefa. Graças à divisão do modelo e à encriptação, nenhum nodo consegue aceder aos dados de entrada completos nem aos parâmetros completos do modelo.

Diferentes tipos de nodos assumem responsabilidades distintas. Uns concentram-se na execução da inferência, enquanto outros tratam da verificação e confirmação do resultado.

Esta separação de funções reduz o risco de nodos maliciosos comprometerem a rede e aumenta a credibilidade e segurança do processo de inferência.

Ao dividir funções, a Nesa consegue lidar com tarefas complexas de inferência de IA num ambiente de rede aberta.

Como são verificados e confirmados os resultados?

A camada de verificação da Nesa confirma que um resultado de inferência provém realmente do processo de execução esperado e não de um cálculo defeituoso ou de dados fabricados.

Nos serviços de IA tradicionais, os utilizadores têm de confiar que o resultado devolvido está correto. Na rede Nesa, os resultados passam por uma verificação adicional antes de serem aceites.

O mecanismo de verificação analisa os registos de execução, o estado da tarefa e os dados de prova de computação para garantir que o processo seguiu as regras da rede. Apenas os resultados verificados são formalmente confirmados e enviados de volta para a camada da aplicação.

Isto transforma a inferência de IA de um modelo "baseado na confiança" para um modelo "baseado na verificação". Para casos de utilização como análise financeira, automatização empresarial e agentes de IA, a verificabilidade melhora diretamente a transparência e a confiança.

Como podem os programadores ligar-se à rede Nesa?

A Nesa disponibiliza aos programadores ferramentas para implementar modelos e ligar-se à rede, permitindo-lhes construir aplicações de IA descentralizadas.

Os programadores começam por selecionar ou carregar um modelo e, em seguida, implementam-no com recurso ao SDK da Nesa. Uma vez implementado, podem enviar pedidos de inferência para a rede através de APIs padrão.

Durante as chamadas, os programadores não precisam de gerir diretamente os recursos dos nodos. O escalonamento de tarefas, a seleção de nodos e a verificação são tratados automaticamente pela rede.

Isto assemelha-se a um serviço cloud tradicional, mas o ambiente de execução subjacente funciona numa rede distribuída em vez de servidores de um único fornecedor. Os programadores obtêm a mesma facilidade de utilização, acrescida de privacidade extra e execução fiável.

Quais são as diferenças em relação às chamadas de API de IA tradicionais?

A maior diferença entre a Nesa e as APIs de IA tradicionais reside na forma como a execução funciona e como a confiança é estabelecida.

As APIs de IA tradicionais seguem um fluxo simples: pedido de entrada, servidor executa, resultado de saída. Todo o processo é controlado pelo fornecedor do serviço e os utilizadores não podem verificar detalhes.

A Nesa acrescenta etapas como escalonamento de tarefas, computação distribuída e verificação de resultados entre a execução e a saída final. Isto torna o processo mais complexo, mas também oferece uma proteção de dados muito mais forte e uma fiabilidade muito maior dos resultados.

Do ponto de vista do programador, ambos os modelos funcionam através de chamadas de API. Mas, a nível arquitetural, a Nesa é mais semelhante a uma infraestrutura de IA descentralizada, enquanto as APIs tradicionais estão mais próximas de serviços cloud centralizados.

Para aplicações que exigem privacidade, computação verificável e um ambiente de execução aberto, a Nesa apresenta uma solução fundamentalmente diferente dos serviços de IA tradicionais.

Resumo

O processo de inferência de IA da Nesa inclui várias etapas: submissão do pedido, escalonamento de tarefas, execução do nodo, verificação do resultado e devolução do resultado. Ao combinar o sistema de escalonamento MetaInf, uma rede de nodos distribuída e mecanismos de verificação, a Nesa oferece uma inferência de IA fiável num ambiente aberto.

Em comparação com as APIs de IA tradicionais, a Nesa acrescenta proteção da privacidade e verificação dos resultados, tornando o processo de inferência não apenas computacionalmente completo, mas também mais transparente e credível. Este modelo de execução é um componente essencial da infraestrutura de IA descentralizada da Nesa.

Perguntas Frequentes

Que etapas estão incluídas no processo de inferência de IA da Nesa?

O processo de inferência de IA da Nesa inclui tipicamente cinco fases: submissão do pedido, escalonamento de tarefas, execução do nodo, verificação do resultado e devolução do resultado. Cada fase é tratada por módulos distintos que trabalham em conjunto.

Pelo que é responsável o MetaInf na rede Nesa?

O MetaInf é o sistema de escalonamento de tarefas da Nesa. Aloca tarefas de inferência com base no estado do nodo, nos recursos de hardware e na carga da rede, e coordena todo o fluxo de execução.

Por que é que a Nesa precisa de um mecanismo de verificação de resultados?

A Nesa recorre à verificação para garantir que os resultados da inferência provêm de um processo de execução correto, reduzindo o impacto de erros ou comportamentos maliciosos na rede.

Em que é que o processo de inferência da Nesa difere das APIs de IA tradicionais?

As APIs de IA tradicionais dependem de um único servidor centralizado para a inferência. A Nesa utiliza nodos distribuídos, escalonamento de tarefas e mecanismos de verificação para executar as tarefas de inferência.

Os programadores precisam de gerir os nodos subjacentes?

Não. Os programadores interagem com a rede exclusivamente através de APIs. A rede Nesa trata automaticamente do escalonamento de nodos, da execução de tarefas e da verificação.