Gastos empresariais em IA de código aberto caem para 11%, mas dominam ambientes de produção

De acordo com Jesse Zhang, CEO da Decagon, conforme monitorizado pela Beating, os gastos empresariais em IA de código aberto representam atualmente apenas 11% da despesa total em modelos de grande dimensão, uma vez que a maioria das empresas ainda se encontra numa fase inicial de exploração com modelos de código fechado. No entanto, no ambiente de produção da própria Decagon, 90% das chamadas de inferência já migraram para modelos de código aberto, impulsionadas pela necessidade de baixa latência e capacidades de afinação profunda. Zhang observa que, à medida que os casos de uso amadurecem, os modelos de código aberto assumirão cada vez mais os ambientes de produção devido à personalização superior e rapidez de resposta — crítico para cenários de atendimento ao cliente, onde atrasos de 8 segundos na resposta degradam a experiência do utilizador.
Aviso legal: As informações contidas nesta página podem provir de fontes externas e têm caráter meramente informativo. Não refletem os pontos de vista nem as opiniões da Gate e não constituem qualquer tipo de aconselhamento financeiro, de investimento ou jurídico. A negociação de ativos virtuais envolve um risco elevado. Não se baseie exclusivamente nas informações contidas nesta página ao tomar decisões. Para mais detalhes, consulte o Aviso legal.
Comentar
0/400
Nenhum comentário