[Inteligência Artificial] O custo de usar o GPT-4 é na verdade 50 vezes maior que o do GPT-3.5 - um número que os desenvolvedores de grandes modelos de linguagem (LLM) devem saber

O custo de usar o GPT-4 é, na verdade, 50 vezes maior que o do GPT-3.5;

O tempo que um modelo de linguagem grande leva para processar 25 solicitações ao mesmo tempo é apenas o dobro do tempo de processamento de uma única solicitação...

Estas estatísticas podem parecer surpreendentes, mas são verdadeiras.

Eles vêm de um artigo do GitHub chamado "Numbers Large Language Model (LLM) Developers Must Know".

GitHub - ray-project/llm-numbers: Números que todo desenvolvedor LLM deve saber Números que todo desenvolvedor LLM deve saber. Contribua para o desenvolvimento de ray-project/llm-numbers criando uma conta no GitHub. https://github.com/ray-project/llm-numbers

Índice