O ChatGPT tem sido um grande sucesso, atingindo 100 milhões de usuários em apenas um mês e despertando interesse e curiosidade entre empresas e profissionais sobre como utilizar esta ferramenta em suas organizações.
Mas o que exatamente são LLMs e como eles podem beneficiar o seu negócio? É apenas um exagero ou veio para ficar?
Neste artigo discutiremos a questão acima e tentaremos responder por que o LLM é um ótimo investimento para negócios ou não. O canhão é para combater os mosquitos ou aproveitar tudo da melhor forma? Tudo se resume a quando e como usar este grande modelo de forma eficaz e eficiente.
trem
O treinamento do LLM é muito caro... mas isso não significa que você precise treiná-lo toda vez que quiser usá-lo para uma tarefa específica, nem significa que você não precise treiná-lo. Há muitas maneiras de aproveitar o conhecimento e as habilidades existentes de um LLM sem treinamento do zero.
O LLM é capaz de gerar texto com base na probabilidade de palavras e frases se sucederem. Também é possível "imitar" esse comportamento fazendo com que ele seja "lido no contexto". É como dar um livro a alguém e pedir-lhe que encontre o capítulo do livro que acha que pode ter a resposta para a pergunta X. Depois que os leitores encontram o capítulo, eles o leem e tentam explicar o que acabaram de ler.
Isso precisa ser solicitado a ele até certo ponto, o que costumamos chamar de alerta. Há muito online sobre tutoriais de dicas, engenharia de dicas e como gerar boas dicas para LLM. Então, quando você está tentando obter respostas contextuais, o LLM funciona muito bem. Mas não espere que as máquinas saibam tudo, porque elas são boas em colocar palavras, não em fatos.
Você só precisa treinar novamente a máquina se quiser que ela fale como um profissional.
terminologia de negócios
Todas as organizações e empresas têm seu próprio jargão e termos técnicos específicos para sua área. Por exemplo, Jam pode se referir à geleia doce de morango Smucker, mas também pode se referir à música tocada informalmente.
Isto significa que nem todos podem compreender facilmente a linguagem utilizada por uma determinada empresa, a menos que estejam familiarizados com o seu vocabulário e conceitos. Portanto, pode ser um obstáculo para potenciais clientes ou parceiros que não estão familiarizados com a área. Use o LLM para traduzir a linguagem técnica para uma linguagem mais natural e acessível.
Dependendo do estilo e do nível de detalhe exigido, o LLM pode ajudar a explicar o significado de termos ou conceitos complexos usando palavras ou exemplos mais simples, o que pode tornar a informação mais envolvente e compreensível para qualquer pessoa.
Um gráfico de conhecimento é uma forma de organizar informações em uma estrutura gráfica, onde entidades e seus relacionamentos são representados como nós e arestas. Isso torna o armazenamento e o acesso às informações mais fáceis do que usar formatos de texto tradicionais. Os gráficos de conhecimento podem ser construídos independentemente de qualquer modelo de linguagem grande (llm), e os gráficos de conhecimento também podem se beneficiar dos recursos do llm.
Para criar um gráfico de conhecimento, as entidades e relações precisam ser extraídas de fontes de dados (como PDFs) e inseridas em um banco de dados gráfico. O LLM pode ajudar nessa tarefa gerando código para inserir dados no banco de dados.
O LLM também pode auxiliar na consulta de gráficos de conhecimento em linguagem natural, explicando os resultados de forma simples e compreensível. Dessa forma, os usuários podem interagir com os dados por meio de texto e obter fatos e respostas relevantes do gráfico de conhecimento.
O LLM pode ajudar a explicar o significado de termos ou conceitos complexos usando palavras mais simples ou exemplos do contexto fornecido
dados sensíveis
Lembre-se do problema da Samsung em que algum código-fonte confidencial de um engenheiro foi acidentalmente carregado no ChatGPT,
Você fica pensando que esse risco se aplica apenas ao uso da interface ChatGPT gratuita no site OpenAI. Na verdade, qualquer coisa chamada de “gratuita” provavelmente terá algum retorno sobre o investimento. Como usar suas informações para melhorar o modelo. Uma opção um pouco melhor é usar um serviço LLM pago via API, que não utiliza dados confidenciais para reciclagem.
A exibição está muito melhor agora e há muitas alternativas ao ChatGPT. Como Falcon, Llama, Palm ou outros modelos com desempenho semelhante ou até melhor que o ChatGPT. Também podemos personalizar os nossos próprios modelos ou soluções de acordo com as nossas necessidades específicas.
Ao hospedar seu próprio LLM, você pode garantir que ele seja usado apenas para a finalidade pretendida e que possa ser treinado novamente, se necessário, no futuro. Você também pode explorar os dados gerados usando esses modelos para melhorar seus negócios. Por exemplo, ver as perguntas mais importantes a serem feitas a um modelo pode criar e monetizar melhores soluções de negócios.
Com o modelo básico de código aberto, podemos construir nosso próprio LLM e ajustar o treinamento a qualquer momento.
parte ou tudo
Aqui tomamos o sistema de recomendação como exemplo:
Um sistema de recomendação é um sistema que recomenda itens ou ações com base em alguns critérios. Por exemplo, o Spotify usa seu histórico de audição e preferências para criar playlists personalizadas para você. Você pode pensar nisso como uma recomendação de música com base nas preferências de outras pessoas, que podem corresponder às suas.
O LLM pode fazer o mesmo, usando embeddings para medir a semelhança ou diferença entre duas informações, como uma pergunta e uma resposta. Mas se simplificarmos o LLM apenas até este ponto (gerar apenas incorporações), o sistema de recomendação será mais simples e poderá obter resultados mais precisos e exigir menos recursos.
Então, por que usamos o LLM para isso?
Encontrar a resposta mais precisa para qualquer pergunta e depois explicar por que ela é uma boa combinação é algo que um mecanismo de recomendação não pode fazer. A incorporação pode fazer o mesmo não apenas com texto, mas com qualquer fonte; de áudio a imagens. Os sistemas de recomendação requerem componentes adicionais para processar e rotular esses tipos de informações.
Então este é um caso especial. Precisamos de áudio e imagens para nossas recomendações? Portanto, antes de utilizá-lo, é necessário avaliar se o problema a ser resolvido requer todas as funções que o LLM pode fornecer, ou se o problema pode ser resolvido de forma mais tradicional. (Na verdade, basta adicionar alguns modelos aos áudios e imagens acima e o investimento é muito menor do que usar LLM)
Se apenas uma pequena parte da função do LLM for usada, então deve haver soluções melhores e mais tradicionais do que ele
Resumir
Os LLMs não são apenas um exagero, são na verdade uma técnica poderosa e versátil que pode atingir metas de negócios e aumentar a satisfação do cliente. Mas o LLM não é uma panaceia, especialmente quando a sua utilização requer planeamento, avaliação e otimização cuidadosos para garantir a sua eficácia e eficiência.
Se você pretende integrar o LLM ao seu negócio da maneira certa, lembre-se:
pessoas profissionais fazem coisas profissionais
https://avoid.overfit.cn/post/6280016cc99749aa827c8841e6e83da2