Recientemente, el modelo base chino LLaMA-2 y el modelo grande perfeccionado del comando Alpaca-2 basado en el modelo grande llama2 lanzado por Meta han sido de código abierto en China.
Admite varios métodos de deducción, incluidos llama.cpp, text-generation-webui, etc. La introducción es la siguiente:
Dado que hemos creado un entorno webui de generación de texto antes, si no sabe cómo crearlo, puede consultar mis imágenes y textos anteriores sobre cómo usar varios LLM de manera elegante , así que esta vez elegí usar este entorno. para ejecutar este modelo llama-2. Primero, descargamos a través del disco de red, el enlace es el siguiente:
https://pan.baidu.com/s/1E5NI3nlQpx1j8z3eIzbIlg?pwd=n8k3
Después de la descarga, coloque el modelo en la carpeta de modelos, luego active el entorno virtual, inicie server.py y luego abra http://127.0.0.1:7860 con un navegador.
Luego seleccionamos el modelo en la pestaña de modelos, opción desplegable de modelo y hacemos clic en cargar. Si no hay suficiente memoria de video, puede seleccionar el tamaño de la memoria de video a través de la barra de progreso a continuación.
Después de una importación exitosa
Ingresamos a la pestaña de generación de texto. Este modelo es un modo de continuación de texto. Cuando ingresamos la palabra de aviso y hacemos clic en generar, continuará de acuerdo con nuestra palabra de aviso. Hasta ahora todo está bien.
El punto clave llega cuando entramos en el aviso: se acerca la primavera
La modelo en realidad hizo publicidad directa, jaja, le pregunté a quién más, ¿cómo afrontaría esta situación? Pero esto también nos da nuevas ideas.
Si los modelos grandes posteriores no tienen un límite inferior y todos los datos de capacitación se reemplazan directamente con artículos blandos de publicidad y promoción, esto se puede utilizar como una plataforma de inteligencia artificial para promocionar productos e incluso puede generar un determinado artículo blando del Libro Rojo con un solo clic, y el efecto será absolutamente explosivo.
Hermanos, la oportunidad de hacer una fortuna está aquí. Todo lo que necesitan es una gran cantidad de artículos publicitarios, y luego alquilar un servidor, y el negocio puede iniciarse. Además, el modelo se puede actualizar continuamente, los anuncios continuarán. y el dinero seguirá.