Fuente | El corazón de la máquina
Autor | Chen Ping
¡Ahora el modelo de lenguaje grande (LLM) está conectado con Jupyter!
Esto se debe en gran parte a un proyecto llamado Jupyter AI, que es un subproyecto del Proyecto Jupyter con apoyo oficial. En la actualidad, el proyecto es completamente de código abierto y los modelos conectados provienen principalmente de las principales empresas e instituciones estrella como AI21, Anthropic, AWS, Cohere y OpenAI.
Portal de prueba de investigación de modelo grande
Portal GPT-4 (sin pared, se puede probar directamente, si encuentra un punto de advertencia del navegador avanzado/continúe visitando): ¡
Hola, GPT4!
Con la bendición del modelo grande, las funciones de Jupyter también han sufrido grandes cambios. Ahora puede generar código, resumir documentación, crear comentarios, corregir errores y más dentro de ese entorno. Incluso puede generar cuadernos usando indicaciones de texto.
El proceso de instalación de Jupyter AI también es muy sencillo, el código de instalación es el siguiente:
pip install 'jupyter-ai>=1.0,<2.0' # If you use JupyterLab 3
pip install jupyter-ai # If you use JupyterLab 4
Además, Jupyter AI proporciona dos interfaces diferentes para interactuar con LLM. En JupyterLab, puede usar la interfaz de chat para hablar con el LLM para ayudar con el código. Además, en cualquier entorno que admita notebooks o IPython, incluidos JupyterLab, Notebook, IPython, Colab y Visual Studio Code, puede invocar LLM mediante el comando mágico %%ai.
Jupyter bajo la bendición de grandes modelos.
A continuación, veamos cómo funciona.
asistente de programación
La interfaz de chat de Jupyter se muestra en la siguiente figura y los usuarios pueden tener una conversación con Jupyternaut (asistente de programación). En la barra de funciones de Jupyternaut, podemos ver una oración como "Hola a todos, soy Jupyternaut, su asistente de programación. Puede usar el cuadro de texto para hacerme preguntas, o puede usar los comandos para hacerme preguntas".
A continuación, el usuario le hizo una pregunta a Jupyternaut: "En Python, ¿cuál es la diferencia entre una tupla y una lista?" Jupyternaut dio la diferencia clave entre los dos, y la respuesta fue muy correcta, y finalmente dio un ejemplo:
Si hay una parte del código que no entiende muy bien, puede seleccionar esta parte del código y usarla como mensaje, y luego pedirle a Jupyternaut que explique el código. Además, Jupyternaut también puede modificar el código. , identificar errores de código, etc.
Si no está satisfecho con el código, también puede pedirle a Jupyternaut que vuelva a escribir el código según sea necesario:
Después de volver a escribir el código, Jupyternaut volverá a enviar el código al modelo de idioma seleccionado por el usuario para su reemplazo:
Generar libreta a partir de mensaje de texto
La interfaz de chat de Jupyter AI puede generar un cuaderno completo basado en un mensaje de texto. Para lograr esto, el usuario necesita ejecutar el comando "/generar", además de una descripción de texto.
Después de que Jupyternaut genera el cuaderno, envía al usuario un mensaje con el nombre del archivo, que el usuario puede abrir para verlo:
acceder a archivos locales
Puede usar el comando "/ aprender" para decirle a Jupyternaut que aprenda sobre los archivos locales y luego usar el comando "/ preguntar" para hacer preguntas sobre los archivos locales. Por ejemplo, con el comando "/aprender", puede indicarle a Jupyteranaut que aprenda sobre la documentación de Jupyter AI:
Una vez que Jupyternaut haya terminado, puede usar el comando "/ask" para hacer preguntas:
funcion magica
Jupyter AI también proporciona comandos %%ai que se pueden ejecutar en celdas de portátiles y la interfaz de línea de comandos de IPython Cada comando %%ai requiere un modelo, generalmente especificado como ID de proveedor: ID de modelo:
Otro investigador experimentó el comando mágico %%ai para llamar a ChatGPT:
Además, puede personalizar el formato de la salida, incluidos HTML, matemáticas, código fuente e imágenes, utilizando el parámetro -f o --format, que es útil para investigadores y educadores.
Después de algunas demostraciones, Jupyter con la bendición de un modelo grande es mucho más conveniente. Amigos que quieran probar, pueden ir y probar.
