https://mp.weixin.qq.com/s/ZunCFquj73XhMBIo97gesg
By 超神经
我们就快到了「宁愿相信世上有鬼，也不相信 AI 的破嘴」的时代，人工智能又在 NLP 领域进化到了新的巅峰。La IA que es mejor que otras está aquí
Dé un comienzo y deje que la otra persona escriba la siguiente historia, que puede desconcertar a algunas personas Entonces, si se le da a la IA, ¿qué tan buenas pueden ser?
Hoy, OpenAI anunció un modelo de generación automática de texto que puede escribir artículos "realistas".
Dado el comienzo de forma artificial, este modelo de IA se puede complementar rápidamente en un manuscrito completo. En cuanto a la legibilidad y fluidez del texto, si no lo dice de antemano, es posible que no pueda adivinar que este es el trabajo de la IA.
Por ejemplo, déle el comienzo: los científicos han hecho un descubrimiento impactante de que un grupo de unicornios vive en un valle remoto y sin desarrollar en los Andes. Aún más sorprendente es que estos unicornios hablan un inglés perfecto.
Los artículos generados por este modelo de IA son los siguientes (parciales):
Estas criaturas tienen cuernos únicos, y los científicos las llamaron Unicornio de Ovidio. La criatura de color blanco plateado con cuatro cuernos no era conocida antes por la comunidad científica.
……
Aunque el origen de estas criaturas aún no está claro, algunas personas creen que nacieron de la intersección de una persona y un unicornio, cuando la civilización humana no existía. El profesor Pérez dijo: "En América del Sur, este fenómeno es muy común".
...
Si desea confirmar que son descendientes de la raza en desaparición, las pruebas de ADN pueden ser la única forma.
Además de poder escribir manuscritos falsos, también tiene la capacidad de leer comprensión, hacer preguntas y respuestas, generar resúmenes de artículos y traducir textos.
Traducción: del francés al inglés
Juego de datos: WMT-14 Fr-En
Oración original
Un hombre explicó que la operación gratuita que tuvo para tratar una hernia le permitiría volver a trabajar.
Artificial
Un hombre explicó que la cirugía de hernia gratuita que había recibido le permitirá volver a trabajar.
Traducción AI
Un hombre me dijo que la propina de la operación que le habían prometido no le permitiría viajar.
AI 模型 翻译 实例
Esta IA es un poco fuerte
Este modelo de IA se llama GPT-2 y es una "versión mejorada" de GPT. Lo cruel de esto es que utiliza más datos de entrenamiento esta vez, que es el mismo que el principio de la versión anterior, pero GPT-2 es una amplificación directa del modelo GPT. Entrena en más de 10 veces la cantidad de datos. La cantidad de parámetros también es 10 veces mayor.
Al analizar el texto de entrada, GPT-2 puede realizar funciones básicas de procesamiento de texto. Es bueno en tareas de modelado de lenguaje. La tarea es permitir que el programa prediga la capacidad de dar la siguiente palabra en la oración. Solo dale un título, y AI podrá escribir el resto del artículo perfectamente, incluso con citas y estadísticas falsas.
Algunas personas lo dicen así: "¿Quieres una historia corta? Simplemente dale la primera línea y obtendrás una historia inesperada y maravillosa. Si tienes las pistas adecuadas, incluso puede escribir una historia larga".
El objetivo de entrenar GPT-2 es simple: dadas las palabras anteriores en el texto, predecir las siguientes palabras y oraciones. La diversidad de conjuntos de datos de entrenamiento permite generar una gran cantidad de textos en diferentes campos.
Aunque no hay un lugar nuevo en la tecnología, las personas tienen entrenamiento a nivel mineral, razón por la cual se han creado nuevas herramientas a nivel de monstruo.
Los investigadores de OpenAI dijeron que GPT-2 ha logrado excelentes puntajes en las pruebas de modelado de lenguaje en varios conjuntos de datos específicos de dominio. Como modelo que no ha sido entrenado específicamente en ningún dato de campo, su desempeño es mejor que los modelos especialmente construidos.
¿La era del auge de la PNL?
El modelo de lenguaje BERT lanzado por Google hace unos meses ha despertado una gran atención en la industria, ha estado actualizando constantemente la pantalla en un período de tiempo y su volumen de 300 millones de parámetros actualizó 11 registros. Está lleno de elogios. Pero GPT-2 lanzado por OpenAI esta vez es aún más terrible: ha alcanzado los 1.500 millones de parámetros.
En comparación con los modelos de inteligencia artificial más avanzados anteriores, el modelo GPT2 es "12 veces más grande, el conjunto de datos es 15 veces más grande y el alcance es más amplio". Se entrenó en un conjunto de datos de aproximadamente 10 millones de artículos, seleccionados a través de enlaces de noticias con más de 3 votos en Reddit. ¡Los datos de texto entrenados son de hasta 40 GB!
Antes del NLP (procesamiento del lenguaje natural) del baño de sangre BERT, varios indicadores principales, el GTP de OpenAI se encontraba entre los maestros de primera clase, y el nuevo GPT-2 llevó directamente este campo a nuevas alturas a través de datos de entrenamiento masivos. .
Con BERT y GPT-2, el camino de la PNL definitivamente estará en auge. En cuanto a cómo beneficiar mejor a la humanidad, este sigue siendo un tema prudente.
Ani Kembhavi, investigadora del Instituto Allen de Inteligencia Artificial, dijo que una de las razones para estar entusiasmado con GPT-2 es que el texto predictivo puede considerarse una "súper tarea" de una computadora. Una vez que se resuelva este desafío, se abrirá la puerta a la sabiduría.
¿Será la caja de Pandora?
Desafortunadamente, aún no se puede anunciar una herramienta tan poderosa. La consideración detrás de esto son los peligros ocultos que puede traer, como generar noticias falsas, comentarios maliciosos, spam, etc. Estas armas se utilizan de forma ilegal y las consecuencias también son catastróficas.
Por este aspecto, los desarrolladores también están preocupados. Los investigadores de OpenAI dijeron que no pueden predecir lo que traerá. Todavía están explorando. Por diversas razones, son muy cautelosos con el contenido compartido por el proyecto y actualmente no revelan el código básico principal ni los datos de entrenamiento.
Señalaron que otro motivo de precaución es que si alguien proporciona textos de GPT-2 sobre racismo, violencia, misoginia o abuso, se creará una situación muy peligrosa. Después de todo, se basa en la formación en Internet.
No se puede negar que esta tecnología traerá cambios tremendos, pero cualquier herramienta en manos de malos actores traerá consecuencias catastróficas.
Además, dado que el texto escrito por GPT-2 se generó recientemente, no hay problema de copiar y pegar, y es más difícil de encontrar y solucionar problemas con los métodos de detección anteriores, lo que será una amenaza potencial.
Entonces, aquí viene la pregunta clave, ¿este artículo está escrito por AI?
