AIGC ayudará a los actores maliciosos a inventar contenido ilegal de manera más eficiente.
En 2022, el lanzamiento de ChatGPT trajo el término AIGC a la vista del público. AIGC que puede generar imágenes, como Stable Diffusion y MidJourney, detonó directamente el campo de la pintura de IA. Gartner enumera la IA generativa como una de las cinco tecnologías más impactantes para 2022.
Un gran número de AIGC corrieron el riesgo de ser cerrados en las primeras etapas de su lanzamiento. La razón principal es que la producción de contenido de los AIGC es incierta, lo que llevó a que se ordenara que estas plataformas se retiraran de los estantes por sospecha de difusión de contenido ilegal. Por lo tanto, el desarrollo de AIGC debe abordar la seguridad y regulación del contenido.
El 11 de abril, la Administración del Ciberespacio de China redactó las "Medidas administrativas para los servicios de inteligencia artificial generativa (borrador para comentarios)", lo que significa que el país ha estado prestando mucha atención al desarrollo de AIGC y apoya el uso comercial de AIGC en el premisa del cumplimiento legal y el sano desarrollo.
Revisión de entrada de contenido
Los usuarios ingresan mensajes de texto e imágenes originales a través de la aplicación AIGC;
la información de entrada original del usuario se revisa directamente;
de acuerdo con los resultados de la revisión: la información confidencial se intercepta directamente y la información normal ingresa al modelo grande AIGC.
Revisión de producción de contenido
El indicador normal ingresa al modelo grande y genera datos de IA (texto, imágenes, audio y video);
se revisan las imágenes generadas y los datos de texto;
De acuerdo con los resultados de la auditoría: los datos confidenciales se interceptan directamente, el contenido de texto normal se puede devolver directamente al usuario a través de la aplicación y las imágenes normales ingresan al COS de almacenamiento de objetos.
Auditoría de almacenamiento de contenido
Los datos de audio y video generados primero ingresan al COS de almacenamiento de objetos y luego se someten a una revisión asincrónica;
para las imágenes revisadas, los datos de audio y video almacenados en COS, se pueden devolver al usuario para acceder y verlos en forma de un enlace COS en la capa de aplicación.
Diferentes escenarios de datos utilizan diferentes estrategias:
- En el escenario de palabra de solicitud ingresada por el usuario: puede reducir adecuadamente los requisitos de revisión, de modo que el usuario pueda mantener la experiencia de entrada tanto como sea posible y enfocarse en interceptar contenido altamente confidencial;
- En el escenario de contenido generado por el modelo AIGC: Controle estrictamente y mejore los requisitos de revisión para garantizar que el contenido almacenado y distribuido sea legal y cumpla con los requisitos Además del contenido altamente confidencial, el contenido marginal y vulgar también debe estar dentro del alcance del control y interceptación.