"Observación de la conferencia Coremail RSAC: AI es tanto una lanza como un escudo en el campo de la seguridad del correo electrónico"
La conferencia RSAC 2023, un gran evento en la comunidad global de seguridad cibernética, se llevó a cabo en San Francisco, EE. UU., del 24 al 27 de abril, hora local. El tema de la conferencia fue "Juntos más fuertes". concurso, conferencias magistrales sobre tecnología de seguridad, etc. El cofundador de Coremail y actual vicepresidente de CTO, Lin Yanzhong, y el arquitecto jefe de productos de correo de Coremail, Chen Yingtang, asistieron a la reunión.
En su decimoctavo año, RSAC Innovation Sandbox Competition es la plataforma líder para que las nuevas empresas muestren tecnologías innovadoras con el potencial de transformar la industria de la ciberseguridad. Sin embargo, la competencia de sandbox de innovación de este año sigue siendo muy feroz. Al final, HiddenLayer, una empresa de seguridad de aplicaciones de inteligencia artificial, ganó el título de "Empresa emergente más innovadora".
Se puede ver que la aplicación de la IA en el campo de la seguridad también se ha convertido en un tema candente en esta conferencia. En la ceremonia de apertura de la conferencia, Rohit Ghai, CEO de RSA, también se centró en las oportunidades y desafíos que trae la inteligencia artificial a la seguridad de la red.
"Cada ola de nueva tecnología es más grande, más rápida y más disruptiva que la anterior, y esta no es una excepción".
Ghai enfatizó que la era de la inteligencia artificial está aquí y que las organizaciones de ciberseguridad deben aprovechar el poder de la IA. A medida que la tecnología de inteligencia artificial penetra gradualmente en los productos y soluciones de seguridad de la red, podemos esperar más chispas de la colisión entre la seguridad y la IA. Pero al mismo tiempo, Ghai también mencionó que el otro lado del robot "Buena IA" es "Mala IA".
Es cierto que en la confrontación ofensiva y defensiva, los proveedores de seguridad utilizarán la tecnología de IA para la defensa, y el software de inteligencia artificial como ChatGPT también puede convertirse en el arma de ataque de un hacker, haciendo que el phishing sea más difícil de resistir. Entonces, ¿qué cambios traerá la inteligencia artificial a la industria de la seguridad del correo electrónico?
Pan Qingfeng (en lo sucesivo, "gran P"), arquitecto jefe del laboratorio de inteligencia artificial de seguridad de correo electrónico de Coremail, habló en profundidad sobre el tema "el impacto de la tecnología de inteligencia artificial actual en la seguridad del correo electrónico".
1. El impacto de la tecnología de inteligencia artificial actual en la confrontación de la seguridad del correo electrónico
La aparición de ChatGPT y GPT-4 ha dejado a todos asombrados de que el modelo actual de aprendizaje profundo haya alcanzado un nivel tan alto.
Big P cree que, de hecho, ChatGPT ha completado dos tareas, es decir, tareas de análisis semántico y generación de texto .
En primer lugar, si se compara el modelo ChatGPT con un laberinto espacial de alta dimensión entrenado por una gran cantidad de datos, al leer cada carácter para determinar el siguiente paso, finalmente podemos llegar a una determinada posición en el laberinto.
Cerca de esta posición se encuentra el espacio de respuesta más probable. A partir de esta posición, la respuesta se genera palabra por palabra de acuerdo con la ruta más probable, que es la respuesta de ChatGPT que vemos.
Por lo tanto, la parte del análisis semántico de la pregunta es la base del algoritmo antispam de Coremail para la clasificación de texto.
Big P cree que la tecnología de procesamiento de lenguaje natural está a punto de entrar en un período de explosión de aplicaciones y se aplicará principalmente en tres aspectos en la industria del sistema de correo.
Primero, a nivel de usuario , el asistente de correo utiliza IA para generar automáticamente respuestas o redactar borradores, e incluso puede ayudar a escribir programas lógicos simples, que pueden verificarse manualmente para mejorar la eficiencia del trabajo.
En segundo lugar, a nivel comercial de la empresa , la tecnología AI puede leer una gran cantidad de documentos de la empresa y generar un sistema de servicio al cliente.En comparación con la respuesta mecánica actual, la calidad de las preguntas de respuesta posteriores mejorará considerablemente.
En tercer lugar, para los remitentes de spam , la tecnología de IA puede usarse para producir una gran cantidad de textos de spam, con diferentes formas y contenido pero el mismo contenido, y el volumen de spam enviado y recibido puede aumentar rápidamente.
2. La IA es a la vez una lanza y un escudo
ChatGPT se usa a menudo para desarrollar ransomware y correos electrónicos de phishing. Este es un hecho inmutable, pero Big P enfatiza que cada tecnología se puede usar para ofensa o defensa, y no hay necesidad de preocuparse demasiado por la tecnología de aprendizaje profundo de AI. el sistema de reconocimiento de spam falla.
Big P analizó tres razones: primero, generar una gran cantidad de texto basura requiere una cantidad mucho mayor de cómputo que la clasificación de texto, y es difícil para los grupos de producción negros ordinarios brindar este nivel de soporte de poder de cómputo.
En segundo lugar, teniendo en cuenta la legibilidad y la lógica del texto generado, dicho texto debe contener muchas palabras direccionales, y las posiciones de los textos con partes del discurso similares en el espacio de alta dimensión son similares, lo que significa que el uso de la clasificación de texto para antispam No habrá demasiados cambios.
Finalmente, el algoritmo antispam no es simplemente un problema de clasificación de texto, sino que también puede ser juzgado por varias características, como el historial de envío de cartas, el comportamiento de envío de cartas y la fuente de envío de cartas.
Las pandillas de producción negra están felices de usar IA para generar textos de spam, por lo que para el defensor, también podemos usar tecnología de aprendizaje profundo para generar dinámicamente contenido de spam, que puede usarse como un compañero de entrenamiento para el sistema antispam.
3. El desarrollo de la tecnología Coremail AI pasado y presente
Big P también presentó el historial de desarrollo de la tecnología Coremail AI, mostrando los diferentes períodos de desarrollo de Coremail en AI, utilizando AI para mejorar la capacidad antispam de la seguridad del correo electrónico de Coremail.
Desde que Coremail desarrolló el primer sistema de correo en 1999, ha comenzado a realizar investigaciones sobre tecnología antispam. Con el desarrollo de la tecnología de inteligencia artificial, ha experimentado el "período de germinación de algoritmo inteligente (alrededor de 2000)" y el "período de desarrollo de algoritmo inteligente " . de aplicaciones de seguridad de correo electrónico (alrededor de 2010)", marcó el comienzo del " período de aplicación a gran escala (2020-presente)".
Actualmente, Coremail Email Security AI Lab (Email Security AI Lab) realiza recopilación inteligente, identificación, almacenamiento, retroalimentación, capacitación de autoaprendizaje y capacidades mejoradas de modelo de algoritmo de muestras de correo electrónico basadas en los datos masivos de alta calidad acumulados continuamente por Email Security Big Centro de datos El circuito cerrado, optimiza continuamente el motor central y mantiene la mejora constante de la calidad antispam.
En el futuro, Coremail AI LAB se adherirá al principio a largo plazo, aumentará la inversión en computación en la nube, inteligencia artificial e investigación de big data, e implementará los resultados en la serie de productos y servicios de seguridad de correo electrónico de Coremail, aplicándolos a negocios reales. Escenarios y promover el desarrollo industrial general de seguridad de correo electrónico .
Descargo de responsabilidad: este artículo proviene de Coremail y los derechos de autor pertenecen al autor. El contenido del artículo solo representa la opinión independiente del autor, no la posición de Coremail . El propósito de la reimpresión es transmitir más información. En caso de infracción, póngase en contacto con nosotros .