Em termos de ataque: o ChatGPT tem a capacidade de gerar scripts e e-mails de phishing que podem ser usados em ataques de rede e também podem ser usados para descriptografar alguns dados criptografados que são mais fáceis de descriptografar. No entanto, a capacidade do ChatGPT ainda não pode alcançar ou exceder a de hackers reais com conhecimento e experiência profissional, e seu papel é principalmente melhorar a eficiência do ataque de hackers. Com o fortalecimento das políticas de segurança de conteúdo, o limite para o ChatGPT como uma arma de ataque para auxiliar ataques de rede também aumentará. Portanto, o impacto relevante ainda está em uma faixa controlável como um todo. No futuro, com o desenvolvimento da tecnologia de detecção de conteúdo gerada por IA e a evolução da própria estratégia de segurança de conteúdo do ChatGPT, os efeitos adversos do armamento do ChatGPT serão ainda mais compactados.
Em termos de segurança e privacidade: ataques de envenenamento, ataques de evasão, ataques de inferência, extração de modelo e outros ataques que os aplicativos de IA geralmente enfrentam ainda não tiveram casos de sucesso no ChatGPT. No entanto, o alto grau de "inteligência" do ChatGPT também leva ao seu próprio problema de segurança exclusivo: injeção imediata. Por meio da injeção de dicas, os usuários podem abusar do ChatGPT ignorando a política de segurança de conteúdo definida pelo OpenAI. No cenário de aplicação de programação auxiliar, a aplicação do ChatGPT também pode apresentar certos riscos de segurança. O código gerado pelo ChatGPT pode conter vulnerabilidades de segurança conhecidas que podem ser exploradas. Para empresas, embora os funcionários possam usar o ChatGPT para melhorar a eficiência em algumas tarefas até certo ponto, uma vez que o ChatGPT não usa meios técnicos para proteger a segurança dos dados do usuário e analisará a entrada do usuário, as informações confidenciais devem ser estritamente protegidas.
Impacto social: A saída de texto pelo ChatGPT depende do corpus de treinamento e sua distribuição de probabilidade. Portanto, o ChatGPT não possui moralidade e valores reais. Em algumas questões envolvendo valores e emoções, a saída de conteúdo do ChatGPT pode causar impacto social negativo. Para campos como educação e criação de conteúdo, o abuso do ChatGPT pode eventualmente levar a dinheiro ruim expulsando dinheiro bom. É necessário controlar e restringir o uso do ChatGPT em alguns cenários específicos através de meios técnicos.
Em termos de produtos de habilitação: ChatGPT pode promover significativamente a interação humano-computador de produtos de segurança de rede e pode ser usado para auxiliar na execução de algumas tarefas de segurança de rede. Embora ainda haja muitos desafios no processo de implementação do ChatGPT em produtos de segurança de rede.
Problemas de segurança são sempre um tópico interminável, e qualquer software e aplicativo existe.
Para algumas empresas que usam o chatgpt para gerar código, ouso dizer que há 100% de riscos de segurança. Depois de usado, todos sabem a perda.
Além disso, geralmente é impossível para as empresas nacionais investirem muita energia e custos em segurança, e elas encontrarão alguém para assumir a culpa se isso acontecer.