O viés do sistema de IA também inclui algum feedback tendencioso injusto, que se refere principalmente ao sistema de IA que fornece algum feedback impreciso, que possui viés óbvio e características injustas. A maior parte desse viés é causada pelo viés do conjunto de dados de treinamento. Além disso, pode ser afetado por vários motivos, como fatores de teste e avaliação, fatores humanos etc. Portanto, o viés pode ser dividido em viés do conjunto de dados, teste e avaliar viés e viés de fatores humanos.
-
Viés do conjunto de dados: esse viés ocorre devido à presença de dados desbalanceados ou incompletos no conjunto de dados. Isso pode levar a modelos que funcionam bem em algumas situações, mas mal em outras. Por exemplo, no processo de alguns textos de reconhecimento de fala, o treinamento do idioma mandarim é usado, portanto, muitos julgamentos de dialeto não serão precisos.
-
Viés de teste e avaliação: esse viés ocorre devido a falhas no processo de teste e avaliação. Por exemplo, os dados de teste podem não corresponder aos cenários de aplicação reais ou os critérios de avaliação podem ser subjetivos.
-
Viés de fatores humanos: esse viés se deve a fatores como comportamento humano, atitudes ou crenças. Por exemplo, os sistemas de contratação podem ser influenciados pelas preferências pessoais dos gerentes de contratação, levando à discriminação contra certos candidatos.
Quando um sistema de IA processa dados, gera saída ou toma uma decisão, pode fornecer feedback tendencioso. Percebe-se que o viés do sistema de IA causará desvios no feedback do sistema de IA, dando assim um feedback injusto e discriminatório na tomada de decisão. Esses feedbacks afetarão diretamente a sociedade e causarão impactos negativos, principalmente como o sistema de IA adquire gradualmente Depois que as pessoas ganham confiança, depois que a vida e o trabalho humanos são excessivamente dependentes dos sistemas de IA, esse feedback colocará ainda mais em risco a segurança pública. No processo de projetar casos de teste considerando o risco de viés de design, você pode consultar as cinco direções do método de análise STEEP para pensar sobre os problemas. Ecológico), ambiente político-legal (político-legal), é principalmente pelo desenho externo influenciam cinco fatores ambientais