8 Проверка достоверности этических и моральных рисков системы ИИ

Достоверность в основном предназначена для оценки степени доверия пользователей или других заинтересованных сторон к системе ИИ. «ISO / IEC TR 24028: 2020 Обзор надежности в искусственном интеллекте» дает четкое определение надежности: «Способность оправдать ожидания заинтересованных сторон системы проверяемым образом». соответствие ожидаемым возможностям поддающимся проверке образом». С точки зрения инженерии качества, соответствие системы ожидаемым возможностям в основном является проверкой соответствия характеристикам качества, которые включают в себя функциональность, эффективность работы, совместимость, простоту использования, надежность, информационная безопасность, ремонтопригодность и переносимость. Однако для системы ИИ существует дополнительное ограничение «проверяемый способ», которое предусматривает, что помимо удовлетворения ожиданий заинтересованных сторон системы, система ИИ также должна гарантировать, что возможности, предоставляемые ИИ, система для заинтересованных сторон может быть проверена, иметь средства проверки и может доказать, соответствует ли результат ожиданиям. Для проверки благонадежности трудно иметь объективный и справедливый стандарт для измерения, поэтому рекомендуется проводить всестороннюю оценку по нескольким аспектам проверки благонадежности. Прежде всего, на этапе тестирования системы ИИ инженеры-испытатели проверяют различные компоненты системы, чтобы обеспечить функциональную целостность, безопасность, надежность и другие качественные характеристики каждого компонента, а также улучшают систему посредством интеграционного тестирования, не - функциональное тестирование и тестирование безопасности.Во-вторых, на этапах альфа-тестирования и бета-тестирования этапа приемочного тестирования провести некоторые опросы тестирующего персонала с помощью анкет, интервью и т. д., а также собрать мнения тестового персонала о тестируемой системе ИИ с помощью некоторых объективные вопросы.Степень доверия;опять же, после того, как система выйдет в онлайн, постоянно собирайте отзывы пользователей о системе ИИ, чтобы оценить надежность системы в реальном использовании. Например, отзывы и мнения пользователей могут быть собраны с помощью опросов пользователей и тестов пользовательского опыта, чтобы повысить надежность системы.
Что касается управления и ограничений внутри команды, необходимо сформулировать нормы и системы для надежности системы ИИ, а также установить систему надзора и подотчетности, чтобы ограничивать дизайнеров, разработчиков, тестировщиков и операторов. система ИИ.Проверка должна быть непрерывным процессом, а не разовым мероприятием.Должны быть сформулированы долгосрочные механизмы, такие как анкетирование с фиксированным циклом и самооценка тестировщиками после проверки, чтобы постоянно оценивать и повышать надежность системы ИИ. При составлении популярных анкет пользователей, анкет самооценки тестировщиков и т.п.