26 декабря 2023 г. Китайская академия информационных и коммуникационных технологий (именуемая «CAICT») опубликовала «Отчет об исследовании этического управления искусственным интеллектом (2023 г.)» на «Углубленном курсе ИКТ Китайской академии информационных и коммуникационных технологий 2024 г.». Отчет о наблюдениях» Подфорум по управлению этикой науки и технологий.)》.
На основе обобщения соответствующих концепций и характеристик этического управления искусственным интеллектом в отчете анализируются этические риски трех типичных сценариев применения контента, генерируемого искусственным интеллектом, автономного вождения и умного медицинского обслуживания, а также сочетаются практики этического управления искусственным интеллектом. управление в стране и за рубежом, чтобы предложить искусственный интеллект. Четыре точки зрения на этическое управление с целью предоставить основу для более обширных и углубленных дискуссий.
Основные идеи отчета
1. Проблемы этического риска искусственного интеллекта требуют срочного внимания.
В настоящее время этические проблемы, вызванные искусственным интеллектом, превратились из теоретических дискуссий в реальные риски. На этапе технологических исследований и разработок, поскольку основная часть разработки технологий искусственного интеллекта все еще не имеет достаточных технических возможностей и методов управления в области сбора и использования данных, разработки алгоритмов, настройки модели и т. д., предвзятости и дискриминации, утечки конфиденциальной информации, дезинформации, необъяснимости. и могут возникнуть другие этические проблемы. На этапах разработки и применения продуктов конкретные области, на которые нацелены продукты искусственного интеллекта, а также объем развертывания и применения систем искусственного интеллекта будут влиять на степень этических рисков искусственного интеллекта и могут привести к этическим рискам, таким как неправильное использование, злоупотребление, чрезмерная зависимость и влияние на образование и занятость. Для типичных сценариев применения, таких как контент, генерируемый искусственным интеллектом, автономное вождение и интеллектуальная медицинская помощь, необходимо оценить основные риски на основе частоты возникновения риска, масштаба воздействия и степени воздействия.
2. Этическое управление искусственным интеллектом — эффективный механизм борьбы с рисками, связанными с искусственным интеллектом.
Этическое управление искусственным интеллектом является важной частью управления искусственным интеллектом и основным механизмом решения проблем, связанных с рисками искусственного интеллекта. Этическое управление искусственным интеллектом принимает в качестве основного содержания ориентированность на людей, справедливость и недискриминацию, прозрачность и объяснимость, человеческий контроль, отслеживаемость обязанностей и устойчивое развитие и, основываясь на разработке и применении технологий искусственного интеллекта, оперативно предлагает корректировки отношения между людьми и искусственным интеллектом и способы борьбы с рисками искусственного интеллекта.
3. Страны активно продвигают этическое управление искусственным интеллектом.
Чтобы справиться с рисками, связанными с применением технологий искусственного интеллекта, страны всего мира активно развивают сотрудничество в международном управлении этикой искусственного интеллекта. Правительства различных стран усилили надзор за этическим управлением искусственным интеллектом в своих странах и регионах, провозгласив этические принципы искусственного интеллекта, издав руководящие принципы этического управления искусственным интеллектом и предоставив инструменты технического управления. Моя страна способствует развитию искусственного интеллекта во благо, активно совершенствуя этическую систему и нормы искусственного интеллекта, изучая технические, инженерные и стандартизированные меры по внедрению этического управления искусственным интеллектом, направляя самодисциплину отрасли и укрепляя международное сотрудничество в области искусственного интеллекта. разведывательное управление.
4. Четыре точки зрения на этическое управление искусственным интеллектом
Что касается концепций управления, мы придерживаемся единства продвижения инноваций и предотвращения рисков, а также координации развития и безопасности. Что касается мер управления, мы будем совершенствовать междисциплинарное и многосубъектное сотрудничество, изучать классифицированное и иерархическое управление, а также способствовать развитию инструментов технологий управления. В плане наращивания потенциала следует уделять внимание повышению научно-технической этической грамотности научных исследователей, разработчиков, общественности и других субъектов. Что касается открытого сотрудничества, мы активно участвуем в глобальном сотрудничестве по этическому управлению искусственным интеллектом и продвигаем технологии искусственного интеллекта на благо человечества.
Полный адрес отчета: http://www.caict.ac.cn/kxyj/qwfb/ztbg/202312/t20231226_468983.htm .