0x00背景
0x01 概述
人工智能（Artificial Intelligence，简称AI），阿尔法狗对战中国的围棋高手，结果阿尔法狗的AI进入人民的视野，哇哇，人工智能来临了。我们看到了很多人工智能的应用（智能电话营销：打电话给你的是机器人，回复你的也是机器人，陪你聊天的也是机器人；各种在线客服机器人：你问啥，她回答啥，还挺真实的，不过还是偶尔傻逼一下等到）。
0x02 技术架构
0x03 人工智能安全风险分析与内涵
1、新的攻击威胁：
攻击方法：对抗样本的攻击、数据投毒、模型窃取、人工智能系统攻击
攻击影响：模型的训练、测试和推断过程中均可能遭受攻击；危害数据和模型的机密性、完整性和可用性。
2、人工智能安全隐患
①算法模型安全隐患：算法是人写的，模型也是人写的，都可能有缺陷，有歧视，有黑箱操作的可能。
②数据安全与隐私保护隐患：采集数据、使用数据、存储数据都不同程度的滥用泄露。
③基础设施安全隐患：简单理解，人工智能也得依赖数据库、操作系统、代码。这些就是基础设施，一旦这些基础被黑客控制了，数据就被泄露了。
④应用安全隐患：自动驾驶（黑客远程入侵控制导致撞车）、生物特征识别（小学生用照片成功忽悠人脸识别）、智能音箱等等。
⑤人工智能滥用：利用语音合成技术假扮受害人亲属实施诈骗、人工智能技术破解登录验证码的效果越来越好、且难以防范、利用人工智能技术模仿人类，如换脸、手写伪造、人声伪造、聊天机器人。
3、安全影响：
国家安全影响：人工智能可用于构建新型军事打击力量，对国防安全造成威胁。
社会伦理挑战：智能人工机器人替代人，造成大量失业；人们不去恋爱了，就和机器人恋爱。
人身安全风险：抽象
0x04 人工智能安全标准体系
0x05 人工智能相关安全标准
0x06 人工智能实践
B.1 百度人工智能安全实践：整体解决方案——AdvBox，对抗样本的增强。
B.2 猎户星空人工智能安全实践：豹小秘、豹花瓶等产品，严格按照各种技术要求进行平台建设。
B.3 清华大学人工智能安全实践：人工智能对抗性攻防，RealSafe是开源标准程序库，业界可以免费对其进行非商业用途使用
B.4 依图人工智能安全应用实践：典型人工智能安全问题，依图提出了人工智能系统安全技术的相关要求与解决方案。依图将人工智能系统分为了设备要素和网络要素两大要素的安全
B.5 IBM人工智能安全实践：人工智能三原则，人工智能公平360工具箱”（AIF360）；AIF360可帮助检测、缓解或消除机器学习模型中的偏见
B.6 深信服人工智能安全实践：深信服安全云脑具备威胁情报和未知威胁检测能力
B.7 360 人工智能安全实践：360通过基于人工智能分析的360“安全大脑”，打造智能交通安全动态防御体系，全面保障智能交通安全
B.8 阿里巴巴人工智能安全实践：实人认证、问答型对抗验证码
B.9 华为人工智能安全实践：华为结合人工智能技术提出了防偷窥和用户隐私保护的解决方案。手机利用人工智能技术可以检测到是否存在机主/非机主、多人注视屏幕的情况，当手机识别出有陌生人或多人注视屏幕时，会将手机屏幕显示的私密信息自动
隐藏，以便保护用户的隐私信息
此笔记是原创，但相关图表、分析、结论的版权来源：全国信息安全标准化技术委员会大数据安全标准特别工作组
