源来Intel——开放原子全球峰会

Intel的开源之路

企业的开源需要与核心业务相联系，否则是不可持续的——Intel副总裁：Arun Gupta。
Intel副总裁Arun 在开放原子全球峰会向大家介绍了Intel的开源理念和方向。作为开源领域的老将，Intel已经有了将近半个世纪的开源历史。

英特尔的开源历史可以追溯到 20 世纪 80 年代初期。当时，英特尔开始开发个人电脑处理器，并采取开放源代码的形式发布其微处理器（8086）的源代码。这是业界首次发布处理器源代码，这份源代码被分享给了全球的计算机科学家和工程师，帮助他们更好地了解处理器的工作原理，促进了处理器技术的发展。

英特尔此举引起了业界的广泛关注和好评。因为英特尔在处理器技术方面一直处于领先地位，其开放源代码的行为，为其他厂商和开发者提供了非常好的学习和借鉴的机会，并使得英特尔与其他厂商和开发者建立了信任关系，促进了行业的发展和进步。这不仅表明了英特尔对开源技术的支持和认可，也为其他厂商树立了良好的榜样，对开源社区的发展起到了很好的推动作用。

随着时间的推移，英特尔依然坚持为开源技术做贡献。其中最著名的事件应数英特尔对中断处理程序 (IRQ) 的支持和优化。Linux kernel 的中断处理程序是操作系统内核中最为重要的部分之一，负责处理各种硬件设备的请求。在过去，Linux kernel 的中断处理程序一直是性能瓶颈之一，因为英特尔的处理器不支持中断向量表 (IRQ Table)。为了解决这个问题，英特尔与 Linux 社区合作，开发出了 IRQ Table，使得处理器可以更好地管理中断请求。

这项技术在 2005 年被引入到 Linux kernel 中，被认为是 Linux kernel 性能提升的关键之一。除此之外，英特尔还在 Linux kernel 中参与了许多其他重要的项目，以及在内存管理、虚拟内存、驱动程序等方面为 Linux kernel 提供了重要的支持。

此外，英特尔一直践行开源开放的理念，积极推动全球开源社区建设，如今英特尔全球有 19000 名软件工程师参与了 100 多个开源项目，贡献、管理、维护着 300 多个社区。在 Linux Kernel 和 Kubernetes 等重要领域也是杰出的贡献者。英特尔在开源社区中的角色和影响力也不断扩大，成为开源社区中的重要贡献者之一。

20 世纪 90 年代起，我国电信行业开始快速发展，英特尔从那时候就开始积极参与中国的开源社区。其中，2001 年在中国设立开源技术中心，是英特尔在中国开源道路上的一个重要开端。

在中国设立开源技术中心之后，带来的第一个开源项目就是电信级Linux CGL（Carrier Grade Linux）。CGL是由开放源代码发展实验室 (OSDL：Open Source Development Lab) 发起的、专门针对电信级服务的 Linux。CGL 在标准 Linux 的基础上,增加了一组为适应电信运营环境而设计的特性，承诺遵守 LSB 标准，保持 Linux 版本的一致性，并遵守开放源码的许可协议和开放源码的开发流程。CGL 成为电信行业的一个标准，一直沿用至今。

更重要的是，英特尔希望以此为基础为中国的开源社区提供技术支持和服务，共同推动开源技术的进步和发展。这不仅表明了其对开源技术的支持和认可，同时也为中国的开源社区提供了更多的资源和机会，以及为英特尔在中国的发展和合作奠定了坚实的基础。

此后的 20 年间，英特尔不断积极参与各种开源贡献，并在各大开源社区中扮演中重要角色。开源项目也逐步涵盖 Linux 内核、虚拟化、安卓、编译、云原生、网络、存储、大数据、AI、Web 技术等诸多领域。今年 2 月，英特尔再次对开源领域“加码”，正式成立英特尔中国开源技术委员会，委员会的英特尔开源软件专家、产品技术负责人和社区运营专家，将最大程度整合内部资源，利用英特尔最新技术和生态资源，更加深入地与中国的开放生态融合，更专业高效地服务中国开发者，推动开源生态建设和产业发展。

AI领域

张宇博士详细的介绍了Intel在边缘计算的人工智能产品创新。张宇博士是英特尔公司高级首席 AI 工程师、网络与边缘事业部中国区首席技术官、边缘计算产业联盟测试床工作组主席。

边缘人工智能在中国的发展趋势

我们常常说的调侃的一句话：“美国人在创新、中国人在应用、欧洲人在立法！”玩笑归玩笑，但也能看出AI在我国受重视的程度。边缘人工智能在应用领域充当着非常重要的角色。
应用方向有：
1、扩大医疗服务覆盖范围，提升医疗服务水平。
2、建设更安全、更有弹性的社区
3、应对气候变化
4、通过自动化提高效率
5、提供近实时的商业洞察
6、VR实现沉浸式购物体验
Inter的边缘计算不仅涵盖边缘推理，还包括边缘训练和边缘AutoML。

边缘人工智能领域的挑战

然而，向边缘人工智能的转变并非易事，存在诸多的挑战，主要有以下几个方面：
1、资源有限，需要提高人工智能应用性能，同时降低功耗和成本
2、缺少专业知识和培训
3、难以在应用运行时保护数据和模型
4、在多样化的硬件平台上部署人工智能
5、训练数据有限
6、缺少针对不同工作负载的

生态系统解决方案

英特尔提供一个完整的人工智能生态系统。合作伙伴和最终客户可使用我们的硬软件产品，共同开发出卓越解决方案，助力行业、公司和社区取得出色成效。

OpenVINO工具套件可以在普通的CPU和集成显卡上实现推理的加速。我使用轻薄笔记本就可以实现AI绘画，LLaMa等大模型的推理。

英特尔针对边缘人工智能的产品

Intel提供了丰富的人工智能产品，通过对不同的产品组合来满足各种场景的需求。
Intel Xeon：实时，中等吞吐量、低时延稀疏推理 在所有工作负载中具有出色 TCO；小规模训练和调优；用作头节点，
Intel GPU：实时密集视频与推理、吞吐量和离线推理、云游戏和媒体转码；HPC 和人工智能训练
Intel Xeon+Intel GPU：边缘人工智能推理
Intel Xeon+Intel ARC：终端人工智能推理，有效满足终端在性能、时延和能耗方面的需求；有效满足边缘性能、时延和能耗方面的需求

Intel habana：面向大规模工作负载的专用深度学习训练和推理

除了上面的产品，还有面向所有用户的强大人工智能解决方案：英特尔® Geti™。从数据输入到优化和模型导出，英特尔® Geti™ 商用软件平台可以帮助团队更高效地创建视觉人工智能模型 — geti.intel.com

英特尔® Geti™ 1.5.0 新特性：
▪ 扩展的标注功能：重复利用标注，轻松浏览和标注视频数
据
▪ 增强的可用性和性能：显著改进模型训练和推理性能，
英特尔® Geti™ SDK 现通过 PyPI 提供
▪ 更灵活的部署：在 OpenVINO™ Model Server 中运行导
出的模型，全新的 ONNX 格式和 FP16 量化

提到开源，不得不提OpenViNO工具，通过优化实现出色的人工智能推理性能。轻松地实现“一次编写，随处部署”— www.openvino.ai

新版特性：
▪ 更强大的自动优化功能：“目标能效核模式”帮助节电
▪ 新特性：运行时自动转换TensorFlow 模型，以便直接使用
▪ 面向生成型人工智能的更广泛模型支持，以及全新的文本处理功能和转换器模型等

总结

针对边缘人工智能优化的英特尔® 处理器可提供卓越性能
▪ 英特尔® 酷睿™ 处理器
▪ 英特尔® Data Center GPU Flex 系列
▪ 英特尔® 至强® 可扩展处理器
采用英特尔® 软件加速边缘人工智能的设计、开发和部署
▪ 业经优化且立即可用的人工智能库、SDK、代码样本和参考架构

英特尔基础软件赋能中国生态

Intel : 软件优先 推动中国市场

与Intel合作的中国软件方案包括阿里、京东、腾讯、用友的知名厂商。尤其是操作系统领域，Intel发挥了巨大的作用。

中国Linux操作系统生态

中国的Linux厂商比较著名的是统信和麒麟，社区包括OpenCloudOS、OpenAnolis、OpenEuler等。

CentOS改变了更新模式后，用户开始需求新的方案，OpenAnolis应运而生。

Intel全力投入中国开源社区开发

Intel全力投入中国开源社区开发，主要有几个方面：
1、社区治理运营，加入社区委员会、理事单位。
2、成立Intel架构SIG，作为Intel的社区入口。
3、依托Intel的SIG，把将平台和支持加入到社区
4、其他的技术，比如云原生、加解密等技术，加入到社区

国产Linux厂商（OSV）支持

• 与 建立战略合作伙伴关系
• 最新英特尔服务器和 平台特性支持
• 在开源社区与两家厂商保持紧密合作和协调

Intel与龙蜥社区

• 英特尔与2020年9月龙蜥社区成立之初即作为首批创始单位加入, 并成为理事会, 技术委员会及运营委员会成员
• 英特尔在龙蜥社区成立了“Intel ArchSIG", 作为英特尔新平台, 新技术使能和优化 解决方案的统一入口, 并维护 $\mathrm{SIG}$ 的代码仓
• 英特尔新一代至强平台SapphireRapids的支持最早在龙蜥操作系统中实现, 并一直 保持全球领先水平; 同时还进一步在安全、Al、云原生、软硬件兼容性、容器镜 像、编译器等领域, 进行了大量投入
• 英特尔团队荣获2022年龙蜥社区最佳技术团队, 杰出贡献奖等多个奖项

加速迈入云原生时代

英特尔在云计算领域的创新

OpenStack：自2012年始从事OpenStack开发，计算、网络、存储、监控和加速器等 。

Ceph：自2015年始从事Ceph开发，主要基于SSD和Optane的性能优化。

OPNFV：自2016年始从事ODL和OPNFV，参与了SFC, Fuel@OPNFV, Container4NFV and Storage4NFV.

ONAP：自2017年始从事ONAP，完成了HPA, vEPC integration, Kubernetes support on multi-cloud等功能。

kata：2017年开源，轻量级安全容器

Kubernetes：自2017年始从事Kubernetes，网络、安全、存储、资源管理以及加速器。

Cloud Workload Optimization：自2018年始，从事面向云原生的Languages runtime优化(Wordpress/PHP, Ghost/Node, Django/Python)。

Cloud hypervisor：2019年开源，一个面向云原生的现代安全虚拟机管理软件。

uService Benchmark：自2021年始，从事面向云原生微服务的性能测评和优化

envoy：自2020年底始从事服务网格，性能、网络、安全以及加速器等

container：自2021年始从事容器运行时和安全工作

云计算基础软件的全栈性能优化

容器

Kubernetes硬件陈列和IA属性

• 各种加速器- 支持GPU、QAT和FPGA的Device Plugin
• 计算 - CPU Manager、资源管理器CRI-RM、Topology Manager，大页支持、Node Feature Discovery (NFD) and Node Profile Discovery (NPD)、RDT Support、SGX device plugin等等
• 存储- 持久内存支持
• 网络- Bond CNI、Multus CNI、DDP以及SRIOV CNI等等
• K8s里可伸缩Pod方案，以及Network I/O和Block I/O隔离方案

微服务

服务网格

• 服务网格里性能优化
  • QAT/Crypto-MB加速TLS、QAT加速压缩过滤器
  • eBPF绕TCP/IP网络栈、利用RDMA加速sidecar通信
  • Hyperscan加速正则表达式
  • 利用DLB（Dynamic Load Balancer）和DSA（Data Streaming Accelerator）加速
• 服务网格里安全增强
  • CA私钥安全增强、mTLS私钥安全性、
    Ingress/Egress代理私钥安全性以及TLS Bumping
    CA私钥安全增强
• 简化部署、多租户支持
• 5G支持、SASE（Secure Access Service Edge）和IPU/DPU offloading
  微服务和FaaS性能测评和调优
• DeathStarBench各类云负载测评和调优
• Google Microservice Demo测评和调优
• FaaS测评和调优，例如冷启动

客户合作创新的实践

包括：阿里云、腾讯云、百度、移动等著名厂商。