SOA 是面向服务的架构，即企业的 IT 系统是由服务组成的，也即企业的各个应用系统是由许多标准的服务件“组装”起来的，组成应用系统中的各个服务之间是一种非常松耦合的关系。
Gartner 公司在 1996 年进一步提出了 SOA 的概念，意为面向服务的架构，本质上是面向服务的思想在企业 IT 架构方面的应用。面向服务的思想，是面向对象思想之后的一种新的思想模式，其核心特征就是以松耦合、粗粒度的服务单元来构建软件。作为一种思想，SOA 不涉及任何具体的实现技术细节，但是思想终归要落地才会带来社会效益。
人们发现，企业服务总线（简称为 ESB）是实现 SOA 的主要技术之一，于是 ESB 也就成为 SOA 的核心技术基础。当然，不用 ESB 也不能说你的系统就不是 SOA，比如现在流行的微服务就是 SOA 的一种具体实现，它采用容器对服务打包。SOA 所实现产品的核心任务是管理企业中的服务单元，具体的任务可分解为：服务单元的登记、服务单元的调用、服务单元的运行、服务单元的部署、用户管理界面，以及安全控制等。
服务与模块的主要区别在于：模块相当于汽车发动机的零配件，而服务就相当于发动机本身，发动机可以独立运转，而零件就不行
服务是无状态的，即服务在被调用前后本身没有变化，且同一个服务允许同时在多台计算机上运行，这样就能轻松实现高可用性计算及负载均衡集群，示意图如图 1 所示：
图1 SOA
最终我们可以想象一下，企业的很多台服务器上运行着各种各样的标准服务，众多的应用系统对应各自的服务调用关系描述表，“组装”一个应用软件由公司文员即可快速轻松地完成。
在云端，由于应用繁多且由一家公司运营，所以云运营公司是采用 SOA 的最佳场所。可以预计，在云计算时代，SOA 将得到广泛应用。在业界，也有人认为云计算将是 SOA 的终结者，这个观点把不同层次的东西混为一谈，云计算不是新的技术和思想，它只是人们使用计算资源的一种模式，而 SOA 是一种全新的软件构架思想。
ESB 是实现 SOA 的主要技术之一，SOA 是组建大型云端的重要思想之一。SOA 的概念已经提出了十几年，之前在传统的企业很难落地生根，根本原因就是一家企业的各种软件系统往往是由不同的软件公司开发的，而这些软件公司具备竞争关系，各自为政，很难协调一致地推出符合 SOA 标准的通用解决方案。