一个嵌入式系统设备一般是由嵌入式微处理器系统、传感器和执行装置构成。其中嵌入式计算机系统是整个嵌入式系统的控制核心部分；传感器来感知外界环境信息，并传入到微处理器中，执行装置被称为被控对象，接受来自嵌入式计算机系统发出的控制命令，执行所规定所规定的操作、任务。嵌入式系统可分为硬件层、中间层、系统软件层和应用软件层。
1.硬件层
硬件层包括三个部分
嵌入式微处理芯片，如嵌入式微处理器、嵌入式微控制器、嵌入式数字信号处理器、嵌入式片上系统等
嵌入式存储器系统，包括程序存储器、数据存储器和参数存储器。主要以Cache、ROM、RAM、Flash和其他大容量存储器构成。
嵌入式系统的I/O接口。一般嵌入式微处理器上集成有I/O接口，并且有复用功能 ，可通过软件设置。
1.1.嵌入式微处理器
嵌入式系统的硬件层核心部分。微处理器的最大特点是集成化、体积结构大大减小，从而使系统功耗和设计成本不断下降，可靠性提高。嵌入式微处理器在体系结构上大体可分为冯·诺依曼体系结构和哈佛体系结构，即使使用统一体系架构来设计的微处理器芯片中，使用的时钟频率和数据总线快递，以及集成度外设和接口也会各不相同。
1.2.嵌入式的存储器
嵌入式存储器可分为Cahe、主存储器、辅助存储器，用来存放可执行的代码与系统需要的数据。 Cache也叫高速缓冲存储器，位于主存储器和嵌入式微处理器内核之间的一种容量小、速度快的存储器阵列，相当于在主存储器饿内核之间构建了一条缓冲带，可存放最近时间中内核微处理器使用最多的指令代码和数据。主存储器用来存放系统和用户的程序数据，是嵌入式微处理器能直接访问的存储器。可位于微处理器的内部和外部。辅助存储器通常指硬盘，用来存放大数据量的程序代码或信息，一般容量较大，但读取速度与主存相比要慢一些。
1.3.嵌入式系统的I/O接口
嵌入式系统通常具有与外界交互所需的通用设备接口
2.中间层
也成为硬件抽象层或板级支持包，位于硬件层和软件层之间，将系统上层软件与底层软件分离。
3.系统软件层
系统软件层包含实时多任务操作系统（RTOS）、文件系统、图形用户接口(GUI)、网络系统及通用组件模块组成，实时多任务操作系统是嵌入式应用软件的基础和开发平台。
1.嵌入式操作系统
负责嵌入式系统软件、硬件的资源分配、任务调度和控制协调。RTOS除具备一般操作系统基本的任务调配、同步机制、中断处理、文件处理等功能外，还具有强实时性、支持开放性和可伸缩行动体系结构，具有可裁剪性的特点。统一的设备驱动接口，操作方便、友好、简单的图形GUI和图形界面，支持TCP/IP协议及其他协议，提供强大的网络功能。
2.文件系统
主要提供文件存储、检索和更新的功能，高端的嵌入式文件系统还提供有保护和加密功等安全机制。
4.GUI
GUI为用户与嵌入式系统的交互提供了人性化的接口，用户可通过窗口、菜单、按键灯方式来方便地操作计算机或者嵌入式系统。
5.应用软件层
用来实现对被控制对象的实际控制功能，有针对特定任务而开发的应用程序组成，主要面向被控制对象和用户。