Android由底层往上分为4个主要功能层，分别是Linux内核层，系统运行时库层，应用程序架构层，应用程序层。
Linux内核层
Android以Linux操作系统内核为基础，借助Linux内核服务实现硬件设备驱动，进程和内存管理，网络协议栈，电源管理，无线通信等核心功能。Android4.0版本之前基于Linux2.6系列内核，4.0及之后的版本使用更新的Linux3.X内核，并且两个开源项目开始有了互通。Linux3.3内核中正式包括一些Android代码，可以直接引导进入Android。Linux3.4增添了电源管理等更多功能，以增加与Android的硬件兼容性，使Android在更多设备上得到支持。
Android内核对Linux内核进行了增强，增加了一些面向移动计算的特有功能。例如，低内存管理器LMK（Low Memory Keller），匿名共享内存（Ashmem）,以及轻量级的进程间通信Binder机制等。这些内核的增强使Android在继承Linux内核安全机制的同时，进一步提升了内存管理，进程间通信等方面的安全性。下表列举了Android内核的主要驱动模块：
| 驱动名称 | 说明 |
| Android电源管理 | 针对嵌入式设备的，基于标准Linux电源管理系统的，轻量级的电源管理驱动 |
| 低内存管理器 | 低内存管理器（Low Memory Keller） 可以根据需要杀死进程来释放需要的内存。扩展了Linux的OOM机制，形成独特的LMK机制 |
| 匿名共享内存 | 为进程之间提供共享内存资源，同时为内核提供回收和管理内存的机制 |
| 日志 | 一个轻量级的日志设备 |
| 定时器 | 提供了一个定时器用于把设备从睡眠状态唤醒 |
| 物理内存映射管理 | DSP及其他设备只能工作在连续的物理内存上，PMEM用于向用户空间提供 连续的物理内存区域映射 |
| Android定时设备 | 可以执行对设备的定时控制功能 |
| Yaffs2文件系统 | Android采用大容量的NAND闪存作为存储设备，使用Yaffs2作为文件系统管理大容量MTD NAND Flash；Yaffs2占用内存小，垃圾回收简洁迅速 |
| Android Paranoid网络 | 对Linux内核的网络代码进行了改动，增加了网络认证机制。可在IPV4，IPV6和蓝牙中设置，由ANDROID_PARANOID_NETWORK宏来启用此特性 |
系统运行时库层
系统类库
系统类库大部分由C/C++编写，所提供的功能通过Android应用程序框架为开发者所使用。主要的系统类库及说明如下表：
| 系统类库名称 | 说明 |
| Surface Manager | 执行多个应用程序时，管理子系统的显示，另外也对2D和3D图形提供支持 |
| Media Framework | 基于PacketVideoOpenCore的多媒体库，支持多种常用的音频和视频格式的录制和回放，所支持的编码格式包括MPEG4，MP3，H264，AAC，ARM |
| SQLite | 本地小型关系数据库，Android提供了一些新的SQLite数据库API，以替代传统的耗费资源的JDBC API |
| OpenGL|ES | 基于OpenGL ES 1.0API标准实现的3D跨平台图形库 |
| FreeType | 用于显示位图和矢量字体 |
| WebKit | Web浏览器的软件引擎 |
| SGL | 底层的2D图形引擎 |
| Libc (bionic libc) | 继承自BSD的C函数库bionic libc，更适合基于嵌入式Linux的移动设备 |
| SSL | 安全套接层，是为网络通信提供安全及数据完整性的一种安全协议 |
注意，使用原生库无法访问应用框架层API，兼容性可能无法保障。而且从安全性角度考虑，Android原生库用非类型安全的程序语言C,C++编写，更容易产生安全漏洞，原生库的缺陷（bug）也可能更容易直接影响应用程序的安全性。
运行时
Android运行时包含核心库和Dalvik虚拟机两部分：
核心库：核心库提供了Java5 se API的多数功能，并提供Android的核心API，如android.os，android.net，android.media等。
Dalvik虚拟机：Dalvik虚拟机是基于apache的java虚拟机，并被改进以适应低内存，低处理器速度的移动设备环境。Dalvik虚拟机依赖于Linux内核，实现进程隔离与线程调试管理，安全和异常管理，垃圾回收等重要功能。
本质而言，Dalvik虚拟机并非传统意义上的java虚拟机（JVM）。Dalvik虚拟机不仅不按照Java虚拟机的规范来实现，而且两者不兼容。
Dalvik和标准Java虚拟机有以下主要区别：
- Dalvik基于寄存器，而JVM基于栈。一般认为，基于寄存器的实现虽然更多依赖于具体的CPU结构，硬件通用性稍差，但其使用等长指令，在效率速度上较传统JVM更有优势。
- Dalvik经过优化，允许在有限的内存中同时高效地运行多个虚拟机的实例，并且每一个Dalvik应用作为一个独立的Linux进程执行，都拥有一个独立的Dalvik虚拟机实例。Android这种基于Linux的进程“沙箱”机制，是整个安全设计的基础之一。
- Dalvik虚拟机从DEX（Dalvik Executable）格式的文件中读取指令与数据，进行解释运行。DEX文件由传统的，编译产生的CLASS文件，经dx工具软件处理后生成。
- Dalvik的DEX文件还可以进一步优化，提高运行性能。通常，OEM的应用程序可以在系统编译后，直接生成优化文件（.ODEX）； 第三方的应用程序则可在运行时在缓存中优化与保存，优化后的格式为DEY（.dey文件）。
应用程序框架层
应用程序框架层提供开发Android应用程序所需的一系列类库，使开发人员可以进行快速的应用程序开发，方便重用组件，也可以通过继承实现个性化的扩展。具体包括的模块如表：
| 应用程序框架层类库名称 | 功能 |
| 活动管理器 | 管理各个应用程序生命周期并提供常用的导航回退功能，为所有程序的窗口提供交互的接口 |
| 窗口管理器 | 对所有开启的窗口程序进行管理 |
| 内容提供器 | 提供一个应用程序访问另一个应用程序数据的功能，或者实现应用程序之间的数据共享 |
| 视图系统 | 创建应用程序的基本组件，包括列表（lists），网格（grids），文本框（text boxes），按钮（buttons），还有可嵌入的web浏览器 |
| 通知管理器 | 使应用程序可以在状态栏中显示自定义的客户提示信息 |
| 包管理器 | 对应用程序进行管理，提供的功能诸如安装应用程序，卸载应用程序，查询相关权限信息等 |
| 资源管理器 | 提供各种非代码资源供应用程序使用，如本地化字符串，图片，音频等 |
| 位置管理器 | 提供位置服务 |
| 电话管理器 | 管理所有的移动设备功能 |
| XMPP服务 | Google在线即时交流软件中一个通用的进程，提供后台推送服务 |
应用层
Android平台的应用层上包括各类与用户直接交互的应用程序，或由java语言编写的运行于后台的服务程序。例如，智能手机上实现的常见基本功能 程序，诸如SMS短信，电话拨号，图片浏览器，日历，游戏，地图，web浏览器等程序，以及开发人员开发的其他应用程序。