LLMs之LLaMA-2：源码解读(model.py文件)模块化思想实现了一个完整的Transformer模型(多头注意力机制+前馈神经网络，RMSNorm+RoPE+并行计算+缓存机制提升效率)
导读：本文代码实现了一个完整的Transformer模型及其主要组成部分。整体设计采用模块化思想，最后组合成完整的Transformer模型，支持序列建模任务。
核心技术点:
定义ModelArgs配置类，用于存储模型结构和超参数信息。
定义RMSNorm归一化层，使用均方根归一化方法对输入进行归一化，通过学习的权重参数进行调整。
设计了一系列辅助函数:
>> precompute_freqs_cis函数预计算复数频率张量。
>> reshape_for_broadcast函数用于重塑频率张量。
>> apply_rotary_em