大家好，本人目前在某BAT公司任职大数据架构师，自2010年开始接触大数据，至今已经有N多年了，从一无所知的小白到一线互联网公司大数据架构师虽然坎坷，却也收货良多。决心写下这个大数据成神之路文章。
欢迎关注‘大数据技术与架构’ 微信公众号，获取更多关于Spark、flink、hadoop的资料下载。
已经在公众号更新文章目录：
大数据成神之路-Java高级特性增强
- 大数据成神之路系列：
[Java高级特性增强-集合]
[Java高级特性增强-多线程]
[Java高级特性增强-Synchronized]
[Java高级特性增强-volatile]
[Java高级特性增强-并发集合框架]
[Java高级特性增强-分布式]
[Java高级特性增强-Zookeeper]
[Java高级特性增强-JVM]
[Java高级特性增强-NIO]
*大数据成神之路-Flink当前最火的实时计算引擎(一)之Flink源码解析系列
-
-
Alibaba Blink新特性解析(更新中)
总目录：
* Java高级特性增强(多线程，并发包)
* JVM深度解析和面试点
* 分布式理论基础和原理
* 分布式理论基础-Zookeeper的Paxos一致性算法
* 大数据框架开发基础-NIO和RPC
* 大数据框架基石之网路通信-Netty
* Hadoop三驾马车之Mapreduce
* Hadoop三驾马车之HDFS
* Hadoop三驾马车之Yarn
* OLAP引擎-HiveSQL的高级调优和原理分析
* 离线列式大数据存储-Hbase的原理和亿级数据下的生产应用
* Nosql之王-Redis高级特性和实现原理
* 分布式消息队列Kafka原理及与流式计算的集成
* 第三代流式计算引擎-Spark的原理和生产应用(一)
* 第三代流式计算引擎-Spark的原理和生产应用(二)
* 第三代流式计算引擎-Spark的原理和生产应用(三)
* Flink-当前最火的实时计算引擎(一)
* Flink-当前最火的实时计算引擎(二)
* Flink-当前最火的实时计算引擎(三)
* 大数据算法(一)
* 大数据算法(二)
这是一个硬核大数据学习及面试专栏
硬核文章“硬”在哪里？
1. 大数据领域核心的面试考察点
你是否有过这样的困扰？
- 我用Spark开发了N个项目，面试却被认为根本不懂Spark
- 我有超过3-5年的大数据开发经验，面试一问三不知，知识形不成体系
- 我在网站买了几千块的视频资料，却没有整理过学习过的技术，似懂非懂
- 我是Java后端开发，急需突破希望转行大数据，却无从下手
- 我是应届生，希望毕业从事大数据开发
如果上面的困扰你中了任何一条，那么恭喜你，这个专栏就是为你而写的。
在这个专栏里，作者不会卖情怀，也不会讲段子，作者多年浸淫大数据开发领域，将会把整个大数据领域核心的考察点，其中包括大数据领域的常用框架和中间件，大数据的基础，面试过程中必问的概念和原理进行整理和讲解。
2. 大数据基础必知必会
大数据需要掌握的语言是什么？有什么核心知识点？什么是CAP？什么是Quorum机制？
大数据的本质无非就是海量数据的计算，查询与存储，分布式计算，那么问题来了，海量数据存储一般是用什么文件系统？目前主流的文件系统是如何设计的？他们是如何管理原数据的？可靠性和扩展性怎么做的？分布式的概念有哪些？分布式计算中的问题有什么？这么多的计算框架他们分别有什么特点？适合什么样的场景？实践应用有哪些坑？这些框架核心原理和代码有哪些？
用过redis却连它的基本数据结构都不清楚？我Spark+kafka贼溜但连PULL和PUSH模式都表达不清？
上面的夺命N连问，你害怕了吗？别怕，作者带你把他们一一解决。
3. 大数据框架的核心部分源码解读
阿里巴巴面试最喜欢问的一个问题：“你知道XXX的实现原理么?”
作者曾经被这个问题问的脊背发凉，冷汗直流，后来发奋图强，认真阅读过很多优秀框架的源码，并在Spark的基础上结合自己的业务开发了一套实时计算框架。
套用网络上的一句话：
在工程师的世界里，概念、原理都是抽象的，唯有源码是具象的。
随着我们阅读更多的优秀的源码，我们的想象力才会更加具象，我们的理解才会更加干净。
在本专栏中，每个章节都包含核心源码解读，让读者不仅知其然且知其所以然，以后在以后面对面试官的时候可以和他侃侃而谈。
4. 模拟真实场景下的面试问题和拓展
众所周知，BAT等一二线公司有自己的简历库，面试人每次面试都有记录，比如阿里每次投递简历到第二次投递至少半年，甚至有些公司多次面试会上系统的黑名单，这些有限的面试机会值得倍加珍惜。
作者作为面试过几乎所有一二线公司的"老炮"，曾经拿到过N多offer，作者为每个章节设计了一个问题提问环节，模拟真实面试场景下面试官的提问，我们该如何作答，回答如何”戏感“实足，又不生硬，不仅把自己的干货展示给面试官还能稍微做些拓展，让面试官眼前一亮。
作者专栏都有哪些内容?
作者该专栏目前设计了20+个大章节，涵盖了目前大数据开发领域一线公司主流的技术框架和面试考察点，每个小章节又包含了架构原理和源码解析，实际项目中的应用和常见的坑，面试关注点以及如何作答三个小部分，每一篇文章都会很长很长，做到图文并茂。希望大家耐下心来跟我一篇一篇的看下来，成为offer收割机，争取到更大的公司更大的平台的机会。
-
专栏大纲预告
* Java高级特性增强(多线程，并发包) * JVM深度解析和面试点 * 分布式理论基础和原理 * 分布式理论基础-Zookeeper的Paxos一致性算法 * 大数据框架开发基础-NIO和RPC * 大数据框架基石之网路通信-Netty * Hadoop三驾马车之Mapreduce * Hadoop三驾马车之HDFS * Hadoop三驾马车之Yarn * OLAP引擎-HiveSQL的高级调优和原理分析 * 离线列式大数据存储-Hbase的原理和亿级数据下的生产应用 * Nosql之王-Redis高级特性和实现原理 * 分布式消息队列Kafka原理及与流式计算的集成 * 第三代流式计算引擎-Spark的原理和生产应用(一) * 第三代流式计算引擎-Spark的原理和生产应用(二) * 第三代流式计算引擎-Spark的原理和生产应用(三) * Flink-当前最火的实时计算引擎(一) * Flink-当前最火的实时计算引擎(二) * Flink-当前最火的实时计算引擎(三) * 大数据算法(一) * 大数据算法(二)
第一章 Java高级特性增强(多线程，并发包)
大多数大数据框架都是Java开发的，并发和多线程是大数据框架的基础，也是大数据面试的重灾区，作者会使用图文的方式讲解多线程和并发相关的原理和生产实践。
第二章 JVM是Javaer绕不过去的坎
我相信大家已经有所体会，JVM已经成了Java界区分一个开发者是否基础扎实的试金石，随着Java版本的更新迭代，JVM也在不断进化，作者带你揭开JVM的真容。
第三章 分布式理论
所谓大道至简，万变不离其宗，分布式理论好比习武扎马步，是修习上乘武学的基本功。
第四章 Zookeeper
本章将全面剖析Zookeeper的原理和实现，它在Hadoop等大数据框架中扮演者不可或缺的角色。
第五章 NIO和RPC
NIO是和RPC是大数据框架数据通信的普遍采用的方案，作者将深入浅出的介绍其原理并带大家实现简单的通信框架。
第六章 Netty
当作者打出Netty的时候，如果你是一个Java开发，却没有听说过，那么恭喜你面试第一轮就可能被挡在门外。Netty是Java实现的，提供异步的、事件驱动的网络应用程序框架和工具，它的高性能和高可靠性已经被无数个应用验证了，任何一个大数据框架都离不开Netty。
第七、八、九章 Hadoop的三驾马车
Hadoop无需多言，是大多数人接触大数据最先接触的框架，基于Hadoop已经发展出来了庞大的大数据生态，几乎所有的分布式理论都在Hadoop上有所实践。
第十章 HiveSql
Hive架构在Hadoop之上，使得查询和分析数据方便。提供简单的sql查询功能，可以将sql语句转换为MapReduce任务进行运行，这一章涉及到了HiveSql的原理和高级调优，也是面试的重灾区。
第十一章 Hbase的原理和亿级数据下的生产应用
作为列式数据库，他和传统的数据库有什么区别，在生产实践中应该注意哪些事项，将在这一章节有详细讲解。
第十二章 Hbase的原理和亿级数据下的生产应用
作为列式数据库，他和传统的数据库有什么区别，在生产实践中应该注意哪些事项，将在这一章节有详细讲解。
第十三章 Redis是大数据领域最常用的缓存数据库
在大数据分析框架中，Redis扮演着存储计算结果，快速读取的角色，本章将全面介绍Redis和其中复杂的数据结构实现，并带读者了解Redis的新特性。
第十五、十六、十七章 Spark
作者用三章来介绍Spark架构，Spark Streaming 和Structured Streaming，里面包含了Spark核心的原理实现和生产实践，有图有文，通俗易懂且有深度。
第十八、十九、二十章 Flink-当前最火的实时计算引擎
Flink是近几年热度最高的实时计算引擎，包含了诸多特性，是真正的流式计算引擎，本章节包含了Flink的基本架构和编程模型以及最生产上的应用案例。
第二十一、二十二章 大数据开发中的算法
大数据算法是面试必备技能，作者将讲解常见的大数据算法面试题目，例如海量数据求TopN，Bitmap和Bloomfilter的应用等。
看到这里你是不是怕了?
不要怕！
在写作的过程中，作者会做到图文并茂，通俗易懂，干货满满，不讲废话，不凑篇幅。如果发现某个章节东西较多，作者会拆分成小节，做到不遗漏重要知识点。
作者寄语
学习的过程是枯燥无味也是充满乐趣的，套用老猫的一句话：
他背起双手看着柳十岁，平静而认真地说道：“大道险且漫长，少有同行到最后，你已上路，更须专心，此去经年，忘却乃自然之事，莫刻意记起，那般不美”。
欢迎关注‘大数据技术与架构’ 微信公众号，获取更多关于Spark、flink、hadoop的资料下载。