spark学习随笔(一)

版权声明:转载请注明出处。 https://blog.csdn.net/b285795298/article/details/83009818 Spark 是什么 Spark 是一个平台。这个平台用来实现快速而通用的集群计算。 在速度方面,Spark 扩展了广泛使用的 MapReduce 计算模型,而且高效地支持更多计算模 式,包括交互式查询和流处理。在处理大规模数据集时,速度是非常重要的。速度快就意 味着我们可以进行交互式的数据操作,否则我们每次操作就需要等待数分钟甚至数小时。 Spark
分类: 其他 发布时间: 01-02 23:11 阅读次数: 0

HDFS初识

HDFS(Hadoop Distributed File System)是Hadoop项目的核心子项目,是分布式计算中数据存储管理的基础,是基于流数据模式访问和处理超大文件的需求而开发的,可以运行于廉价的商用服务器上。 HDFS 具有以下优点: 1、高容错性 数据自动保存多个副本。它通过增加副本的形式,提高容错性。 某一个副本丢失以后,它可以自动恢复,这是由 HDFS 内部机制实现的。   2、适合批处理 它是通过移动计算而不是移动数据。 它会把数据位置暴露给计算框架。   3、适合大数据处理
分类: 其他 发布时间: 01-02 23:11 阅读次数: 0

yarn初识

第一次接触Hadoop的时候,启动hadoop出现的节点是: NameNode SecondaryNameNode JobTracker TaskTracker DataNode NameNode 如今启动hadoop出现的节点是: SecondaryNameNode NodeManager ResourceManager NameNode DataNode 发现现在的Hadoop中,JobTracker和TaskTracker消失了,多了NodeManager和ResourceManager
分类: 其他 发布时间: 01-02 23:11 阅读次数: 0

统计学知识梳理

版权声明:转载请注明出处。 https://blog.csdn.net/b285795298/article/details/81603844 统计学大体可以分为两类: 描述性统计学:希望在不告诉别人所有数据的情况下介绍这些数据的情况。 推论统计学:从总体中获得一些样本,利用样本的数学计算,推断出总体的情况。 机器学习、数据挖掘、数据分析领域离不开统计学。以前学习统计的时候,只是为了应付考试,很多知识都是靠死记硬背。考试过后,这些东西慢慢的就忘记了。最近重新回顾统计基础知识,感觉很多细节还是值
分类: 其他 发布时间: 01-02 23:10 阅读次数: 0

《我在51CTO微职位学软考——网络管理员》

我在51CTO微职位学软考
分类: 企业开发 发布时间: 01-02 23:10 阅读次数: 0

优秀传送门

版权声明:转载请注明出处。 https://blog.csdn.net/b285795298/article/details/84235759 强化学习算法基础和分类‘https://mp.weixin.qq.com/s?__biz=MzIxNDgzNDg3NQ==&mid=2247484071&idx=1&sn=936594bfddf2a45d42283ab12b6e8479&chksm=97a0c973a0d740652441bcfc8c185518cd7bc262025609add0d5
分类: 其他 发布时间: 01-02 23:10 阅读次数: 0

scala String 比较

版权声明:转载请注明出处。 https://blog.csdn.net/b285795298/article/details/85046760 scala String 判断相等 /* 在Scala中,我们使用方法来判定对象的相等性,这与Java不同, Java使用equals方法判定两个对象的相等性, == 是比较两个对象是否是同一个对象(内存地址相同)。 在Scala中, 方法在AnyRef(所有引用类型的父类)中定义, 其首先会检查空值,然后再调用第一个对象的equals方法进行比较,
分类: 其他 发布时间: 01-02 23:10 阅读次数: 0

python BeautifulSoup乱码问题

用爬虫爬取天气数据,需要先获得原网站上城市中文名称与汉语拼音的对应关系。 在编写如下代码进行处理的时候,出现中文乱码。 查了很多blog发现方法并不好使。除了这位大神。。。。。 这位出现问题就去阅读文档的大神。。。。 https://www.jianshu.com/p/69401b84419e 查阅requests和bs4的官方文档,发现了这样两段描述: When you make a request, Requests makes educated guesses about the enc
分类: 其他 发布时间: 01-02 23:10 阅读次数: 0

python处理时间格式转换,将xxxx年xx月xx日转化为xxxx-xx-xx格式

publish_Time = "2018年10月10日" array = time.strptime(publish_Time, u"%Y年%m月%d日") try: publishTime = time.strftime("%Y-%m-%d", array) except Exception, e: print e print publishTime 作者:果冻先生的专栏 来源:CSDN 原文:https://blog.csdn.net/homewm/article/d
分类: 其他 发布时间: 01-02 23:09 阅读次数: 0

推荐系统面临的问题

*推荐系统面临的问题 https://blog.csdn.net/u013749540/article/details/53147550
分类: 其他 发布时间: 01-02 23:09 阅读次数: 0

spark 学习随笔(二)

版权声明:转载请注明出处。 https://blog.csdn.net/b285795298/article/details/85341428 RDD 编程 弹性分布式数据集(Resilient Distributed Dataset,简称 RDD。RDD 其实就是分布式的元素集合。 在 Spark 中,对数据的所有操作不外乎创建 RDD、转化已有 RDD 以及调用 RDD 操作进行求值。 而在这一切背后,Spark 会自动将RDD 中的数据分发到集群上,并将操作并行化执行。 RDD到底是什么
分类: 其他 发布时间: 01-02 23:08 阅读次数: 0

程序员:女友学历比自己高,技术比自己强,过不下去了

一程序员最近非常苦恼,因为最近谈了一个女朋友,一般来说谈了女朋友应该是一件非常高兴的事,这名网友为什么会苦恼呢?原因是女朋友比他优秀,感觉不可能走到一起,我们看看这名程序员的自述:我是一个创业公司程序员,她是一线公司的大牛,我普通二本院校毕业,她是重点本科毕业生,我经常加班生活简朴,她基本不加班生活很有情调,我俩是不是基本不可能发展下去了? 对于这名程序员因为女友比自己优秀而感到深深的自卑,网友称:看了楼主的自述,确实是门不当户不对,不知道当初你们是靠什么走到一起的?要是你们两的性别对调一下,
分类: 其他 发布时间: 01-02 23:08 阅读次数: 0

女生也可以大胆的学web前端,谁说女生不如男生

解析女生学web前端的优势。在这个不断发展的互联网时代,你是不是认为程序员都是纯爷们。是不是认为搞IT就没妹子可看了,女生搞不了IT,等一系列的谬论。 女生也可以大胆的学web前端,谁说女生不如男生 分享之前我还是要推荐下我自己创建的web前端学习群:585843909,这是全国最大的web前端学习交流的地方,不管你是小白还是大牛,小编我都挺欢迎,不定期分享干货,包括我自己整理的一份最新的适合2019年学习的前端资料和零基础入门教程,欢迎初学和进阶中的小伙伴。 然而!事实却是这样的: 近几年学
分类: 其他 发布时间: 01-02 23:08 阅读次数: 0

使用 CXF 和 Spring 创建 Web 服务

Java 5 或更高版本 Tomcat 5 或更高版本 Ant 构建工具 CXF 二进制分发版 2.1 [size=1.0625]安装上述分发版以后,设置以下环境变量: JAVA_HOME(用于 Java) CATALINA_HOME(用于 Tomcat) ANT_HOME(用于 Ant) CXF_HOME(用于 CXF) [size=1.0625]举例来说,可以设置 CXF_HOME=C:\apache-cxf-2.1 并将以下内容添加到 PATH 环境变量: JAVA_HOME\bin C
分类: 其他 发布时间: 01-02 23:07 阅读次数: 0

通过了解Servlet和Http之间的关系,了解web中http通信使用

上一节,简单理解了web.xml,里面的内容还有很多,我们遇到再详细了解,先熟悉其它部分的内容。 对于上次说的这个流程,web.xml属于应用服务器Tomcat的内容,这次我们说一个"请求服务"的内容:http协议 超文本传输协议(HTTP,HyperText Transfer Protocol) 在这推荐下我自己的Web学习群:585843909,群内不定期分享干货,进群就可领取基础教学视频,欢迎各位加入 首先它是一个协议,是用来遵守的规则,大家都能看得懂,既然是规则,那么一定有固定的内容。
分类: 其他 发布时间: 01-02 23:07 阅读次数: 0

GO语言的post请求和get请求方法

首先!刚刚开始接触GO语言,感觉还是非常强大的,最近在学习中也有很多自己的想法,也尝试子写了一些东西,记录一下加深印象! 标题 GO语言的post请求和get请求 1.post 有两种 (1)http.postForm (2)http.post 第一种是一种表单形式的请求,后面可以加上你想附带的 username,password或者验证码 比如这种 var resp *http.Response //ResponseBody := new(ResponseBody) resp, err
分类: 其他 发布时间: 01-02 23:07 阅读次数: 0

golang基础 json序列化、反序列化、自定义error的一些方法

最近在工作中,用到关于结构体嵌套和序列化的问题,所以在这里做出整理 1.结构体转json package main import ( "fmt" "encoding/json" ) type User struct { UserName string `json:"username"` NickName string `json:"nickname"` Age int Birthday string Sex stri
分类: 其他 发布时间: 01-02 23:06 阅读次数: 0

Go语言生成页面 -------html/template包

官方介绍: Package template (html/template) implements data-driven templates for generating HTML output safe against code injection. It provides the same interface as package text/template and should be used instead of text/template whenever the output i
分类: 其他 发布时间: 01-02 23:06 阅读次数: 0

分布式架构基础思维导图总结

自己学习总结了一些思维导图(持续更新中),后面附有GitHub链接 ,分享给大家。https://github.com/panjianlong13/MindMapSummary
分类: 其他 发布时间: 01-02 23:06 阅读次数: 0

SpringCloud 思维导图总结

自己学习总结了一些思维导图(持续更新中),后面附有GitHub链接 ,分享给大家。https://github.com/panjianlong13/MindMapSummary
分类: 其他 发布时间: 01-02 23:05 阅读次数: 0