spark学习随笔(一)
版权声明:转载请注明出处。 https://blog.csdn.net/b285795298/article/details/83009818 Spark 是什么 Spark 是一个平台。这个平台用来实现快速而通用的集群计算。 在速度方面,Spark 扩展了广泛使用的 MapReduce 计算模型,而且高效地支持更多计算模
式,包括交互式查询和流处理。在处理大规模数据集时,速度是非常重要的。速度快就意
味着我们可以进行交互式的数据操作,否则我们每次操作就需要等待数分钟甚至数小时。
Spark
scala String 比较
版权声明:转载请注明出处。 https://blog.csdn.net/b285795298/article/details/85046760 scala String 判断相等 /* 在Scala中,我们使用方法来判定对象的相等性,这与Java不同, Java使用equals方法判定两个对象的相等性, == 是比较两个对象是否是同一个对象(内存地址相同)。 在Scala中, 方法在AnyRef(所有引用类型的父类)中定义, 其首先会检查空值,然后再调用第一个对象的equals方法进行比较,
python BeautifulSoup乱码问题
用爬虫爬取天气数据,需要先获得原网站上城市中文名称与汉语拼音的对应关系。 在编写如下代码进行处理的时候,出现中文乱码。 查了很多blog发现方法并不好使。除了这位大神。。。。。 这位出现问题就去阅读文档的大神。。。。 https://www.jianshu.com/p/69401b84419e 查阅requests和bs4的官方文档,发现了这样两段描述: When you make a request, Requests makes educated guesses about the enc
python处理时间格式转换,将xxxx年xx月xx日转化为xxxx-xx-xx格式
publish_Time = "2018年10月10日"
array = time.strptime(publish_Time, u"%Y年%m月%d日")
try:
publishTime = time.strftime("%Y-%m-%d", array)
except Exception, e:
print e
print publishTime
作者:果冻先生的专栏 来源:CSDN 原文:https://blog.csdn.net/homewm/article/d
spark 学习随笔(二)
版权声明:转载请注明出处。 https://blog.csdn.net/b285795298/article/details/85341428 RDD 编程 弹性分布式数据集(Resilient Distributed Dataset,简称 RDD。RDD 其实就是分布式的元素集合。 在 Spark 中,对数据的所有操作不外乎创建 RDD、转化已有 RDD 以及调用 RDD 操作进行求值。 而在这一切背后,Spark 会自动将RDD 中的数据分发到集群上,并将操作并行化执行。 RDD到底是什么
程序员:女友学历比自己高,技术比自己强,过不下去了
一程序员最近非常苦恼,因为最近谈了一个女朋友,一般来说谈了女朋友应该是一件非常高兴的事,这名网友为什么会苦恼呢?原因是女朋友比他优秀,感觉不可能走到一起,我们看看这名程序员的自述:我是一个创业公司程序员,她是一线公司的大牛,我普通二本院校毕业,她是重点本科毕业生,我经常加班生活简朴,她基本不加班生活很有情调,我俩是不是基本不可能发展下去了? 对于这名程序员因为女友比自己优秀而感到深深的自卑,网友称:看了楼主的自述,确实是门不当户不对,不知道当初你们是靠什么走到一起的?要是你们两的性别对调一下,
女生也可以大胆的学web前端,谁说女生不如男生
解析女生学web前端的优势。在这个不断发展的互联网时代,你是不是认为程序员都是纯爷们。是不是认为搞IT就没妹子可看了,女生搞不了IT,等一系列的谬论。 女生也可以大胆的学web前端,谁说女生不如男生 分享之前我还是要推荐下我自己创建的web前端学习群:585843909,这是全国最大的web前端学习交流的地方,不管你是小白还是大牛,小编我都挺欢迎,不定期分享干货,包括我自己整理的一份最新的适合2019年学习的前端资料和零基础入门教程,欢迎初学和进阶中的小伙伴。 然而!事实却是这样的: 近几年学
使用 CXF 和 Spring 创建 Web 服务
Java 5 或更高版本 Tomcat 5 或更高版本 Ant 构建工具 CXF 二进制分发版 2.1 [size=1.0625]安装上述分发版以后,设置以下环境变量: JAVA_HOME(用于 Java) CATALINA_HOME(用于 Tomcat) ANT_HOME(用于 Ant) CXF_HOME(用于 CXF) [size=1.0625]举例来说,可以设置 CXF_HOME=C:\apache-cxf-2.1 并将以下内容添加到 PATH 环境变量: JAVA_HOME\bin C
通过了解Servlet和Http之间的关系,了解web中http通信使用
上一节,简单理解了web.xml,里面的内容还有很多,我们遇到再详细了解,先熟悉其它部分的内容。 对于上次说的这个流程,web.xml属于应用服务器Tomcat的内容,这次我们说一个"请求服务"的内容:http协议 超文本传输协议(HTTP,HyperText Transfer Protocol) 在这推荐下我自己的Web学习群:585843909,群内不定期分享干货,进群就可领取基础教学视频,欢迎各位加入 首先它是一个协议,是用来遵守的规则,大家都能看得懂,既然是规则,那么一定有固定的内容。
GO语言的post请求和get请求方法
首先!刚刚开始接触GO语言,感觉还是非常强大的,最近在学习中也有很多自己的想法,也尝试子写了一些东西,记录一下加深印象! 标题 GO语言的post请求和get请求 1.post 有两种 (1)http.postForm (2)http.post 第一种是一种表单形式的请求,后面可以加上你想附带的 username,password或者验证码 比如这种 var resp *http.Response
//ResponseBody := new(ResponseBody)
resp, err
golang基础 json序列化、反序列化、自定义error的一些方法
最近在工作中,用到关于结构体嵌套和序列化的问题,所以在这里做出整理 1.结构体转json package main
import (
"fmt"
"encoding/json"
)
type User struct {
UserName string `json:"username"`
NickName string `json:"nickname"`
Age int
Birthday string
Sex stri
Go语言生成页面 -------html/template包
官方介绍: Package template (html/template) implements data-driven templates for generating HTML output safe against code injection. It provides the same interface as package text/template and should be used instead of text/template whenever the output i
分布式架构基础思维导图总结
自己学习总结了一些思维导图(持续更新中),后面附有GitHub链接 ,分享给大家。https://github.com/panjianlong13/MindMapSummary
SpringCloud 思维导图总结
自己学习总结了一些思维导图(持续更新中),后面附有GitHub链接 ,分享给大家。https://github.com/panjianlong13/MindMapSummary
今日推荐
周排行