深入理解spark-DAGscheduler

背景: 前几天了解了spark了运行架构,spark代码提交给driver时候会根据rdd生成DAG,那么实际DAG在代码中是如何生成的呢? 首先了解,spark任务中的几个划分点: 1.job:job是由rdd的action来划分,每一个action操作是在spark任务执行时是一个job。(action的区分:rdd分为行动操作和转化操作,因为我们知道rdd是惰性加载的,除非遇到行动操作,前面的所有的转化操作才会执行,这也就是为什么spark任务由job来划分执行了,区分行动操作和转化操作
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

【题解】POJ3417 Network(倍增求LCA+DP+树上差分)

POJ3417:http://poj.org/problem?id=3417 思路 我们注意到由“主要边”构成一颗树 “附加边”则是非树边 把一条附加边(x,y)加入树中 会与树上x,y之间构成一个环 因此 我们称每条附加边(x,y)都把树上x,y之间的路径覆盖一次 我们只需要统计出每条“主要边”被覆盖几次 有以下几种情况 第一步把覆盖0次的主要边切断 则第二步可以任意切一条附加边 ans+=m 第一步把覆盖1次的主要边切断 则第二步只有一种选择切附加边 ans+=1 第一步把覆盖2次或以上的
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

java面试题(一)

1、面向对象的特征有哪些方面? - 1 - 2、访问修饰符public,private,protected,以及不写(默认)时的区别? - 1 - 3、String 是最基本的数据类型吗? - 1 - 4、float f=3.4;是否正确? - 1 - 5、short s1 = 1; s1 = s1 + 1;有错吗?short s1 = 1; s1 += 1;有错吗? - 1 - 6、Java有没有goto? - 1 - 7、int和Integer有什么区别? - 2 - 8、&和&&的区别?
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

[LeetCode] 453. Minimum Moves to Equal Array Elements

Given a non-empty integer array of size n, find the minimum number of moves required to make all array elements equal, where a move is incrementing n - 1 elements by 1. Example: Input: [1,2,3] Output: 3 Explanation: Only three moves are nee
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

字符编码总结

字符编码发展: ASCII 255 1个字节 1980 gb2312 1995 GBK1.0 2000 GB18030 Unicode 英文1byte,欧洲2bytes,中文3bytes utf-8可变长,英文单词存的是ASCII码,1byte;中文存的是Unicode,3bytes 不同编码格式之间的相互转换: 转换规则:python2和python3中不同编码格式之间的相互转换都要经过Unicode 转换方法:先decode(’编码格式‘)转成Unicode在encode(’需要传
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

Luogu4116/SPOJ2798 Query on a tree III(Qtree3) 树链剖分

题目传送门:https://www.luogu.org/problemnew/show/P4116 题意:给出一个$N$个节点的树,树点有黑白两种颜色,$Q$次操作,支持转换某个点颜色与查询从$1$号节点到某个点的路径上第一个白点的编号。 然而又是树剖裸题 线段树记录链上最浅的白色节点即可 1 #include<bits/stdc++.h> 2 #define MAXN 100001 3 using namespace std; 4 5 namespace IO{ 6
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

软工之词频统计2.0-结对作业二

目录 写在前面 分工 摘要 解题思路与设计实现 爬虫 思路 代码组织 算法关键 关键代码一:统计出现频率最高的X个词组: 关键代码二:加入权重的词频统计(部分) 附加题设计与展示 设计的创意独到之处 实现思路 实现成果展示 关键代码解释 性能分析与改进 描述你改进的思路 展示性能分析图和程序中消耗最大的函数 单元测试 贴出Github的代码签入记录【1'】 遇到的代码模块异常或结对困难及解决方法 问题描述 做过哪些尝试 是否解决 有何收获 评价队友 值得学习的地方 需要改进的地方 学习进度条
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

HDU 6396 贪心+优先队列+读入挂

Swordsman Time Limit: 2000/1000 MS (Java/Others) Memory Limit: 131072/131072 K (Java/Others) Total Submission(s): 2587 Accepted Submission(s): 791 Problem Description Lawson is a magic swordsman with k kinds of magic attributes v1,v2,v3,…,vk. Now La
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

Many-to-many relationships in EF Core 2.0 – Part 4: A more general abstraction

In the last few posts we saw how to hide use of the join entity from two entities with a many-to-many relationship. This post doesn’t add any additional functionality, it just abstracts some of what we saw so it can be re-used more easily. To start
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

英语音标学习---中元音

资料整理来自英语趣配音:英趣FM栏目Unicorn老师美音实战实练【进阶篇】 参考K.K.音标学习英语的发音, K.K.音标移步百度查找。 【ɝ】这个音需要卷舌, 而且发音一开始就必须卷舌到位。发音时口型微微张开, 舌头中部抬起, 舌尖向上颚的后部卷起, 但不能碰到上颚, 这个音是个重读音, 只有发饱满了才有美感。 例如:her bird girl work nurse person verb first world word Thursday The early bird catches t
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

查看服务器运行多少个ASP.NET Core程序

有时候,我们会想知道某台机器上面跑了什么程序。 当程序部署到IIS上面的时候,我们只需要打开IIS一看,就知道有多少个站点在运行了。 当我们在CentOS上面部署的时候,就没那么的直观了。 当然对于熟悉Linux命令的小伙伴还是很容易的。 下面就来看看如何在CentOS上面查看对应的信息。 说明,本文的所有环境都是基于Jexus的。 查看的命令如下 ps -ef | grep AppHost 输出结果 UID PID PPID C STIME TTY TIM
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

美国比较好的保健品推荐

http://cn.derekyang.us/gift-health-supplement
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

面向对象(OOP)二

一、“魔术”函数 - 自动调用   魔术方法 在面向对象有一些特别的方法,无需特别定义,已自动具备某些功能,例如构造函数__construt,这些方法统称魔术方法,在日后的编程中,可以使用这些方法的特性设计出独特的算法。   __get() 定义:__get(‘属性名’),调用不存在属性时调用     作用: 可通过判断权限让外部直接调用私有属性 防止外部调用不存在属性时报错   __set() 定义: __set(‘属性名’,’值’),定义不存在属性时调用     作用: 可通过判断权限让外
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

Many-to-many relationships in EF Core 2.0 – Part 3: Hiding as ICollection

In the previous post we ended up with entities that hide the join entity from the public surface. However, it was not possible to add or removed entities through this public surface. To enable this we need an ICollection implementation that acts as
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

1.写页面 2.css的继承属性有哪些 3.margin对布局的影响

1. sparent 透明的 2. placeholder 提示语 写页面 1.搞清结构层次 2. 保证模块化 让它们之间不能收到影响。 (1) 元素性质 (2)标准流 浮动带来的脱离文档流撑不起父级的高度的问题可以采用清楚浮动的方式消除影响。 absolute 和fixed 带来的脱离文档流撑不起父级高度,使用子元素设置高强制撑起父级。 1.css可以继承的属性哪些? font系列 text系列 color line-height 2.border-radius 值的问题 四个值的顺序 左上
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

一切归零、从头开始

---恢复内容开始--- 一切从零,从头开始,工作快一年了,突然发现自己很多基础知识很不踏实。 接下来从头再来,带着初学者的饥渴! 从头再来过! 让你不能自拔的,不是问题,而是你看待问题的方式!
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

大数据面试题(二)

基础 1、 hashmap的初始值大小---16 2、 ArrayList的初始值大小---10 3、 hashmap的排序问题 Map<String, Integer> map = new HashMap<String, Integer>(); map.put("d", 2); map.put("c", 1); map.put("b", 1); map.put("a", 3); List<Map.Entry<String, Integer>> infoIds = new ArrayList<
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

mybatis详解(三)

一,动态sql,where,trim,set和foreach parameterType的属性可以不用写 xml文件sql的书写 <select id="queryByParams" parameterType="string" resultMap="usermap" resultType="user"> select id, <choose> <when test="realname!=null and realname!='' "
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

第二次作业:可以定制题数,支持真分数

#include<iostream> using namespace std; void main() {     int fenshuRand;     int numRand1,numRand2;     int fuhaoRand;     int count;     for(count=0;count<30;count++)     {         cout<<"\t("<<count+1<<")\t";         fenshuRand=rand()%2+1;    
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0

Python之参考博客

https://www.cnblogs.com/liwenzhou/p/7999532.html css http://www.cnblogs.com/Eva-J/articles/7277026.html 函数
分类: 其他 发布时间: 10-10 22:50 阅读次数: 0