Spark(一):Spark简介、生态、应用场景、环境搭建

1 Spark基本概念 1.1Spark是什么 Spark使用Scala语言进行实现,它是一种面向对象、函数式编程语言,能够像操作本地集合对象一样轻松地操作分布式数据集(Scala 提供一个称为 Actor 的并行模型,其中Actor通过它的收件箱来发送和接收非同步信息而不是共享数据,该方式被称为:Shared Nothing 模型)。在Spark官网上介绍,它具有运行速度快、易用性好、通用性强和随处运行等特点。 Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎。Spa
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

多态变化

1.看了多态的实现,类型的检测,还有动态绑定 2.转型这一块有点难懂 3.明天开始static关键字
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

Python学习第141天(Django请求生命周期)

  说到Django的生命周期,就是当用户在浏览器上输入url到用户看到网页的这个时间段内,Django后台所发生的事情。   借用一张大神的图片: 先说大致说一下Django的请求生命周期   首先我们知道HTTP请求及服务端响应中传输的所有数据都是字符串,在Django中,当我们访问一个的url时,会通过路由匹配进入相应的html网页中,当用户在浏览器上输入url到用户看到网页的这个时间段内,而Django的生命周期内到底发生了什么呢??   1. 当用户在浏览器中输入url时,浏览器会生
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

eclipse与idea路径不匹配

https://blog.csdn.net/lkg5211314/article/details/107087325
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

pytest(三)--pycharm运行pytest

上一篇已经介绍了如何在cmd执行pytest用例,那么pycharm下如何运行pytest用例呢? pycharm运行三种方式 1.以xx.py脚本方式直接执行,当写的代码里面没用到unittest和pytest框架时,并且脚本名称不是以test_开头命名的,此时pycharm会以xx.py脚本方式运行。 2.当脚本命名为test_xx.py时,用到unittest框架,此时运行代码,pycharm会自动识别到以unittest方式运行 3.以pytest方式运行,需要改该工程设置默认的运行器
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

Ubuntu Install kitti2bag

项目需要测试建图效果,但是目前我们自己的语义分割训练的效果不是太好,外参矩阵标定的精度也不高,所以打算使用 KITTI 数据集作为测试,为此需要将 KITTI 数据集转为 bag 包方便回放,这里要安装一个 kitti2bag 的工具,记录下安装过程,并不是一步到位。 1. 更新 pip 安装 kitti2bag 安装前提示我更新 pip,我用的 Python2.7 使用的是 pip: pip install --upgrade pip 安装 kitti2bag: pip install k
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

Caused by: org.yaml.snakeyaml.parser.ParserException: while parsing a block mapping

这是在进行application.yml配置是出现的问题,大概意思是说分析块映射时出现的问题,因为.yml文件时配置时是分层的,因此可能是分层不正确导致的 我经过认真的排查后,果然是分级出现了问题,修改后就没有什么问题了
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

HDU - 4790 Just Random 数论,容斥

随机在[a,b] 选取一个数,随即在[c,d]选取一个数 问 x + y 取模 p 同余 n 的概率 其实就是计数问题。关键在于如何计数可以不重不漏。 麻烦点在于分类讨论。对于这样的区间问题,先简化为0 , x 的区间。 这里用到容斥原理,第一次做这样的题,不是很容易想到。 分类讨论相对来说感觉还算简单?只要耐心讨论,总错不了 #pragma warning(disable:4996) #include<iostream> #include<algorithm> #include<bitse
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

MHA 的 Binlog Server & VIP 漂移

Binlog Server 考虑一个问题,如果主库服务器宕机,为了保证数据不丢失,Binlog 如何保存? 另外搭建一台 Binlog Server 服务器,实时同步主库的 Binlog,保证主库 Binlog 不丢失, 此处为了节省资源,将 Binlog Server 与 从库服务器放在一起, 要注意的是,master_binlog_dir 的位置要重新指定一个目录,否则会与从库的 /usr/local/mysql/data 目录下的 Binlog 搞混 在 MHA 配置文件中配置 Binl
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

『一图流』基于CRNN的OCR张量流概览 【OCR技术系列之八】端到端不定长文本识别CRNN代码实现

【OCR技术系列之八】端到端不定长文本识别CRNN代码实现
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

习题:Trucks and Cities(DP)

题目 传送门 思路 我们考虑如果简单一点的情况 设\(f[i][j][c]\)表示区间\(i到j\)能不能用字符\(c\)构成 我们设\(c\)能拓展成\(a\)和\(b\) \(f[i][j][c]|=(f[i][k][a]\&f[k+1][j][b])\) 接着我们考虑对于他们的祖先一个字符一个字符的加入 设\(dp[i][j]\)为\(s_1\)的前i位和\(s_2\)的前\(j\)位的最小祖先长度, \(dp[i][j]=min\{dp[i_1][j_1]+1[f1[i_1][i][c
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

layui多表头

layui多表头 主要是colspan跨几列与rowspan跨几行 cols: [ [ //表头 {type: 'numbers', width: '3%', rowspan: '2', fixed: 'left'}, {field: 'cname', title: '市', align: 'center', width: '100', rowspan: '2', fixed: 'left'},
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

centos6启用网卡

centos6的网卡默认禁用的,而且使用命令#ifup eth0后重启电脑仍然是禁用 [root@linux ~]# ifup {interface} //启动网卡命令 [root@linux ~]# ifdown {interface} //禁用网卡命令 [root@linux ~]# ifup eth0  //启动网卡eth0 所以需要修改文件/etc/sysconfig/network-scripts/ifcfg-eth0 这里使用vi命令来修改 #vi /etc/sysconfig/n
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

0728:二叉树的最大深度

给定一个二叉树,找出其最大深度。 二叉树的深度为根节点到最远叶子节点的最长路径上的节点数。 说明: 叶子节点是指没有子节点的节点。 方法一:递归 ====================Python========================= # Definition for a binary tree node. # class TreeNode: # def __init__(self, x): # self.val = x # self.left = None # self.rig
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

Genetic Algorithms with python 学习笔记ch2

One Max Problem 最大化基因中的数字 ’1‘ ,并且genes只能为 0 或 1 。 1.将基因数据类型改为列表并求解 利用原来的引擎进行求解,修改后的 guessPasswordTest.py 代码如下: import datetime import random import unittest import genetic def get_fitness(guess, target): return sum(1 for expected, actual in z
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

数论杂记——裴蜀定理、拓展欧几里得

裴蜀定理其实就是证明了一个二元一次方程 如果 x y 同时有解 那么一定会有 模板题洛谷P4549 #include <bits/stdc++.h> #define debug freopen("r.txt","r",stdin) #define mp make_pair #define ri register int using namespace std; typedef long long ll; typedef pair<int, int> pii; const int maxn =
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

layui文件列表上传实例

layui文件列表上传实例 <div class="layui-inline" style="margin-left: 132px"> <label class="layui-form-label">文件上传</label> <div class="layui-upload" style="margin-left: 110px"> <button type="button" class="layui-btn "
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

mysql不常用命令

查看mysql端口号 show global variables like 'port'; 查看mysql数据库表数据及结构 show databases; 查看数据库的编码格式
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

第30讲:文件系统——介绍一个高大上的东西

一 模块的基本概念 定义:Python 模块(Module),是一个 Python 文件,以 .py 结尾,包含了 Python 对象定义和Python语句。 2 功能: 模块让你能够有逻辑地组织你的 Python 代码段。 把相关的代码分配到一个模块里能让你的代码更好用,更易懂。 模块能定义函数,类和变量,模块里也能包含可执行的代码。 3 创建:将所需代码保存在文件扩展名为 .py 的文件中的过程即为创建模块的过程 4 导入:我们可以通过 import 语句来导入我们创建的模块 import
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0

将Go程序发布到CentOS

在 项目下 SET CGO_ENABLED=0 SET GOOS=linux SET GOARCH=amd64 go build main.go 这样在main.go同目录下会生产main二进制文件 2.将main二进制文件上传到服务器,还有前端View下面的html 和Content下面的CSS JS文件夹也要上传 3.修改main二进制文件权限 chmod -R 777 main 4.最后执行 ./main 就运行起来了 5.果想让项目在后台执行:执行 nohup ./main &
分类: 其他 发布时间: 07-28 22:48 阅读次数: 0