入门大数据---Spark开发环境搭建

一、安装Spark 1.1 下载并解压 官方下载地址:http://spark.apache.org/downloads.html ,选择 Spark 版本和对应的 Hadoop 版本后再下载: 解压安装包: # tar -zxvf spark-2.2.3-bin-hadoop2.6.tgz 1.2 配置环境变量 # vim /etc/profile 添加环境变量: export SPARK_HOME=/usr/app/spark-2.2.3-bin-hadoop2.6 export
分类: 其他 发布时间: 06-25 20:34 阅读次数: 0

高并发系统设计(六):如何减少频繁创建数据库连接的性能损耗?

数据库的调用方式是先获取数据库的连接,然后依靠这条连接从数据库中查询数据,最后关闭连接释放数据库资源。这种调用方式下,每次执行SQL都需要重新建立连接,频繁地建立数据库连接耗费时间长导致了访问慢的问题。 那么为什么频繁创建连接会造成响应时间慢呢?来看一个实际的测试。 我用"tcpdump -i bond0 -nn -tttt port 4490"命令抓取了线上MySQL建立连接的网络包来做分析,从抓包结果来看,整个MySQL的连接过程可以分为两部分: 第一部分是前三个数据包。第一个数据包是客户
分类: 其他 发布时间: 06-25 20:34 阅读次数: 0

【总结】数据库基础

一.sql分类及基本语法 1.sql分类 (1)DDL:数据库定义语言,用于定义表,列,索引等数据库对象. create,drop,alter等 (2)DML:数据库操纵语言,增删改查数据库的记录insert,delete,update,select等 (3)DCL:数据库控制语言,定义了数据库的表,字段,用户的访问权限和安全级别 grant,revoke等 2.DDL语句 (1)创建数据库:create database test1; (2)删除数据库:drop database test1
分类: 其他 发布时间: 06-25 20:34 阅读次数: 0

sed命令基本使用

1、sed简介 sed是stream editor(流编辑器得缩写),用来处理Linux系统中的文件文本; 2、sed如何处理文件 sed是一行一行读取文件内容并进行处理,最后将处理结果输出到屏幕;   1、首先sed将一行一行读取文件内容,并将其保存到临时一个缓冲区(也称模式空间);   2、然后将根据需求处理临时缓冲区中的内容,完成之后输出到屏幕; sed不加 -i 选项时默认只对缓冲区中得文本进行编辑,并不会对源文件进行修改; 3、sed基本使用操作 sed有两种语法格式分别是命令行模式
分类: 其他 发布时间: 06-25 20:34 阅读次数: 0

逆序对与本质不同的逆序对

题目 Description 给定一个序列a1,a2,…,an,如果存在i<j,a[i]>a[j],那么我们称之为逆序对,求逆序对的数目 Input 第一行为n,表示序列长度,接下来的n行,第i+1行表示序列中的第i个数。 N<=10^5。Ai<=10^5 Output 两行,第一行为所有逆序对总数,第二行为本质不同的逆序对总数。 Sample Input 4 3 2 3 2 Sample Output 3 1 思路: 由题目可知,逆序对是满足,i<j ,a[i]>a[j] 的两个数,
分类: 其他 发布时间: 06-25 20:34 阅读次数: 0

Python爬虫 - scrapy框架的基本操作

scrapy异步的爬虫框架。 异步的爬虫框架。 高性能的数据解析,持久化存储,全栈数据的爬取,中间件,分布式 框架:就是一个集成好了各种功能且具有很强通用性的一个项目模板。 环境安装: Linux: pip3 install scrapy   Windows: a. pip3 install wheel b. 下载twisted http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted c. 进入下载目录,执行 pip3 insta
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

linux安装pm2

在树莓派上安装了node环境,管理nodejs应用还需要安装pm2 ,在此做个记录。 使用命令安装pm2 sudo cnpm install -g pm2 安装完成 使用pm2自带的命令提示未找到命令 这里还需要执行一步操作,看上面安装完毕后的路径信息,把安装的路径做个软链接(即快捷方式) sudo ln -s /usr/local/node/lib/node_modules/pm2/bin/pm2 /usr/local/bin/ 使用 ln -s 命令创建软链接 前面是安装的路径 后面是快捷
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

java-递归(文件查找)

1 import java.io.File; 2 3 /** 4 * @Author: heq 5 * @Date: 2020/6/23 20:51 6 */ 7 public class Test { 8 public static void main(String[] args) { 9 File file = new File("C:");//查找的盘符 10 heq(file); 11 } 12 13 p
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

登录mysql数据库

一:链接: win10 安装 mysql8 图解教程 手动配置mysql8 数据库 登录mysql数据库 二:登录mysql 1: 以 windowns 命令方式登录 首先 在 cmd命令里 切换到mysql的bin目录下 C:\Program Files\MySQL\MySQL Server 8.0\bin>cd C:\Program Files\MySQL\MySQL Server 8.0\bin C:\Program Files\MySQL\MySQL Server 8.0\bin>c
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

初中的英语

in 1999 年份 in summer 季节 on Monday 日期 at 5pm 时间 at night 时间
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

B站 av和bv号互转 py和js版 bigint

参考 https://www.zhihu.com/question/381784377/answer/1099438784 py的可以直接使用 table='fZodR9XQDSUm21yCkr6zBqiveYah8bt4xsWpHnJE7jL5VG3guMTKNPAwcF' tr={} for i in range(58): tr[table[i]]=i s=[11,10,3,8,4,6] xor=177451812 add=8728348608 def dec(x): r=0 for i
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

算术运算测试与猜数字游戏

1 选题 选题一 算术运算测试 题目要求 实现十道100以内加减法数学题,能根据题目计算出答案,与输入答案对比,判断做题是否正确,最后计算分数。(添加排行榜功能存放到文件或数据库中) 能力要求:1. 沟通表达能力 2.资料搜集能力 3.自主学习能力 4. 时间规划能力 5.独立完成项目能力 6.文档撰写能力 7.面向对象编程思维和软件工程思想。 使用Java知识 Java基本输入输出、算数运算符、Java常用类、for循环、while循环、if判断语句、list集合、数据库基础知识、封装、Th
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

Python中的“命名元组”是什么? - What are “named tuples” in Python?

问题: Reading the changes in Python 3.1 , I found something... unexpected: 阅读Python 3.1中的更改后 ,我发现了一些意外…… The sys.version_info tuple is now a named tuple : sys.version_info元组现在是一个命名的元组 : I never heard about named tuples before, and I thought elements c
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

leetcode 1.两数之和(暴力&哈希)

1.题目链接 https://leetcode-cn.com/problems/two-sum/ 2.题目描述 给定一个整数数组 nums 和一个目标值 target,请你在该数组中找出和为目标值的那 两个 整数,并返回他们的数组下标。 你可以假设每种输入只会对应一个答案。但是,你不能重复利用这个数组中同样的元素。 示例: 给定 nums = [2, 7, 11, 15], target = 9 因为 nums[0] + nums[1] = 2 + 7 = 9 所以返回 [0, 1] 3.解题
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

树莓派3B安装DeBian 64位系统及其安装私有云网盘----可道云

一、起源   1.1、先来说说起源吧,楼主呢也是前段时间闲来无事,无聊就随便刷刷B站,结果,一个视频吸引了我的目光,先把视频链接放上把------>https://www.bilibili.com/video/BV15Z4y1j7e3,对就是这个,正好手上淘汰下来的手机没用处,就借此让它发挥发挥最后的余晖吧,另外一个重要的原因吧,楼主的工作呢,算属于半个码农,做单片机的,每次调试大型产品,都要到车间去调试,老是拿U盘拷贝来拷贝去,太麻烦,并且U盘里面的资料比较多,一个不小心掉了,公司就要和楼主
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

模型的加载和保存

pytorch三种模型的加载保存操作 方法1 : PATH表示保存模型的路径和文件名 torch.save(model, PATH) model = torch.load(PATH) model.eval() class Model(nn.Module): def __init__(self, n_input_features): super(Model, self).__init__() self.linear = nn.Linear(n_input_features, 1) def fo
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

Git clone --recursive

前言 看一个学习视频的时候, 提到了一个Git命令↓ git clone --recursive https://github.com/dotnet/extensions.git 对于使用小乌龟{TortoiseGit}选手来说, 这个命令还是值得学习下的. 学习视频中提到一嘴这个命令的作用 把它依赖的一些项目同时下载下来. 但是只是这么听说一下, 更加激起了想要了解这个{--recursive}这个是干嘛用的. 并且也想知道如果用{TortiseGit}执行命令{--recursive}应
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

斯特林数、贝尔数与伯努利数基础

第一类斯特林数(无符号第一类斯特林数)\(\left[ n\atop m\right]\) 表示n个带标号元素划分为m个圆排列(圆排列本身之间不可区分)的方案数。 \[\left[ n\atop m\right]= \left[ n-1\atop m-1\right]+(n-1) \left[ n-1\atop m\right]\\ n!=\sum_{i=0}^{n}\left[ n \atop i \right]\\ \] 第二类斯特林数 \(\left\{ n \atop m \right
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

C++中输入一组不确定长度的数

使用cin.peek()判断输入的是否为换行 int main() { Solution a; vector<int> b; int c = 0; while(cin.peek() != '\n') { cin >> c; b.push_back(c); } cout << a.singleNumber(b) << endl; return 0; } 参考 C++输入一行数据到数组(个数已知与未知
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0

二次剩余基础

普通二次剩余(\(p\)为奇质数) 一、勒让德符号\((\frac{n}{p})\)与欧拉判别 对于正整数\(n\),勒让德符号如下,可直接判别二次剩余: \[\large (\frac{n}{p})=0,n\text{与p同余。} \] \[\large (\frac{n}{p})=1,n\text{是模p的二次剩余。} \] \[\large (\frac{n}{p})=-1,n\text{不是模p的二次剩余。} \] 定理1:在\([0,p-1]\)中,二次剩余至少有\(\frac{p-
分类: 其他 发布时间: 06-25 20:18 阅读次数: 0