09.1 数据处理->人工智能
简介
数据表示->数据清洗->数据统计->数据可视化->数据挖掘->人工智能
数据表示:采用合适方式用程序表达数据
数据清理:数据归一化、数据转换、异常值处理
数据统计:数据的概要理解,数量、分布、中位数等
数据可视化:直观展示数据内涵的方式
数据挖掘:从数据分析获得知识,产生数据外的价值
人工智能:数据/语言/图像/视觉等方面深度分析与决策
库介绍
数据处理:
Numpy: 表达N维数组的最基础库,C语言实现,计算速度优异(http://www.numpy.org);
Pandas: Python数据分析高层次应用库基于Numpy开发(http://pandas.pydata.org);
SciPy: 数学、科学和工程计算功能库(http://www.scipy.org)
可视化:
Matplotlib: 高质量的二维数据可视化功能库(http://matplotlib.org);
Seaborn: 统计类数据可视化功能库;
Mayavi:三维科学数据可视化功能库(http://docs.enthought.com/mayavi/mayavi/)
文本处理:
PyPDF2:用来处理pdf文件的工具集;
NLTK:自然语言文本处理第三方库;
Python-docx:创建或更新Microsoft Word文件的第三方库
机器学习:
Scikit-learn:机器学习方法工具集;
TensorFlow:AlphaGo背后的机器学习计算框架;
MXNet:基于神经网络的深度学习计算框架
def pysum():
a = [0,1,2,3,4]
b = [9,8,7,6,5]
c = []
for i in range(len(a)):
c.append(a[i]**2+b[i]**3)
return c
print(pysum())
## numpy库
import numpy as np
def npsum():
a = np.array([0,1,2,3,4])
b = np.array([9,8,7,6,5])
c = a**2 + b**3
return c
print(npsum())
>[729 513 347 225 141]
## "霍兰德人格分析雷达图"实例展示
import numpy as np
import matplotlib.pyplot as plt
import matplotlib
matplotlib.rcParams['font.family'] = 'SimHei' ## 黑体
radar_labels = np.array(['研究型(I)','艺术型(A)','社会型(S)','企业型(E)','常规型(C)','现实型(R)'])
data = np.array([[0.40, 0.32, 0.35, 0.30, 0.30, 0.88],
[0.85, 0.35, 0.30, 0.40, 0.40, 0.30],
[0.43, 0.89, 0.30, 0.28, 0.22, 0.30],
[0.30, 0.25, 0.48, 0.85, 0.45, 0.40],
[0.20, 0.38, 0.87, 0.45, 0.32, 0.28],
[0.34, 0.31, 0.38, 0.40, 0.92, 0.28]]) #数据值
data_labels = ('艺术家','实验员','工程师','推销员','社会工作者','记事员')
angles = np.linspace(0, 2*np.pi, 6, endpoint=False)
data = np.concatenate((data, [data[0]]))
angles = np.concatenate((angles, [angles[0]]))
fig = plt.figure(facecolor="white")
plt.subplot(111, polar=True)
plt.plot(angles,data,'o-', linewidth=1, alpha=0.2)
plt.fill(angles,data, alpha=0.25)
plt.thetagrids(angles*180/np.pi, radar_labels,frac = 1.2)
plt.figtext(0.52, 0.95, '霍兰德人格分析', ha='center', size=20)
legend = plt.legend(data_labels, loc=(0.94, 0.80), labelspacing=0.1)
plt.setp(legend.get_texts(), fontsize='large')
plt.grid(True)
plt.savefig('holland_radar.png')
plt.show()
09.2 Web解析->网络空间
库介绍
网络爬虫:
Requests: 最友好的网络爬虫功能库(http://www.python-requests.org/);
Scrapy: 优秀的网络爬虫框架(https://scrapy.org);
pyspider: 强大的Web页面爬取系统
信息提取:
Beautiful Soup: HTML和XML的解析库(https://www.crummy.com/software/BeautifulSoup/bs4);
Re: 正则表达式解析和处理功能库(https://docs.python.org/3.6/library/re.html);
Python-Goose: 提取文章类型Web页面的功能库(https://github.com/grangier/python-goose)
网站开发:
Django: 最流行的Web应用框架(MTV)(https://www.djangoproject.com);
Pyramid: 规模适中的Web应用框架(https://trypyramid.com/);
Flask: Web应用开发微框架(http://flask.pocoo.org)
应用开发:
WeRoBot: 微信公众号开发框架(https://github.com/offu/WeRoBot);
aip: 百度AI开放平台接口(https://github.com/Baidu-AIP/python-sdk);
MyQR: 二维码生成第三方库(https://github.com/sylnsfar/qrcode)
## Pyramid
from wsgiref.simple_server import make_server
from pyramid.config import Configurator
from pyramid.response import Response
def hello_world(request):
return Response('Hello World!')
if __name__ == '__main__':
with Configurator() as config:
config.add_route('hello', '/')
config.add_view(hello_world, route_name='hello')
app = config.make_wsgi_app()
server = make_server('0.0.0.0', 6543, app)
server.serve_forever()
## Flask
from flask import Flask
app = Flask(__name__)
@app.route('/')
def hello_world():
return 'Hello, World!'
## WeRoBot
import werobot
robot = werobot.WeRoBot(token='tokenhere')
@robot.handler
def hello(message):
return 'Hello World!'
09.3 人机交互->艺术设计
库介绍
图形用户界面:
PyQt5: Qt开发框架的Python接口(https://www.riverbankcomputing.com/software/pyqt);
wxPython: 跨平台GUI开发框架
PyGObject: 使用GTK+开发GUI的功能库
游戏开发:
PyGame: 简单的游戏开发功能库(http://www.pygame.org);
Panda3D: 开源、跨平台的3D渲染和游戏开发库;
cocos2d: 构建2D游戏和图形界面交互式应用的框架
虚拟现实:
VR Zero: 在树莓派上开发VR应用的Python库;
pyovr: Oculus Rift的Python开发接口;
Vizard: 基于Python的通用VR开发引擎(http://www.worldviz.com/vizard-virtual-reality-software);
图形艺术:
Quads: 迭代的艺术(https://github.com/fogleman/Quads);
ascii_art: ASCII艺术库(https://github.com/jontonsoup4/ascii_art);
turtle: 海龟绘图体系(https://docs.python.org/3/library/turtle.html);
## PyGObject
import gi
gi.require_version("Gtk", "3.0")
from gi.repository import Gtk
window = Gtk.Window(title="Hello World")
window.show()
window.connect("destroy", Gtk.main_quit)
Gtk.main()
## 玫瑰花
import turtle as t
# 定义一个曲线绘制函数
def DegreeCurve(n, r, d=1):
for i in range(n):
t.left(d)
t.circle(r, abs(d))
# 初始位置设定
s = 0.2 # size
t.setup(450*5*s, 750*5*s)
t.pencolor("black")
t.fillcolor("red")
t.speed(100)
t.penup()
t.goto(0, 900*s)
t.pendown()
# 绘制花朵形状
t.begin_fill()
t.circle(200*s,30)
DegreeCurve(60, 50*s)
t.circle(200*s,30)
DegreeCurve(4, 100*s)
t.circle(200*s,50)
DegreeCurve(50, 50*s)
t.circle(350*s,65)
DegreeCurve(40, 70*s)
t.circle(150*s,50)
DegreeCurve(20, 50*s, -1)
t.circle(400*s,60)
DegreeCurve(18, 50*s)
t.fd(250*s)
t.right(150)
t.circle(-500*s,12)
t.left(140)
t.circle(550*s,110)
t.left(27)
t.circle(650*s,100)
t.left(130)
t.circle(-300*s,20)
t.right(123)
t.circle(220*s,57)
t.end_fill()
# 绘制花枝形状
t.left(120)
t.fd(280*s)
t.left(115)
t.circle(300*s,33)
t.left(180)
t.circle(-300*s,33)
DegreeCurve(70, 225*s, -1)
t.circle(350*s,104)
t.left(90)
t.circle(200*s,105)
t.circle(-500*s,63)
t.penup()
t.goto(170*s,-30*s)
t.pendown()
t.left(160)
DegreeCurve(20, 2500*s)
DegreeCurve(220, 250*s, -1)
# 绘制一个绿色叶子
t.fillcolor('green')
t.penup()
t.goto(670*s,-180*s)
t.pendown()
t.right(140)
t.begin_fill()
t.circle(300*s,120)
t.left(60)
t.circle(300*s,120)
t.end_fill()
t.penup()
t.goto(180*s,-550*s)
t.pendown()
t.right(85)
t.circle(600*s,40)
# 绘制另一个绿色叶子
t.penup()
t.goto(-150*s,-1000*s)
t.pendown()
t.begin_fill()
t.rt(120)
t.circle(300*s,115)
t.left(75)
t.circle(300*s,100)
t.end_fill()
t.penup()
t.goto(430*s,-1070*s)
t.pendown()
t.right(30)
t.circle(-600*s,35)
t.done()