终于，抱着兴趣，我利用纯数学的手段实现了基于最小二乘法的线性回归模型。这是我昨天的目标（今天我还没有睡觉呢，假设我睡觉后是明天的话），那么我明天希望能够利用纯数学手段实现基于随机梯度下降的线性回归算法模型。
下面是笔者手打的最小二乘法的数学原理,然后我们再利用数学手段对其进行实现即可，也就是利用多元函数的极值求出偏导数而已，其正面过程请参见同济版《高等数学》P110.
利用Python代码表示如下：
#首先引入数据集x,和y的值的大小利用Python的数据结构：列表，来实现。
y=[4,8,13,35,34,67,78,89,100,101]
x=[0,1,2,3,4,5,6,7,8,9]
#然后再引入Python当中的绘图库，用于检测我们利用线性回归得到的结果是否正确
from matplotlib.font_manager import FontProperties
font = FontProperties(fname=r"c:\windows\fonts\msyh.ttc", size=15)
import matplotlib.pyplot as plt
k = 0
for i in range(10):
j = k
k = j+i**2
print(k)
print(i)#实现计算x的平方
a11 = k
k=0
print("\n")#换行，使我们的结果更加清晰
for i in range(10):
#实现计算X的求和
j = k
k = j+i
print(k)
a12 = k
#下面开始计算y*x的求和
k=0
for i in range(10):
j = k
k = j+y[i]*i
print("我们k的大小是{}".format(k))
yixi = k
b1 = yixi
#现在再来计算我们yi求和后的大小
k=0
for i in range(10):
j = k
k = j+y[i]
print(k)
yi = k
b2 = yi
#计算完毕，现在根据求出偏导数后的值计算我们斜率和截距的大小
#根据题意可得到：
a22 = 10
a21 = a12
#因此根据线性代数的克拉默法则，我们可以将其写成一个二阶行列式的形式：
print("现在开始打印行列式的各个值：")
print(a11)
print(a12)
print(a21)
print(a22)#检查无误后开始用克拉默法则进行计算
k = (b1*a22-a12*b2)/(a11*a22-a12*a21)
b = (a11*b2-a21*b1)/(a11*a22-a12*a21)
print("\n")
print("K的大小是：{}".format(k))
print("b的大小是：{}".format(b))
plt.scatter(x,y)
plt.title("利用最小二乘法实现线性单元回归\n制作人：Geeksongs",fontproperties=font)
plt.plot([0,12],[(a11*b2-a21*b1)/(a11*a22-a12*a21),((b1*a22-a12*b2)/(a11*a22-a12*a21))*12+b],linewidth=3,color="black")
plt.show()
最终的结果如图所示：
得解。就怕猝死了。