数学分析笔记1：数列的极限

数集的确界

定义1.1 对于数系 $S$
(1) $E\subset S$是一个数集， $r\in S$，如果 $\forall x\in E$, $x\le r$，则称 $E$有上界， $r$是 $E$的上界
(2) $E\subset S$是一个数集， $r\in S$，如果 $\forall x\in E$, $x\ge r$，则称 $E$有下界， $r$是 $E$的下界
(3) $E\subset S$是一个数集，如果 $\exists r\in S$， $r>0$， $\forall x\in E$， $|x|\le r$，则称 $E$是有界集

实际上，由该定义可以很容易的得出

定理1.1 对于数系 $S$，集合 $E\subset S$有界的充要条件是 $E$既有上界又有下界

现在的问题是，我们希望从所有上界中取得一个"最小"的上界，从所有下界中取得一个"最大"的下界。如何理解这句话呢？实际上，如果 $r$是 $E$的上界，那么，由传递性可以很容易推出比 $r$大的所有数都是上界，那么自然我们希望找尽可能小的上界，小到什么程度呢？用通俗的话讲就是比它更小的数不再是上界，换句话讲，如果要成为这个集合的上界，那么就要比这个"最小"的上界的要大，这就是所谓的"最小"的上界。这个想法在数学上严格的定义就是

定义1.2 对于数系 $S$，集合 $E\subset S$，若存在数 $M\in S$( $m\in S$)，满足：
(1) $M$( $m$)是 $E$的上界（下界）
(2)若存在 $M^{\prime}$( $m^{\prime}$)也是 $E$的上界（下界），则 $M^{\prime}\ge M$( $m^{\prime}\le m$)
则称 $M(m)$是 $E$的上确界(下确界),记为 $M=\sup{(E)}(m=\inf{(E)})$

当然以上定义的(2)是从所有的上界都要比这个上界要大的角度来定义。还可以换个角度来定义，所谓"最小"的上界，还可以从比它小的数都不是上界来定义，那么，"比它小的数都不是上界"这个命题，在数学上如何用形式逻辑的符号表示出来呢？显然，一个数 $r$是集合 $S$的上界，等价于 $\forall x\in E$， $x\le r$，那么它的否命题就是 $\exists x_0\in E$， $x_0>r$，这就是不是上界的定义。据此，以上定义的(2)还可换个表述

定理1.2 对于数系 $S$，集合 $E\subset S$，数 $M\in S$( $m\in S$)， $M(m)$是 $E$的上(下)界，则 $M=\sup{(E)}(m=\inf{(E)})$的充要条件是 $\forall r<M(\forall r>m)$， $\exists x_0 \in E$， $x_0 >r(x_0<r)$

证：
仅证明上确界情形，下确界情形的证明是类似的。
充分性：如果 $\forall r<M$， $\exists x_0 \in E$， $x_0 >r$，假设 $M^{\prime}$是 $E$的上界，反证法，如果 $M^{\prime}<M$，则 $\exists x_0 \in E$， $x_0>M^{\prime}$，按照上界的定义 $M^{\prime}$不是 $E$的上界，因此 $M^{\prime}\ge M$，这样就证得 $M$是上确界。
必要性：如果 $M=\sup{(E)}$，则如果 $\exists r<M$, $\forall x\in E$， $x\le r$，则 $r$是 $E$的上界，且 $r<M$，又与上确界的定义是矛盾的，而且否命题就是 $\forall r<M$, $\exists x_0\in E$， $x_0>r$

是否对任何有上界的集合上确界都存在，有下界的集合下确界都存在呢？答案是要看具体到哪个数系。在有理数系这个说法是不成立的，举一个简单的例子 $\{x>0:x\in Q,x^2<2\}$，这个数集在有理数系中找不到一个上确界，但毫无疑问是有一个有理数上界的。之所以找不到，是因为有理数系"遗漏"了一些数，至少遗漏了这个集合的上界。因此，我们就需要更广的数系，就是实数系。实数系是有理数系的扩充，具体的扩充方式可以通过戴德金分割，也可定义无限不循环小数，不论以何种方式，都有

定理1.3(确界定理） 非空有上界（有下界）的实数集必有上确界（下确界）
我们再规定无上界的集合的上确界为 $+\infty$，无下界的集合的下确界为 $-\infty$，接下来，我们给出上下确界的一些性质，这些性质来源于数学分析课本的例题，列举如下：

例1.1 A,B是两个非空有上界的实数集，定义 $A+B=\{a+b:a\in A,b\in B\}$，证明： $\sup{(A+B)}=\sup{(A)}+\sup{(B)},\inf{(A+B)}=\inf{(A)}+\inf{(B)}$

证：
仅证明上确界情形，下确界情形的证明是类似的。
$\forall a+b\in A+B$， $a\in A,b\in B$，由上确定定义(1)，有 $a\le \sup{(A)},b\le \sup{(B)}$。因此， $a+b\le \sup{(A)}+\sup{(B)}$。从而， $\sup{(A)}+\sup{(B)}$是 $A+B$的上界。
再证明 $\sup{(A)}+\sup{(B)}$是 $A+B$的上确界，实际上，对任意的 $\varepsilon>0$，存在 $a_0\in A$, $a_0>\sup{(A)}-\frac{\varepsilon}{2}$，存在 $b_0\in A$， $b_0>\sup{(B)}-\frac{\varepsilon}{2}$， $a_0+b_0>\sup{(A)}+\sup{(B)}-\varepsilon$，这就证明了 $\sup{(A)}+\sup{(B)}$是 $A+B$的上确界

例1.2设函数 $f(x)$在 $D$上有定义，证明：
(1) $\sup_{x\in D}\{-f(x)\}=-\inf_{x\in D}\{f(x)\}$
(2) $\inf_{x\in D}\{-f(x)\}=-\sup_{x\in D}\{f(x)\}$

证：
仅证明(1),(2)的证明是类似的
记 $m=\inf_{x\in D}\{f(x)\}$， $\forall x\in D$，都有 $f(x)\ge m$，从而 $-f(x)\le -m$，因此， $-m\ge \sup_{x\in D}\{-f(x)\}$。
其次，由上确界的定义(1)，有 $\forall x\in D$， $-f(x)\le \sup_{x\in D}\{-f(x)\}$，从而， $f(x) \ge -\sup_{x\in D}\{-f(x)\}$，因此， $-\sup_{x\in D}\{-f(x)\}\le m$，综上， $m=-\sup_{x\in D}\{-f(x)\}$

例1.3 设 $f(x)$和 $g(x)$都是定义在 $D$上的有界非负函数，证明： $\inf_{x\in D}\{f(x)\}\inf_{x\in D}\{g(x)\}\le \inf_{x\in D}\{f(x)g(x)\}\le \sup_{x\in D}\{f(x)\}\inf_{x\in D}\{g(x)\}$

证：
首先 $\inf_{x\in D}\{f(x)\}\ge 0,\inf_{x\in D}\{g(x)\}\ge 0$， $\forall x\in D$，按下确界的定义，就有 $f(x)g(x)\ge \inf_{x\in D}\{f(x)\}g(x) \ge \inf_{x \in D}\{f(x)\}\inf_{x\in D}\{g(x)\}$于是 $\inf_{x \in D}\{f(x)\}\inf_{x\in D}\{g(x)\}$是 $\{f(x)g(x):x\in D\}$的一个下界，再由下确界的定义，就有 $\inf_{x\in D}\{f(x)g(x)\}\ge \inf_{x \in D}\{f(x)\}\inf_{x\in D}\{g(x)\}$这就证得了不等式的左半边，下面证明不等式的右半边
分类讨论，如果 $\sup_{x\in D}\{f(x)\}=0$，则 $f(x)=0,\forall x\in D$，这样 $f(x)g(x)=0,\forall x\in D$，因此， $\inf_{x\in D}\{f(x)g(x)\}=0$，不等式自然成立
如果 $\sup_{x\in D}\{f(x)\}>0$，首先，由上确界和下确界的定义有 $\inf_{x\in D}\{f(x)g(x)\}\le f(x)g(x)\le \sup_{x\in D}\{f(x)\}g(x) , \forall x\in D$因此， $\forall x\in D$，都有 $g(x)\ge \frac{\inf_{x\in D}\{f(x)g(x)\}}{\sup_{x\in D}\{f(x)\}}$由下确界的定义，有 $\inf_{x\in D}\{g(x)\} \ge \frac{\inf_{x\in D}\{f(x)g(x)\}}{\sup_{x\in D}\{f(x)\}}$移项即可证得结论

例1.4 定义有界函数 $f(x)$在闭区间 $[a,b]$上的振幅为 $\omega_{f}[a,b]=\sup_{x\in [a,b]}f(x)-\inf_{x\in [a,b]}f(x)$证明： $\omega_f[a,b]=\sup_{x^{\prime},x^{\prime\prime}\in[a,b]}|f(x^{\prime})-f(x^{\prime\prime})|$

证：
首先， $\forall x^{\prime},x^{\prime\prime}\in [a,b]$，不妨设 $f(x^{\prime})\ge f(x^{\prime\prime})$， $f(x^\prime)\le \sup_{x\in [a,b]}f(x)$, $f(x^{\prime\prime})\ge \inf_{x\in [a,b]}f(x)$，于是，就有 $|f(x^\prime)-f(x^{\prime\prime})|=f(x^\prime)-f(x^{\prime\prime})\le \sup_{x\in [a,b]}f(x)-\inf_{x\in [a,b]}f(x)$由上确界的定义，就有 $\sup_{x^\prime,x^{\prime\prime}\in [a,b]}|f(x^\prime)-f(x^{\prime\prime})|\le \sup_{x\in [a,b]}f(x)-\inf_{x\in [a,b]}f(x)$对任意的 $\varepsilon>0$， $\exists x^\prime \in [a,b]$， $f(x^\prime)>\sup_{x\in[a,b]}f(x)-\frac{\varepsilon}{2}$, $\exists x^{\prime\prime}\in [a,b]$, $f(x^{\prime\prime})<\inf_{x\in [a,b]}f(x)+\frac{\varepsilon}{2}$，于是 $\sup_{x^\prime,x^{\prime\prime}\in [a,b]}|f(x^\prime)-f(x^{\prime\prime})|\ge f(x^\prime)-f(x^{\prime\prime})>\sup_{x\in [a,b]}f(x)-\inf_{x\in [a,b]}f(x)-\varepsilon$由 $\varepsilon$的任意性，就得到 $\sup_{x^\prime,x^{\prime\prime}\in [a,b]}|f(x^\prime)-f(x^{\prime\prime})|\ge\sup_{x\in [a,b]}f(x)-\inf_{x\in [a,b]}f(x)$综合两个不等式，就有 $\sup_{x^\prime,x^{\prime\prime}\in [a,b]}|f(x^\prime)-f(x^{\prime\prime})|=\sup_{x\in [a,b]}f(x)-\inf_{x\in [a,b]}f(x)$

数列的极限

数列极限的定义与性质

定义1.3 $\{x_n\}$是实数列，如果存在实数 $x$， $\forall \varepsilon>0$，存在正整数 $N$，当 $n\ge{N}$时，都有
$|x_n-x|<\varepsilon$则称 $\{x_n\}$是收敛的， $x$是 $\{x_n\}$的极限，记为 $\lim_{n \to \infty}{x_n}=x$，否则称 $\{x_n\}$是发散的

数列极限有如下的性质
定理1.4（唯一性) 收敛数列 $\{x_n\}$的极限是唯一的

证：
$\lim_{n\to\infty}{x_n}=a$ $\lim_{n\to\infty}{x_n}=b$用反证法证明，如果 $a\neq b$，不失一般性，假设 $a<b$，那么
令 $\varepsilon_0=\frac{b-a}{2}$，存在正整数 $N_1$，当 $n\ge N_1$时，都有 $|x_n-a|<\varepsilon_0$即 $x_n<\frac{b+a}{2}$同理，存在正整数 $N_2$,当 $n\ge N_2$时，都有 $|x_n-b|<\varepsilon_0$即 $x_n>\frac{b+a}{2}$也就是说， $n\ge\max{N_1,N_2}$时，两个不等式矛盾，矛盾产生的原因是假设了极限是不唯一的，证毕。

另外，收敛序列都有一个共同的特点，就是有界
定理1.5 收敛序列都是有界序列

证：
设 $\{x_n\}$是收敛列，设 $x_n\to x$，令 $\varepsilon_0=1$，存在正整数 $N$，当 $n\ge N$时，都有
$|x_n-x|<\varepsilon_0$
这样，
$x_n\le \max(x_1,\cdots,x_N,|x+1|,|x-1|)$
这就证明了 $\{x_n\}$是有界的，证毕

定理1.6(1)若 $\exists N>0$， $n\ge N$时，都有 $x_n\ge y_n$，并且 $\{x_n\}$和 $\{y_n\}$都是收敛列， $x_n\to x$， $y_n \to y$，则 $x\ge y$（2）若 $\{x_n\}$和 $\{y_n\}$都是收敛列， $x_n \to x$， $y_n\to y$， $x<y$，则存在正整数 $N$， $n\ge{N}$时，都有 $x_n<y_n$

定理1.6的一个推论是极限的保号性，即
推论1.1（极限的保号性）(1)若 $\exists N\ge{1}$， $n\ge N$时，都有 $x_n\ge 0(\le 0)$，并且 $\{x_n\}$收敛，并且 $x_n\to x$则 $x\ge 0(\le 0)$
(2)如果 $x_n\to x$, $x>0(<0)$，则存在正整数 $N$， $n\ge N$时，都有 $x_n>0$

下面我们来证明定理1.6：

证：
我们先证明结论（2），再用反证法证明（1），令 $\varepsilon_0=\frac{y-x}{2}$，存在正整数 $N_1$，当 $n\ge N_1$时，都有 $x_n<x+\frac{y-x}{2}=\frac{y+x}{2}$又存在正整数 $N_2$，当 $n\ge N_2$时，都有 $y_n>y-\frac{y-x}{2}=\frac{y+x}{2}$综合两式，当 $n\ge{\max(N_1,N_2)}$时，有
$y_n>\frac{y+x}{2}>x_n$
接下来再来证明（1），如果 $x<y$，由（2），就存在正整数 $N$， $n\ge N$时，有 $x_n<y_n$矛盾，因此， $x\ge y$

下面，我们可以证明极限的四则运算性质
定理1.7（极限的四则运算）
(1) $x_n\to x$, $y_n\to y$，则 $\{x_n\pm{y_n}\}$也收敛，并且 $x_n\pm{y_n}\to{x\pm{y}}$
(2) $x_n\to x$, $y_n\to y$，则 $\{x_n{y_n}\}$也收敛，并且 $x_n{y_n}\to{x{y}}$
(3) $x_n\to x$, $y_n\to y$， $y_n\neq{0}$，则 $\{\frac{x_n}{y_n}\}$也收敛，并且 $\frac{x_n}{y_n}\to{\frac{x}{y}}$

证:
（1） $\forall \varepsilon >0$， $\exists N_1$， $\forall n\ge{N_1}$，有
$|x_n-x|<\frac{\varepsilon}{2}$
$\exists N_2$， $\forall n\ge{N_2}$，有
$|y_n-y|<\frac{\varepsilon}{2}$
于是，有
$|(x_n\pm y_n)-(x\pm y)|\le (|x_n-x|+|y_n-y|) <\frac{\varepsilon}{2}+\frac{\varepsilon}{2}=\varepsilon$
（2）首先，作估计 $|x_n{y_n} - xy|=|x_n{y_n}-x_n{y}+x_n{y}-xy|\le |x_n||y_n-y|+|y||x_n-x|$再由 $\{x_n\}$是收敛列，因此， $\{x_n\}$有界，设 $x_n\le M>0$，这样不等式就可以进一步放大为 $|x_n{y_n}-xy|\le M|y_n-y|+(|y|+1)|x_n-x|$对任意的正数 $\varepsilon>0$，存在正整数 $N_1$，当 $n\ge N_1$时，都有 $|y_n-y|<\frac{\varepsilon}{2M}$又存在正整数 $N_2$，当 $n\ge N_2$时，有 $|x_n-x|<\frac{\varepsilon}{2(|y|+1)}$当 $n\ge\max(N_1,N_2)$时，有
$|x_n{y_n}-xy|<M(\frac{\varepsilon}{2M})+(|y|+1)(\frac{\varepsilon}{2(|y|+1)})=\varepsilon$
(3)我们先证明 $\frac{1}{y_n}\to{\frac{1}{y}}$:
考察估计式： $|\frac{1}{y_n}-\frac{1}{y}|=|\frac{y-y_n}{y{y_n}}|=\frac{|y_n-y|}{|y||y_n|}$不失一般性，不妨设 $y>0$，令 $\varepsilon_0=\frac{y}{2}$，存在正整数 $N_0$，当 $n\ge N_0$时，有 $y_n-y>-\varepsilon_0$即 $y_n>\frac{y}{2}$从而 $\frac{1}{y_n}<\frac{2}{y}$有 $|\frac{1}{y_n}-\frac{1}{y}|\le{\frac{2|y_n-y|}{y^2}}$对任意的 $\varepsilon>0$，存在正整数 $N_1$， $n\ge N_1$时，有
$|y_n-y|<\frac{y^2\varepsilon}{2}$
再代入到估计式中即可证得结论
再应用(2)的结论即可证得(3)

极限存在的判断方法

定理1.8（夹逼定理） $\{x_n\}$和 $\{y_n\}$收敛到同一个实数 $A$，并且对任意的 $n\ge{1}$，都有 $x_n\le{z_n}\le{y_n}$则 $\lim_{n\to\infty}{z_n}=A$

证：
对任意的正数 $\varepsilon>0$，存在正整数 $N_1$，当 $n\ge N_1$时，都有 $A-\varepsilon<y_n<A+\varepsilon$又存在正整数 $N_2$，当 $n\ge{N_2}$时，都有 $A-\varepsilon<x_n<A+\varepsilon$当 $n\ge{\max(N_1,N_2)}$时，有 $A-\varepsilon<x_n\le{z_n}\le{y_n}<A+\varepsilon$从而 $|z_n-A|<\varepsilon$证毕

例1.5 证明 $\lim_{n\to \infty}{n^{\frac{1}{n}}}=1$

证：
首先， $n^{\frac{1}{n}}\ge{1}$
另外，令 $h_n=n^{\frac{1}{n}}-1$，有 $n=(1+h_n)^n$由二项式定理 $n={1+nh_n+\frac{n(n-1)h_n^2}{2}+\cdots+h_n^n}\ge\frac{n(n-1)h_n^2}{2}$从而 $h_n\le\sqrt{\frac{2}{n-1}}$有 $0\le{h_n}\le{\sqrt{\frac{2}{n-1}}}$再应用夹逼定理，有 $\lim_{n\to \infty}{h_n}=0$

另一个重要的的极限判断准则是单调收敛定理：
定理1.9 单调上升（下降）有上界（下界）的数列必有极限

证：
设 $\{x_n\}$是单调上升的，并且由上界的，设 $M=\sup_{n\ge{1}}{x_n}$，对任意的 $\varepsilon>0$，存在 $n_0$满足： $x_{n_0}>M-\varepsilon$当 $n\ge{n_0}$时，有 $M\ge{x_n}\ge{x_{n_0}}>M-\varepsilon$故 $|x_n-M|<\varepsilon$单调下降有下界序列的证明是类似的，这里省略

证明过程也表明了单调序列的极限就是上下确界，下面，我们证明一个最重要的极限
例1.6 证明 $\{(1+\frac{1}{n})^n\}$单调上升，且有上界

证:
首先证明数列 $\{(1+\frac{1}{n})^n\}$是单调上升的，也就是说 $(1+\frac{1}{n})^n\le{(1+\frac{1}{n+1})^{n+1}}$两边开 $n+1$次方根，就等价于证明 $(1+\frac{1}{n})^(\frac{n}{n+1})\le{1+\frac{1}{n+1}}$由均值不等式，有 $(1+\frac{1}{n})^(\frac{n}{n+1})\le{\frac{1+n(1+\frac{1}{n})}{n+1}}=1+\frac{1}{n+1}$这就证明了 $\{(1+\frac{1}{n})^n\}$是单调上升的，只需要证明其有上界即可
实际上，由二项式定理，有 $(1+\frac{1}{n})^n=\sum_{k=0}^{n}{\frac{n!}{k!(n-k)!}(\frac{1}{n})^k}\\ =\sum_{k=0}^{n}{\frac{1}{k!}[(1-\frac{1}{n})\cdots(1-\frac{n-k+1}{n})]}\\ \le{\sum_{k=0}^{n}{\frac{1}{k!}}} \le{1+1+\sum_{k=2}^{n}{\frac{1}{k(k-1)}}}\\ =2+1-\frac{1}{n}\le{3}$这就证明 $\{(1+\frac{1}{n})^n\}$有上界

由单调收敛原理， $\{(1+\frac{1}{n})^n\}$有极限，记其极限为 $e$，就称为自然对数

无穷大量和无穷小量

定义1.5 $\{x_n\}$是实数列，如果 $\lim_{n\to \infty}{x_n}=0$，则称 $\{x_n\}$是无穷小量
定理1.7 $\lim_{n\to\infty}{x_n}=x$的充分必要条件是 $\{x_n-x\}$是无穷小量
证明是容易的，这里省略

无穷小量具有如下性质：
定理1.10
(1) $\{x_n\}$和 $\{y_n\}$都是无穷小量，则 $\{x_n\pm y_n\}$也是无穷小量
(2) $\{x_n\}$是无穷小量， $\{y_n\}$是有界数列，则 $\{x_n y_n\}$是无穷小量

证:
(1)由极限的四则运算性质就可以得到
(2)设 $y_n\le{M>0}$，对任意的正数 $\varepsilon>0$，存在正整数 $N$，当 $n\ge N$时，都有
$|x_n|\le\frac{\varepsilon}{M}$，此时，
$|x_n y_n|=|x_n||y_n|\le{|x_n|M}<M\frac{\varepsilon}{M}=\varepsilon$

无穷小量虽然是依托极限定义的，但在很多情况下，无穷小量是一个非常有用的工具，在介绍完无穷小量的阶之后，我们对这点会有更清晰的认识。无穷大量是无穷小量的一个对立的概念，下面我们给出一个收敛的无穷的定义。
定义1.6 (1)如果实数列 $\{x_n\}$满足：对任意的正数 $M>0$，都存在正整数 $N$，当 $n\ge N$时，都有 $x_n>M$则记 $\lim_{n\to \infty}{x_n}=+\infty$，称 $\{x_n\}$是正无穷大量
(2)如果实数 $\{x_n\}$满足：对任意的正数 $M>0$，都存在正整数 $N$，当 $n\ge N$时，都有 $x_n<-M$则记 $\lim_{n\to \infty}{x_n}=-\infty$，称 $\{x_n\}$是负无穷大量
(3)如果 $\lim_{n\to\infty}{|x_n|}=+\infty$，则称 $\{x_n\}$是无穷大量

定理1.11 $\{x_n\}$是无穷大量的充分必要条件是 $\{\frac{1}{x_n}\}$是无穷小量

证：
必要性：如果 $\{x_n\}$是无穷大量，那么对任意的正数 $\varepsilon>0$，都存在正整数 $N$，当 $n\ge N$时，都有 $|x_n|>\frac{1}{\varepsilon}$这样， $|\frac{1}{x_n}|<\varepsilon$充分性：如果 $\{\frac{1}{x_n}\}$是无穷小量，对任意的正数 $M>0$，存在正整数 $N$，当 $n\ge N$时，都有 $|\frac{1}{x_n}|<\frac{1}{M}$因此， $|x_n|>M$

也就是说，实际上，无穷大量和无穷大量是互为倒数的关系，所以很多时候，对无穷大量的命题，可以转化成无穷小量的命题来进行证明。
同样地，我们也可以给出无穷大量的一些运算性质，如下：
定理1.12
(1) $\{x_n\}$是无穷大量， $\{y_n\}$是有界变量，则 $\{x_n\pm y_n\}$是无穷大量
(2) $\{x_n\}$是无穷大量，存在正数 $m>0$及正整数 $N$，当 $n\ge N$时，有 $|y_n|>m$，则 $\{x_n y_n\}$是无穷大量
(3) $\{x_n\}$是正(负)无穷大量， $\{y_n\}$是有界变量，那么 $\{x_n\pm y_n\}$是正(负)无穷大量
(4) $\{x_n\}$是正(负)无穷大量的充分必要条件是 $\{-x_n\}$是负(正)无穷大量
(5) $\{x_n\}$和 $\{y_n\}$是正(负)无穷大量，则 $\{x_n+y_n\}$是正(负)无穷大量
(6) $\{x_n\}$是正无穷大量，存在正数 $m>0$及正整数 $N$，当 $n\ge N$时，都有 $y_n\ge m$，则 $\{x_n y_n\}$也是正无穷大量

证：
(1)设 $|y_n|\le{M>0}$，则考察不等式 $|x_n+y_n|\ge |x_n|-|y_n| \ge |x_n|-M$对任意的正数 $M_2>0$，存在正整数 $N$，当 $n\ge N$时，都有 $|x_n|\ge M_2+M$有 $|x_n+y_n|\ge M_2+M-M=M_2$(2)当 $n\ge N$时，考察不等式 $|x_n y_n|\ge |x_n||y_n|\ge m|x_n|$对任意的正数 $M>0$，存在正整数 $N_1$，当 $n\ge N_1$时，有
$|x_n|\ge \frac{M}{m}$，
从而当 $n\ge\max(N,N_1)$时，有 $|x_n y_n|\ge m\frac{M}{m}=M$(3)(4)(5)(6)的证明是类似的，这里省略

如果我们把收敛到有限实数和正负无穷视为广义收敛，那么，我们可以认为，所有的单调序列都是广义收敛的，极限是其对应的确界

无穷小量的比较

我们知道无穷小量和有界变量的乘积还是无穷小量，但无穷小量和无穷大量的乘积就不一定是无穷小量或者是无穷大量了。
例1.7 (1) $\lim_{n\to \infty}{n\frac{1}{n}}=1$，这说明无穷大量和无穷小量的乘积可能收敛到有限实数\
(2) $\lim_{n\to \infty}{n^2\frac{1}{n}}=\lim_{n\to\infty}{n}=+\infty$，无穷大量和无穷小量的乘积可能还是无穷小量\
(3) $\lim_{n\to\infty}{n\frac{1}{n}sin(\frac{1}{n})}$不存在，无穷大量和无穷小量的乘积还可能不是广义收敛的

由定理1.12，我们只要无穷大量和无穷小量是互为倒数的关系，如果 $\{x_n\}$和 $\{y_n\}$是两个无穷小量，并且 $y_n\neq 0$，则它们的比值 $\frac{x_n}{y_n}$可能极限存在，可能收敛到正负无穷，也可能不是广义收敛的，这就由无穷小量的阶的概念
定义1.7 $\{x_n\}$和 $\{y_n\}$是两个无穷小量，则
(1)如果 $\frac{x_n}{y_n}\to 0$，则称 $\{x_n\}$是 $\{y_n\}$的高阶无穷小，记为
$x_n=o(y_n)$
(2)如果 $\frac{x_n}{y_n}\to x\neq 0$，则称 $\{x_n\}$是 $\{y_n\}$的同阶无穷小
(3)如果 $\frac{x_n}{y_n}\to 1$，则称 $\{x_n\}$和 $\{y_n\}$是等价无穷小，记为 $x_n \sim y_n$

按照定义，如果 $x_n=o(y_n)$，那么在 $n$足够大时，就有 $x_n<y_n$如果 $\{x_n\}$和 $\{y_n\}$是同阶无穷小，那么，在 $n$足够大时，就可以认为 $x_n\approx x y_n$特别地，如果 $x_n \sim y_n$， $n$足够大时，就可以认为 $x_n \approx y_n$等价无穷小的一个重要作用是在求解某些不定式的极限时，可以替换成相应的等价无穷小，从而简化计算。

数列的上下极限

对于数列 $\{x_n\}$而言，数列的极限不一定存在，然而，数列的上下极限通常是存在的，数列的上下极限是后面分析问题的一个重要的工具。因此本节对数列的上下极限进行详细的介绍。
对于两个实数集 $E_1,E_2$，如果 $E_1\subset E_2$，则有 $\inf(E_2)\le\inf(E_1)\le\sup(E_1)\le\sup(E_2)$实际上，数列收敛等价于随着 $n\to\infty$，数列的振幅趋向于0，那么，怎么表示出"振幅"的概念呢？仿照例\ref{ex1}，可以知道，数列在 $n\to\infty$的过程中，某个时刻之后的振幅可以表示为 $\omega_n\{x_n\}=\sup_{k\ge n}\{x_k\}-\inf_{k\ge n}\{x_k\}$，从直观上看，应当有结论：如果 $\omega_n\to 0$，就有 $\{x_n\}$收敛的结论，并且这应当是等价。后面我们将说明这个事实。
给定有界数列 $\{x_n\}$，实际上我们可以得到两个数列 $\{\sup_{k\ge n}\{x_n\}\},\{\inf_{k\ge n}\{x_n\}\}$，前者是单调递减的，后者是单调上升的。即令 $M_n=\sup_{k\ge n}\{x_n\},m_n=\inf_{k\ge n}\{x_n\}$，就有 $M_1\ge M_2\ge \cdots M_n \ge m_n \ge \cdots \ge m_2 \ge m_1$可见 $\{M_n\}$有下界 $m_1$， $\{m_n\}$有上界 $M_1$，由单调有界收敛原理， $\{M_n\}$和 $\{m_n\}$都收敛，并且 $\lim_{n\to\infty}{M_n}=\inf_{n\ge 1}\sup_{k\ge n}{x_k}$ $\lim_{n\to\infty}{m_n}=\sup_{n\ge 1}\inf_{k\ge n}{x_k}$定义有界数列 $\{x_n\}$的上极限为 $\limsup_{n\to\infty}{x_n}=\inf_{n\ge 1}\sup_{k\ge n}{x_k}$，下极限为 $\liminf_{n\to\infty}{x_n}=\sup_{n\ge 1}\inf_{k\ge n}{x_k}$，对有界数列来说，上下极限总是存在的。对无界数列来说并不如此，若 $\{x_n\}$无上界，那么 $\forall n\ge 1$， $\sup_{k\ge n}{x_k} = +\infty$，这样，我们不妨就定义其上极限为 $+\infty$，同样地，若 $\{x_n\}$无下界，就定义其下极限为 $-\infty$。这样，所有的数列都有上下极限，或为实数，或为正负无穷。
例1.8 求下列数列的上下极限:
(1) $x_n=\frac{n^2}{1+n^2}\cos\frac{n\pi}{2}$
(2) $x_n=n+n\cos{n\pi}+\sin{\frac{n\pi}{4}}$
(3) $x_n=\frac{(-1)^n}{n}+\frac{1+(-1)^n}{2}$
(4) $x_n=n^{(-1)^n}$

解：
(1) $k=0,1,2,\cdots$时 $x_{4k}=\frac{16k^2}{1+16k^2}>0$ $x_{4k+1}=0$ $x_{4k+2}=-\frac{4(2k+1)^2}{1+4(2k+1)^2}<0$ $x_{4k+3}=0$并且 $\{x_{4k}\}$单调上升， $\{x_{4k+2}\}$单调下降，因此，对任何的 $k_0=0,1,2,\cdots$，都有 $\sup_{k\ge k_0}\{x_{4k}\}=\lim_{k\to\infty}{x_{4k}}=1$ $\inf_{k\ge k_0}\{x_{4k+2}\}=\lim_{k\to\infty}{x_{4k+2}}=-1$因此 $\{x_n\}$的上极限为1，下极限为-1\
(2)显然 $\{x_n\}$无上界，因为 $k=0,1,2,\cdots$时， $x_{8k}=16k$，因此， $\limsup_{n\to\infty}{x_n}=+\infty$。\
其次， $\{x_n\}$取负值的全部项为 $x_{8k+5}=x_{8k+7}=-\frac{\sqrt{2}}{2},k=0,1,\cdots$因此 $\liminf_{n\to\infty}{x_n}=-\frac{\sqrt{2}}{2}$\
(3) $k=1,2,\cdots$时， $x_{2k}=\frac{1}{n}+1>0$, $x_{2k-1}=-\frac{1}{n}<0$，并且数列 $\{x_{2k}\}$单调下降， $\{x_{2k-1}\}$单调上升，因此， $k=1,2,\cdots$时 $\sup_{n\ge 2k}{x_n} = \frac{1}{2k}+1$ $\inf_{n\ge 2k}{x_n} = -\frac{1}{2k+1}$ $\sup_{n\ge 2k-1}{x_n} = \frac{1}{2k}+1$ $\inf_{n\ge 2k-1}{x_n} = -\frac{1}{2k-1}$因此由上下极限的定义，上极限为1，下极限为0\
(4)显然 $\{x_n\}$无上界，因此上极限为 $+\infty$， $x_{2k-1}=\frac{1}{2k-1}$，并且 $\{x_{2k-1}\}$单调下降，下极限为0

例1.8中的四个数列的都各有一个子列趋近其上下极限，这不是巧合，并且下面我们将表明，对任意的数列 $\{x_n\}$，上极限是所有的（广义）收敛子列的极限中最大的极限，下极限是所有（广义）收敛子列极限中最小的极限。
定理1.13 $\{x_n\}$是一个实数列，则
(1)如果 $\limsup_{n\to\infty}{x_n}=A$( $\liminf_{n\to\infty}{x_n}=A$)， $A$是有限实数，则存在一个子列收敛于 $A$，并且任意 $\{x_n\}$的收敛子列的极限不大于 $A$（不小于 $A$）
(2)如果 $\limsup_{n\to\infty}=+\infty$( $\liminf_{n\to\infty}{x_n}=-\infty$)，则存在 $\{x_n\}$的一个子列收敛到 $+\infty$( $-\infty$)
(3)如果 $\limsup_{n\to\infty}=-\infty$( $\liminf_{n\to\infty}{x_n}=+\infty$)，则 $\{x_n\}$任意子列都收敛到 $-\infty$( $+\infty$)

证：
只证明上极限情形，下极限的证明类似。并且(2)(3)的证明是显然的，这里只证明(1)
按以下步骤取一个子列 $\{x_{n_k}\}$
第1步：取 $n_1\ge 1$，使得 $\sup_{k\ge 1}x_k\ge x_{n_1} > \sup_{k\ge 1}x_k -1$
第2步：取 $n_2 > n_1$，使得 $\sup_{k\ge n_1+1}x_k \ge x_{n_2} > \sup_{k\ge n_1+1}x_k - \frac{1}{2}$
第2步：取 $n_3 > n_2$，使得 $\sup_{k\ge n_2+1}x_k \ge x_{n_3} > \sup_{k\ge n_2+1}x_k - \frac{1}{3}$
以此类推，得到子列 $\{x_{n_k}\}$，满足 $|x_{n_{k+1}}-\sup_{n\ge n_k}x_n|<\frac{1}{k+1}$由三角不等式 $0\ge |x_{k+1}-A| \ge |x_{n_{k+1}}-\sup_{n\ge n_k}x_n| + |\sup_{n\ge n_k}x_n-A|<\frac{1}{k+1}+|\sup_{n\ge n_k}x_n-A|$由夹逼准则，就有 $\lim_{k\to\infty}x_{n_k}=A$若子列 $\{x_{m_k}\}$是收敛子列，由于 $x_{m_k}\le \sup_{n\ge m_k}x_n$两边取极限就得到 $\lim_{k\to\infty}x_{m_k} \le A$

下面我们证明数列极限收敛性和上下极限的关系。
定理1.14 $\{x_n\}$是实数列， $\lim_{n\to\infty}x_n=A$的充要条件是 $\limsup_{n\to\infty}x_n=\liminf_{n\to\infty}x_n=A$其中 $A$可以为正负无穷或有限数

证：
只证明有限数情形。正负无穷情形是显然的。
充分性：
$\inf_{k\ge n}x_k \le x_n \le \sup_{k\ge n}x_k$利用夹逼准则即可证得
必要性：如果 $\lim_{n\to\infty}x_n=A$，则 $\{x_n\}$任意子列收敛到 $A$，利用上面的定理即可证得结论

定理1.15 设 $\{x_n\}$和 $\{y_n\}$是两个有界数列，则有
(1) $x_n\le y_n(n=1,2,\cdots)$蕴含着 $\liminf_{n\to\infty}x_n\le \liminf_{n\to\infty}y_n$ $\limsup_{n\to\infty}x_n \le \limsup_{n\to\infty}y_n$(2) $\displaystyle \liminf_{n\to\infty}(-x_n)=-\limsup_{n\to\infty}x_n, \limsup_{n\to\infty}(-x_n)=-\liminf_{n\to\infty}x_n$
(3) $\displaystyle\liminf_{n\to\infty}x_n+\liminf_{n\to\infty}y_n \le \liminf_{n\to\infty}(x_n+y_n) \le \liminf_{n\to\infty}x_n+\limsup_{n\to\infty}y_n$
$\displaystyle \liminf_{n\to\infty}x_n+\limsup_{n\to\infty}y_n \le \limsup_{n\to\infty}(x_n+y_n) \le \limsup_{n\to\infty}x_n+\limsup_{n\to\infty}y_n$
(4)若 $x_n\ge 0$, $y_n\ge 0$, $n=1,2,\cdots$，则 $\liminf_{n\to\infty}x_n.\liminf_{n\to\infty}y_n\le \liminf_{n\to\infty}(x_n.y_n) \le \liminf_{n\to\infty}x_n.\limsup_{n\to\infty}y_n$ $\liminf_{n\to\infty}x_n.\limsup_{n\to\infty}y_n\le \limsup_{n\to\infty}(x_n.y_n)\le \limsup_{n\to\infty}x_n.\limsup_{n\to\infty}y_n$

证：
(1)对 $n\ge 1$，对 $i\ge n$ $\inf_{k\ge n}x_k\le x_i\le y_i$由下确界的定义，有 $\inf_{k\ge n}x_k\le \inf_{k\ge n}y_k$两边令 $n\to\infty$，有 $\displaystyle \liminf_{n\to\infty}x_n\le \liminf_{n\to\infty}y_n$， $\displaystyle\limsup_{n\to\infty}x_n \le \limsup_{n\to\infty}y_n$同理可证。
(2)由于对任意 $n\ge 1$，都有 $\inf_{k\ge n}(-x_k)=-\sup_{k\ge n}x_k$ $\sup_{k\ge n}(-x_k)=-\inf_{k\ge n}x_k$两边令 $n\to\infty$即可证得
(3)对 $n\ge 1$, $i\ge n$ $\inf_{k\ge n}x_k+\inf_{k\ge n}y_k\le x_i+y_i$令 $n\to\infty$，有 $\liminf_{n\to\infty}x_n+\liminf_{n\to\infty}y_n \le \liminf_{n\to\infty}(x_n+y_n)$对 $n\ge 1$，对任意的 $i\ge n$ $\inf_{k\ge n}(x_k+y_k)\le x_i+y_i \le x_i + \sup_{k\ge n}y_k$即 $x_i\ge \inf_{k\ge n}(x_k+y_k)-\sup_{k\ge n}y_k$由下确界的定义 $\inf_{k\ge n}x_k \ge \inf_{k\ge n}(x_k+y_k)-\sup_{k\ge n}y_k$两边对 $n\to\infty$区间即有 $\liminf_{n\to\infty}x_n+\limsup_{n\to\infty}y_n\ge\liminf_{n\to\infty}(x_n+y_n)$另一个不等式的证明是类似的

例1.9 证明： $\displaystyle \limsup_{n\to\infty}x_n=A$( $\displaystyle \liminf_{n\to\infty}x_n=A$)的充要条件是：
(1)存在子列 $\{x_{n_k}\}$，满足 $\displaystyle\lim_{k\to\infty}x_{n_k}=A$\
(2)若子列 $\{x_{m_k}\}$也收敛，则 $\displaystyle \lim_{k\to\infty}x_{m_k}\le A$( $\displaystyle \lim_{k\to\infty}x_{m_k}\ge A$)
这由定理1.14容易证明。

例1.10 证明：若 $\displaystyle\lim_{n\to\infty}x_n$存在，则对任何有界序列 $\{y_n\}$，有
(1) $\displaystyle\limsup_{n\to\infty}(x_n+y_n)=\lim_{n\to\infty}x_n+\limsup_{n\to\infty}y_n$;
(2) $\displaystyle\limsup_{n\to\infty}(x_ny_n)=\lim_{n\to\infty}x_n\limsup_{n\to\infty}y_n$

证：
我们证明(1)，(2)的证明是类似的。若 $\displaystyle\lim_{n\to\infty}x_n=A$, $\displaystyle\limsup_{n\to\infty}y_n=B$
存在子列 $\{y_{n_k}\}$， $\displaystyle\lim_{k\to\infty}{y_{n_k}}=B$，而由于 $\displaystyle\lim_{k\to \infty}{x_{n_k}}=A$， $\displaystyle\lim_{k\to\infty}{(x_{n_k}+y_{n_k})}=A+B$
若子列 $\{x_{m_k}+y_{m_k}\}$收敛，由于 $\{x_{m_k}\}$也收敛，因此， $\{y_{m_k}\}$也收敛，由例1.9，有 $\lim_{k\to\infty}y_{m_k}\le B$因此 $\lim_{k\to\infty}{(x_{m_k}+y_{m_k})}= \lim_{k\to\infty}x_{m_k}+\lim_{k\to\infty}y_{m_k}\le A+B$由例1.9， $\displaystyle\limsup_{n\to\infty}(x_n+y_n)=\lim_{n\to\infty}x_n+\limsup_{n\to\infty}y_n$

例1.10 证明：若 $x_n>0$，并且 $\displaystyle \liminf_{n\to\infty}x_n>0$，则 $\displaystyle \limsup_{n\to\infty}{\frac{1}{x_n}}=\frac{1}{\liminf_{n\to\infty}x_n}$

证：
首先，设 $\displaystyle \liminf_{n\to\infty}x_n=A$，由例\ref{ex3}，存在子列 $\{x_{n_k}\}$，满足 $\displaystyle lim_{k\to\infty}x_{n_k}=A$，则 $\displaystyle \lim_{k\to\infty}\frac{1}{x_{n_k}}=\frac{1}{A}$。
其次，对任意收敛子列 $\{\frac{1}{x_{m_k}}\}$， $\{x_{m_k}\}$也收敛。由例\ref{ex3}， $\displaystyle \lim_{k\to\infty}x_{m_k}\ge A$，从而， $\displaystyle \lim_{k\to\infty}{\frac{1}{x_{m_k}}}=\frac{1}{\lim_{k\to\infty}x_{m_k}}\le A$。由例\ref{ex3}即可证得结论。

为了引出下面的例子，我们要先给出一个引理
引理1.1 对数列 $\{x_n\}$，存在子列 $\{x_{n_k}\}$, $\displaystyle\lim_{k\to\infty}x_{n_k}=A$的充要条件是： $\forall \varepsilon >0$， $\forall N\ge 1$， $\exists n\ge N$， $|x_n-A|<\varepsilon$

证：
必要性，假设存在 $\{x_{n_k}\}$, $\displaystyle\lim_{k\to\infty}x_{n_k}=A$，则对任意的 $\varepsilon>0$，存在 $K$， $k\ge K$时，有 $|x_{n_k}-A|<\varepsilon$，对任意的 $N$，取足够大的 $k$，使得 $k\ge K$，并且 $n_k \ge N$，即满足条件。
充分性，假设对任意的 $\varepsilon>0$，对任意的正整数 $N$，都存在 $n\ge N$，使得 $|x_n-A|<\varepsilon$，按以下步骤取一个子列。
第一步：取 $n_1\ge 1$，使得 $|x_{n_1}-A|<1$\
第二步：取 $n_2\ge n_1+1$，使得 $|x_{n_2}-A|<\frac{1}{2}$
第三步：取 $n_3\ge n_2+1$，使得 $|x_{n_3}-A|<\frac{1}{3}$
以此类推。得到子列 $\{x_{n_k}\}$，由构造，就有 $\displaystyle \lim_{k\to\infty}x_{n_k}=A$

例1.11 设序列 $\{x_n\}$是有界的，且 $\lim_{n\to\infty}{(x_{n+1}-x_n)}=0$再设 $\displaystyle l=\liminf_{n\to\infty}x_n$和 $\displaystyle L=\limsup_{n\to\infty}x_n$。试证明： $[l,L]$中的任意一个数都是此序列的一个子列的极限

分析：假设存在(l,L)中的一个数 $\beta$，不是某个子列的极限，那么，按照上面的引理，那么， $\exists \varepsilon_0>0$， $\exists N_0$， $\forall n\ge N_0$， $|x_n-A|\ge \varepsilon_0$。那么， $(l,L)$之间就形成“一道不可逾越的鸿沟”。在 $N_0$之后， $(\beta-\varepsilon_0,\beta+\varepsilon_0)$之间不存在 $\{x_n\}$的任意元，但是 $\displaystyle \lim_{n\to\infty}{(x_{n+1}-x_n)}=0$，也就是意味着 $\Delta x_n$在 $n$足够大时足够小， $x_n$位于 $\displaystyle \lim_{n\to\infty}{(x_{n+1}-x_n)}=0$的上部，或者只能位于下部，然而如果 $l\neq L$，必有两个子列收敛于 $l$和 $L$，就这就产生了矛盾。

证：
反证法，假设存在 $(l,L)$中的一个数 $\beta$，不是某个子列的极限。那么， $\exists \varepsilon_0>0$， $\exists N_0$， $\forall n\ge N_0$， $|x_n-A|\ge \varepsilon_0$。
由于 $\displaystyle \lim_{n\to\infty}(x_{n+1}-x_n)=0$，存在 $N_1$，当 $n\ge N_1$时， $|x_{n+1}-x_n|<2\varepsilon_0$
由 $\displaystyle l=\liminf_{n\to\infty}x_n$，存在 $n_0 \ge N_0,n_0\ge N_1$， $|x_{n_0}-l|<\beta-\varepsilon_0-l$，则按前面的分析，由数学归纳法，容易证明： $n\ge n_0$时， $|x_{n_0}-l|<\beta-\varepsilon_0-l$，这与存在子列，收敛于 $L$是矛盾的。

例1.12 设序列 $\{x_n\}$和 $\{y_n\}$满足： $x_{n+1}=y_n+\alpha x_n(0<\alpha<1)$证明：序列 $\{x_n\}$和 $\{y_n\}$同敛散

证：
首先，假设 $\{x_n\}$收敛，由于 $y_n=x_{n+1}-\alpha x_n$， $\{y_n\}$也收敛。
其次，假设 $\{y_n\}$收敛，则有 $\limsup_{n\to\infty}x_n=\lim_{n\to\infty}y_n+\limsup_{n\to\infty}(q.x_n)=\lim_{n\to\infty}y_n+q\limsup_{n\to\infty}(x_n)$ $\liminf_{n\to\infty}x_n=\lim_{n\to\infty}y_n+\liminf_{n\to\infty}(q.x_n)=\lim_{n\to\infty}y_n+q\liminf_{n\to\infty}(x_n)$于是，有 $\displaystyle \limsup_{n\to\infty}x_n=\liminf_{n\to\infty}(x_n)=\frac{\lim_{n\to\infty}y_n}{1-q}$，从而 $\{x_n\}$收敛。