第三题：（15 分）假设 $V$ 是复数域 $C$ 上 $n$ 维线性空间 $(n>0), ~ f, g$ 是 $V$ 上的线性变换。如果 $f g-g f=f$ ，证明：$f$ 的特征值都是 0 ，且 $f, g$ 有公共特征向量。

【参考解析】：：假设 $\lambda_{0}$ 是 $f$ 的特征值，$W$ 是相应的特征子空间，即 $W=\left\{\eta \in V \mid f(\eta)=\lambda_{0} \eta\right\}$ 。于是，$W$ 在 $f$ 下是不变的。

下面先证明，$\lambda_{0}=0$ 。任取非零 $\eta \in W$ ，记 $m$ 为使得 $\eta, g(\eta), g^{2}(\eta), \cdots, g^{m}(\eta)$ 线性相关的最小的非负整数，于是，当 $0 \leq i \leq m-1$ 时，$\eta, g(\eta), g^{2}(\eta), \cdots, g^{i}(\eta)$ 线性无关。
$0 \leq i \leq m-1$ 时，令 $W_{i}=\operatorname{span}\left\{\eta, g(\eta), g^{2}(\eta), \cdots, g^{i-1}(\eta)\right\}$ ，其中，$W_{0}=\{\theta\}$ ．因此， $\operatorname{dim} W_{i}=i(1 \leq i \leq m)$ ，并且，

$$
W_{m}=W_{m+1}=W_{m+2}=\cdots
$$

显然，$g\left(W_{i}\right) \subseteq W_{i+1}$ ，特别地，$W_{m}$ 在 $g$ 下是不变的。
下面证明，$W_{m}$ 在 $f$ 下也是不变的．
事实上，由 $f(\eta)=\lambda_{0} \eta$ ，知

$$
\begin{aligned}
f g(\eta) & =g f(\eta)+f(\eta)=\lambda_{0} g(\eta)+\lambda_{0} \eta \\
f g^{2}(\eta) & =g f g(\eta)+f g(\eta) \\
& =g\left(\lambda_{0} g(\eta)+\lambda_{0} \eta\right)+\left(\lambda_{0} g(\eta)+\lambda_{0} \eta\right) \\
& =\lambda_{0} g^{2}(\eta)+2 \lambda_{0} g(\eta)+\lambda_{0} \eta
\end{aligned}
$$

根据

$$
\begin{aligned}
f g^{k}(\eta) & =g f g^{k-1}(\eta)+f g^{k-1}(\eta) \\
& =g\left(f g^{k-1}\right)(\eta)+f g^{k-1}(\eta)
\end{aligned}
$$

用归纳法不难证明，$f g^{k}(\eta)$ 一定可以表示成

$$
\eta, g(\eta), g^{2}(\eta), \cdots, g^{k}(\eta)
$$

的线性组合，且表示式中 $g^{k}(\eta)$ 前的系数为 $\lambda_{0}$ ．
因此，$W_{m}$ 在 $f$ 下也是不变的，$f$ 在 $W_{m}$ 上的限制在基

$$
\eta, g(\eta), g^{2}(\eta), \cdots, g^{m-1}(\eta)
$$

下的矩阵是上三角矩阵，且对角线元素都是 $\boldsymbol{\lambda}_{\mathbf{0}}$ ，因而，这一限制的迹为 $\boldsymbol{m} \boldsymbol{\lambda}_{\mathbf{0}}$ ．
由于 $f g-g f=f$ 在 $W_{m}$ 上仍然成立，而 $f g-g f$ 的迹一定为零，故 $m \lambda_{0}=0$ ，即 $\lambda_{0}=0$ 。任取 $\eta \in W$ ，由于

$$
f(\eta)=\theta, f g(\eta)=g f(\eta)+f(\eta)=g(\theta)+f(\eta)=\theta
$$

所以，$g(\eta) \in W$ 。因此，$W$ 在 $g$ 下是不变的。从而，在 $W$ 中存在 $g$ 的特征向量，这也是 $f, g$的公共特征向量。