【解析】A. \(\int_{0}^{x}\left(e^{t^{2}}-1\right) d t \sim \int_{0}^{x} t^{2} d t=\frac{x^{3}}{3};\)

\[B. \int_{0}^{x} \ln \left(1+\sqrt{t^{3}}\right) d t \sim \int_{0}^{x} t^{\frac{3}{2}} d t=\frac{2}{5} x^{\frac{5}{2}};\]

\[C. \int_{0}^{\sin x} \sin t^{2} d t \sim \int_{0}^{x} t^{2} d t=\frac{1}{3} x^{3};\]

\[D. \int_{0}^{1-\cos x} \sqrt{\sin ^{3} t} d t \sim \int_{0}^{\frac{1}{2} x^{2}} t^{\frac{3}{2}} d t=\left.\frac{2}{5} t^{\frac{5}{2}}\right|_{0} ^{\frac{1}{2} x^{2}}=\frac{2}{5} \cdot\left(\frac{1}{2}\right)^{\frac{5}{2}} \cdot x^{5}.\]

【解析】
$\lim\limits_{x \to 0} f(x)=\lim\limits_{x \to 0} \frac{e^{\frac{1}{e^x - 1}} \ln|1 + x|}{(e^x - 1)(x - 2)}=\lim\limits_{x \to 0} \frac{e^{\frac{1}{x}} x}{x(- 2)}=-\frac{1}{2e}$ 

$\lim\limits_{x \to 1^+} f(x)=\lim\limits_{x \to 1^+} \frac{e^{\frac{1}{e^x - 1}} \ln|1 + x|}{(e^x - 1)(x - 2)}=\lim\limits_{x \to 1^+} \frac{e^{\frac{1}{e^x - 1}} \ln|1 + 1|}{(e^x - 1)(1 - 2)}=\infty$，

$\lim\limits_{x \to 2} f(x)=\lim\limits_{x \to 2} \frac{e^{\frac{1}{e^x - 1}} \ln|1 + x|}{(e^x - 1)(x - 2)}=\lim\limits_{x \to 1^+} \frac{e^{\frac{1}{e^2 - 1}} \ln|1 + 2|}{(e^2 - 1)(x - 2)}=\infty$，

$\lim\limits_{x \to -1} f(x)=\lim\limits_{x \to -1} \frac{e^{\frac{1}{e^x - 1}} \ln|1 + x|}{(e^x - 1)(x - 2)}=\infty$，

共3个，选(C).

【解析】令 \(\sqrt{x}=\sin t\) ,则 \(x=\sin ^{2} t\)，\(dx=2\sin t\cos tdt\)

\[

\int_{0}^{1} \frac{\arcsin \sqrt{x}}{\sqrt{x(1-x)}} d x=\int_{0}^{\frac{\pi}{2}} \frac{t}{\sin t \cos t} \cdot 2 \sin t \cos t d t=\int_{0}^{\frac{\pi}{2}} 2 t d t=\left.t^{2}\right|_{0} ^{\frac{\pi}{2}}=\frac{\pi^{2}}{4}

\]

【解析】由展开式 \(\ln (1-x)=-\sum_{n=1}^{\infty} \frac{x^{n}}{n}\)，则 \(x^{2} \ln (1-x)=-\sum_{n=1}^{\infty} \frac{x^{n+2}}{n}=-\sum_{n=3}^{\infty} \frac{x^{n}}{n-2}\)，故 \(f^{(n)}(0)=-\frac{n !}{n-2}\)

【解析】 \(\left.\frac{\partial f}{\partial x}\right|_{(0,0)}=\lim _{x \to 0} \frac{f(x, 0)-f(0,0)}{x-0}=\lim _{x \to 0} \frac{x-0}{x-0}=1\) , (1)正确

\(\left.\frac{\partial^{2} f}{\partial x \partial y}\right|_{(0,0)}=\lim _{y \to 0} \frac{\left.\frac{\partial f}{\partial x}\right|_{(0, y)}-\left.\frac{\partial f}{\partial x}\right|_{(0,0)}}{y-0}=\lim _{y \to 0} \frac{\left.\frac{\partial f}{\partial x}\right|_{(0, y)}-1}{y}\)，其中 \(\left.\frac{\partial f}{\partial x}\right|_{(0, y)}=\lim _{x \to 0} \frac{f(x, y)-f(0, y)}{x-0}=\lim _{x \to 0} \frac{xy-y}{x}=\lim _{x \to 0} \frac{y(x-1)}{x}\) 不存在，故(2)错误；

由 \(|f(x, y)| \leq |x|+|y|\) ，当 \((x, y) \to (0,0)\) 时 \(\lim _{(x, y) \to (0,0)} f(x, y)=0\) ，所以(3)正确；

\(\lim _{x \to 0} f(x, y)= \begin{cases}0, & y \neq 0 \\ y, & y=0\end{cases}\) ，从而 \(\lim _{y \to 0} \lim _{x \to 0} f(x, y)=0\) ，(4)正确。

【解析】令 \(F(x)=\frac{f(x)}{e^{x}}\)，则 \(F'(x)=\frac{f'(x) e^{x}-f(x) e^{x}}{e^{2 x}}=\frac{f'(x)-f(x)}{e^{x}}\)，由题意知 \(F'(x)>0\)，从而 \(F(x)=\frac{f(x)}{e^{x}}\) 单增，

\(F(0)>F(-1)\) 即 \(\frac{f(0)}{e^{0}}>\frac{f(-1)}{e^{-1}}\)，又 \(f(x)>0\)，故 \(\frac{f(0)}{f(-1)}>e\)。

【解析】由已知, \(|A|=0\) , \(r(A)=3\) ,故 \(r(A^{*})=1\) ,故 \(A^{*} x=0\) 的基础解系中解向量的个数为 \(3\)；由 \(A_{12} \neq 0\) 得 \(\alpha_{1}\) , \(\alpha_{3}\) , \(\alpha_{4}\) 线性无关,则通解为 \(x=k_{1} \alpha_{1}+k_{2} \alpha_{3}+k_{3} \alpha_{4}\) ,其中 \(k_{1}\) , \(k_{2}\) , \(k_{3}\) 为任意常数，故(C)。

【解析】由已知 \(A(\alpha_{1}+\alpha_{2})=1 \cdot(\alpha_{1}+\alpha_{2})\) , \(A(-\alpha_{3})=-1 \cdot(-\alpha_{3})\) , \(A \alpha_{2}=1 \cdot \alpha_{2}\) ,且 \(\alpha_{1}+\alpha_{2}\) , \(-\alpha_{3}\) , \(\alpha_{2}\) 线性无关, 又由特征值1,-1,1的顺序知, P 可为 \((\alpha_{1}+\alpha_{2},-\alpha_{3}, \alpha_{2})\) ,故选(D)。

【解析】\(\frac{d y}{d x}=\frac{d y / d t}{d x / d t}=\frac{1+\frac{t}{\sqrt{t^{2}+1}}}{t+\sqrt{t^{2}+1}} \cdot \frac{\sqrt{t^{2}+1}}{t}=\frac{1}{t}\) \(\frac{d^{2} y}{d x^{2}}=\frac{d\left(\frac{1}{t}\right)}{d t} \cdot \frac{d t}{d x}=-\frac{1}{t^{2}} \cdot \frac{\sqrt{t^{2}+1}}{t}=-\frac{\sqrt{t^{2}+1}}{t^{3}}\) \(\left.\frac{d^{2} y}{d x^{2}}\right|_{t=1}=-\sqrt{2}\)

【解析】交换积分次序， \(\begin{aligned} \int_{0}^{1} d y \int_{\sqrt{y}}^{1} \sqrt{x^{3}+1} d x & =\int_{0}^{1} d x \int_{0}^{x^{2}} \sqrt{x^{3}+1} d y=\int_{0}^{1} x^{2} \sqrt{x^{3}+1} d x \\ & =\frac{1}{3} \int_{0}^{1} \sqrt{x^{3}+1} d\left(x^{3}+1\right)=\left.\frac{2}{9}\left(x^{3}+1\right)^{\frac{3}{2}}\right|_{0} ^{1}=\frac{2}{9}(2 \sqrt{2}-1) \end{aligned}\)

【解析】\(d z=\frac{\partial z}{\partial x} d x+\frac{\partial z}{\partial y} d y\)，而 \(\frac{\partial z}{\partial x}=\frac{y+\cos (x+y)}{1+[x y+\sin (x+y)]^{2}}\)，将 \((0, \pi)\) 带入可得 \(\frac{\partial z}{\partial x}=\pi-1\)，\(\frac{\partial z}{\partial y}=-1\)，故 \(d z|_{(0, \pi)}=(\pi-1) d x-d y\)

【解析】以水平面向右为 \(x\) 轴，以垂直于三角板斜边向上为 \(y\) 轴建立直角坐标系，则此时三角板右斜边所在的直线方程为 \(y=x-a\)，取微元 \(d y\)，则此时

\(d F=-y \cdot 2 x \rho g d y=-2 \rho g y(y+a) d y\)

则一侧的压力 \(F=\int_{-a}^{0}-2 \rho g y(y+a) d y=\left.\rho g\left(-\frac{2}{3} y^{3}-a y^{2}\right)\right|_{-a} ^{0}=\frac{1}{3} \rho g a^{3}\)

【解析】由方程可得特征方程为 \(\lambda^{2}+2 \lambda+1=0\)，则特征方程的根为 \(\lambda_{1}=-1\)，\(\lambda_{2}=-1\)，则微分方程的通解为 \(y=c_{1} e^{-x}+c_{2} x e^{-x}\)，由 \(y(0)=0\)，\(y'(0)=1\) 可得 \(c_{1}=0\)，\(c_{2}=1\)，则 \(y(x)=x e^{-x}\)，则 \(\int_{0}^{+\infty} y(x) d x=\int_{0}^{+\infty} x e^{-x} d x=-\int_{0}^{+\infty} x d e^{-x}=-\left(\left.x e^{-x}\right|_{0} ^{+\infty}-\int_{0}^{+\infty} e^{-x} d x\right)=1\)

【解析】 \(\begin{aligned} \left|\begin{array}{cccc} a & 0 & -1 & 1 \\ 0 & a & 1 & -1 \\ -1 & 1 & a & 0 \\ 1 & -1 & 0 & a \end{array}\right| & =\left|\begin{array}{cccc} a & a & a & a \\ 0 & a & 1 & -1 \\ -1 & 1 & a & 0 \\ 1 & -1 & 0 & a \end{array}\right|=a\left|\begin{array}{cccc} 1 & 1 & 1 & 1 \\ 0 & a & 1 & -1 \\ -1 & 1 & a & 0 \\ 1 & -1 & 0 & a \end{array}\right|=a\left|\begin{array}{ccc} 1 & 1 & 1 & 1 \\ 0 & a & 1 & -1 \\ 0 & 2 & a+1 & 1 \\ 0 & -2 & -1 & a-1 \end{array}\right| \\ & =a\left|\begin{array}{ccc} a & 1 & -1 \\ 2 & a+1 & 1 \\ 0 & 1 & 1 \end{array}\right|=a^{4}-4 a^{2} \end{aligned}\)

由 \(k=\lim _{x \to+\infty} \frac{y}{x}=\lim _{x \to+\infty} \frac{x^{1+x}}{x(1+x)^{x}}=\lim _{x \to+\infty} \frac{x^{x}}{(1+x)^{x}}=\lim _{x \to+\infty} \frac{1}{\left(1+\frac{1}{x}\right)^{x}}=\frac{1}{e}\)。 \[ \begin{aligned} & b=\lim _{x \to+\infty}(y-k x)=\lim _{x \to+\infty}\left(\frac{x^{1+x}}{(1+x)^{x}}-\frac{1}{e} x\right)=\lim _{x \to+\infty} x\left(e^{x \ln \frac{x}{1+x}}-\frac{1}{e}\right) \\ & =e^{-1} \lim _{x \to+\infty} x\left(e^{x \ln \frac{x}{1+x}+1}-1\right)=e^{-1} \lim _{x \to+\infty} x\left(x \ln \frac{x}{1+x}+1\right) \\ & \xlongequal{\frac{1}{x}=t} e^{-1} \lim _{t \to 0^{+}} \frac{\ln \frac{1}{1+t}+t}{t^{2}} \xlongequal{洛} e^{-1} \lim _{t \to 0^{+}} \frac{-\frac{1}{1+t}+1}{2 t}=e^{-1} \lim _{t \to 0^{+}} \frac{1}{2(1+t)}=\frac{1}{2 e} 。 \end{aligned} \] 故所求斜渐近线为 \(y=\frac{1}{e} x+\frac{1}{2 e}\)

\(\lim _{x \to 0} \frac{f(x)}{x}=1\) 并且 \(f(x)\) 连续，可知 \(f(0)=0\)。 \[g(x)=\int_{0}^{1} f(x t) d t \xlongequal{xt=u} \frac{1}{x} \int_{0}^{x} f(u) d u,\] 当 \(x=0\) 时，\(g(0)=0\)，故 \[g(x)=\left\{\begin{array}{cc} 0 & x=0 \\ \frac{1}{x} \int_{0}^{x} f(u) d u & x \neq 0 \end{array}\right.,\] 又 \(g'(0)=\lim _{x \to 0} \frac{g(x)-g(0)}{x-0}=\lim _{x \to 0} \frac{\frac{1}{x} \int_{0}^{x} f(u) d u-0}{x}=\lim _{x \to 0} \frac{\int_{0}^{x} f(u) d u}{x^{2}} \xlongequal{洛} \lim _{x \to 0} \frac{f(x)}{2 x} \xlongequal{导数定义} \frac{1}{2}\)，得 \[g'(x)=\left\{\begin{array}{cc} \frac{1}{2} & x=0 \\ \frac{f(x)}{x}-\frac{1}{x^{2}} \int_{0}^{x} f(u) d u & x \neq 0 \end{array}\right.,\] 又因为 \[ \lim _{x \to 0} g'(x)=\lim _{x \to 0}\left[\frac{f(x)}{x}-\frac{1}{x^{2}} \int_{0}^{x} f(u) d u\right]=\lim _{x \to 0} \frac{f(x)}{x}-\lim _{x \to 0} \frac{1}{x^{2}} \int_{0}^{x} f(u) d u=1-\frac{1}{2}=\frac{1}{2}=g'(0) \] 所以 \(g'(x)\) 在 \(x=0\) 处连续。

由 \(f_{x}'(x, y)=3 x^{2}-y=0\)，\(f_{y}'(x, y)=24 y^{2}-x=0\)，得 \(\begin{cases}x=0 \\ y=0\end{cases}\) 或 \(\begin{cases}x=\frac{1}{6} \\ y=\frac{1}{12}\end{cases}\)。

在 \((0,0)\) 处，\(\begin{cases}A=f_{xx}''(0,0)=0 \\ B=f_{xy}''(0,0)=-1 \\ C=f_{yy}''(0,0)=0\end{cases}\)，因 \(AC-B^{2}<0\)，故 \((0,0)\) 不是极值点。

在 \(\left(\frac{1}{6}, \frac{1}{12}\right)\) 处，\(\begin{cases}A=f_{xx}''\left(\frac{1}{6}, \frac{1}{12}\right)=1 \\ B=f_{xy}''\left(\frac{1}{6}, \frac{1}{12}\right)=-1 \\ C=f_{yy}''\left(\frac{1}{6}, \frac{1}{12}\right)=0\end{cases}\)，因 \(AC-B^{2}=1\times0 - (-1)^2 = -1 < 0\)（此处真题解析可能存在笔误，实际应为 \(AC - B^2 = 1 \times 0 - (-1)^2 = -1 < 0\)，但根据后续结论推测应为计算错误，正确应为 \(A=3\times2x=1\)（当 \(x=\frac{1}{6}\) 时），\(C=24\times2y=4\)（当 \(y=\frac{1}{12}\) 时），则 \(AC - B^2 = 1\times4 - (-1)^2 = 3 > 0\) 且 \(A > 0\)），故 \(f\left(\frac{1}{6}, \frac{1}{12}\right)=-\frac{1}{216}\) 为极小值。

\[
\begin{cases}
2f(x) + x^2 f\left(\dfrac{1}{x}\right)=\dfrac{x^2 + 2x}{\sqrt{1 + x^2}} \\
2f\left(\dfrac{1}{x}\right) + \dfrac{1}{x^2} f(x)=\dfrac{\dfrac{1}{x^2} + 2}{\sqrt{1 + \dfrac{1}{x^2}}}
\end{cases}
\]
得\(f(x)=\dfrac{x}{\sqrt{1 + x^2}}\)

\(V_{x}=\int_{\frac{1}{2}}^{\frac{\sqrt{3}}{2}} 2\pi y x dy = \int_{\frac{1}{2}}^{\frac{\sqrt{3}}{2}} 2\pi \dfrac{y^2}{\sqrt{1 - y^2}} dy\)，令\(y = \sin t\)

\(=\int_{\frac{\pi}{6}}^{\frac{\pi}{3}} 2\pi \dfrac{\sin^2 t}{\cos t} \cos t dt = 2\pi \int_{\frac{\pi}{6}}^{\frac{\pi}{3}} \dfrac{1 - \cos 2t}{2} dt\)

\(=\pi \int_{\frac{\pi}{6}}^{\frac{\pi}{3}} (1 - \cos 2t) dt = \pi \left(t - \dfrac{1}{2} \sin 2t\right)\big|_{\frac{\pi}{6}}^{\frac{\pi}{3}}\)

\(=\pi \left(\dfrac{\pi}{3} - \dfrac{1}{2} \cdot \dfrac{\sqrt{3}}{2}\right) - \pi \left(\dfrac{\pi}{6} - \dfrac{1}{2} \cdot \dfrac{\sqrt{3}}{2}\right) = \dfrac{\pi^2}{6}\)  。

\begin{equation}
\begin{aligned}
&\iint_{D} \frac{\sqrt{x^{2}+y^{2}}}{x}dxdy=\int_{0}^{\frac{\pi}{4}} d\theta \int_{\sec\theta}^{2\sec\theta} \frac{r}{r\cos\theta} rdr=\int_{0}^{\frac{\pi}{4}} \frac{1}{\cos\theta} \cdot \frac{1}{2} \cdot 3\sec^{2}\theta d\theta\\
&=\frac{3}{2}\int_{0}^{\frac{\pi}{4}} \sec^{3}\theta d\theta=\frac{3}{2}\int_{0}^{\frac{\pi}{4}} \sec\theta d\tan\theta\\
&=\frac{3}{2} \sec\theta\tan\theta\big|_{0}^{\frac{\pi}{4}} - \frac{3}{2}\int_{0}^{\frac{\pi}{4}} \tan\theta \cdot \sec\theta\tan\theta d\theta\\
&=\frac{3}{2}\sqrt{2} - \frac{3}{2}\int_{0}^{\frac{\pi}{4}} (\sec^{3}\theta - \sec\theta)d\theta\\
&=\frac{3}{4}\sqrt{2} + \frac{3}{4}\int_{0}^{\frac{\pi}{4}} \sec\theta d\theta\\
&=\frac{3}{4}\sqrt{2} + \frac{3}{4}\ln(\sqrt{2} + 1)
\end{aligned}
\end{equation}

(I) 法1：令 \(F(x)=f(x)+(x-2) e^{x^{2}}\)，则 \(F(1)=-e<0\)，\(F(2)=\int_{1}^{2} e^{t^{2}} d t>0\)，由零点定理知，存在 \(\xi \in(1,2)\)，使得 \(F(\xi)=0\)，即 \(f(\xi)=(2-\xi) e^{\xi^{2}}\)。

法2：因 \(f'(x)=e^{x^{2}}\)，则 \(f(\xi)=(2-\xi) e^{\xi^{2}}\) 等价于 \(f(\xi)=(2-\xi) f'(\xi)\)。令 \(F(x)=(x-2) f(x)=(x-2) \int_{1}^{x} e^{t^{2}} d t\)，则 \(F(1)=0\)，\(F(2)=0\)，由罗尔定理知，存在 \(\xi \in(1,2)\)，使得 \(F'(\xi)=0\)。又 \(F'(x)=\int_{1}^{x} e^{t^{2}} d t+(x-2) e^{x^{2}}\)，即 \(f(\xi)=(2-\xi) e^{\xi^{2}}\)。

(II) 令 \(g(x)=\ln x\)，则 \(g'(x)=\frac{1}{x} \neq 0\)，由柯西中值定理，存在 \(\eta \in(1,2)\)，使得 \(\frac{f(2)-f(1)}{g(2)-g(1)}=\frac{f'(\eta)}{g'(\eta)}\)，而 \(f(1)=0\)，故 \(\frac{f(2)}{\ln 2}=\frac{e^{\eta^{2}}}{\frac{1}{\eta}}\)，即 \(f(2)=\ln 2 \cdot \eta e^{\eta^{2}}\)。

设切点 \(M(x, y)\)，则切线方程为 \(Y-y=y'(X-x)\)，令 \(Y=0\) 得 \(T\left(x-\frac{y}{y'}, 0\right)\)。

所围图形面积 \(S_{1}=\int_{0}^{x} y(t) d t\)，\(\triangle MTP\) 面积 \(S_{2}=\frac{1}{2} y\left[x-\left(x-\frac{y}{y'}\right)\right]=\frac{y^{2}}{2 y'}\)。

由 \(\frac{S_{1}}{S_{2}}=\frac{3}{2}\) 得 \(\int_{0}^{x} y(t) d t=\frac{3}{4} \frac{y^{2}}{y'}\) ①，对①两边求导得 \(y=\frac{3}{4} \frac{2 y(y')^{2}-y^{2} y''}{(y')^{2}}\)，化简得 \(3 y y''=2(y')^{2}\) ②。

令 \(y'=p\)，则 \(y''=p \frac{dp}{dy}\)，代入②得 \(3 y p \frac{dp}{dy}=2 p^{2}\)，解得 \(p=C_{1} y^{\frac{2}{3}}\)，即 \(\frac{dy}{dx}=C_{1} y^{\frac{2}{3}}\)，积分得 \(3 y^{\frac{1}{3}}=C_{1} x+C_{2}\)。

因曲线过原点，\(f(0)=0\)，故 \(C_{2}=0\)，即 \(y=C x^{3}(C>0)\)。

【解析】令\(A = \begin{pmatrix}1&a&a\\a&1&a\\a&a&1\end{pmatrix}\)，\(B = \begin{pmatrix}1&1&0\\1&1&0\\0&0&4\end{pmatrix}\)，则\(f(x_1, x_2, x_3) = x^TAx\)，\(g(y_1, y_2, y_3) = y^TBy\)。

(1)由题可知，\(A\)与\(B\)合同，即\(P^TAP = B\)。所以\(A\)与\(B\)的正负惯性指数相同。
由正负惯性指数性质得：\(A\)与\(B\)的正负特征值个数对应相等。
因为\(\vert B - \lambda E\vert = 0\)，所以\(B\)的特征值为\(\lambda_1 = 0\)，\(\lambda_2 = 2\)，\(\lambda_3 = 4\)，
所以\(\vert A - \lambda E\vert = \begin{vmatrix}1 - \lambda&a&a\\a&1 - \lambda&a\\a&a&1 - \lambda\end{vmatrix} = (1 + 2a - \lambda)(1 - a - \lambda)^2 = 0\)，
所以\(\lambda_1 = 1 + 2a = 0\)，\(\lambda_{2,3} = 1 - a > 0\)，故\(a = -\frac{1}{2}\)。

(2)配方法
\(f(x_1, x_2, x_3) = x_1^2 + x_2^2 + x_3^2 - x_1x_2 - x_1x_3 - x_2x_3 = (x_1 - \frac{1}{2}x_2 - \frac{1}{2}x_3)^2 + \frac{3}{4}(x_2 - x_3)^2\)
令\(\begin{pmatrix}z_1\\z_2\\z_3\end{pmatrix} = P_1\begin{pmatrix}x_1\\x_2\\x_3\end{pmatrix}\)，其中\(P_1 = \begin{pmatrix}1&-\frac{1}{2}&-\frac{1}{2}\\0&\frac{\sqrt{3}}{2}&-\frac{\sqrt{3}}{2}\\0&0&1\end{pmatrix}\)，
\(g(y_1, y_2, y_3) = y_1^2 + y_2^2 + 4y_3^2 + 2y_1y_2 = (y_1 + y_2)^2 + 4y_3^2\)。

令\(\begin{pmatrix}z_1\\z_2\\z_3\end{pmatrix} = P_2\begin{pmatrix}y_1\\y_2\\y_3\end{pmatrix}\)，其中\(P_2 = \begin{pmatrix}1&1&0\\0&0&2\\0&1&0\end{pmatrix}\)，
故\(P = P_1^{-1}P_2 = \begin{pmatrix}1&2&\frac{2}{\sqrt{3}}\\0&1&\frac{4}{\sqrt{3}}\\0&1&0\end{pmatrix}\)。 

(I)（解法一）证明：假设 \(P\) 不是可逆矩阵，则 \(\alpha\) 与 \(A \alpha\) 线性相关。根据线性相关的定义，存在不全为0的实数 \(k_{1}, k_{2}\)，使得 \(k_{1} \alpha+k_{2} A \alpha=0\)。若 \(k_{2}=0\)，则 \(k_{1} \alpha=0\)，因 \(\alpha\) 是非零向量，故 \(k_{1}=0\)，与 \(k_{1}, k_{2}\) 不全为0矛盾，所以 \(k_{2} \neq 0\)，则有 \(A \alpha=-\frac{k_{1}}{k_{2}} \alpha\)，与 \(\alpha\) 不是 \(A\) 的特征向量矛盾，所以假设不成立，故 \(P\) 是可逆矩阵。 （解法二）设 \(A \alpha=\beta\)，则 \(\beta \neq k \alpha\)，即 \(\alpha, \beta\) 线性无关，故 \(P=(\alpha, \beta)=(\alpha, A \alpha)\) 为可逆矩阵。 (II) 因为 \(A^{2} \alpha+A \alpha-6 \alpha=0\)，所以 \(A P=A(\alpha, A \alpha)=(A \alpha, A^{2} \alpha)=(A \alpha, 6 \alpha-A \alpha)=(\alpha, A \alpha)\left[\begin{array}{rr}0 & 6 \\ 1 & -1\end{array}\right]\)。又因为 \(P\) 是可逆矩阵，所以 \(P^{-1} A P=\left[\begin{array}{rr}0 & 6 \\ 1 & -1\end{array}\right]\)。记 \(B=\left[\begin{array}{rr}0 & 6 \\ 1 & -1\end{array}\right]\)，由 \(|\lambda E-B|=\left|\begin{array}{cc}\lambda & -6 \\ -1 & \lambda+1\end{array}\right|=\lambda^{2}+\lambda-6=0\)，可得 \(B\) 的特征值为 \(\lambda_{1}=2\)，\(\lambda_{2}=-3\)。因 \(A\) 与 \(B\) 相似，故 \(A\) 的特征值为 \(\lambda_{1}=2\)，\(\lambda_{2}=-3\)，从而可知 \(A\) 可相似对角化。