计算行列式

\[
\begin{vmatrix}
0 & a & a & \cdots & a\\
b & 0 & a & \cdots & a\\
b & b & 0 & \cdots & a\\
\vdots & \vdots & \ddots & \ddots & a\\
b & b & b & \cdots & 0\\
\end{vmatrix}_n
\]

Hint

不妨设 $a\neq 0$. 否则行列式显然为 0. 记 $t=\frac{b}{a}$, 则原行列式等于

\[
a^n\cdot
\begin{vmatrix}
0 & 1 & 1 & \cdots & 1\\
t & 0 & 1 & \cdots & 1\\
t & t & 0 & \cdots & 1\\
\vdots & \vdots & \ddots & \ddots & 1\\
t & t & t & \cdots & 0\\
\end{vmatrix}_n=:a^n\cdot D_n(t).
\]

$D_n(t)$ 是关于 $t$ 的多项式, 我们证明

\[
D_n(t)=(-1)^{n-1}(t+t^2+\cdots+t^{n-1}).
\]