设 $G$ 是一个李群, $H$ 是 $G$ 的一个李子群.
(1) 记 $\overline{H}$ 是 $H$ 在 $G$ 中的闭包. 证明 $\overline{H}$ 是 $G$ 的一个子群.
(2) 对每个 $x\in\overline{H}$, 陪集 $Hx$ 在 $\overline{H}$ 中是开的, 稠密的.
(3) 证明 $\overline{H}=H$, 即, 每个李子群是闭的.
类似的问题请参见问题876.
Remark:
这里如果根据 (3) 李子群 $H$ 满足 $\overline{H}=H$, 则 (2) 中的陪集 $Hx$, $x\in\overline{H}$ 就是 $H$ 自身. 然而 $H$ 在 $\overline{H}$ 中是开稠的是显见的.
因此, 原题中(2)应指出“请不使用 (3) 的结论证明“.
References:
Alexander Kirillov, Jr. Introduction to Lie Groups and Lie Algebras. Exercise 2.1
1
2
要证 $Hx\cap\overline{H}$ 是 $\overline{H}$ 中的开集, 且在 $\overline{H}$ 中稠密.
(1) 任取 $hx\in Hx\cap\overline{H}$, 接着任取 $hx$ 在 $G$ 中的邻域 $V$, 则单位元 $e\in x^{-1}h^{-1}V=:U$.
故存在开集 $W$, 满足 $W=W^{-1}$, $W^2\subset U$.
由于 $hx\in\overline{H}$, 故 $hxW\cap H\neq\emptyset$. 记 $U_0=hxW\cap\overline{H}$, 则 $hx\in hxW\cap H\subset U_0$, $U_0$ 是 $hx$ 在 $\overline{H}$ 中的开集. 因此 $Hx\cap\overline{H}$ 是 $\overline{H}$ 中的开集.
(2) 等价于证明 $\overline{Hx\cap\overline{H}}=\overline{Hx}\cap\overline{H}$.
(注意: 不同的陪集是互不相交的. 即如果 $Hx\cap Hy\neq\emptyset$, 则 $Hx=Hy$.)
根据问题874的结论, $\overline{Hx}=\overline{H}x$, 而 $\overline{H}$ 已证明是 $G$ 的子群, 因此 $\overline{H}x$ 是子群 $\overline{H}$ 的陪集.
于是如果 $x\not\in\overline{H}$, 则 $\overline{H}x\cap\overline{H}=\emptyset$. 我们证明此时 $Hx\cap\overline{H}=\emptyset$. （此时 $x\not\in\overline{H}$ 推出 $x\not\in H$, 从而 $Hx\cap H=\emptyset$. ）
假设 $Hx\cap\overline{H}\neq\emptyset$, 则存在 $y\in Hx\cap\overline{H}$, 设 $y=hx\in\overline{H}$, 由于 $h\in H\subset\overline{H}$, 且 $\overline{H}$ 也是 $G$ 的子群, 因此 $x\in h^{-1}\overline{H}=\overline{H}$, 与 $x\not\in\overline{H}$ 矛盾.
现在假设 $x\in\overline{H}$, 则右边 $\overline{Hx}\cap\overline{H}=\overline{H}x\cap\overline{H}=\overline{H}$.
由 $x\in\overline{H}$ 可推出 $Hx\subset\overline{H}$. 因此左边 $Hx\cap\overline{H}=Hx$, 因此 $\overline{Hx\cap\overline{H}}=\overline{Hx}=\overline{H}x=\overline{H}$.
3
假设 $H\subsetneq\overline{H}$. 不妨设存在 $x\in\overline{H}$, $x\not\in H$. 则
\[
Hx\subset\overline{Hx}=\overline{H}x=\overline{H}.
\]
又 $x\not\in H$ 推出 $Hx\cap H=\emptyset$. 然而 $H$ 在 $\overline{H}$ 中是稠密的, 因此 $Hx$ 在 $\overline{H}$ 中是稀疏的. 这与 (2) 的结论是矛盾的.
因此 $\overline{H}=H$.