User:Zhenlige/RTT notes: Difference between revisions

Line 22:

定理2：若<math>f(\vec{a})</math>与<math>g(\vec{b})</math>为对偶，则斜范数（skewed norm）<math>f_s(\vec{a})=f(\boldsymbol{A}\vec{a})</math>的对偶为<math>g_s(\vec{b})=g\left(\left(\boldsymbol{A}^{-1}\right)^\mathrm{T}\vec{b}\right)</math>，其中<math>\boldsymbol{A}</math>为可逆矩阵。

证明：<math>\vec{a}\cdot\vec{b}~~</math> <math>~~ =\vec{b}^\mathrm{T}\vec{a}=\vec{b}^\mathrm{T}\boldsymbol{A}^{-1}\boldsymbol{A}\vec{a}~~</math> <math>~~ =(\boldsymbol{A}\vec{a})\cdot\left(\left(\boldsymbol{A}^{-1}\right)^\mathrm{T}\vec{b}\right)</math>。

证明：<math>\vec{a}\cdot\vec{b}=\vec{b}^\mathrm{T}\vec{a}=\vec{b}^\mathrm{T}\boldsymbol{A}^{-1}\boldsymbol{A}\vec{a}=(\boldsymbol{A}\vec{a})\cdot\left(\left(\boldsymbol{A}^{-1}\right)^\mathrm{T}\vec{b}\right)</math>。

~~<s>~~

定理3：欧式斜范数<math>f(\vec{a})=|\boldsymbol{A}\vec{a}|</math>的对偶为<math>g(\vec{b})=\left|\left(\boldsymbol{A}^+\right)^\mathrm{T}\vec{b}\right|</math>，其中<math>\boldsymbol{A}</math>为列满秩矩阵。

证明：必然存在可逆矩阵<math>\boldsymbol{B}</math>~~和正交矩阵~~<math>\boldsymbol{O}</math>，使<math>\boldsymbol{A}=\boldsymbol{O}\begin{bmatrix}\boldsymbol{B}&\boldsymbol{0}\\ \boldsymbol{0}&\mathbf{E}\end{bmatrix}</math>

证明：必然存在可逆矩阵<math>\boldsymbol{B}</math>、正交矩阵<math>\boldsymbol{O}</math>和列满秩矩阵<math>\boldsymbol{C}</math>，使<math>\begin{bmatrix}\boldsymbol{A}&\boldsymbol{C}\end{bmatrix}=\boldsymbol{O}\begin{bmatrix}\boldsymbol{B}&\boldsymbol{0}\\ \boldsymbol{0}&\mathbf{E}\end{bmatrix}</math>，其中<math>\mathbf{E}</math>为单位矩阵，<math>\boldsymbol{B}</math>的阶数与<math>\boldsymbol{A}</math>的列数相等。

</s>

<math>

\begin{matrix}

& & \begin{bmatrix}\vec{a}\\ \boldsymbol{0}\end{bmatrix} \\

& \begin{bmatrix}\boldsymbol{B}&\boldsymbol{0}\\ \boldsymbol{0}&\mathbf{E}\end{bmatrix} & \begin{bmatrix}\boldsymbol{B}\vec{a}\\ \boldsymbol{0}\end{bmatrix} \\

\boldsymbol{O} & \begin{bmatrix}\boldsymbol{A}&\boldsymbol{C}\end{bmatrix} & \boldsymbol{A}\vec{a}

\end{matrix}

</math>

则<math>f(\vec{a})=|\boldsymbol{B}\vec{a}|</math>，其对偶为<math>g(\vec{b})=\left|\left(\boldsymbol{B}^{-1}\right)^\mathrm{T}\vec{b}\right|</math>，且<math>\boldsymbol{A}^\mathrm{T}\boldsymbol{C}=\begin{bmatrix}\boldsymbol{B}&\boldsymbol{0}\end{bmatrix}\boldsymbol{O}^\mathrm{T}\boldsymbol{O}\begin{bmatrix}\boldsymbol{0}\\ \mathbf{E}\end{bmatrix}=\begin{bmatrix}\boldsymbol{B}&\boldsymbol{0}\end{bmatrix}\begin{bmatrix}\boldsymbol{0}\\ \mathbf{E}\end{bmatrix}=\boldsymbol{0}</math>，<math>\begin{bmatrix}\boldsymbol{A}&\boldsymbol{C}\end{bmatrix}</math>为可逆矩阵。

设<math>\begin{bmatrix}\boldsymbol{A}&\boldsymbol{C}\end{bmatrix}^{-1}=\begin{bmatrix}\boldsymbol{D}\\ \boldsymbol{F}\end{bmatrix}</math>，其中<math>\boldsymbol{D}</math>的行数与<math>\boldsymbol{A}</math>的列数相等。

<math>\begin{bmatrix}\boldsymbol{D}\\ \boldsymbol{F}\end{bmatrix}=\begin{bmatrix}\boldsymbol{B}&\boldsymbol{0}\\ \boldsymbol{0}&\mathbf{E}\end{bmatrix}^{-1}\boldsymbol{O}^{-1}=\begin{bmatrix}\boldsymbol{B}^{-1}&\boldsymbol{0}\\ \boldsymbol{0}&\mathbf{E}\end{bmatrix}\boldsymbol{O}^{-1}</math>，<math>\boldsymbol{D}=\begin{bmatrix}\boldsymbol{B}^{-1}&\boldsymbol{0}\end{bmatrix}\boldsymbol{O}^{-1}</math>，<math>g(\vec{b})=\left|\boldsymbol{D}^\mathrm{T}\vec{b}\right|</math>，又<math>\begin{bmatrix}\boldsymbol{D}\\ \boldsymbol{F}\end{bmatrix}\begin{bmatrix}\boldsymbol{A}&\boldsymbol{C}\end{bmatrix}=\mathbf{E}</math>，<math>\boldsymbol{D}\begin{bmatrix}\boldsymbol{A}&\boldsymbol{C}\end{bmatrix}=\begin{bmatrix}\mathbf{E}&\boldsymbol{0}\end{bmatrix}</math>，<math>\boldsymbol{D}=\boldsymbol{A}^+</math>，得证。

== ''p''范数调律 ''p''-norm tuning ==

@@ Line 22: / Line 22: @@
 定理2：若<math>f(\vec{a})</math>与<math>g(\vec{b})</math>为对偶，则斜范数（skewed norm）<math>f_s(\vec{a})=f(\boldsymbol{A}\vec{a})</math>的对偶为<math>g_s(\vec{b})=g\left(\left(\boldsymbol{A}^{-1}\right)^\mathrm{T}\vec{b}\right)</math>，其中<math>\boldsymbol{A}</math>为可逆矩阵。
-证明：<math>\vec{a}\cdot\vec{b}</math> <math> =\vec{b}^\mathrm{T}\vec{a}=\vec{b}^\mathrm{T}\boldsymbol{A}^{-1}\boldsymbol{A}\vec{a}</math> <math> =(\boldsymbol{A}\vec{a})\cdot\left(\left(\boldsymbol{A}^{-1}\right)^\mathrm{T}\vec{b}\right)</math>。
+证明：<math>\vec{a}\cdot\vec{b}=\vec{b}^\mathrm{T}\vec{a}=\vec{b}^\mathrm{T}\boldsymbol{A}^{-1}\boldsymbol{A}\vec{a}=(\boldsymbol{A}\vec{a})\cdot\left(\left(\boldsymbol{A}^{-1}\right)^\mathrm{T}\vec{b}\right)</math>。
-<s>
 定理3：欧式斜范数<math>f(\vec{a})=|\boldsymbol{A}\vec{a}|</math>的对偶为<math>g(\vec{b})=\left|\left(\boldsymbol{A}^+\right)^\mathrm{T}\vec{b}\right|</math>，其中<math>\boldsymbol{A}</math>为列满秩矩阵。
-证明：必然存在可逆矩阵<math>\boldsymbol{B}</math>和正交矩阵<math>\boldsymbol{O}</math>，使<math>\boldsymbol{A}=\boldsymbol{O}\begin{bmatrix}\boldsymbol{B}&\boldsymbol{0}\\ \boldsymbol{0}&\mathbf{E}\end{bmatrix}</math>
+证明：必然存在可逆矩阵<math>\boldsymbol{B}</math>、正交矩阵<math>\boldsymbol{O}</math>和列满秩矩阵<math>\boldsymbol{C}</math>，使<math>\begin{bmatrix}\boldsymbol{A}&\boldsymbol{C}\end{bmatrix}=\boldsymbol{O}\begin{bmatrix}\boldsymbol{B}&\boldsymbol{0}\\ \boldsymbol{0}&\mathbf{E}\end{bmatrix}</math>，其中<math>\mathbf{E}</math>为单位矩阵，<math>\boldsymbol{B}</math>的阶数与<math>\boldsymbol{A}</math>的列数相等。
-</s>
+<math>
+\begin{matrix}
+ &  & \begin{bmatrix}\vec{a}\\ \boldsymbol{0}\end{bmatrix} \\
+ & \begin{bmatrix}\boldsymbol{B}&\boldsymbol{0}\\ \boldsymbol{0}&\mathbf{E}\end{bmatrix} & \begin{bmatrix}\boldsymbol{B}\vec{a}\\ \boldsymbol{0}\end{bmatrix} \\
+\boldsymbol{O} & \begin{bmatrix}\boldsymbol{A}&\boldsymbol{C}\end{bmatrix} & \boldsymbol{A}\vec{a}
+\end{matrix}
+</math>
+则<math>f(\vec{a})=|\boldsymbol{B}\vec{a}|</math>，其对偶为<math>g(\vec{b})=\left|\left(\boldsymbol{B}^{-1}\right)^\mathrm{T}\vec{b}\right|</math>，且<math>\boldsymbol{A}^\mathrm{T}\boldsymbol{C}=\begin{bmatrix}\boldsymbol{B}&\boldsymbol{0}\end{bmatrix}\boldsymbol{O}^\mathrm{T}\boldsymbol{O}\begin{bmatrix}\boldsymbol{0}\\ \mathbf{E}\end{bmatrix}=\begin{bmatrix}\boldsymbol{B}&\boldsymbol{0}\end{bmatrix}\begin{bmatrix}\boldsymbol{0}\\ \mathbf{E}\end{bmatrix}=\boldsymbol{0}</math>，<math>\begin{bmatrix}\boldsymbol{A}&\boldsymbol{C}\end{bmatrix}</math>为可逆矩阵。
+设<math>\begin{bmatrix}\boldsymbol{A}&\boldsymbol{C}\end{bmatrix}^{-1}=\begin{bmatrix}\boldsymbol{D}\\ \boldsymbol{F}\end{bmatrix}</math>，其中<math>\boldsymbol{D}</math>的行数与<math>\boldsymbol{A}</math>的列数相等。
+<math>\begin{bmatrix}\boldsymbol{D}\\ \boldsymbol{F}\end{bmatrix}=\begin{bmatrix}\boldsymbol{B}&\boldsymbol{0}\\ \boldsymbol{0}&\mathbf{E}\end{bmatrix}^{-1}\boldsymbol{O}^{-1}=\begin{bmatrix}\boldsymbol{B}^{-1}&\boldsymbol{0}\\ \boldsymbol{0}&\mathbf{E}\end{bmatrix}\boldsymbol{O}^{-1}</math>，<math>\boldsymbol{D}=\begin{bmatrix}\boldsymbol{B}^{-1}&\boldsymbol{0}\end{bmatrix}\boldsymbol{O}^{-1}</math>，<math>g(\vec{b})=\left|\boldsymbol{D}^\mathrm{T}\vec{b}\right|</math>，又<math>\begin{bmatrix}\boldsymbol{D}\\ \boldsymbol{F}\end{bmatrix}\begin{bmatrix}\boldsymbol{A}&\boldsymbol{C}\end{bmatrix}=\mathbf{E}</math>，<math>\boldsymbol{D}\begin{bmatrix}\boldsymbol{A}&\boldsymbol{C}\end{bmatrix}=\begin{bmatrix}\mathbf{E}&\boldsymbol{0}\end{bmatrix}</math>，<math>\boldsymbol{D}=\boldsymbol{A}^+</math>，得证。
 == ''p''范数调律 ''p''-norm tuning ==