AI笔记: 数学基础之正交矩阵与矩阵的QR分解

2023-11-12

正交矩阵

  • 若n阶方阵A满足 A T A = E A^TA = E ATA=E, 则称A为正交矩阵, 简称正交阵 (复数域上称为酉矩阵)
    • A是正交阵的充要条件:A的列(行)向量都是单位向量,且两两正交。
  • 若A为正交矩阵,x为向量,则Ax称为正交变换
    • 正交变换不改变向量的长度 y = A x , y T y = ( A x ) T A x = x T A T A x = x T E x = x T x y=Ax, y^Ty = (Ax)^TAx = x^TA^TAx = x^TEx = x^Tx y=Ax,yTy=(Ax)TAx=xTATAx=xTEx=xTx
  • 正交矩阵的性质
    • 若A为正交矩阵,则逆矩阵 A − 1 A^{-1} A1也为正交矩阵
    • 若P、Q为正交矩阵,那么 P ∗ Q P*Q PQ也为正交矩阵

QR分解(正交三角分解)

  • 对于m*n的列满秩矩阵A, 必有, A m ∗ n = Q m ∗ m ⋅ R m ∗ n A_{m*n} = Q_{m*m} · R_{m*n} Amn=QmmRmn
  • 其中Q为正交矩阵,R为非奇异上三角矩阵,当要求R的对角线元素为正的时候,该分解唯一。
  • 该分解叫做QR分解,常用语求解A的特征值、A的逆,最小二乘等问题
  • QR分解是将矩阵分解为一个正交矩阵与上三角矩阵的乘积

备注:图片托管于github,请确保网络的可访问性

  • 这其中,Q为正交矩阵, Q T Q = l Q^TQ = l QTQ=l, R为上三角矩阵
  • 实际中,QR分解经常被用来解线性最小二乘问题。

施密特正交化过程

  • 把一组线性无关向量组化为规范正交向量组,继而得到正交阵
  • η 1 = β 1 ∣ ∣ β 1 ∣ ∣ , η 2 = β 2 ∣ ∣ β 2 , ⋯   , η r = β r ∣ ∣ β r ∣ ∣ \eta_1 = \frac{\beta_1}{||\beta_1||}, \eta_2 = \frac{\beta_2}{||\beta_2}, \cdots, \eta_r = \frac{\beta_r}{||\beta_r||} η1=β1β1,η2=β2β2,,ηr=βrβr 是与 α 1 , α 2 , . . . , α r \alpha_1, \alpha_2, ..., \alpha_r α1,α2,...,αr等价的规范(标准)正交组。
  • α 1 , α 2 , . . . , α r \alpha_1, \alpha_2, ..., \alpha_r α1,α2,...,αr 线性无关, 令 β 1 = α 1 , β 2 = α 2 − [ β 1 , α 2 ] [ β 1 , β 1 ] β 1 , β 3 = α 3 − [ β 1 , α 3 ] β 1 , β 2 β 1 − [ β 2 , α 3 ] [ β 2 , β 2 ] β 2 ⋯ ⋯ \beta_1 = \alpha_1, \beta_2 = \alpha_2 - \frac{[\beta_1, \alpha_2]}{[\beta_1, \beta_1]} \beta_1, \beta_3 = \alpha_3 - \frac{[\beta_1, \alpha_3]}{\beta_1, \beta_2} \beta_1 - \frac{[\beta_2, \alpha_3]}{[\beta_2, \beta_2]} \beta_2 \cdots \cdots β1=α1,β2=α2[β1,β1][β1,α2]β1,β3=α3β1,β2[β1,α3]β1[β2,β2][β2,α3]β2
  • β r = α r − [ β 1 , α r ] [ β 1 , β 1 ] β 1 − [ β 2 , α r ] [ β 2 , β 2 ] β 2 − ⋯ − [ β r − 1 α r ] [ β r − 1 , β r − 1 ] β r − 1 \beta_r = \alpha_r - \frac{[\beta_1, \alpha_r]}{[\beta_1, \beta_1]}\beta_1 - \frac{[\beta_2, \alpha_r]}{[\beta_2, \beta_2]} \beta_2 - \cdots - \frac{[\beta_{r-1} \alpha_r]}{[\beta_{r-1}, \beta_{r-1}]} \beta_{r-1} βr=αr[β1,β1][β1,αr]β1[β2,β2][β2,αr]β2[βr1,βr1][βr1αr]βr1
  • β 1 , β 2 , ⋯   , β r \beta_1, \beta_2, \cdots, \beta_r β1,β2,,βr 两两正交,且与 α 1 , α 2 , ⋯   , α r \alpha_1, \alpha_2, \cdots, \alpha_r α1,α2,,αr等价

例1

  • 求矩阵 A = ( 1 1 − 1 1 0 0 0 1 0 0 0 1 ) A=\left (\begin{array}{cccc}1 & 1 & -1 \\1 & 0 & 0 \\0 & 1 & 0 \\0 & 0 & 1\end{array} \right ) A=110010101001的QR(正交三角)分解
  • 分析
    • 容易判断出 A ∈ C 3 4 × 3 A \in C_3^{4×3} AC34×3 即A是一个列满秩矩阵
    • A = [ α 1 , α 2 , α 3 ] A = [\alpha_1, \alpha_2, \alpha_3] A=[α1,α2,α3]的三个列向量施密特正交化先得到一个规范正交向量组
    • β 1 = α 1 = [ 1    1    0    0 ] T \beta_1 = \alpha_1 = [1 \ \ 1 \ \ 0 \ \ 0]^T β1=α1=[1  1  0  0]T
    • β 2 = α 2 − ( α 2 , β 1 ) β 1 , β 1 β 1 = α 2 − 1 2 β 1 = [ 1 2    − 1 2    1    0 ] T \beta_2 = \alpha_2 - \frac{(\alpha_2, \beta_1)}{\beta_1, \beta_1} \beta_1 = \alpha_2 - \frac{1}{2} \beta_1 = [\frac{1}{2} \ \ \frac{-1}{2} \ \ 1 \ \ 0]^T β2=α2β1,β1(α2,β1)β1=α221β1=[21  21  1  0]T
    • β 3 = α 3 − ( α 3 , β 1 ) β 1 , β 1 β 1 − ( α 3 , β 2 ) β 2 , β 2 β 2 = α 3 + 1 2 β 1 + 1 3 β 2 = [ − 1 3    1 3    1 3    1 ] T \beta_3 = \alpha_3 - \frac{(\alpha_3, \beta_1)}{\beta_1, \beta_1} \beta_1 - \frac{(\alpha_3, \beta_2)}{\beta_2, \beta_2} \beta_2 = \alpha_3 + \frac{1}{2} \beta_1 + \frac{1}{3} \beta_2 = [\frac{-1}{3} \ \ \frac{1}{3} \ \ \frac{1}{3} \ \ 1]^T β3=α3β1,β1(α3,β1)β1β2,β2(α3,β2)β2=α3+21β1+31β2=[31  31  31  1]T
    • 再将其单位化,得到一组标准正交向量组
      • η 1 = 1 ∣ ∣ β 1 ∣ ∣ β 1 = [ 2 2    2 2    0    0 ] T \eta_1 = \frac{1}{||\beta_1||} \beta_1 = [\frac{\sqrt{2}}{2} \ \ \frac{\sqrt{2}}{2} \ \ 0 \ \ 0]^T η1=β11β1=[22   22   0  0]T
      • η 2 = 1 ∣ ∣ β 2 ∣ ∣ β 2 = [ 6 6    − 6 3    6 3    0 ] T \eta_2 = \frac{1}{||\beta_2||} \beta_2 = [\frac{\sqrt{6}}{6} \ \ -\frac{\sqrt{6}}{3} \ \ \frac{\sqrt{6}}{3} \ \ 0]^T η2=β21β2=[66   36   36   0]T
      • η 3 = 1 ∣ ∣ β 3 ∣ ∣ β 3 = [ − 3 6    3 6    3 6    3 2 ] T \eta_3 = \frac{1}{||\beta_3||} \beta_3 = [-\frac{\sqrt{3}}{6} \ \ \frac{\sqrt{3}}{6} \ \ \frac{\sqrt{3}}{6} \ \ \frac{\sqrt{3}}{2}]^T η3=β31β3=[63   63   63   23 ]T
    • ⇒ Q ( η 1 , η 2 , η 3 ) = [ 2 2 6 6 − 3 6 2 2 − 6 6 3 6 0 6 3 3 6 0 0 3 2 ] \Rightarrow Q(\eta_1, \eta_2, \eta_3) = \left [\begin{array}{cccc}\frac{\sqrt{2}}{2} & \frac{\sqrt{6}}{6} & -\frac{\sqrt{3}}{6} \\\frac{\sqrt{2}}{2} & -\frac{\sqrt{6}}{6} & \frac{\sqrt{3}}{6} \\0 & \frac{\sqrt{6}}{3} & \frac{\sqrt{3}}{6} \\0 & 0 & \frac{\sqrt{3}}{2}\end{array} \right ] Q(η1,η2,η3)=22 22 0066 66 36 063 63 63 23
    • β 1 = α 1 = [ 1    1    0    0 ] T \beta_1 = \alpha_1 = [1 \ \ 1 \ \ 0 \ \ 0]^T β1=α1=[1  1  0  0]T
    • β 2 = α 2 − ( α 2 , β 1 ) ( β 1 , β 1 ) β 1 = α 2 − 1 2 β 1 = [ 1 2    − 1 2    1    0 ] T \beta_2 = \alpha_2 - \frac{(\alpha_2, \beta_1)}{(\beta_1, \beta_1)} \beta_1 = \alpha_2 - \frac{1}{2} \beta_1 = [\frac{1}{2} \ \ \frac{-1}{2} \ \ 1 \ \ 0]^T β2=α2(β1,β1)(α2,β1)β1=α221β1=[21  21  1  0]T
    • β 3 = α 3 − ( α 3 , β 1 ) β 1 , β 1 β 1 − ( α 3 , β 2 ) β 2 , β 2 β 2 = α 3 + 1 2 β 1 + 1 3 β 2 = [ − 1 3    1 3    1 3    1 ] T \beta_3 = \alpha_3 - \frac{(\alpha_3, \beta_1)}{\beta_1, \beta_1}\beta_1 - \frac{(\alpha_3, \beta_2)}{\beta_2, \beta_2} \beta_2 = \alpha_3 + \frac{1}{2}\beta_1 + \frac{1}{3}\beta_2 = [\frac{-1}{3} \ \ \frac{1}{3} \ \ \frac{1}{3} \ \ 1]^T β3=α3β1,β1(α3,β1)β1β2,β2(α3,β2)β2=α3+21β1+31β2=[31  31  31  1]T
    • ⇒ \Rightarrow
      • α 1 = β 1 \alpha_1 = \beta_1 α1=β1
      • α 2 = 1 2 β 1 + β 2 \alpha_2 = \frac{1}{2}\beta_1 + \beta_2 α2=21β1+β2
      • α 3 = − 1 2 β 1 − 1 3 β 2 + β 3 \alpha_3 = -\frac{1}{2}\beta_1 - \frac{1}{3}\beta_2 + \beta_3 α3=21β131β2+β3
    • 再将其单位化,得到一组标准正交向量组
      • β 1 = ∣ ∣ β 1 ∣ ∣ η 1 β 2 = ∣ ∣ β 2 ∣ ∣ η 2 β 3 = ∣ ∣ β 3 ∣ ∣ η 3 \left.\begin{array}{cccc}\beta_1 = ||\beta_1|| \eta_1 \\ \beta_2 = ||\beta_2|| \eta_2 \\ \beta_3 = ||\beta_3|| \eta_3\end{array} \right. β1=β1η1β2=β2η2β3=β3η3 α 1 = β 1 α 2 = 1 2 β 1 + β 2 α 3 = − 1 2 β 1 − 1 3 β 2 + β 3 \left. \begin{array}{cccc} \alpha_1 = \beta_1 \\ \alpha_2 = \frac{1}{2}\beta_1 + \beta_2 \\ \alpha_3 = -\frac{1}{2}\beta_1 - \frac{1}{3}\beta_2 + \beta_3 \end{array} \right. α1=β1α2=21β1+β2α3=21β131β2+β3
      • ⇒ α 1 = 2 η 1 α 2 = 6 2 η 2 + 2 2 η 1 α 3 = 2 3 3 η 3 − 6 6 η 2 − 2 2 η 1 ⇒ R = [ 2 2 2 − 2 2 0 6 2 6 6 0 0 2 3 3 ] \Rightarrow \left.\begin{array}{cccc}\alpha_1 = \sqrt{2} \eta_1 \\\alpha_2 = \frac{\sqrt{6}}{2} \eta_2 + \frac{\sqrt{2}}{2} \eta_1 \\\alpha_3 = \frac{2\sqrt{3}}{3} \eta_3 - \frac{\sqrt{6}}{6} \eta_2 - \frac{\sqrt{2}}{2} \eta_1 \\ \end{array} \right. \Rightarrow R = \left [ \begin{array}{cccc} \sqrt{2} & \frac{\sqrt{2}}{2} & -\frac{\sqrt{2}}{2} \\ 0 & \frac{\sqrt{6}}{2} & \frac{\sqrt{6}}{6} \\ 0 & 0 & \frac{2\sqrt{3}}{3} \end{array} \right ] α1=2 η1α2=26 η2+22 η1α3=323 η366 η222 η1R=2 0022 26 022 66 323
      • 故得到A矩阵的QR分解如下:
      • A = ( α 1    α 2    α 3 ) = Q R = [ 2 2 6 6 − 3 6 2 2 − 6 6 3 6 0 6 3 3 6 0 0 3 2 ] [ 2 2 2 − 2 2 0 6 2 6 6 0 6 3 3 6 0 0 2 3 3 ] A = (\alpha_1 \ \ \alpha_2 \ \ \alpha_3) = QR =\left [\begin{array}{cccc}\frac{\sqrt{2}}{2} & \frac{\sqrt{6}}{6} & -\frac{\sqrt{3}}{6} \\\frac{\sqrt{2}}{2} & -\frac{\sqrt{6}}{6} &\frac{\sqrt{3}}{6} \\ 0 & \frac{\sqrt{6}}{3} & \frac{\sqrt{3}}{6} \\ 0 & 0 & \frac{\sqrt{3}}{2} \end{array} \right ] \left [ \begin{array}{cccc} \sqrt{2} & \frac{\sqrt{2}}{2} & -\frac{\sqrt{2}}{2} \\ 0 & \frac{\sqrt{6}}{2} & \frac{\sqrt{6}}{6} \\ 0 & \frac{\sqrt{6}}{3} & \frac{\sqrt{3}}{6} \\ 0 & 0 & \frac{2\sqrt{3}}{3} \end{array} \right ] A=(α1  α2  α3)=QR=22 22 0066 66 36 063 63 63 23 2 00022 26 36 022 66 63 323
      • 简写为: A 4 × 3 = Q R = Q 4 × 3 R 3 × 3 A_{4×3} = QR = Q_{4×3} R_{3×3} A4×3=QR=Q4×3R3×3
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

AI笔记: 数学基础之正交矩阵与矩阵的QR分解 的相关文章

随机推荐

  • 深入浅出PID控制算法(三)————增量式与位置式PID算法的C语言实现与电机控制经验总结

    前文对PID算法离散化和增量式PID算法原理进行来探索 之后又使用Matlab进行了仿真实验 对PID三个参数又有了更深入的认识 接下来我们来使用C语言进行PID算法实现 并且结合控制电机的项目来深入学习 1 PID 算法C 语言原代码 先
  • [BJDCTF2020]EasySearch1

    BJDCTF2020 EasySearch1 0x01漏洞类型 打开题目如图所示 还是对CTF套路不太熟悉 拿到这种就以为是sql注入 启动sqlmap就一顿操作 都大 了 搞竞赛还来得及吗 参考别人的wp后知道是源码泄露 这里就不给服务器
  • QT中监控全局键盘鼠标事件

    先介绍一下在单一Widget等控件中监听鼠标键盘事件的代码 void mouseMoveEvent QMouseEvent event void mouseReleaseEvent QMouseEvent event void keyPre
  • CNN代码系列之训练源文件及头文件(二)

    本博客为CNN卷积代码系列之训练源文件及头文件 注意 本博客是系列博客 请链接上一博客http blog csdn net samylee article details 69325368 训练主程序中的头文件 funset hpp ifn
  • 半路出家OCR后成领域专家,白翔:计算机视觉科研没有捷径

    极市学者专访 第三期 听大牛说说计算机视觉那些事儿 AI派在读学生小姐姐Beyonce Java实战项目练习群 长按识别下方二维码 按需求添加 扫码添加Beyonce小姐姐 扫码关注 进Java学习大礼包 本次极市学者访谈 我们非常荣幸地邀
  • WebSSH2 界面ssh

    工具 Virtual Machines14 1 系统环境 CentOS 7 64位 2个 IP 192 168 163 138 IP 192 168 163 141 概述 在138系统中安装部署WebSSH服务 通过浏览器 http Web
  • [SLAM四元数基础系列一] 四元数定义 Hamilton vs JPL

    四元数定义 Hamilton vs JPL 简介 四种区分方式 Hamilton vs JPL 引用 不管是卡尔曼滤波或者BA优化形式的SLAM或者VIO系统中 都需要用到单位四元数 Quaternion 来表示旋转 主要是单位四元数表示旋
  • Python内置函数(47)——open

    英文文档 open file mode r buffering 1 encoding None errors None newline None closefd True opener None Open file and return a
  • VB 正则表达式(RegExp)对象

    VB 正则表达式 RegExp 对象 正则表达式 RegExp 对象提供简单的正则表达式支持功能 说明下面的代码说明了RegExp对象的用法 Function RegExpTest patrn strng Dim regEx Match M
  • Docker swarm 搭建docker高可用集群

    目录 项目名称 基于docker swarm 搭建docker高可用集群 1 网络拓扑图 网络数据流图 2 项目环境 3 项目描述 4 项目步骤 1 规划设计整个集群的架构 网络拓扑 安装7台CentOS 7 6的系统 按照规划配置好每台l
  • rs232转usb驱动_世界上最小的伺服驱动器。

    PEAR 世界上最小的伺服驱动器 用于有刷和无刷电机的微型嵌入式控制器 8 40 Vdc单电源 3 A连续 6 A峰值 CANOpen DS402 DS301 RS232和USB配置 数字霍尔 单端编码器 2x通用输入 1x数字输出尺寸 2
  • dw1000 配置无法通过

    最近在使用DW1000 做UWB项目时 出现过一个问题 配置DW1000一直无法成功 奇怪 之前还好好的 一点点排查确认了SPI配置没有问题 速度也不会太高 最后发现是重新配置工程时错将DW1000的RESET引脚配成输出引脚 把它改回输入
  • TCP的三次握手,四次挥手,面试必会

    目录 一 TCP三次握手 建立连接 二 TCP三次握手细节 三 TCP 四次挥手 断开连接 四 TCP非常重要的协议 一 TCP三次握手 建立连接 握手 单纯就是发一个打招呼的数据 不携带业务信息 那么为什么叫三次握手呢 因为B的中间两次可
  • C++ map的基本操作和使用

    C map的基本操作和使用 1 map简介 map是一类关联式容器 它的特点是增加和删除节点对迭代器的影响很小 除了那个操作节点 对其他的节点都没有什么影响 对于迭代器来说 可以修改实值 而不能修改key 2 map的功能 自动建立Key
  • 【TypeScript】TypeScript中的泛型

    泛型的意义及语法 定义一个函数或类时 有些情况下无法确定其中要使用的具体类型 返回值 参数 属性的类型不能确定 此时泛型便能够发挥作用 举个例子 function test arg any any return arg 上例中 test函数
  • 红队内网渗透神器--CobaltStrike安装教程

    CobaltStrike介绍 CobaltStrike是一款渗透测试神器 被业界人称为CS神器 CobaltStrike分为客户端与服务端 服务端是一个 客户端可以有多个 可被团队进行分布式协团操作 CobaltStrike集成了端口转发
  • 【VS问题已解决】警告被视为错误 - 没有生成“object”文件

    VS问题已解决 警告被视为错误 没有生成 object 文件 目前遇到这个问题主要是因为代码存在不明显的语法错误 在VS生成解决方案的编译阶段之前会检查有没有明显的语法问题 首先是 例如缺少结尾分号 误用中文字符这种最明显问题 在运行之前就
  • 网络协议笔记-网络层-划分子网、IP数据报的分组转发

    1 子网及子网掩码 1 1 为什么划分子网 简单点说 就是IP地址不够用了 互联网的发展太快 IP地址不够分了 两级IP地址的设计不太合理 因为随着网络的增多路由表会变得巨大 书上的总结是这样的 IP地址空间的利用率有时很低 例如A类地址网
  • 使用Python将图片转pdf

    使用Python将图片转pdf 1 效果图 2 源码 参考 今天需要把图片转pdf 发现迅捷pdf转换开始默认带水印了 收费版那算了 那就用Python吧 可单转 可批量转 参考 https blog csdn net qq 5370609
  • AI笔记: 数学基础之正交矩阵与矩阵的QR分解

    正交矩阵 若n阶方阵A满足 A T A E A TA E ATA E 则称A为正交矩阵 简称正交阵 复数域上称为酉矩