以下内容是根据刘建平的求导博客做的相关笔记

一、导数的定义与布局

1. 相关说明

在这里插入图片描述

2.导数布局

导数部分有分子布局和分母布局两种情况。
分子布局和分母布局相差一个转置。

  • 标量对向量求导布局
    在这里插入图片描述
  • 向量对向量求导布局
    在这里插入图片描述
  • 求导布局总结
    在这里插入图片描述
  • 标量对向量或矩阵求导，以分母布局为主。向量对向量求导，以分母布局为主。

二、矩阵向量求导之定义法

写出单个元素间的求导关系，得出求导结果。
思路简单，适用于求解简单关系的导数

2.1 标量对向量求导

在这里插入图片描述

在这里插入图片描述

2.2 标量对矩阵求导

在这里插入图片描述

2.3 向量对向量求导

在这里插入图片描述

三、矩阵向量求导之微分法

3.1 矩阵微分

在这里插入图片描述

3.2 矩阵微分的性质

矩阵迹相关
在这里插入图片描述
在这里插入图片描述
A ∗ A ∗ = ∣ A ∣ A*A^{*}=\left|A\right| A∗A∗=∣A∣
A ∗ = ∣ A ∣ A − 1 A^{*}=\left|A\right|A^{-1} A∗=∣A∣A−1
A ∗ A^{*} A∗是 A A A的伴随矩阵， A A A相应位置的代数余子式构成的矩阵

3.3使用微分法求解矩阵向量求导

在这里插入图片描述
在这里插入图片描述
d ( t r ( X ) ) = t r ( d ( x ) ) d(tr(X))=tr(d(x)) d(tr(X))=tr(d(x))
( u v ) ′ = u ′ v + u v ′ (uv)^{'}=u^{'}v+uv^{'} (uv)′=u′v+uv′

四、链式法则

4.1 链式法则与矩阵相容

链式关系成立的条件是，相互关联的变量都是向量。
在这里插入图片描述
x \bm{x} x， y \bm{y} y, z \bm{z} z都是向量时，用上面的链式法则公式直接求解。
当最终的变量是标量时，按上面公式计算会出现维度不相容的情况。需要按下面的方法计算：
在这里插入图片描述

Logo
技术共进，成长同行——讯飞AI开发者社区

技术共进，成长同行——讯飞AI开发者社区

更多推荐

587章:汽车制造的主要流程

设计团队使用CAD软件进行三维建模，确保车辆的外观、结构和性能满足要求。总装工艺 总装是将发动机、底盘、内饰和电子系统等组装到车身上的过程。智能制造 工业4.0技术应用于汽车制造，包括物联网、大数据分析和人工智能。智能工厂实现生产过程的实时监控和优化，提高生产效率和产品质量。路试与台架测试 成品车辆需经过多种路况测试和实验室台架测试，确保性能和安全达标。在线检测 生产线上安装多种传感器和视觉系统，

avatar 讯飞AI开发者社区

648章:汽车制造的主要流程

设计团队使用CAD软件进行三维建模，确保车辆的外观、结构和性能满足要求。总装工艺 总装是将发动机、底盘、内饰和电子系统等组装到车身上的过程。智能制造 工业4.0技术应用于汽车制造，包括物联网、大数据分析和人工智能。智能工厂实现生产过程的实时监控和优化，提高生产效率和产品质量。路试与台架测试 成品车辆需经过多种路况测试和实验室台架测试，确保性能和安全达标。在线检测 生产线上安装多种传感器和视觉系统，

avatar 讯飞AI开发者社区

多模态上下文工程化落地：提示工程架构师的ROI提升策略

在当今数字化浪潮中，人工智能技术日新月异。多模态数据，即包含文本、图像、音频、视频等多种形式的数据，正变得无处不在。想象一下，我们生活在一个信息丰富多样的世界里，就如同走进了一个大型的多媒体图书馆，每本书可能是文本形式，墙上挂着画作（图像），角落里播放着音乐（音频），还有视频在循环展示各种内容。多模态数据就像这个图书馆里丰富多样的信息载体。对于提示工程架构师而言，如何有效地处理和利用多模态上下文信

avatar 讯飞AI开发者社区