https://www.bilibili.com/video/BV1MMw1zaESW/?spm_id_from=333.337.search-card.all.click&vd_source=1adc500fd2f412e7be7248564f200e13
WOFA 方案核心设计（简洁版） 一、网络架构设计 采用 “编码器 - 嵌入器 - 失真层 - 提取器 - 解码器” 多级结构： 编码器（Enc）：两层FC，将 30 位二进制水印$w \in \{0,1\}^{1×30}$映射为灰度噪声图案$w_n^e \in \mathbb{R}^{1×H×W}$，公式：$w_n^e = Enc(w)$； 嵌入…
如何进行模型微调（Finetune） - 知乎 深度学习笔记——模型压缩和优化技术（蒸馏、剪枝、量化）_diffusion self-distillation-CSDN博客 一文搞懂【知识蒸馏】【Knowledge Distillation】算法原理_知识蒸馏算法-CSDN博客 【深度学习之模型优化】模型剪枝、模型量化、知识蒸馏概述_模型剪枝和量化…
非极大值抑制原理 非极大值抑制（Non-Maximum Suppression，NMS）是一种图像处理中的技术。它通常用于目标检测中，其主要作用是去除检测出来的冗余框，只保留最有可能包含目标物体的框，保留最优的检测结果。 在目标检测中，我们通常使用一个检测器来检测出可能存在的物体，并给出其位置和大小的预测框。然而，同一个物体可能会被多次检测出来，从…
循环神经网络RNN： LSTM模型与前向反向传播算法 - 刘建平Pinard - 博客园 L(Long short-Term memory)是一种循环神经网络(RNN)的变体，用于序列数据。在L中，细胞状态(cel state)和状态(hiddenstate)是两个重要的概念。 细胞状态是LSTM网络中的主要记忆单元。它责存储和传递信息，以便在处理…
1.Dataset和DataLoader的区别 torch.utils.data.Dataset是代表这一数据的抽象类（也就是基类）。我们可以通过继承和重写这个抽象类实现自己的数据类，只需要定义__len__和__getitem__这个两个函数。 DataLoader是Pytorch中用来处理模型输入数据的一个工具类。组合了数据集（dataset）…
在深度学习中，TensorFlow是一个非常流行的框架，而tensor就是张量的意思。 张量是矩阵的扩展与延伸。 Tensor的对象有三个属性： （1）rank：number of dimensions （2）shape: number of rows and columns （3）type: data type of tensor's eleme…
MSE: Mean Squared Error（均方误差） 含义：均方误差，是预测值与真实值之差的平方和的平均值，即： $\mathrm{MSE}=\frac1{\mathrm{N}}\sum_{\mathrm{i}=1}^{\mathrm{n}}(\mathrm{x_i}-\mathrm{y_i})^2$ 但是，在具体的应用中跟定义稍有不同。主要…
1. 解码器的输入组成 在推理阶段，解码器的输入有两个主要部分： (1) 目标序列的前缀（已生成的部分） 解码器需要自回归地生成序列。 在每个时间步，解码器的输入是当前生成的序列（前缀），经过 Embedding 层 转换成向量表示后输入到解码器。 例如： 如果生成的是句子 "I am", 在生成下一个单词时，解码器输入是 "I am" 的嵌入表示…
第1章 torch.nn简介 1.1 torch.nn相关库的导入 #环境准备 import numpy as np # numpy数组库 import math # 数学运算库 import matplotlib.pyplot as plt # 画图库 import torch # torch基础库 import torch.nn as nn #…