WereAsh

设计模式 GoF书，提出了23种经典设计模式，并划分为三大类：创建型、结构型、行为型。 创建型模式关注对象的创建过程，将对象的创建与使用分离，使系统在创建对象时更加灵活。 单例模式：确保一个类只有一个实例，并提供一个全局访问点。适用于线程池、缓存、配置对象等。 工厂方法模式：定义一个创建对象的接口，但由子类决定实例化哪个类。使一个类的实例化延迟到其子类。 抽象工厂模式：提供一个创建一系列相关或依赖对象的接口，而无需指定它们具体的类。 建造者模式：将一个复杂对象的构建与它的表示分离，使得同样的构建过程可以创建不同的表示。 原型模式：用原型实例指定创建对象的种类，并通过拷贝这些原型创建新的对象。 结构型模式关注类和对象的组合，通过继承或组合来构建更大的结构。 适配器模式：将一个类的接口转换成客户希望的另一个接口，使原本不兼容的类可以一起工作。 装饰器模式：动态地给一个对象添加一些额外的职责。比生成子类更灵活。 代理模式：为另一个对象提供一个替身或占位符，以控制对这个对象的访问（如远程代理、虚拟代理、保护代理）。 外观模式：为子系统中的一组接口提供一个一致的界面，定义一个高层接口，使子 ...

CNNCNN中新出现了卷积层（Convolution）和池化层（Pooling） 卷积层用于提取输入数据的局部特征 池化层用于降维，增加鲁棒性并防止过拟合 全连接层用于整合特征并输出结果 卷积层​ 在全连接层中，相邻层的神经元全部连接在一起，输出的数量可以任意决定，但是却忽视了数据的形状。比如，输入数据为图像时，图像通常是长、宽、通道方向上的3维数据，但是向全连接输入时却需要将其拉平为1维数据，这种情况下3维形状的数据中的空间信息可能被全连接层忽视掉。 ​ 而卷积层可以保持数据形状不变，即接受3维形状的输入数据后同样以3维形状将数据输出至下一层。在CNN中，卷积层的输入输出数据也称为特征图（feature map） 卷积运算：对于输入数据，卷积运算以一定间隔滑动卷积核的窗口并应用。将各个位置上卷积核的元素和输入的对应元素相乘，然后求和（也就是乘积累加求和、矩阵内积） 填充：在进行卷积层的处理之前，有时要向输入数据的周围填入固定的数据（比如0）。主要目的是为了调整输出数据的形状大小，避免多次卷积后数据形状大小过小导致无法继续进行卷积运算。运用填充可以令数据形状在经过卷积运算后保持不变 ...

2017华工软院机试第一题输入一个字符串，要求输出能把所有的小写字符放前面，大写字符放中间，数字放后面，并且中间用空格隔开，如果同种类字符间有不同种类的字符，输出后也要用字符隔开 例如： 输入 12abc3KF12 输出 abc KF 12 3 12 输入 rwr21r3hello666world 输出 rwr r hello world 21 3 666 12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364package com.wereash.scut_hot100;import java.util.ArrayList;import java.util.List;import java.util.Scanner;/** * @Author: WereAsh * @Date:2026-02-25 21:21 **/public class Solution2017 { public s ...

283.移动零给定一个数组 nums，编写一个函数将所有 0 移动到数组的末尾，同时保持非零元素的相对顺序。 请注意 ，必须在不复制数组的情况下原地对数组进行操作。 思路： 双指针 123456789101112131415class Solution { public void moveZeroes(int[] nums) { int slow=0,fast=0; while(fast<nums.length){ if(nums[fast]!=0){ nums[slow++]=nums[fast++]; //不为0，两指针同时移动 }else{ fast++; //当前有空位，可存放元素 } } for(;slow<nums.length;slow++){ nums[slow ...

62.不同路径一个机器人位于一个 m x n 网格的左上角 （起始点在下图中标记为 “Start” ）。 机器人每次只能向下或者向右移动一步。机器人试图达到网格的右下角（在下图中标记为 “Finish” ）。 问总共有多少条不同的路径？ 思路： 二维dp 初始化第一行和第一列 到某个格子地方法是到它上方和左方的格子的和 12345678910111213class Solution { public int uniquePaths(int m, int n) { int[][] dp=new int[m][n]; for(int i=0;i<m;i++) dp[i][0]=1; for(int j=0;j<n;j++) dp[0][j]=1; for(int i=1;i<m;i++){ for(int j=1;j<n;j++){ dp[i][j]=dp[i-1][j]+dp[i][j-1]; ...

435.无重叠区间给定一个区间的集合 intervals ，其中 intervals[i] = [starti, endi] 。返回 需要移除区间的最小数量，使剩余区间互不重叠 。 注意 只在一点上接触的区间是 不重叠的。例如 [1, 2] 和 [2, 3] 是不重叠的。例如 [1, 4] 和 [2, 5] 是不重叠的 思路 改为计算最多可以选多少个互不重叠的区间，那么没选的区间就是要移除的区间。 对第二个元素进行升序排序 第一个范围肯定是能选的 贪心选择，右侧尽量小的范围 1234567891011121314class Solution { public int eraseOverlapIntervals(int[][] intervals) { Arrays.sort(intervals,(a,b)->a[1]-b[1]); int pre=Integer.MIN_VALUE; //确保选取第一个范围 int ans=0; for(int[] nums:intervals){ ...

136.只出现一次的数字给你一个 非空 整数数组 nums ，除了某个元素只出现一次以外，其余每个元素均出现两次。找出那个只出现了一次的元素。 你必须设计并实现线性时间复杂度的算法来解决此问题，且该算法只使用常量额外空间。 思路 交换律：a^b^c=a^c^b 任何数与0疑惑为任何数：0^n=n 相同的数异或为0：n^n=0 123456789class Solution{ public int singleNumber(int[] nums){ int ans=0; for(int num:nums){ ans^=num; } return ans; }}

238.出了自身以外数组的乘积给你一个整数数组 nums，返回 数组 answer ，其中 answer[i] 等于 nums 中除了 nums[i] 之外其余各元素的乘积 。 题目数据 保证 数组 nums之中任意元素的全部前缀元素和后缀的乘积都在 32 位 整数范围内。 请 不要使用除法，且在 O(n) 时间复杂度内完成此题。 思路 前缀和 后缀和 123456789101112131415161718192021222324252627282930313233package com.wereash.scut_hot100.dp;import java.util.Scanner;/** * @Author: WereAsh * @Date:2026-02-18 23:19 **/public class Solution238 { public static void main(String[] args){ Scanner scanner=new Scanner(System.in); String[] str=scanne ...

Transformer词嵌入分词器和独热编码，就是分别在利用不同的策略对token实施数字化 分词器就是为每个token没配一个独立的ID 独热编码就是把一个二进制里的每一位都对应一个token 利用潜空间 基于分词后的ID去升维 基于独热编码去降维 一个神经网络的隐藏层就是在进行一次空间变换 其中隐藏层中的神经元个数就是你在变换后空间的维度 隐藏层中神经元个数比输入的多就是升维，反之则是降维 数据在进行完线性运算之后，还要经过非线性的激活函数，只有靠激活函数引入非线性，才可以让模型描述更加复杂的情况 潜空间就是一个没有符号、发音等等这些形式上差别的非常纯粹的语义空间 编码就是就是先把文本里的一个token都先编写成独热码，然后进行降维这个过程就是把输入的一句话根据语义投射到一个潜空间中，把高维空间中的对象投射到低维空间，这个过程叫embeding，也就是嵌入，在语言处理领域主要针对的就是单词或者token，所以这个过程也叫词嵌入 注意力机制对词和词组合后的语义进行理解靠的就是注意力机制 注意力机制：作为一组词向量然后经过三个矩阵相乘之后，分别得到QKV三个矩阵，然后在经过一顿运算 ...

LoRA思路：与其每次复制整个模型，不如只调整一小部分参数，把成本降下来 亮点： 参数少：它只微调原始参数的1%甚至更少 速度快：训练和部署都比全参数微调省时省力 模块化：训练好的LoRA“插件”可以随时加载或卸载，不影响原始模型，特别适合多任务场景 原理奇异值分解SVD可以把任意矩阵分解成三个矩阵的乘积。 r是矩阵的秩，决定了分解后保留的信息量。如果只保留最大的奇异值，就可以用更少的参数近似w 矩阵信息量主要集中在奇异值较大的方向中 矩阵本身非常大，但信息集中在少数几个方向的矩阵，称为低秩矩阵，任何一个低秩矩阵都可以通过奇异值分解，去降低他的参数两 研究发现，通过微调后的权重变化ΔW的奇异值分解，大部分信息集中在少数几个奇异值上。比如，LoRA论文在GPT-3上测试时，ΔW的前10-20个奇异值就占据了90%以上的信息 微调是为了强化模型某个特定领域的能力，不要对所有方向的参数进行调整。 如何更新参数W’=W+ΔW=W+A·B 其中： W’是调整后的有效权重，用去前向传播 W是预训练模型的原始矩阵，形状为（d，k） ΔW是LoRA引入的调整量（增量），也是形 ...