【AI绘画】Stable Diffusion的LoRA是什么?

 ✒️ @halomaster 📅 12 Mar 2023, 02:51 GMT⋮ 【AI】 

LoRA是一种适用于大语言模型的微调技术,可以用来降低微调成本。它的做法是在每个Transformer块里注入可训练的层,而不是直接调整模型权重,从而减少需要训练的计算量。研究表明,LoRA微调质量与全模型微调相当,可以看做是一个小型的插件或神器。此外,LoRA也可用于交叉关注层,提高用文字生成图片的效果。 [Demo](https://huggingface.co/spaces/lora-library/LoRA-DreamBooth-Training-UI) https://github.com/cloneofsimo/lora


[1] @halomaster • 12 Mar 2023, 06:06 GMT 
Do not use VAE when using LoRA models!!! Otherwise the results will be bad!


[2] @halomaster • 12 Mar 2023, 06:19 GMT 
免费在线AI绘画 https://app.prodia.com/#/


[3] @halomaster • 12 Mar 2023, 14:20 GMT 
矩阵的秩到底有什么物理含义? 矩阵的秩通常被定义为矩阵所能生成的向量空间的维度,也可以理解为该矩阵的行或列向量的数量。它在物理学中有着广泛的应用。 例如,在控制论中,对系统进行建模时,一个矩阵可能表示系统的状态空间,其秩可以揭示系统可观察性和可控性的重要信息。一个具有全秩矩阵状态的系统可以被完全地观察和控制,而具有非全秩矩阵状态的系统则可能存在未能被完全观察或控制的状态。 在计算流体力学等领域,矩阵的秩可以用来判断流场中的涡旋是否存在。一个流场的速度梯度张量可以通过一个矩阵来表示,其秩可以对应于涡旋的数量。当矩阵的秩为零时,表示速度场为无旋场,而当秩大于零时,则表示存在涡旋。 因此,矩阵的秩在物理学中有着重要的意义和应用。


[4] @halomaster • 12 Mar 2023, 14:21 GMT 
在图像处理和计算机视觉中,矩阵的秩可以用来压缩数据。如果一个矩阵的秩很低,就可以用一个更小的矩阵来近似表示它,从而压缩数据量。 此外,在量子力学和统计力学中,矩阵的秩在描述量子纠缠和多粒子态等方面也有着重要的应用。


[5] @halomaster • 12 Mar 2023, 14:31 GMT 
矩阵的秩有很多应用,例如: 在控制论中,矩阵的秩用于描述系统的可控性和可观察性。一个系统能够被完全控制或完全观察的条件之一是与该系统相关的矩阵是满秩的。 在机器学习和数据分析中,矩阵的秩可以作为数据特征之间的相关性的度量。如果两个数据特征之间呈现明显的线性关系,则只需一个数据特征即可表示这两个数据特征。 在计算流体力学等领域中,矩阵的秩可以用来判断流场中的涡旋是否存在。一个流场的速度梯度张量可以通过一个矩阵来表示,其秩可以对应于涡旋的数量。 在图像处理和计算机视觉中,矩阵的秩可以用于压缩数据。例如,可以使用低秩矩阵近似表示高维数据,从而减少数据量并提高处理效率。


[6] @halomaster • 14 Mar 2023, 17:00 GMT 
AI绘画@IPFS https://ipfs.io/ipfs/QmPhJ5JXY7NDdoJLDbpFrVv489mRi7ZtEETTVFTaX4APVD?filename=00020.png


[7] @halomaster • 14 Mar 2023, 17:01 GMT 
![](https://ipfs.io/ipfs/QmPhJ5JXY7NDdoJLDbpFrVv489mRi7ZtEETTVFTaX4APVD?filename=00020.png) 需要安装“IPFS伴侣”


[8] @halomaster • 14 Mar 2023, 18:14 GMT 
![](https://ipfs.io/ipfs/QmQevenY2G8gje3UJi2VNFdcuT2zfRtNknchHYkqqMNtGb?filename=00000%20(1).png)


[9] @halomaster • 14 Mar 2023, 18:19 GMT 
https://ipfs.io/ipfs/QmTGHQkkvGWEwydGUTTvYWwXdbq2qjkGHnfraSNZK3fQjm?filename=00000%20(2).png


[10] @halomaster • 15 Mar 2023, 01:26 GMT 
![](https://ipfs.io/ipfs/QmUvLvYp15NqmtnAp8H9zXVwgtV2CrBoP6r6p4JqPR62a4?filename=00013.jpg)


[11] @halomaster • 15 Mar 2023, 02:20 GMT 
![21](https://ipfs.io/ipfs/QmepnwJZ35qDU3MXNPDp1EKciARbfCPnZszeGxAwWkEb2F?filename=00021.png){: width="300px" height="300px"}


[12] @halomaster • 16 Mar 2023, 00:45 GMT 
![](https://ipfs.io/ipfs/Qmdzy5e5Jg7z3WVnzaPCtHkQrs9Wc6ZVQtBcQoduKN8eSR?filename=255941.jpg)


[13] @halomaster • 23 Mar 2023, 23:06 GMT 
推荐一个AI绘画的论坛: https://dfldata.xyz/forum.php?mod=forumdisplay&fid=45


1 of 1 pages  13 replies