背景 LlamaFactory 的 LoRA 微调功能非常便捷，微调后的模型，没有直接支持 vllm 推理，故导致推理速度不够快。 LlamaFactory 目前支持通过 VLLM API 进行部署，调用 API 时的响应速度，仍然没有vllm批量推理的速度快。 …

1、首先我们可以在远程桌面连接处，另存为一个rdp文件： 2、然后先通过powershell生成一个加密的密文： (“password” | ConvertTo-SecureString -AsPlainText -Force) | ConvertFrom-SecureString这里的password为真实密码 3、用记事本编辑r…

一、定义 在深度学习中，正则化是一种用于防止过拟合的技术。过拟合是指模型在训练数据上表现非常好，但在新的、未见过的数据（测试数据）上表现很差的情况。正则化模型就是通过在损失函数中添加额外的项来约束模型的复杂度&#xf…

文章目录 前言1. 多级缓存的概念1.1 CPU 多级缓存1.2 MyBatis 多级缓存 2. MyBatis 本地缓存3. MyBatis 全局缓存3.1 MyBatis 全局缓存过期算法3.2 CacheAside 模式 后记MyBatis 提供了缓存切口， 采用 Redis 会引入什么问题？万一遇到需强一致场景&#x…

一、什么是外观模式？ 1.定义 在日常生活中，许多人喜欢通过遥控器来控制家中的电视、音响、DVD 播放器等设备。虽然这些设备各自独立工作，但遥控器提供了一个简洁的界面，让用户可以轻松地操作多个设备。而这一设计理念正是 外观模…

文章目录 技巧五、质量管理 一模8.质量管理--质量管理计划--质量管理计划包括项目采用的质量标准，到底有没有满足质量需求，看质量标准即可。6、 [单选] 自项目开始以来，作为项目经理同事的职能经理一直公开反对该项目，在讨论项目里…

Parquet 文件详解 Apache Parquet 是一种开源的列式存储格式，专为大数据处理而设计，特别适合用于分析型数据存储。它被广泛应用于大数据框架中（如 Hadoop、Spark、Hive 等），因为它支持高效的压缩和查询优化&#xff0…

NSSM和WinSW把exe注册成服务，sc可以操作服务 sc query xx服务名字 NSSM下载地址：NSSM - the Non-Sucking Service Manager http://www.nssm.cc/release/nssm-2.24.zip WinSW下载地址：Releases winsw/winsw GitHub 1、根据需要注册的系统…