相关文章
利用人类反馈优化文本摘要质量
人工智能咨询培训老师叶梓 转载标明出处
精准评估和提升模型生成文本的质量，尤其是自动文摘的质量，成为了一个日益突出的挑战。传统的评估方法，如ROUGE指标，虽然在一定程度上能够衡量摘要的相关性，但往往无法全面反映…
建站知识
2025/1/12 6:33:35
从ES的JVM配置起步思考JVM常见参数优化
目录
一、真实查看参数
（一）-XX:PrintCommandLineFlags
（二）-XX:PrintFlagsFinal
二、堆空间的配置
（一）默认配置
（二）配置Elasticsearch堆内存时，将初始大小设置为…
建站知识
2025/1/20 7:07:33
总结：大模型推理优化策略
原文地址：大模型推理优化策略 7.1 显存优化 Qunatized KV CacheMQA/GQA 核心思想是减少kv-cache的数量，以少量kv-cache对应多个query PagedAttention KV cache，其具有以下特点:1. 显存占用大，14b级别的模型，每个token需要约0.7M-1M的显存；2. 动态变化：KV 缓存的大…
建站知识
2025/1/1 11:54:21
Linux 系统优化相关经验总结
一、背景
我们在系统运维过程中，尤其业务负载高或复杂的场景中，可能出现系统瓶颈影响业务运行的情况，甚至造成系统宕机等风险，这是我们必要情况需要对系统参数进行优化处理来缓解这种压力和风险，本文即对日常运维过程…
建站知识
2024/12/25 23:26:55
MySQL高性能及性能优化技巧
更新次数更新时间首发2021.10.25第一次更新2021.10.26 1.删除了书中大量不必要的存储引擎类型 2.摘要完毕Mysql架构与历史部分第二次更新2021.10.29 1.摘要基准测试内容 2.删除了大量对概念的举例.第三次更新2021.11.4 1.简化服务器性能剖析第四次更新2021.11.18 摘要完毕Schem…
建站知识
2025/1/2 20:22:25
MySQL索引原理以及SQL优化
案例
struct index_failure_t{int id;string name;int cid;int score;string phonenumber;}Map<int,index_failure>;
熟悉C的同学知道，上述案例中，我们map底层是一颗红黑树，一个节点存储了一对kv（键值对）&…
建站知识
2024/12/25 12:00:18
CSS性能优化的几个技巧
前言
随着互联网发展至今，对于网站来说，性能显的越来越重要了，CSS作为页面渲染和内容展现的重要环节，影响着用户对整个网站的第一体验。所以，我们需要重视与CSS相关的性能优化。
项目开发初期我们可能因为各种原因&a…
建站知识
2024/12/26 5:29:44
