推荐文章
最新文章
关于无奈和洒脱：我喜欢的两支乐队
如果要说我最喜欢的乐队，我一定会回答“万能青年旅店”和“ChiliChill”。音乐的美当然是我喜欢他们的一大原因，但仔细想来更重要的原因是他们的内核对我灵魂的触动，他们对我带来的感受便是“无奈”和“洒脱”。 无奈 我记得就在去年我毕业的时候，我对自己的警告就是“…
2026-06-10 1 查看全文基于 Swift/Megatron 完成多模态大模型分布式训练
近期由于项目需要训练大模型，学习了基于 Swift/Megatron 的大模型分布式训练技术，发现细节不少，踩了不少坑，在此记录希望能帮到大家。 本文的最重要关键词就是分布式，毕竟模型训练谁不会呢，拿 transformers 库就能训下来了，在多机平台上如何跑起高效的训练才…
2026-04-29 1 查看全文颢天博客六周年小记 🎉
六年前在老家上网课的我肯定想不到，单纯拿来打发时间整的博客竟然能存活这么久。借今天这个机会，和大家分享下建站的一点感悟吧。 许多人说建立博客的目的是锻炼动手能力、学习计算机知识，还能丰富简历。这确实有道理，但我更愿意将这些看做建站过程的“附赠奖励”…
2026-02-14 4 查看全文XREAL AR 眼镜使用体验分享
前不久看了一些 UP 主的推 (shāng) 荐 (dān)，开始对 AR 眼镜这个品类产生了兴趣。正巧 XREAL 发了新品 1s，抱着 7 天无理由退款的心态整了个来体验，没想到到货后越用越感觉有意思，后面换了旗舰款的 One Pro。但是，在使用过程中我也发现了不少 UP 主商单里不敢说的…
2026-01-14 9 查看全文二〇二五 · 思想切片
2025 年对我来说是意义非凡的一年，我打通了人生中的又一个关卡，结束了大学本科的生活，又开启了新的挑战，成为了一名研究生；2025 年对我来说是百感交集的一年，数个月前我还是无忧无虑、幻想“前程似锦”的大四本科生，但现在我已经成为了任务繁多、感到“前途未卜”的…
2026-01-03 5 查看全文基于 Nginx 实现大模型接口负载均衡与故障转移
近期我在多台服务器上通过 vLLM 部署了大语言模型提供 API 服务，以此进行大批量模型推理数据生成任务。在多节点的大模型推理中，负载均衡和故障转移对于效率和稳定性是至关重要的。在经过研究后，我觉得使用 Nginx 来完成这个任务是最简单和成熟的，本篇文章将会介绍…
2025-10-28 2 查看全文基于 vLLM 在昇腾 910B 平台完成大模型分布式推理
最近由于项目原因，拿到了 95 万元的华为云代金券。项目需要进行大规模的大模型推理生成任务，为了利用好华为云的资源，于是我研究了下如何在华为云的昇腾 910B 平台部署大模型。尽管没有成熟的 CUDA 平台方便，但实际上整个流程也没有太过于困难，本篇文章便简单分享…
2025-10-18 3 查看全文OpenWrt 绕过校园网多设备路由器检测
前几天重庆大学研究生开学了，搬进宿舍把所有设备折腾好后，我的校园网账号就突然被踢下线了，显示账号不可使用路由器进行多设备共享，这给我搞得猝不及防。由于我有一台小主机在寝室做服务器，刚需内网环境，因此绕过这个多设备检测就是不得不做的了，本文便介绍一下…
2025-09-13 3 查看全文直流电源优雅解决方案
在我桌面上有许多直流设备，例如台灯、显示屏、USB 拓展坞等等，每个设备都附带了配套的直流电源适配器。当设备数量比较少的时候问题还不大，但随着我的设备数量增多，我发现使用这一堆直流电源是一个相当噩梦的事情。 一堆形状各异的砖头电源 首先就是插线板实…
2025-07-18 2 查看全文