基于 llama.cpp 实现高性能本地大模型推理

一听到大语言模型，想必大家想到的一点就是“耗算力”“难以本地部署”。但实际上，大语言模型也有较小的版本，同时如果结合量化技术和高性能框架，在本地平台部署一个可用的大模型是完全可行的。本篇文章将会介绍使用 llama.cpp 这个高性能大模型推理框架，在本地部署开源…

    2024-12-04    0   查看全文

使用 AI 对视频进行超分与补帧

最近发现 Wallpaper Engine 上的一些动态壁纸作画很棒，但是视频质量不佳，非常可惜。于是研究了下超分与补帧相关的 AI 应用，效果令人非常惊喜，本文在此记录一下使用经验。 1 选用模型 选用 AI 应用的标准首先是开源、免费，因为市面上收费的 AI 视频增强应用…

    2024-02-16    4   查看全文