Local LLM Notepad(开源免费本地大语言模型记事本)

软件介绍

Local LLM Notepad是一款开源、离线、即插即用的桌面本地大语言模型记事本软件，专为在本地运行大型语言模型(LLM)而设计。用户只需将软件和兼容模型文件复制到U盘中，即可在任何Windows电脑上通过双击启动，无需安装、联网、云服务或管理员权限。它基于Llama.cpp技术，完全支持 CPU 运行，适用于从文档撰写、头脑风暴到问答交互等多种场景，是便携式AI助手的理想选择。

技术架构

基于Llama.cpp框架，实现纯CPU推理。

使用GGUF 格式模型，如gemma-3-1b-it-Q4_K_M.gguf，确保兼容性和高效性。

单文件.exe程序，便于携带与部署。

使用方式

下载Local_LLM_Notepad-portable.exe及任意 GGUF 模型文件。

将两者复制到 U 盘或本地目录。

在任意 Windows 电脑上双击.exe文件即可运行。

软件功能