3 月 22 日消息来自 IT 之家。当地时间是周四，AMD 宣布推出了一个应用 GAIA，此应用是专为本地运行大语言模型（LLM）而设计的，并且在 Github 上进行了开源，不过目前仅局限于 Windows 平台。
GAIA 是一款生成式 AI 应用。它能够在 Windows PC 上实现本地化私密运行 LLM。并且针对锐龙 AI 300 系列处理器进行了优化。这标志着 AMD 在边缘计算领域的又一重要布局。
在 NPU 上运行 GAIA 能够提升 AI 特定任务的性能。自 Ryzen AI 软件版本 1.3 起，实现了混合支持部署，即能够同时运用 NPU 和核显来进行量化 LLM 的部署。
其核心组件是以 onNX TurnkeyML 的 Lemonade SDK 为基础进行开发的，运用了检索增强生成（RAG）技术框架，借助本地向量索引，能够实现对 YouTube、GitHub 等外部数据的实时检索与分析。
系统工作流由 LLM 连接器、LlamaIndex RAG 管道以及代理 Web 服务器这三大模块构成，并且能够支持 Llama、Phi 等主流模型。其功能模块包含以下四大 AI 智能体：
硬件方面，AMD 提供了两种安装方案，分别是普通版和混合版。普通安装包具有兼容性，它可以兼容任意的 Windows PC，这里的 Windows PC 包含非 AMD 硬件设备。并且，普通安装包通过 Ollama 后端来实现跨平台支持。
混合安装包是专门为配备锐龙 AI 300 系列处理器的设备而进行优化的。它能够智能地分配 NPU 与集成显卡的计算负载。AMD 宣称，从 Ryzen AI 软件的 1.3 版本开始，就支持量化模型在 NPU 和集成显卡之间进行混合部署。
隐私与性能优势方面：
该项目遵循 MIT 开源协议，其代码库在 GitHub 上是开放的。AMD 大力鼓励开发者去贡献自定义代理模块，当下已经有多个针对不同行业的定制化代理正在处于开发的阶段。
此外，GAIA 目前还不能支持 Linux 系统和 macOS 系统。不过，AMD 官方文档表明，在未来有可能会扩大对多平台的支持。
IT之家附 Github 地址：
