AIKit是一个一站式平台，可以快速开始托管、部署、构建和微调大型语言模型（LLMs）。AIKit提供两个主要功能：推理和微调。推理方面，AIKit使用LocalAI，支持广泛的推理能力和格式，提供了一个兼容OpenAI API的REST API。微调方面，AIKit提供了一个可扩展的微调界面，支持Unsloth，可以快速、高效、轻松地进行微调体验。AIKit具有许多特点，如无需GPU或互联网访问、仅需Docker等。支持多模态模型、图像生成等功能，适用于多种模型和部署环境。
项目文档：https://sozercan.github.io/aikit/
github：http://github.com/sozercan/aikit
本文地址：https://www.163264.com/7508