SillyTavern - 强大的LLM前端交互平台

项目概述

SillyTavern 是一款面向高级用户的本地化大语言模型(LLM)前端界面。这是一个可以安装在本地计算机(包括 Windows、macOS、Linux 以及 Android 手机)上的用户界面,允许用户与文本生成 AI、图像生成引擎和文本转语音(TTS)模型进行交互。

• 项目地址: https://github.com/SillyTavern/SillyTavern
• 官方文档: https://docs.sillytavern.app/
• 项目历史: 2023年2月从 TavernAI 1.2.8 分支而来
• 开发状态: 拥有200多名贡献者,经过2年多独立开发
• 许可协议: AGPL-3.0 (开源免费)

核心特性

1. 多模型API支持

SillyTavern 提供统一界面支持众多 LLM API:

• 商业API: OpenAI、Claude、Mistral、NovelAI、OpenRouter
• 开源后端: KoboldAI/CPP、Ooba、Tabby、Text Generation WebUI
• 分布式推理: AI Horde (免费即用)
• 支持更多自定义兼容 OpenAI 格式的 API

2. 角色卡片系统

• 角色卡片(Character Cards)是 SillyTavern 的核心概念
• 类似于 ChatGPT 的 GPTs 或 Poe 的 bots
• 可以创建各种类型的角色:抽象场景、专用助手、名人角色、虚拟人物
• 支持导入导出标准 v2 规格的角色卡片
• 内置默认角色 Seraphina,可从社区下载更多角色
• 包含角色定义、首条消息、内嵌 Lorebook 等功能

3. 图像生成集成

• 集成 Automatic1111 API
• 集成 ComfyUI API
• 可在对话中实时生成图像
• 支持角色表情和头像系统

4. 语音功能(TTS)

• 多种 TTS 引擎支持
• 可为角色配置不同的声音
• 支持实时语音合成

5. 丰富的对话控制

• Visual Novel Mode(视觉小说模式)
• WorldInfo/Lorebooks(世界观信息/知识库系统)
• 自动翻译功能
• 海量提示词选项和自定义能力
• 移动端友好的响应式布局
• 高度可定制的用户界面

6. 扩展系统

通过第三方扩展实现无限扩展潜力:

• Character Expressions: 角色表情自动更新(基于情感分析)
• Talkinghead: AI驱动的角色动画
• Vector Storage: 向量存储和检索
• Stable Diffusion: 图像生成
• 更多扩展可通过 "Download Extensions & Assets" 菜单下载

系统要求

最低配置

• 运行环境: 支持 Node.js 18 或更高版本的系统
• 操作系统: Windows、macOS、Linux、Android(Termux)
• 硬件要求: 极低,任何能运行 Node.js 的设备都可以

本地推理推荐配置(可选)

• 显卡: NVIDIA 3000系列或更高
• 显存: 至少 6GB VRAM
• 注意: 如果只使用云端 API,无需高性能硬件

安装方式

Windows 安装

# 安装 Node.js (推荐 LTS 版本)
# 安装 Git for Windows

# Release 分支(稳定版,推荐)
git clone https://github.com/SillyTavern/SillyTavern -b release

# Staging 分支(开发版,功能最新)
git clone https://github.com/SillyTavern/SillyTavern -b staging

# 运行启动脚本
# 双击 Start.bat

Linux/macOS 安装

# 安装 Node.js 18+
# 安装 Git

# 克隆仓库
git clone https://github.com/SillyTavern/SillyTavern -b release
cd SillyTavern

# 安装依赖并启动
npm install
npm start

Docker 安装

# 详见官方文档
# https://docs.sillytavern.app/installation/docker/

Android (Termux) 安装

• 支持在 Android 手机上通过 Termux 运行
• 详细步骤参见官方文档

使用指南

快速开始

1. 启动服务: 运行 Start.bat (Windows) 或相应启动脚本
2. 打开界面: 浏览器会自动打开 SillyTavern 界面
3. 配置 API: 在设置中连接你的 LLM 后端(如 OpenAI、Claude 或 AI Horde)
4. 选择角色: 加载或创建角色卡片
5. 开始对话: 在输入框输入消息开始聊天

分支选择

• Release 分支:

  • ⭐ 推荐大多数用户使用
  • 最稳定,仅在主要版本发布时更新
  • 通常每月更新一次

• Staging 分支:

  • ⚠️ 仅供高级用户和爱好者
  • 包含最新功能,但可能随时出现问题
  • 每天更新数次

扩展生态

SillyTavern-Extras

额外功能扩展包,提供:

• 图像标注和描述
• 角色表情分类
• TTS 和语音识别
• 嵌入和向量存储
• Stable Diffusion 图像生成

安装要求:

• Python 3.x
• CUDA 支持(可选,用于 GPU 加速)
• 约 6GB RAM(运行所有模块)

社区扩展

• 通过 "Download Extensions & Assets" 菜单可下载官方认可的第三方扩展
• 所有扩展必须开源并使用自由许可证
• 扩展必须与最新 Release 版本兼容

项目特点

开放与隐私

• ✅ 完全开源,永久免费
• ✅ 本地运行,不收集用户数据
• ✅ 无需在线或托管服务
• ✅ 社区驱动的激情项目

面向高级用户

• 提供最大限度的提示词控制能力
• 丰富的自定义选项
• 陡峭的学习曲线被视为乐趣的一部分
• 为 AI 爱好者量身打造

活跃的社区

• Discord 社区: https://discord.gg/sillytavern
• 200+ 贡献者持续开发
• 活跃的问题追踪和功能建议
• 丰富的社区资源和角色卡片

相关项目

• SillyTavern-Extras: 扩展功能包
• SillyTavern-Launcher: 启动器脚本工具
• SillyTavern-Docs: 官方文档网站
• SillyTavern-Content: 官方内容仓库
• STMP: SillyTavern 多人版本

技术架构

• 前端: Web 界面(HTML/CSS/JavaScript)
• 后端: Node.js 服务器
• 通信: RESTful API
• 扩展: 插件系统
• 存储: 本地文件系统

使用场景

1. 角色扮演对话: 与虚拟角色进行沉浸式对话
2. 创意写作: 使用 AI 辅助创作故事、剧本
3. 个人助手: 配置专用任务助手
4. 学习实验: 研究和测试不同的 LLM 模型
5. 多模态交互: 结合文本、图像、语音的综合体验

贡献指南

欢迎贡献!参与方式:

• 提交 Pull Request (查看 CONTRIBUTING.md)
• 报告问题和建议(使用提供的模板)
• 先阅读完整文档,避免重复提交
• 加入 Discord 社区讨论

免责声明

本程序按"现状"分发,不提供任何明示或暗示的保证,包括但不限于适销性或特定用途适用性的保证。详见 GNU Affero General Public License。

开发团队

• Discord: cohee, rossascends, wolfsblvt
• Reddit: /u/RossAscends, /u/sillylossy, /u/Wolfsblvt
• GitHub: 200+ 贡献者

致谢

• TavernAI 1.2.8 by Humi (MIT License)
• CncAnon's TavernAITurbo mod
• Visual Novel Mode 灵感来自 PepperTaco
• 字体: Noto Sans (Google, OFL)
• 图标: Font Awesome (CC BY 4.0)
• 默认内容: @OtisAlejandro, @kallmeflocc
• Docker 指南: @mrguymiah, @Bronya-Rand

总结

SillyTavern 是一个功能强大、高度可定制的 LLM 前端平台,特别适合需要精细控制 AI 交互的高级用户。通过统一的界面支持众多 AI 模型,结合丰富的扩展生态和活跃的社区,它为 AI 爱好者提供了一个理想的实验和创作平台。无论是角色扮演、创意写作还是 AI 研究,SillyTavern 都能提供专业级的工具和体验。