SillyTavern - 강력한 LLM 프론트엔드 인터랙션 플랫폼

프로젝트 개요

SillyTavern는 고급 사용자를 위한 지역화된 대형 언어 모델(LLM) 프론트엔드 인터페이스입니다. 이는 Windows, macOS, Linux 및 Android 스마트폰을 포함한 로컬 컴퓨터에 설치할 수 있는 사용자 인터페이스로, 텍스트 생성 AI, 이미지 생성 엔진 및 텍스트-음성 변환(TTS) 모델과 상호작용할 수 있게 해줍니다.

• 프로젝트 주소: https://github.com/SillyTavern/SillyTavern
• 공식 문서: https://docs.sillytavern.app/
• 프로젝트 역사: 2023년 2월 TavernAI 1.2.8 브랜치에서 시작
• 개발 상태: 200명 이상의 기여자와 2년 이상 독립적인 개발
• 라이선스: AGPL-3.0 (오픈 소스 무료)

핵심 기능

1. 다중 모델 API 지원

SillyTavern은 다양한 LLM API를 통합 인터페이스로 제공합니다:

• 상업 API: OpenAI, Claude, Mistral, NovelAI, OpenRouter
• 오픈 소스 백엔드: KoboldAI/CPP, Ooba, Tabby, Text Generation WebUI
• 분산 추론: AI Horde (무료 사용 가능)
• 더 많은 OpenAI 형식과 호환되는 API 지원

2. 캐릭터 카드 시스템

• 캐릭터 카드(Character Cards)는 SillyTavern의 핵심 개념입니다.
• ChatGPT의 GPTs나 Poe의 bots와 유사
• 다양한 유형의 캐릭터 생성: 추상적 시나리오, 전문 조수, 유명인물 캐릭터, 가상 캐릭터
• 표준 v2 규격의 캐릭터 카드를 가져오고 내보낼 수 있음
• 기본 캐릭터 Seraphina 내장, 커뮤니티에서 더 많은 캐릭터 다운로드 가능
• 캐릭터 정의, 첫 번째 메시지, 내장 Lorebook 등 기능 포함

3. 이미지 생성 통합

• Automatic1111 API 통합
• ComfyUI API 통합
• 대화 중 실시간 이미지 생성
• 캐릭터 표정 및 아바타 시스템 지원

4. 음성 기능(TTS)

• 다양한 TTS 엔진 지원
• 캐릭터별 다른 목소리 설정 가능
• 실시간 음성 합성 지원

5. 풍부한 대화 제어

• Visual Novel Mode(시각 소설 모드)
• WorldInfo/Lorebooks(세계 정보/지식베이스 시스템)
• 자동 번역 기능
• 방대한 프롬프트 옵션 및 맞춤 설정
• 모바일 친화적인 반응형 레이아웃
• 높은 수준의 사용자 인터페이스 맞춤 설정

6. 확장 시스템

제3자 확장을 통해 무한한 확장 가능성을 제공:

• Character Expressions: 감성 분석 기반 캐릭터 표정 자동 업데이트
• Talkinghead: AI 기반 캐릭터 애니메이션
• Vector Storage: 벡터 저장 및 검색
• Stable Diffusion: 이미지 생성
• "Download Extensions & Assets" 메뉴를 통해 더 많은 확장 다운로드 가능

시스템 요구 사항

최소 요구 사항

• 실행 환경: Node.js 18 이상 지원하는 시스템
• 운영 체제: Windows, macOS, Linux, Android(Termux)
• 하드웨어 요구 사항: 매우 낮음, Node.js를 실행할 수 있는 모든 장치

로컬 추론 권장 구성(선택 사항)

• 그래픽 카드: NVIDIA 3000 시리즈 이상
• 비디오 메모리: 최소 6GB VRAM
• 참고: 클라우드 API만 사용한다면 고성능 하드웨어 필요 없음

설치 방법

Windows 설치

# Node.js 설치 (LTS 버전 권장)
# Git for Windows 설치

# Release 브랜치(안정판, 권장)
git clone https://github.com/SillyTavern/SillyTavern -b release

# Staging 브랜치(개발판, 최신 기능)
git clone https://github.com/SillyTavern/SillyTavern -b staging

# 시작 스크립트 실행
# Start.bat 더블 클릭

Linux/macOS 설치

# Node.js 18+ 설치
# Git 설치

# 저장소 복제
git clone https://github.com/SillyTavern/SillyTavern -b release
cd SillyTavern

# 의존성 설치 및 시작
npm install
npm start

Docker 설치

# 공식 문서 참조
# https://docs.sillytavern.app/installation/docker/

Android (Termux) 설치

• Termux를 통해 Android 스마트폰에서 실행 가능
• 자세한 단계는 공식 문서 참조

사용 가이드

빠른 시작

1. 서비스 시작: Start.bat (Windows) 또는 해당 시작 스크립트 실행
2. 인터페이스 열기: 브라우저가 자동으로 SillyTavern 인터페이스 열림
3. API 구성: 설정에서 LLM 백엔드(OpenAI, Claude, AI Horde 등) 연결
4. 캐릭터 선택: 캐릭터 카드 로드 또는 생성
5. 대화 시작: 입력 상자에 메시지 입력하여 대화 시작

브랜치 선택

• Release 브랜치:

  • ⭐ 대부분의 사용자에게 권장
  • 가장 안정적, 주요 버전 출시 시 업데이트
  • 일반적으로 매달 한 번 업데이트

• Staging 브랜치:

  • ⚠️ 고급 사용자 및 애호가용
  • 최신 기능 포함, 하지만 언제든 문제가 발생할 수 있음
  • 하루에 몇 번씩 업데이트

확장 생태계

SillyTavern-Extras

추가 기능 확장 패키지, 제공:

• 이미지 라벨링 및 설명
• 캐릭터 표정 분류
• TTS 및 음성 인식
• 임베딩 및 벡터 저장
• Stable Diffusion 이미지 생성

설치 요구 사항:

• Python 3.x
• CUDA 지원(옵션, GPU 가속용)
• 모든 모듈 실행을 위한 약 6GB RAM

커뮤니티 확장

• "Download Extensions & Assets" 메뉴를 통해 공식 인정 제3자 확장 다운로드 가능
• 모든 확장은 오픈 소스이며 자유 라이선스 사용
• 최신 Release 버전과 호환되어야 함

프로젝트 특징

오픈 및 프라이버시

• ✅ 완전히 오픈 소스, 영구적으로 무료
• ✅ 로컬 실행, 사용자 데이터 수집 없음
• ✅ 온라인이나 호스팅 서비스 필요 없음
• ✅ 커뮤니티 주도의 열정 프로젝트

고급 사용자를 위한

• 최대한의 프롬프트 제어 능력 제공
• 풍부한 맞춤 설정 옵션
• 가파른 학습 곡선을 즐거움으로 여기는 것
• AI 애호가를 위해 설계됨

활발한 커뮤니티

• Discord 커뮤니티: https://discord.gg/sillytavern
• 200명 이상의 기여자 지속적인 개발
• 활발한 이슈 추적 및 기능 제안
• 풍부한 커뮤니티 리소스 및 캐릭터 카드

관련 프로젝트

• SillyTavern-Extras: 확장 기능 패키지
• SillyTavern-Launcher: 런처 스크립트 도구
• SillyTavern-Docs: 공식 문서 웹사이트
• SillyTavern-Content: 공식 콘텐츠 저장소
• STMP: SillyTavern 멀티플레이어 버전

기술 아키텍처

• 프론트엔드: 웹 인터페이스(HTML/CSS/JavaScript)
• 백엔드: Node.js 서버
• 통신: RESTful API
• 확장: 플러그인 시스템
• 저장: 로컬 파일 시스템

사용 사례

1. 역할 연기 대화: 가상 캐릭터와 몰입형 대화
2. 창의적 글쓰기: AI 지원으로 이야기, 대본 작성
3. 개인 조수: 전문적인 작업 조수 구성
4. 학습 및 실험: 다양한 LLM 모델 연구 및 테스트
5. 다중 모달 인터랙션: 텍스트, 이미지, 음성의 종합 경험

기여 가이드

기여 환영! 참여 방법:

• Pull Request 제출 (CONTRIBUTING.md 참조)
• 문제 및 제안 보고(제공된 템플릿 사용)
• 전체 문서 읽고 중복 제출 피하기
• Discord 커뮤니티에 참여하여 논의

면책 조항

이 프로그램은 "있는 그대로" 배포되며, 판매성이나 특정 목적에 대한 적합성에 대한 명시적 또는 묵시적 보증을 포함하여 어떠한 보증도 제공하지 않습니다. GNU Affero General Public License 참조.

개발 팀

• Discord: cohee, rossascends, wolfsblvt
• Reddit: /u/RossAscends, /u/sillylossy, /u/Wolfsblvt
• GitHub: 200명 이상의 기여자

감사의 말

• TavernAI 1.2.8 by Humi (MIT License)
• CncAnon's TavernAITurbo mod
• Visual Novel Mode 아이디어: PepperTaco
• 폰트: Noto Sans (Google, OFL)
• 아이콘: Font Awesome (CC BY 4.0)
• 기본 콘텐츠: @OtisAlejandro, @kallmeflocc
• Docker 가이드: @mrguymiah, @Bronya-Rand

요약

SillyTavern은 강력하고 고도로 맞춤 설정 가능한 LLM 프론트엔드 플랫폼으로, 특히 AI 인터랙션에 대한 세밀한 제어가 필요한 고급 사용자에게 적합합니다. 다양한 AI 모델을 통합 인터페이스로 지원하며, 풍부한 확장 생태계와 활발한 커뮤니티를 통해 AI 애호가들에게 이상적인 실험 및 창작 플랫폼을 제공합니다. 역할 연기, 창의적 글쓰기, AI 연구 등 어떤 경우에도 SillyTavern은 전문적인 도구와 경험을 제공합니다.