LLM 오케스트레이터
2026-01-08 - 2025-01-08
프로젝트 설명
LLM Orchestrator
프로젝트 개요
시각적인 마인드맵 스타일의 플로우 에디터를 통해 AI 워크플로우를 설계하고 실행할 수 있는 웹 애플리케이션입니다. 다양한 LLM 노드와 논리 노드를 연결하여 복잡한 AI 체이닝 및 조건부 라우팅을 직관적으로 구성할 수 있습니다.
주요 기능
플로우 에디터
React Flow 기반의 드래그 앤 드롭 노드 에디터
5가지 노드 타입: Input, Output, LLM, Condition, Merger
Auto Layout 기능 (노드 크기 고려한 자동 정렬)
키보드 단축키 지원 (Delete, Ctrl+C/V)
LLM 통합
OpenRouter API 연동
Google Gemini API 연동
모델별 Temperature, Max Tokens 설정
조건부 라우팅
Contains, Equals, Regex, Length, Custom 조건 타입
True/False 분기에 따른 하위 노드 자동 스킵
입력 소스 선택 기능 (이전 노드 중 원하는 노드의 출력값 선택)
실행 및 테스트
Run Once: 단일 실행 및 결과 확인
Chat UI: 대화형 플로우 테스트 (대화 기록 유지)
실시간 실행 로그 패널
데이터 관리
MySQL + Prisma ORM 기반 플로우 저장/불러오기
Docker Compose로 데이터베이스 관리
기술 스택
영역 | 기술 |
Framework | Next.js 14 (App Router) |
Language | TypeScript |
UI | React Flow, Tailwind CSS, shadcn/ui |
State | Zustand |
Database | MySQL, Prisma ORM |
API | OpenRouter, Google Gemini |
Infra | Docker Compose |
노드 타입 설명
노드 | 역할 | 주요 설정 |
Input | 워크플로우 시작점, 사용자 입력 수신 | Input Type (text/json), Default Value |
Output | 최종 결과 출력 | Output Format, Fixed Output 옵션 |
LLM | AI 모델 호출 및 응답 생성 | Provider, Model, System Prompt, Temperature |
Condition | 조건에 따른 분기 처리 | Condition Type, Value, Custom Code |
Merger | 여러 입력을 하나로 통합 | Merge Strategy (concat/json/template) |