Dify
Dify는 OpenAI-API-compatible 모델 공급자를 통해 어떤 OpenAI 호환 서비스든 연결할 수 있습니다. 모델은 하나씩 추가하며, 기본값 몇 가지는 바꿔야 합니다.
시작하기 전에
- 워크스페이스 소유자 또는 관리자 계정이 필요합니다. 모델 공급자는 이들만 설정할 수 있습니다.
- Marketplace에서 OpenAI-API-compatible(langgenius의 공식 플러그인)을 설치하세요.
모델 추가하기
Model Provider(최신 버전은 Integrations 아래, 이전 버전은 Settings 아래에 있습니다)를 열고 OpenAI-API-compatible 카드에서 Add Model을 클릭한 뒤 아래 표대로 양식을 채우세요:
| 필드 | 값 |
|---|---|
| Model Type | LLM |
| Model Name | 정확한 모델 ID. 예: gpt-5.5 |
| API Key | NezhaGate API 키 |
| API Base URL | https://nezhagate.com/v1 |
| Completion mode | Chat |
| Model context size | 모델의 실제 컨텍스트 길이(해당 모델의 API 문서 참고). 기본값은 4096이며, 그대로 두면 긴 대화가 잘립니다. |
| Upper bound for max tokens | 모델의 최대 출력 토큰 수이며, 이 값도 기본값이 4096입니다. |
| Function Call Type | 도구 호출을 지원하는 모델은 Tool Call을 선택하세요. 기본값인 Not Support로 두면 에이전트가 도구를 호출하지 못합니다. |
| Vision Support | 이미지 입력을 지원하는 모델은 Support를 선택하세요. |
| API Type | Chat Completions API를 그대로 두세요. |
주소에는 반드시 /v1이 포함되어야 합니다. 플러그인이 그 뒤에 바로 /chat/completions를 붙입니다. 나머지 항목은 기본값 그대로 두세요.
Claude(선택 사항)
공식 Anthropic 플러그인을 설치해 API URL을 https://nezhagate.com/anthropic로 설정하고, Add Model로 Claude 모델을 하나씩(예: claude-sonnet-5) 추가할 수도 있습니다.
테스트
저장하면 검증을 위해 아주 짧은 요청이 하나 전송됩니다(그 적은 사용량만큼 과금됩니다). 그런 다음 Studio에서 챗봇을 만들고 이 모델을 선택해 미리보기에서 메시지를 보내 보세요.
자주 나오는 오류
주소에 /v1이 빠졌습니다. https://nezhagate.com/v1이어야 합니다.
401은 키가 잘못된 것이고, 「model not found」는 모델 ID 철자가 틀린 것입니다. API 레퍼런스에 있는 ID를 쓰세요.
모델 등록 양식의 Function Call Type이 아직 Not Support로 되어 있습니다. Tool Call로 바꾸세요.
Model context size와 Upper bound for max tokens가 아직 4096으로 되어 있습니다. 모델의 실제 값으로 올리세요.
