Ollama Chat Model 노드#

Ollama Chat Model 노드는 로컬 Llama 2 모델을 사용하여 대화형 agents를 구축할 수 있게 해줍니다.

이 페이지에서는 Ollama Chat Model 노드의 노드 매개변수를 찾을 수 있으며, 더 많은 리소스에 대한 링크도 포함되어 있습니다.

자격 증명

이 노드에 대한 인증 정보는 여기에서 찾을 수 있습니다.

하위 노드에서의 매개변수 해석

하위 노드는 표현식을 사용하여 여러 항목을 처리할 때 다른 노드와 다르게 동작합니다.

대부분의 노드는(루트 노드 포함) 여러 개의 항목을 입력으로 받아 각 항목을 개별적으로 처리한 후 결과를 출력합니다.
이 과정에서 표현식을 사용하면 입력 항목을 참조할 수 있으며, 노드는 각 항목에 대해 표현식을 순차적으로 해석합니다.
예를 들어, name 값이 5개 있는 경우, {{ $json.name }} 표현식은 각각의 이름으로 순차적으로 해석됩니다.

하지만 하위 노드에서는 표현식이 항상 첫 번째 항목으로 해석됩니다.
즉, name 값이 5개 있어도 {{ $json.name }} 표현식은 항상 첫 번째 name 값으로 해석됩니다.

노드 매개변수#

모델: 완성을 생성하는 모델을 선택합니다. 다음 중에서 선택하세요:
- Llama2
- Llama2 13B
- Llama2 70B
- Llama2 Uncensored

사용 가능한 모델에 대한 자세한 내용은 Ollama 모델 라이브러리 문서를 참조하세요.

노드 옵션#

샘플링 온도: 샘플링 과정의 무작위성을 제어하는 데 이 옵션을 사용합니다. 온도가 높을수록 더 다양한 샘플링이 생성되지만 환각의 위험이 증가합니다.
Top K: 모델이 다음 토큰을 생성하는 데 사용할 토큰 선택 수를 입력합니다.
Top P: 완료에서 사용할 확률을 설정하는 데 이 옵션을 사용합니다. 낮은 값을 사용하여 덜 확률 있는 옵션을 무시합니다.

템플릿 및 예제#

일반적인 문제#

일반적인 질문이나 문제 및 제안된 솔루션에 대해서는 일반적인 문제를 참조하세요.

AI 용어집 (AI Glossary)#

완성(Completion): GPT와 같은 모델이 생성하는 응답을 의미합니다.
환각(Hallucinations): AI에서 "환각"이란 LLM(대규모 언어 모델)이 실제로 존재하지 않는 패턴이나 개체를 잘못 인식하는 현상을 의미합니다.
벡터 데이터베이스(Vector Database): 정보를 수학적으로 표현한 벡터 데이터를 저장하는 데이터베이스입니다.
임베딩(Embeddings) 및 검색기(Retrievers)와 함께 사용하여 AI가 질문에 답할 때 접근할 수 있는 데이터베이스를 구성할 수 있습니다.
벡터 저장소(Vector Store): 벡터 데이터베이스와 동일한 개념으로, 정보를 수학적으로 표현한 벡터 데이터를 저장하는 시스템입니다.
임베딩 및 검색기와 함께 사용하여 AI가 질문에 답할 때 참조할 수 있는 데이터베이스를 구축할 수 있습니다.

자체 호스팅 AI 스타터 키트 (Self-hosted AI Starter Kit)#

AI 및 자체 호스팅된 n8n을 처음 사용하시나요?
n8n의 자체 호스팅 AI 스타터 키트를 사용하여 Ollama, Qdrant, PostgreSQL 을 기반으로 개념 증명(Proof-of-Concept) 또는 데모 환경을 빠르게 구축해 보세요.

n8n 공식 기술 문서 한글판 by 인포그랩