반응형 ollama2 Ollama API 입문 - Llama, Gemma, Qwen을 같은 코드로 호출하기 모델을 바꿔도 코드는 그대로 Ollama API로 로컬 LLM 다루기보통 AI 모델을 바꾸려면 코드도 함께 수정해야 할 것 같지만, Ollama 를 사용하면 실제로는 model 이름 한 줄만 바꾸면 되는 경우가 많다.예를 들어 오늘은 Llama 모델을 쓰다가, 내일 더 좋은 모델이 나오면 모델 이름만 바꿔 테스트할 수 있다. 서비스 코드는 거의 그대로 유지된다.이게 생각보다 굉장히 큰 장점이다.많은 사람들이 Ollama를 단순히 “터미널에서 AI랑 대화하는 프로그램” 정도로 생각한다. 하지만 실제로 사용해 보면 Ollama의 핵심은 단순 모델 실행기가 아니라 “여러 LLM을 동일한 방식으로 사용할 수 있게 해주는 REST API 서버” 에 가깝다.이 글에서는 Ollama가 제공하는 API가 무엇인지, 왜.. 2026. 5. 23. 사내 서버에 로컬 LLM 띄워서 대시보드에 연동해본 후기 Ollama + Qwen으로 팀 업무 대시보드에 AI 분석 붙이기회사에서 팀원들의 일감 현황을 보여주는 대시보드를 운영하고 있다.기존에는 “누가 몇 개의 일감을 들고 있는지”, “마감이 언제인지” 같은 정보를 숫자와 그래프로만 보여줬다.그런데 막상 화면을 보다 보면 결국 사람이 직접 판단해야 하는 부분이 있었다.지금 누가 가장 바쁜가?일정이 위험해 보이는 사람은 누구인가?특정 업무가 몰린 팀원이 있는가?일정 지연 가능성이 있는가?그래서 이번에 사내 서버에 로컬 LLM(Local LLM)을 직접 띄우고, 대시보드가 AI에게 자연어 분석을 요청하는 기능을 붙여봤다.핵심은 다음 두 가지였다.외부 API(OpenAI 등)를 사용하지 않는다.모든 데이터와 AI 처리를 사내 서버 내부에서만 수행한다.비슷한 구조를 .. 2026. 5. 23. 이전 1 다음 반응형
