레이블이 vostro인 게시물을 표시합니다. 모든 게시물 표시
레이블이 vostro인 게시물을 표시합니다. 모든 게시물 표시

토요일, 3월 28, 2026

ollama를 실행시키는데...

최근에 openclaw, zeroclaw 테스트하면서 gemini나 anthropic과 같은 유료 API를 사용하지 않고 놀고 있는 데탑에다가 리눅스 설치해서 ollama 서비스를 올려서 테스트 하고 있습니다.

근데 GPU가 없다보니 사용할 수 있는 모델들에 한계가 있는데 파라미터개수가 1B이나 3B수준의 모델들만 다운받아 테스트하는데 핸드폰과 데스크탑의 답변 속도가 크게 차이가 없는 것 같더라구요

데스크탑의 사양이 좋은것은 아니지만 그래도 핸드폰 보다는 더 빨리 답변을 줘야하는것 아닌가하는데... 

그래서 사용하는 공기계와 데스크탑의 사양을 확인해봤는데... 메모리크기 제외하고는 공기계 사양이 더 좋은것 같더라구요 ㅎㅎ 

물론 리눅스 서버로 사용하는 VOSTRO를 구매한지가 이미 10년을 넘었으니... 당연한거 같기도합니다. ㅎㅎ 




결국에 메모리 크기만 공기계가 더 컸다면... 공기계를 루팅해서 사용하는게 더 좋은 선택지라는... 어쩔;; 


간만에 사양의 중요함을 다시 느끼네요 ㅎㅎ 


즐거운 주말 보내시기 바랍니다. :)



출처: @ye._.vely618