ollama를 실행시키는데...

최근에 openclaw, zeroclaw 테스트하면서 gemini나 anthropic과 같은 유료 API를 사용하지 않고 놀고 있는 데탑에다가 리눅스 설치해서 ollama 서비스를 올려서 테스트 하고 있습니다.

근데 GPU가 없다보니 사용할 수 있는 모델들에 한계가 있는데 파라미터개수가 1B이나 3B수준의 모델들만 다운받아 테스트하는데 핸드폰과 데스크탑의 답변 속도가 크게 차이가 없는 것 같더라구요

데스크탑의 사양이 좋은것은 아니지만 그래도 핸드폰 보다는 더 빨리 답변을 줘야하는것 아닌가하는데... 

그래서 사용하는 공기계와 데스크탑의 사양을 확인해봤는데... 메모리크기 제외하고는 공기계 사양이 더 좋은것 같더라구요 ㅎㅎ 

물론 리눅스 서버로 사용하는 VOSTRO를 구매한지가 이미 10년을 넘었으니... 당연한거 같기도합니다. ㅎㅎ 

결국에 메모리 크기만 공기계가 더 컸다면... 공기계를 루팅해서 사용하는게 더 좋은 선택지라는... 어쩔;; 

간만에 사양의 중요함을 다시 느끼네요 ㅎㅎ 

즐거운 주말 보내시기 바랍니다. :)

출처: @ye._.vely618