lmstudio install for rocky 9.5
lmstudio 설치 하려면 ldd 버전이 2.30 이상이어야 한다.
rocky 8.x 에 설치 하려고 했는데 ldd 버전이 2.28 이다 어거지로 gcc 를 2.30 으로 올리고 구동하려 했는데 의존성때문인지 계속 에러 뜬다. 그래서 그냥 rocky 9.5 버전으로 설치 했다. 나처럼 삽질 하지말고 바로 rocky 9.5 로 설치하자.
설치전에 모든 패키지 업데이트 한번 해주고 시작 하자.
# yum update -y
그리고 lmstudio 다운 받자.
# wget https://installers.lmstudio.ai/linux/x64/0.3.14-5/LM-Studio-0.3.14-5-x64.AppImage
wget 으로 받으면 되고 버전은
위 홈페이지에 나와 있으니 확인하고 받자. (Windows, MAC, Linux 3가지 버전있다.)
다운 받았으면 구동을 해주자.
# chmod +x LM-Studio-0.3.14-5-x64.AppImage
권한 설정 해주고
# ./LM-Studio-0.3.14-5-x64.AppImage
구동하면 이렇게 에러가 뜬다 root 권한으로 구동하지 말고 일반 계정으로 구동해달라고 한다.
뭐 굳이 root 로 해야 한다면 맨뒤에 --no-sandbox 붙이면 되고 아니면 새로운 계정 하나 만들어서 구동해주자.
구동을 하면 이렇게 LLMS locally on your computer 라고 뜨면서 GUI 화면이 뜬다. Get your fires LLM 누르면
추천 LLM 버전이 나오는데 난 deepseek r1 이 나온다 추후 다른것으로 변경도 가능하니 뭐 우선 다운로드 눌러서 진행해주자.
추천이 아닌 여러가지 다운을 받을 수 있다.
설치가 다 되면 이렇게 로컬에서 chatgpt 처럼 구동이 된다. 원하는 LLM 을 선택을 하고
잘된다. 제한이 없기 떄문에 사용하면 된다.
한국어도 지원 한다.
다양한 옵션을 수정할수 있다.
자신의 성능에 따라서 답변이 느릴수 있으니 감안하고 테스트 하자.