https://etoland.co.kr/b/freebbs/view/%EB%A1%9C%EC%BB%AC-ai%EC%9A%A9-%EC%9B%8C%ED%81%AC%EC%8A%A4%ED%85%8C%EC%9D%B4%EC%85%98-%EA%B5%AC%EC%B6%95-%EC%84%B1%EA%B3%B5%EA%B8%B0%EC%9E%90%ED%95%84-9104446

구축성공기 1

https://etoland.co.kr/b/freebbs/view/%EB%A1%9C%EC%BB%AC-ai-%EA%B5%AC%EC%B6%95-%ED%9B%84-test-2%EC%9D%BC-%EA%B2%BD%EA%B3%BC%EC%9E%90%ED%95%84-9109232

로컬 AI 구축 후 Test 2일 경과 2

ram 128g, vram 72g 대충 이런사양….

Test 현재 진행형입니다.

꽤 많은 Test를 진행 하였지만 아직 정답은 못 찾은 상태 입니다.

단지 지금까지 사용한 것으로 얘기하자면 일단 코딩쪽은 확실히 도움이 됩니다.

사실 도움 이상인데 더 표현할 방법이 없네요… 아이디어 있고, 설계능력만 있으면

어지간한 것은 거의 실현 시킬 수 있습니다.

제가 코딩쪽 사용한 로컬 AI 모델 : unsloth/Qwen3.6-35B-A3b-GGUF Q8_k_XL 256k

툴은 LmStudio로 모델 띄우고, OpenWebUI로 실행해서 나름 데이터셋을 활용하여 작업을 진행 합니다.

추후 Aider 활용 계획 있으나 전 적당한 자동화와 적당한 메뉴얼을 섞어 사용하는 것을 좋아해서

간만 보고 있는 중입니다.

논문, 특허서류등 문서 작업용으로 사용한 모델 : bartowski/Qwen2.5-72B 5bit 128k

그렇게 뛰어나진 않지만 적당하게 초안 작업하고 유료모델로 넘어가면 토큰을 절약 할 수 있습니다.

이 시스템으로 특허 서류 만들어서 3건 출원중입니다(로컬ai+유료ai)

제가 만든 서류를 보고 변리사가 놀라면서 직접 출원해도 될 정도라고 했으니

문서의 완성도는 꽤 높다고 생각 됩니다.

(직접출원하면 나중에 거절 또는 보충내용을 요청했을 때 어려워 집니다. 출원시 기술적인것은 일반 개인도 설명이 되지만

특허등록은 기술과 법률을 모두 만족시켜야 되서 변리사가 필요한 것 같습니다)

영상, 이미지 쪽은 아직도 테스트 중인데 솔직히 크게 기대는 안됩니다… 훨씬 큰 모델 최소

Qwen3.5 122B-A10B 이 모델이나, 그 이상의 Qwen3 235B-A22B의 모델을 사용할 때 비로소 원하는

퀄리티의 결과물을 얻을 수 있을 것 같습니다(돈만 있으면 됩니다 ㅠㅠ)

지금 제가 사용하는 하드웨어의 신품가격은 1200만원대,,,

중고는 중고부품만 잘 모아서 사서 재조립 하면 700~800만원 입니다(제가 이렇게 했습니다)

이후 더 활용해 보며 Test하고 경과를 올려 드리겠습니다.

이후 작업 예정: APP 제작, 특허 1건 추가 출원 , 논문작성, 소설쓰기, 영상제작, 음악관련 작업등 입니다.