DGX Spark 두 대로 DeepSeek를 돌려보니

이번 에피소드에서는 PyCon Korea 2026 행사 안내로 문을 연 뒤, NVIDIA DGX Spark와 ASUS Ascent GX10을 해외에서 구매한 경험을 공유합니다. KC 인증과 통관, Amazon 판매자와 반품 위험, 국내외 가격 차이를 살피며 작은 AI 컴퓨터 한 대를 들여오는 과정부터 이미 상당한 실험이 된다는 점을 이야기합니다.

본론에서는 DGX Spark 두 대와 Mac Studio에 DeepSeek를 비롯한 대형 모델을 올려 실제로 사용해 본 경험을 다룹니다. 메모리 용량, 생성 속도, 동시 세션 처리량, MoE, 양자화, QSFP 연결과 GPU 선택을 검토하면서 API가 더 저렴할 수 있음에도 로컬 환경이 주는 통제권·보안·안정감과 학습 경험이 별도의 가치를 갖는다고 평가합니다.

후반부에는 대용량 모델 다운로드를 위한 Starlink, X를 활용한 Grok의 조사 능력, Hermes와 컴퓨터 사용 에이전트의 자동화 가능성으로 논의가 확장됩니다. Meta·GLM·Kimi·Solar 등 새 모델 소식을 훑고, 로컬 LLM이 상용 모델과 병행할 만큼 실용적인 단계에 도달했는지 살펴봅니다.

• PyCon Korea 2026 — 2026년 8월 15~16일 동국대학교에서 열리는 파이썬 커뮤니티 행사
• NVIDIA DGX Spark — 구매와 다중 연결, 로컬 LLM 실행 경험을 이야기한 개인용 AI 시스템
• ASUS Ascent GX10 — DGX Spark와 함께 구매·가격을 비교한 AI 컴퓨터
• DeepSeek — 로컬에서 실행한 대형 오픈웨이트 모델
• llama.cpp — GGUF·양자화·로컬 추론을 이야기하며 언급한 프로젝트
• Starlink — 대용량 모델 다운로드와 국내 인터넷 QoS 이야기에서 언급
• Grok — X 검색을 활용한 리서치 경험에서 언급
• Hermes Agent — 컴퓨터 사용과 원격 작업 자동화를 이야기하며 언급
• Meta AI — 새 오픈웨이트 모델 경쟁에서 언급
• Upstage 모델 문서 — Solar 등 국산 AI 모델 이야기에서 언급
• Tailscale — 원격 AI 컴퓨터 연결과 운영에서 언급