ABOUT

저는 Sungin Kim입니다.

2018년부터 FPGA와 임베디드 시스템을 고용된 펌웨어 엔지니어로 일해 왔습니다. 다룬 실리콘은 Microsemi PolarFire, Quartus로 작업한 Stratix 10, Xilinx ZCU106, 그리고 다른 Zynq SoC 계열이며, 개발 보드와 고객 보드 모두입니다. 이 랩을 만들기 전에는 그 일을 하고 있었습니다. 이 사이트는 지금 내가 만드는 AI 시스템을 보여 주는 곳입니다. 일을 맡기려는 사람이 누구를 고용하게 될지 볼 수 있도록: GPU 홈랩, 트레이딩 시그널 연구, 그리고 내가 죽인 실험. 여기에 고객 목록은 없습니다. 유료 작업이 없어서 통합 기록 인덱스는 비어 있습니다.

클라우드 사용량 제한이 300억 파라미터 모델 추론 테스트를 자꾸 끊어서 상자를 만들기 시작했습니다. 지금 있는 것은 RTX 5060 Ti 16GB 네 장 (VRAM 64GB), Ryzen 9 9950X, DDR5 128GB, 오픈 마이닝 프레임입니다. 비용은 $5,638.79. 원래 계획과는 거의 다릅니다. 그 글은 이 사이트에 있습니다.

호스트는 Proxmox입니다. GPU 네 장은 연구용 컨테이너 하나 - CPU 24개, RAM 80GB - 로 들어갑니다. 그 컨테이너가 학습, 백테스트, 추론 서빙을 합니다. 카드마다 컨테이너를 나누지 않았습니다. PCIe 레인 맵이 어떤 짝이 가능한지를 정합니다. 그건 별도 글입니다.

이 기계는 언어 모델 추론용으로 스펙을 잡았습니다. 매일 쓴 지 일곱 달 뒤에는 다른 일이 돌아가고 있었습니다. GPU 세 장은 암호화폐 트레이딩 시그널 시스템의 TFT와 XGBoost 모델을 학습하고, 네 번째 장은 백테스트, 페이퍼 트레이딩, 라이브 런의 추론을 서빙합니다. 공개된 트레이딩 실험 하나는 보정이 좋아 보였는데도, 중요한 구간마다 시장에 진 LLM 예측기였습니다. 미리 적어 둔 중단 조건으로 죽였습니다. 다른 글은 백테스트를 실제보다 나쁘게 보이게 만든 룩어헤드 버그입니다. 그 죽인 예측기에는 실제 돈이 걸려 있지 않았습니다.

HARDWARE

홈랩 글과 패스스루 글에서 인용한 상자입니다. 이름 붙은 노드 네 대가 아니라, 한 기계 안의 동일한 카드 네 장입니다.

ITEMSPEC
HOST CPURYZEN 9 9950X
SYSTEM MEMORY128 GB DDR5
GPUS4 × RTX 5060 Ti 16 GB
CHASSISOPEN MINING FRAME
HYPERVISORPROXMOX
RESEARCH LXC24 CPU · 80 GB RAM · ALL 4 GPUS

하드웨어가 말썽을 부리면 그것도 포스트가 됩니다. 나머지 기록은 실험 로그에 있습니다.

빌드 로그 읽기 →