- 현재 약 30대의 3090 및 4090 가동 중
- 하루 비용 $140불 정도
- 현재 쌓인 포인트는 337M로 리더보드 약 12등
- 가끔 서버가 불안정해 추론 요청이 안들어올 때가 있는데, 시간이 지나면 저절로 복구됨
- 불안정한 서버는 단점이지만, worker가 계속해서 늘어나고 있고 스케일링을 위해 노력하고있다니 추후 괜찮아지겠지라고 생각 중
- 지금 당장은 가성비가 3060이 좋지만, 곧 GPU의 램이 24기가는 되야 돌릴 수 있는 모델이 나올것이기 때문에 추후엔 3060의 가성비가 떨어질수도
*꿀팁: vast.ai 같은 플랫폼 대한항공 카드로 결제 시 마일리지를 빠르게 쌓을 수 있다..
#Kuzco