아스트라가 너무 좋아서 5X $100 구독 완료하긴 했음.
이전 5.6 sol 20X 플랜을 구독했을때
동적으로 모델의 지능을 조절하는게 느껴짐.
서버의 연산량 한계는 정해저 있으니
유저의 GPU 사용량을 1/n 식으로 너프해 버리는것.
유쾌한 경험이 아니었고 뇌피셜이긴함.
이번에도 같은 일이 생기기전에 차단한건 잘한 결정인거같음.
AI 서버가 모자란다? 디램의 고점은 아직 멀었다.
아스트라가 너무 좋아서 5X $100 구독 완료하긴 했음.
이전 5.6 sol 20X 플랜을 구독했을때
동적으로 모델의 지능을 조절하는게 느껴짐.
서버의 연산량 한계는 정해저 있으니
유저의 GPU 사용량을 1/n 식으로 너프해 버리는것.
유쾌한 경험이 아니었고 뇌피셜이긴함.
이번에도 같은 일이 생기기전에 차단한건 잘한 결정인거같음.
AI 서버가 모자란다? 디램의 고점은 아직 멀었다.