유명한 deepswe라는 벤치에서 문제를 진짜 조금씩만 변형해서 (제출 파일명을 소문자로 바꾸기, 정렬을 반대로하기 등) 싹 돌려봤는데
클로드랑 지피티는 대체로 비슷하게 잘 푸는 반면
중국모델들은 급격하게 점수가 하락함
즉 벤치맥싱을 어마하게 때려놨다는거
근데 웃긴게 glm은 40% 경우에 능력이 부족해서 못푼게 아니라
“이거 내가 본적있는 문제인데? 이거 뭔가 고도의 테스트일듯 내가 기억하는 버전으로 풀어야징 ㅋ“
이지롤하다가 틀림
유명한 deepswe라는 벤치에서 문제를 진짜 조금씩만 변형해서 (제출 파일명을 소문자로 바꾸기, 정렬을 반대로하기 등) 싹 돌려봤는데
클로드랑 지피티는 대체로 비슷하게 잘 푸는 반면
중국모델들은 급격하게 점수가 하락함
즉 벤치맥싱을 어마하게 때려놨다는거
근데 웃긴게 glm은 40% 경우에 능력이 부족해서 못푼게 아니라
“이거 내가 본적있는 문제인데? 이거 뭔가 고도의 테스트일듯 내가 기억하는 버전으로 풀어야징 ㅋ“
이지롤하다가 틀림