암 생각없이 깃헙 가봤다가 깜놀함.. 아 할로윈이구나😆
October 31, 2025 at 5:41 PM
암 생각없이 깃헙 가봤다가 깜놀함.. 아 할로윈이구나😆
나는 언급된 회사는 허용가능한 선이라고 보지만 (1차고 n차고 어떠한 요인에서건 같이 못갈 사람들은 구직자건 고용자건 빨리 중지하는게 윈윈임)
헤드헌터 본인이 너무 모르는 것 같다:
1. 1차에서 더 이상 진행되지 않는것을 "탈락" 이라고 굳이 부정적으로 프레이밍
2. 급여수준을 먼저 확인해 보는 것을 구직자의 잘못인것양 프레이밍
채용 절차라는건 무척 피곤+고비용이고 되도록이면 이른 단계에서 걸러낼 수 있으며 양쪽의 기대치를 동기화할 장치는 많으면 많을수록 좋다고 봄. 시간에 대한 기회비용이 높으면 높을수록 당연히 더 그럼
헤드헌터 본인이 너무 모르는 것 같다:
1. 1차에서 더 이상 진행되지 않는것을 "탈락" 이라고 굳이 부정적으로 프레이밍
2. 급여수준을 먼저 확인해 보는 것을 구직자의 잘못인것양 프레이밍
채용 절차라는건 무척 피곤+고비용이고 되도록이면 이른 단계에서 걸러낼 수 있으며 양쪽의 기대치를 동기화할 장치는 많으면 많을수록 좋다고 봄. 시간에 대한 기회비용이 높으면 높을수록 당연히 더 그럼
October 27, 2025 at 3:26 PM
나는 언급된 회사는 허용가능한 선이라고 보지만 (1차고 n차고 어떠한 요인에서건 같이 못갈 사람들은 구직자건 고용자건 빨리 중지하는게 윈윈임)
헤드헌터 본인이 너무 모르는 것 같다:
1. 1차에서 더 이상 진행되지 않는것을 "탈락" 이라고 굳이 부정적으로 프레이밍
2. 급여수준을 먼저 확인해 보는 것을 구직자의 잘못인것양 프레이밍
채용 절차라는건 무척 피곤+고비용이고 되도록이면 이른 단계에서 걸러낼 수 있으며 양쪽의 기대치를 동기화할 장치는 많으면 많을수록 좋다고 봄. 시간에 대한 기회비용이 높으면 높을수록 당연히 더 그럼
헤드헌터 본인이 너무 모르는 것 같다:
1. 1차에서 더 이상 진행되지 않는것을 "탈락" 이라고 굳이 부정적으로 프레이밍
2. 급여수준을 먼저 확인해 보는 것을 구직자의 잘못인것양 프레이밍
채용 절차라는건 무척 피곤+고비용이고 되도록이면 이른 단계에서 걸러낼 수 있으며 양쪽의 기대치를 동기화할 장치는 많으면 많을수록 좋다고 봄. 시간에 대한 기회비용이 높으면 높을수록 당연히 더 그럼
2025년에 이르러서도 2009년의 이 풍자 카툰은 개그도 뭣도 아니라 너무나도 현실 그 자체...
September 20, 2025 at 9:43 PM
2025년에 이르러서도 2009년의 이 풍자 카툰은 개그도 뭣도 아니라 너무나도 현실 그 자체...
이건 대충 준적준 이라고 보면 되는건가? 🤔
September 20, 2025 at 4:13 AM
이건 대충 준적준 이라고 보면 되는건가? 🤔
남들 하는 소샤게들은 엔간 건드려보다가 마지막으로 남아서 8년 넘게 -- 2017년 봄 시작 -- 진득하게도 버텼던 FGO.
결국 오늘을 기점으로 스스로 무기한 중단에 돌입 (= 앱은 지웠지만 계정은 남아 있음)
애정도 있고 애착도 있었던지라 살짝 센치해지면서도, 미루고 미뤄왔던 숙제를 드디어 해냈다는 약간의 상쾌감도 같이 드니 실로 이율배반적.
결국 오늘을 기점으로 스스로 무기한 중단에 돌입 (= 앱은 지웠지만 계정은 남아 있음)
애정도 있고 애착도 있었던지라 살짝 센치해지면서도, 미루고 미뤄왔던 숙제를 드디어 해냈다는 약간의 상쾌감도 같이 드니 실로 이율배반적.
September 11, 2025 at 11:07 PM
남들 하는 소샤게들은 엔간 건드려보다가 마지막으로 남아서 8년 넘게 -- 2017년 봄 시작 -- 진득하게도 버텼던 FGO.
결국 오늘을 기점으로 스스로 무기한 중단에 돌입 (= 앱은 지웠지만 계정은 남아 있음)
애정도 있고 애착도 있었던지라 살짝 센치해지면서도, 미루고 미뤄왔던 숙제를 드디어 해냈다는 약간의 상쾌감도 같이 드니 실로 이율배반적.
결국 오늘을 기점으로 스스로 무기한 중단에 돌입 (= 앱은 지웠지만 계정은 남아 있음)
애정도 있고 애착도 있었던지라 살짝 센치해지면서도, 미루고 미뤄왔던 숙제를 드디어 해냈다는 약간의 상쾌감도 같이 드니 실로 이율배반적.
이거 근데 좀 이상한게
대체 한국은 어떤 학회에서 레이텍 코드 띄워두고 발표함?
결국은 최종 아웃풋은 컴파일 한 뒤 다른 형태로 렌더링해야 하는거 아닌가??
대체 한국은 어떤 학회에서 레이텍 코드 띄워두고 발표함?
결국은 최종 아웃풋은 컴파일 한 뒤 다른 형태로 렌더링해야 하는거 아닌가??
August 29, 2025 at 2:07 AM
이거 근데 좀 이상한게
대체 한국은 어떤 학회에서 레이텍 코드 띄워두고 발표함?
결국은 최종 아웃풋은 컴파일 한 뒤 다른 형태로 렌더링해야 하는거 아닌가??
대체 한국은 어떤 학회에서 레이텍 코드 띄워두고 발표함?
결국은 최종 아웃풋은 컴파일 한 뒤 다른 형태로 렌더링해야 하는거 아닌가??
... 으으, SNS를 -- 그것도 트위터를 -- 이렇게 쓰는건 정말 아닌것 같은데. 😣
July 11, 2025 at 7:09 PM
... 으으, SNS를 -- 그것도 트위터를 -- 이렇게 쓰는건 정말 아닌것 같은데. 😣
실질적 정치 영향력에 비해 어그로를 잘끄는것도 재주로 봐줘야 하는.. 걸까...
April 11, 2025 at 1:37 AM
실질적 정치 영향력에 비해 어그로를 잘끄는것도 재주로 봐줘야 하는.. 걸까...
사회 통합 이미 윤가덕분에 충분히 된거 아닌가🤔
맨윗놈은 통합의 대상에서 애초에 열외이자 구축해 내야 할 대상이고
이 부분에 아래 둘이 (특히 맨 아랫 진영이 상당한 불만은 안고 있을지라도) 느슨하게 통합되었다고 대충 체감되고 있음
여기서 좀더 강하게 통합되려면 더 강력하고 설득력있는 리더십이 제시되어야 하는데 그건 적어도 지금 언론에서 요구하는 "통합"과는 주소가 많이 다를 것 같다. 일단 맨 윗놈들을 전부 다 교수대 보낼 정도로는 나라가 청소된 다음에 생각해볼 단계
맨윗놈은 통합의 대상에서 애초에 열외이자 구축해 내야 할 대상이고
이 부분에 아래 둘이 (특히 맨 아랫 진영이 상당한 불만은 안고 있을지라도) 느슨하게 통합되었다고 대충 체감되고 있음
여기서 좀더 강하게 통합되려면 더 강력하고 설득력있는 리더십이 제시되어야 하는데 그건 적어도 지금 언론에서 요구하는 "통합"과는 주소가 많이 다를 것 같다. 일단 맨 윗놈들을 전부 다 교수대 보낼 정도로는 나라가 청소된 다음에 생각해볼 단계
April 5, 2025 at 3:42 AM
사회 통합 이미 윤가덕분에 충분히 된거 아닌가🤔
맨윗놈은 통합의 대상에서 애초에 열외이자 구축해 내야 할 대상이고
이 부분에 아래 둘이 (특히 맨 아랫 진영이 상당한 불만은 안고 있을지라도) 느슨하게 통합되었다고 대충 체감되고 있음
여기서 좀더 강하게 통합되려면 더 강력하고 설득력있는 리더십이 제시되어야 하는데 그건 적어도 지금 언론에서 요구하는 "통합"과는 주소가 많이 다를 것 같다. 일단 맨 윗놈들을 전부 다 교수대 보낼 정도로는 나라가 청소된 다음에 생각해볼 단계
맨윗놈은 통합의 대상에서 애초에 열외이자 구축해 내야 할 대상이고
이 부분에 아래 둘이 (특히 맨 아랫 진영이 상당한 불만은 안고 있을지라도) 느슨하게 통합되었다고 대충 체감되고 있음
여기서 좀더 강하게 통합되려면 더 강력하고 설득력있는 리더십이 제시되어야 하는데 그건 적어도 지금 언론에서 요구하는 "통합"과는 주소가 많이 다를 것 같다. 일단 맨 윗놈들을 전부 다 교수대 보낼 정도로는 나라가 청소된 다음에 생각해볼 단계
샘 알트만이 마치 디씨의 “딸깍충”이나 할법한 짓을 하는걸 보니 어이가 없어진다… 이런 반달 행위들이 AGI의 G에서 더 멀어지게 한다는걸 자각하지 못하는건가?
March 27, 2025 at 5:51 PM
샘 알트만이 마치 디씨의 “딸깍충”이나 할법한 짓을 하는걸 보니 어이가 없어진다… 이런 반달 행위들이 AGI의 G에서 더 멀어지게 한다는걸 자각하지 못하는건가?
<LLM 목장의 결투>
참가자: OAI o3미니, xAI 그록3, 클로드 3.7 소넷
심판: OAI o1, OAI GPT4.5.
과제: 머신의 명령어 셋 던져주고 어셈블러 짜보라고 시켜봄
놀랍게도 만장일치로 클로드 3.7 을 1등으로 꼽았다는게 재밌다😧
팔이 안으로 .. 안굽는다고??
참가자: OAI o3미니, xAI 그록3, 클로드 3.7 소넷
심판: OAI o1, OAI GPT4.5.
과제: 머신의 명령어 셋 던져주고 어셈블러 짜보라고 시켜봄
놀랍게도 만장일치로 클로드 3.7 을 1등으로 꼽았다는게 재밌다😧
팔이 안으로 .. 안굽는다고??
March 23, 2025 at 1:36 AM
<LLM 목장의 결투>
참가자: OAI o3미니, xAI 그록3, 클로드 3.7 소넷
심판: OAI o1, OAI GPT4.5.
과제: 머신의 명령어 셋 던져주고 어셈블러 짜보라고 시켜봄
놀랍게도 만장일치로 클로드 3.7 을 1등으로 꼽았다는게 재밌다😧
팔이 안으로 .. 안굽는다고??
참가자: OAI o3미니, xAI 그록3, 클로드 3.7 소넷
심판: OAI o1, OAI GPT4.5.
과제: 머신의 명령어 셋 던져주고 어셈블러 짜보라고 시켜봄
놀랍게도 만장일치로 클로드 3.7 을 1등으로 꼽았다는게 재밌다😧
팔이 안으로 .. 안굽는다고??
권성동의 이재명 망? 명? 언집은 약간의 웃음을 주긴 했는데...
동시에 이재명씨의 과거 발언들에서 현재 포지션과의 괴리가 느껴져서 서글퍼지기도 했음
난 이사람이 올해 대통령이 만약 된다고 해도 캡쳐된 발언과는 좀? 제법? 꽤? 다른 방향으로 갈 것 같다는 의심을 지울수가 없다. 나만 그런가??
그럼에도 표 못모았다가 극우한테 또 정권 넘어가는 사태만큼은 피하고 싶으니 대안도 없다는게 참 한탄스러움.
동시에 이재명씨의 과거 발언들에서 현재 포지션과의 괴리가 느껴져서 서글퍼지기도 했음
난 이사람이 올해 대통령이 만약 된다고 해도 캡쳐된 발언과는 좀? 제법? 꽤? 다른 방향으로 갈 것 같다는 의심을 지울수가 없다. 나만 그런가??
그럼에도 표 못모았다가 극우한테 또 정권 넘어가는 사태만큼은 피하고 싶으니 대안도 없다는게 참 한탄스러움.
March 22, 2025 at 12:32 AM
권성동의 이재명 망? 명? 언집은 약간의 웃음을 주긴 했는데...
동시에 이재명씨의 과거 발언들에서 현재 포지션과의 괴리가 느껴져서 서글퍼지기도 했음
난 이사람이 올해 대통령이 만약 된다고 해도 캡쳐된 발언과는 좀? 제법? 꽤? 다른 방향으로 갈 것 같다는 의심을 지울수가 없다. 나만 그런가??
그럼에도 표 못모았다가 극우한테 또 정권 넘어가는 사태만큼은 피하고 싶으니 대안도 없다는게 참 한탄스러움.
동시에 이재명씨의 과거 발언들에서 현재 포지션과의 괴리가 느껴져서 서글퍼지기도 했음
난 이사람이 올해 대통령이 만약 된다고 해도 캡쳐된 발언과는 좀? 제법? 꽤? 다른 방향으로 갈 것 같다는 의심을 지울수가 없다. 나만 그런가??
그럼에도 표 못모았다가 극우한테 또 정권 넘어가는 사태만큼은 피하고 싶으니 대안도 없다는게 참 한탄스러움.
March 21, 2025 at 9:16 PM
에이서스판 DGX-스팍 인 GX10을 공식적으로 발표.
128GB/1TB 에 $3000.
네대 nv링크로 연결해서 512기가 구성을 $12k에 가능!
물론 범용성과 메모리 대역폭 때문에 그냥 맥 스튜디오 m3울트라 가는게 이래저래 훨씬 나은 선택일듯. 가격도 상대적으로 훨씬 저렴하고;;;
128GB/1TB 에 $3000.
네대 nv링크로 연결해서 512기가 구성을 $12k에 가능!
물론 범용성과 메모리 대역폭 때문에 그냥 맥 스튜디오 m3울트라 가는게 이래저래 훨씬 나은 선택일듯. 가격도 상대적으로 훨씬 저렴하고;;;
March 20, 2025 at 4:46 AM
에이서스판 DGX-스팍 인 GX10을 공식적으로 발표.
128GB/1TB 에 $3000.
네대 nv링크로 연결해서 512기가 구성을 $12k에 가능!
물론 범용성과 메모리 대역폭 때문에 그냥 맥 스튜디오 m3울트라 가는게 이래저래 훨씬 나은 선택일듯. 가격도 상대적으로 훨씬 저렴하고;;;
128GB/1TB 에 $3000.
네대 nv링크로 연결해서 512기가 구성을 $12k에 가능!
물론 범용성과 메모리 대역폭 때문에 그냥 맥 스튜디오 m3울트라 가는게 이래저래 훨씬 나은 선택일듯. 가격도 상대적으로 훨씬 저렴하고;;;
나도 나박사님과 비슷한 느낌을 종종 받고 있음.
당장 같이 일하는 사람들이랑은 문제가 없는데 그 닫힌 집단에서 조금만 벗어나면 확 무서워짐.
이번 TM정권은 "전문직 (PMC) 애들 아는척하고 잘 버는거 눈꼴셨지? 이제 끌어내려 ㅈ되게 만들자 ㄱㄱㄱ" 라는 선동을 하고.. 슬프게도 이게 이나라의 상당수 사람들에게 잘 먹히고 있다...
당장 같이 일하는 사람들이랑은 문제가 없는데 그 닫힌 집단에서 조금만 벗어나면 확 무서워짐.
이번 TM정권은 "전문직 (PMC) 애들 아는척하고 잘 버는거 눈꼴셨지? 이제 끌어내려 ㅈ되게 만들자 ㄱㄱㄱ" 라는 선동을 하고.. 슬프게도 이게 이나라의 상당수 사람들에게 잘 먹히고 있다...
March 20, 2025 at 1:31 AM
나도 나박사님과 비슷한 느낌을 종종 받고 있음.
당장 같이 일하는 사람들이랑은 문제가 없는데 그 닫힌 집단에서 조금만 벗어나면 확 무서워짐.
이번 TM정권은 "전문직 (PMC) 애들 아는척하고 잘 버는거 눈꼴셨지? 이제 끌어내려 ㅈ되게 만들자 ㄱㄱㄱ" 라는 선동을 하고.. 슬프게도 이게 이나라의 상당수 사람들에게 잘 먹히고 있다...
당장 같이 일하는 사람들이랑은 문제가 없는데 그 닫힌 집단에서 조금만 벗어나면 확 무서워짐.
이번 TM정권은 "전문직 (PMC) 애들 아는척하고 잘 버는거 눈꼴셨지? 이제 끌어내려 ㅈ되게 만들자 ㄱㄱㄱ" 라는 선동을 하고.. 슬프게도 이게 이나라의 상당수 사람들에게 잘 먹히고 있다...
o1pro API 프라이싱 흉악하네. 추론 토큰이 아웃풋으로 잡히는거 생각하면 더더욱. 😫
March 20, 2025 at 1:24 AM
o1pro API 프라이싱 흉악하네. 추론 토큰이 아웃풋으로 잡히는거 생각하면 더더욱. 😫
왼쪽이 가짜인게 놀라운게 아니라 오른쪽이 진짜라는데서 소스라치게 놀람…😱
March 19, 2025 at 3:59 AM
왼쪽이 가짜인게 놀라운게 아니라 오른쪽이 진짜라는데서 소스라치게 놀람…😱
DGX 스팍 사양표를 보면서 ML/AI용으로 계속 각을 재보는 중인데...
1. 10+10의 프로세서 구성 및, 256비트 메모리 버스라는 점에서 사양이 조금 억제된게 느껴짐
2. 메모리 대역폭이 273GB/s 이라서 (맥 스튜디오의 1/3수준) 스루풋이 좀 불안
3. DGX OS는 우분투 기반이고 기존에 엔비디아에서 쓰던거니까 안정성은 괜찮을 것 같지만 써드파티의 앱지원에서 애플보다는 떨어질 것 같음
1. 10+10의 프로세서 구성 및, 256비트 메모리 버스라는 점에서 사양이 조금 억제된게 느껴짐
2. 메모리 대역폭이 273GB/s 이라서 (맥 스튜디오의 1/3수준) 스루풋이 좀 불안
3. DGX OS는 우분투 기반이고 기존에 엔비디아에서 쓰던거니까 안정성은 괜찮을 것 같지만 써드파티의 앱지원에서 애플보다는 떨어질 것 같음
March 19, 2025 at 2:13 AM
DGX 스팍 사양표를 보면서 ML/AI용으로 계속 각을 재보는 중인데...
1. 10+10의 프로세서 구성 및, 256비트 메모리 버스라는 점에서 사양이 조금 억제된게 느껴짐
2. 메모리 대역폭이 273GB/s 이라서 (맥 스튜디오의 1/3수준) 스루풋이 좀 불안
3. DGX OS는 우분투 기반이고 기존에 엔비디아에서 쓰던거니까 안정성은 괜찮을 것 같지만 써드파티의 앱지원에서 애플보다는 떨어질 것 같음
1. 10+10의 프로세서 구성 및, 256비트 메모리 버스라는 점에서 사양이 조금 억제된게 느껴짐
2. 메모리 대역폭이 273GB/s 이라서 (맥 스튜디오의 1/3수준) 스루풋이 좀 불안
3. DGX OS는 우분투 기반이고 기존에 엔비디아에서 쓰던거니까 안정성은 괜찮을 것 같지만 써드파티의 앱지원에서 애플보다는 떨어질 것 같음
드디어 기다리던 엔비디아 DGX 스팍 공개!
128GB / 4TB = $4k 면 조금 솔깃한데? 🤔
(이번 맥 스튜디오는 m4max로 맞추더라도 128G/4TB에서는 $4.7k)
PR: nvidianews.nvidia.com/news/nvidia-...
128GB / 4TB = $4k 면 조금 솔깃한데? 🤔
(이번 맥 스튜디오는 m4max로 맞추더라도 128G/4TB에서는 $4.7k)
PR: nvidianews.nvidia.com/news/nvidia-...
March 18, 2025 at 11:22 PM
드디어 기다리던 엔비디아 DGX 스팍 공개!
128GB / 4TB = $4k 면 조금 솔깃한데? 🤔
(이번 맥 스튜디오는 m4max로 맞추더라도 128G/4TB에서는 $4.7k)
PR: nvidianews.nvidia.com/news/nvidia-...
128GB / 4TB = $4k 면 조금 솔깃한데? 🤔
(이번 맥 스튜디오는 m4max로 맞추더라도 128G/4TB에서는 $4.7k)
PR: nvidianews.nvidia.com/news/nvidia-...
오늘의 논픽션 호러
설문: "지금 미국이 전반적으로 더 나아지고 있다고 생각하나요?"
공화당 지지자들: "네!" (83%)
😩
출처: www.nbcnews.com/politics/tru...
설문: "지금 미국이 전반적으로 더 나아지고 있다고 생각하나요?"
공화당 지지자들: "네!" (83%)
😩
출처: www.nbcnews.com/politics/tru...
March 16, 2025 at 10:29 PM
오늘의 논픽션 호러
설문: "지금 미국이 전반적으로 더 나아지고 있다고 생각하나요?"
공화당 지지자들: "네!" (83%)
😩
출처: www.nbcnews.com/politics/tru...
설문: "지금 미국이 전반적으로 더 나아지고 있다고 생각하나요?"
공화당 지지자들: "네!" (83%)
😩
출처: www.nbcnews.com/politics/tru...
논란의 모 트윗을 보고 왔는데 타래까지 다 읽어보고 + 블로그를 대충 샘플링해보니 내겐 크게 거슬리지도 문제되지도 않는 것 같다 (이분 자신이 말씀한 대로 워딩이 너무 셌음)
애초에 모두가 성장해야 하는 것도 아니고 (이런 강박관념이 공동체에 박혀있으면 보통 지옥이 됨), 성장으로 이어지는 환경도 사람나름이라 “니말도 맞고 내말도 맞고 쟤말도 맞다” 같은 정도의 스탠스가 딱인 주제
물론 이걸 경영진으로부터 일방통행식으로 강요받는 경우라면 깔끔하게 악질
동시에 1할쯤 공감하는 입장의 나라면 같은걸 어떻게 표현할까 생각해본다…
애초에 모두가 성장해야 하는 것도 아니고 (이런 강박관념이 공동체에 박혀있으면 보통 지옥이 됨), 성장으로 이어지는 환경도 사람나름이라 “니말도 맞고 내말도 맞고 쟤말도 맞다” 같은 정도의 스탠스가 딱인 주제
물론 이걸 경영진으로부터 일방통행식으로 강요받는 경우라면 깔끔하게 악질
동시에 1할쯤 공감하는 입장의 나라면 같은걸 어떻게 표현할까 생각해본다…
March 15, 2025 at 1:33 PM
논란의 모 트윗을 보고 왔는데 타래까지 다 읽어보고 + 블로그를 대충 샘플링해보니 내겐 크게 거슬리지도 문제되지도 않는 것 같다 (이분 자신이 말씀한 대로 워딩이 너무 셌음)
애초에 모두가 성장해야 하는 것도 아니고 (이런 강박관념이 공동체에 박혀있으면 보통 지옥이 됨), 성장으로 이어지는 환경도 사람나름이라 “니말도 맞고 내말도 맞고 쟤말도 맞다” 같은 정도의 스탠스가 딱인 주제
물론 이걸 경영진으로부터 일방통행식으로 강요받는 경우라면 깔끔하게 악질
동시에 1할쯤 공감하는 입장의 나라면 같은걸 어떻게 표현할까 생각해본다…
애초에 모두가 성장해야 하는 것도 아니고 (이런 강박관념이 공동체에 박혀있으면 보통 지옥이 됨), 성장으로 이어지는 환경도 사람나름이라 “니말도 맞고 내말도 맞고 쟤말도 맞다” 같은 정도의 스탠스가 딱인 주제
물론 이걸 경영진으로부터 일방통행식으로 강요받는 경우라면 깔끔하게 악질
동시에 1할쯤 공감하는 입장의 나라면 같은걸 어떻게 표현할까 생각해본다…
방금 메일받아서 알게 되었는데 AHRQ도 폭탄맞았다 함...
March 14, 2025 at 3:10 PM
방금 메일받아서 알게 되었는데 AHRQ도 폭탄맞았다 함...
2/3
딥시크 R1 증류모델들과 풀사이즈 패러미터 모델들 (모두 4비트 고정 양자화) 추론속도 결과도 흥미로웠다
1. 이전에 M2울트라 클러스트링이나 EPYC서버에서 돌렸을때보다 671b모델이 (생각보다) 훨씬 빠르고 실용적으로 쓸만하게 돌아간다. MLX엔진에서 초당 18토큰이라니!
2. 671b 모델 성능이 왜 70b보다 좋을까 의아할 수도 있는데, 이는 딥시크 v3/r1이 MoE모델이라서 671b를 일단 메모리에 전부 올려 놓은 다음엔 실제로 쿼리별로 활성화되는 파라미터는 40b보다 적기 때문
딥시크 R1 증류모델들과 풀사이즈 패러미터 모델들 (모두 4비트 고정 양자화) 추론속도 결과도 흥미로웠다
1. 이전에 M2울트라 클러스트링이나 EPYC서버에서 돌렸을때보다 671b모델이 (생각보다) 훨씬 빠르고 실용적으로 쓸만하게 돌아간다. MLX엔진에서 초당 18토큰이라니!
2. 671b 모델 성능이 왜 70b보다 좋을까 의아할 수도 있는데, 이는 딥시크 v3/r1이 MoE모델이라서 671b를 일단 메모리에 전부 올려 놓은 다음엔 실제로 쿼리별로 활성화되는 파라미터는 40b보다 적기 때문
March 11, 2025 at 7:09 PM
2/3
딥시크 R1 증류모델들과 풀사이즈 패러미터 모델들 (모두 4비트 고정 양자화) 추론속도 결과도 흥미로웠다
1. 이전에 M2울트라 클러스트링이나 EPYC서버에서 돌렸을때보다 671b모델이 (생각보다) 훨씬 빠르고 실용적으로 쓸만하게 돌아간다. MLX엔진에서 초당 18토큰이라니!
2. 671b 모델 성능이 왜 70b보다 좋을까 의아할 수도 있는데, 이는 딥시크 v3/r1이 MoE모델이라서 671b를 일단 메모리에 전부 올려 놓은 다음엔 실제로 쿼리별로 활성화되는 파라미터는 40b보다 적기 때문
딥시크 R1 증류모델들과 풀사이즈 패러미터 모델들 (모두 4비트 고정 양자화) 추론속도 결과도 흥미로웠다
1. 이전에 M2울트라 클러스트링이나 EPYC서버에서 돌렸을때보다 671b모델이 (생각보다) 훨씬 빠르고 실용적으로 쓸만하게 돌아간다. MLX엔진에서 초당 18토큰이라니!
2. 671b 모델 성능이 왜 70b보다 좋을까 의아할 수도 있는데, 이는 딥시크 v3/r1이 MoE모델이라서 671b를 일단 메모리에 전부 올려 놓은 다음엔 실제로 쿼리별로 활성화되는 파라미터는 40b보다 적기 때문