반응형 블로그 글161 [DL Serving] FastAPI 튜토리얼 - 2 이번에는 잘 작성되어있는 코드를 이용해서 line-by-line으로 이해하며 딥러닝 서빙을 위한 웹서버를 만들어 보자. https://github.com/State-of-The-MLOps/MLOps GitHub - State-of-The-MLOps/MLOps: 👊 Build MLOps system step by step 👊 👊 Build MLOps system step by step 👊. Contribute to State-of-The-MLOps/MLOps development by creating an account on GitHub. github.com 최근 T-academy 에서 MLOps를 수강하셨던 분들과 함께 스터디 교류를 하게 되었는데 그분들이 직접 작성하고 시연까지 해 주신 코드들이어서 이.. 2021. 12. 4. [DL Serving] FastAPI 튜토리얼 //FastAPI FastAPI는 REST API 를 기반으로 한 파이썬 백엔드 프레임워크다. REST API는 HTTP 프로토콜을 잘 사용하기 위한 규약이다. HTTP 프로토콜은 웹을 통해서 기기간 페킷을 주고받는 방법을 정한 약속이다. 페킷은 다른 기기로 전송되는 데이터의 뭉치다. // 1 우선은 아주 간단한 hello world 페이지를 만들어 보자. https://fastapi.tiangolo.com/ FastAPI FastAPI FastAPI framework, high performance, easy to learn, fast to code, ready for production Documentation: https://fastapi.tiangolo.com Source Code: https:/.. 2021. 12. 1. [LV.3] 경량화 # CV경량화 강의 메모는 생략되었음 CV vs NLP NLP의 경우 CV에 비해 모델 구조의 다양성이 떨어짐, 거대한 transformer 구조가 대부분 -> Knowledge distilation을 사용하기 유리 -> 학계와 현업간의 이식성이 높음 BERT profiling Ganesh, Prakhar, et al.,2021에 따르면 - 일반적으로 CPU의 연산속도가 더 빠름 - 고등한 computation 이 많은 모듈일 수록 이 차이가 더 극명함 (matmul, softmax 등) Structured Pruning vs Unstructured Pruning Structured Michel et al., 2019에 의하면 - MHA를 위해서 꼭 Multi-Head가 필요한가? -> 그렇지만은 않다... 2021. 11. 30. [LV.3 모델 최적화] #5 Augmentation 1 2 image augmentation shear : 비틀기 Translate : 이동 Rotate : 회전 Contrast : 대비 Invert : 역전 Equalize : color histogram 평활화, 색 대비 혹은 색 표현이 풍부해 짐 AutoContrast : 파라미터는 없고 Contrast histogram을 더 평탄화함 Solarize : threshold 를 넘는 픽셀에서 invert Posterize : quantization. 표현을 더 낮은 비트 수로 표현 Color : color balance brightness Cutoff : 이미지에 구멍 뚫기3 issue 숫자 같은 경우는 뒤집어지면 의미가 달라지는 경우가 생긴다. 과한 augmentation은 절대 존재할 수 없는 이미.. 2021. 11. 24. [LV3 모델최적화] #2, #3 2 ShuffleNetv2 속대에 영향을 주는 요소 FLOPs 이외의 Memory Access Cost 등의 관점에서 속도에 영향을 주는 요소들이 많다. 논문에서는 4가지 가이드 라인 제시 입출력 크기가 동일할 때 convolution group의 크기 path의 분기 수 Element-wise operation 3 1 좋은 config를 찾을 때 까지 사람이 지속적으로 tunning AutoML을 이용해서 완전한 loop with out human 구현 DL config는 conditional search space를 가짐 SGD : lr, momentum / Adam : lr, beta1, beta2 .... 2 Bayesian Optimization Surrogate model (Gaussian p.. 2021. 11. 24. [ Ubuntu ] 우분투 dhcp 인터넷 안될때 복구 (open) 우분투를 다루면 다룰수록 컴퓨터를 하나도 모른다는 생각이 든다. 이번 글은 완전히 close 된 이슈가 아님을 일단 밝힌다. 그래픽 카드를 새로 하나 꽂았더니 PCIe 의 순서가 꼬였는지 Realtek의 lan카드가 먹통이 되었고 이걸 고치려고 드라이버설치를 하다가 커널을 날려 먹었다. 그래서 새로 우분투를 깔고... 기존에 코드는 깃헙에 올라가 있지만 모아뒀던 데이터를 싹 다 날려먹었다! (용량확보 오히려좋아ㅠ) 도커도 새로 깔고.. 쿠버네티스도 새로 깔고... nvidia docker 설정에 할일이 천지지만 먼저 이거부터 어떻게 좀 해보자. 미치고 팔짝 뛸 노릇이다. 머리털 다 빠지겠다. 네트워크가 또 안된다. lo는 자체적으로 형성된 안으로 돌아들어가는 루프라서 사실상 인터넷 안되는 상황이다. 이때.. 2021. 11. 15. 이전 1 ··· 6 7 8 9 10 11 12 ··· 27 다음 반응형
