반응형 딥러닝 머신러닝 데이터 분석38 [LangChain Crawler] 랭체인과 LLM으로 크롤링을 해보자 이 글은 아래의 의존성을 가진다. 2024.03.24 - [딥러닝 머신러닝 데이터 분석/Langchain & LLM] - [Langchain coding bot] 랭체인을 이용해서 코딩을 해 보자 - 1 [Langchain coding bot] 랭체인을 이용해서 코딩을 해 보자 - 1 랭체인을 이용해서 코딩을 해 보자. 독자의 랭체인과 LLM에 대한 기본적인 이해가 있다는 전재를 두고 이 글을 이어가겠다. // 무엇을 코딩할 것인가 우선은 무슨 코딩을 할지 정해야 한다. 사실 davi06000.tistory.com 2024.03.24 - [딥러닝 머신러닝 데이터 분석/Langchain & LLM] - [Langchain coding bot] 랭체인을 이용해서 코딩을 해 보자 - 2 [Langchain c.. 2024. 3. 26. [Langchain coding bot] 랭체인을 이용해서 코딩을 해 보자 - 2 이 글은 아래의 의존성을 가진다. https://github.com/hyun06000/langchain-codingbot/blob/main/python_programmer.ipynb langchain-codingbot/python_programmer.ipynb at main · hyun06000/langchain-codingbot Contribute to hyun06000/langchain-codingbot development by creating an account on GitHub. github.com 2024.03.24 - [딥러닝 머신러닝 데이터 분석/Langchain & LLM] - [Langchain coding bot] 랭체인을 이용해서 코딩을 해 보자 - 1 [Langchain codin.. 2024. 3. 24. [Langchain coding bot] 랭체인을 이용해서 코딩을 해 보자 - 1 랭체인을 이용해서 코딩을 해 보자. 독자의 랭체인과 LLM에 대한 기본적인 이해가 있다는 전재를 두고 이 글을 이어가겠다. // 무엇을 코딩할 것인가 우선은 무슨 코딩을 할지 정해야 한다. 사실 랭체인을 이용한 앱을 만들때 가장 중요한 부분이 LLM에게 무엇을 시킬 것인가 이다. 우리는 이번에 그림판 기능이 있는 웹 페이지를 만들어 보도록 하자. 무슨 기능을 구현할지 개발자가 정확하게 알고 있어야 올바른 프롬프트를 작성하는 것이 가능하다. 우선 생각의 순서보다는 작성된 코드를 탑다운으로 따라가면서 알아보자. https://github.com/hyun06000/langchain-codingbot/blob/main/python_programmer.ipynb langchain-codingbot/python_p.. 2024. 3. 24. [LV.3] 경량화 # CV경량화 강의 메모는 생략되었음 CV vs NLP NLP의 경우 CV에 비해 모델 구조의 다양성이 떨어짐, 거대한 transformer 구조가 대부분 -> Knowledge distilation을 사용하기 유리 -> 학계와 현업간의 이식성이 높음 BERT profiling Ganesh, Prakhar, et al.,2021에 따르면 - 일반적으로 CPU의 연산속도가 더 빠름 - 고등한 computation 이 많은 모듈일 수록 이 차이가 더 극명함 (matmul, softmax 등) Structured Pruning vs Unstructured Pruning Structured Michel et al., 2019에 의하면 - MHA를 위해서 꼭 Multi-Head가 필요한가? -> 그렇지만은 않다... 2021. 11. 30. [LV.3 모델 최적화] #5 Augmentation 1 2 image augmentation shear : 비틀기 Translate : 이동 Rotate : 회전 Contrast : 대비 Invert : 역전 Equalize : color histogram 평활화, 색 대비 혹은 색 표현이 풍부해 짐 AutoContrast : 파라미터는 없고 Contrast histogram을 더 평탄화함 Solarize : threshold 를 넘는 픽셀에서 invert Posterize : quantization. 표현을 더 낮은 비트 수로 표현 Color : color balance brightness Cutoff : 이미지에 구멍 뚫기3 issue 숫자 같은 경우는 뒤집어지면 의미가 달라지는 경우가 생긴다. 과한 augmentation은 절대 존재할 수 없는 이미.. 2021. 11. 24. [LV3 모델최적화] #2, #3 2 ShuffleNetv2 속대에 영향을 주는 요소 FLOPs 이외의 Memory Access Cost 등의 관점에서 속도에 영향을 주는 요소들이 많다. 논문에서는 4가지 가이드 라인 제시 입출력 크기가 동일할 때 convolution group의 크기 path의 분기 수 Element-wise operation 3 1 좋은 config를 찾을 때 까지 사람이 지속적으로 tunning AutoML을 이용해서 완전한 loop with out human 구현 DL config는 conditional search space를 가짐 SGD : lr, momentum / Adam : lr, beta1, beta2 .... 2 Bayesian Optimization Surrogate model (Gaussian p.. 2021. 11. 24. 이전 1 2 3 4 5 ··· 7 다음 반응형
