공부/프로그래밍 (8) 썸네일형 리스트형 딥러닝 Tensorflow | 최적화 이론 회귀 (관계 예측) 함수의 극소/극대값 찾기 경사하강[상승]법 모멘텀(momentum) 방법 미분 편미분 기울기벡터 연쇄법칙 미분 적용하기 경사하강법 모멘텀 방법 AdaGrad(Adaptive Gradient Method) RMSProp(Root Mean Square Propagation) Adam(Adaptive Moment Estimation) 딥러닝 Tensorflow | Perceptron 학습의 분류 지도학습 (데이터에 label을 할당한다) classification(분류) : label이 이산적인 경우 Regression(회귀) : label이 연속적인 경우 비지도학습 (데이터에 label을 할당하지 않는다) Clustering(군집) : 컴퓨터 스스로 특성만을 조사하여 같은 특성을 갖는 데이터끼리 묶는 경우 classification(분류) 특성 간의 상관관계를 파악하는 것이 중요하다. 특성이 2개에서 그 이상으로 갈 수록 컴퓨터가 데이터를 구분하기 어려워진다. Curse of dimensionality problem(차원의 저주) 차원(특성의 개수)이 높을 수록, 특성에 따른 분류가 어려워지는 현상이다. 따라서, 컴퓨터가 특성을 쉽게 파악할 수 있도록 불필요한 차원을 줄여줘야한다... 딥러닝 Tensorflow | Keras training model.fit() 오류 시각화에서 계속 오류가 난다. 해결이 어려워서 그냥 keras 기본설정 부분은 다른책보고 공부하고 pytorch로 넘어가도록하자. 딥러닝 Tensorflow | Optimization, Training with Keras Optimization¶모델학습 전에 설정한다. Loss function Optimization Metrics Loss function¶ binary (단 2개일 때) categorical (2개 이상 클래스 사용시) loss = 'binary_crossentropy' loss = 'categorical_crossentropy' categorical 사용 기준 one hot 설정했다 -> tf.keras.losses.sparse_categorical_crossentropy 설정 안했다 -> tf.keras.losses.categorical_crossentropy In [39]: loss_func = tf.keras.losses.sparse_categorical_crossentropy #one hot 인코.. 딥러닝 Tensorflow | fully-connected (1) input layer : 1차원으로 펼쳐줘야한다. (2) hidden layer : input layer 노드와 hiddenlayer 노드를 하나하나 전부 연결한다. (3) output layer : 마지막 hidden layer 노드에서 output layer 노드로 연결해준다. * 모든 연결에는 weight가 할당되어있다. * 모든 단계에는 bias node가 추가로 할당된다. * 수식 : y = wx + b (w:weight, b:bias) * flatten : 1차원으로 쫙 펼쳐주는 방식 { tf.keras.layers.Flatten() } Flatten¶ In [38]: import tensorflow as tf In [39]: layer = tf.keras.layers.Flatten().. 딥러닝 Tensorflow | layer, feature extraction - convolution Layer 개념 / 시각화 / Layer 적층법¶ In [1]: import tensorflow as tf import matplotlib.pyplot as plt %matplotlib inline In [2]: #mnist 데이터 이미지 로드 from tensorflow.keras import datasets (train_x, train_y), (test_x, test_y) = datasets.mnist.load_data() In [3]: #데이터 로드 후에는 shape 확인 필수 train_x.shape Out[3]: (60000, 28, 28) In [4]: #첫번째 이미지 할당 image = train_x[0] In [5]: #첫번째 이미지의 shape 확인 필수 - 사이즈, 채널 개수 등 ima.. 딥러닝 Tensorflow | 방학 중 진행상황 계절학기 인공지능의 수학과 과학을 들으며 딥러닝 공부를 병행했다. 1학년 때 배웠던 통계학 (회귀부턴 안하고 끝남..) 내용이 나와서 반가웠고, 수업이 진행될수록 어려웠다. 집에서 공부할 때마다 텐더를 에어프라이어에 구워서 냠냠했다. 진짜 너무 맛있어서 눈물 왈칵 날 뻔 했었다. 중간고사를 준비하면서 열심히 공부했었는데.... 결국 철회했다. ㅋㅋ.......아쉽 아무래도 4학년 1학기에 다시 수강해야할 것 같다. 그래도 DNN과제랑 굉장히 도움이 많이됐다. (특히 이미지 분석하는 부분이) 그래서 기존에 공부해왔던 패스트캠퍼스 딥러닝을 이어서 같이 공부할 생각이다. 패스트캠퍼스 과제까지 마무리하면 딥러닝 실력이 꽤 향상되어있을 것같다. 사실 딥러닝을 왜 공부하고 있는지는 잘 모르겠다. 취업하고나서 내 직.. 딥러닝 Tensorflow | (FastCampus) TensFlow를 활용한 딥러닝 기초 학교공지사항에 AI engineer 전문가 양성과정에 참가할 학생을 모집중이라는 글이 올라왔었다. 내용을 보아하니 이미지 복원 등 딥러닝으로 구현하는 여러 프로젝트를 수행할 수 있는 커리큘럼이라 매우 괜찮아보여서 신청했다. 50만원을 지원해주는거라 무조건 합격하려고 지원동기를 열심히 작성했다. (사실 이전 vr&ar 과정에서 떨어진 전적이 있었기에 너무 아쉬웠다면서 이미지 복원, 구현 등 관심 많다고 어필 엄청나게 함.) 며칠 뒤 공지사항을 보니 예비로 합격했더라. 그래서 사실 그냥 마음 놓고 있었는데 어느날 전화가 왔다. 수강할 수 있겠냐고. 이게 왠 횡재인가 싶어서 바로 하겠다고 했다. 알고보니 패스트캠퍼스와 우리학교가 제휴를 맺어서 학생들에게 기업전용 강좌를 제공해주는 거였다. 강의자 분들도 현업에.. 이전 1 다음
