5주차 진도: Chapter 9(생성모델) 생성모델 데이터로부터 확률분포를 추정해서 데이터를 생성하는 모델 확률분포를 근사할 수 있다면 다양한 분야에서 활용할 수 있다 생성 모델의 종류 생성 모델은 관측 데이터의 확률분포를 추정하기 위해 최대우도추정을 함 명시적 추정: 확률분포를 명시적으로 추정하는 방식 암묵적 추정: 모델이 확률분포를 따르는 샘플을 생성하는 방식 VAE 변분 오토 인코더 (Variation autoEncoder) 인코더-디코더로 구성된 잠재변수 모델로 확률분포를 변분적으로 근사함 장점 + 훈련과정이 안정적이고 빠름 단점 - 확률분포를 근사하는 방식이라 정확한 확률분포를 추정하지 못함 GAN 생성자와 판별자가 적대 관계에서 훈련하는 모델 생성자: 가짜 데이터를 만들면서 판별자가 진짜라고 ..

3주차 진도: Chapter 6 (콘볼루션 신경망), Chapter 8(순환신경망) CNN 1. 생체 신경망과 비슷한 점 뉴런은 좁은 영역의 자극에 반응함 뉴런마다 다른 모양의 특징을 인식하도록 뉴런의 역할이 나뉨 계층 구조를 이뤄 시각 정보를 계층적으로 처리함 -> 특징의 추상화 수준을 높임 2. 콘볼루션 신경망의 성질 이미지의 다양한 특징을 추출하기 위해 콘벌루션 계층 + 풀링연산을 하는 서브샘플링 계층으로 이뤄짐 입력데이터는 3차원의 텐서로 표현하는데 가로*세로 공간 특징을, 깊이로 채널 특징을 표현함 연산 성질 강한사전분포: 일부 파라미터를 사용하지 않음 (희소연결), 같은 계층의 뉴런은 파라미터 공유 이동불변성 - 특징이 어느 위치에 있든 동일하게 인식 위치불변성 - 입력이 조금 움직이면 출력이..

1주차 진도: Chapter 2 순방향 신경망 ~ Chapter 3 신경망 학습 인공신경망 모델의 기본 & 경사 하강법과 역전파 알고리즘 에 대해 공부하자 Chapter2 순방향 신경망 : 뉴런들이 모여 계층을 이루고 계층이 쌓여 전체 신경망을 이루는 구조 입력 계층, 은닉 계층, 출력 계층으로 구분 완전연결계층: 계층에 속하는 각 뉴런들이 이전 계층의 뉴런과 모두 연결된 구조 뉴런 가산합산과 활성 함수를 순차적으로 실행하여 데이터 내 특징을 추출함 비선형적으로 변환하는 과정을 거침 기본 활성 함수 = ReLU (Rectified Linear Unit) -> 구간 선형 함수로 비선형 함수임 범용 함수 근사기로서의 신경망 뉴런 - 가중합산과 활성함수를 순차적으로 실행하는 합성함수 f(x) = activat..