Artificial Neural Network
개요
인간 두뇌의 신경망(860억개의 뉴런과 5000조개의 시냅스로 구성)을 모델링
Perceptron
* 시각과 뇌의 기능을 모델화한 학습 기계. 학습·지적 동작 기능을 가진 패턴 인식의 기계
- McCulloch와 Pitts는 인간의 두뇌가 수 많은 신경세포들로 구성된 점에 착안하여 최초의 신경망의 모델 제안(1943년)
- Edmonds와 Minsky는 학습 기능이 있는 최초의 신경망 구축(1951년)
- Frank Rosenblatt는 Perceptron이라는 신경망 모델 제안(1957년)
- 가중치(weight): 입력 신호의 강도 표현
- 입력신호의 총합(summation): 각 입력신호에 가중치를 곱하여 합한 값
- 활성화 함수(activation function): 신호의 총합을 출력 신호로 변환
- Minsky와 Papert가 그들의 저서 "Perceptrons"에서 퍼셉트론이 비선형 분리 문제를 풀 수 없음을 증명(1st AI winter, 1969년)
MLP(Multi Layer Perceptron)
인간의 뉴런을 모방한 퍼셉트론을 다수의 계층으로 네트워크 구성
Backpropagation
- 미분, chain rule 이용
- 미분을 하는 이유: loss(미분값)가 0인 곳을 찾기 위해, 가중치를 찾기 위해
- 가중치(gradient): 편미분값의 벡터(집합) → 입력 값이 여러개이므로
- gradient descent algorithm: 미분값이 0인 곳을 찾아 내려가는 알고리즘
- 지도 학습: 답 O, 비지도 학습: 답 X (ex. 클러스터링)
머신러닝과 딥러닝의 차이
인공지능 ⊃ 머신러닝 ⊃ 딥러닝
1. 알고리즘 기법
2. feature engineering 과정을 거치는지 여부
- feature: 통계에서 얘기하는 변수, 속성
- 머신러닝: feature engineering → 사람이 골라낸 feature들로 학습 진행
- 딥러닝: feature enginneering 필요 X → 스스로 판단
≫ 사람이 개입할 수 있는 인위적인 과정을 없애버려 입력 값 그대로의 특성을 잘 살린 결과물 도출 가능
Deep Learning Case Study
- Computer Vision: 픽셀 복원, 색상 복원, Object Detection, Image Tagging
- Translation: 네이버 파파고, 구글 번역기
- Medical Vision: 의료영상 질병 진단
- Game: AlphaGo
- Self Driving: 구글 자율 주행차
- Fraud Detection System: 이상거래탐지시스템(FDS) - 카드사, 금융사
- ManuFacture: SKT 반도체 제조공정 품질 개선
댓글