AI
* BERT
* ELMo
* 딥 러닝을 이용한 자연어 처리 입문
강좌
머신러닝
딥러닝
인공지능의 한 분야로 머신러닝의 하위 개념
Terms
1. 인공지능 [ Artificial Intelligence(아티피셜 인텔리전스), AI ] : 인간의 지능을 기계로 구현
- Narrow AI (내로우 AI) : 인간이 정의한 알고리즘에 따라 논리적으로 동작하는 AI
- General AI (제너럴 AI) : 스스로를 인식하고 자신의 필요에 따라 학습하고 진화하는 AI
2. 머신 러닝 [ Machine Learning, ML, 기계학습 ] : 인공지능을 구현하는 구체적 접근 방식
- '명시적인 프로그래밍(explicit programming)'이 아닌, 데이터로부터 시스템이 학습하도록 하는 AI의 한 형태
- 알고리즘을 이용해 데이터를 분석하고, 분석을 통해 학습하며, 학습한 내용을 기반으로 판단이나 예측을 한다.
- 의사결정 기준에 대한 구체적인 지침을 소프트웨어에 직접 코딩해 넣는 것이 아닌, 대량의 데이터와 알고리즘을 통해 컴퓨터 그 자체를 학습시켜 작업 수행 방법을 익히는 것을 목표로 한다.
- 명시적인 프로그래밍(explicit programming) : 모든 상황에 대해 인간이 예측하고, 미리 프로그래밍하는 것.
- 머신러닝 블랙박스 모델 : 복잡한 DNN의 형태나 다양한 모델들이 조합되어 뚸어난 예측을 하지만, 내부 알고리즘이 드러나지 않아 예측에 대한 명확한 설명을 제공하지 않아 이해하고 신뢰하기 어렵다.
- 머신러닝 화이트박스 모델 : 처리 방식과 예측, 그리고 영향을 주는 변수들이 무엇인지를 명확히 파악할 수 있는 모델. 단순성, 투명성,명료성(설명가능성, 이해할 수 있는)
3. 딥러닝 [ Deep Learning, Deep Structured Learning, 심층학습 ] : 완벽한 머신 러닝을 실현하는 기술
- 기본 층을 연속적으로 겹겹이 쌓아 올려 구성한 신경망(Neural Network)에서 데이터로부터 의미있는 표현을 학습하는 머신러닝의 한 분야이다.
- 데이터로부터 모델을 만드는데에 얼마나 많은 신경망의 층(Layer)을 사용했는가에서 그 모델의 깊이가 되며, Deep이라는 용어가 나왔다.
- 뉴런(Unit) 구성
- 수상돌기(Dendrites, 덴드라이츠)
- 미엘린 수초(Myelin Sheath, 마이엘린 쉿뻔데기)
- 세포핵(Cell Nucleus, 셀 뉴클리스)
- 축삭 돌기(Axon, 악산)
- 축삭 끝가지(Axon terminals, 악산 터미널즈)
4. ANN [ Artificial Neural Network(아티피셜 뉴럴 네트워크), 인공신경망 ]
- 사람의 신경망 원리와 구조를 모방하여 만든 기계학습 알로리즘
5. DNN [ Deep Neural Network ]
- ANN 기법의 여러 문제가 해결되면서, 모델 내 은닉층을 많이 늘려서 학습의 결과를 향상시키는 방법
6. CNN [ Convolution Neural Network(컨벌루션 뉴럴 네트웍), 합성곱 신경망 ]]
- 데이터의 특징을 추출하여 특징들의 패턴을 파악하는 알고리즘
- 알파고
- 숫자 인식
- 분할하여 학습한 후 최종적으로 결과를 합하여 결과 도출
7. RNN [ Recurrent Neural Network(리커런트 뉴럴 네트웍, 순환신경망 ]
- 내부의 순환구조를 이용하여 과거의 학습을 Weight를 통해 현재 학습에 반영하며, 반복적,순차적 데이터 학습에 특화된 인공신경망의 한 종류이다.
8. Classification (클래시피케이션, 분류)
- supervised learning(수퍼바이즈드 러닝, 지도 학습)
9. Bias (바이어스, 편향)
- Intercept, 절편
10. Clustering (클러스터링, 군집)
- unsupervised learning(언수퍼바이즈드 러닝, 비지도 학습)
11. Matrix (매트릭스, 행렬)
12. Feature (피처, 특성)
13. Regression (리그레션, 회귀)
14. Category (카테고리, 범주)
15. Entropy vs Cross Entropy (엔트로피, 크로스엔트로피)
딥러닝 학습 과정에서 크로스 엔트로피를 감소시키는 학습 과정은 물리학에서 잉크를 물에 떨어뜨렸을 때와 비교할 수 있다. 잉크 방울과 물이 어지럽게 섞여 있는 복잡한 상황으로부터 시간을 거슬러 올라가서, 잉크 방울과 물이 섞이기 전의 초기 상태로 강제로 시간을 거슬러 올라가서 엔트로피를 감소시키는 방향으로 강제로 상태를 이동시키는 과정이라고 볼 수 있다. 잉크가 물과 섞이는 과정의 시간을 거꾸로 올라가면 초기의 상태에 이르는데, 물과 잉크가 완전히 분리된 상태로 어떤 것이 정확히 물이고 어떤 것이 정확히 잉크라고 말할 수 있는 명확히 지칭할 수 있는 상황에 이를 수가 있다. 결론적으로 이러한 상황이 되면, 상태를 명확히 분류할 수 있게 되며 고양이인지 개인지 명확히 판단을 내릴 수 있게 되며 학습이 충분히 되었다고 볼 수 있는 것이다.
> 출처 : 인공지능신문(http://www.aitimes.kr)
16. Backpropagation (백프로파게이션, 역전파)
- 신경망내에 히든레이어에서
17. Logistic regression → Binary Classification → 0 or 1
Linear regression은 0 or 1로 나타내기에는 적합하지 않아서 나온 함수가 시그모이드 함수를 사용
18. 시그모이드 함수
19. 결과 값
Y : real data, 실제 값 Y hat : 예상한 데이터 값
20. Hyperplane
Hyperplane은 n차원 공간을 둘로 나누는 n-1차원의 면입니다. 예를 들어... 직선(1차원)을 둘로 나누는 것은 점(0차원) 입니다. 평면(2차원)을 둘로 나누는 것은 직선(1차원) 입니다. 3차원 공간을 둘로 나누는 것은 평면(2차원) 입니다. ==> Classification 에서 사용되는 용어
21. Ensemble
- 통계학과 기계 학습에서 앙상블 학습법[Ensemble Learning Method]은 학습 알고리즘(learning algorithm)들을 따로 쓰는 경우에 비해 더 좋은 예측 성능을 얻기위해 다수의 학습 알고리즘을 사용하는 방법이다.
- 기계 학습에서의 앙상블은 대체 모델들의 단단한 유한 집합을 가리키지만, 일반적으로 그러한 대체 모델 사이에 훨씬 더 유연한 구조를 허용한다.
- 출처 앙상블 학습법
22.GAN
- 생성적 적대 신경망 ( Generative Adversarial Network )
- 비지도 학습에 사용되는 인공지능 알고리즘으로, 제로섬 게임 틀 안에서 서로 경쟁하는 두 개의 신경 네트워크 시스템에 의해 구현된다.
- 출처 : 생성적 적대 신경망
- 참조 : 쉽게 씌어진 GAN
- 딥페이크 ( deepfake ) :
- 딥 러닝(deep learning)과 가짜(fake)의 혼성어
- 인공지능을 기반으로 한 이미지 합성 기술.
- GAN(생성적 적대 신경망)을 사용하여, 주로 사람의 얼굴 위에 컴퓨터그래픽(CG)으로 만든 다른 얼굴이나 이미지 등을 덧씌우는 방식으로 사용된다.
- Ref
Ref
What are the benefits of white-box models in machine learning?
세계 디지털 서밋: 판단 이유 알 수 있는 AI -- 인간의 의사 결정 재료로 활용
인공지능, AI와 머신러닝의 신뢰성과 해석력
인공지능과 머신러닝, 딥러닝의 차이점을 알아보자
기계학습의 기본 개념
머신러닝 기초적인 개념
딥러닝이란 무엇인가?
[인공지는]ANN, DNN, CNN, RNN 개념과 차이
딥러닝 개념(Deep Learning)
요즘의 딥러닝
Image
