들어가기 전에..
상하위 개념으로서는 인공지능 - 머신러닝 - 딥러닝으로 인공지능이 상위 개념에 속한다. 인공지능은 인간 수준 이상, 머신러닝은 답과 샘플로 규칙을 찾는 것, 딥러닝은 머신러닝의 한 기법으로서 신경망을 활용하는 머신러닝 방식이라고 알고 있었다.
Deep Learning 강의노트: wendys.tistory.com/136
인공지능은 기존 시스템의 개발자가 특정 규칙을 설정하고 입력에 대한 출력을 정의하는 방식과는 다르게 자체 규칙 시스템을 가지고 있다.
머신러닝이란 제공된 데이터와 알고리즘을 통해 컴퓨터가 스스로 학습해 작업 수행 방법을 익히는 것을 의미한다.
딥러닝은 병렬 연산화가 최적화된 GPU의 등장으로 복잡한 연산과정이 가능해지면서 뇌의 뉴런과 유사한 정보 입출력 계층을 활용해 데이터를 학습하는 것이다.
딥러닝은 데이터를 스스로 학습할 수 있는 반면 머신러닝은 학습 데이터를 수동으로 제공해야한다는 점이 큰 차이점이다.
Yoshua Bengio는 딥러닝의 목표는 합성된 함수를 학습시켜서 풍부하면서도 유용한 내재적 표현을 찾아내는 machine을 구축하는 것이다라고 했다. 내재적 표현에 해당하는 것이 Features일 거 같다. 그리고 이러한 내재적 표현이라는 단어적 표현은 딥러닝을 비난하는 시선과 표현이 상반적이라는 점이 인상적이다. 딥러닝 기법 중 하나인 CNN은 이러한 내재적 표현이라는 특성 때문에(?) 블랙박스라는 비난을 받기도 하며, 이러한 내재적 표현을 시각화해서 블랙박스가 아니라는 점을 피력하기도 한다.
Representation Learning
Q. 데이터의 내재된 표현이란 무엇이고, 데이터로부터 좋은 표현을 추출해낸다는 것은 무슨 뜻인가요? 그리고 이는 어떻게 수행될 수 있나요?
참고 블로그: 딥러닝이란 무엇인가, https://tensorflow.blog/%EC%BC%80%EB%9D%BC%EC%8A%A4-%EB%94%A5%EB%9F%AC%EB%8B%9D/1-%EB%94%A5%EB%9F%AC%EB%8B%9D%EC%9D%B4%EB%9E%80-%EB%AC%B4%EC%97%87%EC%9D%B8%EA%B0%80/