[인공지능] 5-1 신경망

1. 신경망

인간 두뇌에 대한 계산적 모델을 통해 인공지능을 구현하려는 분야
신경세포

• 수상돌기 : 다른 신경세포의 축색돌기와 연결되어 전지화학적 신호를 받아들이는 부위
• 축색돌기 : 수신한 전기화학적 신호의 합성결과 값이 특정 임계값 이상이면 신호를 내보내는 부위
• 신경연접 : 수상돌기와 축색돌기 연결부위
  • 전달되는 신호의 증폭 혹은 감쇄

2. 퍼셉트론

신경세포의 계산모델

• 로젯블랏이 제안한 학습가능한 신경망 모델
• XOR 선형분리 불가 문제는 해결할 수 없다

3. 다층 퍼셉트론(MLP)

여러 개의 퍼셉트론을 층 구조로 구현한 신경망 모델

• 선형분리불가 문제 해결가능

다층 퍼셉트론의 학습

• 입력-출력의 학습 데이터에 대해서 기대출력 yi와 다층 퍼셉트론의 출력 f(xi)의 차이, 즉 오차가 최소가 되도록 가중치 w를 결정하는 것
• 학습가능한 다층 퍼셉트론
  • 오차 역전파 알고리즘 : 활성화 함수를 계단 함수에서 미분가능한 시그모이드 함수로 대체
    -> 경사하강법 적용

활성화 함수

• 계단 함수
  

  

• 시그모이드 함수
  • 구간 (0,1)의 출력
• 쌍곡탄젠트 함수
  • 구간 (-1,1)의 출력
  • 시그모이드 단점 해결

미분

그레디언트

• 함수의 각 변수에 대한 편미분을 성분으로 갖는 벡터
• 함수의 값이 가장 커지는 방향과 크기를 나타낸 벡터