Tech blog

Neural Networks가장 간단한 형태의 뉴럴 네트워크를 알아보고, 딥러닝 학습이 무엇인지를 알아보자.우선 뉴럴 네트워크란 무엇인가?  설명 1 - 뇌와의 연관성   뉴럴 네트워크란, 인간/동물의 뇌의 뉴런 구조에서 영감을 받아 설계된 컴퓨팅 시스템으로,데이터 패턴을 인식하고 학습하는 데 사용된다.("Neural networks are computing systems vaguely inspired by the biological neural networks that constitute animal brains")인간의 뉴런을 구성하는 생물학적 요소들을 비유적으로 따오긴 했지만, 완벽히 인간의 뇌를 닮은 구조를 만들어서 성능이 좋은 모델을 개발했다기엔 어려운 지점이 있음. 개념적으로 뇌의 작동과 다..

딥러닝 기본 딥러닝을 학습 할 때 중요한 것 - Implementation skill이 중요 : Pytorch, Tensorflow- 수학적인 배경 : 선형대수, 확률론 중요 - 트렌드 논문들 및 연구들을 확인하는 것 중요  딥러닝은 neural network를 활용하는 머신러닝으로 , AI의 기법중 하나로 보면 됨.딥러닝의 기본 요소 : 데이터 + 모델  + 손실함수 + 최적화 알고리즘  1) 데이터 (Data) : 풀고자하는 문제에 따라 다름(ex. image classification, semantic segmentation, detection, pose estimation, visual q&a)  2) 모델 (Model) : 이미지, 텍스트 등 데이터가 주어졌을 때 그 데이터를 변환 및 분석하는 ..

앞선 (3)에서는 데이터를 선형 모델로 해석하고, 경사하강법으로 학습하는 방법을 확인 했다. 선형 회귀가 아닌 더 복잡한 예측을 위해서는 선형모델만으로는 부족, 비선형 모델이 필요한데, 이제부터는 비선형 모델인 신경망에 대해 알아보도록 한다.선형 모델 경사하강법 강의는 아래 참고 https://ysryuu.tistory.com/64 [네이버AI class] 3주차 (3) - 경사하강법미분 (differentiation)미분이란 '한 점에서의 기울기' 이다.이는 변수의 움직임에 따른 함수값의 변화를 측정하기 위한 도구로, 최적화에서 많이 사용하는 기법이다.미분은 변화율의 극한으로 정의ysryuu.tistory.com신경망비선형 모델 비선형 모델은 입력과 출력간의 관계가 선형적이지 않은 모델이다. 즉 변수 ..

미분 (differentiation)미분이란 '한 점에서의 기울기' 이다.이는 변수의 움직임에 따른 함수값의 변화를 측정하기 위한 도구로, 최적화에서 많이 사용하는 기법이다.미분은 변화율의 극한으로 정의하는데, 어떤 기울기를 계산할때, f(x+h) - f(x)를 h로 나눈 것, 이 변화율의 극한값이 미분이다.  미분을 구하는 코드는 아래와 같음. sympy 라이브러리를 활용해서,  그 안에 diff 기능을 계산한다 (도함수 구하기)딥러닝에서도 이렇게 수치적으로 미분 계산 및 최적화 해서 활용할 예정.import sympy as sp# 변수 및 함수 정의x = sp.symbols('x') # 변수 x를 정의합니다.f = x**2 + 3*x + 2 # 미분할 함수를 정의합니다.# 함수를 x로 미분합니..