Logistic Regression이 필요한 이유일반적인 선형 회귀 문제일반적으로 선형 회귀 문제를 해결한다하면, 수치형 특징변수 X와 연속된 숫자로 이뤄진 종속변수 Y간의 관계를 선형으로 가정하고 이를 가장 잘 표현 할 수 있는 회귀계수를 추정하는 것이라 할 수 있다.이진 분류 문제이진 분류 문제는 선형적이지 않다. 특징변수 X와, 0과 1로 구성된 범주형 종속변수 Y간의 관계를 추정한다.이 과정에서 선형회귀로 분석한다면 범주형 자료는 분석하기 어려울 것이다. 이를 해결하기 위해 Logistic Regression이 고안되었다. Logistic Regression 개요로지스틱 함수로지스틱 함수(Logistic function)는 처음에는 빠르게 증가하다가 점점 증가 완만하게 증가하며 한계값에 가까워 지..

실수 자료로의 전환(Vectorization)범주형 자료, 텍스트 자료, 이미지 자료 등을 실수로 구성된 [n_sample, n_features]의 형태로 전환, 새로운 특성변수의 생성, 결측 자료의 대체는 머신러닝 알고리즘 적용을 위한 필수적인 사전과정이며 이를 vectorization이라고 한다.연속형 자료(continuous data)실수 자료로의 전환이 필요 없다. 예를 들어, 학생 1명의 데이터가 "나이 = 23", "키 = 175.3", "몸무게 = 68.2" 라면 이 자체가 이미 [23, 175.3, 68.2] 같은 벡터가 된다.즉, 연속형 변수는 그냥 모아놓기만 해도 벡터가 되기 때문이다.범주형 자료(categorical data)범주형 자료는 다음과 같이 카테고리화 되어있는 자료를 의미한..

왜 파이썬인가쉬운 문법파이썬은 비교적 문법이 간단하다. 즉, 문법 자체에 신경을 덜 쓰고 문제 해결에 더 집중할 수 있다.높은 생산성파이썬은 같은 기능을 더 적은 코드로 구현하는 경우가 많다.즉,개발 속도가 빠르고실험을 하기 좋고수정과 디버깅도 비교적 편하다공학/과학을 위한 기능 및 라이브러리파이썬은 과학 계산용 생태계가 매우 강하다. 대표적으로 다음의 라이브러리가 있다.NumPy: 벡터, 행렬, 수치 계산SciPy: 과학 계산, 최적화, 통계Pandas: 표 형태 데이터 처리Matplotlib: 시각화SymPy: 기호 수학기계학습 관련 라이브러리파이썬은 기계학습과 딥러닝을 위한 라이브러리가 매우 잘 갖춰져 있다.scikit-learn: 전통적인 머신러닝TensorFlow: 딥러닝PyTorch: 딥러닝X..

머신러닝에서 수학은 목적함수를 정의하고, 최적화 이론(목적함수의 최저점 도출)을 제공한다. 또한, 최적화 이론의 규제, 모멘텀, 학습률, 멈춤조건과 같은 제어를 추가하여 알고리즘을 구축할수도 있다. 주로 사용되는 수학적 이론은 크게 다음 3개가 있다.선형대수: 학습 모델의 매개변수집합, 데이터, 선형연산의 결합 등을 행렬 또는 텐서로 간결하게 표현 가능하다. 확률과 통계: 데이터에 포함된 불확실성을 표현하고 처리하는데 활용된다. 베이즈 이론과 최대 우도 기법을 이용한다.최적화: 목적함수를 최소화하는 최적해를 찾는데 활용한다. 미분이 주로 활용된다. 백터와 행렬백터벡터는 데이터를 숫자로 표현한 한 줄짜리 배열이다. 기계학습에서는 샘플을 특징 벡터로 표현한다. 다음 벡터는 Iris 데이터에서 꽃받침의 길이,..

인공지능이란인공지능(Artificial Intelligence, AI)은 쉽게 말해 컴퓨터로 만들어진 지능이다. 이는 사람에 의해 통상적으로 수행되는 지적인 작업을 자동화하는 것을 목표(Chollet, 2018)로 한다. 인공지능은 통계적 머신러닝(statistical machine learning)과 딥러닝(deep learning)을 포괄하는 개념이다. 인공지능의 역사1950 ~ 1980년대: 부호적 AI(symbolic AI, 명시적 규칙을 부여하여 자동화 한 AI)에 치중하였다. 하지만, 부호적 AI는 다양한 인지적 오류/차이가 존재하는 인지 영역(이미지 처리, 자연어 해석 등)에서 한계를 드러내었다.1957년: 퍼셉트론(perceptron, 기계적 학습규칙을 기초로 한 선형분류기법)의 등장으로 ..