흰고래의꿈

1. 참고 싸이트 글을 작성하기 전 참고 했던 소스코드다. ▪ 서울대학교 최성준님 ▪ Aymeric Damien ▪ Nathan Lintz 2. Multilayer Perceptron MLP를 공부하기 전 다들 단일 Perceptron을 공부하였을 것이라 생각한다. 코드를 한번 보면 쉽게 알 수 있듯이 하나의 결과를 얻기 위해 Perceptron을 중복으로 수행한것이다. 즉 Input이 x이고 output을 y일때 단일 Perceptron은 f(x) = y, Multilater Perceptron은 f(g(x)) = y라고 표현할 수 있다. 다만 g(x)의 결과값이 활성함수로 인해 f(x)의 계산에 사용될지 사용되지 않을 지 정해진다. 그리고 Hidden Layer가 증가할수록 f(g(h(k(x)))=y..

1. Logistic Regression 이번 글 역시 이전 글과 똑같이 김성훈 교수님의 유튜브 강의를 기반으로 하여 작성하였다. 아래 사진을 클릭하면 동영상 싸이트로 갈 수 있다. 1. Logistic Regression(Classification) Logistic Regression의 결과는 yes/no, 1/0과 같이 2개 결과를 가진다. 예로 들어 하나의 변수 x가 있을 때 x의 값 50을 기준으로 작으면 0, 크면 1이라고 한다. 이러한 관계 때문에 데이터의 분포가 Linear Regression과 달라 지고 결과적으로 Linear Regression에서 사용한 Hypothesis(H(x) = Wx+b)를 사용할 수 없다. 강의에서는 수식을 사용할 수 없는 이유는 2가지를 제시하였다. 첫번째 이..

1. 개요 학습 모델을 선정하기에 앞서 학습할 데이터의 분포의 특징에 따라 어떠한 회귀법을 사용할지 선택해야한다. 회귀법을 선택할때 고려할 요소는 독립 변수이 수, 종속 변수의 유형 그리고 회귀선의 형태가 있다. 해당 글은 analyticsvidhya의 글을 번역한 것이라고 보면 된다. 2. Regression 종류 1. Linear Regression 가장 널리 알려진 모델링 기술 중 하나이며 종속 변수(Y)는 연속적이며 독립 변수(X)는 연속적이거나 이산적일 수 있으며 회귀선은 선형을 가진다. 방정식 Y = a + b*X로 표시되며, 여기서 a는 절편이고, b는 선의 기울기, e는 오차 항을 나타낸다. 단순 선형 회귀과 다중 선형 회귀의 차이점은 독립 변수(X)의 수에 따라 결정된다. 학습한 선에 대..

1. 범주형 속성 처리 1. 범주형(Categorical) 속성 ▪ 예제 : 성별, 전공, 특기 2. 범주형 속성을 Asymmetric binary 변수로 변환함 3. 주요 이슈 ▪ 범주형 속성 value가 여러 종류라면?- 다른 속성을 추가한다. ▪ 한쪽 속성값으로 편향되었다면?- 새로운 정보가 없다고 속성을 판단하여 제거한다. 2. 연속형 속성 처리 1. 연속형(Continuous) 속성 ▪ 예 : 나이, 몸무게, 연봉 2. 처리 방법 ▪ 이산화 기반(Discretization-based) 방법 • 통계 기반(Statistics-based) 방법 • Non-discretization 기법 • Min-Apriori 기법 3. 연속형 속성 처리 방법 1. 이산화 기반(Discretization-based..

1. Rule Generation from frequent itemset 1. Frenquent itemset이 {A,B,C,D}일 떄 Candidate rules은 다음과 같다. ▪ Frenquent itemset이 K개 이면 총 생성할 수 있는 Candidate rules은 2^k-2개이다. ▪ 공집합과 전체 집합은 뺴기 때문에 -2이다. 2. 신뢰도(confidence)는 anti-monotone 성질을 가지지 않는다. ▪ Apriori 특성 사용이 어려움 - c(ABC->D) can be larger of smaller than c(AB->D) ▪ 동일한 항목집합에서 생성된 규칙에 대해서는 anti-monotone 성질이 성립 - c(ABC->D) >= c(AB->CD) >= c(A->BCD) 3..

1. 개요 char binary data printf로 표현하기 2. Source Code - C#include void print_binary(unsigned char a) { int i; unsigned char p; p = 0x80; for (i = 0; i > 1; } printf("\n"); } int main() { char a = 0x00;//0000 0000 print_binary(a); a |= 0x80; print_binary(a); }

1. 개요 기본적인 Hash에 대해서는 알것이라고 생각한다. 아래 소스코드에서 사용되는 중요 변수에 대한 설명은 다음과 같다. (1) struct vocab_word *vocab : Vocabulary의 약자로 단어가 저장될 Array이다. 다만 정렬되어 저장되지 않고 들어온 순서대로 저장된다. (2) Hash Function : 'word'라는 단어가 들어왔을 때 각 알파벳의 비트와 자리에 따른 값을 곱해 특정 숫자를 구한다. (3) const int vocab_hash_size : Hash Function의 Output의 최대 크기이다. (4) int *vocab_hash : Hash Function으로 구한 자리에 실제 단어가 vocab Array에 저장되어 있는 위치값을 저장한다. 2. Sourc..

1. Association Rule Mining 1. Association Rule Mining이란 Transactions의 집단에서 특정 항목의 발생을 예상할 수 있는 Rule을 찾는 것이다. 2. Example 3. 용어 : 2. Example의 왼쪽 사진을 보자 ▪ 항목집합(Itemset) : 사진의 record처럼 Item의 집단(ex : { Bread, Milk } )이다. - record에 속하는 item의 개수에 따라 k-itemset이라고 부른다. - 2번째 record는 4-itemset이다. ▪ Itemset의 Support Count : 특정 Item 집합을 포함하고 있는 Transaction(Record)의 수 ▪ Itemset의 Support : 전체 Transaction 중 해당..

1. Artificial Neural Networks (ANN) 1. ANN 모델은 상호 연결될 Node와 가중치 링크의 집단이다. 2. Output Node는 링크의 가중치에 따라 각 입력 값을 합산한다. 3. 합산한 값이 가중치(Threshold)를 넘으면 1 넘지 못하면 0이 된다. 4. Training ANN means learning the weights of the neurons 5. 시작 Weights(W1, W2, W3, ......, Wk)는 random값으로 많이 한다. 6. ANN의 결과가 목표와 일치하도록 가중치를 조정한다. 7. 오차률은 Objective Function으로 구하면 수식은 다음과 같다. 8. Objective Function 값이 작은 W를 구하는 것이 목표이다. ..

1. Create Table 1. Supplier TableCREATE TABLE S ( SNO VARCHAR(5) PRIMARY KEY, SNAME VARCHAR(15), STATUS INTEGER(2), CITY VARCHAR(10) ); 2. Part Table CREATE TABLE P ( PNO VARCHAR(5) PRIMARY KEY, PNAME VARCHAR(10), COLOR VARCHAR(10), WEIGHT INTEGER(2), CITY VARCHAR(10) ); 3. Projects Table CREATE TABLE J ( JNO VARCHAR(5) PRIMARY KEY, JNAME VARCHAR(10), CITY VARCHAR(10) ); 4. SPJ Table CREATE TABL..