Learning & Reasoning 64

텐서플로우 딥러닝의 여러 라이브러리

tf.nn (GitHub)을 기본으로 신경망/딥러닝을 보다 쉽게 사용할 수 있다는 여러 wrapper 라이브러리를 제공한다. 각자의 처지에 맞는 라이브러리를 사용할 수 있다. 섞어 쓰다보면 혼동된다. tf.layers (GitHub)tf.contrib.slim (GitHub) : TF-Slim walkthrough tf.contrib.keras (GitHub) : Documentationtf.contrib.learn (GitHub) TensorLayer TFLearn Google Tensorflow chooses Keras watch -n 3 nvidia-smi : 3초 간격으로 nvidia gpu status check

시그마, 다변수 미적분, 확률, Matrix Calculus

전공책을 보면 다변수 식(Multi variables expression)에 시그마 ∑가 씌어지고 [참고], 또 여기에 미분/편미분이 적용되고, 확률/random process operator가 있고, Matrix Calculus 형태로 된 것을 종종 접한다. 일반 상식인 우리나라 학생들 수학 실력이 좋다는 말이 실감나지 않을 때가 있다. 배웠다고 하는데 시켜보면 모르고, 계산하면서도 그게 무슨 뜻인지 모른다. 대입 수능 수학 시험를 보니 비슷한 문제가 있고, 어느 정도 풀 수 있었기에 대학에 올 수 있었을 터인데 왜 이런지? ∑ , 미분등이 섞여있는 식에서 어떤 것이 변수고, 어디까지 변수로 보아야 하고, 그들에 수학 operation을 어떻게 적용해야 하는지 어려워한다. 아래 함수 f(x)의 미분을 ..

Implicit Differentiation

AI 수학 ■ Implicit (Partial) Differentiation[Khan의 Implicit Differentiation]대학 때 부터는 미분을 implicit한 방식으로 많이 풀면서도 엄밀하지 않은 방법으로 했다. Differential operation (operator 인가?)을 사용해 마치 dx, dy를 분자, 분모 같이 사용할 때는 부정행위하는 것 같고 께름찍하다. 함수 생각 :위와 같은 식이 있으면, h 라는 함수가 있는데 이 함수는 변수 x, y 에 좌우된다는 뜻임을 명확히(explicit) 나타낸다. 따라서 b, w, a 는 상수임을 안다. 함수 h에서 y는 고정하고 x 만 변화할 때의 미분은 함수 h에서 y만 변화할 때의 미분은 하여 구한다. 그런데, 함수 h(x, y)를 종속..

ISLR Chapter 10 - Unsupervised Learning

Introduction to Statistical Learning 내용를 파이썬으로 구현하는 것을 이 것으로 끝낸다. 10장 - Unsupervised Learning Principal Component Analysis (PCA) 간단히 직접 PCA를 만들어 PCA 이해 scikit-learn PCA 사용하기 Clustering K-Meansscikit-learn의 Hierarchical ClusteringSciPy의 Hierarchical Clustering실습 - NCI60 데이터 활용 NCI60에 PCA 적용하기NCI60에 Clustering 적용 전체 데이터Principal Component에 대해 NCI60에 Classification 실행 - Gene Expression으로 종양 타입 예측 P..

ISLR Chapter 9 - Support Vector Machine

Introduction to Statistical Learning 9장 - Support Vector Machines : Python 실습 (GitHub)nbviewer Support Vector MachineGrid Search CV를 통한 Test Performance 추정 및 패러미터 튜닝Randomized Search CV를 통한 Test Performance 추정 및 패러미터 튜닝Gradient Boosting, SVM, Grid Search CV 및 Randomized Search CV 를 이용해 'Heart' 데이터 예측분석 과정 실습 을 담음

ISLR Chapter 4 - KNN Regression & Classification in Python

Introduction to Statistical Learning 4 장, Classification 중 - KNN Classification을 Python으로, Introduction to Statistical Learning 3 장 - KNN Regression 포함, Logistic Regression도 포함KNN Classification & Regression Classification Model의 평가를 위한 metric - Confusion Matrix, Accuracy, Sensitivity, Precision, ROC 커브, AUC 등 내용도 함께 Regression Model의 평가를 위한 metric - MAE (Mean Absolute Error), MSE (Mean Squared ..