본문 바로가기

컴퓨터 과학/인공지능3

머신 러닝 Murphy 2장 probability Machine Learning: a Probabilistic Perspective(https://probml.github.io/pml-book/book0.html)을 읽고 정리한다. "동전을 던졌을 때 앞면이 나올 확률은 0.5이다."를 빈도주의적 관점과 베이지안 관점에서 해석해보자. 빈도주의적(frequentist) 관점으로 보면 동전을 많이 던졌을 때 절반만큼 앞면이 나올 것으로 기대한다고 해석할 수 있다. 베이지안(Bayesian) 관점으로 보면, 동전을 다음 번에 던졌을 때 앞면 또는 뒷면이 나올 가능성은 같다고 해석할 수 있다. 베이지안 관점은 불확실성(uncertainty)를 정량화한다고 말한다. 베이지안 해석의 장점은 장기적인 관점에서 빈도를 가지지 않는 사건에 대한 불확실성을 모델링할 수 .. 2021. 7. 23.
머신러닝 Murphy 1장 1.3 Unsupervised learning unsupervised learning에 대해 알아본다. 비지도 학습은 출력 데이터만 주어지며, 입력은 주어지지 않는다. 목표는 데이터에서 흥미로운 구조를 발견하는 것. 즉, knowledge discovery. 지도 학습은 각각의 입력에 대해 출력이 주어지지만, 비지도 학습은 그렇지 않음. 대신, density estimation의 일종으로 볼 수 있다. 즉, $p(\bold{x}_{i} | \bold{ \theta } )$ 꼴의 모델을 만드는 것이 목표이다. 지도 학습과는 두 가지 차이점이 존재한다. 첫째, 지도학습은 $p(y_{i} | \bold{x}_{i}, \bold{ \theta } )$과 같은 형태를 썻다. 즉, 지도학습은 조건부 밀도 추정(co.. 2021. 7. 22.
오토인코더의 모든 것 unsupervised learning representation learning = efficient coding learning dimensionality reduction = manifold learning, feature extraction generative model learning 입력과 출력이 동일한 값을 가진 네트워크 오토인코더 학습할 때, unsupervised learning loss function은 negative maximum likelihood 학습된 오토 인코더에서 인코더는 차원 축소 역할을 한다(manifold learning) 디코더는 생성 모델의 역할을 수행한다(generative model learning) 2020. 7. 10.