만렙개발자

1. 레이블과 학습 지도학습(Supervised Learning)은 정답 레이블 데이터가 있는 학습을 말하고, 비지도학습(Unsupervised Learning)은 정답 레이블이 없는 데이터를 이용한 학습을 말합니다. 준지도학습(Semi-Supervised Learning)은 정답 레이블이 있는 작은 데이터셋으로 1차 (지도)학습을 하고, 정답 레이블이 없는 큰 데이터셋으로 2차 학습을 하는 것을 말합니다. 여기서 2차 학습에서 사용되는 대표적인 기법이 수도 레이블링(pseudo-labeling)입니다. 데이터에 정답 레이블을 만드는 과정을 태깅(tagging/annotation/labeling)이라고 합니다. 이러한 과정에는 상당한 노력과 비용이 듭니다. 심지어 성능에도 많은 영향을 미칩니다. 잘못 태..

등장 배경 레이어가 많아져, 인공신경망이 더 깊어질 수록 gradient vanishing/exploding 문제가 커집니다. 이전의 다른 방법들로 이 문제를 해결했다고 생각했지만, 수십개의 레이어를 가진 모델에서는 레이어를 더 추가한다고 해서 성능이 이전보다 더 좋아지지 않았습니다. 그래서 깊은 레이어까지 잘 학습이 되도록하는 방법을 Kaming he가 고안했고, 그것이 바로 shorcut(Skip) connection입니다. keras기준에서 쉽게 얘기하면, 단순히 더하는 add입니다. 레이어간의 연결이 순서대로 연속적인 것만 있는 것이 아니라, 중간을 뛰어넘어 전달하는(더하는) shortcut이 추가된 것입니다. 연산은 매우 간단하고, 개념도 매우 간단하지만 이것이 그래디언트를 직접적으로 잘 전달하..

import numpy as np from google.colab import drive drive.mount('/content/drive',force_remount=True) %cd "/content/drive/My Drive/" 이런식으로 force_remount를 했으나, 아래와 같은 장문의 에러가 발생했다. ERROR:root:Internal Python error in the inspect module. Below is the traceback from this internal error. Mounted at /content/drive Traceback (most recent call last): File "/usr/local/lib/python3.6/dist-packages/IPython/co..