DATA101

📚 목차1. 프로젝트 개요 2. 개발환경 3. Pretrained 언어 모델 4. 경제 뉴스 기사 감정 데이터셋 5. 전체 소스코드 6. 코드 설명1. 프로젝트 개요Pretrained 언어 모델인 KLUE BERT-base 위에 경제 뉴스 기사의 감정이 라벨링 된 데이터셋 한국어 버전의 Finance Phrase Bank을 활용하여 파인튜닝한 감정 분류 프로젝트2. 개발환경Google Colab Pro / GPU3. Pretrained 언어 모델KLUE(Korean Language Understanding Evaluation) BERT base학습한 데이터셋연합뉴스의 뉴스 헤드라인우키피디아위키뉴스위키트리정치뉴스ParaKQC(Parallel dataset of Korean Questions and Com..

📚 목차 Step 1. Github 리포지토리 준비 Step 2. Access 토큰 생성 Step 3. 코랩의 드라이브 마운트 Step 4. Github 커밋용 폴더 생성 Step 5. 디렉토리 변경 Step 6. Git 클론 Step 7. Git 접근권한 부여 Step 8. Commit 테스트 Step 1. Github 리포지토리 준비 구글 코랩(Google Colab)과 연동할 리포지토리(Repository)를 준비합니다(그림 1). Step 2. Access 토큰 생성 Step 2-1. 개인 Setting 콘솔 접근 우측 상단 프로필 클릭 - Settings 순으로 클릭합니다(그림 2). Step 2-2. Personal access tokens 접근 좌측에 Personal access tokens..

📚 목차 1. MFA 개념 2. AWS MFA 활성화 1. MFA 개념 다중 인증(MFA: Multi-Factor Authentication)은 말 그대로 서비스에 액세스 할 때 최소 2가지 이상의 인증을 받게끔 한 액세스 제어 방식입니다. 예를 들어, 인터넷 뱅킹 로그인 시 보안 강화를 위하여 OTP(One Time Password)를 사용하는 것도 MFA 방식 중 하나라고 볼 수 있습니다(그림 1). 아마존웹서비스(AWS)의 루트 계정은 보안이 무엇보다 중요합니다. 루트 계정이 탈취당할 시 서비스 제어권을 완전히 잃어버리는 것은 물론이고, 해커의 비트코인 채굴에 활용되며 과금 폭탄을 받을 수 있기 때문입니다. 따라서 루트 계정 사용을 최대한 자제하는 것이 좋으며, 로그인 시 2개 이상의 인증 절차를 ..

📚 목차 1. 루트 사용자의 개념 2. IAM 사용자의 개념 👨‍💻 들어가며 아마존웹서비스(AWS)에는 아래와 같이 2가지 종류의 계정이 존재합니다(그림 1 참고). 루트 계정 IAM 계정 본 포스팅에서는 2가지 사용자별 개념에 대해 각각 알아봅니다. 1. 루트 사용자의 개념 AWS 루트 사용자는 회원가입 시 만든 계정으로서 모든 AWS 권한을 갖고 있는 사용자입니다. 이 계정은 탈취당할 시 복구가 매우 어려울 뿐만 아니라, 최근에는 해커들이 비트코인 채굴에 AWS 계정을 착취하여 사용하기 때문에 상상을 초월하는 과금폭탄을 맞을 수 있습니다. 실제로 최근 국내에서 AWS 계정이 해킹을 당하여 과금만 3억이 나온 사례도 있습니다. 따라서, 루트 사용자는 계정 설정을 변경하거나 과금 관리(i.e., Bill..

📚 목차 1. AWS EC2 개념 2. AWS 기본 세팅 3. AWS EC2 사용방법 1. AWS EC2 개념 AWS EC2는 Elastic Compute Cloud의 약자로 독립된 가상의 컴퓨터를 임대해 주는 웹 서비스입니다. 물리적인 컴퓨터가 아닌 리눅스, 윈도우와 같은 OS가 설치된 가상 머신을 빌려주는 것이기 때문에 사용자는 원격으로 해당 컴퓨터를 제어하여 사용할 수 있습니다. 이러한 가상 머신을 인스턴스(Instance)라고 부릅니다. AWS EC2는 사용목적이나 예산에 맞춰 메모리, 스토리지, 네트워크 성능 등의 인스턴스 스펙을 선택할 수 있습니다(참고). AWS EC2는 인스턴스 시작과 제거(컴퓨터 임대/반납)의 절차가 매우 간편합니다. 만약 더이상 인스턴스가 필요하지 않으면 언제든지 간편하..

👨‍💻 들어가며 본 포스팅에서는 딥러닝 분야에서 하이퍼파라미터 최적화 방법 3가지인 Grid Search, Random Search, Bayesian Optimization에 대해 알아봅니다. 📚 목차 1. Grid Search 2. Random Search 3. Bayesian Optimization 1. Grid Search 그리드 서치(Grid Search)는 하이퍼파라미터를 일정한 간격으로 변경하며 최적의 파라미터를 찾아가는 기법입니다. 아래의 그림 1처럼 가로축이 하이퍼파라미터이고 세로축이 목표함수일 때, 목표함수 값이 최대가 되는 하이퍼파라미터를 찾는 문제를 풀어야 한다고 가정해 보겠습니다. 그리드 서치는 특정 범위 내에서 하이퍼파라미터를 일정 값만큼 일일이 변경하며 출력값을 비교하는 방식으로..

📚 목차1. 기울기 소실의 의미2. 기울기 소실의 원인3. 기울기 소실의 해결방법1. 기울기 소실의 의미딥러닝 분야에서 Layer를 많이 쌓을수록 데이터 표현력이 증가하기 때문에 학습이 잘 될 것 같지만, 실제로는 Layer가 많아질수록 학습이 잘 되지 않습니다. 바로 기울기 소실(Vanishing Gradient) 현상때문입니다. 기울기 소실이란 역전파(Backpropagation) 과정에서 출력층에서 멀어질수록 Gradient 값이 매우 작아지는 현상을 말합니다(그림 1 참고). 그렇다면 왜 이런 기울기 소실 문제가 발생할까요? 이어지는 섹션에서 자세히 알아봅니다. 2. 기울기 소실의 원인기울기 소실의 발생 원인은 활성화 함수(Activation Function)의 기울기와 관련이 깊습니다..

📚 목차 1. 경사 하강법 개념 2. 경사 하강법 종류 2.1. 배치 경사 하강법 2.2. 확률적 경사 하강법 2.3. 미니 배치 경사 하강법 1. 경사 하강법 개념 경사 하강법(Gradient Descent)이란 딥러닝 알고리즘 학습 시 사용되는 최적화 방법(Optimizer) 중 하나입니다. 딥러닝 알고리즘 학습 시 목표는 예측값과 정답값 간의 차이인 손실 함수의 크기를 최소화시키는 파라미터를 찾는 것입니다. 학습 데이터 입력을 변경할 수 없기 때문에, 손실 함수 값의 변화에 따라 가중치(weight) 혹은 편향(bias)을 업데이트해야 합니다. 그럼 어떻게 최적의 가중치나 편향을 찾을 수 있을까요? 최적의 가중치를 찾는 과정을 소개합니다. 최적의 편향을 찾는 과정 역시 절차는 동일합니다. 아래의 그..