- Today
- Total
๋ชฉ๋ก์ ์ฒด ๊ธ (355)
DATA101
๐ก ๋ชฉํ ํฐ๋ฏธ๋์ ์๋ ๋ช ๋ น์ด๋ฅผ ์ ๋ ฅํ๋ฉด IDE๊ฐ ๋ฐ๋ก ์คํํ ์ ์๋ ๋ฐฉ๋ฒ์ ์์๋ด ๋๋ค. charm . VS Code์ ๊ฒฝ์ฐ PyCharm๊ณผ ๋น์ทํฉ๋๋ค. code . โ ์ธํ ์ PyCharm ์ค์น ์ดํ ์ด๋ฅผ ์ํ ์ธํ ์ด ์์๋ค๋ฉด ๊ทธ๋ฆผ 1๊ณผ ๊ฐ์ด ์ค๋ฅ ๋ฉ์์ง๊ฐ ๋์ฌ ๊ฒ์ ๋๋ค. ๐ ์ธํ ๋ฐฉ๋ฒ PyCharm IDE๋ฅผ ์ง์ ์ฌ์ ํ, ์๋์ ๊ทธ๋ฆผ 2์ ๊ฐ์ด ์๋จ ๋ฉ๋ด๋ฐ-Tools-Create Command-line Launcher๋ฅผ ํด๋ฆญํฉ๋๋ค. ์๋ ๊ทธ๋ฆผ 3๊ณผ ๊ฐ์ ํ์ ์ฐฝ์ด ๋์ค๋๋ฐ, ๊ทธ๋๋ก OK ๋ฒํผ์ ๋๋ฌ์ฃผ์ธ์. ์ด์ ์ธํ ์ด ์๋ฃ๋์์ต๋๋ค. โ ๋์ ํ์ธ ๋ค์ ํฐ๋ฏธ๋์์ charm . ์ ์ ๋ ฅํ๋ฉด ์ ์์ ์ผ๋ก PyCharm์ด ์คํ๋ฉ๋๋ค. ํฌ์คํ ๋ด์ฉ์ ์ค๋ฅ๊ฐ ์๊ฑฐ๋ ๋ณด์ํ ์ ์ด ์๋ค๋ฉด ์๋์ ๋๊ธ ๋จ๊ฒจ์ฃผ์ธ..
๐จ๐ป ๋ค์ด๊ฐ๋ฉฐ AWS Lambda์ ๋ํ ๊ธฐ๋ณธ ๊ฐ๋ ์ ์๋ ํฌ์คํ ์ ์ฐธ๊ณ ํด ์ฃผ์ธ์. AWS Lambda ๊ฐ๋ , ์ฅ๋จ์ , ์ฌ์ฉ๋ชฉ์ ๐ ๋ชฉ์ฐจ 1. ๊ฐ๋ 2. ์ฅ๋จ์ 3. ์ฌ์ฉ๋ชฉ์ ์ฐธ๊ณ ์๋ฃ 1. ๊ฐ๋ Amazon Web Service(AWS) Lambda๋ ์ด๋ฒคํธ๊ฐ ๋ฐ์ํ์ ๋ ์ฝ๋(=ํจ์)๋ฅผ ์คํํ๊ณ ์ปดํจํฐ ๋ฆฌ์์ค๋ฅผ ๊ด๋ฆฌํ๋ Serverless ์ปดํจํ ์๋น์ค์ ๋๋ค(๊ทธ๋ฆผ 1 heytech.tistory.com ๋ณธ ํฌ์คํ ์์๋ AWS Lambda, AWS API Gateway๋ฅผ ํ์ฉํ์ฌ ๊ฐ๋จํ ์น ์๋ฒ๋ฅผ ๋์ด๋ณด๋ ๋ฐฉ๋ฒ์ ๋ํด ๋ค๋ฃน๋๋ค. 1. AWS ๊ธฐ๋ณธ ์ธํ 1.1. ์๋น์ค ๊ฐ์ Lambda๋ฅผ ์ฌ์ฉํ๋ ค๋ฉด ๋จผ์ AWS ํํ์ด์ง์ ๋ฐฉ๋ฌธํ์ ์ ํ์๊ฐ์ ์ ํ์ ์ผ ํฉ๋๋ค. ์๋์ ๊ทธ๋ฆผ 1๊ณผ ๊ฐ์ด ์ต์ด ๊ฐ์ ํ ์ด๋ฉ์ผ ๊ณ..
๐ ๋ชฉ์ฐจ 1. ๊ฐ๋ 2. ์ฅ๋จ์ 3. ์ฌ์ฉ๋ชฉ์ ์ฐธ๊ณ ์๋ฃ 1. ๊ฐ๋ Amazon Web Service(AWS) Lambda๋ ์ด๋ฒคํธ๊ฐ ๋ฐ์ํ์ ๋ ์ฝ๋(=ํจ์)๋ฅผ ์คํํ๊ณ ์ปดํจํฐ ๋ฆฌ์์ค๋ฅผ ๊ด๋ฆฌํ๋ Serverless ์ปดํจํ ์๋น์ค์ ๋๋ค(๊ทธ๋ฆผ 1 ์ฐธ๊ณ ). ์ฌ๊ธฐ์ ์ด๋ฒคํธ๊ฐ ๋ฐ์ํ ๋๋ฅผ ๋ค๋ฅธ ๋ง๋ก "trigger ๋์์ ๋" ๋๋ "ํจ์๋ฅผ ํธ์ถํ์ ๋"๋ผ๊ณ ๋ ํํํฉ๋๋ค. ์ฆ, 24์๊ฐ ์๋ฒ๊ฐ ๋์๊ฐ๋ AWS EC2์ ๋ฌ๋ฆฌ, AWS Lambda๋ ์ฌ์ฉ์๊ฐ ํจ์๋ฅผ ํธ์ถํ์ ๋๋ง ์ฝ๋๊ฐ ์คํ๋๋ ์๋น์ค์ ๋๋ค. Serverlss == No Server? Serveless ์ปดํจํ ์ด๋ฉด ์๋ฒ๊ฐ ์๋ค๋ ์๋ฏธ์ผ๊น์? ์ ๋ ์๋๋๋ค. ์๋ฒ๊ฐ ์์ผ๋ฉด ์น ์๋ฒ๋ฅผ ๋ง๋ค ์๊ฐ ์์ฃ . Serverless๋ Backend๋ฅผ ์๋ฒ ๊ด๋ฆฌ ์์ด..
๋ณธ ํฌ์คํ ์์๋ Python pandas ํจํค์ง๋ฅผ ํ์ฉํ์ฌ ๊ฒฐ์ธก์น๋ฅผ ํ์ธํ๊ณ ์ ๊ฑฐํ๋ ๋ฐฉ๋ฒ์ ๋ํด ๋ค๋ฃน๋๋ค. ๐จ๐ป ๋ค์ด๊ฐ๋ฉฐ ๊ธฐ๋ณธ์ ์ผ๋ก pandas ์ค์น ๋ฐ import๋ ๋์ด ์๊ณ ์ํ๋ ๋ฐ์ดํฐ์ ๋ ๋ถ๋ฌ์๋ค๊ณ ๊ฐ์ ํฉ๋๋ค. pandas ํจํค์ง ์ค์น !pip install pandas !pip install openpyxl # excel ํ์ผ ๋ถ๋ฌ์ค๊ธฐ ์ํจ # pipenv ๊ฐ์ํ๊ฒฝ์ฉ # !pipenv install pandas # !pipenv install openpyxl pandas ํจํค์ง import import pandas as pd ๋ฐ์ดํฐ์ Load dataset_raw = pd.read_excel("./data/dataset_raw.xlsx") 1. ๊ฒฐ์ธก์น ํ์ธ ๊ฒฐ์ธก์น ๊ฐ์๋ฅผ ํ์ธํ๋ ๋ฐฉ๋ฒ์ ํฌ..
๐จ๐ป ๋ค์ด๊ฐ๋ฉฐKoNLPy์ Mecab ํจํค์ง๋ ๊ธฐ๋ณธ์ ์ผ๋ก ์ค์น๋์ด ์๋ค๊ณ ๊ฐ์ ํฉ๋๋ค. ํน์๋ ์ค์น๋์ด ์์ง ์๋ค๋ฉด ์๋ ํฌ์คํ ์ ์ฐธ๊ณ ํด ์ฃผ์ธ์.https://heytech.tistory.com/3 [Python/NLP] KoNLPy ์ค์นํ๋ ๋ฐฉ๋ฒ์ ๋ํด ์์๋ณด์!์ค๋์ ํ๊ตญ์ด ์์ฐ์ด์ฒ๋ฆฌ(NLP)๋ฅผ ์ํ ํ์ด์ฌ ๋ผ์ด๋ธ๋ฌ๋ฆฌ KoNLPy๋ฅผ ์ค์นํ๋ ๋ฐฉ๋ฒ์ ๊ณต์ ํฉ๋๋ค. 1. ํฐ๋ฏธ๋/์ปค๋งจ๋๋ผ์ธ ์คํ ๊ฐ์ฅ ๋จผ์ , ํฐ๋ฏธ๋/์ปค๋งจ๋๋ผ์ธ์ ์ด์ด์ค๋๋ค. 2. KoNLPy ํจํค์ง ์ค์น pip iheytech.tistory.comMecab ์ค์น๋ฐฉ๋ฒbash ๋ณธ๊ฒฉ์ ์ผ๋ก ์๋ฌ ํด๊ฒฐ๋ฐฉ๋ฒ์ ๋ค๋ฃน๋๋ค.๐ค ์๋ฌ ์ํฉfrom konlpy.tag import MecabMecab().nouns("ํค์ด ํ ํฌ ๋ธ๋ก๊ทธ์ ๋๋ค.")Mecab ํํ..
๐ ๋ชฉ์ฐจ1. ํ๋ก์ ํธ ๊ฐ์ 2. ๊ฐ๋ฐํ๊ฒฝ 3. Pretrained ์ธ์ด ๋ชจ๋ธ 4. ๊ฒฝ์ ๋ด์ค ๊ธฐ์ฌ ๊ฐ์ ๋ฐ์ดํฐ์ 5. ์ ์ฒด ์์ค์ฝ๋ 6. ์ฝ๋ ์ค๋ช 1. ํ๋ก์ ํธ ๊ฐ์Pretrained ์ธ์ด ๋ชจ๋ธ์ธ KLUE BERT-base ์์ ๊ฒฝ์ ๋ด์ค ๊ธฐ์ฌ์ ๊ฐ์ ์ด ๋ผ๋ฒจ๋ง ๋ ๋ฐ์ดํฐ์ ํ๊ตญ์ด ๋ฒ์ ์ Finance Phrase Bank์ ํ์ฉํ์ฌ ํ์ธํ๋ํ ๊ฐ์ ๋ถ๋ฅ ํ๋ก์ ํธ2. ๊ฐ๋ฐํ๊ฒฝGoogle Colab Pro / GPU3. Pretrained ์ธ์ด ๋ชจ๋ธKLUE(Korean Language Understanding Evaluation) BERT baseํ์ตํ ๋ฐ์ดํฐ์ ์ฐํฉ๋ด์ค์ ๋ด์ค ํค๋๋ผ์ธ์ฐํคํผ๋์์ํค๋ด์ค์ํคํธ๋ฆฌ์ ์น๋ด์คParaKQC(Parallel dataset of Korean Questions and Com..
๐ ๋ชฉ์ฐจStep 1. Github ๋ฆฌํฌ์งํ ๋ฆฌ ์ค๋นStep 2. Access ํ ํฐ ์์ฑStep 3. ์ฝ๋ฉ์ ๋๋ผ์ด๋ธ ๋ง์ดํธStep 4. Github ์ปค๋ฐ์ฉ ํด๋ ์์ฑStep 5. ๋๋ ํ ๋ฆฌ ๋ณ๊ฒฝStep 6. Git ํด๋ก Step 7. Git ์ ๊ทผ๊ถํ ๋ถ์ฌStep 8. Commit ํ ์คํธStep 1. Github ๋ฆฌํฌ์งํ ๋ฆฌ ์ค๋น๊ตฌ๊ธ ์ฝ๋ฉ(Google Colab)๊ณผ ์ฐ๋ํ ๋ฆฌํฌ์งํ ๋ฆฌ(Repository)๋ฅผ ์ค๋นํฉ๋๋ค(๊ทธ๋ฆผ 1).Step 2. Access ํ ํฐ ์์ฑStep 2-1. ๊ฐ์ธ Setting ์ฝ์ ์ ๊ทผ์ฐ์ธก ์๋จ ํ๋กํ ํด๋ฆญ - Settings ์์ผ๋ก ํด๋ฆญํฉ๋๋ค(๊ทธ๋ฆผ 2).Step 2-2. Personal access tokens ์ ๊ทผ์ข์ธก์ Personal access tokens๋ฅผ ํด๋ฆญํฉ๋๋ค(๊ทธ๋ฆผ 3..
๐ ๋ชฉ์ฐจ 1. MFA ๊ฐ๋ 2. AWS MFA ํ์ฑํ 1. MFA ๊ฐ๋ ๋ค์ค ์ธ์ฆ(MFA: Multi-Factor Authentication)์ ๋ง ๊ทธ๋๋ก ์๋น์ค์ ์ก์ธ์ค ํ ๋ ์ต์ 2๊ฐ์ง ์ด์์ ์ธ์ฆ์ ๋ฐ๊ฒ๋ ํ ์ก์ธ์ค ์ ์ด ๋ฐฉ์์ ๋๋ค. ์๋ฅผ ๋ค์ด, ์ธํฐ๋ท ๋ฑ ํน ๋ก๊ทธ์ธ ์ ๋ณด์ ๊ฐํ๋ฅผ ์ํ์ฌ OTP(One Time Password)๋ฅผ ์ฌ์ฉํ๋ ๊ฒ๋ MFA ๋ฐฉ์ ์ค ํ๋๋ผ๊ณ ๋ณผ ์ ์์ต๋๋ค(๊ทธ๋ฆผ 1). ์๋ง์กด์น์๋น์ค(AWS)์ ๋ฃจํธ ๊ณ์ ์ ๋ณด์์ด ๋ฌด์๋ณด๋ค ์ค์ํฉ๋๋ค. ๋ฃจํธ ๊ณ์ ์ด ํ์ทจ๋นํ ์ ์๋น์ค ์ ์ด๊ถ์ ์์ ํ ์์ด๋ฒ๋ฆฌ๋ ๊ฒ์ ๋ฌผ๋ก ์ด๊ณ , ํด์ปค์ ๋นํธ์ฝ์ธ ์ฑ๊ตด์ ํ์ฉ๋๋ฉฐ ๊ณผ๊ธ ํญํ์ ๋ฐ์ ์ ์๊ธฐ ๋๋ฌธ์ ๋๋ค. ๋ฐ๋ผ์ ๋ฃจํธ ๊ณ์ ์ฌ์ฉ์ ์ต๋ํ ์์ ํ๋ ๊ฒ์ด ์ข์ผ๋ฉฐ, ๋ก๊ทธ์ธ ์ 2๊ฐ ์ด์์ ์ธ์ฆ ์ ์ฐจ๋ฅผ ..