๊ด€๋ฆฌ ๋ฉ”๋‰ด

๋ชฉ๋กperplexity (1)

DATA101

[NLP] ์–ธ์–ด๋ชจ๋ธ์˜ ํ‰๊ฐ€์ง€ํ‘œ 'Perplexity' ๊ฐœ๋… ๋ฐ ๊ณ„์‚ฐ๋ฐฉ๋ฒ•

๐Ÿ“š ๋ชฉ์ฐจ1. Perplexity ๊ฐœ๋…2. Perplexity ๊ฐ’์˜ ์˜๋ฏธ3. Perplexity ๊ณ„์‚ฐ๋ฐฉ๋ฒ•1. Perplexity ๊ฐœ๋…1.1. ๊ฐœ์š”Perplexity(PPL)๋Š” ํ…์ŠคํŠธ ์ƒ์„ฑ(Text Generation) ์–ธ์–ด ๋ชจ๋ธ์˜ ์„ฑ๋Šฅ ํ‰๊ฐ€์ง€ํ‘œ ์ค‘ ํ•˜๋‚˜์ž…๋‹ˆ๋‹ค. Perplexity๋Š” 'ํŽ„ํ”Œ๋ ‰์„œํ‹ฐ'๋ผ๊ณ  ์ฝ์œผ๋ฉฐ, '(๋ฌด์–ธ๊ฐ€๋ฅผ ์ดํ•ดํ•  ์ˆ˜ ์—†์–ด) ๋‹นํ˜น์Šค๋Ÿฌ์šด ์ •๋„' ๋˜๋Š” 'ํ—ท๊ฐˆ๋ฆฌ๋Š” ์ •๋„'๋กœ ์ดํ•ดํ•˜์‹œ๋ฉด ๋ฉ๋‹ˆ๋‹ค(cf., ๋„ค์ด๋ฒ„ ์˜์–ด์‚ฌ์ „). ์ผ๋ฐ˜์ ์œผ๋กœ ํ…Œ์ŠคํŠธ ๋ฐ์ดํ„ฐ์…‹์ด ์ถฉ๋ถ„ํžˆ ์‹ ๋ขฐํ•  ๋งŒํ•  ๋•Œ Perplexity ๊ฐ’์ด ๋‚ฎ์„์ˆ˜๋ก ์–ธ์–ด ๋ชจ๋ธ์ด ์šฐ์ˆ˜ํ•˜๋‹ค๊ณ  ํ‰๊ฐ€ํ•ฉ๋‹ˆ๋‹ค. ์ด์— ๋Œ€ํ•œ ๋‚ด์šฉ์€ ์ด์–ด์ง€๋Š” '2. Perplexity ๊ฐ’์˜ ์˜๋ฏธ' ์„น์…˜์—์„œ ๋”์šฑ ์ž์„ธํžˆ ๋‹ค๋ฃน๋‹ˆ๋‹ค.1.2. ๋ถ„๊ธฐ๊ณ„์ˆ˜Perplexity๋Š” ๊ณง ์–ธ์–ด ๋ชจ๋ธ์˜ ..