Nexon Intelligence Data Analyst
YBIGTA DA 9๊ธฐ
ํ์
์์ ๋งก์ ์
๋ฌด
๊ฐ์ธํ ๋ง์ผํ , ๊ฒ์ ๋ด ์ด์ ํ์ง ๋ฐ ๋จ๋ฐ์ฑ ํ๋ก์ ํธ
์๊ฐ๊ฐ ๊ฐ๋ฅํ ํ๋ก์ ํธ ์ค์์ ๊ฐ์ธ์ ์ผ๋ก ์ฌ๋ฐ์๋ ๊ฒ์ ๋ฉ์ดํ์คํ ๋ฆฌM์ ์น์ฅ์์ดํ ์ถ์ฒ ํ๋ก์ ํธ์์ต๋๋ค. ๋ฉ์ดํ์คํ ๋ฆฌM์์๋ ์บ์๋ฅผ ์ฌ์ฉํด์ ์น์ฅ์์ดํ ์ ๊ตฌ๋งคํ ์ ์๋๋ฐ ์น์ฅ์์ดํ ์ ๊ฐ์ง์๊ฐ ๋๋ฌด ๋ง๋ค๋ณด๋ ์ ์ ๊ฐ ์์ดํ ์ ์ฒด๋ฅผ ํ์ํ๊ณ ์ํ๋ ์์ดํ ์ ์ ํํ๊ธฐ๊ฐ ์ด๋ ค์ด ์ํฉ์ด์์ต๋๋ค. ์ด๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด์ MF ๊ธฐ๋ฐ์ ์ถ์ฒ๋ชจ๋ธ์ ์ฌ์ฉํ์ฌ ์ ์ ์๊ฒ ๋งค์ผ 8๊ฐ์ ์์ดํ ์ ๋ฐ๋ก ์ถ์ฒํด์ค๊ณ ์๊ณ , ๊ทธ ๊ฒฐ๊ณผ๋ ๋๋ฆ ์ฑ๊ณต์ ์ด์ด์ ํ์ฌ ๋ฅ์จ ๋ด์์ ์ถ์ฒํ์ ๋ฐ๋ก ๊พธ๋ ค ์ด๋ฅผ ํฌํจํ ์ถ์ฒ ๊ด๋ จ ์ ๋ฌด๊ฐ ์งํ๋๊ณ ์์ต๋๋ค. ์ธํ ๋ฆฌ์ ์ค๋ฉ์ค ํ ํฌ๋ธ๋ก๊ทธ์ ๊ฐ๋ฉด ๊ด๋ จ ๋ด์ฉ์ด ์์ผ๋ ์ฐพ์๋ณด๋ ๊ฒ๋ ์ฌ๋ฐ์ ๊ฒ ๊ฐ์์ โบ
Tools
Azure Databricks๋ Zeppelin์ Notebook
git
์ฌ์ฌ์ฉ๋๊ฑฐ๋ ํจ๊ป ๊ด๋ฆฌํ๋ ์ฝ๋๋ ๋ฐ๋ก git์ ํตํด ๊ด๋ฆฌ๋๊ธฐ๋ ํฉ๋๋ค.
Deep Learning
๋ฅ ๋ชจ๋ธ์ ๋ค๋ฃจ๋ ๊ฒฝ์ฐ, ๋ก์ปฌ์์ GPU ๋จธ์ ์ ์ ์ํ์ฌ VSCode๋ Pycharm ๊ฐ์ IDE ์์ ์์ ํ๊ธฐ๋ ํ์ฃ . ๋ฅ๋ชจ๋ธ๊น์ง ๋ค๋ฃจ๊ฒ ๋ค ํ๋ฉด pytorch๊ฐ ์ฌ๊ธฐ์๋ ๊ฐ์ฅ ๋ฒ์ฉ์ ์ผ๋ก ์ฌ์ฉ๋๋ pytorch๋ ์ข ์์๋๋ฉด ์ข๊ฒ ๋ค์.
๋ถ์ฐ ์ฒ๋ฆฌ
๋ฐ์ดํฐ๋ฅผ ์ฒ๋ฆฌํ ๋์๋ ๋ณดํต PySpark๋ฅผ ์ฌ์ฉํ์ฌ ๋์ฉ๋ ๋ฐ์ดํฐ๋ฅผ ๋ถ์ฐ์ฒ๋ฆฌํฉ๋๋ค. ๊ทธ๋ฐ๋ฐ ์ด๋ฐ ํด์ ์ต์ํด์ง๋ ๊ฒ์ ๊ทธ๋ฆฌ ์ด๋ ค์ด ์ผ์ด ์๋๊ธฐ ๋๋ฌธ์, ํ์์ผ ๋์๋ python์ ๋ฅ์ํ๊ฒ ์ฌ์ฉํ๊ณ pandas๋ sklearn, ๋ค์ํ ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ฌ์ฉํ ์ ์๋ ์ ๋๋ฉด ์ถฉ๋ถํ์ง ์๋ ์๊ฐํฉ๋๋ค.
Nexon์์ Data Analyst์ Scientist์ ์ฐจ์ด
Data Scientist์ ์ ๋ฌด๋ ์์ฐ์ค๋ฝ๊ฒ ๋๋ถ๋ถ์ ์ ๋ฌด๊ฐ ๋ชจ๋ธ๋ง์ ํ์ ๋์ด ์๋ค.
๋ฅ์จ์์ ๋์ ์ฐจ์ด๋ฅผ ๊ตณ์ด ๊ตฌ๋ถํด๋ณด์๋ฉด, ๋ณธ์ธ์ Scientist๋ผ๊ณ ์๊ฐํ์๋ ๋ถ๋ค์ ๋์ฒด๋ก ๋ฅ๋ชจ๋ธ์ ์ด๋ ์ ๋ ๋ค๋ฃจ๊ณ , ๊ด๋ จ ๋ชจ๋ธ๋ง ๊ฒฝํ์ด ์์ผ์ ๋ถ๋ค์ด์์ต๋๋ค. ๋น์ ํ ๋ฐ์ดํฐ๋ฅผ ๋ค๋ฃจ๊ฑฐ๋, ์ ํ๋ฐ์ดํฐ ์ค ์๊ณ์ด์ด๋ ์ถ์ฒ ๋ฌธ์ ๋ฅผ ๋ค๋ฃจ๋ ๊ฒฝ์ฐ๊ฐ ๋ณดํต ์ด์ ํด๋นํ๋ค๊ณ ๋ณผ ์ ์์ต๋๋ค. ๊ผญ ์ถ์ฒ ๊ด๋ จ๋ ์ ๋ฌด๊ฐ ์๋๋๋ผ๋ ๊ทธ๋ํ ํํ์ ๋ฐ์ดํฐ๋ฅผ ๋ค๋ฃจ๋ ๊ฒฝ์ฐ์๋ ํด๋นํ ์ ์๊ฒ ๋ค์.
Data Analyst๋ ๋ชจ๋ธ๋ง์ด ์ฃผ ์ ๋ฌด๊ฐ ์๋๋ฉด์ ๋ฐ์ดํฐ ๊ธฐ๋ฐ ์ ๋ฌด๋ ์๋น์ค๋ฅผ ๋งก์ ์ฌ๋
Analyst์ ๊ฒฝ์ฐ์๋ Scientist์ ๋นํด ์ ๋ฌด์ ๋ฒ์๊ฐ ๊ต์ฅํ ๋์ต๋๋ค. ๋จ์ํ ETL์์ฃผ์ ์ผ์ ํ๋ ๊ฒฝ์ฐ๋ ์๊ณ , ํน์ ์๋น์ค์ ๋ํด ๋ฐ์ดํฐ ์ฒ๋ฆฌ, ๋ผ์ด๋ธ ๋์, a/b test, ๊ด๋ จ ๋ชจ๋ธ ๊ด๋ฆฌ๊น์ง ์งํํ๋ ๊ฒฝ์ฐ๋ ๋ง์ต๋๋ค. ์ ๋ฆฌ๋ฅผ ํด๋ณด์๋ฉด, ๋ชจ๋ธ๋ง์ด ์ฃผ ์ ๋ฌด๊ฐ ์๋๋ฉด์ ๋ฐ์ดํฐ ๊ธฐ๋ฐ ์ ๋ฌด๋ ์๋น์ค๋ฅผ ๋งก๊ณ ์๋ค๋ฉด ๋ค analyst๋ผ๊ณ ๋ด๋ ๋๊ฒ ๋ค์.
๋ฌธ์ ๋ฅผ ์ ์ ์ํ๋ ๋ฐฉ๋ฒ
๊ฐ์ค์ ๋ํด ๋ฐ์ดํฐ๋ฅผ ํ์ฉํ์ฌ ๋ ผ๋ฆฌ์ ์ผ๋ก ์ค๋ช ํ๊ธฐ
๋ฌธ์ ๋ฅผ ์ ํํ๊ฒ ์ ์ํ๊ณ ๋ฐ์ดํฐ๋ก ๋จ์ ์ฌ์ค์ด ์๋ ๊ฒฐ๋ก ์ ์ฃผ์ฅํ ์ ์๋ โ๋ฐ์ดํฐ ๋ฌธํด๋ ฅโ์ ๊ฐ์ถฐ์ผ ํฉ๋๋ค. ํ์ฌ์์์ ์ ๋ฌด๋ ๊ธฐ๋ณธ์ ์ผ๋ก ํ์ธ๊ณผ์ ํ์ ์ด ๊ธฐ๋ณธ์ด๊ธฐ ๋๋ฌธ์, ๋ ผ๋ฆฌ์ ์ผ๋ก ํ์ธ์ ์ค๋ํ ์ ์๋ ๊ฒฐ๊ณผ๋ฌผ์ ๋ด์ผ ๋ฐ์ดํฐ ๋ถ์์ ์ ํ๋ ์ฌ๋์ผ๋ก ์ธ์ ๋ฐ์ ์ ์์ต๋๋ค. ๋ฌด์จ ๋ป์ธ์ง ์๋ฅผ ๋ค๊ธฐ ์ํด, ์ดํ์ ์์ธกํ๋ ๋ฌธ์ ๋ฅผ ํ์ด์ผ ํ๋ ์ํฉ์ ๊ฐ์ ํด๋ณด๊ฒ ์ต๋๋ค. ๊ฐ์ฅ ๋จผ์ ํด์ผ ํ ์ผ์ ์ดํ์ด ๋ฌด์์ธ์ง ๊ตฌ์ฒด์ ์ผ๋ก ์ ์ํ๋ ๊ฒ์ ๋๋ค. โ์ดํโ์ด๋ผ๋ ๊ฒ์ ๊ตฌ์ฒด์ ์ผ๋ก ์ด๋ป๊ฒ ์ ์ํ๋ฉด ์ข์๊น์? ์ ์ ๋ค์ ์ผ๋ฐ์ ์ผ๋ก ๋ช ์์ ์ผ๋ก ํ์ ํํด๋ฅผ ํ๊ฑฐ๋ ๊ณ์ ์ ์ญ์ ํ๋ ์์ผ๋ก ์ดํํ์ง ์์ต๋๋ค. ๋ณดํต์ ์ด๋ ๋ ๋ถํฐ ๊ฐ์๊ธฐ ์๋น์ค๋ฅผ ์ด์ฉํ์ง ์๋ ์์ผ๋ก ์ดํํ๊ฒ ๋๋๋ฐ, ๊ทธ๋ผ ์ผ๋ง๋ ๊ธธ๊ฒ ์๋น์ค๋ฅผ ์ด์ฉํ์ง ์์์ผ โ์ดํโ์ด๋ผ๊ณ ๋ณผ ์ ์์๊น์? โ๊ฐโ์ผ๋ก ๋๋ต ์ผ์ฃผ์ผ ์ ๋ ์ ์ํ์ง ์์ผ๋ฉด ์ ์ง ์ดํ์ด๋ผ๊ณ ์ ์ํด๋ ๋ ๊ฒ ๊ฐ์ ๊ธฐ๋ถ์ด ๋ค์๋ค๊ณ ํด๋ด ์๋ค. ๋ค๋ฅธ ๋๋ฃ๋ ์์ฌ๊ฐ ์ ์ผ์ฃผ์ผ์ ๊ธฐ์ค์ผ๋ก ์ ํ๋๊ณ ๋ฌผ์์ ๋ โ๊ฐโ์ผ๋ก ์ ํ๋ค๊ณ ๋งํ ์๋ ์์ผ๋, ์ด๋ฅผ ๋ท๋ฐ์นจํ ์ ์๋ ๋ฐ์ดํฐ๋ฅผ ์ทจํฉํ์ฌ โ๊ฒฐ๋ก โ์ ๋งํ ์ ์๋ ํํ๋ก ์ฌ๊ตฌ์ฑํด์ผ ํ ๊ฒ์ ๋๋ค. ์ฌ๊ธฐ์ ์ผ๋ง๋ ํฉ๋ฆฌ์ ์ธ ๊ทผ๊ฑฐ๋ฅผ ์ ์ํ์ฌ ๊ทธ๋ฅผ ํตํ ๊ฒฐ๋ก ์ ๋ง๋ค์ด๋ด๋์ง๊ฐ ๋ถ์๊ฐ์ ์ฃผ์ ์ญ๋ ์ค ํ๋๋ก ๋ณผ ์ ์์ ๊ฒ์ ๋๋ค.
์ค์ค๋ก ๋ฌธ์ ๋ฅผ ์ ์ํ๊ณ ๊ทธ์ ๋ํ ํด๋ต ๋๋ ๊ฒฐ๋ก ์ ๋ฐ์ดํฐ๋ฅผ ํตํด ์ ์ํ๋ ๊ฒฝํ
๋ณดํต ํ์ ๋ ์ ํ๋ ๋๋ถ๋ถ์ ๋ฐ์ดํฐ๋ X(features)์ y(label)๊ฐ ์ ํด์ง ๋ฐ์ดํฐ์ผ ๊ฒ์ ๋๋ค. Kaggle์ด๋ ๊ทธ ์ธ ๊ณต๋ชจ์ ์ ํตํด ๊ณต๊ฐ๋๋ ๋ฐ์ดํฐ๋ ๋ณดํต ๋ฌธ์ ์์ฒด๊ฐ ์ด๋ฏธ ์ ์๋์ด ์์ด ์ค์ค๋ก ๋ฌธ์ ๋ฅผ ์ ์ํ๊ณ ๋ค์ํ ๊ฐ์ค์ ์ธ์๋ณด๋ ํ๋ จ์ ํด๋ณด๊ธฐ ์ด๋ ต์ต๋๋ค. ๋ฐ์ดํฐ ๊ณต๋ชจ์ ์ค์์๋ ์์ด๋์ด ๊ณต๋ชจ์ ๊ฐ์ ํ์ ์ ์ฐธ์ฌํ๊ฑฐ๋, YBIGTA Conference ๊ฐ์ ๊ธฐํ๋ฅผ ํตํด ์ค์ค๋ก ์ ์ํ ๋ฌธ์ ๋ฅผ ํ์ด๋ณด๋ฉด ์ข์ ๋ฏ ํ๋ค์ ๐
์ข์ ๋ฐ์ดํฐ ๋ถ์์ด๋?
๋ชจ๋ธ๋ง: ๋ฐ์ดํฐ ์์ ๋ด์ฌ๋ ํจํด์ ๋ณด๋ค ์ ํฌ์ฐฉํ๋ ๋ชจ๋ธ ๊ตฌ์กฐ๋ฅผ ์ฌ์ฉํ ๋ถ์
๋ชจ๋ธ์ด ์ฌ์ฉํ๋ Feature๋ฅผ ๊ตฌ์ฑํ ๋์๋ ๊ธฐ์กด์ ๋ฐ์ดํฐ๋ฅผ ๋ชฉ์ ์ ๋ง๊ฒ ๊ฐ๊ณตํ๊ฑฐ๋ ๋๋ฉ์ธ ์ง์์ ํ์ฉํ์ฌ ์ ์๋ฏธํ Feature๋ฅผ ์ถ๊ฐํ๋ ๊ฒ๋ ์ข์ ๋ฐ์ดํฐ ๋ถ์ ์ฌ๋ก๋ก ๋ณผ ์ ์๊ฒ ์ต๋๋ค. ํต๊ณํ ๋ฐ ๋ค์ํ ํจํด์ธ์ ์๊ณ ๋ฆฌ์ฆ์ ๋ํ ์ด๋ก ์ง์๊ณผ ์ด๋ฅผ ์ ์ ํ ๋ฌธ์ ์ ์์ฉํด๋ด๋ ์ค๋ฌด์ ๊ฐ๊ฐ์ ๋๋ฃจ ๊ฐ์ถ๋ฉด ๋ฐ์ดํฐ ๋ถ์์ ์ ํ๋ ์ฌ๋์ผ๋ก ๋ณผ ์ ์์ ๋ฏ ํฉ๋๋ค. ๋ฐ๋๋ก ์ข์ ๋ฐ์ดํฐ ๋ถ์์ด๋ผ๊ณ ๋ณด๊ธฐ ์ด๋ ค์ด ๊ฒฝ์ฐ๋ ์ ์ ๋น์ฉ์ผ๋ก ์ถฉ๋ถํ ํ ์ ์๋ ๋ฌธ์ ์ ๋ฅ๋ชจ๋ธ์ ์ ์ฉํ๋ ๋ฑ ์์์ ์ธ๊ธํ ๊ฒฝ์ฐ์ ๋ฐ๋ ์ผ์ด์ค๋ก ๋ณด๋ฉด ๋๊ฒ ์ฃ .
๋ถ์: ์ ์ ํ ์๊ฐํ๋ฅผ ํตํด ์ฃผ์ฅํ๋ ๋ด์ฉ์ด๋ ์ธ์ฌ์ดํธ๋ฅผ ๋ช ํํ ์ ๋ฌ๋๋ ๊ฒฝ์ฐ
ํ์ ์์๋ ์๊ทผํ ์๊ฐํ๋ฅผ ๋์ถฉ ๋๋ง ์์๋ณด๊ฒ ํ๋ ๊ฒฝ์ฐ๋ฅผ ๋ง์ด ๋ณด๋๋ฐ์, ๊ทธ๋ํ์ ํํ๋ ๊ฐ ์์์ ์๊น, ๋ฒ๋ก ๋ฑ์ ์ ๊ฒฝ์ผ์ ๋ ๋ถ์์ ํตํด ๋งํ๊ณ ์ ํ๋ ๋ฐ๊ฐ ์ ํํ ์ ๋ฌ๋๋๋ผ๊ตฌ์.
Last updated