๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ

๊ฐœ์ธ ๊ณต๋ถ€7

[๋…ผ๋ฌธ ์ดˆ๋ก๐Ÿ’š] Attention is All you Need The dominant sequence transduction models are based on complex recurrent or convolutional neural networks that include an encoder and a decoder. The best performing models also connect the encoder and decoder through an attention mechanism. ์ง€๋ฐฐ์ ์ธ ์‹œํ€€์Šค ๋ณ€ํ™˜ ๋ชจ๋ธ(dominant sequence transduction models)์€ encoder ๋ฐ decoder๋ฅผ ํฌํ•จํ•˜๋Š” ๋ณต์žกํ•œ ์ˆœํ™˜ ์‹ ๊ฒฝ๋ง ๋˜๋Š” ์ปจ๋ณผ๋ฃจ์…˜ ์‹ ๊ฒฝ๋ง์„ ๊ธฐ๋ฐ˜์œผ๋กœ ํ•œ๋‹ค. ์ตœ๊ณ ์˜ ์„ฑ๋Šฅ์„ ์ž๋ž‘ํ•˜๋Š” ๋ชจ๋ธ๋“ค์€ ์–ดํ…์…˜ ๋ฉ”์ปค๋‹ˆ์ฆ˜(attention mechanis.. 2024. 1. 24.
[๋„คํŠธ์›Œํฌ] #01. ๋„คํŠธ์›Œํฌ์˜ ๊ธฐ์ดˆ ๊ฐœ๊ฐ•์„ ์•ž๋‘๊ณ  ๋„คํŠธ์›Œํฌ ๊ธฐ์ดˆ์— ๋Œ€ํ•ด ํ•™์Šตํ•˜๊ธฐ ์‹œ์ž‘ํ–ˆ๋‹ค. ๋‹ค์Œํ•™๊ธฐ์— ์ปดํ“จํ„ฐ ๋„คํŠธ์›Œํฌ ๊ณผ๋ชฉ์„ ์ˆ˜๊ฐ•ํ•˜๋Š”๋ฐ ์ž˜ ๋ชจ๋ฅด๋Š” ๋ถ„์•ผ์ด๊ธฐ ๋•Œ๋ฌธ์— ๋„คํŠธ์›Œํฌ ๊ธฐ์ดˆ๋ผ๋„ ์ˆ™์ง€ํ•ด๋‘๊ธฐ๋กœ ํ–ˆ๋‹ค. ์˜ˆ์Šต์šฉ์œผ๋กœ ์ธํ„ฐ๋„ท ๊ฐ•์˜๋Š” kmooc์„ ์ฐธ๊ณ ํ•˜์˜€๋‹ค. ์„ฑ๊ท ๊ด€๋Œ€ ์•ˆ์„ฑ์ง„ ๊ต์ˆ˜๋‹˜์˜ ๋„คํŠธ์›Œํฌ ๊ธฐ์ดˆ๋‹ค. ๊ฐ•์˜ ๋งํฌ : http://www.kmooc.kr/courses/course-v1:SKKUk+SKKU_26+2022_T1/video video | K-MOOC ๋ผ์šฐํŒ… ํ”„๋กœํ† ์ฝœ๊ณผ ๊ฑฐ๋ฆฌ๋ฒกํ„ฐ ๋ผ์šฐํŒ… ์‹œ์ฒญ www.kmooc.kr || 1๊ฐ• ๋„คํŠธ์›Œํฌ ๊ธฐ์ดˆ 01) ๋„คํŠธ์›Œํฌ ๊ตฌ์„ฑ์š”์†Œ ๋„คํŠธ์›Œํฌ๋ฅผ ์ˆ˜๊ฐ•ํ•˜๋ฉด์„œ ์ฒซ๋ฒˆ์งธ๋กœ ์•Œ์•„์•ผ ํ•˜๋Š” ๊ฒƒ์€ "๋„คํŠธ์›Œํฌ์˜ ๊ตฌ์„ฑ์š”์†Œ๊ฐ€ ๋ฌด์—‡์ธ์ง€", ์ด์— ๋Œ€ํ•ด ์•Œ์•„์•ผ ํ•œ๋‹ค. ์ฒซ๋ฒˆ์งธ๋กœ ๋…ธ๋“œ, ๋‘๋ฒˆ์งธ๋กœ ๋งํฌ๊ฐ€ ์กด์žฌํ•œ๋‹ค. ๋…ธ๋“œ๋Š” ๋„คํŠธ์›Œํฌ ๊ตฌ์„ฑ์š”์†Œ๋“ค์˜ ์ง‘.. 2023. 8. 5.
[C++] ๊ตฌ์กฐ์ฒด ๊ฐœ๋… ๋ฐ ์ •์˜ ์„ ์–ธ ๊ตฌ์กฐ์ฒด๋Š” ์ž๋ฃŒ๊ตฌ์กฐ๋ฅผ ๊ณต๋ถ€ํ• ๋•Œ๋ฉด ์ž˜ ์“ธ ์ค„ ์•Œ์•„์•ผํ•˜๋Š” ์ž๋ฃŒํ˜•์ด๋ผ๊ณ  ์ƒ๊ฐํ•œ๋‹ค. ๋ณดํ†ต ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์–ธ์–ด๋งŒ ๊ณต๋ถ€ํ• ๋• ๊ตฌ์กฐ์ฒด๊ฐ€ ๋’ท๋ถ€๋ถ„ ์ง„๋„์— ์žˆ์–ด์„œ ์‹ ๊ฒฝ์„ ๋งŽ์ด ๋ชป ์“ธ ์ˆ˜ ์žˆ๋Š”๋ฐ, ๊ทธ๋Ÿฌ๋ฉด ์ž๋ฃŒ๊ตฌ์กฐ ๊ณต๋ถ€ํ• ๋•Œ ๊ต‰์žฅํžˆ ํž˜๋“œ๋‹ˆ๊นŒ ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์–ธ์–ด๋Š” ์•ž๋ถ€๋ถ„๋ณด๋‹ค ๋’ท๋ถ€๋ถ„ ์ง„๋„์— ๋” ์‹ ๊ฒฝ์จ์„œ ๊ณต๋ถ€ํ•˜๋Š”๊ฒŒ ์ข‹์„ ๊ฒƒ ๊ฐ™๋‹ค. (๋งž์Œ.. ๋‚ด ์ด์•ผ๊ธฐ๋‹ค...) ์•ˆ ๊ทธ๋Ÿฌ๋ฉด ๋‚จ๋“ค ๋‹ค ์ž๋ฃŒ๊ตฌ์กฐ ๊ณต๋ถ€ํ• ๋•Œ ํ˜ผ์ž ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์–ธ์–ด ๋ณต์Šต์„ ํ•ด์•ผํ•œ๋‹ค. (๋‚ด ์ด์•ผ๊ธฐ๋‹ค...222) ๊ตฌ์กฐ์ฒด์— ๋Œ€ํ•ด ์•Œ์•„๋ณธ๋‹ค. struct ํ‚ค์›Œ๋“œ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๊ตฌ์กฐ์ฒด๋ฅผ ์ •์˜ํ•˜๋Š”๋ฐ, ๊ตฌ์กฐ์ฒด์˜ ์ƒ๊น€์ƒˆ๋Š” ๋‹ค์Œ๊ณผ ๊ฐ™๋‹ค. struct ์‚ฌ์šฉํ•  ๊ตฌ์กฐ์ฒด์˜ ํƒ€์ž… ์ด๋ฆ„ { ๋ฉค๋ฒ„ 1 ๋ฉค๋ฒ„ 2 } ; //๊ฐ„ํ˜น ์—ฌ๊ธฐ์— ๊ตฌ์กฐ์ฒด ๋ณ€์ˆ˜ ์ด๋ฆ„์„ ์ž‘์„ฑํ•ด์„œ ๊ตฌ์กฐ์ฒด ์„ ์–ธ,์ •์˜๋ฅผ ํ•œ๋ฒˆ์— ํ•˜๊ธฐ๋„ ํ•œ๋‹ค. ์ด๋•Œ ๋ฉค๋ฒ„๋Š” ํ•„๋“œ๋ผ๊ณ ๋„.. 2023. 5. 7.
[Python] random/while/list/tuple/dict >>์ง€๋‚œ์ฃผ ๊ณต๋ถ€ ๋‚ด์šฉ ๋ณต์Šต # ๋žœ๋ค ์ˆซ์ž๋ฅผ ์‚ฌ์šฉํ•˜๊ณ  ์‹ถ์„๋•Œ ์‚ฌ์šฉํ•˜๋Š” import ๋ฌธ #random๋ชจ๋“ˆ์—์„œ randint ํ•จ์ˆ˜ import from random import randint # while ์กฐ๊ฑด ๋’ค์—๋„ or / and ๋ฅผ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค. #๋ฆฌ์ŠคํŠธ๋Š” ๋ณ€๊ฒฝ ๊ฐ€๋Šฅ, ํŠœํ”Œ์€ ๋ณ€๊ฒฝ ๋ถˆ๊ฐ€๋Šฅ. ์ˆ˜์ •๊ฐ€๋Šฅํ•œ ์ž๋ฃŒ๊ตฌ์กฐ๋ฅผ ์›ํ•œ๋‹ค๋ฉด ๋ฆฌ์ŠคํŠธ๋ฅผ ๋งŒ๋“ค๊ฒƒ -> ๋งŒ์•ฝ ํŠœํ”Œ์ด dict ์•ˆ์— key-valueํ˜•์‹์œผ๋กœ ๋“ค์–ด๊ฐ„ ๊ฒƒ์ด๋ผ๋ฉด ์ดํ›„ ์ฝ”๋“œ๋ฅผ ์ด์šฉํ•˜์—ฌ ๋ณ€๊ฒฝํ• ์ˆ˜๋„ ์žˆ๋‹ค. ์•„๋ž˜ ๊ทธ๋ฆผ ์˜ˆ์‹œ ์ฐธ๊ณ  #dictionary๋Š” ๋ฐ์ดํ„ฐ๋ฅผ ์ถ”๊ฐ€ํ•˜๊ณ  ์ˆ˜์ •ํ•˜๊ณ  ์‚ญ์ œํ•  ์ˆ˜ ์žˆ๋‹ค. ์ฆ‰ ๋ณ€๊ฒฝ๊ฐ€๋Šฅ. mutable! 2022. 9. 8.