- ÇöÀç À§Ä¡
- home > ÄÄÇ»ÅÍ¡¤ICT¡¤¾îÇÐ > ÄÄÇ»ÅÍ¡¤IT µµ¼ > ÄÄÇ»ÅÍ°øÇÐ > C++·Î ¹è¿ì´Â µö·¯´×(½Å°æ¸ÁÀÇ ±âÃʺÎÅÍ C++¸¦ ÀÌ¿ëÇÑ ±¸Çö±îÁö)[¼º¾È´ç]
¿äÁò »ýÈ°¾î°¡ µÈ ÀΰøÁö´ÉÀ» ±¸ÇöÇϱâ À§Çؼ´Â ¸Ó½Å·¯´×, Á» ´õ ¼¼ºÎÀûÀ¸·Î´Â µö·¯´×À¸·Î ¹üÀ§¸¦ Á¼Çô¼ µö·¯´×ÀÇ ±âÃÊ°¡ µÇ´Â ½Å°æ¸ÁÀ» °øºÎÇØ¾ß ÇÑ´Ù. Áý¾È¿¡¼ ¡°±â°¡Áö´Ï, TV Á» ÄÑÁà!¡±ÇÏ°í ÀΰøÁö´É ½ºÇÇÄ¿¿¡¼ ¸»Çϸé TV¸¦ ÄÑÁְųª ²¨Áֱ⵵ ÇÏÁö¸¸ ¾ÆÁ÷Àº Ä£±¸Ã³·³ ´À²¸Áú Á¤µµ·Î ÁøÈµÈ ´Ü°è´Â ¾Æ´Ï´Ù. ÀÍ»çÀÌÆ® ÁÖ½Äȸ»ç(www.excite.co.jp)ÀÇ ±â¼ú Àü·«½Ç ÀÌ»ç·Î ¸Ó½Å·¯´× ±â¹Ý Á¦Ç° °³¹ß¿¡ Á¾»ç ÁßÀÎ ÀúÀÚ ÈÄÁöŸ ŸÄɽô ÀÌ·¯ÇÑ µö·¯´×¿¡ ´ëÇÑ °¥ÁõÀ» ÀÌ Ã¥À» ÅëÇØ È®½ÇÇÏ°Ô Ç®¾î ÁØ´Ù.
ÀúÀÚ´Â ¡°µö·¯´×ÀÇ ±âÃÊ°¡ µÇ´Â ½Å°æ¸Á(´º·² ³×Æ®¿öÅ©)Àº ³ú½Å°æ ¼¼Æ÷ÀÇ Àü±âÀûÀÎ Çൿ¿¡¼ ¿µ°¨À» ¾ò¾î ´Ü¼øÈÇÑ ±¸Á¶¸¦ ÄÄÇ»ÅÍ·Î ÀçÇö °¡´ÉÇÑ ¾Ë°í¸®ÁòÀ¸·Î Á¤ÀÇÇÑ °Í¡±À¸·Î, ¡°ÃÖ±Ù¿¡´Â µö·¯´× Àü¿ë ÇÁ·¹ÀÓ¿öÅ©°¡ °³¹ßµÇ¾î ±¸±Û »çÀÇ ÅÙ¼Ç÷Î(TensorFlow)¸¦ ºñ·Ô, UC¹öŬ¸®ÀÇ Ä«Æä(Caffe), ¸óÆ®¸®¿Ã ´ëÇÐÀÇ Å׾Ƴë(Theano), ÇÁ¸®ÆÛµå³×Æ®¿÷ »çÀÇ Ã¼À̳Ê(Chainer) µî ¹®ÅÎÀÌ ³·¾ÆÁ® ÀÏ¹Ý »ç¿ëÀÚµµ µö·¯´×À» ÀÌ¿ëÇÑ ¼ºñ½º ±¸ÃàÀÌ °¡´ÉÇÏ´Ù¡±°í ¸»ÇÑ´Ù. ÀúÀÚ´Â È°¿ëÀ» À§Çؼ´Â ±âÃÊ ÀÌ·ÐÀ» ÇнÀÇØ¾ß ÇÑ´Ù°í °Á¶Çϸç ÀÌ Ã¥ÀÇ µ¶ÀÚ¸¦ µö·¯´×ÀÇ ±âÃʸ¦ ÇнÀÇÏ·Á´Â ÀÔ¹®ÀÚ¿Í ¼ÒÇÁÆ®¿þ¾î ¿£Áö´Ï¾î·Î ±ÔÁ¤ÇÑ´Ù. ¿ªÀÚÀÎ ±è¼ºÈÆ ¾¾¿¡ µû¸£¸é ÀÌ Ã¥¿¡¼´Â CUDA(Compute Unified Device Architecture) Ä¿³ÎÀ» ¹ÙÅÁÀ¸·Î °í¼ÓÈµÈ Çà·Ä ¶óÀ̺귯¸®, È°¼ºÈ ÇÔ¼ö, ¼Õ½Ç ÇÔ¼ö µî C ·Î µö·¯´×À» ÇÏ´Â À̵鿡°Ô ÇÊ¿äÇÑ ´Ù¾çÇÑ ¿¹Á¦°¡ ¸¶·ÃµÇ¾î ÀÖÀ¸¸ç ½ÇÁ¦ ¿¹Á¦ ±¸ÇöÀ» À§Çؼ´Â ¿£ºñµð¾îÀÇ GPU¸¦ žÀçÇÑ ±×·¡ÇÈ Ä«µå°¡ ÇÊ¿äÇÏ´Ù.
ÀÌ Ã¥Àº 1Àå¿¡¼´Â ½Å°æ¸Á ±¸Ãà¿¡ ÇÊ¿äÇÑ ÃÖ¼ÒÇÑÀÇ C ÇÁ·Î±×·¡¹Ö Áö½ÄÀ», 2Àå¿¡¼´Â º´·Ä ÇÁ·Î±×·¡¹ÖÀÇ Á߿伺°ú ±×¿¡ °üÇÑ Áö½Ä°ú Çà·Ä ¿¬»êÀ» ¼³¸íÇÑ µÚ 3Àå ÀÌÈĺÎÅÍ ½Å°æ¸Á¿¡ °üÇÑ ±íÀÌ ÀÖ´Â ³»¿ëÀ¸·Î À̾îÁö°í ÀÖ´Ù. ¶Ç 3Àå¿¡¼´Â ÆÛ¼ÁÆ®·ÐÀ̶ó´Â ½Å°æ¸ÁÀÇ ÃÖ¼Ò ´ÜÀ§°¡ µÇ´Â À¯´Ö°ú ÆÛ¼ÁÆ®·ÐÀ» ÁßøÇÑ ½Å°æ¸ÁÀÇ ±âº»ÇüÀÎ ´ÙÃþ ÆÛ¼ÁÆ®·Ð(MLP)¸¦ ¼³¸íÇÑ´Ù. 4Àå¿¡¼´Â ½Å°æ¸ÁÀÇ ¸Å°³º¯¼ö ÇнÀ¹ýÀÎ ¿ÀÂ÷¿ªÀüÆĹýÀ», 5Àå¿¡¼´Â ´ÙÃþ ÆÛ¼ÁÆ®·ÐÀ» ÀÌ¿ëÇØ ¼Õ±Û¾¾ ¼ýÀÚ À̹ÌÁö¸¦ ÀνÄÇØ º»´Ù. 6Àå¿¡¼´Â ¸Ó½Å·¯´× Àü¹Ý¿¡¼ ¹ß»ýÇÏ´Â ¿À¹öÇÇÆÃ(Overfitting, °úÀûÇÕ)À» ½Å°æ¸Á¿¡¼ ¾ïÁ¦ÇÏ´Â ¹æ¹ýÀ», 7Àå¿¡¼´Â µö·¯´×ÀÌ ÁÖ¸ñ¹Þ´Â °è±â°¡ µÈ ±â¼ú Áß ÇϳªÀÎ ¿ÀÅäÀÎÄÚ´õ(Autoencoder)¸¦, 8Àå¿¡¼´Â ÇöÀç µö·¯´×ÀÇ ´ëÇ¥ ÁÖÀÚ·Î ºÒ¸®´Â ÇÕ¼º°ö ½Å°æ¸Á(CNN)À», 9Àå¿¡¼´Â Àç±ÍÇü ½Å°æ¸ÁÀ¸·Î ºÒ¸®´Â ÀÚ±â Ãâ·ÂÀ» ÀÔ·ÂÀ¸·Î ÇÏ´Â Àç±Í ±¸Á¶·Î µÈ ½Å°æ¸ÁÀ» ÀÌ¿ëÇØ ÀÚ¿¬ ¾ð¾î 󸮿¡ ÀÀ¿ëÇÏ´Â ¿¹¸¦ ¼Ò°³ÇÑ´Ù.
ÀÌ Ã¥ ÇÑ ±ÇÀÌ¸é µö·¯´×ÀÇ ±âº» °³³ä¿¡ ´ëÇÑ ¼³¸í°ú À̷п¡ ´ëÇÑ °ñ°ÝÀÌ ÀâÈ÷¸é¼ C ·Î ÄÚµùÀ» Çغ¸¸é¼ µö·¯´× ¼ºñ½º °³¹ß¿¡ ´ëÇÑ Àڽۨ±îÁö ´ýÀ¸·Î ¾òÀ» ¼ö ÀÖÀ» °ÍÀÌ´Ù.
ÀúÀÚ´Â ¡°µö·¯´×ÀÇ ±âÃÊ°¡ µÇ´Â ½Å°æ¸Á(´º·² ³×Æ®¿öÅ©)Àº ³ú½Å°æ ¼¼Æ÷ÀÇ Àü±âÀûÀÎ Çൿ¿¡¼ ¿µ°¨À» ¾ò¾î ´Ü¼øÈÇÑ ±¸Á¶¸¦ ÄÄÇ»ÅÍ·Î ÀçÇö °¡´ÉÇÑ ¾Ë°í¸®ÁòÀ¸·Î Á¤ÀÇÇÑ °Í¡±À¸·Î, ¡°ÃÖ±Ù¿¡´Â µö·¯´× Àü¿ë ÇÁ·¹ÀÓ¿öÅ©°¡ °³¹ßµÇ¾î ±¸±Û »çÀÇ ÅÙ¼Ç÷Î(TensorFlow)¸¦ ºñ·Ô, UC¹öŬ¸®ÀÇ Ä«Æä(Caffe), ¸óÆ®¸®¿Ã ´ëÇÐÀÇ Å׾Ƴë(Theano), ÇÁ¸®ÆÛµå³×Æ®¿÷ »çÀÇ Ã¼À̳Ê(Chainer) µî ¹®ÅÎÀÌ ³·¾ÆÁ® ÀÏ¹Ý »ç¿ëÀÚµµ µö·¯´×À» ÀÌ¿ëÇÑ ¼ºñ½º ±¸ÃàÀÌ °¡´ÉÇÏ´Ù¡±°í ¸»ÇÑ´Ù. ÀúÀÚ´Â È°¿ëÀ» À§Çؼ´Â ±âÃÊ ÀÌ·ÐÀ» ÇнÀÇØ¾ß ÇÑ´Ù°í °Á¶Çϸç ÀÌ Ã¥ÀÇ µ¶ÀÚ¸¦ µö·¯´×ÀÇ ±âÃʸ¦ ÇнÀÇÏ·Á´Â ÀÔ¹®ÀÚ¿Í ¼ÒÇÁÆ®¿þ¾î ¿£Áö´Ï¾î·Î ±ÔÁ¤ÇÑ´Ù. ¿ªÀÚÀÎ ±è¼ºÈÆ ¾¾¿¡ µû¸£¸é ÀÌ Ã¥¿¡¼´Â CUDA(Compute Unified Device Architecture) Ä¿³ÎÀ» ¹ÙÅÁÀ¸·Î °í¼ÓÈµÈ Çà·Ä ¶óÀ̺귯¸®, È°¼ºÈ ÇÔ¼ö, ¼Õ½Ç ÇÔ¼ö µî C ·Î µö·¯´×À» ÇÏ´Â À̵鿡°Ô ÇÊ¿äÇÑ ´Ù¾çÇÑ ¿¹Á¦°¡ ¸¶·ÃµÇ¾î ÀÖÀ¸¸ç ½ÇÁ¦ ¿¹Á¦ ±¸ÇöÀ» À§Çؼ´Â ¿£ºñµð¾îÀÇ GPU¸¦ žÀçÇÑ ±×·¡ÇÈ Ä«µå°¡ ÇÊ¿äÇÏ´Ù.
ÀÌ Ã¥Àº 1Àå¿¡¼´Â ½Å°æ¸Á ±¸Ãà¿¡ ÇÊ¿äÇÑ ÃÖ¼ÒÇÑÀÇ C ÇÁ·Î±×·¡¹Ö Áö½ÄÀ», 2Àå¿¡¼´Â º´·Ä ÇÁ·Î±×·¡¹ÖÀÇ Á߿伺°ú ±×¿¡ °üÇÑ Áö½Ä°ú Çà·Ä ¿¬»êÀ» ¼³¸íÇÑ µÚ 3Àå ÀÌÈĺÎÅÍ ½Å°æ¸Á¿¡ °üÇÑ ±íÀÌ ÀÖ´Â ³»¿ëÀ¸·Î À̾îÁö°í ÀÖ´Ù. ¶Ç 3Àå¿¡¼´Â ÆÛ¼ÁÆ®·ÐÀ̶ó´Â ½Å°æ¸ÁÀÇ ÃÖ¼Ò ´ÜÀ§°¡ µÇ´Â À¯´Ö°ú ÆÛ¼ÁÆ®·ÐÀ» ÁßøÇÑ ½Å°æ¸ÁÀÇ ±âº»ÇüÀÎ ´ÙÃþ ÆÛ¼ÁÆ®·Ð(MLP)¸¦ ¼³¸íÇÑ´Ù. 4Àå¿¡¼´Â ½Å°æ¸ÁÀÇ ¸Å°³º¯¼ö ÇнÀ¹ýÀÎ ¿ÀÂ÷¿ªÀüÆĹýÀ», 5Àå¿¡¼´Â ´ÙÃþ ÆÛ¼ÁÆ®·ÐÀ» ÀÌ¿ëÇØ ¼Õ±Û¾¾ ¼ýÀÚ À̹ÌÁö¸¦ ÀνÄÇØ º»´Ù. 6Àå¿¡¼´Â ¸Ó½Å·¯´× Àü¹Ý¿¡¼ ¹ß»ýÇÏ´Â ¿À¹öÇÇÆÃ(Overfitting, °úÀûÇÕ)À» ½Å°æ¸Á¿¡¼ ¾ïÁ¦ÇÏ´Â ¹æ¹ýÀ», 7Àå¿¡¼´Â µö·¯´×ÀÌ ÁÖ¸ñ¹Þ´Â °è±â°¡ µÈ ±â¼ú Áß ÇϳªÀÎ ¿ÀÅäÀÎÄÚ´õ(Autoencoder)¸¦, 8Àå¿¡¼´Â ÇöÀç µö·¯´×ÀÇ ´ëÇ¥ ÁÖÀÚ·Î ºÒ¸®´Â ÇÕ¼º°ö ½Å°æ¸Á(CNN)À», 9Àå¿¡¼´Â Àç±ÍÇü ½Å°æ¸ÁÀ¸·Î ºÒ¸®´Â ÀÚ±â Ãâ·ÂÀ» ÀÔ·ÂÀ¸·Î ÇÏ´Â Àç±Í ±¸Á¶·Î µÈ ½Å°æ¸ÁÀ» ÀÌ¿ëÇØ ÀÚ¿¬ ¾ð¾î 󸮿¡ ÀÀ¿ëÇÏ´Â ¿¹¸¦ ¼Ò°³ÇÑ´Ù.
ÀÌ Ã¥ ÇÑ ±ÇÀÌ¸é µö·¯´×ÀÇ ±âº» °³³ä¿¡ ´ëÇÑ ¼³¸í°ú À̷п¡ ´ëÇÑ °ñ°ÝÀÌ ÀâÈ÷¸é¼ C ·Î ÄÚµùÀ» Çغ¸¸é¼ µö·¯´× ¼ºñ½º °³¹ß¿¡ ´ëÇÑ Àڽۨ±îÁö ´ýÀ¸·Î ¾òÀ» ¼ö ÀÖÀ» °ÍÀÌ´Ù.
ÀúÀÚ: ÈÄÁöŸ ŸÄɽÃ
Chapter 01 µö·¯´× °³·Ð
1-1 µö·¯´×
1-1-1 µö·¯´×À̶õ
1-1-2 µö·¯´×ÀÇ ¹è°æ
1-1-3 µö·¯´×ÀÌ ÇÒ ¼ö ÀÖ´Â ÀÏ
1-1-4 µö·¯´×ÀÇ ÀÀ¿ë ¿¹
1-1-5 ÀÌ Ã¥ÀÌ ´ë»óÀ¸·Î ÇÏ´Â µ¶ÀÚ
1-1-6 ÀÌ Ã¥ÀÇ ±¸¼º
1-1-7 ÀÌ Ã¥¿¡¼ Á¦°øÇÏ´Â ¼Ò½º Äڵ忡 ´ëÇؼ
1-2 ÇнÀ¿¡ ÇÊ¿äÇÑ C ¾ð¾îÀÇ ±â´É
1-2-1 Æ÷ÀÎÅÍ
1-2-2 °øÀ¯ Æ÷ÀÎÅÍ
1-2-3 vector
1-2-4 map
1-2-5 ¸®½ºÆ® ±¸Á¶
1-2-6 Æ®¸® ±¸Á¶
Chapter 02 ½Å°æ¸ÁÀ» À§ÇÑ Çà·Ä ¿¬»ê°ú º´·Ä ÇÁ·Î±×·¡¹Ö
2-1 GPU È°¿ëÇϱâ
2-1-1 º´·Ä ÇÁ·Î±×·¡¹ÖÀÇ Á߿伺
2-1-2 GPU¿Í µö·¯´×
2-2-3 GPU ÀÌ¿ëÇϱâ
2-2 CUDA ÇÁ·Î±×·¡¹Ö
2-2-1 CUDA Ä¿³Î
2-2-2 ½º·¹µå ±¸¼º
2-2-3 CPU ¸Þ¸ð¸®¿Í GPU ¸Þ¸ð¸®
2-3 Çà·Ä ¿¬»ê
2-3-1 Çà·Ä ¿¬»êÀÇ ÇÁ·¹ÀÓ¿öÅ©È
2-3-2 cuBLAS
2-3-3 Çà·Ä»çÄ¢¿¬»ê ÀÌ¿ÜÀÇ ¿¹
2-3-4 ¿¬»êÀÚ Á¤ÀÇ
Chapter 03 ½Å°æ¸Á
3-1 ´Ü¼ø ÆÛ¼ÁÆ®·Ð
3-1-1 ´Ü¼ø ÆÛ¼ÁÆ®·Ð ¸ðµ¨
3-1-2 ´Ü¼ø ÆÛ¼ÁÆ®·ÐÀÌ ÇÒ ¼ö ÀÖ´Â ÀÏ
3-1-3 ´Ü¼ø ÆÛ¼ÁÆ®·ÐÀÇ ÇнÀ °úÁ¤
3-2 ´ÙÃþ ÆÛ¼ÁÆ®·Ð
3-2-1 ´ÙÃþ ÆÛ¼ÁÆ®·Ð ¸ðµ¨
3-2-2 È°¼ºÈ ÇÔ¼ö
3-2-3 ȸ±Í ¹®Á¦¿¡¼ ´ÙÃþ ÆÛ¼ÁÆ®·Ð ÇнÀ
3-2-4 ºÐ·ù ¹®Á¦¿¡¼ ´ÙÃþ ÆÛ¼ÁÆ®·Ð ÇнÀ
3-3 ½Å°æ¸ÁÀÇ ¸Å°³º¯¼ö ÃßÁ¤
3-3-1 È®·üÀû °æ»ç ÇÏ°¹ý(Stochastic Gradient Descent, SGD)
3-3-2 ¹Ì´Ï¹èÄ¡(mini-batch)
3-3-3 °¡ÁßÄ¡ ÃʱâÈ
Chapter 04 ¿ÀÂ÷¿ªÀüÆÄ
4-1 ¼ø¹æÇâ °è»ê
4-1-1 °è»ê ±×·¡ÇÁ
4-1-2 ¹Ì´Ï¹èÄ¡ Çà·Ä Ç¥Çö
4-2 ¹ÌºÐÀÇ ¿¬¼â¹ýÄ¢
4-2-1 ÇÕ¼ºÇÔ¼öÀÇ ¹ÌºÐ
4-2-2 ¹ÌºÐÀÇ ¿¬¼â¹ýÄ¢
4-2-3 ´ÙÃþ ½Å°æ¸Á¿¡¼ÀÇ °¢ ¸Å°³º¯¼ö ¹ÌºÐ
4-2-4 ¿¬¼â¹ýÄ¢ÀÇ ½Ã°¢Àû Ç¥Çö
4-3 ±â¿ï±â ¼Ò½Ç ¹®Á¦
4-3-1 ±â¿ï±â ¼Ò½Ç ¹®Á¦¶õ?
4-3-2 ±â¿ï±â ¼Ò½Ç ¹®Á¦¿¡ °üÇÑ ´ëó
Chapter 05 C ¸¦ ÀÌ¿ëÇÑ ½Å°æ¸Á ±¸Çö
5-1 ¿ª¹æÇâ ÀÚµ¿ ¹ÌºÐ ±¸Çö
5-1-1 º¯¼ö
5-1-2 ÇÔ¼öÀÇ ±â¹Ý Ŭ·¡½º
5-1-3 È°¼ºÈ ÇÔ¼öÀÇ Á¤ÀÇ
5-1-4 ¼±ÇüÇÔ¼öÀÇ Á¤ÀÇ
5-1-5 ±³Â÷ ¿£Æ®·ÎÇÇ ¿ÀÂ÷ÇÔ¼ö
5-1-6 ¿ªÀüÆÄ
5-2 ÇÔ¼ö ·¡ÆÛ
5-3 ¸ðµ¨
5-3-1 ¸ðµ¨ÀÇ Á¤ÀÇ
5-3-2 ¸ðµ¨ÀÇ ÀúÀå°ú º¹¿ø
5-4 ¿ÉƼ¸¶ÀÌÀú
5-4-1 ¿ÉƼ¸¶ÀÌÀúÀÇ ±â¹Ý Ŭ·¡½º.
5-4-2 ¿ÉƼ¸¶ÀÌÀúÀÇ ¿¹
5-5 MNIST¸¦ ¿¹·Î µç ÇнÀ°ú Æò°¡
5-5-1 MNIST µ¥ÀÌÅÍ ¼Â ±¸Çϱâ
5-5-2 MNIST µ¥ÀÌÅÍ Çü½Ä
5-5-3 ºÐ·ù ¸ðµ¨
5-6 Iris¸¦ ¿¹·Î ÇÑ ÇнÀ°ú Æò°¡
5-6-1 IrisÀÇ µ¥ÀÌÅÍ Çü½Ä
5-6-2 ºÐ·ù ¸ðµ¨
Chapter 06 ÇнÀ ÃÖÀûÈ¿Í ¿À¹öÇÇÆÃ
6-1 ÇнÀ ÃÖÀûÈ
6-1-1 ¸ð¸àÅÒ SGD
6-1-2 NAG
6-1-3 AdaGrad
6-1-4 RMSprop
6-1-5 AdaDelta
6-1-6 Adam
6-1-7 AdamÀÇ ±¸Çö
6-2 ¿À¹öÇÇÆà ´ëÃ¥
6-2-1 Á¤±ÔÈ
6-2-2 µå·Ó¾Æ¿ô
6-2-3 µå·Ó¾Æ¿ô ±¸Çö
6-2-4 ¹èÄ¡ Á¤±ÔÈ
6-2-5 ¹èÄ¡ Á¤±ÔÈ ±¸Çö
Chapter 07 »çÀü ÇнÀ
7-1 ¿ÀÅäÀÎÄÚ´õ¿Í »çÀü ÇнÀ
7-1-1 ¿ÀÅäÀÎÄÚ´õ
7-1-2 Èñ¼Ò ¿ÀÅäÀÎÄÚ´õ(sparse autoencoder)
7-1-3 Àº´ÐÃþÀÇ °¡ÁßÄ¡
7-1-4 µð³ëÀÌ¡ ¿ÀÅäÀÎÄÚ´õ
7-1-5 »çÀü ÇнÀ
7-2 ¿ÀÅäÀÎÄÚ´õ ±¸Çö
7-2-1 Àº´ÐÃþ
7-2-2 Àº´ÐÃþÀÇ ·¡ÆÛ
7-2-3 ¿ÀÅäÀÎÄÚ´õ ±¸Ãà°ú ÇнÀ
Chapter 08 ÇÕ¼º°ö ½Å°æ¸Á
8-1 ÇÕ¼º°ö
8-1-1 À̹ÌÁö
8-1-2 À̹ÌÁö ÇÊÅÍ
8-1-3 Æеù
8-1-4 Ç®¸µ
8-2 ÇÕ¼º°öÃþ
8-2-1 ÇÕ¼º°öÃþ °è»ê
8-2-2 ÇÕ¼º°öÃþ °è»ê ¿¬±¸.
8-2-3 ÇÊÅÍ °è¼ö ÃʱâÈ
8-2-4 ÇÕ¼º°öÃþ ±¸Çö
8-2-5 Ç®¸µÃþ ±¸Çö
8-2-6 Àü°áÇÕÃþ
8-3 CIFAR-10À» »ç¿ëÇÑ À̹ÌÁö ÀνÄ
8-3-1 CIFAR-10ÀÇ ¶óº§
8-3-2 ÆÄÀÏ Çü½Ä
8-3-3 ºÐ·ù ¸ðµ¨
Chapter 09 Àç±ÍÇü ½Å°æ¸Á
9-1 Æø³Ð°Ô ÀÀ¿ëÇÒ ¼ö ÀÖ´Â Àç±ÍÇü ½Å°æ¸Á
9-1-1 Àç±ÍÇü ½Å°æ¸Á ¸ðµ¨
9-1-2 Àç±ÍÇü ½Å°æ¸ÁÀÇ ¿ªÀüÆÄ
9-1-3 ¿ªÀüÆÄ ¼¼ºÎ »çÇ×
9-2 Àç±ÍÇü ½Å°æ¸ÁÀÇ ¹®Á¦Á¡°ú ÇØ°áÃ¥
9-2-1 LSTM
9-2-2 LSTMÀÇ ¿ÀÂ÷¿ªÀüÆÄ
9-2-3 LSTM ±¸Çö
9-2-4 GRU
9-2-5 GRUÀÇ ±¸Çö
9-2-6 À߸° BPTT(Truncated BPTT)
9-2-7 ¼ýÀÚ ±â¾ïÇϱâ
9-2-8 »çÀÎÆÄ ÀçÇö
9-3 ´Ü¾îÀÇ º¤ÅÍ Ç¥Çö
9-3-1 º¤ÅÍ Ç¥Çö
9-3-2 º¤ÅÍ Ç¥ÇöÀÇ ±¸Çö
9-4 ¹ø¿ª ¸ðµ¨¡¤¾îÅÙ¼Ç ¸ðµ¨
9-4-1 ÀÎÄÚ´õ¡¤µðÄÚ´õ ¸ðµ¨
9-4-2 Æеù
9-4-3 ¾îÅÙ¼Ç ¸ðµ¨
9-5 ÀÚµ¿ ¹ø¿ª ±¸Çö
9-5-1 ¹ø¿ª ÄÚÆÛ½º
9-5-2 ÀÎÄÚ´õ¡¤µðÄÚ´õ ¸ðµ¨À» »ç¿ëÇÑ ³×Æ®¿öÅ© ÈÆ·Ã.
9-5-3 ÀÎÄÚ´õ¡¤µðÄÚ´õ ¸ðµ¨À» »ç¿ëÇÑ ¹ø¿ª(ÃßÁ¤)
9-5-4 ½ÇÇà °á°úÀÇ °íÂû
Âü°í ¹®Çå
INDEX
1-1 µö·¯´×
1-1-1 µö·¯´×À̶õ
1-1-2 µö·¯´×ÀÇ ¹è°æ
1-1-3 µö·¯´×ÀÌ ÇÒ ¼ö ÀÖ´Â ÀÏ
1-1-4 µö·¯´×ÀÇ ÀÀ¿ë ¿¹
1-1-5 ÀÌ Ã¥ÀÌ ´ë»óÀ¸·Î ÇÏ´Â µ¶ÀÚ
1-1-6 ÀÌ Ã¥ÀÇ ±¸¼º
1-1-7 ÀÌ Ã¥¿¡¼ Á¦°øÇÏ´Â ¼Ò½º Äڵ忡 ´ëÇؼ
1-2 ÇнÀ¿¡ ÇÊ¿äÇÑ C ¾ð¾îÀÇ ±â´É
1-2-1 Æ÷ÀÎÅÍ
1-2-2 °øÀ¯ Æ÷ÀÎÅÍ
1-2-3 vector
1-2-4 map
1-2-5 ¸®½ºÆ® ±¸Á¶
1-2-6 Æ®¸® ±¸Á¶
Chapter 02 ½Å°æ¸ÁÀ» À§ÇÑ Çà·Ä ¿¬»ê°ú º´·Ä ÇÁ·Î±×·¡¹Ö
2-1 GPU È°¿ëÇϱâ
2-1-1 º´·Ä ÇÁ·Î±×·¡¹ÖÀÇ Á߿伺
2-1-2 GPU¿Í µö·¯´×
2-2-3 GPU ÀÌ¿ëÇϱâ
2-2 CUDA ÇÁ·Î±×·¡¹Ö
2-2-1 CUDA Ä¿³Î
2-2-2 ½º·¹µå ±¸¼º
2-2-3 CPU ¸Þ¸ð¸®¿Í GPU ¸Þ¸ð¸®
2-3 Çà·Ä ¿¬»ê
2-3-1 Çà·Ä ¿¬»êÀÇ ÇÁ·¹ÀÓ¿öÅ©È
2-3-2 cuBLAS
2-3-3 Çà·Ä»çÄ¢¿¬»ê ÀÌ¿ÜÀÇ ¿¹
2-3-4 ¿¬»êÀÚ Á¤ÀÇ
Chapter 03 ½Å°æ¸Á
3-1 ´Ü¼ø ÆÛ¼ÁÆ®·Ð
3-1-1 ´Ü¼ø ÆÛ¼ÁÆ®·Ð ¸ðµ¨
3-1-2 ´Ü¼ø ÆÛ¼ÁÆ®·ÐÀÌ ÇÒ ¼ö ÀÖ´Â ÀÏ
3-1-3 ´Ü¼ø ÆÛ¼ÁÆ®·ÐÀÇ ÇнÀ °úÁ¤
3-2 ´ÙÃþ ÆÛ¼ÁÆ®·Ð
3-2-1 ´ÙÃþ ÆÛ¼ÁÆ®·Ð ¸ðµ¨
3-2-2 È°¼ºÈ ÇÔ¼ö
3-2-3 ȸ±Í ¹®Á¦¿¡¼ ´ÙÃþ ÆÛ¼ÁÆ®·Ð ÇнÀ
3-2-4 ºÐ·ù ¹®Á¦¿¡¼ ´ÙÃþ ÆÛ¼ÁÆ®·Ð ÇнÀ
3-3 ½Å°æ¸ÁÀÇ ¸Å°³º¯¼ö ÃßÁ¤
3-3-1 È®·üÀû °æ»ç ÇÏ°¹ý(Stochastic Gradient Descent, SGD)
3-3-2 ¹Ì´Ï¹èÄ¡(mini-batch)
3-3-3 °¡ÁßÄ¡ ÃʱâÈ
Chapter 04 ¿ÀÂ÷¿ªÀüÆÄ
4-1 ¼ø¹æÇâ °è»ê
4-1-1 °è»ê ±×·¡ÇÁ
4-1-2 ¹Ì´Ï¹èÄ¡ Çà·Ä Ç¥Çö
4-2 ¹ÌºÐÀÇ ¿¬¼â¹ýÄ¢
4-2-1 ÇÕ¼ºÇÔ¼öÀÇ ¹ÌºÐ
4-2-2 ¹ÌºÐÀÇ ¿¬¼â¹ýÄ¢
4-2-3 ´ÙÃþ ½Å°æ¸Á¿¡¼ÀÇ °¢ ¸Å°³º¯¼ö ¹ÌºÐ
4-2-4 ¿¬¼â¹ýÄ¢ÀÇ ½Ã°¢Àû Ç¥Çö
4-3 ±â¿ï±â ¼Ò½Ç ¹®Á¦
4-3-1 ±â¿ï±â ¼Ò½Ç ¹®Á¦¶õ?
4-3-2 ±â¿ï±â ¼Ò½Ç ¹®Á¦¿¡ °üÇÑ ´ëó
Chapter 05 C ¸¦ ÀÌ¿ëÇÑ ½Å°æ¸Á ±¸Çö
5-1 ¿ª¹æÇâ ÀÚµ¿ ¹ÌºÐ ±¸Çö
5-1-1 º¯¼ö
5-1-2 ÇÔ¼öÀÇ ±â¹Ý Ŭ·¡½º
5-1-3 È°¼ºÈ ÇÔ¼öÀÇ Á¤ÀÇ
5-1-4 ¼±ÇüÇÔ¼öÀÇ Á¤ÀÇ
5-1-5 ±³Â÷ ¿£Æ®·ÎÇÇ ¿ÀÂ÷ÇÔ¼ö
5-1-6 ¿ªÀüÆÄ
5-2 ÇÔ¼ö ·¡ÆÛ
5-3 ¸ðµ¨
5-3-1 ¸ðµ¨ÀÇ Á¤ÀÇ
5-3-2 ¸ðµ¨ÀÇ ÀúÀå°ú º¹¿ø
5-4 ¿ÉƼ¸¶ÀÌÀú
5-4-1 ¿ÉƼ¸¶ÀÌÀúÀÇ ±â¹Ý Ŭ·¡½º.
5-4-2 ¿ÉƼ¸¶ÀÌÀúÀÇ ¿¹
5-5 MNIST¸¦ ¿¹·Î µç ÇнÀ°ú Æò°¡
5-5-1 MNIST µ¥ÀÌÅÍ ¼Â ±¸Çϱâ
5-5-2 MNIST µ¥ÀÌÅÍ Çü½Ä
5-5-3 ºÐ·ù ¸ðµ¨
5-6 Iris¸¦ ¿¹·Î ÇÑ ÇнÀ°ú Æò°¡
5-6-1 IrisÀÇ µ¥ÀÌÅÍ Çü½Ä
5-6-2 ºÐ·ù ¸ðµ¨
Chapter 06 ÇнÀ ÃÖÀûÈ¿Í ¿À¹öÇÇÆÃ
6-1 ÇнÀ ÃÖÀûÈ
6-1-1 ¸ð¸àÅÒ SGD
6-1-2 NAG
6-1-3 AdaGrad
6-1-4 RMSprop
6-1-5 AdaDelta
6-1-6 Adam
6-1-7 AdamÀÇ ±¸Çö
6-2 ¿À¹öÇÇÆà ´ëÃ¥
6-2-1 Á¤±ÔÈ
6-2-2 µå·Ó¾Æ¿ô
6-2-3 µå·Ó¾Æ¿ô ±¸Çö
6-2-4 ¹èÄ¡ Á¤±ÔÈ
6-2-5 ¹èÄ¡ Á¤±ÔÈ ±¸Çö
Chapter 07 »çÀü ÇнÀ
7-1 ¿ÀÅäÀÎÄÚ´õ¿Í »çÀü ÇнÀ
7-1-1 ¿ÀÅäÀÎÄÚ´õ
7-1-2 Èñ¼Ò ¿ÀÅäÀÎÄÚ´õ(sparse autoencoder)
7-1-3 Àº´ÐÃþÀÇ °¡ÁßÄ¡
7-1-4 µð³ëÀÌ¡ ¿ÀÅäÀÎÄÚ´õ
7-1-5 »çÀü ÇнÀ
7-2 ¿ÀÅäÀÎÄÚ´õ ±¸Çö
7-2-1 Àº´ÐÃþ
7-2-2 Àº´ÐÃþÀÇ ·¡ÆÛ
7-2-3 ¿ÀÅäÀÎÄÚ´õ ±¸Ãà°ú ÇнÀ
Chapter 08 ÇÕ¼º°ö ½Å°æ¸Á
8-1 ÇÕ¼º°ö
8-1-1 À̹ÌÁö
8-1-2 À̹ÌÁö ÇÊÅÍ
8-1-3 Æеù
8-1-4 Ç®¸µ
8-2 ÇÕ¼º°öÃþ
8-2-1 ÇÕ¼º°öÃþ °è»ê
8-2-2 ÇÕ¼º°öÃþ °è»ê ¿¬±¸.
8-2-3 ÇÊÅÍ °è¼ö ÃʱâÈ
8-2-4 ÇÕ¼º°öÃþ ±¸Çö
8-2-5 Ç®¸µÃþ ±¸Çö
8-2-6 Àü°áÇÕÃþ
8-3 CIFAR-10À» »ç¿ëÇÑ À̹ÌÁö ÀνÄ
8-3-1 CIFAR-10ÀÇ ¶óº§
8-3-2 ÆÄÀÏ Çü½Ä
8-3-3 ºÐ·ù ¸ðµ¨
Chapter 09 Àç±ÍÇü ½Å°æ¸Á
9-1 Æø³Ð°Ô ÀÀ¿ëÇÒ ¼ö ÀÖ´Â Àç±ÍÇü ½Å°æ¸Á
9-1-1 Àç±ÍÇü ½Å°æ¸Á ¸ðµ¨
9-1-2 Àç±ÍÇü ½Å°æ¸ÁÀÇ ¿ªÀüÆÄ
9-1-3 ¿ªÀüÆÄ ¼¼ºÎ »çÇ×
9-2 Àç±ÍÇü ½Å°æ¸ÁÀÇ ¹®Á¦Á¡°ú ÇØ°áÃ¥
9-2-1 LSTM
9-2-2 LSTMÀÇ ¿ÀÂ÷¿ªÀüÆÄ
9-2-3 LSTM ±¸Çö
9-2-4 GRU
9-2-5 GRUÀÇ ±¸Çö
9-2-6 À߸° BPTT(Truncated BPTT)
9-2-7 ¼ýÀÚ ±â¾ïÇϱâ
9-2-8 »çÀÎÆÄ ÀçÇö
9-3 ´Ü¾îÀÇ º¤ÅÍ Ç¥Çö
9-3-1 º¤ÅÍ Ç¥Çö
9-3-2 º¤ÅÍ Ç¥ÇöÀÇ ±¸Çö
9-4 ¹ø¿ª ¸ðµ¨¡¤¾îÅÙ¼Ç ¸ðµ¨
9-4-1 ÀÎÄÚ´õ¡¤µðÄÚ´õ ¸ðµ¨
9-4-2 Æеù
9-4-3 ¾îÅÙ¼Ç ¸ðµ¨
9-5 ÀÚµ¿ ¹ø¿ª ±¸Çö
9-5-1 ¹ø¿ª ÄÚÆÛ½º
9-5-2 ÀÎÄÚ´õ¡¤µðÄÚ´õ ¸ðµ¨À» »ç¿ëÇÑ ³×Æ®¿öÅ© ÈÆ·Ã.
9-5-3 ÀÎÄÚ´õ¡¤µðÄÚ´õ ¸ðµ¨À» »ç¿ëÇÑ ¹ø¿ª(ÃßÁ¤)
9-5-4 ½ÇÇà °á°úÀÇ °íÂû
Âü°í ¹®Çå
INDEX