Öйú×ÔÈ»ÓïÑÔ´¦Àí°×ƤÊé
¿ÉÒÔÉè¼ÆÐÎÈçI am ? You areµÄ¹æÔò£¬µ±¼ì²âµ½Óû§ÊäÈëΪ I am Johnʱ£¬ÓùæÔò½øÐÐÌæ»»£¬Éú³ÉÊä³öYou are John¡£ÕâÖÖϵͳһ°ã²»ÄÜÓÃÓÚÍê³ÉÌØ¶¨µÄÐÅÏ¢»ñÈ¡ÈÎÎñ¡£
Ñо¿ÈËÔ±Æù½ñÒѾ̽Ë÷²»ÉÙ¶Ô»°¹ÜÀí¼¼Êõ£¬°üÀ¨»ùÓÚÓÐÏÞ״̬×Ô¶¯»úµÄ·½·¨¡¢»ùÓÚÓïÒå¿ò¼ÜµÄ·½·¨¡¢»ùÓÚ´úÀíµÄ·½·¨ºÍ»ùÓÚͳ¼ÆµÄ·½·¨µÈ¡£
»ùÓÚÓÐÏÞ״̬×Ô¶¯»úµÄ·½·¨ÊÊÓÃÓڽṹ»¯½ÏºÃµÄÈÎÎñ¡£Æä¶Ô»°½ø³ÌÊÇÔ¤ÏÈÉ趨ºÃµÄ£¬Óû§Ö»Äܰ´Ô¤¶¨µÄ˳Ðò»Ø´ðϵͳµÄÌáÎÊ£¬ÒÔÌṩÈÎÎñÐÅÏ¢¡£ÕâÖÖ¶Ô»°¹ÜÀí¼¼Êõ²»ÄÜ´¦ÀíÓïÑÔÀí½âµÄ²»È·¶¨ÐÔ£¬Áé»îÐԽϲÓû§ÌåÑé²»ºÃ¡£
»ùÓÚÓïÒå¿ò¼ÜµÄ·½·¨ÔÊÐíÓû§ÒÔ½ÏΪÁé»îµÄ·½Ê½½øÐжԻ°¡£ÏµÍ³Äܸù¾Ýµ±Ç°ÓïÒå¿ò¼ÜµÄ״̬À´Ìá³öÏÂÒ»¸öÎÊÌ⣬Ҳ¿ÉÒÔ´¦ÀíһЩÓïÑÔÀí½â²¿·ÖµÄ²»È·¶¨ÐÔÊäÈ룬µ«ÊÇϵͳµÄ¿ØÖÆË㷨ͨ³£½Ï¸´ÔÓ¡£
»ùÓÚ´úÀíµÄ·½·¨½«¶Ô»°½¨Ä£³ÉÁ½¸ö´úÀíͨ¹ýÐ×÷À´Íê³ÉÈÎÎñ¡£´úÀí¾ßÓÐÍÆÀíÄÜÁ¦£¬¿ÉÒÔ½øÐдíÎó¼ì²âºÍ¾ÀÕý£¬¿ÉÒÔʵÏÖ»ìºÏÖ÷µ¼ÐͶԻ°¡£µ«ÊÇÕâÖÖϵͳÐèÒª´óÁ¿×¨¼Ò֪ʶÀ´¹¹½¨Âß¼ÍÆÀíϵͳ£¬¹¹½¨³É±¾¸ß¡£
»ùÓÚͳ¼ÆµÄ·½·¨£¬Ö÷ÒªÖ¸µÄÊÇ»ùÓÚÂí¶û¿É·ò¾ö²ß¹ý³ÌMDP(Markov Decision Process)µÄ·½·¨¡£MDPÐèҪ״̬ÍêÈ«¿É¹Û²â£¬¶øÔÚ״̬²»ÍêÈ«¿É¹Û²âʱ£¬¿ÉÒÔ²ÉÓò¿·Ö¿É¹Û²âÂí¶û¿É·ò¾ö²ß¹ý³ÌPOMDP(Partially observable Markov decision process)¡£POMDPÄ£Ðͽ«ÈË»ú¶Ô»°½¨Ä£³ÉÒ»¸öÔÚ²»È·¶¨×´Ì¬ÐòÁÐÏÂÈ¡µÃ×î´ó³¤ÆÚ»Ø±¨µÄ¾ö²ßÎÊÌâ¡£Òò´Ë£¬Ëü¾ßÓн¨Ä£ÓïÒôʶ±ðºÍÓïÒåÀí½âÖдæÔڵIJ»È·¶¨ÐÔµÄÄÜÁ¦£¬Ò²¿ÉÒÔ½¨Ä£ÏµÍ³²úÉúµÄ¶Ô»°ÓïÑÔ¸ø¶Ô»°´øÀ´µÄ³¤ÆÚÓ°Ïì¡£POMDPÄ£ÐÍ´ÓÊý¾ÝÖÐѧϰģÐͲÎÊý£¬½øÐвßÂÔÇó½â£¬ÆäÇó½âËã·¨µÄ¸´ÔÓÐԽϸߡ£Ä¿Ç°£¬¼òµ¥µÄÓ¦ÓÃϵͳ¶à²ÉÓûùÓÚÓÐÏÞ״̬×Ô¶¯»úµÄ·½·¨£¬¶ø»ùÓÚPOMDPµÄ·½·¨µÃµ½¸ü¶àµÄÑо¿¹Ø×¢¡£
10
Öйú×ÔÈ»ÓïÑÔ´¦Àí°×ƤÊé
ËäÈ»ÓÐÉÏÊö¶àÖÖ¶Ô»°¹ÜÀí¼¼Êõ£¬µ«ÊÇÓÉÓÚ¶Ô»°ÏµÍ³µÄ¸´ÔÓÐÔ£¬¶Ô»°¹ÜÀí²»½öҪͨ¹ý¶Ô»°»ñÈ¡ÈÎÎñÐÅÏ¢£¬»¹ÒªÓÐЧµØÒýµ¼Õû¸ö¶Ô»°¹ý³Ì£¬ÎªÓû§´øÀ´ºÃµÄÓû§ÌåÑ顣ͬʱ£¬¿¼Âǵ½¶Ô»°»¹´¦ÓÚÓïÒôʶ±ðºÍÓïÑÔÀí½â¼¼ÊõĿǰÈÔ²»ÍêÃÀµÄÌõ¼þÏ£¬Òò´Ë£¬¶Ô»°¹ÜÀíÐèÒª´¦ÀíµÄÄѵãÎÊÌ⻹±È½Ï¶à£¬ÒÔϽöÁгöÆäÖм¸¸ö¡£
Âִν»ÌæÎÊÌ⣺¶Ô»°µÄÒ»¸öµäÐÍÌØµãÊÇ´æÔÚ¶Ô»°Ë«·½»ò¶à·½µÄ½»Ìæ·¢ÑÔ£¬½»ÌæÐÎʽҲ¶àÖÖ¶àÑù¡£±ÈÈ磬˫·¢¶Ô»°Ê±¿ÉÄÜÒ»·½ÂÖÁ÷˵һ¾ä£¬Ò²¿ÉÄܳöÏÖij·½Á¬ÐøËµ¼¸¾äµÄÇé¿ö¡£Òò´Ë£¬ÔÚ¿ÚÓï¶Ô»°Ê±£¬ºÜÖØÒªµÄÒ»¸öÎÊÌâ¾ÍÊÇÒª¾ö¶¨»úÆ÷ÔÚºÎʱ¿ªÊ¼Ëµ»°¡£¼òµ¥µÄ»ùÓÚÎïÀíÐźţ¬ÈçÉèÖþ²Ä¬µÈ´ýʱ¼äµÈ·½Ê½£¬ÔںܶàÔ¤¶©ÐÅÏ¢·þÎñÖÐÊDz»¿ÉÐеġ£ÒòΪ£¬ÔÚÕâЩ·þÎñÖУ¬Óû§¾³£ÐèÒª½øÐÐÏÖ³¡¿¼ÂÇ¡£Èç¹ûÉèÖõĵȴýʱ¼ä¹ý¶Ì£¬Óû§¿ÉÄÜ»¹ÕýÔÚ¿¼ÂÇ£¬²¢Ã»ÓÐÍê³É±íÊö£»¶øµÈ´ýʱ¼ä¹ý³¤£¬Óû§»á¾õµÃ¶Ô»°²»Á÷³©£¬Óû§ÌåÑé²»ºÃ¡£¶ø»ùÓÚÄÚÈݵÄÂִν»Ì滹ÒÀÀµÓïÒôʶ±ðºÍÓïÑÔÀí½âµÄÐÔÄÜ¡£
Ö÷Ìâת»»ÎÊÌ⣺¼´Ê¹ÔÚÃæÏòÌØ¶¨ÈÎÎñµÄ¶Ô»°ÖУ¬Ò»´ÎÍêÕûµÄ¶Ô»°Ò²ºÜ¿ÉÄÜÐè񻃾¼°¶à¸ö²»Í¬µÄÖ÷Ìâ¡£ÀýÈ磬ÔÚÔ¤¶©»áÒéÊҵĶԻ°ÖУ¬Ë«·½ÖÁÉÙÐè񻃾¼°µ½»áÒéÕÙ¿ªµÄʱ¼ä¡¢µØµã¡¢ÈËÊý¡¢Ô¤ËãµÈÈô¸É²»Í¬Ö÷ÌâµÄÄÚÈÝ¡£¶Ô»°¹ÜÀíÐèÒªÄÜËæ×ŶԻ°µÄ½øÐÐÍê³É¸÷¸öÖ÷ÌâÖÐÏàÓ¦ÐÅÏ¢µÄ»ñÈ¡ÈÎÎñ¡£ÔÚ¶Ô»°Ê±£¬ÎÞÂÛ²»Í¬Ö÷Ìâ¼äÊÇ·ñ´æÔÚÒÀÀµ¹ØÏµ£¬¶Ô»°¶¼ÐèÒªÔÚ²»Í¬µÄÖ÷Ìâ¼ä¿çÔ½¡£Òò´Ë£¬ÔÚ¶Ô»°Ê±£¬¾ö¶¨ºÎʱ´ÓÒ»¸öÖ÷Ìâת»»µ½ÁíÒ»¸öµÄÖ÷Ì⣬ÊÇÓû§¹ÜÀíÐèÒªÍê³ÉµÄÒ»¸öÖØÒªÈÎÎñ¡£½ø¶ø£¬ÓѺõÄÈË»ú½»»¥ÔÚÔÊÐí»úÆ÷Ö÷µ¼Ö÷Ìâת»»µÄͬʱ£¬Ò²Ó¦¸ÃÔÊÐíÓû§×ÔÖ÷½øÐÐÖ÷Ìâת»»£¬¶ø´Ëʱ£¬¶Ô»°¹ÜÀíÐèÒªÒÀ¾ÝÆä״̬¾ö¶¨ÊÇ·ñ¸úËæ½øÐÐÖ÷ÌâµÄת»»¡£
ÈÎÎñ±ä»¯ÎÊÌ⣺ĿǰµÄÈÎÎñÐͶԻ°¹ÜÀí´ó¶àÊÇÕë¶ÔÌØ¶¨(ÀàÐÍ)ÈÎÎñµÄ£¬¹¹½¨¶Ô»°¹ÜÀíÄ£ÐÍʱÐèÒª¶ÔÈÎÎñÐèÇó½øÐÐÃ÷È·µÄ¶¨Ò壬ÒÔʹÈÎÎñÖпÉÄÜÉæ¼°µÄÖ÷ÌâÔڹ涨µÄ·¶Î§Öб仯¡£µ«ÊÇ£¬ÏÖʵÊÀ½çµÄÈÎÎñÓÐ
11
Öйú×ÔÈ»ÓïÑÔ´¦Àí°×ƤÊé
ÎÞÇî¶àÖÖ(ÀàÐÍ)£¬ÈçºÎʹһ¸ö¶Ô»°¹ÜÀíÄ£ÐÍÄÜ¿ìËÙÊÊӦеÄÈÎÎñ(ÀàÐÍ)£¬ÊÇÒ»¸öÐèÒª½øÒ»²½Ì½Ë÷µÄÎÊÌ⣬Õâ¸öÎÊÌâÓ뺺ÓïÇзÖÖÐÓïÁÏÁìÓòºÍ·ç¸ñ·¢Éú±ä»¯Ê±ÈçºÎ±£³ÖϵͳÐÔÄÜÎȶ¨ÀàËÆ¡£
3.3 С½á
´ÓÉÏÃæµÄ½éÉÜ¿ÉÒÔ¿´µ½£¬ÃæÏòÌØ¶¨ÈÎÎñµÄÈË»ú¶Ô»°ÏµÍ³ÔÚÈÎÎñÃ÷È·¶¨Òåʱ¿ÉÒԽϺõØÍê³É»ñÈ¡ÐÅÏ¢µÄÈÎÎñ¡£µ«ÊÇ£¬¶Ô»°¹ý³ÌµÄ¹ÜÀí»¹ÓкܶàÐèÒªÌá¸ßµÄ£¬ÓÈÆäÔÚÓïÒôʶ±ðºÍÓïÒåÀí½â»¹´æÔÚ²»È·¶¨ÐÔµÄÌõ¼þÏ¡£Òò´Ë£¬Ä¿Ç°Çé¿öÏ£¬Ï£ÍûµÃµ½ÔÚ´ó·¶Î§ÄÚ¾ßÓÐÈË-È˶Ի°ÌåÑéµÄÈË-»ú¶Ô»°ÏµÍ³»¹ÊDz»Ì«ÏÖʵµÄ¡£
12
Öйú×ÔÈ»ÓïÑÔ´¦Àí°×ƤÊé
µÚ4Õ ×ܽá
Ç°ÃæÁ½Õ·ֱð½éÉÜÁ˺ºÓïÇзּ¼ÊõºÍÈË»ú¶Ô»°ÏµÍ³µÄÏÖ×´£¬²¢½øÐÐÁËһЩ·ÖÎö£¬±¾Êé²»´òËãÒ²²»¿ÉÄÜÖðÒ»¶Ô¸÷ÖÖ¼¼ÊõºÍÓ¦Óö¼½øÐе¥¶ÀµÄ·ÖÎö¡£×ÜÌå¶øÑÔ£¬×ÔÈ»ÓïÑÔ´¦ÀíµÄÑо¿ºÍÓ¦ÓÃÔÚ¸÷¸ö·½Ãæ¶¼´¦ÓÚ³ÖÐø·¢Õ¹ÖУ¬ÕâÖÖ·¢Õ¹µÄÇ÷ÊÆÔÚ½ü¼¸ÄêÓÈΪÓÐÁ¦¡£ÒòΪ×ÔÈ»ÓïÑÔ´¦ÀíÁìÓòÔÚ½ü¼¸Äê³öÏÖÁËÒ»¸ö·Ç³£ºÃµÄ·¢Õ¹Ê±ÆÚ¡£¾ßÌå±íÏÖÔÚÈçϼ¸¸ö·½Ãæ¡£
ÓÉÓÚÀ´×Ô»¥ÁªÍø²úÒµºÍ´«Í³²úÒµÐÅÏ¢»¯µÄ¸÷ÖÖÓ¦ÓÃÐèÇóµÄÍÆ¶¯£¬¸ü¶àµÄÑо¿ÈËÔ±ºÍ¸ü¶àµÄ¾·ÑÖ§³Ö½øÈëÁ˸ÃÁìÓò£¬ÓÐÁ¦µØ´Ù½øÁË×ÔÈ»ÓïÑÔ´¦Àí¼¼ÊõºÍÓ¦Óõķ¢Õ¹¡£
ÓïÑÔÊý¾ÝµÄ²»¶ÏÔö³¤¡¢¿ÉÓõÄÓïÑÔ×ÊÔ´µÄ³ÖÐøÔö¼Ó¡¢ÓïÑÔ×ÊÔ´¼Ó¹¤ÄÜÁ¦µÄÎȲ½Ìá¸ß£¬ÎªÑо¿ÈËÔ±ÌṩÁË·¢Õ¹¸ü¶àÓïÑÔ´¦Àí¼¼Êõ¡¢¿ª·¢¸ü¶àÓ¦ÓᢽøÐиü·á¸»ÆÀ²âµÄƽ̨¡£
»úÆ÷ѧϰ¼¼Êõ£¬ÓÈÆäÊǽüÄêÀ´Éî¶Èѧϰ¼¼ÊõµÄ·ÉËÙ·¢Õ¹£¬´Ì¼¤Á˶ÔеÄ×ÔÈ»ÓïÑÔ´¦Àí¼¼ÊõµÄ̽Ë÷¡£Í¬Ê±£¬À´×ÔÆäËûÏà½üѧ¿Æ±³¾°¡¢À´×Ô¹¤Òµ½çµÄÈËÔ±µÄ²»¶Ï¼ÓÈ룬ҲΪ×ÔÈ»ÓïÑÔ´¦Àí¼¼ÊõµÄ·¢Õ¹´øÀ´ÁËһЩÐÂ˼·¡£
¼ÆËãºÍ´æ´¢É豸µÄ·ÉËÙ·¢Õ¹£¬ÌṩÁËÔ½À´Ô½Ç¿´óµÄ¼ÆËãºÍ´æ´¢ÄÜÁ¦£¬Ê¹µÃÑо¿ÈËÔ±ÓпÉÄܹ¹½¨¸üΪ¸´ÔÓ¾«ÇɵļÆËãÄ£ÐÍ£¬´¦Àí¸üΪ´ó¹æÄ£µÄÕæÊµÓïÑÔÊý¾Ý¡£
ÔÚÕâЩÓÐÀûÌõ¼þµÄÖ§³ÖÏ£¬ÎÒÃÇÏàÐÅ×ÔÈ»ÓïÑÔ´¦Àí¼¼ÊõÔÚδÀ´»á¼ÌÐøÈ¡µÃ¸ü¶àµØ³É¹û£¬ÏàÐÅ×ÔÈ»ÓïÑÔ´¦Àí¼¼ÊõÊÇÖµµÃ´ó¼ÒÆÚ´ýµÄ¼¼Êõ¡¢ÄܲúÉú²»¶ÏÂú×ã´ó¼ÒÆÚ´ýµÄÐÂÓ¦Óá£
µ«ÊÇ£¬ÁíÒ»·½Ã棬ÎÒÃÇҲϣÍû´ó¼ÒÔÚ¿´µ½×ÔÈ»ÓïÑÔ´¦Àí¼¼ÊõµÄ½øÕ¹Ê±ÓÐÒ»¸öÇåÐѵÄÈÏʶ¡£ÒÔÏÂÒÔÓïÒå·ÖÎöΪÀý²ûÊöÕâµã¡£
ÓïÒå·ÖÎöÊǵ±Ç°×ÔÈ»ÓïÑÔ´¦ÀíÑо¿µÄÒ»¸öºËÐÄ¡£Ñо¿ÈËÔ±ÔÚ´Ê
13

