CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T...

14

Transcript of CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T...

Page 1: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

������������������ ������������������ ����� ���� "!���#!���#�$���%���&�(' )�#�*+�,���%����.-/*102����,�3�

4157698;:=<?>A@CBD:FEHGI:=J;GIKLJMGNED<?OQPR>7:=ST<

UWV9XZY�[]\C^�V9_`\�a?b c�_Zdfeg_TV9VH[Ceg_Zd(h=i9egV9_Zi9V?jZkl_ZegmnVH[Co]ep\rq.a�btslu=b7a?[wvxjNslu=bya?[wvzs�{2|W}f~ �Tj�kl���� ^�e�oCY%[wv;jZY?�N�?�l[Caf�Na�\Co9� a%ux� Y?i?� �T�NjN�F|9�f�f�(�?�?}?�F|,�

�(�A�9�H���Z�f�f�

�r_�~�[Ca`i?�Nc��T[CafXNV9Y?_���a?_Tb��x��af^�XT�T\CVH[��lego]e�a?_MjM|,�f�?�FjZXZXM�Z}?�f}%�`}n�?�=j;��Y?^2�T[Ce�vTd?VfjTkR�

 �¡ZV#XT[Ca?�Z¢gV9^£a�bR\][wY�iD�=eg_Zd¤i9�T[CmfV9o$eg_¥vTV9_To]V�m=ego]��Y?¢�iH¢��F\]\CVH[�egoY#iw¡�Y?¢g¢gV9_Tdfeg_Zdza?_ZVf�3 M[wY�iD�nVD[Co)��Y?o]V9v�af_��LY?¢g^.Y?_�¦�¢p\CVH[Co§Y%[CV�a?b�¢geg^�ep\CV,v��To]Vf¨�NV9i,Y?�To]VW\C¡ZVHq�Y�[CVL�ZY?o]V,v�a?_�©WY?�To]o]e�Y?_¤vTV9_To]ep\Ce�VHo�ª�¡Te�iw¡�Y%[CV§�T_Zeg^�a=vZY�¢«jT\C¡TVHqi,Y?_T_Za?\t[CV9XT[CVHo]V9_`\�o]eg^$�T¢p\wY?_ZVHaf�Zo�Y?¢p\CVH[C_ZY�\CegmnVR¡`qFXNa?\C¡TV9o]V9o9�=cAu=\CV9_Zo]ega?_Zot\Ca)\C¡TV�LY?¢g^.Y?_.¦�¢p\CVH[�\Ca2¡�Y�_�vT¢gVW^2�Z¢p\CegXZ¢gVWvTY�\wY2Y?o]o]a`i9e�Y�\Cega?_Zolª�a?[C�.oCY�\Cego¬b7Y?iH\Ca�[Ce�¢pq�e�_\C¡ZV�o]eg^�XT¢�V�i,Y?o]Vza�b)XNafeg_`\�\wY�[Cd?VH\Co9jt�Z�T\�vTaI_Ta?\�VDuF\CVH_�v+_�Y�\C�F[wY?¢g¢pq+\CaIi9a?_T­\Ce�_=�Taf�Zo�i9�F[CmnV9o9�Z®¯_ZVDª)jNo¬\Ca`iD¡ZY?o¬\Cegi2Y?¢gdfa�[Ceg\C¡T^°e�olXT[Ca?XNafo]V,vz¡TVH[CVfjF\C¡ZV$±l²;³x´µM¶ ³x·H¸=¹Nºy²;³�Y?¢gdfa�[Ceg\C¡T^¼»½��af_�vFep\Ce�a?_�Y�¢¾UWV9_To]eg\�qz~A[CafXZY?dfY�\Cegaf_¤a%mnVH[�\Ceg^�Vf�Z�¿\�Zo]V9o§À b7Y?iH\Ca�[CV,v�oCY�^�XZ¢geg_ZdTÁgj;Y.^�VH\C¡Za=vzXF[CV9m=egaf�Zo]¢pq¤Y�XZXZ¢gegV,v�\Ca#eg_`\CVH[CXF[CVH\wY�\Cegaf_a?bto¬\wY�\Cegi�eg^.Y?d?V9o9jxeg_¤ª�¡Te�iw¡�\C¡ZV2vTego¬\][Ceg�Z�T\Cega?_�a�b�XNafo]o]eg�T¢�V$e�_`\CVH[CXF[CVH\wY�\Cega?_ZoWego[CV9XT[CV9o]VH_=\CV9v��`q�Y#[wY?_ZvTaf^�¢pq¤dfVH_ZVH[wY%\CV,vIo]VH\§a?b�[CV9XT[CV9o]VH_=\wY%\CegmnV9o9�A �¡TV#±l²;³x´µM¶ ³x·H¸=¹Nºy²;³�Y�¢gdfa?[Cep\C¡T^�i9a?^$�Zeg_TV9olb7Y?iH\Ca�[CV,v�oCY?^�XZ¢geg_Zd�ª�ep\C¡�¢gV,Y�[C_TV,v�vFqF_�Y�^�­e�i9Y?¢R^�a=vFV9¢go(\Ca1XF[CafXZY?dnY%\CVIY�_ÂV9_`\Cep[CV�XT[Caf�ZY?�Te�¢gep\rqÂvTego¬\][Ceg�Z�F\Ce�a?_Ãb7a�[za?�FÄrV9iH\XNafo]ep\Cegaf_¥Y?_�v1o]¡ZY?XNVfj a%mnVH[2\Ce�^�V?�� �¡ZV([CV9o]�Z¢p\�ego�¡Te�d?¡Z¢pq1[Caf�T�Zo¬\2\][wY?iw�Feg_Td�a�bY?dfeg¢gV�^�a�\Ce�a?_�eg_�i9¢g�T\]\CVD[,jM^.Y%[C�nV,vF¢gq�o]�ZXNVH[Cega�[)\Ca(ª�¡ZY�\)¡ZY?oWXF[CV9m=e�a?�Zo]¢pq��NV9V9_Y�\]\wY?eg_ZY?�Z¢gVWbÅ[Caf^°�LY?¢g^.Y?_(¦�¢p\CVH[Ceg_ZdF��Æla?\rª�ep\C¡To¬\wY?_�vFeg_Zd$\C¡TVW�Zo]V)a�b�o¬\Ca`iD¡ZY?o¬\Cegi^�VH\C¡Za=vFo9jF\C¡TV)Y?¢gd?a?[Cep\C¡Z^Ç[C�Z_To�eg_z_ZV,Y%[�[CV,Y?¢p­È\Ceg^�Vf�

É Ê¥Ë§ÌQÍ2ÎxÏ�Ð$ÑCÌ Ò Ï�Ó�ÔNÎxÕ�Öx×)ØwÙ§Ú�ÖAÛ§ÎNÜ�Ì ÝÞØDÙÖAÑwÛ)Ô�ÔNÌ�ÎßW8x<IàxáxEHàMâZBw<�â=ãLäH8x57B#àM:=à3<�Ez5yB(äDâÃ<?BwäH:Fåx>y5yBD8/:ÃBCäHâ�698M:FBwäD576�ãÈE9:=æz<�ORâFEHS+ãÈâTE#äHEH:T69S�5ÅJxç6%á;EDèT<?BL5yJ+è�57Bwá;:F>t6�>ÅáNäDäD<?E?é¾:=J;GIäHâ¤àxEHâFà3âTBD<.:�à3â`OR<�EDãÈáx> Jx<?OQäD<?698;Jx5yêZáx<.ëìäH8x<�í$îtï¾ðñ ò ï ó%ôNõAöÈîtï÷:=>yçFâTED5ÅäD8;æIø�ßW8x<¤J;<�Où:=à;àxEDâZ:F698Â57B.EHâZâFäD<fGÂ5ÅJ/BwäDE9:=JMGxB�ãÈEHâFæúBCä9:`äH5yBwäD576�B?é6%âTJZäDEHâF>=äH8x<�âTEDû$:=J;G(6%âFæzàxáxäD<�Etè�5yBD5ÅâTJ�ø?ßW8;<�àxEHâFåx>y<�æQ57BAäDâ§äDE9:F69S2âFáNäH>Å5yJx<?Bt:=J;G�ãÈ<?:`äHáxEH<?Bâ=ãlãÈâFEH<�çTEDâTáxJ;G1âTåNüC<?6%äHB?éAæ�âNGN<?>Å>y<?GÃ:FB�6�áxEDèT<?B?éA:FB2äD8x<?û+æzâ`èF<#5ÅJ¯ý,þ;ÿ,ý�������������6%>yáNäwäH<�Efé:=JMG�äDâ$GNâ§5Åä�:`ä?énâTE�6�>ÅâZBw<�äHâ;énè�5yGx<�âLãÈE9:=æz< �rE9:`äH<Fø?ßW8;5yB�57Bt698;:F>Å>y<�J;çF5yJxçLå3<?6�:Fá;BD<�<�>y<�æz<?JTä9B5yJäD8x<#å;:F69S�çFEHâFá;J;G¤6�>ÅáNäDäD<?E§æ�:nû�æz5yæz5y6�àM:=EDäHB)âFã�ãÈâTED<?çFEHâFáxJMG�ãÈ<f:`äDá;ED<fB�øx@]JäH8x<.æzâTBwäBD<�èF<?ED<26�:FBD<Fé=äD8x<$å;:F69S�çTEDâTáxJ;G#æz:nûz6%âTJ;BD5yBwä�â=ã�âTåNüC<?6%äHBlBw5yæz5Å>7:=E�äDâ.äH8x<LãÈâTED<?çFEHâFáxJMG#âTå��üC<?6%ä?éZãÈâFEl5ÅJMBCä9:=J;6�<LO)8x<�J�:.à3<�E9BwâTJ�5yBlæzâ`èZ5yJxç�à;:TBCäW:.6%EHâ`OLGAø��2áxE�ãÈE9:=æz<�ORâFEHS#:F5Åæ�B�äDâGN57BDBDâF>yèF<läD8;<REH<?BDáx>ÅäD5yJxç�:=æ(å;5ÅçTáx5�äCû�å�û.:Fàxàx>yûZ5yJxç$àxEHâFå;:Fåx5Å>y57BCäH5y6læzâ�Gx<�>7BtâFãMâTåNüC<?6%ä�BD8;:=à3<:=JMG¤æzâ=äH5ÅâTJ�äHâ�:FJ;:=>yûNBw<§äD8x<�è�5yGx<�â��]BwäDEH<?:=æø�ßW8x<�GN<�çTED<?<§â=ã�çF<?Jx<�E9:=>y5�äCûzâFã�äD8x<fBw<$æzâNG��<�>7Bzæ(áMBCä�å3<àx5�ä9698x<?G 6?:=EH<%ãÈáx>y>Åû���BDá���6%5y<�JZäD>yû/BDàM<f6%5��M6IãÈâFEz<��¾<?6%äD5yèF<+GN57BH:=æ(å;5ÅçTá;:`äH5ÅâTJåxáNäWBwá���6�5Å<?JZäD>yû#çT<�Jx<?EH:F>�äDâ.å3<LåxEHâT:TGN>Åû�:=àxà;>Å576�:Fåx>Å<)â`èT<�E�<?JTäH5ÅEH<§6�>y:TBDBD<?B�âFã3ãÈâTED<?çFEHâFáxJMGâFåxüC<?6,ä9B�ø���� ��� �"!$#�#%�&('*),+"-�./!0-�&"�213��4,%���&56�¾<?6%äD5yèF<#æ�<�äD8xâNGxB$8;:nèT<(:=EH57Bw<?J15ÅJÃ6%âFæzàxáxäD<�E$è�5yBD5yâFJãÈâFE$æzâNGN<�>y>Å5yJxçBw8M:=à3<#:=JMG1æzâ��äD5yâFJ ø87÷8x<?J�Bwá;5�ä9:=åx>y<LçF<?âFæz<%äHED576WæzâNGN<�>7B�âFãA:.æ�â`è�5yJxç�âFåxüC<?6,äR:=EH<L:nèn:F5Å>7:=å;>Å<Té`äD8x<?û�6�:=J

Page 2: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

å3<.æ�:`ä9698x<?G< �3<f6,äD5yèF<?>Åû�äDâ¤5Åæ�:=çT<.Gx:`ä9:xé;äD8xâTáxçF8á;BDá;:=>y>yûI:=ä26%âTJ;Bw57GN<?EH:Fåx>Å<�6�âFæzàxáNä9:��äH5ÅâTJ;:=>36%âTBwä:9�;=<Zé�>�?Né�;,@=A¬ø��2JM6%<§:FJ�âFåNüC<f6,ä�8;:TB�å3<�<�J¤>ÅâN6�:=äD<fG�:=àxàxEHâ=BN5Åæ�:=äD<�>yûFénäHEH:T69S�5ÅJxç5Åä25yJ BDáxå;BD<?êZáx<�JZä§5yæ�:=çT<?B)å3<?6�âFæz<?B§æ�âTED<(<���6%5y<�JZä$6�âFæzàxáNä9:`äH5ÅâTJ;:=>y>ÅûC9 >ED�A¬é;<fBwà3<?6�5y:F>Å>yû5ÅãMæzâ=äH5ÅâTJ#57B�æzâ�Gx<�>y>Å<fG�:TB�Ol<?>Å>N:FB�BD8;:=à3<F9G;=>�é�;,?�Arø8�2Jx<W5yæzàMâTEwä9:=JZätã¿:T6%5y>Å5ÅäCû.57B�äD8x<WæzâNG��<?>Å>y5ÅJ;ç.â=ã�6%á;EDèT<LBw<?çFæz<�JZäHB�O)8x5y698�5yJZäD<?EH:T6,ä�O)5ÅäD8�5yæ�:=çF<fBH9 >�I=A3âFE�5yæ�:=çF<LBD<?êZáx<?J;6%<fBH9�;,I�A¬øßW8x57B�5yB�æzâFEH<IçF<�J;<�E9:=>läD8;:FJ/æzâNGN<�>y>Å5yJxçÂ<�JZäH5ÅEH<�âTåNüC<?6%äHB�åxáNäzæzâFEH<I6�>ÅáxäwäD<?EJ�¬EH<?BD5yBwäH:FJTääH8;:=JÞ:Fàxàx>yûZ5yJxç+BD5ÅçTJ;:=>��¬àxEDâN6�<?BHBw5yJxç�äHâ+>yâ`OK�r>y<�èT<�>�6%âTEDJ;<�E9B�âFE�<?GxçF<?B?ø ßW8x<¤æ�<�äD8xâNGxB.äDâå3<(GN57BD6�á;BHBw<fG8x<�EH<�8;:nèF<�å3<�<?J+:=àxà;>Å5y<?G1:=äLäD8x57BL>y<�èT<�>réxäHâ¤Bw<?çFæz<�JZä9B)â=ã�à;:FEH:Fæ�<�äDEH5y6�PL�BDàx>y5ÅJx<�6�áxEHèF<?BM9 N�A�äHEH:T69S�5ÅJxçIâ`èF<?E�5Åæ�:=çT<�Bw<fêTá;<�J;6�<?BO9 @=ArøtßW8x<�PL�¬BDàx>y5ÅJx<�6�áxEDèT<?B�6�âFáx>7GAé5yJ äH8x<�âTEDûTé¾åM<zà;:FEH:Fæ�<�äD<?ED57Bw<fG1å�ûäD8x<?5ÅE.6�âFJZäDEHâF>�à3âF5yJTä9B�øA@]JÃàxE9:F6%äD576%<#äD8x57B�:=>y>Åâ`OLB§äDâ�âæ�:=J�û Gx<�çFEH<�<fB$â=ã�ãÈEH<�<fGNâFæ ãÈâFE.BwäH:=å;>Å<zäHEH:T69SZ5yJxç:=J;G¥5Åä.5yB�Jx<f6%<fBDBH:=EHûäDâ1EH<?BwäDEH5y6%ä2äH8x<6�áxEDèT<WäDâ(:.>Åâ`OK�]GN5yæ�<?J;BD5ÅâTJ;:=>Nà;:FEH:Fæz<%äD<?EQP éFãÈâFEl<�Bx:=æzàx>y<)â`èF<?E�:=J�:��zJ;<LBwà;:T6%<R9 >�@xé$S=A¬éâTERæzâTED<�çF<?Jx<�E9:=>y>yû�:=>y>Åâ`O)5yJxç�:�>Å5yJx<?:FELBwàM:F6%<$â=ã�JxâTJ��rEH5yçF57G�æzâ=äH5ÅâTJT9 I=A¬ø

U�5ÅJM:=>y>ÅûTélàxEHâFåM:=åx5y>Å5ÅäCû Gx<�J;BD5�äH5Å<fBWV"XYP�Z¤6�:FJ÷åM< Gx<��;Jx<fG÷â`èF<?EzäD8x<Ã6%>7:FBHB�â=ã.6�áxEDèT<?B9 I=A¬é�:=J;GÃ:=>7BwâIâ`èF<?E§äH8x<�5yE�æzâ=äH5ÅâTJ;BM9 >$<�é[S\A¬é�:=J;G äD8;5yB�6�âFJ;BwäD5ÅäDáNäH<?B�:Ià3â`Ol<?EwãÈáx>�ã¿:T6%5y>Å5ÅäCûãÈâTE¤äHEH:T69SZ5yJxçMøL])<f:FBDâFJ;:Fåx>Å<¥GN<%ã¿:Fáx>�äIãÈáxJ;6%äD5yâFJ;BI6�:FJ å3<Ã698xâZBw<?J÷ãÈâFE�äD8;âTBD<¥GN<?J;Bw5ÅäD5y<?B?ø^§â`Ol<?èF<�Efé�5�ä¤57BzâFå�è�5yâFá;BD>Åû æzâTED<1BH:`äD57Bwã¿:F6,äHâFEHûÂäDâÂæz<?:TBwáxEH<IäD8x<+:T6,äHá;:=>LGN<?J;BD5�äH5Å<fB�âFE<fBCäH5Åæ�:`äH<LäH8x<�æ�ãÈEHâFæ Gx:`ä9:��]Bw<fêZáx<�J;6�<?BHXP�_�`JP�aE`,b b b Z,øNKL>yçFâTED5ÅäD8;æzB�äDâ�GNâ�äD8;5yBW:FBHBDáxæz5ÅJxçc :Fá;BDBD57:=J�GN<�JMBw5ÅäD5y<?Bl:=EH<LS�Jxâ`O)Jz5ÅJ�äH8x<§6�âFJZäDEHâF>���äH8x<�âTEDû(>Å5ÅäD<?EH:=äDáxEH<R9�;,N=A¾:=J;Gz8;:nèT<)åM<?<�J:Fàxàx>y5Å<fG¤5yJ16%âFæzàxáxäD<�E)è�57Bw5yâFJT9 ?xé�<Zéed�Arø���gf h -�13."#�%&"'*13!$4\+(� �")K BCä9:=J;Gx:FEHGÂà;EDâTåx>Å<?æú5ÅJ/BwäH:=äD57BCäH5y6?:=>là;:`äDäD<�EHJÞEH<?6�âFçFJ;5�äH5ÅâTJ 5yB(äDâ0�MJ;G/:FJÞâFåNüC<f6,ä(àM:��E9:=æz<%äH<�EH5yBD<?G¥:FBiPÞO)5ÅäD8ÂàxEH5yâFEKV(XP�Z,étá;BD5ÅJxç1Gx:=äH:0jIãÈEHâFæ :BD5ÅJ;çF>y<�5Åæ�:=çT<FøQX�ßW8x5yB.5yB�:BD5Åæzàx>y5��;<?GAé¾BwäH:`äH5y6�ãÈâFEHæ âFã�äH8x<(5yæ�:=çT<.Bw<fêTá;<�J;6�<.àxEHâFåx>y<�æ:FGxGxED<fBDBD<?GI5yJäD8x57B§àM:=à3<�Efø Z@]J�âTEHGx<�E�äHâ(<?BwäD5yæ�:`äH<HP¤ãÈEHâFækjMéTBDâFæz<L5yJNãÈâFEHæ�:`äD5yâFJ�57BlJx<�<fGN<?G�:FåMâTáNä�äH8x<26�âFJ;GN5ÅäD5yâFJM:=>GN57BwäDEH5ÅåxáxäD5yâFJlV(Xj�m P�Z�O)8x57698#æz<f:FBDáxED<fBtäD8x<Fn��o8p n��q�r\r,szäD8;:=ä�:28�û�à3â=äD8;<%äD576�:F>NâFåNüC<f6,ä�6%âTJ���;çTáxE9:`äD5yâFJRP�BD8xâFá;>yG(çF5yèF<�EH57Bw<läDâ§äD8x<W5yæz:FçF<RGx:`ä9:tj§äD8;:=ä�8;:FB;üCá;Bwä�å3<�<?J(âTå;Bw<?EDèT<?GAønßW8x<Gx:=äH:Mj�6%âTáx>7G¤<?5�äH8x<�E)å3<.:=J<�JZäH5ÅEH<�çFEH<�û$�r>y<�èT<�>¾:=EHEH:nûzâTEL:�BD<%äLâFã�BDà;:=E9BD<§ãÈ<f:`äDá;ED<fB)Bwá;698:TBl6�âFEHJx<�E9B�âTE?é�:FBl5ÅJ�äD8x57BRà;:=à3<�EféN6%áxEHèF<)ãÈE9:=çTæz<�JZäHBlâFåNä9:=5yJx<?G�åZû�<fGNçF<$GN<%äH<?6%äD5yâFJ�øNßW8x<à3âTBwäD<?ED5yâFE$GN<�J;BD5ÅäCûuV"XYPvm j�ZLEH<�à;ED<fBw<?JTä9B§:F>Å>täD8x<�S�Jxâ`O)>y<?GNçT<(:=å3âFáNälP äH8;:`ä�57B2GN<fGNá;6�5Ååx>y<ãÈEHâFæ äD8x<2Gx:`ä9:xøF@¬äW6�:FJ�åM<L<?è`:=>yá;:`äH<?Gz5yJ�àxEH5ÅJ;6�5Åà;>Å<Lå�ûz:=àxà;>Åû�5yJxç.PW:nûF<?B,w=EHáx>y<)äDâ.âTåNäH:F5ÅJ

V"XYPvm j�Z/xzy�V(Xj�m P�Z{V"XYP�Z XJ;\ZO)8x<?ED<:y�57B�:.JxâFEHæ�:=>y5yBH:`äH5ÅâTJz6�âFJ;BwäH:FJZä�äD8;:=ä�5yB�5ÅJMGN<�à3<�J;Gx<�JZälâFã�PtøT@]JzäH8x<§çT<�Jx<?EH:F>;6�:TBw<äH8;:`äFV(X�j�m P�Z(57Bzæ(áx>ÅäD5��ræzâNGx:F>"V"XYPvm j�Z�6�:=J;Jxâ=äzåM<<?èn:F>ÅáM:`äD<fG BD5yæ�à;>Åû 5yJ¯6�>ÅâZBw<fG ãÈâTEDæ|�5yJ;BwäD<?:TG¤5ÅäD<?EH:=äD5yèF<�BH:=æzàx>y5ÅJxç�äH<?698xJx57êZáx<?B)6?:=JIåM<�áMBw<fGAø

ßW8x</�;EHBwätáMBw<�âFã;BwáM698.:=J.5ÅäD<?EH:=äD5yèF<�BDâF>yáNäD5yâFJ�OW:FB�àxEDâTàMâZBw<fG�å�û c <?æ�:=J.:=JMG c <�æ�:=J9�;E;�A3ãÈâFEREH<?BwäDâFE9:`äH5ÅâTJzâ=ã :=J¤5Åæ�:=çT<LEH<�àxEH<?BD<�JZäD<fGzå�û�æz5�BN<?G�è`:=EH57:=åx>y<?B?éFå3â=äH8�6%âTJZäD5yJZá;âFá;BX¿àx5GBN<?>yB}Z�:=J;G¯GN57BD6�ED<�äD<~X«äH8x<C� >y5ÅJ;<1àxEDâN6�<?BHB w�Z,øQ�N:Fæ�à;>Å5yJxçÂæz<%äD8;â�G;B�ãÈâFE�EH<?6%â`èT<�EHû¥âFã$:à;:FEH:Fæz<%äDEH57626�áxEDèT<tP1å�û¤BH:=æzàx>y5yJxç09 >�dxé ; d;ée>ES\A 8M:nèF<$çF<�J;<�E9:=>y>Åû�á;BD<?GIBDà;:`äH5y:F>�4+:=EHSFâ`èàxEHâN6%<fBDBD<?B2:FB2äD8x<�áxJ;Gx<�EH>Åû�5yJxç�à;EDâTå;:=åx5y>y5yBwäD576.æzâNGN<�>�V"XYP�Z%ø�ßW8x<�å;:FBD5y6(æz<%äD8;â�G¥57B����8�����r���p}sÃý ���H��n�{�$��9�; d�A¬ø�@¬ä¤57B�á;BD<%ãÈá;>LO)8x<�J¯äH8x< 6%âTJ;GN5ÅäD5yâFJ;:F>)âFå;BD<�EHè`:`äH5ÅâTJ àxEHâFåM:=åx5y>Å5ÅäCûV"Xj�m P�Z�6�:FJ÷åM<+<?è`:=>yá;:`äH<?G à3âF5yJTäCO)57BD< :=J;G÷BH:=æzàx>y5yJxç 5�äI5yB¤Jxâ=ä¤ãÈ<?:FBD5yåx>Å<¥:=J;G O)8x<?J�é6�âFJ�èF<?EHBD<�>yûFé�äH8x< à;ED5yâFE�V(XYP�Z¤6?:=J÷å3<ÃBH:=æzàx>y<?G å;áNäIJ;â=ä�<?è`:=>yá;:`äH<?GAøWßW8x<¥:F>ÅçTâFEH5�äH8xæ

Page 3: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

<?BwäD5yæ�:`äH<?B�æz<?:=JMB#âFã2àxEHâFà3<�EDäD5y<?BM�vXYP�Z�XÈ<Fø ç;ø�æzâTæ�<?JZäHB}Z.âFãLäD8x<à3âTBwäD<?ED5yâFElV(XP"m j$Z#å�û�;E9BCä�çF<?Jx<�E9:`äH5ÅJ;ç¤E9:=J;GNâTæz>Åû+:�BD:Fæ�à;>Å<|X���_�`��\a�`,b b b�ZLãÈEDâTæäD8x<�GN<?J;Bw5ÅäCûOV(XP�Z�:FJ;G1äH8x<�JOR<�5yçF8ZäD5yJxçzO)5�äH8MV(Xj�m P�Z��

��9 �vXYP�Z,m jEA����2���� _ �vX�� � Z{V"Xj�m � � Z� ���� _ V(X�j�m � � Z

X�>EZO)8x<?ED<(äD8x57B§57B$:FBDûZæzàNäHâ=äH5y6?:=>y>ÅûCX������Z§:=J+áxJ�åx57:FBD<?G<fBCäH5Åæ�:=äD<Fø�UxâTE§< BN:Fæzàx>Å<Té;äH8x<æz<?:FJ¯6?:=J¯åM<1<fBCäH5Åæ�:`äH<?G¯á;BD5ÅJ;ç~�vXP�Z x¡P :FJ;GÞäH8x<1è`:=EH5y:FJ;6%<Iá;BD5ÅJ;ç~�vXP�Z�x¢P�P�£lø@¬ãKV(XYP�Zz57B�:ÂBwà;:=äD57:=> c :Fá;BDBJ�]4+:=EHSFâ`èÃàxEHâ�6�<?BHB�é�äH8x<�J c 5yåxå;B�BH:=æzàx>y5yJxçÃãÈEDâTæ¡V(XP�Z�57Bá;BD<?G(äDâ$çF<?Jx<�E9:`äH<�äD8;<lE9:=J;GxâFæÇè`:=EH5y:=äD<fBLX�� _ `�� a `,b b,b Z%ø8�§äD8x<?EDO)57Bw<Té�ãÈâTE�>Åâ`OK�]GN5yæ�<?J;BD5ÅâTJ;:=>à;:FEH:Fæ�<�äD<?ED57BD:=äD5yâFJ;B�:FB�5yJ/äH8x57Bzà;:=à3<�Efé�BCä9:=J;Gx:FEHG�é�Gx5ÅEH<?6%äzæz<�äD8xâNGxB�6?:=J/å3<á;BD<?G/ãÈâFEc :=áMBDBD5y:FJ;B _ ë OR<¤áMBw<�EH<CüC<f6,äH5ÅâTJ/BD:Fæzàx>Å5yJxç�9 >�;�Arøv¤LâFäD<�äH8;:`äfét5yJ äH8x<I6?:FBD<�äD8M:`ä(äH8x<GN<?J;Bw5ÅäCûTV(X�j�m P�Z¤5yB�JxâTEDæ�:=>réläD8x<¥æ�<f:=J âFåNä9:=5yJx<?G÷å�û¯ã¿:F6%äDâTED<fG÷BD:Fæ�à;>Å5yJxç/ORâFá;>yG÷å3<6%âTJ;BD5yBwäD<?JTä$O)5�äH8Ã:FJ+<?BwäD5yæ�:`äH<(âFåxäH:=5yJx<fG+æzâFEH<#6�âFJ�èF<?JTäH5ÅâTJ;:=>y>yûFé;:FJ;G+< ��6�5Å<?JZäD>yûFé3ãÈEDâTæ>y5ÅJx<f:=E�>y<?:FBwä�BDêZá;:FED<fB§<fBCäH5Åæ�:`äH5ÅâTJ�ø¥UxâTE2æ#áx>�äH5G�¬æzâNGx:=>�GN57BwäDEH5ÅåxáxäD5yâFJ;B$O)8x57698¥6?:=JxJxâFä$å3<:=à;àxEDâ=BN5yæ�:`äD<fG/:TBzJxâFEHæ�:=>ré�BDâ¥äD8;:=ä�>Å5yJx<?:FEz<?BwäD5yæz:=äDâTEHBz:=EH<áxJ�á;BH:=åx>y<Fé�<?BwäD5yæ�:`äH<?Bzâ=ãæz<?:FJ�P1å�û�ã¿:T6,äHâFEH<?GIBD:Fæ�à;>Å5yJxç�6%âTJTäH5ÅJ�áx<$äHâz:Fàxàx>yûFø

�N:Fæ�à;>Å5yJxç(æz<�äD8xâNGxBl8;:nèF<§àxEDâ`èT<?GzEH<�æ�:=EHS`:=åx>yû�<��¾<?6,äH5ÅèT<LãÈâTE�EH<?6%â`èT<�EH5ÅJ;ç.BCä9:`äD576LâTå��üC<?6%äHB?é�JxâFäH:=å;>Åû18;:FJ;GxBO9�; d�A�:FJ;G+çZ:=>7:�BN5y<?Bu9 >�d�Aré 5ÅJÂ6%>yáNäwäH<�Efø�ßW8x<�698;:=>y>y<�JxçT<#:FG;GNED<fBDBD<?G8x<?ED<�57BWäDâ�GNâzäH8x5yBLâ`èF<�EläD5yæz<FéM<?BwäD5yæz:=äD5yJxçMP(X¦JZRãÈEDâTæ äD5yæz<��¬è`:=EHûZ5yJxç�5Åæ�:FçF<?B§j�XY¦JZ%ø���©¨ ª0-�#13-e&�«v#Y4\!8¬�)O-�&"�2�"-�4,-�­}-�)\),� ®8%-�4\%��&��à;:=äD5yâ��räD<?æ�à3âFE9:=>�<?BwäD5yæz:=äD5yâFJ�é�äD8x<�äHEH:T69S�5ÅJxçâFãWBD8;:=à3<�:=JMGÂàMâZBw5ÅäD5yâFJÂâ`èF<?E�äD5yæz<Fé 8M:FBå3<�<�J Gx<?:=>Åä�O)5ÅäD8¯äD8xâTEDâTáxçF8;>ÅûÞå�û°¯�:=>yæz:FJ��M>�äH<�EH5ÅJxçMé�5ÅJ äH8x<1EH<�>7:`äD5yèF<?>Åû 6%>yáNäwäH<�E���ãÈEH<�<6�:TBw<�5yJO)8x5y698uV(X�j�m P�ZW6?:=JBD:=äD57BCã¿:T6,äHâFEH5Å>yû�å3<�æ�âNGN<?>Å>y<?GI:FB c :Fá;BHBw57:=JT9G;\?Né ;=>�é�>�N�A :=J;G6�:FJzåM<§:Fàxàx>y5Å<fG�äDâ.6�áxEDèT<?BH9 >8<�é$S\A¬øTßW8x<fBw<LBDâF>yáNäH5ÅâTJ;B�ORâFEHS.ED<?>y:=äD5yèF<?>Åû.à3â�âFEH>Åû#5ÅJ�6�>ÅáxäwäD<?EO)8x57698�<f:FBD5Å>yû|�pGN5yBwäDE9:F6%äHB,wZäD8x<�BDà;:`äH5ÅâE��äH<�æzàMâTEH:F>M<fBCäH5Åæ�:=äD<²±P(X¦JZ,ø�7÷5ÅäD81Bw5yæzàx>y<FéxGN57BD6�ED<�äD<ãÈ<?:=äDáxEH<?B(Bwá;698Â:FB�à3âF5yJZäHB�âTE.6%âTEDJx<?EHB�6�âFæ(å;5ÅJ;:=äDâTED57:=>�Gx:=äH:��]:FBHBDâ�6�5y:=äD5yâFJ¥æ�<�äD8xâNGxB(6�:=Jå3<�<��¾<?6%äD5yèF<Fé 5ÅJ;6�>ÅáMGN5ÅJ;ç1äD8x<|��³$´/µLKtULw�9 >Né">E>=Al:=J;G¥äH8x<0��]LK:¤l�NK:¶twt:F>ÅçTâFEH5�äH8xæ·9�;,D=A¬øßW8x<?û.:=>y>Åâ`OÞBD<�èT<�E9:=>F8�û�à3â=äD8;<?BD<?B�:=å3âFáNä�O)8x57698(Gx:`ä9:��¬<�>y<�æz<�JZä9BQ� åM<?>ÅâTJxçewfäHâ§äH8x<�äHEH:T69SF<fGâFåxüC<?6,ä(äDâ1å3<�8x<�>7G BD5Åæ#áx>�ä9:=Jx<?âFá;BD>yûFé :FJ;GÂ>Å<fBDB.àx>y:Fá;BD5Ååx>y<�8�û�àMâFäD8x<fBw<fB�äDâ+å3<�àxEHâFçTED<fB¸�BD5ÅèT<�>yû2àxEHáxJx<fGAø,µ$:`ä9:L:FBHBDâ�6�5y:=äD5yâFJ�æz<%äH8xâNGxBtGxâLJxâ=äfé�8xâ`OR<�èT<�Efé�:=à;àx>Åû2äDâ§æ�â`è�5yJxçL6%á;EDèT<?BO)8x<?ED<�äD8;<zãÈ<?:`äHáxEH<?B�:=EH<�6%âFJZäH5ÅJ�áxâTá;B$âFåNüC<f6,äHB?é�:=JMG¥:IæzâFEH<#çT<�Jx<?EH:F>�æ�<�äD8xâNGNâT>ÅâTçFû157BGN<?æz:FJ;GN<fGAø

����¹ ºL!�1~./��¬�-�#Q."¬��e.v-�'�-�4,%���&2��»H®8��&"�(%4,%���&"-�#��(!�&"),%4,%!�)ßW8x<l¯�:=>yæz:FJM�;>ÅäD<�EW:FBl:.EH<?6�áxEHBD5yèF<)>y5ÅJx<f:=El<?BwäD5yæz:=äDâTE�57Bl:�èT<�EHû�BDà3<?6%57:=>¾6�:TBw<TéT:Fàxàx>yûZ5yJxçâFJ;>ÅûÃäDâ c :=áMBDBD5y:FJÞGN<�JMBw5ÅäD5y<?B?é�â=ã§:+æzâTED<�çF<�J;<�E9:=>�à;EDâTå;:=åx5y>y5�äCûÂGN<�JMBw5ÅäCûÂàxEDâTà;:=çZ:`äH5ÅâTJàxEHâN6%<?BHB?øl@]JQ6%âFJZäH5ÅJ�áxâTá;B�äH5Åæz<¥äD8x57B6�:=J åM<ÂGN<fBD6�ED5yåM<fG÷5yJ äD<?EDæ�B�â=ã#Gx5G�¾á;BD5ÅâTJ¼9�;\S\A¬éçFâ`èT<�EHJx<?GIå�û1:|��UxâFS�ST<�E��½´�>y:FJ;69S�wN<?êZá;:`äH5ÅâTJ�9�;�Aré35yJ O)8x57698äD8x<zGN<?J;Bw5ÅäCûIãÈâFEtP(XY¦JZ2GNEH5�ã«ä9B:=JMG�BwàxEH<?:TGxB�áxJMGN<�E�äD8x<§:T6,äH5ÅâTJ�â=ã�:.BwäDâN698;:FBwäD576WæzâNGN<�>Mâ=ãA5�ä9B�GNû�J;:Fæz5y6?B�øZßW8x<LE9:=J;GNâTæ6%âTæzàMâTJx<�JZälâFã�äD8;<$GNû�J;:Fæz5y6?:=>3æ�âNGN<?>M>y<?:TGxB�äDâ#BDàxEH<?:TGN5ÅJ;ç�ë 5ÅJ;6�ED<f:FBD5ÅJ;ç.áxJ;6�<�EDäH:=5yJZäCû¾ ÆRa?\CV,¿;\C¡TV�XT[CVHo]V9_Zi9V�a�b�i9¢g�F\]\CVH[§i,Y?�To]V9o6À�ÁYÂ�à Ä�Ål\Ca#�NV�_Za?_T­r©WY?�To]o]eÅY�_MjM�Z�F\W\C¡ZV�XF[Cega?[QÀ�Á{Ä�Å^.Y,q$o¬\Ceg¢�¢N¡ZY?XTXZeg¢pq��NVW©WY��Zo]o]e�Y?_;jFY?_Zv�\C¡ZY�\�e�otª�¡�Y�\tª�eg¢�¢N�NVlY?o]o]�T^�V,v�eg_(a?�T[�VHuFXNVH[Ceg^�V9_`\Co9�

Page 4: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

p(x)

x

p(x)

x

p(x)

x

p(x)

x

deterministic drift

stochastic diffusion

reactive effect of measurement

z

ÆQÇ©È �=É��"ʧË�Ì�Í�Î�Í,Ï�ÐnϽÑÒTÓ�Ô Õ Ö}Ï�ÑYÒ²×eË�Ì=×�Î�Ø$Î�ÑϽÌEÕ(Ù"Ú6Û½Ü�ÝEÞ�ß=Þ,à{á{Ü,â*á©ãFä�å�Ý�á{æ�à�å¸äMç$å�Û¸å�Þ,ãiágà�Ü�æ¸æ�èEÛJãÜ,é,å�Û§Þlä,ágã�æ�Û¸å�à�åKà{ágêWå�ëYã¸à�å�Ýeìví�ç$å�Û¸å§Þ,Û�å�à©ç�Û¸å¸åvÝ8ç8Þ,ã�å�ã�î�ä,ÛJá ï�à[ä,è$å�àÜlà©ç$å§ä�å�à�å�ÛJêlágâ8ágã¸à{áYæHæJÜ ê�ÝEÜ\ëâ�å�â8à¥Ü½ï6Ü=ðgñ�å¸æ�à�ä,ò â�Þ,êtáYæ�ã¸ó�ä á ôQè�ã¸áYÜ,âRä è�åvàܧà©ç$åQÛ½Þ,â�ä=Ü êõæJÜ ê�ÝEÜ,â�å�â$à{óeÛ¸å�Þ=æ�à{ágé,å/Û�å�ágâ�ï�Ü,Û�æJå�êWå�â8àä,è$åHàÜFêWå�Þ,ã¸è�Û¸å�êFå�â$à{ã�ìë O)8x5y>Å<(äD8x<zGN<�äD<�EHæz5ÅJ;5yBwäD576#6�âFæzà3âFJx<?JTä�6�:Fá;BD<?B§:IGNEH5�ã«ä�â=ã�äH8x<�æz:TBDB2â=ã�äD8x<zGN<�JMBw5ÅäCûãÈáxJM6,äD5yâFJ é�:TB(BD8xâ`O)JÞ5yJ~�;çFá;ED<²;TøtßW8x<�<��¾<?6%ä�âFãL<�B�äD<?EDJ;:F>�æz<?:TBwá;ED<?æ�<?JZäHBWj�XY¦JZ.5yB(äDâBDáxà3<�EH5Åæzà3âTBD<§:�EH<?:F6%äD5yèF<)< �3<f6,ä�âTJzäD8x<$GN5G�¾á;BD5ÅâTJ�5yJ�O)8x5y698zäH8x<2Gx<�J;BD5�äCû#äD<?J;GxB�äDâ.à3<?:FS5yJIäD8x<�è�576%5yJx5�äCû¤â=ã�æ�<f:FBDáxEH<�æz<�JZäHB?ø

@]J äH8x<�BD5Åæzàx>y< c :Fá;BHBw57:=JÞ6?:FBD<Fé�äH8x<�Gx5G�¾á;BD5ÅâTJÞ5yB(àxáxEH<�>yû¥>y5yJx<?:FE#:=JMGÂäD8x<IGN<�JMBw5ÅäCûãÈáxJM6,äD5yâFJ¥<�èTâF>yèF<?B§:FB$: c :=áMBDBD5y:FJ1àxáx>7Bw<#äD8M:`ä§äHEH:FJ;BD>y:=äD<?B?éMBDàxEH<?:TGxB§:FJ;G157B2EH<�5yJNãÈâTEH6�<?GAéEH<�æ�:=5yJx5yJxç c :=á;BHBD5y:FJ äH8xEHâFáxçT8xâFáNäfø�ßW8x<ö¯�:F>Åæ�:FJ��;>ÅäD<?E�GN<fBD6�ED5yå3<?B�:FJ;:=>yûZäD576�:=>y>yûÞ<�B��:T6,äD>yû�äD8;5yB�àxEHâN6%<?BHB?ø?@]Jz6%>yáNäwäH<�Efén8xâ`Ol<?èF<?E?éfO)8x<�J#æz<?:FBDáxEH<�æz<�JZä9B 8;:nèT<l:2JxâFJ�� c :Fá;BDBD57:=J�éæ#áx>�äH5G�¬æzâNGx:=> 6�âFJ;Gx5�äH5ÅâTJ;:=>�GN5yBwäDEH5yåxáNäD5yâFJ éxäD8;<.<�èTâF>yèZ5yJxç�GN<?J;Bw5ÅäCûIED<fêTá;5ÅEH<?B):zæzâFEH<�çF<?J��<?EH:F>FEH<�àxEH<?BD<�JZäH:=äD5yâFJ�ø?ßW8x5yBt>y<?:FG;BAäDâ$:Là3â`Ol<?EwãÈá;>FJx<?OÞ:=àxàxEHâT:T698$äDâLäHEH:T69S�5ÅJxçMé�GN<?èF<�>yâFà3<?Gå3<�>yâ`O�éT5yJ�O)8x57698¤:#Bwà;:FEHBD<LEH<�àxEH<?BD<�JZä9:`äD5yâFJzâFãAäD8x<�GN<�JMBw5ÅäCû�ãÈâFE/P"XY¦JZl57Bl6?:=EHED5y<?G#ãÈâFEHOW:=E9G5yJ1äD5yæz<Fø¥¤Lâ�æz<?:=J àMâZBw5ÅäD5yâFJ¥âFE§è`:FED57:=J;6�<.57B26�âFæzàxáNäH<?G+< BNàx>Å576%5ÅäD>yûFéMäD8;âFáxçT81äD8x<?û+:=J;GâFäD8x<?E)àxEDâTàM<?EwäH5Å<fBW6�:=Jå3<.6%âTæ�à;áNäD<fG�:=ä§:=J�û�äD5yæz<�5�ã�GN<fBw5yED<fGAø

÷ ø ØwÝ�Ö¾ÎxÌ�Ô�Ì¥ù?ÔxØwÒ�Ì Í2ÎxÏ�ͧÕ�Ú�Õ�ÔxØCÏlÙ Ï�Ó�ÝTÔNÕtÔNÌ�úLÌ Ù2Ý�Ø]Ô�ûU;âFE26�âFæzàxáNä9:`äH5ÅâTJ;:=>tàxáxEHàMâZBw<fB�éMäD8x<#àxEHâFà;:FçT:`äH5ÅâTJàxEDâN6�<?BHB)æ(á;Bwä�åM<�Bw<�ä2âFáxä25yJ1äD<?EDæ�BâFã�GN57BH6%EH<%äD<�äH5Åæz<W¦,ø3ßW8x<.BwäH:`äH<�â=ã�äD8;<�æ�âNGN<?>Å>y<?GâTåNüC<?6%ä§:`äLäH5Åæz<F¦W57BLGN<�J;â=äD<fG|PeüW:=J;G5ÅäHB�8x5yBwäDâTEDû#5yB/ý¥ü6x�XYP _ `�P a ` b b,b `�Peü¸Z,ø���5yæ�5y>7:=EH>Åû(äD8x<$Bw<�ä�â=ãA5yæz:FçF<WãÈ<f:`äDá;ED<fB�:`ä�äH5Åæz<t¦�57Bj\ü�O)5ÅäD8¤8;5yBwäDâTEDûOþ�üQxÿXj _ `,b b b `�j\ü¸Z,ø�¤LâFäD<2äD8;:=äRJ;â(ãÈáxJM6,äD5yâFJM:=>A:FBHBwá;æ�àxäD5yâFJ;BlXÈ>y5ÅJ;<?:=EH5ÅäCûFéc :Fá;BDBD57:=Jx5ÅäCûFéAáxJ;5ÅæzâNGx:=>y5ÅäCû�Z.:=EH<�æ�:TGN<�:=å3âFáNä(Gx<�J;BD5�äH5Å<fB�ét5ÅJÃäH8x<�çF<?Jx<�E9:=>�äHED<f:`äHæ�<?JZä?é

Page 5: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

äD8;âFáxçT8 à;:=EDäD576%áx>7:=E.698;âF576%<?B.O)5Å>y>�å3<�æ�:FGN<¤5ÅJÞGNá;<¤6%âTáxEHBD<�5yJ âFE9GN<�E�äHâ GN<�æzâTJ;BCäHEH:=äD<äD8;<.:=àxàxEHâT:T698�ø

f �� h¥4\� ®=+(-�),4,%�®|��� &"-�13%�®E)K BDâFæz<?O)8;:`ä(çT<�Jx<?EH:F>�:FBHBwá;æ�àxäD5yâFJ 57B(æ�:FGx<�ãÈâFE�äH8x<¤à;EDâTå;:=åx5y>y5yBwäD576zãÈE9:=æz<�ORâFEHS1äD8M:`ääD8;<�âFåNüC<f6,ä§GNû�J;:Fæ�576�BRãÈâTEDæ :(äH<�æzà3âFE9:=>�4+:FEDSTâ`è�698;:=5yJIBDâ�äD8;:=ä,�

V(XYP ü�� _�m ý ü ZQx3V(XYP ü�� _8m P ü Z X�N8Zë"äH8x<WJx<�O¯BCä9:`äD<W57B�6%âTJ;GN5ÅäD5yâFJx<fG#GN5yEH<?6,äH>Åû(âFJx>yû.âFJ#äD8;<)5Åæzæz<?GN57:`äH<�>yû.àxEH<?6�<?GN5yJxç�BCä9:`äD<Té5yJ;GN<�à3<�JMGN<�JZä.â=ã�äD8x<z<?:FED>y5y<�E$8x5yBwäDâTEDûTø3ßW8;5yB�BwäD5y>Å>�:F>Å>yâ`OLB$êTá;5�äH<#çT<�Jx<?EH:F>�GNû�J;:Fæz5y6?B�é¾5yJ��6%>yá;GN5yJxç+BwäDâN698;:TBCäH5y6zGN5��3<?ED<?J;6%<�<fêZá;:`äH5ÅâTJ;B�â=ã):=EHåx5ÅäDE9:=EHû1âFE9GN<�E��¾Ol<�á;BD<�Bw<f6%âTJ;GÃâFE9GN<�EæzâNGN<�>7BW:=J;G�GN<%ä9:=5y>yBW:=EH<§çT5ÅèT<�J�>7:`äH<�EføZßW8;<�GxûZJM:=æz5y6?Bl:FED<2<�JZäD5yEH<�>yû�GN<%äH<�EHæ�5yJx<fG�äD8;<�EH<��ãÈâFEH<�å�û�äD8;<�ãÈâFEHæùâ=ãtäD8x<.6�âFJ;GN5ÅäD5yâFJM:=>�GN<?J;Bw5ÅäCûRV"XYP�ü�� _ m Peü¸Z%øeUxâTE)5ÅJ;BwäH:FJ;6%<Té

V(XP ü�� _8m P ü ZQx < BNà��WXYP ü�� _��*P ü �°;\Z a� >�`EH<�àxEH<?BD<�JZäHB�:�âTJx<��]GN5yæz<�J;BD5ÅâTJ;:=>NE9:=JMGNâFæ OR:F>ÅS�X¿GN57BD6�ED<�äD<LGN5��¾á;Bw5yâFJ�Z�O)8xâTBD<LBwäD<�àz>y<�JxçFäD857B�:$BwäH:=JMGx:=E9G�JxâTEDæ�:=>Zè`:=EH5y:=äD<TéfBDáxà3<�EH5Åæzà3âTBD<?G.âTJ#:§ED5yçF8ZäCOW:=E9G�GNED5Åã«ä�:`ä�áxJx5Åä�BDà3<�<?G�ø��§ã6%âTáxE9Bw<Té�ãÈâTEtEH<?:F>Å57BCäH5y6�àxEHâFåx>y<�æ�B"P#57B�æ(áx>ÅäD5��]GN5Åæz<?J;Bw5yâFJM:=>�:=J;G.äD8x<WGN<�JMBw5ÅäCû�5yB�æzâFEH<l6�âFæu�àx>y<�B*X�:=J;G�éN5ÅJ�äD8x<�:Fàxàx>y5y6?:`äD5yâFJMBlà;ED<fBw<?JTäH<?G¤>y:=äD<�Efé�>Å<f:=EHJx<?G�ãÈEDâTæ äDE9:=5yJx5yJxçzBw<fêTá;<�J;6�<?B}Z,øf �gf ��!�-�)�(¬�!�13!�&�4�2å;BD<�EHè`:`äD5yâFJMB6j,ü�:=EH<):FBHBwá;æ�<fG#äDâ.å3<L5yJ;GN<�à3<�JMGN<�JZä?éTåMâFäD8�æ#áNäDá;:F>Å>yûz:=J;G�O)5ÅäD8�EH<?BDàM<f6,ääDâzäH8x<.GNû�J;:Fæ�576�:F>AàxEHâ�6�<?BHB�éN:FJ;G�äD8x57B)57BW<�BNàxEH<?BHBw<fG�àxEHâFå;:Fåx5y>Å57BCäH5y6?:=>y>Åû�:FBRãÈâF>y>yâ`OLB �

V"XþEü�`JPeü�� _ m ý¥ü¸Z/xTV"XYPeü�� _ m ý¥üJZ ü� � _ V"Xj m P Z�b Xd$Z¤LâFäD<$äD8M:`äL5yJTäH<�çTEH:=äD5yJxç(â`èT<�EKP ü�� _§5yæzàx>Å5y<?B)äD8x<�æ(áxäDá;:F>�6%âFJMGN5�äH5ÅâTJ;:=>A5yJ;GN<?àM<?J;GN<?J;6%<�â=ãâFåMBw<?EDè`:`äH5ÅâTJ;B,�

V(XþEü m ý¥ü¸Z/xü� � _ V"Xj m P Z�b X�SEZ

ßW8x<RâFå;BD<�EHè`:`äH5ÅâTJ�àxEDâN6�<?BHB 57B�äH8x<�EH<%ãÈâTED<RGN<��MJx<?G(åZû.BDà3<?6%5ÅãÈû�5ÅJ;çLäD8;<R6�âFJ;GN5ÅäD5yâFJM:=>�GN<�J;BD5ÅäCûV(X�j\ü�m PeüJZ.:`ä(<f:F698¥äD5yæ�< ¦,é :=JMGÂ>y:=äD<�Efé�5yJÞ6%âTæ�à;áNäH:=äD5yâFJ;:F>�<�Bx:=æzàx>y<?B?é�OR<zäH:FSF<zäD8;5yB.äDâå3<�:#äH5Åæz<��¬5yJ;GN<�à3<�JMGN<�JZäWãÈáxJ;6%äD5yâFJMV(X�j�m P�Z%ø�µ§<�äH:=5y>7BlâFã äH8x<�Bw8;:FàM<�âFã�äD8x57BRãÈáxJ;6%äD5yâFJ�éxãÈâFE:=à;àx>Å576�:=äD5yâFJ;BW5yJ5Åæ�:FçF<��]BwäDEH<?:=æù:FJ;:=>yûNBw57B?é�:FED<$çF5yèF<?J�5yJ1Bw<f6,äH5ÅâTJ dMøf �©¨ �i¬=��.v-�'�-�4,%��&c 5yèF<�J�:§6�âFJZäD5yJ�áxâFá;BJ�¬èn:F>Åá;<?G�4+:FEDSTâ`è2698;:F5ÅJ.O)5ÅäD8#5ÅJMGN<�à3<�J;Gx<�JZä�âFå;BD<�EHè`:`äD5yâFJMB�é�äD8x<REDá;>Å<ãÈâFE)à;EDâTà;:=çZ:`äD5yâFJ�â=ã�6%âFJMGN5�äH5ÅâTJ;:=>�Gx<�J;BD5�äCû�V(XP ü m þ ü ZRâ`èF<?EläH5Åæz<�57B �

V(XPeü�� _ m þ�ü�� _ ZQxõyEü�� _ V(Xj\ü�� _ m P�ü�� _ Z{V(XPeü�� _ m þ�üJZ X�?8ZO)8x<?ED<

V(XYP�ü�� _ m þEüJZQx������=V(XPeü�� _ m Peü¸Z{V"XYPeü m þ�üJZ X½<�Z

Page 6: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

:FJ;G�y ü�� _257BL:�JxâFEHæ�:=>y5yBH:`äH5ÅâTJ�6�âFJ;BwäH:FJTäWäH8;:`ä§GNâ�<fBWJxâ=ä§GN<?àM<?J;GIâFJ�P ü�� _=øßW8x<�àxEHâFàM:=çT:=äD5yâFJ+EHáx>y<�X�?8Z�BD8xâFá;>yG¥åM<z5yJZäD<�EHàxEH<%äH<?GÃBw5yæzàx>Åû¥:FB2äD8x<�<fêZáx5Åè`:F>Å<?JTä�âFã

äH8x<#PW:nûF<fBLEHáx>y< X¸;=ZWãÈâTE25yJNãÈ<�EHEH5ÅJxç¤àMâZBCäH<�EH5ÅâTE2BwäH:`äH<#GN<?J;BD5�äCûIãÈEHâFæ Gx:`ä9:xé;ãÈâFE2äD8x<#äD5yæz<��è`:=EHû�5ÅJ;çI6?:FBD<FøAßW8x<z<��¾<?6%äD5yèF<zàxEH5ÅâTELV"XYP ü�� _Em þ ü Z257B�:F6,äHá;:=>y>yû :¤à;ED<fGN5y6%äD5yâFJ¥äH:FSF<�J ãÈEDâTæäH8x<(à3âTBwäD<?ED5yâFELV(XYP ü m þ ü Z)ãÈEHâFæ äD8x<�àxEH<�è�5yâFá;BLäD5yæ�< �¬BwäD<?à�é3âFJZäDâ�O)8;5y698+57B$Bwáxà3<�EH5yæ�à3âTBD<?GâTJx<.äH5Åæz<��]BwäD<�à ãÈEDâTæ£äD8x<�GNû�J;:Fæ�576�:F>tæzâNGN<?>KX�UxâTSZST<�E��½´�>y:FJ;69S¤GNEH5Åã«ä�à;>Åá;B$GN5��3áMBw5yâFJÃ:FB5yJ°�;çFáxEH<T;\Z%é�:=J;G äH8x5yB�5yB�< BNàxED<fBDBD<?G 5yJ�X½<�Z%ø�41áx>ÅäD5yàx>y5y6?:`äD5yâFJ 5yJ X?8Z�å�û/äD8x<+6�âFJ;GN5��äH5ÅâTJ;:=>læ�<f:FBDáxEH<�æz<�JZä(GN<?J;Bw5ÅäCû�V(Xj\ü�� _ m P�ü�� _ Z�5ÅJÂäH8x<�PW:nûT<?BD5y:FJ¥æ�:=J;Jx<�E(äD8x<?JÞ:=àxàx>y5y<?BäH8x<�ED<f:F6%äD5yèF<$<��¾<?6,äL< BNàM<f6,äD<fG�ãÈEDâTæùæz<?:FBDáxEH<�æz<�JZä9BFX{�;çTáxED<M;=Z,ø� ʥ˧Ì������������� "!$#&%'�(� Õ�ÑCÚ�Ï�Î;Ø]Ôx˧Ò

@]J 6�âFJZäDE9:FBwä�äDâ äH8x< BwäH:=äD576+6�:TBw<15yJ÷O)8x57698 äD8x<¥àxED5yâFERV(XYP�Zzæ�:nû å3< c :Fá;BDBD57:=J�é�äH8x<< �3<f6,äD5yèF<�àxEH5ÅâTE:V(XP ü�� _8m þ ü Z.5yJ äH8x<IGxûZJM:=æz5y6�6�:TBw<�57B#Jxâ=ä c :=á;BHBw57:=J O)8;<�J 6�>ÅáxäwäD<?E#57BàxEH<?BD<�JZäføt@¬äz8;:FB�Jxâ¥à;:=EDäD576%á;>y:FE#S�Jxâ`O)J ãÈâTEDæ½:FJ;GÂäH8x<�EH<%ãÈâTED<I6�:=J;Jxâ=ä�:=àxàM:=EH<�JZäD>yû¥å3<EH<�àxEH<?BD<�JZäH<?G�< BN:T6,äH>Åûz5yJ¤äH8x<$:F>ÅçTâFEH5�äH8xæøZßW8;<(í$îtï ñ ò ï ó%ôNõAöÈîtï :F>ÅçTâFEH5�äH8xæ BwâT>ÅèT<?B�äD8x57BàxEHâFå;>Å<?æ£å�û1GNâT5ÅJxç�:=>ÅäDâFçT<%äH8x<�E2O)5�äH8xâFáNä�:=J�û<�BNàx>y576%5Åä2EH<�àxEH<?BD<�JZäH:=äD5yâFJ1âFã�äD8x<zGN<�JMBw5ÅäCûãÈáxJM6,äD5yâFJ�5ÅäHBD<�>ÅãCø`@]J;BCäH<?:TGAén5�ä�àxEHâN6%<�<fGxB�å�û�çF<�J;<�E9:`äD5yJxç$Bw<�äHB�â=ã�� BH:=æzàx>y<?BtãÈEHâFæ2V(XPeü m þ�ü¸Z:=ä�<f:F698�äH5Åæz<��]BwäD<�à ø=5l:F698(BH:=æzàx>y<§� üA57B�6%âTJ;Bw57GN<?ED<fG.:FB�:=J�X��,ü}`*)�üJZ�à;:F5ÅEféf5ÅJ�O)8x57698u�,üA5yB�:è`:=>yáx<2â=ã[P�ü�:=J;G+)�ü�5yBW:#6%âFEHEH<?BDàMâTJ;GN5yJxç.BD:Fæzàx>Å5yJxç#àxEDâTå;:=å;5Å>y5�äCûTø��Náxàxà3âTBD<2:.àM:=EDäD576%áx>7:=E�,ü�5yBRGNE9:nO)J�EH:FJ;GNâTæ�>yû#ãÈEDâTæ V"XYP�ü�m þ�üJZ�å�û�698;âZâZBw5yJxç.5Åä?éZO)5ÅäD8¤à;EDâTå;:=åx5y>y5�äCû,)eü9éZãÈEDâTæ¼äH8x<BD<%ä)â=ãv� BH:=æzàx>y<?B):=äWäD5yæ�<F¦,ø�¤§<�B�ä§GNE9:nO �,ü�� _ E9:=J;GNâTæz>ÅûzãÈEHâFæ�V"XYP�ü�� _ m PeüQxz�,ü¸Z,é;âFJx<äH5Åæz<��]BwäD<�àâFã�äH8x<(GNû�J;:Fæz5y6?:=>�æzâNGN<�>ré;BwäH:FEwäH5ÅJxçzãÈEHâFæ Peü/x �,üHé3: c :=á;BHBD5y:FJGx<�J;BD5�äCû¤äDâO)8x57698ÂBCä9:=J;Gx:FEHGÃBH:=æzàx>y5ÅJxçæz<%äH8xâNGxB.:Fàxàx>yûFø�K è`:=>yáx< �,ü�� _ 698xâZBw<?J 5yJ¥äH8x57B�OR:nû 5yB�:ã¿:F5ÅE�BH:=æzàx>y<)ãÈEHâFæ V(XPeü�� _ m þEüJZ,øT@¬äR6�:FJzäD8x<?J�åM<2ED<�äH:F5ÅJx<fGz:FB�:.à;:=5yE:X��,ü�� _ `*)�ü�� _ Z�ãÈâFE�äH8x<�|�]BD<%ä�:`ä�äD5yæz<O¦.- ;FéAO)8;<�EH</) ü�� _�x V"Xj ü�� _Em P ü�� _�xk� ü�� _ Z,ø ßW8;5yB�BH:=æzàx>y5ÅJ;çIBH698x<�æz<57B$äD8x<zå;:TBw57B$â=ãläD8x<Ií$îtï ñ ò ïtó%ôNõAöÈîtï :F>ÅçTâFEH5�äH8xæ :=J;GÃGN<�äH:=5y>7B�:=EH<#çT5ÅèT<�J 5yJ*�;çFáxEH<O>Nø@]JÞà;EH:T6,äD576%<Té E9:=J;GxâFæ è`:FED57:`äH<?B(6?:=J å3<¤çT<�Jx<?EH:=äD<?GÃ< ��6�5Å<?JZäD>yûFé�á;Bw5yJxç+å;5ÅJ;:FEDûÂBD<?:=E9698�é5ÅãCé E9:`äH8x<�E�äH8;:=JÞBwäDâTED5yJxçàxEHâFå;:Fåx5y>Å5ÅäD5y<?B�) ü é OR<�BCäHâFEH<�6%áxæ#áx>7:`äD5yèF<�à;EDâTå;:=åx5y>y5�äH5Å<fB10 ü :FBBD8xâ`O)J5ÅJäH8x<W�MçFáxEH<Fø;KRä�:=J�û�äH5Åæz<W¦,é3<�BNà3<?6%äD<?Gè`:F>Åáx<fB:��9 �vXYP ü Z m þ ü A�â=ã�àxEHâFà3<�EDäD5y<?B)âFãäH8x<�BwäH:=äD<�Gx<�J;BD5�äCû|V"XYPeü m þ�üJZ(6�:FJÞåM<I<�è`:F>Åá;:=äD<fGÂåZû :Fàxàx>yûZ5yJxç äD8x<�EDáx>y<*X�>EZ.ãÈEDâTæ äH8x<ã¿:T6,äDâTED<fG�BH:=æzàx>y5yJxç�:=>yçFâFEH5ÅäD8xæø2 3 ÎxÏ�ЧÕ�Ð2ØDÑwØwÝTÔxØwÖ¯Í2Õ�Î;Õ�Ò�ÌAÔNÌ�ÎMÝ Ó9Ï�Î÷ÖAÛLÎNÜ�Ì ÔNÎxÕ�Öx×)ØwÙ§Ú

@]JIâFE9GN<�ERäHâ�:Fàxàx>yû�äD8x<�í$îtï ñ ò ï ó%ôNõAöÈîtïÃ:=>yçFâFEH5ÅäD8xæé�O)8x57698�57BRçF<�J;<�E9:=>réTäHâ�äD8x<$äDE9:F69S$�5yJxç�â=ã�6�áxEDèT<?B�5yJ�5yæz:FçF< �¬BwäDEH<?:FæzB?é`Bwà3<?6�5G�36)àxEHâFå;:Fåx5Å>y5ÅäCû#GN<?J;Bw5ÅäD5y<?B�æ(á;Bwä�å3<L<?BwäH:Fåx>y5yBD8x<?Gå3â=äH8�ãÈâTE)äD8;<(GNû�J;:=æz576�BWâFãtäH8x<.âFåxüC<?6,ä§:FJ;G�ãÈâFE)äH8x<�æz<?:TBwáxEH<�æz<?JTä)àxEHâN6%<fBDB?ø;K§BLæ�<?J��äH5ÅâTJx<?G¯<?:FED>y5y<�EfétäH8x<1à;:FEH:Fæ�<�äD<?EHBuP GN<?Jxâ=äH<+:¥>y5yJx<?:FEzäDE9:=J;BwãÈâFEHæ�:`äD5yâFJ â=ã�:ÂP/�]BDàx>Å5yJx<6�áxEDèT<Fé�<?5�äH8x<�E�:=JÞ:��zJ;<¤GN<%ãÈâTEDæ�:=äD5yâFJ�étâFE(BDâFæz<�JxâTJ��¬ED5yçF57GÃæ�âFäD5yâFJ�ø�ßW8x<¤GNû�J;:Fæz5y6?:=>æzâNGN<�>t:=J;GI>y<?:=EHJx5yJxçz:=>yçFâFEH5ÅäD8xæ ãÈâT>Å>yâ`O <fBCä9:=åx>y57Bw8x<fGIæ�<�äD8xâNGxBR9 ?;é�<,A¬ø;ßW8x<�æzâNGN<�>�57BL:BwäDâN698;:TBCäH5y6�GN5��3<?ED<?JZäD57:=>A<?êZá;:=äD5yâFJIO)8x57698�éN5ÅJ1GN57BH6%EH<%äD<$äH5Åæz<FéM5yB

P ü�� _Hx54HP ü -76�8 ü X�@8ZO)8x<?ED<94 GN<��MJx<?BRäH8x<.GN<%äH<�EHæz5ÅJx57BwäD576$6�âFæzà3âFJx<?JTäWâ=ãtäD8x<�æzâNGN<�>�:FJ;G:8(ü�57B):(èT<?6%äDâFEWâFã5yJ;GN<?àM<?J;GN<�JZäLBwäH:=JMGx:=E9G�JxâTEDæ�:=>¾E9:=J;GxâFæ è`:=EH5y:Fåx>Å<fBlBH6�:F>Å<fG�å�û;6�Bwâ#äD8;:=ä<6/6 £ 57B�äH8x<

Page 7: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

= �?>F�%�T�@>®�\�\Ceg^�VH­¿o¬\CV9X1ACBÂ|fjTi9af_To¬\][C�ZiH\�\C¡ZV�DFEHG$a?bJI oCY�^�XZ¢gV9o�Y?o�byaf¢g¢ga%ª�o}¿|f�L©RVH_ZVH[wY%\CVLY2[wY?_ZvTaf^Ç_=�T^$�NVH[LK�MON �QP,|?RÈj��T_Zepb7a�[C^�¢gq#vFe�o¬\][Ceg�T�T\CV,vx��=�&S¾eg_Zv;jT�=q.�Teg_�Y�[]q(o]�T�xvTegm=e�o]ega?_zaf_UT¤jT\C¡TVWo]^.Y?¢g¢gV9o¬\�T bya?[�ª�¡Zegiw¡UV�WYX$Z[ \ K=�}F�WUl[wY,ªÇY�[wY�_�vFaf^£m?Y�[Ce�Y%\CVU] WY^�Z[`_ ¾ bÅ[Caf^ \C¡ZV#vTV9_To]eg\�qOÀ�Á{Ä [H_ ¾ Ã Ä [�a ] WbXLZ[ ÅDj�Y�o]o]�Z^�V,v©WY��Zo]o]e�Y?_�o]a�vTep[CV9iH\�oCY?^�XT¢ge�_Td�ego�XNafo]o]eg�Z¢gVf�

h=\Ca?[CVRoCY?^�XZ¢gV9ocD a |�P@dYdYP*I Y?o:Áe]fWb^fZ[H_ ¾ P'g�Wb^fZ[`_ ¾ P'VhWY^fZ[`_ ¾ Å�ª�¡TVH[CVV WYijZ[`_ ¾ a �gJWY^�Z[`_ ¾ a À�ÁY [H_ ¾ Ã Ä [`_ ¾ a ]�WY^fZ[`_ ¾ ÅVhWY^fZ[`_ ¾ a VhWY^lk ¾ Z[`_ ¾ BmgJWY^fZ[H_ ¾Y?_�vz\C¡TV9_�_Ta?[C^.Y�¢�ego]V2�=q�vTegm=eÅvFeg_Zd#Y?¢g¢�i9�Z^2�Z¢�Y�\CegmnV§XT[Ca?��Y?�Teg¢�ep\CegV9o�V�Wb^fZ[H_ ¾ �=qUV�WonpZ[`_ ¾ jxe«� V?�Mo]a\C¡�Y�\cVhWon.Z[`_ ¾ a |?�

��b¾[CVrq`�Teg[CV9v;jF^�V,Y?_#XT[Ca?XNVH[]\CegV9o�i,Y?_z�NV)VHo¬\Ce�^.Y%\CV,v�Y%\lY?_`q.\Ce�^�VsA�Y?ot�N u�Á{Ä�Å}à v [ R"w nx ^�y ¾ gJWY^fZ[ u�Áe]fWb^fZ[ ÅzdSZa?[$VHuTY?^�XZ¢gVfj3epbl\C¡TV(^�V9Y?_1i9a?_T¦�d?�T[wY%\Ce�a?_|{Ä+ego$[CVrq`�Teg[CV9vIb7a?[�d?[wY?XT¡Zegi,Y�¢�vTego]XZ¢�Y9q`j¾\C¡ZVY?�Na%mnVR[C�T¢�V)ego��Zo]V9v#ª�ep\C¡;u�Á{Ä�Å a Ä3�

ÆQÇ©È �h};�/í�ç$å ±l²;³ µM¶ ³x·H¸=¹Nºy²;³ Þ�~ ß=Ü Û�ágà©ç�êWìàxEHâN6%<?BHB$JxâF57BD<�6�â`èn:FED57:=JM6%<Fø¾ßW8x<zæzâNGN<�>�6?:=J¥6�>Å<f:=EH>Åûå3<�ED< �r< BNàxED<fBDBD<?G1:TB�:¤äH<�æzà3âFE9:=>4+:FEDSTâ`è�698;:=5yJI:TBRãÈâF>y>Åâ`OLB,�

V(XP ü�� _8m P ü ZQx <�BNà�� ;>c� 6;� _ XP ü�� _&��4:P ü Z�Z � a b X�I8Z@]JàxE9:F6,äH5y6�<FéNOR<�á;Bw<.BD<?6�âFJ;G�âFE9GN<?ERæzâNGN<?>yB?éNO)8x<�EH<FPeü9éF4Ç:FJ;GO6 :=EH<$EH<�à;>y:T6%<?G¤å�û� Peü

P ü�� _�� ` � D �4���4i_�� :=JMG � D DD�6��

EH<?BDàM<f6,äD5yèF<?>ÅûTøL¶lâ�<���6%5y<�JZäHB¤:=EH<I>y<?:FEDJ;<?G/ãÈEDâTæ"Bw<fêZáx<�J;6�<?B�âFã25yæ�:=çF<fB�ø�K§J÷áxJZäDE9:=5yJx<?GäDE9:F69ST<�EL57BLáMBw<fGäDâ�ãÈâT>Å>yâ`OQäDE9:=5yJx5yJxç�æzâ=äH5ÅâTJ;B§:FçT:=5yJ;Bwä§:�EH<�>7:`äD5yèF<?>ÅûI6%>yáNäwäH<�E���ãÈEH<�<(å;:F69S$�çFEHâFá;J;GAøNßW8x<�äDE9:F69ST<?G�BD<?êZáx<?J;6%<�5yJ¤äH8x<�ãÈâFEHæ¡XP�_�`JP�aE` b,b b�Z�57BRäD8;<�J1:=J;:F>ÅûNBD<?G*9 ?;é�<,A å�û4+:�B�5yæ(á;æ���5ySF<?>Å5y8xâ�âNG*5lBCäH5Åæ�:`äH5ÅâTJ+äHâIçT<�Jx<?EH:=äD<�<?BwäD5yæ�:`äD<fB�â=ã<4 � éJ4 _ :=J;G�6�é¾äH8�á;BGN< �;Jx5yJxç1äD8;<¤æzâNGN<�>�ãÈâFE(áMBw<�å�û äD8x< í$î ï ñtò ï ó�ôNõAöÈî ï :F>ÅçTâFEH5�äH8xæø K BD<%ä(âFãLBD:Fæ�à;>Å<è`:=>yáx<?B(ãÈâFE(äD5yæz<��]BCäH<�à3¦�x D+æ#á;Bwä(åM<BDáxàxàx>y5Å<fGÂäDâ 5ÅJx5ÅäD57:=>y57Bw<¤äD8x<I:=>yçFâFEH5ÅäD8xæø @¬ã)äH8x<àxEH5ÅâTE$Gx<�J;BD5�äCûOV"XYP � Z§5yB c :Fá;BDBD57:=J�éAGN5yED<f6,ä�BD:Fæzàx>Å5yJxç�æz:nûå3<zá;Bw<fG1ãÈâTE$5yJx5ÅäD57:=>y5yBH:`äH5ÅâTJ�éâ=äH8x<�EHO)57Bw<�5Åä(57B.à3âTBHBw5yåx>y<¤BD5Åæzàx>yû äHâ :=>y>yâ`O¼äH8x<�GN<?J;BD5�äCû¥äDâ BD<%äDäD>y<�äDâ¥:+BCäH<?:TGNû¥BwäH:=äD<V(XP���ZR5yJIäD8x<.:Få;BD<�J;6�<$âFãtâTåNüC<?6%äLæ�<f:FBDáxEH<�æz<�JZäHB?ø

Page 8: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

¹(�� �U�v),!$¬f��-�4,%���&")ßW8x<�æz<?:TBwáxEH<�æz<?JTä2àxEDâN6�<?BHB2GN< �;Jx<fG+å�ûOV(X�j,ü�m Peü¸Z§5yB�:FBHBDáxæz<?G18x<?ED<#äDâ�åM<zBwäH:`äH5ÅâTJ;:=EHû5yJ�äH5Åæz<MX«äD8;âFáxçT8�äD8x<#í$îtï ñ ò ïtó%ôNõAöÈîtï+:=>yçFâTED5ÅäD8;æ�GNâ�<fBlJ;â=älEH<?êZáx5yEH<LäD8;5yB}Z�BDâ#:#BCä9:`äH5y6ãÈáxJM6,äD5yâFJöV(Xj�m P�Z�57B�äHâ+åM<IBwà3<?6�5G�M<?GAø�K§B.ûT<%ä(OR<�8;:nèT<�Jxâ 6?:=à;:Fåx5Å>y5ÅäCû+äDâ <?BwäD5yæz:=äD<�5ÅäãÈEHâFæ�Gx:`ä9:xé=äH8xâFá;çF8zäD8M:`ä�ORâFáx>7G�åM<25yGx<?:=>réFBDâ(BDâFæz<)ED<f:FBDâFJ;:Fåx>y<W:TBDBDáxæzàNäH5ÅâTJ;B�æ(áMBCä�å3<æ�:FGx<Fø

41<f:FBDáxED<?æz<�JZäHBij1:=EH57Bw5yJxç�ãÈEDâTæ :6%áxEHèF<uPÞ:=EH<#5yæ�:=çT<��¬<?GNçT<(ãÈE9:=çTæ�<?JZäHB$âFåNä9:=5yJx<?Gå�ûÂ<?GNçT<��]GN<%äH<?6%äD5yâFJÞ:=>yâFJ;ç 6%áxEHèF<¤JxâFEHæ�:=>7B�ø 7Ã<:FBHBwáxæz<�äH8;:`ä�JxâF57BD<�:=JMGÞGN57BCäHâFEDäD5yâFJ;B5yJ 5Åæ�:FçF5yJxçöj :FED<�>yâN6�:F>�é�Bwâ15yJÞâFE9GN<?E�äDâ Gx<%äD<?EDæz5yJx<RV"Xj�m P�Z�5Åä#57B.Jx<f6%<?BHBH:=EHû âFJ;>Åû¥äDâ< BN:Fæz5ÅJx<�5yæz:FçF<zàx5�BN<�>7B2J;<?:=E�äH8x<z5Åæ�:FçF<z6%áxEHèF<�O)8x57698¥OR<�GN<�JxâFäD<0XÈO)5ÅäD8Âæz5y>yGÃ:=åxáMBw<âFã�Jxâ=ä9:`äD5yâFJ�Z§P(X��=Z�`�D�� �+�¼;Fø¾ßW8x<z6%âFEHEH<?BDàMâTJ;GN5yJxç�æz<?:FBDáxEH<�æz<�JZä�Bw<fêTá;<�J;6�<(57BLäH8x<�JGN<?Jxâ=äH<?G²j�X��=Z%éMO)8x<?ED<uj�X��=ZRãÈâFE$<?:T698ö��5yB§äD8x<�GN<%äH<?6%äD<?G <?GNçT<.âFJ+äD8x<�JxâFEHæ�:=>�:`ätP"X��=ZäH8;:`ä�>Å5y<?B�6�>ÅâZBw<fBCä$äDâ�äD8x<�6�áxEDèT<RPtø�ß â:=>y>Åâ`O ãÈâTE2æz<f:FBDáxED<?æz<�JZä2ã¿:F5Å>yáxEH<?B$:=J;GÃ6%>yáNäDäD<�EféäH8x<)æz<?:FBDáxEH<�æz<�JZä�GN<�JMBw5ÅäCû.57B�æzâ�Gx<�>y>Å<fG#:TB�:2EHâFå;á;BCä�BwäH:=äD57BCäH5y6Fé=:§äHEDá;J;6�:=äD<?G c :Fá;BDBD57:=J �

V"Xj�m P�ZQx÷< B�à,�<� ;>Q� a � _��� X��=Zj���F� X¸;\D8Z

O)8x<?ED< � X��\ZLx�� m P"X��=ZL�Tj�X��=Z m a 5�ãHm P(X��=Z$�Tj�X��=Z m����� â=äH8x<�EHO)5yBD<X¸;8;\Z

:FJ;G � 57B�:�àM<?J;:=>ÅäCû#6�âFJ;BwäH:FJZä?é=EH<�>7:`äH<?G#äDâ�äH8x<)àxEHâFå;:Fåx5y>Å5ÅäCû(âFãMã¿:F5Å>y5ÅJ;ç�äDâi�;JMG�:$ãÈ<?:`äHáxEH<Fé<?5�äH8x<�E�âTJ äD8x<¥6%áxEHèF<1âTE�äD8x< å;:F69S�çFEHâFá;J;GAøQ¤LâFäD<1äH8;:`ä � 57B¤6�âFJ;BwäH:FJTä¤:=ä¤GN57BCä9:=J;6�<?BçTED<f:`äD<?EzäD8;:FJ5�¥ãÈEDâTæ"äH8x< 6%á;EDèT<Fé�BDâ��Â:F6,ä9B¤:TB�:Âæ�:�BN5Åæ#áxæ BD6?:=>y<1åM<?ûFâFJMG O)8x5y6985Åä�5yB�á;JxJx<?6�<?BHBD:FEDûÃäHâÞBw<f:=E9698 ãÈâFEzãÈ<f:`äDá;ED<fB�ø�@]J¯àxE9:F6,äH5y6�<Fé�âFã$6%âTáxE9Bw<TétäH8x<15yJTäH<�çTEH:F>R57B:FàxàxEHâ=B�5yæ�:`äH<?G¤:TB):zBwáxæ â`èF<?ERGN57BH6%EH<%äD<.BH:=æzàx>y<�5ÅJZäH<�EHèn:F>yBWâFãv�Tø�   ͧÍ$Ñ�ûLØwÙ§Ú ÔxËLÌ|���(�����c�� ¡!.#&%'����Õ�ÑCÚ�Ï�ÎMØ]ÔxË§Ò ÔNÏQÜLØJúLÌ ÏvùnÝTÔNÎxÌ�Õ�Ò Ý¢ �� º/¬�-�®�£ %&"'�-C1�(#4,%{­}13� �"-�#6�"%),4 ¬�%��$[4\%��&@]J¯âFE9GN<�E�äHâ¥äH<?Bwä�äD8x<Âí$îtï ñtò ï ó�ôNõ¾öÈîtï :=>yçFâFEH5ÅäD8xæ|w B�:Fåx5y>Å5ÅäCû äDâ EH<�à;ED<fBw<?JTä�:Ãæ(áx>ÅäD5��æzâNGx:=>LGx5yBwäDEH5Åå;áNäD5yâFJ�é�Ol<16%âT>Å>y<?6%äD<fG :�<�D+ãÈE9:=æz<~X�>xø @ÂBD<?6%âTJ;GeZzBD<?êZáx<?J;6%<1BD8xâ`O)5ÅJ;çÃ:6�>ÅáNäDäD<?ED<fG+EHâZâTæO)5�äH8 äH8xED<?<#à3<�âTàx>y<#5yJ 5Åä?é3ã¿:F6�5ÅJ;ç¤äH8x<�6?:=æz<�E9:xø¾ßW8x<�àM<?EHBDâFJ¥5ÅJ;5�äH5y:F>Å>yûâTJzäD8x<LEH5yçF8Zä�â=ã¾äH8x<§5yæ�:=çF<)æzâ`èT<?B�äHâ�äD8x<2>Å<�ã«ä?éZ5ÅJzãÈEHâFJZä�âFã¾äD8x<2â=äD8;<�E�äCORâ;øZK äD<?æ�à;>y:=äD<OW:FB�GxEH:nO)J�é`áMBw5yJxç(:FJ�5yJZäD<?EH:T6,äD5yèF<)àM:F69S`:=çT<FénäDâW�xäl:=EHâFá;J;G#äD8x<L8;<?:FGz:FJ;G�Bw8;âFáx>7GN<�E9B�âFã:�à3<�E9BDâFJ�é3:=J;G1OR<(6�âFJ;BwäDEHá;6,äH<?G+:FJ+:���Jx<�Bwà;:T6%<.âFã�GN<%ãÈâTEDæ�:=äD5yâFJ;B)âFã�äD8;:=ä§äH<�æzàx>7:`äD<TøK£æzâ=äH5ÅâTJ/æzâNGN<�>)OW:FB#>Å<f:=EHJx<?G/å�ûÂäDE9:F69S�5ÅJ;ç¥:ÂBw5yJxçT>Å<IàM<?EHBDâFJ/OR:F>ÅS�5yJxçÃ:FEDâTáxJ;GÂäH8x<EHâ�âFæm��å;:T69SZçTEDâTáxJ;GÂBDáxåNäDE9:F6%äD5yâFJ OW:FB�J;<?6%<fBDBH:=EHû+äHâ+<�JMBwáxEH<¤:T6�6%á;EH:=äD<zäDE9:F69S�5yJxç1à;:TBCääH8x<)6%>yáNäwäH<�Efø=]L<?BDáx>�ä9B�â=ã;EHáxJxJ;5ÅJxç2äD8;<2í$îtï ñtò ï ó�ôNõ¾öÈîtï�:=>yçFâFEH5ÅäD8xæ°:FED<RBw8xâ`O)J#5ÅJR�;çFá;ED<N;ø8��5yJ;6%<)äH8x<)ãÈ<f:`äDá;ED<)âFã¾5yJZäD<?ED<fBCä�57B�àxEH5yæz:FED5y>yûWP�äDE9:=JMBw>7:`äH5ÅâTJ�é=âFJ;>Åû(äD8x<§Gx5yBwäDEH5Åå;áNäD5yâFJ�âFãäH8x<làM:=E9:=æz<%äH<�Et6�âFEHED<fBwà3âFJMGN5ÅJ;çWäDâ:Pz6%â�âTEHGN5yJ;:=äD<�8M:FBtåM<?<�J.àx>yâ=äDäD<fGAén8xâ`Ol<?èF<?E 5Åät57B�6�>Å<f:=EäH8;:`äläD8x<2àM<?âFàx>y<§:=EH<LâFã Bw>y5ÅçT8ZäD>yû�GN5��¾<�EH<�JZäRBD5¥¤?<?Bl:=J;Gz8x<?5ÅçT8ZäHB?éZ:FJ;G�äD8x57Bl5yBlæzâ�Gx<�>y>Å<fGz5ÅJäH8x<$ãÈáx>Å>tGN5yBwäDEH5yåxáNäD5yâFJ øe¤Lâzå;:T69SZçTEDâTáxJ;G�BDáxåNäHEH:T6,äH5ÅâTJ�âTERâFäD8x<?E)àxEH<�àxEHâN6%<?BHBD5ÅJxç�57BWá;Bw<fG��äH8x<L5yJxàxáNäR5yB�äD8x<2EH:nO¯è�5yGN<?â.BCäHED<f:=æøF@]J;5�äH5y:F>Å57BD:=äD5yâFJ�57B�à3<�EDãÈâFEHæz<?GzBw5yæzàx>yû�å�û#5�äH<�E9:`äD5yJxçäH8x<�BCäHâN698;:FBwäD576�æ�âNGN<?>�5ÅJÃäH8x<�:=å;BD<�JM6%<zâ=ãWæz<?:FBDáxEH<�æz<�JZä9B�éA:=JMG¥5Åä(6�:FJ¥å3<�BD<�<�J¥äD8M:`ä

Page 9: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

äD8;5yBL6�âFEHED<fBwà3âFJMGxB�äHâ�:#EHâFá;çF8x>yû c :=á;BHBD5y:FJ�GN57BCäHED5yåxáNäH5ÅâTJ�âTJ P+6�â�âFE9GN5ÅJM:`äD<�:`äWäH8x<i�;E9BCääD5yæz<��]BCäH<�à�ø�ßW8x<$GN5yBwäDEH5yåxáNäD5yâFJ¤EH:Fàx5yGx>Åû�6%âT>Å>7:=àMBw<fB�âFJZäDâ.äD8x<§äD8xEH<�<2àM<f:=SNB�àxEH<?BD<�JZäR5ÅJ�äH8x<5yæz:FçF<TéF:=J;G�äHEH:T69SNB�äD8x<?æ 6�âFEHED<f6,äH>ÅûTé=GN<?BDàx5ÅäD<)äH<�æzàMâTEH:FEDû�GN5���6�áx>ÅäD5y<?B�O)8;5Å>y<)äD8;<LàM<?âFàx>y<âN6�6�>Åá;Gx<.<?:T698IâFäD8x<?E?øMßW8x<�äD5yæz<��]BCäH<�à1á;BD<?G�ãÈâTE)äDE9:F69S�5yJxç�5yB)ãÈEH:Fæ�<�E9:`äH<�XYd$DzæzB}Z)BD5ÅJM6%<äD8;<�æ�âFäD5yâFJÃ5yB�ã¿:=5yED>yû BD>Åâ`O��¾5yJ¥äH8x<M�;çTáxED<TéAGN5yBwäDEH5yåxáNäD5yâFJMB.:=EH<#à;>ÅâFäwäD<fGÃâFJx>yû+<�èT<�EHû²@EDæ�B�ãÈâFE�6%>7:=EH5ÅäCûFø�ßW8x<1BCä9:`äH5ÅâTJ;:=EHûÂàM<?EHBDâFJ âFJÞäH8x<>Å<�ã«ä�8;:FB#äH8x<8x5ÅçT8x<?BwäzàM<f:=SÞ5yJ/äH8x<GN57BCäHED5yåxáNäH5ÅâTJJ��äD8;5yBz57B�äDâÂå3<I< BNàM<f6,äD<fG BD5yJ;6%<8x<57B�BwäH:FJ;GN5yJxç :=çZ:=5yJ;BCäz:Â6%>yáNäwäH<�E���ãÈEH<�<å;:T69SZçTEDâTáxJ;GAéA:FJ;GÂBwâ8x57B�âFáNäH>Å5yJx<�57B.6%âTJ;BD5yBwäD<?JTäH>Åû¥GN<%äH<?6,ä9:=åx>y<FøtßW8x<�<�BNà3<�EH5Åæz<�JZä�OW:FBEHáxJá;Bw5yJxç�:zGN57BCäHED5yåxáNäH5ÅâTJIâFã"�¢x�;,DED8D#BH:=æzàx>y<?B?ø

Time

0 ms¦400 ms§800 ms

1200 ms¨1600 ms¨2000 ms

2400 ms©2800 ms©

ÆQÇ©È ��ª;�¬«$Ë�Î�­�®�ÏÕ�Ø�ΰ¯;±�ЩÑϳ²´¯�Ì�Ó�Î$Ð(ÓEÏ½Ö ÑË Ï½Í�±�ÑYÏ�ÌEÕ[Ù¶µ ç�ágã¸àܸß,Û�Þ,ê ܽïKà©ç$åKçEÜ,Û�áY·�Ü â$àÞ�~eà{Û�Þ,â8ã�ë~nÞ,à{áYÜ â|æ¸Ü,êLÝEÜ,â�å�â8à/ܽï:à©ç$åtä,ágã¸à{Û�á{ð�èEà{á{Ü,â�ágã6Ý�~nÜ,à{à�å�äMÞ�ß=Þ,ágâ8ã¸à6à{ágêWå�ì6í�ç$å:ágâ8ágà{áYÞ�~�ä,ágã¸à{ÛJáYð�è�à{áYÜ,â ágãÛ�Ü è=ß�çQ~ ò¹¸6Þ,è�ãJã¸áYÞ â»º�ð�èEàLà©ç$åWà©ç�Û¸å¸å:Ý8å�Þ½¼ ãRÞ,Û�åWÛ�ÞJÝ�áYä¾~ ò ä=å�à�å¸æ�à�å�ä|Þ â�äMà{Û�Þ=æ*¼=å�ä|Þ ãWÜ,â�å§Ý8å�Û�ã�Ü,â¿ Þ�~ ¼ ãKágâ:ïJÛ�Ü,â8à6ܽï§à©ç$åtÜ à©ç$å�ÛHà ¿ Ü=ì¢ �gf º/¬�-�®�£ %&"'~¬�-�.v%�213��4,%���&")�4,+(¬=��"'�+2®8#e(4 4,!$¬¤L< B�äROR<$6�âF>y>Å<f6,äH<?G�:uS�DEDF�;<�>7GöXJ;,D(BD<?6�âFJ;G�Z�BD<?êZáx<�JM6%<�Bw8xâ`O)5yJxç(:(çF5yED>¾Gx:FJ;6%5yJxç(è�5yçFâTEJ�âFáMBw>yûIäDâ:��N6�â=äDäD57Bw8¥ED<?<�>�:=çT:F5ÅJMBCä�:�8x5yçF8x>yû+6%>yáNäDäD<�EH<?G å;:F69S�çTEDâTáxJ;GAéM5ÅJ¥âFE9GN<�E§äDâ�äD<?BwääD8;<zí$î ï ñtò ï ó�ôNõAöÈî ï¥:=>yçFâTED5ÅäD8xæ|w BW:=çF5y>y5�äCû�O)8;<�JIàxED<fBw<?JZäD<?G�O)5ÅäD8IEH:Fàx5yG�æzâ=äH5ÅâTJ;B�ø�7Ã<GNEH<�O :8x<f:FG��]Bw8M:=à3<?GÃäD<?æzàx>y:=äD<¤:FJ;G 6%âTJ;BwäDEHá;6,äH<?GÂ:=JÞ:��zJ;<�Bwà;:T6%<�äHâ1ED<?àxEH<?BD<�JZä.5�ä9B:=>y>yâ`OR:Fåx>Å<)GN<�ãÈâFEHæ�:`äD5yâFJMB�ø�7Ã<§:F>yBDâ.6%âT>Å>y<?6%äD<?G�:$äHEH:F5ÅJ;5ÅJxç.BD<?êZáx<?J;6%<)âFã�Gx:=J;6�5ÅJ;ç.:=çT:F5ÅJMBCä:�æzâTBwäD>yû(áxJM6%>yáNäwäH<�EH<?G�å;:F69S�çTEDâTáxJ;GAénãÈEHâFæ°O)8;5y698zOR<WäDE9:=5yJx<?Gz:�æzâ=äH5ÅâTJ�æzâNGN<?>NãÈâFE�á;BD<O)8x<?J�äH8x<zí$îtï ñ ò ïtó%ôNõAöÈîtï+äHEH:T69SF<?EROW:FBW:Fàxàx>y5Å<fG¤äHâ�äD<?Bwä§Gx:=äH:�5ÅJM6%>yá;GN5yJxç�6%>yáNäwäH<�EføU�5ÅçTáxEH<§d(Bw8;â`OLB�BwâTæz<LBCäH5Å>y>yB�ãÈEDâTæ¼äH8x<§6�>ÅáNäDäD<?ElBD<?êZáx<�JM6%<FéTO)5�äH8zäDE9:F69ST<?G�8x<?:TGzàMâZBw5��äD5yâFJMB�ãÈEHâFæ�àxED<f6%<fGN5ÅJ;çi�;<�>7GxBlâ`èF<�EH>7:=57G.äHâ.5ÅJMGN5y6?:`äH<Læzâ=äD5yâFJ øTßW8x<§6�âFJZäDâTáxE9B�:=EH<)àx>yâ=äwäH<?G

Page 10: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

¦ZV9¢�v��f�`|FÁ«�f�n�?��^�oJÅ ¦�VH¢Åv��?�f�uÁ¿�?}f�?��^�oJÅ

ÆQÇ©È �rÀ3��Á°ÎEÏÕ[ѽÎ�Ï�Õ�ÏÕ�ØiÑË�Î�­�®$Ô Ë:Î�Ø�Ï�ÐnϽÑÒFÏÕO­=ÐY±�ѽÑ�Ô Ë�Ù»µTã�å'Â�è$å�â�æJåLܽï.ÃÅÄfĶÆvå?~nä ãsÇ´ÈfÄLã�å�æ¸Ü,â�ä,ãeÉ¿ Þ,ãLæJÞJÝ�à{è�Û¸å�äiã�çEÜ ¿ ágâ�ßFÞiä=Þ â�æJå�Û:å'Ê�å�æ�è�à{ágâ�ßlÛ�ÞJÝ�áYälêFÜ à{áYÜ,â$ãLÞ�ß=Þ ágâ$ã¸à(Þiæ@~ è�à{à�å�Û¸å�äRðJÞ\æ*¼}ß,Û�Ü,è�â�ä=ìí�ç$å ä\Þ,â�æJå�Û¾Ë ãMç$å�Þ=ä ¿ Þ,ãOà©ç8å�â à{Û½Þ=æ*¼=å�ä*à©ç�Û�Ü è=ß�ç~à©ç$å ã�å'Â�è�å�â�æJå�ì&Ì/å�Ý$Û¸å�ã�å�â$àÞ,à{á©é,å1Æ"å?~nä,ã Þ,Û�åã½ç8Ü ¿ ⻺ ¿ á©à©çWÝ�Û¸å�æJå�ä,ágâ�ßMà{Û½Þ=æ*¼=å�ä�ç$å�Þ=ätÝEÜ,ã¸ágà{áYÜ â$ãHàÜFß,ágé,åiÞ,â ágâ�ä,áYæ¸Þ,à{áYÜ,â|ܽï:à©ç8åtêFÜ,à{áYÜ â�ì/í�ç8åà{Û�Þ=æ*¼=å�äFÝEÜ,ã¸ágà{áYÜ,â8ãFÞ,Û�åFã½ç8Ü ¿ âöÞ à.Í�ÄMêtãtá©â$à�å�ÛJé Þ�~ ã�ì�í�ç$åFä,ágã¸à{Û�á{ð�èEà{á{Ü,â*æJÜ â$ã¸ágã¸à{ãFܽï I a |,�f�ã�Þ,ê�Ý"~Gå�ã�ì:=äLd8D(æ�Bl5yJZäD<?EDè`:=>7B?øZßW8x<2æzâ�Gx<�>¾à;:=E9:=æz<�äD<�E9B�:FED<2<?BwäD5yæ�:`äD<fG�å�û�äD8x<$æz<?:FJ�â=ã�äH8x<�GN5yBJ�äHED5yåxáNäH5ÅâTJ+:`ä§<f:F698IäD5yæz<��]BCäH<�à�ø3ßW8x<(GN57BCäHED5yåxáNäH5ÅâTJ+6%âTJ;Bw57BwäHB)âFãv� x¼;\DEDzBH:=æzàx>y<?B?øMßW8x<GN57BwäDEH5ÅåxáxäD5yâFJ1OW:FBW5yJx5�äH5y:F>Å57BD<?Gå�û�8M:=J;GIJx<f:=E)äH8x<(Gx:FJ;6%<?E,w B)à3âTBD5�äH5ÅâTJ15ÅJäH8x<F�;E9BCä§�M<�>7GAé:TBR;\DED�BH:=æzàx>y<?B$GNâ¤J;â=ä�BwOR<�<?à+âFáNä�<�J;âFáxçT81â=ã�äH8x<#à;ED5yâFE§äDâI>ÅâN6�:=äD<(äD8x<�5ÅJ;5�äH5y:F>�à3<?:FSEH<�>y5y:Fåx>yûFø=@¬ä�ORâFá;>yGzå3<L<?êZá;:F>Å>yû.ãÈ<f:FBD5Åå;>Å<)äHâ.å3<�çF5yJ�O)5ÅäD8�:�>7:=EHçF<?E�JZá;æ(å3<�E�âFãABH:=æzàx>y<?B�5ÅJäH8x<l�;EHBwäK�;<�>7GAéx:FJ;G¤EH<?Gxá;6%<$äD8;<�BD5Τ�<�â=ãtäD8x<�GN57BCäHED5yåxáNäH5ÅâTJO)8x<�J�äD8x<�Gx:FJ;6%<?EW8;:FG�åM<?<�JãÈâTáxJ;GTX«äH8x5yB)äD<?698;Jx5yêZáx<�OW:FBWá;BD<?GI5yJIBD<?6%äD5yâFJ²SNø N8Z%ø

U�5ÅçTáxEH<tS�BD8xâ`OLB�äH8x<26�<�JZäDEHâF57G�â=ãAäD8;<§8x<f:FGzà3âTBD5�äH5ÅâTJ�<?BwäD5yæ�:`äD<2:FB�äHEH:T69SF<fG#å�û�åMâFäD8äH8x<�í$î ï ñ ò ï ó�ôNõAöÈî ïI:F>ÅçTâFEH5�äH8xæ¼:=JMG�:F¯�:F>Åæ�:FJR�;>ÅäD<?E?øTßW8x<�í$î ï ñ ò ï ó�ôNõAöÈî ï¤äHEH:T69SF<�E6�âFEHED<f6,äD>yû�<?BwäD5yæ�:`äH<?G¤äD8x<�8x<f:FGIà3âTBD5�äH5ÅâTJ¤äH8xEDâTáxçF8;âFáNäWäD8;<�BD<?êZáx<?J;6%<TéxåxáNä§:=ã«äD<?EL:=å3âFáNäd$DW�;<?>yG;BWXD;ø @8D�B�Z%éNäD8x<W¯�:F>Åæ�:FJ��;>ÅäD<?ELOR:TBWGN5yBwäDE9:F6%äD<fG¤å�û�6�>ÅáxäwäD<?E?é;Jx<�èT<�ERäDâ�EH<?6�â`èF<�Efø

KL>ÅäD8;âFáxçT8 5�ä�5yB(<�BNàM<f6,äH<?GÃäD8M:`ä.äH8x<¤à3âTBwäD<?ED5yâFE.GN57BwäDEH5ÅåxáxäD5yâFJÞO)5y>Å>låM<¤>y:FEDçT<�>yû áxJx5��æzâNGx:=>FäD8xEHâFá;çF8xâTáNä�äD8;<lBD<?êZáx<�JM6%<FénBD5ÅJ;6�<�äD8;<�EH<�57B�âFJ;>Åû�âFJ;<�Gx:=JM6%<�Efé��MçFáxEH</?)5y>Å>yá;BwäDE9:`äH<?BäH8x<WàMâT5ÅJZä�äD8;:=ä�5�ä�57B�BCäH5Å>y>N5Åæzà3âFEDäH:FJTä�ãÈâFE�EHâFåxáMBCäHJx<?BHBtäD8;:=ä�äH8x<RäDE9:F69ST<�E 57B�:=å;>Å<läDâ�EH<�àxEH<��BD<�JZäRGx5yBwäDEH5Åå;áNäD5yâFJ;BlO)5ÅäD8�BD<�èT<�E9:=>MàM<f:=SNB�ø�K)ã«äH<�E§I8>ED�æ�B�äH8x<�EH<2:FED<§äCOlâ#GN5yBwäD5yJ;6%äRà3<?:FS�B?éâTJx<L6�:Fá;Bw<fG�åZû�6%>yáNäwäH<�EféT:FJ;GzâFJx<L6�âFEHED<fBwà3âFJMGN5ÅJ;ç§äHâ�äD8x<2Gx:=J;6�<�E\w B�8;<?:FG�øTKRä�äH8x5yB�àMâT5ÅJZääH8x<�6�>ÅáNäDäD<?E#à3<?:FSÃ8M:FB.8;5ÅçT8x<�E#àMâZBCäH<�EH5ÅâTE.àxEHâFå;:Fåx5Å>y5ÅäCûFét:FJ;GÞ:1á;Jx5ÅæzâNGx:F>�äHEH:T69SF<�E(>Å5ySF<äH8x<u¯�:F>Åæ�:FJ0�;>ÅäD<�E$ORâFáx>7G+GN57BD6?:=E9GäD8;<#5yJNãÈâFEHæ�:`äH5ÅâTJ+5ÅJ äD8x<zBD<?6%âTJ;G1à3<?:FS3é¾EH<�J;Gx<�EH5ÅJxç5Åä.áxJ;:Fåx>Å<�äHâIEH<?6�â`èF<?E��38xâ`OR<�èF<?E§äH8x<í$îtï ñ ò ïtó%ôNõAöÈîtï :F>ÅçTâFEH5�äH8xæ GNâ�<?B�EH<?6�â`èF<?E?é¾:=J;GäH8x<.Gx:=JM6%<�E\w B�äHEDá;<�àMâZBw5ÅäD5yâFJI5yB§:=çT:F5ÅJ�>ÅâN6?:=>y5yBD<?GI:`ã«äH<�EHIE?8D(æ�B?ø¢ �©¨ º/¬�-�®�£ %&"'�®8��13."#�! ý:Ï ��%&�4\!$�2�C� Ï !�®E4,)ßW8x<WàxEH<?6�<?GN5yJxç�BD<?êZáx<�JM6%<?B�BD8xâ`O æ�âFäD5yâFJ#äH:FSZ5yJxç�àx>7:F6�<R5yJ�:$æ�âNGN<?>;BDà;:F6�<RâFã3:=ä�æ�âZBCä6dGN5yæz<�J;BD5yâFJ;B?éfBDâ$5ÅJ#âFE9GN<�E äDâ$5ÅJ�èF<fBCäH5ÅçZ:`äH<�äDE9:F69S�5yJxçLà3<�EDãÈâFEHæ�:=J;6�<�5yJ(8x5yçF8x<?E�Gx5Åæz<�JMBw5yâFJ;B?éOR<�6�âF>y>Å<f6,äD<fG/:TS�D8D|�;<�>7G X¸;,D¥Bw<f6%âTJ;GeZ#Bw<fêTá;<�J;6�<¤â=ã$: 8;:FJ;G äHEH:FJ;BD>y:=äD5yJxç;é�EDâFäH:=äD5yJxç;é

Page 11: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

Condensation trackerÒ

Kalman filter trackerÓTime = 10 s

ÔTime = 10 sÔ

ÆQÇ©È ��Õ;�Ö«J×eÔ�Ø�ÌEÕ Ó�Ô Õ Ö Î�ÑϽÌEÕzÑYË�Î�­�®$Ô Ë�Ö@±¶­½­ Ô�Ô�Ó$Ö,Ùs×eÔ Ë Ô0Î�ÚOÎ$ÐY¯�ÎEÕÜÛLЩÑ�Ô ËÞÝ\ÎEÏ�Ð�Ö,Ùtí�ç8åæJå�â$à{Û½Ü,áYäRܽïLà©ç$åKã¸àÞ,à�ålå�ã¸à{ágêiÞ,à�å[ï�Ü,Û�à©ç$åKã�å'Â�è�å�â�æJåHã½ç8Ü ¿ âMágâ&Æ�ß,è�Û¸åcÍuágã[Ý"~nÜ,à{à�å�äWÞ�ß=Þ,ágâ8ãJà[à{ágêFåï}Ü,Ûtà©ç$åuå�â8à{ágÛ¸å1ÃÅÄfÄ<Æ"å?~näMã}å'Â�è$å�â�æJåzº�Þ,ã:à{Û�Þ=æ*¼=å�ä�ð�ò<Æ[ÛJã¸à�à©ç$å ±l²;³ µ;¶ ³;·D¸F¹�ºy²;³ à{Û½Þ=æ*¼=å�Û*ºLà©ç$å�âÞ°ßtÞ�~ êiÞ,â;Æp~ à�å�Ûuà{Û�Þ=æ*¼=å�Û}ìWí�ç8å ±l²;³ µM¶ ³x·H¸=¹Nºy²;³ Þ�~ ß=Ü,ÛJágà©ç�ê¡æ¸Ü,ÛJÛ¸å�æ�à�~ òCå�ã¸à{ágêFÞ,à�å�ãuà©ç$åuç8å¸Þ\äÝEÜ,ã¸ágà{áYÜ â~à©ç�Û�Ü,è\ß�ç8Ü èEàlà©ç$åOã�å'Â�è$å�â�æJå�ìFí�ç$åÞßtÞ�~ êFÞ â;Æp~ à�å�ÛMá©â$ágà{áYÞ�~H~ ò à{Û½Þ=æ*¼ ã�æ¸Ü,ÛJÛ¸å�æ�à�~ òhºið�è�à:ágãÛ�ÞJÝ�áYä¾~ òRä ágã¸à{Û�Þ=æ�à�å�äMð�òRÞRæ@~ è�à{à�å�Û"ï}å¸Þ à{èEÛ�ålÞ,â�äWâ�å�é,å�Û§Û¸å�æ¸Ü,é,å�Û�ã�ì

¦�V9¢�v#�f�MÁÈ�n����^�oJÅ ¦ZV9¢�v��`��ÁÈ���n��^�oJÅ ¦�V9¢�v#�f�MÁÈ�f�?�$^�oJÅ

ÆQÇ©È ��à;��áiÔ½­�Ìlâ$Ô Ë ÏÕ�Ø,Ý�Ë�Ìl¯ ÑË�Î�­�®�ÏÕ�ØUÝ\Î�ϽÐb±�Ë Ô�ÙLã:å�àÞ,á`~Eï�Û½Ü,ê�ä�Ævå?~nä,ãiܽïlà©ç$åiã�åjÂ�è$å�â�æ�åWá`~�ë~ è�ã¸à{Û�Þ,à�å�ä á©â1Æ�ß,è�Û¸å�Í�ìJå/Þ\æJç�ã�Þ,êLÝ"~GåQï�Û�Ü,ê à©ç$å�ä,á©ãJà{ÛJáYð�è�à{áYÜ,â²ágã/Ý"~nÜ,à{à�å�ä Ü,â0à©ç$åFágêFÞ�ß�åzº ¿ ágà©çágâ8à�å�â$ã¸ágà{òiã�æ¸Þ�~Gå�älàÜiágâ�ä,á{æJÞ à�åKá©à{ã[ÝEÜ ãJà�å�ÛJáYÜ,Û6Ý$Û�Ü=ð¸Þ=ð�á`~ á©à{ò�ì¡æ Ü ãJà(ܽï/à©ç$å§ã�Þ,êLÝ"~Gå�ãjº�ï�Û½Ü,ê�Þiä,á©ãJà{ÛJá{ëð�è�à{áYÜ,â|ܽï I a |9�f� º[ç8Þ,é,åtàÜ�ÜÞ~nÜ ¿ Þ§Ý�Û�Ü=ð¸Þ=ð�áH~ ágà{ò�àÜ�ðJå:é�ágã¸áYð@~Gå�ìCçJâ�Æ"å?~nä�Í"èFà©ç$ålä,á©ãJà{ÛJáYð�è�à{áYÜ,âç8Þ,ã§ãYÝ"~ á©à"ágâ8àÜWà ¿ ÜRä,ágã¸à{ágâ�æ�à�Ý8å¸Þr¼ ã*º(à©ç$å(~nÞ,Û{ß�å�ÛtÞ,à{à{Û�Þ=æ�à�å�ä�àÜ�ð¸Þ=æ*¼}ß,Û�Ü,è�â�äMæ@~ è�à{à�å�Û�ìQí�ç$åtä,á©ãJà{ÛJá{ëð�è�à{áYÜ,â�æ¸Ü,â$é,å�Û{ß�å�ãlÜ âOà©ç$ålä=Þ,â�æJå�Û:á©â�Ævå?~nä�Í»é�ì

Page 12: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

:FJ;G/ê;<�BN5yJxç�5�ä9B6�;J;çF<�E9B�5yJ;GN<�à3<�JMGN<�JZäD>yûFéZâ`èF<?E�:�8x5ÅçT8x>yû�6�>ÅáNäDäD<?ED<fG�Gx<?BDS#BH6%<�J;<FøE7Ã<L6%âTJ��BwäDEHá;6,äH<?Gz:2äCOl<?>ÅèT<)GN<�çTED<?<RâFãMãÈEH<�<fGNâFæ�Bw8M:=à3<Rè`:FED57:`äH5ÅâTJ#æzâNGN<�>M:=J;Gz:=J�:T6�6%âTæzà;:=J�û�5ÅJ;çæzâ=äH5ÅâTJ¥æzâNGN<?>�O)5�äH8¥äH8x<�8x<?>ÅàÂâ=ãW:|¯�:=>yæz:FJö�M>�äH<�E�äDE9:F69S�5yJxçI5ÅJÂEH<?:=>�äH5Åæz<�:=çZ:=5yJ;Bwä�:àx>7:=5yJÃO)8x5�äH<zå;:F69S�çFEHâFá;J;GAé¾á;BD5ÅJxçBD5ÅçTJx<?G¥<?GNçT<?B2äDâ8x<?>ÅàÃäHâGx5yBH:=æ#åx5ÅçTá;:`äH<(äH8x<u�;JxçT<�Eå3âFáxJMGx:=EH5Å<fB�ø

ÆQÇ©È ��ëx�°«$Ë�Î�­�®�ÏÕ�Ø�Î�ìlÔhíEÏ�Õ�Ø�×eÎ�Õ[ÓMÎ�­,Ë�Ì$Ö�ÖtÎ/­=ÐY±�Ñ½Ñ½Ô Ë Ô�ÓuÓ�Ô\Ö@®$Ù�Ì/å�Ý�Û�å�ã�å�â$àÞ,à{ágé,åQãJà{áH~H~ ã�ï�Û½Ü,êÞUÃÅÄfÄsÆvå?~nä°Ç´ÈfÄ�ã�å�æ¸Ü,â�ä?ÉRã�åjÂ�è$å�â�æ�åWܽïtÞWç8Þ,â�äuêFÜ,é�ágâ�ßMÜ,é,å�ÛFÞFç�áGß�çl~ òuæ@~ è�à{à�å�Û¸å�ä�ä�å�ã³¼uã�æJå�â�å�ìí�ç$å<Æ[â�ß�å�Û�ã�Þ,â�ä à©ç�è�êFð�îQå'Ê ágâ�ä�å�Ý8å�â�ä=å�â$à�~ òhº:Þ,â�ä à©ç8åWç8Þ,â�ä à{Û�Þ,â8ãz~nÞ à�å�ãOÞ,â�ä Û�Ü,àÞ à�å�ã}ìlí�ç8åä,ágã¸à{ÛJáYð�è�à{áYÜ,â æ¸Ü,â$ã¸ágã¸à{ã:ܽï I a �?�f� ã�Þ,êLÝ"~Gå�ã:å'Ê=æJå�Ý�à�ï}Ü ÛKà©ç$åpÆ Û�ã¸àJÍ�Æ"å?~nä,ãjº ¿ ç$å�â�ágà"ä�å�æ�Û¸å�Þ,ã�å�ãï�Û�Ü êïÈ�ÃÅÄfÄlã�Þ,êLÝ"~Gå�ã�àÜWÞ,áYälá©â$ágà{áYÞ�~ ágã�Þ,à{áYÜ,â�ì(í�ç$åHä,ágã¸à{Û�á{ð�èEà{á{Ü,âOágã/ágâ$ágà{á{Þ�~ ágã�å�äFÞ,è�àÜ,êFÞ,à{á{æJÞ�~H~ òWð�òágà�å�Û�Þ à{ágâ�ßuÜ âOà©ç$å:êFÜ à{áYÜ,âOêFÜ�ä=å?~�ágâOà©ç$åtÞ=ð�ã�å�â�æJålܽïKêWå�Þ,ã¸è�Û¸å�êFå�â$à{ã�ìU�5ÅçTáxEH<K<)BD8xâ`OLBtGN<%ä9:=5y>ZâFã;:§BD<�EH5Å<fB âFãx5Åæ�:FçF<?B ãÈEHâFæQäD8x<�äDE9:F69ST<?GWS�D8DK�;<?>yG#Bw<fêTá;<�J;6�<Fø

ßW8x<IGN57BCäHED5yåxáNäH5ÅâTJ/57B#5yJx5ÅäD57:=>y5yBD<?G/:=áNäHâFæ�:`äH5y6?:=>y>ÅûÂå�ûÂ5�äH<�E9:`äD5yJxç äD8x<Iæzâ=äD5yâFJ æzâ�Gx<�>R5ÅJäH8x<¤:=åMBw<?J;6%<�âFãWæz<f:FBDáxED<?æz<�JZäHB?ø ßW8x<�5yJx5ÅäD57:=>y5yBH:`äH5ÅâTJÂ5yB(àM<?EwãÈâTEDæz<?GÃá;BD5yJxç²� x ;=S�D8DBH:=æzàx>y<?B?élå;áNä²� 57BIGxEDâTàxàM<fG çTEH:TGNá;:=>y>yû äHâ SEDED â`èT<�E�äD8x<*�;E9BCä|d �;<�>7GxB?éW:FJ;G÷äH8x<EH<?Bwä$âFã�äD8;<zBD<?êZáx<?J;6%<�57B$äDE9:F69SF<fG1á;BD5ÅJ;ç�� x SEDEDxø �$6�6?:FBD5ÅâTJ;:=>y>yû�âTJx<�Bw<f6,äD5yâFJ¥â=ã�äH8x<6�âFJZäDâTáxE(>yâN69S�B#âFJZäHâÃ:¥Bw8;:TGNâ`O âFEz:0�MJxçF<?E�å3<?6�âFæz<?B�BD>Å5yçF8ZäD>yûÂæz5yBH:=>y5ÅçTJx<?G�é�å;áNä#äH8x<BDûNBCäH<�æ :F>ÅOW:nûNB�ED<f6%â`èT<�E9B�ø�U�5ÅçTáxEH<H@�Bw8xâ`OLBAüCá;BCäl8xâ`O¯BD<�èT<�EH<RäD8x<§6�>ÅáxäwäD<?E�àxEHâFå;>Å<?æ¼57B�ëäH8x<#8M:=J;G157B25Åæzæz<�E9Bw<fG15yJ¥:¤Gx<�J;BD<W�;<?>yG â=ã�<fGNçF<fB�ø¾ßW8x<�í$îtï ñtò ï ó�ôNõ¾öÈîtïÞ:F>ÅçTâFEH5�äH8xæBDá;6�6�<�<fGxBW5ÅJIäHEH:T69SZ5yJxç#äD8x<�8M:=J;GIGN<?BDàx5ÅäD<�äH8x<.6%âTJNãÈá;BD5ÅâTJ�âFã�5yJxàxáNä§G;:`äH:;ø

ð ñ¥Ï�Ù2ÖAÑwÛ§Ý�ØwÏ�Ù§Ý

ßtEH:T69S�5ÅJxçI5yJÂ6�>ÅáxäwäD<?E.57B�8;:=E9G¥åM<f6�:=áMBw<�âFã�äD8;<�<?BHBw<?JZäD57:=>�æ(á;>�äH5G�¬æzâ�G;:=>y5�äCû+âFãläH8x<�6%âTJ��GN5ÅäD5yâFJM:=>Læz<?:TBwá;ED<?æ�<?JZä�Gx<�J;BD5�äCû*V(X�j�m P�Z%ø�@]J äD8x<+6?:FBD<1â=ã�6%áxEHèF<IäHEH:T69SZ5yJxçMé�æ#áx>ÅäD5yàx>Å< �8�û�àMâFäD8x<fBw57B(äDE9:F69S�5ÅJ;ç 57B(5yJ;:=à;àx>Å576�:Fåx>y<I:FJ;G/: Jx<�O :FàxàxEHâT:T698 5yB�Jx<?<?GN<fGAø�ßW8x< í$îtï¾ðñtò ï ó�ôNõ¾öÈîtïÞ:F>ÅçTâFEH5�äH8xæ£5yB�:�ãÈáMBw5yâFJ¥â=ã�äH8x<�BwäH:=äD57BCäH5y6?:=>tã¿:F6%äDâFEH<?G BD:Fæ�à;>Å5yJxç�:F>ÅçTâFEH5�äH8xæãÈâTE2BwäH:`äH5y6Fé;JxâTJ�� c :=á;BHBw57:=JàxEHâFå;>Å<?æzBLO)5�äH8 :�BwäDâN698;:FBwäD576.GN5��¾<�EH<�JZäD57:=>t<?êZá;:`äH5ÅâTJ1æzâ�Gx<�>ãÈâTE(âFåxüC<?6,ä�æzâ=äD5yâFJ øtßW8x<�ED<fBwáx>Åä#57B(:FJ/:=>yçFâTED5ÅäD8;æ ãÈâTE.äDE9:F69S�5yJxç1EH5ÅçT5yG :FJ;G JxâTJ��rEH5yçF57Gæzâ=äH5ÅâTJÞO)8x57698/8;:TB(å3<�<?J GN<?æzâFJ;BwäDE9:`äH<?GÂäHâ å3<¤ã¿:FE�æzâTED<�< �3<f6,äH5ÅèT<�5yJ 6�>ÅáNäDäD<?E#äH8;:=J6�âFæzà;:=E9:=å;>Å<O¯�:=>yæ�:=J*�;>ÅäD<�E9B?ø[´�<�EDãÈâFEHæ�:=J;6�<#âFãRäH8x<1í$îtï ñ ò ï ó%ôNõAöÈîtï¯:=>yçFâFEH5ÅäD8xæ 5Åæu�àxEHâ`èF<fB�:FB�äD8;<$BH:=æzàx>y<2BD5¥¤?<2àM:=E9:=æz<%äH<�EL� 5ÅJ;6�ED<f:FBD<?B?éFåxáxäW6�âFæzàxáNä9:`äD5yâFJM:=>¾6%âFæzàx>y<�BN5ÅäCû57B�òMX�°>ÅâTç/�öZ,ø;@]æ�à;ED<fBDBD5ÅèT<�ED<fBwá;>�ä9B)8;:nèF<�å3<�<?J+GN<�æzâFJMBCäHEH:=äD<?G¤ãÈâFE§æ�âNGN<?>yB§O)5�äH80dzäDâ;=>GN<�çTED<?<?B�â=ãWãÈEH<�<fGNâFæé�<?èF<�JÂO)8x<?J3� x ;\DEDxø ´�<?EwãÈâTEDæ�:FJ;6%<�5ÅJÞBD<�èT<�E9:=>�6?:FBD<?B�OW:FB

Page 13: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

Condensationó

Edge detector

ÆQÇ©È ��ô;��õ[ÌÅ­�Î$Ð�ϽÖ}ÏÕ�Ø Ñe×eÔÞ×eÎEÕ[Ó ÏÕ�Î0Ó�Ô Õ Ö,Ô�Ô�Ó�Ø�ÔÞ¯�Î=×¥ÙJã:å�àÞ,á`~�ܽï:Þ�Æ"å?~näLïJÛ�Ü,ê à©ç$å�ç8Þ,â�äã�å'Â�è�å�â�æJå�ì§í�ç8å:Û¸å�ã¸èl~ àLܽï:ÛJè�â$â$á©â�ßOÞuä,á©Û¸å�æ�à{áYÜ,â�Þ�~L¸QÞ,è�ã¸ãJá{Þ,â²å�ä�ß�åFä�å�à�å�æ�àÜ,Ûiã½ç8Ü ¿ ã:à©ç8Þ,àQà©ç$å�Û�åÞ,Û�åWêFÞ â$òOæ@~ è�à{à�å�Û�å�ä�ß�å�ãKÝ$Û¸å�ã�å�â$àLàÜ ä ágã¸à{Û�Þ=æ�àKà©ç8åFã¸ò ãJà�å�êFìKí�ç$å ±�²M³ µ;¶ ³x·H¸=¹NºÅ²M³ Þ�~ ß=Ü,ÛJágà©ç�êã¸è8æJæJå¸å�ä,ãHágâOà{Û�Þ\æ*¼ ágâ�ßRà©ç8å§ç8Þ,â�äWà©ç�Û½Ü,è\ß�çOà©ç�á©ãHæ@~ è�à{à�å�Û�ì5yæ�à;EDâ`èT<?G�BwäD5y>Å>3ãÈáxEDäD8x<?ElO)5ÅäD8�5ÅJM6%EH<?:FBD<?GO�¢x�;,D8DEDxøTßW8x<2BDûNBCäH<�æù6%á;EDEH<�JZäD>yû�EDáxJMB�O)5ÅäD8�¢xõSED�5yJ¤EH<?:=>��räD5yæ�<uX�>8S�^�¤=Z�âTJ¤:(Gx<?BDS8�räDâTà�çFE9:=à;8x5y6?B�ORâFEHSNBCä9:`äD5yâFJ²X¿@]J;GNû�]§d8d8D8D8�e¶2é>�D8Dz4²^�¤=Z,øßW8x<):=áxäD8xâTEHB�ORâFáx>7G.>y5ySF<RäDâ�:F69S�Jxâ`O)>y<?GxçF<�äH8x<)Bwá;àxàMâTEwä�âFã;äD8;<H5/´L��]§¶2ø`ßW8x<?û(:=EH<W:=>7BwâçFE9:`äH<%ãÈáx>tãÈâFE�GN57BD6�á;BHBw5yâFJ;B§O)5�äH8ö])âTçF<�E$PREDâN69SF<�äwäféMPRED57:=J*])5Åà;>Å<?ûFé�µ2:nè�57G²])<�û�J;:FEHG�é���5��æzâFJ�])â`OR<):=J;G�K§J;GNEH<�O 7÷5y>yGN<?J�åM<?EDçMéF:=J;G�ãÈâTE�<�BNà3<�EH5Åæz<?JTä9:=>;:TBDBD57BCä9:=J;6�<lãÈEHâFæk�N:=E9:=8PR>y:FSF<Tøö Ì�Ó9Ì�ÎxÌ Ù2Ö¾Ì Ý

|?�W���T�T�Z®lo¬\][Caf^z� çJâ8à{Û�Ü�ä,è8æ�à{áYÜ â àÜFã¸àÜ�æJç8Þ,ã¸à{áYæFæ¸Ü,â$à{Û½Ü�~�à©ç$å�Ü,ÛJò ��®�i,YfvFV9^�egi)~�[CVHo]o9j3|,�f�?�=��`��÷$�¾ø�Y%[]­rhF¡�Y�¢gaf^Y�_�v1 R� c���SZa?[]\C^.Y�_Z_M� í$Û½Þ=æ*¼ ágâ�ß²Þ â�ä+ãHÞ,àÞ;µ�ã¸ã�Ü�æ�á{Þ,à{áYÜ,â �+®li,Y?vTV9^�egi~A[CV9o]o9j3|9�f�f�=�

}=�<ùL� ú§�¾ø�Y�[]\CV9¢go9jZ�T� �l�"ø�V9Y�\]\rq`jTY�_�vÞøl� ®§�»ø�Y�[Co]�`q`� µ/â,çJâ$à{Û½Ü�ä,è8æ�à{áYÜ,â�àÜ�û\Ý"~ ágâ�å�ã¥ï}Ü ÛKè�ã}å§ágâü Ü,êLÝ�è�à�å�ÛÞ¸"Û�Þ�Ý8ç�áYæ�ã:Þ,â�ä+¸/å�Ü,êFå�à{Û�áYæ&æ Ü�ä�å?~ ágâ�ß �pý�a?[CdnY�_��LY?�Fb7^.Y?_T_Mjx|,�?�n�`��F�)®§�¾ø�Y��Z^2�NVH[Cd§Y?_�v.U$�lúRa?dfdF��©RVH_ZVH[wY%\Ce�_Td$o]XZY�\Cega?\CV9^�XNa�[wY?¢x^�a=vTVH¢�otby[Caf^ VHuTY?^�XT¢�VHo9���r_ÚvÛ�Ü�æ�ìCþ$æ�ÿ ü jT�T|,},�`�n�f�=j3|,�f�f�=��`�)®§�¾ø�¢�Y��nVfjQùL�����F[]ª�V9_;jTY?_�v.®L���Nego]o]VH[C^.Y?_;��® by[wY?^�VDª�a?[C��bya?[�o]XZY�\Cega?­È\CV9^�XNa�[wY?¢Ni9a?_`\][Caf¢eg_2\C¡TV�\][wY?iw�=e�_TdRa�bNm=e�o]�ZY?¢=i9a?_=\Ca?�T[Co9� çJâ8à�ì���Ü,è�Û�â�Þ�~�ܽï ü Ü,êLÝ�è�à�å�Û1ÿ�ágã¸áYÜ â j=|f|\Á¿�\Å�¿g|%�?�,��|H�`�`j|,�?�f}=�

�=�)®§�¾ø�¢�Y��nV�Y?_�v9ý�� ®L�`�roCY%[wv;��}�U XNafo]ep\Cegaf_;j=Y�\]\Cep\C��vFV�Y?_�v2o]¡�Y?XNV�eg_ZXT�T\ �Zo]eg_Td)mFe�vFV9aW\][wY?iw�`­eg_Zd�a�bA¡�Y�_�vFolY�_�v(¢�egXTo9�t��_ ÚvÛ�Ü�æ�ì¶û$áGß�ß,Û½Þ�Ý8ç jM|,�f�,��|9�n�`�;®l�Lý�j;|,�?�?�F�

�`�)®§�¾ø�¢�Y��nVfj.ý�� ®§� �roCY%[wv;j Y?_Zv U2�¾ù�VHqF_�Y%[wv;���;V,Y�[C_Te�_Td�\Ca¤\][wY?iw�\C¡ZV�m=ego]��Y�¢�^�a?\Cegaf_ a?bi9a?_=\Ca?�T[Co9� µ/ÛJà{á Æ"æ�áYÞ�~"çJâ8à�å?~H~ áGß�å�â�æJå jN�?�E¿g|9�F|D�Z|,}��TjA|,�?�n�`�

�=�<ùL����egXNa?¢�¢�Y§Y?_Zv�®§�¾ø�¢�Y?�nV?�  �¡ZV�vFqF_�Y�^�egi�Y?_�Y�¢pqTo]egota?bMY?XTX�Y�[CVH_=\ti9a?_=\Ca?�T[Co9����_ Ú6Û½Ü�æ�ìCä\Û½äçJâ$à�ì ü Ü,â}ï�ì¥Ü,â ü Ü,ê�Ý$èEà�å�Û+ÿeágã¸áYÜ,â j��=|,�,�=�n�?�=jA|9�f�f�=��=�) R� S��;��a`a?\CVHo9j;�l� �T�x ¾Y9qF¢ga?[,jx®L���MY?_Teg\Cego9jNU2� ú§�N��a`a?XNVH[,jxY�_�vz�T��©l[wY?¡ZY?^z�$ø��Zeg¢�vTeg_Zd.Y�_�v�Zo]eg_Td���VDuTeg�T¢�VR^�a=vTV9¢go�eg_ZiHa?[CXNa?[wY%\Ceg_Zd�d�[CVHq=­�¢gV9mfV9¢xe�_Fb7a�[C^.Y�\Cegaf_;�t��_ ÚvÛ�Ü�æ�ì"Í8à©çÞçJâ$à�ì ü Ü â�ï�ìÜ,â ü Ü,êLÝ�è�à�å�Û+ÿ�ágã¸áYÜ â j����`�9�F�%�n�FjA|9�f�?}F�

Page 14: CVH[ lego]e a? MjM|, f ? FjZXZXM Z}? f}% `}n ? =j; Y?^2 T ...users.eecs.northwestern.edu/~yingwu/teaching/EECS... · Y#iw¡ Y?¢g¢gV9_Tdfeg_Zdza?_ZVf 3 M[wY iD nVD[Co) Y?o]V9v af_

|,�=��ý�� ®§��S¾e�o]iw¡Z¢gVH[WY?_Zv,ù§� �l��ø�af¢g¢gV9o9�cùlY?_�vFaf^ÇoCY�^�XZ¢gV)i9af_To]V9_Zo]�To}¿xY$XZY�[wYfvFegdf^°b7a?[l^�a=vTVH¢¦Z\]\Ceg_Td.ª�ep\C¡¤Y?XTXZ¢gegi,Y�\Cega?_¤\Ca.eg^.Y?d?V$Y�_�Y?¢pqFo]ego)Y?_Zv�Y?�T\Ca?^.Y�\CV,vzi9Y�[]\Cafd�[wY?XT¡=q`� ü Ü,êtêlè�â�ìµ�ãJã�Ü�æ�ì ü Ü,ê�ÝeìFæ Þ\æJç$ì j����8¿ }?�F|D�`�n�`jA|,�f�=|f�

|f|?�Lh=\C�ZY�[]\�©RV9^.Y?_+Y�_�vUWa?_�Y�¢Åv+©RVH^.Y?_M��h`\Ca`iD¡ZY?o¬\CegiÞùlV9¢�Y%uZY%\Cegaf_Mj�©Re��T�Zo2UWego¬\][Ce��T�T\Cegaf_To9jY?_Zv�\C¡ZV�ø�Y9q`V9o]e�Y�_:ù�V9o¬\Ca�[wY�\Cegaf_�a?b ��^.Y?dfVHo9� ç³åpå�å�í$Û�Þ,â8ã�ì�Ú/Þ à{à�å�Û�â;µ/â�Þ�~ ò ã¸ágãtÞ,â�ä9æ Þ\ëæJç�ágâ�å<çJâ8à�å?~H~ áGß�å�â�æJå j��8ÁÈ�=Å�¿ �?�=|D�=���F|fjA|,�?�?�F�

|%�`�WU$� øl�3©RV9_T_ZVH[]q`�L�le�o]�ZY?¢A\][wY?iw�=eg_Zd(a?b��=_Ta%ª�_�\C¡T[CVHVH­�vTeg^�V9_Zo]ega?_�Y?¢3af�=ĬV9iH\Co9� çJâ$à�ì���Ü èEÛJâ�Þ�~ܽï ü Ü,ê�Ý$èEà�å�Û+ÿeágã¸áYÜ,â jN��¿ }E¿ ���f}%�F�?�?�=j |9�f�f�=�|,}=�L�l� ©2�A©Ra`a=v=ª�eg_+Y?_�v���� hx�3hFeg_;� µQä=Þ�Ý�à{ágé,åcÆp~ à�å�ÛJágâ�ßFÝ�Û�å�ä,áYæ�à{áYÜ,â*Þ,â�ä�æJÜ â$à{Û�Ü�~ �.~�[CVH_=\Cegi9VD­úWY�¢g¢ÈjM|,�?�?�T�|9�F�Wk2�Z©l[CV9_ZY?_ZvTVH[,j½÷$�Z��¡Ta%ª)j?Y�_�vLU$�»ý��?�)VHV9_�Y�_M� µ��sã<û�ìQµCÚQÞ,à{à�å�ÛJâ í�ç$å�Ü,Û¸å�à{áYæ¸Þ�~lû$à{è8ä,òܽï�þQáYÜ�~nܸß,á{æJÞ�~Fû�ç8Þ�Ý8å�ã ��hFXT[Ceg_TdfVH[]­¿� VH[C¢�Y?dT�TÆRVDª7÷ta?[C�Njx|,�?�F|?�|%�`�Wk2�Z©l[CV9_ZY?_ZvTVH[WY?_�v;ý�� �w�Fý�eg¢�¢gVH[,��ùlVHXT[CV9o]V9_`\wY%\Ce�a?_Zola?b �=_Za,ª�¢gV,vTd?V2eg_�i9af^�XT¢gVHu�o¬qFo¬\CV9^�oÁ7ª�ep\C¡�vTego]i9�To]o]egaf_�ÅD� �EìFÌQÜ ò�ì�û$àÞ à�ì�û�Ü�æ�ì�þ�ì jN���E¿ ���f�%�=�?�f}=jA|,�f�?}F�|,�=�L�l�¾úWY�[][Cego9�W M[wY?iw�=e�_Td�ª�eg\C¡�[Cegdfe�v�^�a=vTV9¢go9�l�r_�®L�»øt¢ÅY��nV2Y?_�v�®L�l÷t�Zeg¢g¢gVfjNV,vFep\Ca?[Co9j µ/æ�à{á©é,åÿeágã¸áYÜ,â j��?�,�F�%�T�Fý��r Rj3|,�?�n�`�|%�`�WU$�lúRa?dfdF�5ý�a=vTVH¢g­¿�ZY?o]V,vÂm=ego]egaf_�¿�YXT[Ca?d?[wY?^ \Cao]VHV�YIª�Y?¢g�=eg_Zd1XNVH[Co]a?_M� çJêFÞ�ß�å�Þ,â�äÿeágã¸áYÜ,â ü Ü,ê�Ý$èEà{á©â�ß j;|=Á¬|�Å�¿ �9�F�?�=jA|,�?�f}F�|,�=�WU$� ~¾��úl�T\]\CV9_T¢ga`iD¡TVH[,jM�T� �T�¾Ælaf¡Mj3Y?_Zv� � �T�Cù��Ziw�F¢ge�vTd?Vf�( M[wY�iD�=eg_Zdz_Taf_F­¿[Cegd?eÅv¤af�=ĬV9iD\Co2eg_

i9a?^�XZ¢gVHu(o]i9V9_TV9o9� �r_ ÚvÛ�Ü�æ�ì¡Í8à©ç/çJâ$à�ì ü Ü,â�ï}ì�Ü,â ü Ü,ê�Ý�è�à�å�Û;ÿeágã¸áYÜ,â jZ�f},��|9�F|fj3|,�f�?}F�|,�=��ý��T�LY?o]o9j=®L�� Âeg\C�=eg_MjfY?_Zv�U$�T 3VH[��9a?XNaf�T¢�a?o9�thF_ZY?�nV9o}¿n®liH\CegmnV�iHaf_`\Caf�F[�^�a=vFV9¢go9�A�r_ ÚvÛ�Ü�æ�ìÈ ã¸àpçJâ8à�ì ü Ü â�ï�ì¥Ü,â ü Ü,êLÝ�è�à�å�Û+ÿ�ágã¸áYÜ â j��f�?�,�F���f�FjA|9�f�f�=��?�=�WU$� ©2���;a,ª�Vf��ù�af�T�Zo¬\�^�a=vFV9¢p­��ZY?o]V,v§^�a?\Cegaf_§\][wY?iw�=e�_TdR\C¡T[Ca?�Zd?¡2\C¡ZV�e�_`\CV9d�[wY�\Cegaf_�a�bNo]V,Y%[CiD¡

Y?_Zv�V9o¬\Ceg^.Y�\Cega?_M� çJâ$à�ì��Ü,è�ÛJâ�Þ�~�ܽï ü Ü,ê�Ý�è�à�å�Û;ÿeágã¸áYÜ,â jZ�8Á¿�,Å�¿g|f|,},��|,�f�=jA|9�f�f�=��=|?�� � ú2�W~�[CVHo]o9j§hx� ®§�W 3V9�T�naf¢go]�`q`j� ¯�  R�W�tVH\]\CVD[C¢�eg_TdTj)Y�_�v øl� ~¾�&S¾¢�Y�_Z_ZVD[]q`� ��èEêFå�Û�á{æJÞ�~ÌQå¸æ�á Ý8å�ã§ágâ ü �t��Y?^2�T[Ce�vTd?V)kR_ZegmnVD[Co]eg\�q#~�[CV9o]o9jM|,�?�f�F��f�`�&øl�¾ùRY�aT�AUWY�\wYRY�o]o]a`i9e�Y�\Cegaf_.^�VH\C¡Ta=vTo3bya?[�\][wY?iw�=eg_ZdRo¬qFo¬\CV9^�o9�3�r_2®§�¾ø�¢�Y?�fV�Y?_�v2®§�Å÷t�Zeg¢g¢gVfj

V,vFeg\Ca�[Co9j µQæ�à{ágé,å;ÿeágã¸áYÜ,â j��=|D��|9�n�`�Fý��¬ RjM|,�f�f�=��?}=�)�T� ý��FùlVH¡Zd.Y?_Zv� R�Z�LY�_�YfvFVf�l�Rego]��Y�¢3\][wY?iw�=e�_Td#a�b ¡Zegdf¡¤vTa�b�Y%[]\Cegi9�Z¢�Y�\CV9v�o¬\][C�TiH\C�T[CVHo}¿;Y?_

Y?XTXZ¢gegi,Y�\Cega?_�\Ca$¡=�Z^.Y�_�¡�Y�_�v�\][wY?iw�Feg_TdT���r_#�?­rs2�Tc �=¢g�Z_ZvT¡;j`V,vTep\Ca�[,j ÚvÛ�Ü�æ�ì¶ä\Û½ä(åvè�Û�Ü�Ý8å�Þ,âü Ü,â}ï�å�Û¸å�â�æ�åtÜ,â ü Ü,ê�Ý�è�à�å�Û;ÿeágã¸áYÜ,â jZ}n�9�`�f�F�xh=XT[Ceg_Zd?VH[¬�`� VH[C¢�Y?dFj3|9�f�?�F����F�&øl� U$�»ùlegXZ¢gVHq�Y?_Zvz®§� ���Nh=�T\C¡ZVD[C¢ÅY�_�vx�.S¾eg_ZvTeg_Zd�o]XTep[wY?¢3o¬\][C�TiH\C�T[CVHo�eg_zeg^.Y�dfV9o�a?bAdfY?¢�Y�uFegV9o9�Ú(ç�á`~Gìví$Û�Þ â$ã�ì�̧ì�û�Ü�æ�ì���Ü â�ä�ìCµ:ì j�}?}n�EÁ¬|9�n�?�\Å�¿ �`�?�,�`�f�n�`jt|9�f�f�=��f�`�L©2��h=\Ca?[Cm=eg�N�¾®¹ø�Y9q`V9o]e�Y�_$Y�XZXT[CafY?iw¡2\CalvFqF_�Y�^�egi iHaf_`\Caf�F[Co¾\C¡T[Caf�Tdf¡Lo¬\Ca`iw¡�Y?o¬\Cegi�oCY�^�XZ¢geg_Zd

Y?_Zv$o]eg^$�T¢ÅY%\CV,v�Y�_Z_ZV9Y?¢geg_ZdT� ç³åpå�å°í$Û�Þ â$ã�ì$ÚQÞ,à{à�å�ÛJâÞµ/â�Þ�~ ò,ã¸ágã/Þ,â�ä<æ Þ=æJç�ágâ�åLçJâ$à�å?~H~ ánß�å�â�æJå j|,�EÁ¬|,�\Å�¿ �f�?�,�=�f�?�Fj |,�?�?�T�

�?�=�L©2� U$��hF�Z¢g¢gegmfY�_M���le�o]�ZY?¢xeg_`\CVH[CXT[CVH\wY%\Cegaf_za�bA�=_Za,ª�_#a?�FÄrV9iH\Co�eg_�i9a?_Zo¬\][wY�e�_TV,v�o]i9VH_ZV9o9� Ú(ç�á`~Gìí$Û½Þ,â$ã�ì¶Ì§ìCû�Ü�æ�ì���Ü â�ä�ìCþ�ì jT}f}f��¿ }f�=|D�`}n�?�=j�|,�f�f�=��f�`�WU$�T 3VH[��HafXNaf�T¢gafo�Y?_Zv(U$�»ý�VH\wY%uTY?o9� URqF_�Y�^�e�i�}�U ^�a=vTV9¢go�ª�ep\C¡(¢ga`i,Y?¢MY?_Zv(d?¢�a?��Y�¢MvFVHb7a�[]­

^.Y�\Cega?_Zo}¿3vTVHbya?[C^.Y?�T¢gV�o]�ZXNVH[*q`�ZYfvF[Cegi9o9� ç³åpå�åÿí8Û�Þ,â8ã}ì ÚQÞ,à{à�å�ÛJâ�µ/â�Þ�~ ò ãJá©ãFÞ,â�ä,æ Þ=æJç�ágâ�åçJâ$à�å?~Î~ áGß�å�â�æJå j3|9}8Á¿�,ÅDj3|,�?�F|?��?�=�Lhx�Fkl¢�¢g^.Y�_ÂY?_ZvÜùL�¾ø�Y?o¬[Ce«�7ùlVHi9afd?_Zep\Cegaf_ �`q+¢ge�_TV,Y�[(i9a?^$�Te�_ZY�\Cegaf_To.a?b)^�a=vFV9¢go9� ç³åpå�åí$Û½Þ,â$ã�ì�ÚQÞ,à{à�å�ÛJâ;µ/â�Þ�~ ò ãJá©ãHÞ,â�ä�æ Þ=æJç�ágâ�å�çJâ$à�å?~H~ áGß�å�â�æJå jM|9}8Á¬|,�\Å�¿ �f�n�9��|9�f�f�=jt|9�f�=|f��?�=�)®§�Q÷t�Zeg¢g¢gV2Y�_�v�~¾�¾úWY?¢g¢geg_�Y�_M��UWVHbya?[C^.Y?�T¢gVL\CVH^�XZ¢�Y�\CV9o9����_�®§�¾ø�¢�Y?�fV$Y�_�v�®§�Å÷t�Zeg¢g¢gVfjNV,vFep­

\Ca?[Co9j µ/æ�à{ágé,å+ÿ�á©ãJá{Ü,â j��?�,�=}f�=�Fý��¬ Rj;|,�?�n�`� �¡Zego�Y�[]\Cegi9¢gV)ª�Y�olXF[Ca`i9V9o]o]V,v��To]eg_Zd$\C¡TV����H  c {¯^.Y�iH[Ca�XZY?iw�fY�dfVWª�ep\C¡�ct�����2Á �f��o¬\�qT¢gV