people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, -...

48

Transcript of people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, -...

Page 1: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������ ������ �������� ����� ����� "! #$�%�� ��'&(#��)����+*,���- "./�-�%0�*%�-01� 23�-�4�� ��%0

5�687:9<;>=�?�@BA(?8?C68DFE:GH�IKJMLONQPQRTSVUWRYX[Z\I^]�P`_aZbZTRbcd_e]fUW_�ghX[i>jdNkX:PQj�NQl

m(n�oYp<qfr`qfsat+u�svpawatvoyx`sWp{z|n�tQsks{pvz}r[z8oYpvzCoywkr:~>����udsa~�ph�W�[t��(r:zC��tQr:~V~Tr:���[�fre��s�qfr:tkpvo�������m>nfs�����udsa~�p�s`���z^sW�(u���sWz|n���u�p��ktQ�:����tQ��xkrdxao�~�oYpvz8oyw����[�fz^sQ��z���tQsks���tQr:�B��r:tkpOz^��~Ts`��oywkr:~�oT��sku+�[tQr[����r:tkpk��~Tskrdu:o����z^�4r`q�q>tQ��rdwkn�sWp{ hnfsWtQs+r�q�r[tkpWs�zCtQsks¡oYp¡tQs^q>tQsWpasW�Vz}sku�r�p¡z�nfs¡pask¢a�fsW�(w`s��K�{u�skwWoYpvoy�:�fp�wk�:tvtQsWpCq��[�>u:o����z^�£r�nfskrdu:�¤wksa�fz^sWt`s`u:��z^�`q>�¤u��: <��udsatvo�¥�r[z8oy�[���¤��z�nfs�zCtQskse��¦W�>u�s}qfsW�(udsa�>wksBr�pkpv���Oq(z8oy�[��p�z�nfsW�§~Tskrduz^��qfr:tQr[��saz^sWtkp{z|n�r[zFsa�>wk��uds�z|n�s�¨��¤xkr[t�pWwkn�sa��r���pk�fxkwkr:z^s}���[tvoT��r:zCoy�:���<�:tQu�sWtvo������K��w`�[�Oq(~Tsa��sa�fz8pk�q>~brdwksW��sa�fz4�K��rduK©v���>wazypk��xWoª�dtQr:�«~bsQ��oywkr:~Ouds^qfsW�(udsa�>waoysvpk�+ hn��^���:¥:sW��sW�Vzy��r:�(u�q(tQs8�WsWtQsa�>wksWp��W�[twa~T��pas�r:zCz^rdwkn���sW�Vz}��¬�~�~��K��z|n�sWpas�q(tQs8�WsWtQsa�>wksWp­r:tQs®s`�vq(tQsWp`pasku-xW¯�q(tQ�dxkr�xWo�~�o�zCoysWp�wk�:�(u:o�zCoy�:�>sku-�:�~Ts`��oyw`r[~Vn�skrdu:pa�Om>nfs����eu�sW~�p�r[tQs�sa¥�r[~��fr:z^sku��:��z|n�s{�OsW�V�±°�r[~�~(²VzCtQsksWz�³��:��tv�(r:~(zCtQsksexkr:��´���pQn��[ <�o����Bz|n�r[zFz�nfsWo�t+rdwkwW��t`rdwa¯�oYp�wk�:�{qfsWzCo�z8o�¥:s+ <o�z|n®�:z|n�sat{���eu�sW~�p�o��­z|n�s�~�o�z^satQr:zC��tQs���¦v���:tQu�sWt�z}�+��r:o��r�xksWzCz}sat����>u�sWtkpvz^r:�(u:o������¤��z|n�s�����udsa~�pk� �s�r[~�pa�B�do�¥:sBtQsvpv��~�z8p4�:��u:o µ{satQsa�fzOwk�:��pvzCo�z8�fsa�fz�zC¯`q�sWpk�r:�(u4�do�¥�s�r­xWtQskr�´du��: <�-�¤�q>tQskwaoYpvoy�:�[¶>tQskwkr:~�~�tQsvpv��~�z8p+o��·tQskwk�:¥:sWtvo����£¥:r:tvoy�[��p�z8¯`qfsvp4�¤��uds^q�sa�>u�sW�V�waoysvpa�£°�s�r:�(r:~�¯�pas®¥:r:tvoy�[��p®w`nfr:tQr�wWz^satvoYpkzCoywWp��K��z�nfs®����udsa~�p�z|n�tQ�[�d��n¸s`�vqfsatvo���sa�fz8p­�:�§q�r[tkpvo����rdwkwa��tQrdwa¯��xa¯�wk�[~�~TskwWzCo������ktQsk¢W�fsa�>waoysWp��¤��¥:r:tvoy�[��p+pkzCtv�fwaz8��tQsWp{o���z|n�s�z8tQsks�xkr:��´:��r:�(u�z�n�tQ�:�d��n­~�o��V��d��oYpkzCoywkr:~�~�¯®���:zCo�¥�r[z}sku�sQ��r[�Oq(~Tsvpa����o��(r:~�~�¯��� �s�wk�:�{q�r[tQsBz�nfs�����udsa~�p4z^�­�[z�nfsWtkp�z�nfr:z�n�r[¥�s�xksksW�r`q�q>~�oysku�z^��q�r[tkpko�����z|n�s�z8t`s`s�xkr:��´���r:o��Bo����¸z^���do�¥�s�pW�[��s�s`�Wq>~Tr[�>r:zCoy�:���¤�·z|n�s�u:o µ�sWtQsa�>wks-o��qfsWt|�W�[tv��r[�>wks��K�+z|n�s4¥�r[tvoy�:��p����eu�sW~�pW�¹·ºW»(¼e½�¾\¿hÀ�Á[¼�Ây¾>»LOÃ�i�RbcdÄ�RTPKl�RYÅ�XBUW_e]�PQNkX[Z(Æ�N`jdi�Zb_aÃÇRb]­]fX[PQÄ�NkX[Z(ZYX[]�c�ÄfX[c�_OÆfXdN`ÅQRT]fcfÈfÉjdÃ�i�RT]VX:PQj�NQRYX[ZV_WÊ(_eUWP`Å�Ã�_eXd]PQËVX:PO_aÌ�_a]­NQ_eZbX[PQRbÌd_aZbl�ÅQË�jdNQP�ÅQ_a]�P`_a]fUa_eÅ�UaXd]­N`_eUa_aRbÌd_+X�Uajd]fÅQRbÍ�_aNkX[i�Zb_�]�Ä�Ã�iV_eN¡j[Î�ÆfX[NkŤ_�Å�Äf]fÍ�_aNOXÏ RYÍ�_WÐ^UWj:Ì�_aNkX[cd_¡c�N`XdÃ�Ã�XdNeÈ�Ñ�PkX:PQRYŤPQRYUaX[Z(ÆfXdN`ÅQRb]�c4X[ÆfÆ�NQj�XdUkË�_�Å<PkXdUkÒ�ZT_�PQËf_�XdÃ4i�RbcdÄ�RTPKl�Æ�N`jdi�Zb_aÃ/i�lXdÅ`ÅQRTc�]�RT]fc®X®Æ�N`jdifXdi�RbZTRTPKl®PQj�_eX�UkË�ÆfXdN`ÅQ_�P`NQ_e_dÓ(P`Ë�_aN`_ai�l·NkX[]�Ò�Rb]�c­UajdÃ�Æ>_WPQRb]�c®PQN`_a_�Å+RT]-jdNkÍ�_eN�jdÎÆ�ZYX[ÄfÅQRbi�RTZbRTPKldÈ(I^]·Ã�X[]�l�ÅKPkX:P`RbŤPQRYUaXdZhÃ�j�Í�_aZYÅ{PQË�_BÆ�N`jdifXdi�RTZbRTPKl£Î|j�N�_�XdUkË·UaXd]fÍ�RYÍ�X:P`_�P`NQ_e_4RYÅ�UeX[ZYUWÄ�ÐZYX:PQ_�ͧX�Å�X£Æ�NQj�Í�ÄVUvP�jdÎ�PQ_eNQÃ�ÅeÓV_�XdUkË�P`_aN`ÃÔUWjdN`N`_eÅQÆVj�]fÍ�Rb]�c�PQj®Å¤j�Ã�_�ÅQÄ�i�Ð^ÅKP`NQÄfUWPQÄ�N`_ Ï RTPQËfRT]§PQË�_PQN`_a_�È\J�Ë�_�UkË�j�RbUa_�j[Î�qfr:t`r:��sWz^sWtvoT��r[z8oy�[�§RYÅ+_eÅ`Ť_e]�P`RbXdZTZbl�P`Ë�_�UkË�jdRYUW_�jdÎ�Ë�j Ï PQj�N`_aÆ�N`_eÅQ_a]�P�ÆfX[NkÅQ_PQN`_a_�ÅaÈVJ�Ë�_aN`_�X[N`_{P Ï j�UWN`RªP`RbUeX[Z�Õ�Ä�_eŤPQRbjd]VÅ�NQ_ec�X[NkÍ�Rb]�c�P`Ë�_�ÆfXdN`XdÃB_aPQ_eNQRbÖeX[PQRbjd]£jdÎhP`Ë�_�Æ�N`jdi�Zb_aÃ�×

Ø È Ù±Ë�RYUkË®ZbRb]�cdÄ�RYŤPQRYU+jdi�ÚK_�UvP`Å�Ûy_dÈ cfÈbÓfUWj�]�PQ_WÜ�PQÐ8Î|N`_a_�NQÄfZT_�ÅaÓ�ÆfXdN`ÅQ_+Ã�j:Ìd_eÅkÝŤË�j�Ä�ZYÍ£P`Ë�_Ã�j�Í�_aZCÞ Å¡ÆVX[NkX[Ã�_WP`_aNkÅi>_�XdÅ`ÅQj�UaRbX[PQ_�Í Ï RTPQËVß�I^]®jdPQË�_eN Ï j�N`ÍfÅaÓ Ï Ë�RYUkË®Î|_eX:P`Ä�N`_eÅ¡ÅQË�jdÄ�ZYÍiV_�ÄVŤ_�Í£P`j�Í�RbÅ`UWN`RbÃBRb]fX[PQ_�i>_WP Ï _a_a]�X[ZTPQ_eNQ]VX:PQRbÌd_�ÆfXdN`ÅQ_�PQN`_a_eÅkßà È áOj Ï UaX[]®P`Ë�RbÅ{UkË�jdRYUW_�iV_�Rb]fŤP`Xd]�P`RbX[PQ_�Í­Rb]�X�Ťj�Ä�]fÍ­Æ�NQj�ifX[ifRTZbRbŤPQRYU�Ã�j�Í�_aZ�ß

I^]âPQË�RYÅ�ÆfX[Æ>_aN Ï _­_aÜ�Æ�ZTj�NQ_­PQËf_eÅQ_­RYÅQÅQÄ�_�Å Ï RTPQËfRT]âPQË�_®Î|NkX[Ã�_ Ï jdN`Ò�j[Î�cd_a]f_aNkX:PQRbÌd_­Ã�j�Í�_aZYÅaÓÃ�jdN`_{Æ�N`_eUaRbÅQ_aZbl�PQË�_�Ë�RYÅKP`jdN`l�Ð}ifX�Ť_�Í�Ã�j�Í�_eZbÅjdN`RTc�RT]VX[ZbZTlBRT]�P`NQj�Í�ÄfUa_eÍBP`j4ÆfXdN`ÅQRT]fc�i�l�Û8ã�ZbX�UkÒ�_aP�XdZ8ÈØeä�ä�à iVÝvÈVI^]§X�Ë�RYŤPQjdN`l�ÐCiVXdÅQ_eÍ®Ã�j�Í�_aZFX�ÆfX[NkÅQ_�PQN`_a_�RbÅ�NQ_eÆ�N`_eÅQ_a]�PQ_�Í®X�Å{X­Å¤_�Õ�Äf_a]fUa_�j[Î�Í�_�UWRYŤRbjd]VÅaÓ

åæhç8è8é ê:ëKé�ìkí�î�ïWèCðKí�í�é�ñvðKï�ëKðò�ìkódôvçCì`èCôvçyõWö[÷�ìkøCøCìkë}ùeú�øCð^è8è8ø�î�ï�ø8è8é èCú�è8ð�ôkû�ü�ð¤ëCù�ï�ôví�ôvñkõWödýkþWý�ü�ðKë}ù�ï�ôví�ôvñkõ+ÿ��aú:ìkçCðvö� ì���ó�çCé���ñvðvö:÷+æ����� ��ö���ÿeæ

ë� �� �æhøCøCôaëKé�ì`èCé�ôvï{ûbôvç � ô����ú�èCì`è8é�ôvï:ìkí�ò�é�ï�ñvú�é�ø8è8é�ë¤ø

Page 2: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

PQËf_+Í�_eUWRYÅQRTj�]fÅ�i>_aRb]�c�Ã�XdÍ�_�Rb]­ÅQjdÃ�_�Í�_aN`RTÌ:X:P`RTj�]�j[Î\PQË�_�PQN`_a_�È*.�XdUkË­Í�_eUaRbÅQRTj�]�ËfX�Å�Xd]­X�ÅQÅQj�UWRYX:PQ_�ÍÆ�N`jdifXdi�RbZTRTPKldÓ�X[]fÍ�PQË�_�Æ�N`j�Í�ÄfUvP�j[Î�P`Ë�_eÅQ_�Æ�NQj�ifX[ifRTZbRªP`RT_�ÅÍ�_WSf]�_�Å�X�Æ�N`jdifXdi�RbZTRTPKl�Í�RbŤPQN`Rbi�Ä�PQRbjd]£j:Ìd_aNÆ>j�Å`ŤRbi�Zb_�Í�_aN`RTÌ:X[PQRbjd]fÅeÈ

Ù-_�SfN`ŤP�Í�_eÅ`UWN`RbiV_®PQËfNQ_e_®ÆVX[NkŤRb]�c-ÃBj�Í�_eZbÅ�iVXdÅQ_eÍâjd]âPQË�RYÅ�X[Æ�ÆfNQj�XdUkË�È<J�Ë�_�Ã�j�Í�_aZYÅ Ï _aN`_jdN`RbcdRb]fX[ZbZTl�RT]�P`NQj�Í�ÄfUa_eÍBRb]·ÛCÉjdZbZbRT]fÅ Øeä�ä / Ý�0�PQË�_�UWÄ�N`N`_a]�P�ÆfX[Æ>_aN�1FcdRbÌd_eÅ<Uajd]fÅQRYÍ�_aNkX[i�Zbl4Ã�j�NQ_OÍ�_aP`XdRTZX[]VÍ Í�RbÅ`UWÄVÅQÅQRTj�]�j[Î�PQË�_­Ã�j�Í�_aZYÅaÈhI^]32 ¾�¿�4 5B¹ Ï _£ÅQË�j Ï jd]�_�XdÆ�Æ�N`j�X�Uk˧P`ËfX:P4_aÜ�PQ_a]VÍ�Å�Ã�_WP`Ë�Ðj�Í�Å�Î|N`jdÃ76�N`jdiVX[i�RbZTRYŤPQRYU�Éjd]�P`_WÜ�P98�N`_a_�:�N`XdÃBÃ�XdN`Å�Û;6�É'8<:+ÅkÝ�P`j�Zb_WÜ�RYUaXdZTRbÖa_�Í�cdNkX[Ã�Ã�X[NkÅeÈ�H�j�ÅKPRbÃBÆ>jdNQP`Xd]�PQZbldÓVPQË�_�Ã�j�Í�_eZhËfX�ÅOÆfXdN`XdÃ�_WPQ_eN`Å¡UajdN`NQ_�ŤÆ>jd]VÍ�RT]fc�PQj£Í�_eÆV_e]fÍ�_e]fUWRb_eÅ�iV_aP Ï _e_a]�ÆfXdRTNkÅOjdÎË�_�XdÍ�Ð Ï j�N`ÍfÅaÈ>Ù�_�X[ZYÅQj­ÅQË�j Ï Ë�j Ï P`j­Rb]fUWj�NQÆ>jdNkX:P`_�X>=QÍ�RYÅKPkX[]fUa_�?£ÃB_�XdÅQÄ�N`_4Rb]�P`j£P`Ë�_eÅQ_�Ã�j�Í�_aZYÅaÓi�l�cd_e]�_aNkX[ZbRTÖeRT]fc�PQËf_�Ã�j�Í�_eZVP`jBX�Ë�RYÅKP`jdN`l�ÐCifX�Ť_�Í�X[Æ�ÆfNQj�XdUkË�È�J�Ë�_+Í�RbŤP`Xd]fUW_�Ã�_eX�ŤÄ�N`_�XdZTZbj Ï Å�PQË�_Ã�j�Í�_aZ�P`j�ZT_�X[N`]­X�Æ�N`_WÎ|_eNQ_e]fUW_�Î|jdN�UWZbj�ÅQ_WÐ^X:P¤PkXdUkË�Ã�_e]�P�Ó�jdN�NQRbcdË�PQÐCi�NkX[]VUkË�RT]fcBŤPQN`ÄfUvP`Ä�N`_eÅeÈ

I^]@2 ¾�¿�4 5BA Ó Ï _�_aÜ�P`_a]fÍ�PQËf_�ÆfX[NkŤ_eNBPQj�Ã�X[Òd_­PQËf_·UWjdÃ�Æ�Zb_aÃ�_e]�P�C:X�Í�ÚKÄ�]fUWP�Í�RbŤPQRb]fUvP`RTj�]�ÓÏ Ë�RYUkË Ï RbZTZ�iV_�RbÃ�ÆVj�N¤PkX[]�P�Î|j�N\Ã�j�ŤPhX[ÆfÆ�ZTRYUaX[PQRbjd]fÅ�ÄfŤRb]�c¡P`Ë�_�j�Ä�PQÆ�Ä�P\Î|N`jdÃ�PQË�_�ÆVX[NkŤ_eNeÈaH·j�Í�_aZ à RbÅX[ZYÅQj�_aÜ�PQ_a]VÍ�_eÍ4PQj�ËfX�Ì�_ÆVX[NkX[Ã�_WP`_aNkÅ�UajdN`NQ_�ŤÆ>jd]VÍ�RT]fc�Í�RbNQ_�UvP`ZTl�P`j�Æ�N`jdifXdi�RTZbRTPKl�Í�RbŤPQN`Rbi�Ä�PQRbjd]VÅFj:Ìd_aNÅQÄ�i>UeX:P`_acdj�NQRbÖeX[PQRbjd]�Î|NkX[Ã�_�Å{Î|j�N+Ë�_eX�Í�Ð Ï jdNkÍ�ÅeÈVJ�Ë�_�]�_ Ï ÆfXdN`XdÃB_aPQ_eN`Å�ZT_�XdÍ·PQj�X[]�RTÃ�Æ�N`j:Ìd_eÃB_e]�PRb]�X�UaUaÄ�N`X�UWl�È

I^]D2 ¾\¿<4�5FE Ï _�cdRbÌd_�XOÆ�NQj�ifX[ifRTZbRbŤPQRYUFP`NQ_�X:PQÃ�_e]�Phj[Î Ï Ë�Ð}Ã�j:Ìd_aÃ�_e]�P�Ó Ï Ë�RYUkË�RYÅ\Zbj�j�ÅQ_aZbl{ifX�Ť_�Íjd]·PQË�_�X[]fXdZTl�ÅQRbÅOj[Î Ï Ë�Ð}Ã�j:Ìd_eÃB_e]�PORT]G:�_a]�_eN`XdZTRbÖa_�ÍH6�Ë�NkXdÅQ_�Ñ�P`NQÄfUWPQÄ�N`_I:�NkX[Ã�Ã�X[NBÛJ:+X[Ö�Í�X[N�_WPX[ZCÈ Øeä�ä�K ÝWÈ�J�Ëf_�j�Ä�PQÆ�Ä�P�jdÎ�PQËf_�ÆVX[NkŤ_eNRYÅ�]�j Ï _a]fËfX[]fUa_eÍ�PQj�ŤË�j Ï P`N`X�UW_+UWjdÐCRb]fÍ�_aÜ�X[PQRbjd]fÅ�RT] Ï Ë�ÐÃ�j:Ìd_eÃB_e]�P+UeXdÅQ_eÅeÈ(J�Ëf_�ÆfXdN`XdÃ�_WPQ_eN`Å�Rb]§P`Ë�RbÅ+Ã�j�Í�_eZFXdNQ_BRb]�P`_aN`_eŤPQRb]�c®RT]�PQËfX[P�P`Ë�_al�UWjdN`N`_eÅQÆVj�]fÍÍ�RbNQ_�UvP`ZTlBPQj�PQË�_�Æ�NQj�ifX[ifRTZbRªPKlBj[Î�Æ�N`jdÆVX[c�X[PQRb]�cD:L6Ñ�:�Ð}ŤPKl�ZT_+pv~Tr:p¤n�Î|_eX[PQÄ�N`_eÅ�PQË�N`jdÄfcdË�ÆfXdN`ÅQ_�PQN`_a_�ÅaÓÆ>j[PQ_e]�PQRYX[ZbZTl®X[ZbZTj Ï Rb]�c�PQË�_�Ã�j�Í�_aZ�PQj�ZT_�X[N`]­RYÅQZbXd]fÍ­Uajd]fŤPQNkX[Rb]�P`ÅeÈI^]�PQËf_{N`_eÅQÄ�ZªP`RT]fc�Ã�j�Í�_aZYÅ�X�ÆfXdN`ÅQ_�PQN`_a_{RbÅ�NQ_eÆ�NQ_�Ť_e]�PQ_eÍ�X�Å<PQËf_�ÅQ_eÕ�Ä�_a]VUW_OjdÎ�Í�_eUWRYÅQRTj�]fÅ�UWj�NQN`_WÐÅQÆVj�]fÍ�Rb]�c�PQj�X�Ë�_eX�Í�Ð^UW_a]�P`_aN`_eÍ�Ó�P`jdÆ�Ð^Í�j Ï ]�Í�_aN`RbÌ�X[PQRbjd]�jdÎ>P`Ë�_¡P`NQ_e_dÈdI^]VÍ�_aÆ>_a]fÍ�_a]fUa_{XdÅ`ŤÄfÃBÆ�PQRbjd]fÅPQËf_a]�Î|jdZbZbj Ï ]fX[PQÄ�NkX[ZbZbldÓ�Zb_eX�Í�RT]fc�P`j1ÆfXdN`XdÃB_aPQ_eN`Å�PQËVX:P£_e]fUWj�Í�_�P`Ë�_NMOÐ}ifXdN�ÅQUkË�_eÃ�X�Ó�ÅQÄ�i(UaX:P`_WÐcdj�NQRbÖeX[PQRbjd]�Ó�jdNkÍ�_eNQRb]�c·jdÎ�UWj�ÃBÆfZT_eÃB_e]�P`ÅeÓhÆ�ZYXdUa_aÃ�_a]�P�j[Î�X�Í�ÚKÄ�]fUWP`ÅeÓFZT_aÜ�RYUaXdZ�Í�_aÆ>_a]fÍ�_e]fUWRb_eÅeÓ Ï Ë�ÐÃ�j:Ìd_eÃB_e]�PeÓ�X[]fͧÆ�N`_WÎ|_aN`_a]VUW_eÅ{Î|jdN+UWZbj�ÅQ_�X[P¤PkXdUkË�Ã�_a]�P�È(L{ZTZ<jdÎ�PQËf_eÅQ_�Æ�N`_WÎ|_eNQ_e]fUW_�Å�XdNQ_�_WÜ�Æ�N`_eÅ`Ť_�Íi�l�Æ�N`jdifXdi�RTZbRTPQRb_eÅ�UWjd]VÍ�RªP`RTj�]�_eÍ·jd]·Zb_WÜ�RYUaX[Z�Ë�_�XdÍ�ÅeÈ�8fjdN�PQË�RYÅ�NQ_�XdÅQjd] Ï _4N`_WÎ|_eN{P`j£P`Ë�_�Ã�j�Í�_eZbÅ�XdÅn�skr�u:�¤u:tvo�¥:sa��pvz^r:zCoYpvz8oywkr:~\����udsa~�pvÈ

Ù-_�Í�_eÅ`UWN`RTi>__eÌ:X[ZbÄfX:P`RTj�]4j[ÎfPQË�_�PQËfNQ_e_�Ã�j�Í�_eZbÅ�jd]4PQË�_O6F_e]�]4Ù�X[ZbZfÑ�PQN`_a_aPQP�jdÄfNQ]fXdZdP`NQ_e_aifXd]�ÒÛyH§X[NkUWÄfÅ4_WP�XdZ8È Ø�ädä�R ÝvÈ�H·j�Í�_aZ Ø XdUkË�Rb_aÌ�_eÅ�S / È / CTS / È K�U UWj�]fŤPQRTPQÄ�_e]�P�Æ�NQ_�UWRYŤRbjd]�X[]VÍ�NQ_�UaX[ZbZ�j�]ÅQ_a]�PQ_e]fUW_�Å�jdÎ�Ä�Æ�P`j Ø�V�V Ï jdNkÍ�Å�Rb]£Zb_a]�cdPQË�Rb]­ÅQ_eUWPQRbjd] àWR j[Î�P`Ë�_�PQN`_a_aiVX[]�Ò(Ó�X[]fÍ�H·j�Í�_aZYÅ à X[]fÍ RcdRbÌd_�Î|Ä�N¤P`Ë�_aN�RbÃBÆfNQj:Ì�_aÃ�_a]�P`Å¡PQjXS�S�È R CYSWS�È V U UWjd]VÅKP`RªP`Ä�_a]�P�ÆfNQ_�UWRYŤRbjd]�C:NQ_�UaXdZTZCÈ�J�Ë�_eÅQ_�N`_eÅQÄ�ZTP`Å�X[N`_UWj�Ã�ÆV_aPQRTPQRbÌd_ Ï RªP`Ë�j[PQËf_aN+Ã�j�Í�_aZYÅ Ï Ë�RbUkË-ËfX�Ì�_4i>_a_a] XdÆ�Æ�ZbRT_�Í�PQj�ÆfXdN`ÅQRb]�c£P`Ë�_Z6F_a]�]§PQN`_a_eifX[]�Ò(ÈH�j�Í�_eZbÅ à Xd]fÍ R Æ�NQj�Í�ÄVUW_BPQN`_a_�Å Ï RªP`Ë�RT]�Î|j�NQÃ�X[PQRbjd]�X[i>jdÄ�P Ï Ë�Ð}Ã�j:Ìd_eÃB_e]�P+j�N�ŤÄfi>UeX:PQ_ecdj�NQRbÖeX[ÐPQRbjd]\È\H·X[]�l\[�g�6%X[ÆfÆ�ZTRYUaX[PQRbjd]fÅ Ï RbZbZ�]�_a_�Í�PQË�RYÅ+RT]�Î|jdN`Ã�X[PQRbjd]�PQj�_aÜ�P`N`X�UvP�Æ�N`_eÍ�RYUaX[PQ_aÐ}XdNQc�Ä�Ã�_a]�PŤPQN`ÄfUvP`Ä�NQ_+Î|N`jdà ÆfX[NkŤ_�PQN`_a_�ÅaÈ

J�Ë�_�N`_eŤPFjdÎfP`Ë�_¡ÆfX[Æ>_aN<RYÅ<ŤPQN`ÄfUvP`Ä�NQ_�Í�X�Å�Î|jdZbZTj Ï ÅeÈ[Ñ�_eUWPQRbjd] à cdRbÌd_eÅ�ifX�UkÒ�cdN`jdÄ�]fÍ�Ã�X[PQ_eNQRYX[Z�j�]Æ�N`jdifXdi�RbZTRYÅKP`RbUUWj�]�P`_WÜ�P¤ÐCÎ|N`_a_�c�N`XdÃBÃ�XdN`ÅeÓaX[]VÍ�Í�_eÅ`UWN`RbiV_�Å�Ë�j Ï N`Ä�Zb_eÅ\UeX[]�i>_]=¤Zb_WÜ�RbUeX[ZbRTÖe_eÍ^?�P`Ë�N`jdÄ�c�ËPQËf_­XdÍfÍ�RªP`RTj�] j[ÎOË�_�XdÍ�Ð Ï jdNkÍ�Å�PQj·ÆVX[NkŤ_�P`NQ_e_eÅeÈ�Ñ�_�UvPQRbjd] R RT]�PQN`j�Í�ÄfUa_eÅ�P`Ë�_�P`Ë�NQ_e_�Æ�N`jdifXdi�RbZTRYÅKP`RbUÃ�j�Í�_aZYÅaÈ�Ñ�_eUWPQRbjd]Z_�Í�_�ÅQUaNQRbi>_eÅ�Ì:XdNQRbjdÄfÅFN`_WSV]�Ã�_a]�P`Å�PQj+PQËf_eÅQ_OÃ�j�Í�_aZYÅaÈ�Ñ�_eUWPQRbjd] K Í�RYÅQUaÄfÅ`Ť_�Å<RbÅ`ÅQÄ�_eÅj[Î�ÆfX[NkX[Ã�_WP`_aN�_�ÅKP`RTÃ�X[PQRbjd]�ÓhPQË�_­PQN`_eX[PQÃ�_a]�P4jdÎ{Ä�]�Ò�]�j Ï ] Ï jdNkÍ�ÅeÓhXd]fÍ1X[ZYÅQj�PQË�_­ÆfX[NkÅQRT]�c�X[Zbcdj[ÐN`RªP`Ë�Ã�È�Ñ�_�UvPQRbjd]Z`+c�RTÌ�_eÅFN`_eÅQÄ�ZªPkÅF_aÌ:X[ZbÄfX[PQRb]�c+PQË�_¡Æ>_aNQÎ|jdN`Ã�X[]fUa_�j[Î>PQË�_OÃ�j�Í�_eZbÅ<j�]4P`Ë�_a6F_e]�]�Ù�X[ZbZÑ�P`NQ_e_WPIP�jdÄ�N`]fXdZhP`NQ_e_aifXd]�Ò�Û8H·X[NkUWÄfÅ�_WP4X[ZCÈ Ø�ädäWR ÝvÈ�Ñ�_�UvPQRbjd] / Rb]�Ìd_eŤPQRbc�X[PQ_�Å�Ì:XdNQRbjdÄfÅ�X�ŤÆ>_eUWP`Å�jdÎPQËf_£Ã�j�Í�_aZYÅ�Rb]1Ã�jdN`_�Í�_WPkX[RbZ8ÈhÙ�_­cdRbÌd_�X·Í�_WP`XdRTZb_eÍ Xd]fX[Zbl�ŤRYÅ�jdÎ�P`Ë�_�ÆfXdN`ÅQ_aN�Þ Å�ÆV_eN¤Î|j�NQÃ�Xd]fUW_�j�]PQN`_a_eifX[]fÒ�Í�X[P`X�ÓdRT]fUaZTÄVÍ�RT]fc�NQ_�ŤÄfZªPkÅFjd]�Í�RTÊ>_eNQ_e]�P�UWjd]VÅKP`RªP`Ä�_a]�P<PKl�ÆV_�ÅaÈ�Ù�_�X[ZYŤj+cdRbÌd_¡X+i�N`_eXdÒ�Í�j Ï ]j[Î�Æ�N`_eUaRbÅQRTj�]�C�N`_eUeX[ZbZhN`_eÅQÄ�ZTP`Å+Rb]�NQ_�UWj:Ìd_eNQRb]�c­Ì�XdNQRbjdÄVÅ�PKl�Æ>_eÅ�j[Î�Í�_aÆ>_a]fÍ�_e]fUWRb_eÅeÈ\J�Ë�_�Rb]�PQ_e]�P`RTj�]�RbÅPQj�c�RTÌ�_�X­i>_WPQPQ_eN�RbÍ�_eX®j[Î�PQË�_�ŤPQN`_a]fc[PQËVÅ�X[]fÍ Ï _�X[Ò�]�_�ÅQÅQ_eÅ�j[ÎPQË�_£ÆfX[NkŤRb]�c®Ã�j�Í�_aZYÅaÈ\Ñ�_�UvP`RTj�] /

��÷+ú�ëCù�ôkû�èCù�é�ø ��ì��dðKç\é�ø\ìkï�ð ��é è8ð��cbWð¤ç8øCé�ôvï�ôkû�ë}ù:ì���è8ðKçCøed�ìkï ��f�ôkûhg � ôví�í�é�ï�ø ������ikj

à

Page 3: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

cdj�_�Å�j�]�P`j-Í�RbÅ`UWÄfÅ`Å�PQË�_·Í�RbŤP`Xd]fUW_­Î|_eX[PQÄ�N`_eÅBRb]�P`Ë�_�ÃBj�Í�_eZbÅeÓFPQËf_®RbÃ�Æ�ZbRbUaRªP�XdÅ`ÅQÄ�Ã�Æ�PQRbjd]fÅ�P`ËfX:PPQËf_§Ã�j�Í�_aZYÅ£Ã�XdÒd_§XdiVj�Ä�P�PQËf_·PQN`_a_eifX[]fÒ¸Xd]�]�j[PkX:P`RTj�]�ŤPKl�ZT_�Ó�Xd]f͸Sf]fXdZTZbl�Í�RbÅ`UWÄVÅQÅQ_eÅ�PQË�_ Ï X�lPQËVX:P{UWj�]�PQ_WÜ�PQÐ8Î|N`_a_�NQÄfZT_�Å�RT]®PQËf_�j�NQRbcdRb]fXdZVP`NQ_e_aifXd]�Ò�X[N`_+i�N`jdÒd_e]�Ð^Í�j Ï ]�Ó�X[ZbZTj Ï Rb]�c�PQË�_�Ã�j�Í�_aZYÅ�PQjcd_e]�_aNkX[ZbRbÖa_�i�l®Æ�NQj�Í�ÄVUWRb]�c�]�_ Ï NQÄ�Zb_eÅ{jd]�P`_eŤP¤Ð^Í�X:PkX�_WÜ�XdÃBÆfZT_�ÅaÈVÙ�_BX[]fXdZTl�ÅQ_+PQË�_�Ť_�Æ�Ë�_a]fjdÃ�_a]fXPQËfNQj�Ä�cdË®_WÜ�Æ>_aN`RTÃ�_a]�PkÅj�]­ÆVX[NkŤRb]�c�XdUaUaÄ�NkXdUWl�Ó�i�l£UajdZbZT_�UvP`RT]�c�Î|N`_eÕ�Ä�_a]VUWRb_eÅ�j[Î�Ì:X[N`RTj�ÄfÅŤPQN`ÄfUWPQÄ�N`_eÅRb]·PQËf_�PQN`_a_eifX[]fÒ>Ó(X[]VÍ�PQË�N`jdÄfcdË�ZbRT]�c�Ä�RYÅKP`RbUeX[ZbZTl�Ã�j[P`RTÌ:X:P`_eÍ�_aÜ�X[Ã�Æ�Zb_eÅeÈ 8�RT]VX[ZbZTl�Ó>ÅQ_eUWPQRbjd]\S£cdRbÌd_eÅÃ�jdN`_BÍ�RbÅ`UWÄfÅ`ÅQRTj�]�Ó(i�l·UajdÃ�ÆfXdNQRb]�c�P`Ë�_�Ã�j�Í�_aZYÅ{P`j�j[PQËf_aNkÅOP`ËfX:P�ËfX�Ì�_4i>_a_a]�X[ÆfÆ�ZTRb_eͧPQj®ÆfXdN`ÅQRT]fcPQËf_�P`NQ_e_aifXd]�Ò(È(Ù�_�X[Rbà PQj®cdRbÌd_BŤj�Ã�_�_aÜ�ÆfZbXd]fX:P`RTj�]§j[Î�PQË�_�Í�RTÊ>_eNQ_e]fUW_BRb]�Æ>_aNQÎ|jdN`Ã�X[]fUa_4j[Î�PQË�_Ì:X[N`RTj�ÄfÅ�Ã�j�Í�_aZYÅaÈ

A�����Á����f½:¾>Àh»�¿A��y¹��+½:¾������FÂ;5yÂ��a¼�ÂyÁ���¾V»(¼�4! �¼#"%$\½%4�4'&­½(�*)+),��½(�6�N`jdiVX[i�RbZTRYŤPQRYU�UWjd]�P`_WÜ�P¤ÐCÎ|NQ_e_+cdNkX[Ã�Ã�X[NkÅ¡X[N`_+PQË�_4ŤP`XdN¤P`RT]fc�ÆVj�RT]�POÎ|j�N¡PQË�_4ÃBj�Í�_eZbÅ{RT]�P`Ë�RYÅOÆfXdÆV_eNeÈ8�j�N<PQËfRbÅ�NQ_�XdÅQjd] Ï _¡i�N`Rb_.-fl�NQ_�UaX[ÆBP`Ë�_�PQË�_ejdN`l4i>_aË�Rb]fÍ�]�j�]�Ð}ZT_aÜ�RYUaXdZTRbÖa_�Í 6�É'8<:+ÅeÓ:i>_WÎ|jdN`_OÃ�j:Ì�RT]fcPQj�P`Ë�_�Zb_WÜ�RbUeX[ZbRTÖe_eÍ®UaX�Ť_�È

8�j�ZTZbj Ï Rb]�c�ÛyáOj�Æ>UaNQjdÎ�PhX[]VÍ�/{ZTZbÃ�X[] /[ä ÝvÓWX¡Uajd]�PQ_aÜ�P¤ÐCÎ|NQ_e_<cdNkX[Ã�Ã�X[N10¸RbÅ�X#_dÐ8P`Ä�Æ�Zb_OÛ32�4657498:49;�ÝÏ Ë�_eNQ_<2 RYÅ+X­ÅQ_WP�jdÎ]�j�]�Ð8P`_aN`Ã�RT]fXdZ�ÅQl�Ã4i>jdZYÅaÓ=5,RbÅ+X[]-X[ZbÆ�ËfXdiV_aPeÓ�8 RbÅ+X�Í�RYÅKP`RT]fcdÄ�RYŤËf_eͧŤP`XdN¤PÅQl�Ã�iVj�Z�Rb]>2 ÓdX[]VÍ�;�RYÅ�X�Sf]�RTPQ_{ÅQ_WP�jdÎ>N`Ä�Zb_eÅeÓ Ï Ë�_eNQ_¡_�XdUkË�NQÄfZT_¡RYÅ<j[Î>PQËf_¡Î|jdN`Ã@?BADC®Î|jdNŤj�ÃB_?DEF21ÓGCHE Û32JIK5�Ý9L[È�J�Ë�_Oc�N`XdÃ�Ã�XdN�Í�_WSV]�_eÅ�X4Ť_aP�j[Î�ÆVj�ÅQÅQRbi�ZT_�ÅKP`NQRb]�c�ÅFRb]�PQËf_{ZYX[]�c�ÄfX[c�_dÓ[X[]VÍX[ZYÅQj®Í�_aSf]�_�Å�X®ÅQ_WP�j[Î�Æ>j�Å`ÅQRTi�Zb_BZT_aÎ�P¤Ð}ÃBj�ÅKP�Í�_eNQRbÌ:X:P`RTj�]fÅ{Äf]fÍ�_aN+P`Ë�_BcdNkX[Ã�Ã�X[N�È�.XdUk˧Í�_eNQRbÌ:X:P`RTj�]UWj�NQN`_eÅQÆ>jd]fÍ�ÅP`j�X4P`NQ_e_WÐ^Ť_e]�PQ_a]VUW_�ÆfX[RbN�PQËfX[PORbÅ Ï _eZTZ(Î|j�NQÃ�_eÍ­Ä�]fÍ�_aN¡P`Ë�_�cdNkX[Ã�Ã�X[N�ÈL�Æ�N`jdifXdi�RbZTRYÅKP`RbU�UWj�]�PQ_WÜ�PQÐ8Î|N`_a_�cdNkX[Ã�Ã�X[N�RYÅ<X�ÅQRbÃBÆfZT_¡Ã�j�Í�RTSVUaX[PQRbjd]Bj[Î�X�Uajd]�PQ_aÜ�P¤ÐCÎ|NQ_e_c�N`XdÃ�ÐÃ�X[N�Ó Ï Ë�_eNQ_4_eXdUkË�N`Ä�Zb_�Rb]�PQË�_�cdNkX[Ã�Ã�X[NOËVXdÅ{Xd]·XdÅ`Ťj�UaRbX[PQ_eÍ®Æ�N`jdiVX[i�RbZTRTPKlNM�ÛOCQPG?-ÝvÈVJ�ËfRbÅ�UaXd]i>_{Rb]�P`_aN`Æ�N`_WPQ_�Í�XdÅFP`Ë�_�Uajd]fÍ�RTPQRbjd]VX[Z�Æ�N`jdiVX[i�RbZTRTPKl4jdÎ1? i>_aRb]�c�_aÜ�ÆfX[]fÍ�_eÍBÄfÅQRT]�c�PQË�_ON`Ä�Zb_?BARC�ÓXdÅ�j�Æ�Æ>j�ÅQ_eÍ£PQj�jd]�_�jdÎ\P`Ë�_�j[P`Ë�_aN¡Æ>j�Å`ŤRbi�RbZTRTPQRb_eÅ�Î|j�N¡_WÜ�ÆfXd]fÍ�Rb]�c<? ZbRbŤPQ_�Í£Rb]®PQË�_�c�N`XdÃ�Ã�XdNeÈ�J�Ë�_Æ�N`jdifXdi�RbZTRTPKl�j[ÎhXBÍ�_eNQRbÌ:X:PQRbjd]£RbÅPQËf_a]�X4Æ�N`j�Í�ÄfUWP�jdÎ�PQ_eNQÃ�ÅeÓ�_�XdUkË£PQ_aN`à UWj�NQN`_eÅQÆ>jd]fÍ�Rb]�c�P`jBX�N`Ä�ZT_X[ÆfÆ�ZTRYUaX[PQRbjd]�Rb]�P`Ë�_�Í�_aN`RTÌ:X:P`RTj�]�È�8�jdN�X�P`NQ_e_WÐ^Ť_e]�P`_a]fUa_OÆfXdRTN�ÛOS4UT�Ý�Í�_eNQRbÌd_�Í�i�l�V·XdÆ�Æ�ZbRbUeX:P`RTj�]fÅ�jdÎUWj�]�PQ_WÜ�PQÐ8Î|N`_a_+N`Ä�ZT_�Å¡g\á�Ñ�WXADYOá�Ñ*W¤Ó Ø[Z+\]Z V<Ó�RTP`Å¡ÆfNQj�ifX[i�RbZbRªPKl�Ä�]VÍ�_aN¡P`Ë�_ 6�É'8�:,RYÅ

M�ÛOS4UT�Ý_^a`bWdcXeM�Û�YOá�Ñ W Pvghá�Ñ W Ý

Ûyghá�ÑMŤP`X[]VÍ�Å­Î|jdN =Qg\_WÎ�P�ËfXd]fÍ�ÅQRYÍ�_�?fÓfY{á�Ñ�ÅKPkX[]fÍ�Å®Î|j�N@=9Y¡RbcdË�P�ËfX[]fÍMÅQRbÍ�_�?�ÝWÈ�Ûyã�j�j[PQË%X[]VÍJ�Ë�j�ÃBÆVŤj�] /YR Ý4cdRbÌd_�UWjd]VÍ�RªP`RTj�]fÅ�Ä�]fÍ�_aN Ï Ë�RYUkË�P`Ë�_H6�É'8�: Í�j�_eÅBRb]¸ÎyXdUvP�Í�_aSf]�_�X�Í�RYÅKP`NQRbi�Ä�ÐPQRbjd]�j:Ì�_aNFP`Ë�_{Æ>j�Å`ŤRbi�Zb_OÍ�_aN`RbÌ�X[PQRbjd]fÅ{Û�PQN`_a_�Å`Ý<cd_a]f_aNkX:PQ_�ÍBi�l4PQË�_�Ä�]fÍ�_eNQZbl�RT]fc�cdNkX[Ã�Ã�X[N�È[J�Ë�_¡SfNkÅKPUWj�]fÍ�RTPQRbjd]�RYÅ�PQËfX[P�PQË�_�N`Ä�Zb_�Æ�NQj�ifX[ifRTZbRªP`RT_�Å�Í�_WSV]�_·UWj�]fÍ�RTPQRbjd]fXdZOÍ�RbŤPQN`Rbi�Ä�PQRbjd]VÅ�j:Ìd_aN�Ë�j Ï _eX�UkË]�j�]�Ð8P`_aN`Ã�RT]fXdZfRb]�PQËf_{cdNkX[Ã�Ã�X[NUaX[]�_aÜ�ÆfX[]fÍ�È�J�Ë�_�Ť_�UWj�]fÍ�RbÅX+PQ_�UkË�]�RYUaXdZ>Uajd]fÍ�RTPQRbjd]�P`ËfX:P�cdÄfXdN¤ÐX[]�P`_a_eÅ�PQËVX:P�P`Ë�_+ÅKP`j�UkËVXdŤPQRYU¡Æ�N`j�Ua_eÅ`Å�c�_a]�_eN`X[PQRb]�c�PQN`_a_�Å<P`_aN`ÃBRb]fX[PQ_eÅRb]£X�Sf]fRªP`_�]�Ä�Ã�iV_eNjdÎ\ÅKP`_aÆfÅÏ RTPQË�Æ�N`jdifXdi�RbZTRTPKl Ø ÈL�UW_e]�P`N`XdZ�Æ�N`jdi�Zb_aà Rb] 6�É'8<:+ÅFRYÅ�PQj�Í�_aSf]�_�PQËf_OUWjd]VÍ�RªP`RTj�]fX[Z�ÆfNQj�ifX[i�RbZbRªPKlgM�Û3C[Ph?�Ý\Î|jdNF_eX�UkËN`Ä�ZT_:?BAiC Rb]­P`Ë�_�c�N`XdÃBÃ�XdNeÈ�L,ÅQRTÃ�Æ�Zb_ Ï X�l�PQj�Í�j�PQË�RYÅORYÅ�PQj�P`X[Ò�_�UWjdÄf]�PkÅ�Î|N`jdà XBP`NQ_e_aifXd]�ÒX[]VÍ£P`Ë�_a]®P`jBÄVŤ_+P`Ë�_�Ã�X:Ü�RTÃ�Ä�à ZbRTÒ�_aZbRTËfj�j�Í®_eŤPQRbÃ�X:P`_

M�ÛOCjP.?�Ýk^mlonqp V1rWÛO?sARChÝlonqp V1rWÛO?�Ý

Û Ø Ý

I}Î�PQË�_�P`NQ_e_aifXd]�Ò·ËfX�Å�XdUWPQÄfXdZTZbl·i>_a_a]�c�_a]�_eN`X[PQ_eÍ·Î|NQj�à X®Æ�N`jdifXdi�RbZTRYÅKP`RbU�Uajd]�PQ_aÜ�PQÐ8Î|N`_a_�c�N`XdÃBÃ�XdNÏ RTPQË�PQËf_£ÅQXdÃ�_�NQÄ�Zb_eÅ4X[]fÍ-]�j�]�Ð8P`_aN`Ã�RT]fXdZbÅ4XdÅ�PQËf_�Ã�j�Í�_aZCÓ�PQËf_a] Rb]�PQË�_�ZbRTÃ�RTPBX�Å�PQË�_�P`N`XdRT]fRT]�cÅ`X[Ã�Æ�Zb_£Å¤RbÖa_�XdÆ�Æ�N`j�X�UkË�_eÅ�Rb]�Sf]�RTPKl§P`Ë�_�Æ�N`jdiVX[i�RbZTRTPKl§Í�RYŤPQN`RTi�Ä�PQRbjd] RbÃBÆfZTRb_eÍ�i�l·P`Ë�_eÅQ_�_�ÅKP`RTÃ�X:P`_eÅ

R

Page 4: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

��� �

&f����

� ���& &

� !,!��

&f�&'&f�� �

� �� �(*��� ���T

& �&'& ������� �

�� ������� �������������� ����������������������� �!�" # $ %�% # �������$ # &�"'&�"�(�" &�& # )�����*&�" # %�%+&�& &�&�" # ��,�-&�" # &�&�" (�,�. # /�01��2�3��(�" # (�,�.'&�" &�&�" # ��0����4�&�" # &�&�"

5�687:9<;�=?>@ �����!�;��!BAW �� ��� DC�!6�I���+��k!#k+�!,!�$��� � c�� ���-� �hE��!'+�� ��!�� -�����T�� �����F

Ï RbZTZ\Uajd]�Ìd_eNQc�_{P`jBPQË�_�Í�RYŤPQN`RTi�Ä�PQRbjd]�j[ÎhPQË�_�Ä�]VÍ�_aN`ZTl�Rb]�c�cdNkX[Ã�Ã�X[N�È GH ]fUa_­P`Ë�_�Ã�j�Í�_aZOËVXdÅ�i>_a_a]¸P`N`XdRT]�_�Í�Ó Ï _®ËVX�Ìd_�X-ÃBj�Í�_eZ¡PQËVX:P£Í�_aSf]�_eÅ M�Û3S4%T�Ý�Î|j�N�X[]�lÅQ_a]�PQ_e]fUW_aÐ8P`NQ_e_£ÆfXdRTN�Rb]1PQËf_­c�N`XdÃBÃ�XdNeÈFJ�Ë�_®jdÄ�P`Æ�Ä�P�jd]âX�]�_ Ï PQ_�ÅKP�Ť_e]�PQ_a]VUW_�T%RbÅ�P`Ë�_�ÃBj�ÅKP

ZbRTÒ�_aZbl�PQN`_a_+Ä�]VÍ�_aN�P`Ë�RbÅOÃBj�Í�_eZ8Ó

SJIKELMk^$XdNQc<Ã�X:ÜNM�ÛOSQP#T�Ýk^±X[N`c�Ã�X:Ü

NM�ÛOS4UT�ÝM�Û�T�Ý ^±XdNQc�Ã�X[Ü

NM�Û3S4%T�Ý

J�Ë�_¡ÆfXdN`ÅQ_aNFRTP`ÅQ_aZTÎ>RYÅ<X[]�X[Zbcdj�NQRTPQËfÃ%PQËfX[P�Ť_�X[NkUkË�_eÅ\Î|jdNFP`Ë�_�PQN`_a_�Ó(SOIKELPMvÓ:PQËfX[P<Ã�X[Ü�RTÃ�RYŤ_�Å_M�ÛOS4UT�ÝvÈI^]�PQËf_OUaXdÅQ_¡j[Îh6�É'8�:+Å�PQË�RYÅ�UeX[]�iV_�XdUaUajdÃ�Æ�ZbRbÅQË�_�Í4ÄfÅQRb]�c�X+Ì:X[N`RbXd]�P<jdÎVP`Ë�_�ÉRQTS X[Zbcdj�NQRTPQË�à X[Æ�ÐÆ�ZbRT_�ÍBPQj Ï _aRbcdË�PQ_�Í�c�N`XdÃ�Ã�XdN`Å�Û|ÆfNQj:Ì�RYÍ�RT]fc�P`ËfX:P<P`Ë�_a6�É'8<:$UeX[]�i>_OUWjd]�Ì�_aNQPQ_eÍ�PQj�Xd]B_�Õ�Ä�RTÌ:XdZT_e]�P6�É'8�: Rb]·ÉË�jdÃ�ÅQÒ�lX[OjdN`Ã�X[Z 8fjdN`Ã�ÝVU£ÅQ_a_�Î|jdN¡_aÜ�X[Ã�Æ�Zb_�Û8H·X[]f]�RT]fc�X[]fÍ�Ñ�UkËXWÄ�P`Öa_ Ø�ädädä ÝvÈ

I}Î�P`Ë�_BÃBj�Í�_eZ<Æ�N`jdifXdi�RTZbRTPQRb_eÅ�M�ÛOS4UT�Ý{XdNQ_4PQË�_�Å`X[Ã�_�X�Å�PQË�_BPQN`Ä�_�Í�RYÅKP`NQRbi�Ä�P`RTj�]§cd_e]�_aNkX:P`RT]fcPQNkX[Rb]�Rb]�c�X[]fÍ£PQ_�ÅKP�_WÜ�X[Ã�Æ�Zb_eÅeÓ�NQ_aPQÄ�N`]�Rb]�c�PQË�_+Ã�j�ŤP�ZbRbÒd_aZbl�PQN`_a_+Ä�]VÍ�_aN M�ÛOS 4%T�Ý Ï RTZbZ�i>_�j�Æ�PQRbÃ�X[ZRb]�PQ_eNQÃ�Åhj[Î�Ã�RT]�RbÃ�RTÖeRT]fc{P`Ë�_�_aÜ�Æ>_eUWPQ_�Í�_aN`NQj�N�N`X[PQ_{Ûy]�Ä�Ã4i>_aN�j[Î�Rb]fUWj�NQN`_eUWP�PQN`_a_�Å`Ý�jd]�]�_ Ï ZTl�Í�NkX Ï ]PQ_�ÅKP¡_aÜ�XdÃ�Æ�ZT_�ÅaÈ�áO_e]fUW_�RTÎ\PQËf_�Í�X[P`X4RbÅ�cd_e]�_aNkX:P`_eÍ�i�l�XI6�É'8<:BÓ�Xd]fÍ�PQËf_aN`_�XdNQ_�_a]�j�Ä�cdË�P`N`XdRT]fRT]�c_WÜ�XdÃBÆfZT_�Å�Î|j�N�P`Ë�_�Ã�X[Ü�RbÃ4ÄfÃ�Ð}ZbRTÒ�_aZbRTË�j�j�Í�_�ÅKP`RTÃ�X:P`_eÅ�PQjBUWjd]�Ì�_aN`cd_�PQj�PQËf_{P`NQÄ�_�Ì:X[ZbÄ�_eÅeÓdP`Ë�_a]£PQË�RYÅÆfXdN`ÅQRT]fc�ÃB_aPQË�j�Í Ï RbZTZ\iV_�j�Æ�PQRbÃ�X[ZCÈfI^]�Æ�NkXdUWPQRYUW_dÓ�PQË�_�Ť_4X�ÅQÅQÄ�Ã�Æ�P`RTj�]fÅ¡UaXd]�]�j[POi>_�Ìd_eNQRTSf_�Í�ÓfX[]VÍX[N`_�X[N`cdÄVX[i�Zbl�Õ�Ä�RTPQ_£Å¤PQN`jd]fcfÓ�i�Ä�P�PQË�_�Ť_£ZTRbÃ�RªPkX:PQRbjd]VÅ�ËfX�Ì�_�]�j[P�Æ�N`_aÌ�_a]�PQ_�Í-cd_a]f_aNkX:PQRbÌd_�Ã�j�Í�_eZbÅÎ|N`jdà i>_aRb]�c�ÅQÄfUaUa_eÅ`ÅKÎ|Ä�ZbZbl£X[Æ�ÆfZTRb_eÍ£PQj�Ã�X[]�lB[�g�6±X[]VÍ­ÅQÆV_e_eUkË­P`X�ŤÒ�ÅeÈfÑ�_a_�ÛCÉj�ZTZbRb]fÅ àYV�V�à Ý�Î|jdNOXÍ�RYÅQUaÄfÅ`ŤRbjd]®j[ÎFj[P`Ë�_aN Ï X�l�ÅjdÎFUajd]fUa_aÆ�P`ÄfX[ZbRbÖaRb]�c4P`Ë�_�ÆfXdN`ÅQRT]fcBÆfNQj�i�ZT_eÃ�ÈI^]­PQË�_L6F_a]�]£PQN`_a_eifX[]�Ò·Û8H·X[NkUWÄVÅ_aP�XdZ8È Ø�ädäWR ÝvÓ�PQËfX[P¡RbÅPQËf_+ÅQjdÄfN`Ua_{j[ÎFÍ�X:PkX�Î|j�N�jdÄ�N�_WÜ�Æ>_aN`RªÐÃ�_a]�P`ÅeÓ�PQËf_�N`Ä�Zb_eÅ�X[N`_{_eRªP`Ë�_aN�Rb]�P`_aN`]fX[ZVPQj�PQËf_�P`NQ_e_dÓ Ï Ë�_eNQ_�g\á�Ñ£RYÅ�X�]�j�]�Ð8P`_aN`Ã�RT]fXdZ>Xd]fÍ Y{á�Ñ£RbÅX�ŤPQN`RT]�c�jdÎhjd]f_�jdN�Ã�jdN`_�]fjd]�ÐCPQ_eNQÃ�Rb]fX[ZYÅaÓ�j�N¡ZT_aÜ�RbUeX[ZCÓ Ï Ë�_aN`_�g\á�Ñ­RYÅ¡X�ÆfX[NQP¤Ð}j[Î�Ð^ÅQÆV_e_eUkË�PkX[c�X[]VÍ

�ü�ù�é�ø �[ôvé�ïaèhé�ø\ìkë^èCú:ìkí�í õ �¡ôvç8ðFøCú�óeèCí�ðFè8ù:ìkï+é è�ê:ç8ø8èhì�� �[ð¤ìkçCøOY[Z�ð�è8ù:ìkï�\{ôvï�ð�ôkû�è8ù�ð�ìkï�ôvïaõ��¡ôvú�ø\çCðkbeé�ðEZ(ð¤ç8øûTôvç �dôvé�ïWè8é�ï�ñ�è8ù�é�øhôvúeè]Y¡ìkï �TZ�ð^Z(ð¤ç8ð<ú�ï:ìkó�í�ð<è8ô�ê:ï � ��çCôaôkûTø\ôkû�è8ù�é�ø ��çCô�[ðKç8è�õ{é�ï{èCù�ð<í�é è8ðKç}ì`è8ú�çCðFûTôvç_ �O`:a ø j:ü�ù�ðcbPd�e f ��çCôvó:ìkó�é�í�é èCé�ðKø�ûbôvç\ìkïWõ{ï�ôvï�gYè8ðKç �¡é�ï:ìkí�Zhù�é�ë}ù�ì����dð¤ìkç8øhZ\é èCù ��ç8ôvó:ìkó�é�í�é è�õji �é�ï �:ìkçCø8ð��ðKç8é bvì`è8é�ôvï�ø]Z\é�í�í�ë¤ôvï�bWðKçCñvð<è8ô�èCù�ð¤é�ç\ú�ï ��ð¤ç8í õ�é�ï�ñ'bvìkí�ú�ðKø¤ö:óaõOè8ù�ð<ú�ø8ú:ìkí ��ç8ô�dðKçyèCé�ðKø\ôkû �OìBk�é��ú �cg�í�él\vðKí�é�ù�ôaô��ðKø8è8é��Oì`è8é�ôvï�ûTôvç �ú�í è8é�ï�ô�¡é�ìkí���é�ø8è8çCé�ó�úeèCé�ôvï�ø�j�æhøCøCú��¡é�ï�ñ�è8ù:ì`è\èCù�ð<ú�ï ��ðKçCí õeé�ï�ñ _ �m`na ñvðKï�ðKç}ì`è8é�ï�ñ�è8ç}ìké�ï�é�ï�ñðPk�ì�����í�ðKø �¡ðKð^è8øhó[ôkè8ù�ëKçCé è8ðKçCé�ì�é�ï gpo(ôaôkè8ù�ìkï ��ü�ù�ô����øCôvï�d� �i}ö:é è�ë¤ìkï+ó[ð<øCù�ôqZ\ï�è8ù:ì`èhë¤ôvï�bWðKçCñvðKï�ëKð�ôkûç8ú�í�ð ��ç8ôvó:ìkó�é�í�é è8é�ð¤ø\é�����í�é�ðKø>è8ù:ì`è\èCù�ð ��é�øyèCç8é�ó�ú�è8é�ôvï�ô�bWðKçVrpbsffut<Z\é�í�ídë¤ôvï�bWðKçCñvð�èCôèCù:ì`èhôkû�è8ù�ð�ú�ï ��ðKçCí õeé�ï�ñ_ �O`:a ö[ì`è\í�ðQìkøyèJZhù�ð¤ïTvFú�í�í�ó:ìkë\�g�ò�é�ðKó�í�ðKç ��é bWðKçCñvðKï�ëKð�ôvç�èCù�ð�é�ïeê:ï�é è�õ1g�ï�ôvç ��é�ø�è}ì�\vðKï�è8ô�ó[ðFè8ù�ð �¡ðQìkø8ú�çCð�ôkû��é�øyè}ìkï�ë¤ð�ó[ð^èwZ�ðKðKï+èCù�ðFèwZ(ô ��é�ø8è8çCé�ó�ú�èCé�ôvï�ø j:ü�ù:ìkï�\aø�èCô�ü�ô���¡é�xWìvì�\1\vôví�ì¡ìkï �zyhì`èCù:ìkï�ÿeçCðKó�ç8ô�ûbôvç��é�ø8ëKú�øCø8é�ôvï�øhôvï{èCù�é�ø�è8ô��é�ë j

_

Page 5: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

ü�� _ÿWgTó[ôvú�ñvùaè¤ö � o��Qi

y _ g Z�ðKðE\[ö y^yQi

x1x%gTò�ìkø8è¤ö x�x�iò�ìkø8è

y^y g Z(ð¤ðE\[ö y^y�iZ(ð¤ðE\

y _ gTî o�÷Bö y^y _ iy^y _ gbî o�÷Bö yhy _ i

î o�÷

� _ gbó[ôvú�ñvùWèQö �Xo��ei

�Xo�� gTódôvú�ñvùaè¤ö � o��eiódôvú�ñvùaè

y _ gTò�ôkè8ú�øQö yhy _ iy^y _ gTò�ôkèCú�øQö y^y _ i

ò�ôkèCú�ø�����=�;���� ��j9� 8=���� �!�" # $�� /�01��2�3���� (�,�.��$��s/�01��2�3���� (�,�.�� # &�"�� )�����*�� &�&�� &�"��E� ,�-�� &�&�"�� (�"�� /�01��2�3���� (�,�.��&�"�� )����1*�� &�&�� # %�%�� ���������E%�%�� &�&�� )����1*�� &�&��&�"��E��,�-��s&�&�"�� # &�&�"��E��,�-�� &�&�"��(�"�� /�01��2�3���� (�,�.�� # (�,�.�� /�0���2�3����s(�,�.�� &�"�� ��0����4���s&�&�"��&�"�� ��0�������� &�&�"�� # &�&�"�� ��01���4��� &�&�"���]=�� 6! ��� ��j9� 8=����%�%� �����1���E%�%�� # �����1�&�&�� )����1*�� &�&�� # )����1*&�&�"��E��,�-�� &�&�"�� # � ,�-(�,�.�� /�01��2�3���� (�,�.�� # /�01��2�3��&�&�"�� ��0����4��� &�&�� # ��0����4�

5�687:9<;�=#"@ ��!BAW �� ��� DC�!6� � �+��k!#k+�!�!�$��� �]c�� ��� � �FE��!#+�� ��!�� �����T�� �����F

YOá�Ñ®RbÅ¡X Ï jdNkÍ�ÈfÑ�_a_�Sfc�Ä�N`_ Ø Î|j�N{X[]®_WÜ�X[Ã�Æ�Zb_dÈA�� A%$-4 �ÂyÁ!�^5yÂ'&W4�¿Q�:�K$ &F�L 6�É'8<: UeX[]·i>_4Zb_WÜ�RYUaX[ZbRbÖa_eÍ(�i�l�XdÅ`ÅQj�UaRbX[PQRb]�c�X Ï jdNkÍ*) Xd]fÍ·X�ÆfXdN¤PQÐCjdÎ�Ð}ÅQÆ>_a_eUkË ÛJ6 H Ñ�Ý¡P`X[c rÏ RTPQË�_eX�UkË£]�j�]�ÐCPQ_aN`Ã�RT]VX[Z1?3RT]®PQËf_+PQN`_a_dÈfÑ�_a_+Sfc�Ä�NQ_ à Î|jdNOXd]­_aÜ�X[Ã�Æ�Zb_�P`NQ_e_dÈ

J�Ë�_G6�É'8�: Ã�j�Í�_aZ�UaXd] i>_�XdÆ�Æ�ZbRT_�ͱP`j�P`Ë�_eÅQ_�Zb_WÜ�RYUaXdZTRbÖa_�Í$N`Ä�ZT_�Å­Xd]fͱP`NQ_e_eÅ®Rb] _WÜ�X�UvPQZblPQËf_�Å`X[Ã�_ Ï X�l¸XdÅ£iV_aÎ|jdN`_dÈ�Ù±Ëf_aN`_eXdÅ�iV_aÎ|jdN`_�PQË�_§]�jd]�ÐCPQ_eNQÃ�Rb]fX[ZYÅ Ï _aN`_·Å¤RbÃ�Æ�Zb_dÓ�Î|j�N£_aÜ�XdÃ�Æ�ZT_+ j�N-,�.(Ó(P`Ë�_al-X[N`_�]�j Ï _WÜ�PQ_e]fÍ�_�ͧP`j�RT]fUaZTÄVÍ�_�X Ï j�N`Í-X[]fÍ�ÆfXdN¤PQÐCjdÎ�Ð}ÅQÆV_e_eUk˧P`X[cVÓ(Î|jdN�_aÜ�XdÃ�Æ�ZT_+�/1032�465�768:91;�<6=�> j�N�,�. /@?�<6A:9 ,�,�. > È`J�Ë�ÄfÅ Ï _ Ï NQRTPQ_�X�]fjd]�ÐCPQ_eNQÃ�Rb]fX[ZdX�Å ?�ÛCB(ÝvÓ Ï Ë�_aN`_DBF^FEG)g4 r1HWÓX[]VÍg? RYÅFX{UWj�]fŤPQRTPQÄ�_e]�PFZYX[i>_aZCÈ�8fjdN`Ã�XdZTZbldÓ�]�jdPQË�Rb]�c�ËfXdÅ�UkËfX[]fcd_eÍ�Ó Ï _ËfX�Ì�_�ÚKÄfŤP�Ì:X�ÅKP`ZTl�Rb]fUWN`_eX�Ť_�ÍPQËf_�]�Ä�Ã�iV_eN�jdÎ�]�jd]�Ð8P`_aN`ÃBRb]fXdZbÅRT]£PQË�_�cdNkX[Ã�Ã�X[N�Û|i�l�Ä�Æ�P`j�X�ÎyXdUvP`jdN�j[Î P IoPKJjP L P�Ó Ï Ë�_eNQ_<P IoP�RbÅPQËf_�]�ÄfÃ4i>_aNOjdÎ Ï jdNkÍ�Å�RT]­PQËf_�Ìdj�UaXdi�Ä�ZYX[N`ldÓ�X[]fÍ P L P�RYÅ�PQË�_�]�Ä�Ã�iV_eN¡j[ÎFÆfX[NQP¡j[Î<ŤÆ>_a_�UkË£PkX[c�Å`ÝWÈÙ±Ë�RbZT_4]�j[P`Ë�RT]fc�ËfXdÅ{UkËfX[]�c�_eÍ£Î|NQj�à XBÎ|j�NQÃ�XdZ�ÆVj�RT]�P{jdÎ<Ì�Rb_ Ï Ó�PQË�_�ÆfN`X�UvPQRYUaXdZ\UWj�]fÅQ_eÕ�Ä�_a]VUW_eÅj[Îh_WÜ�ÆfX[]VÍ�RT]fc�PQËf_�]�Ä�Ã�iV_eNjdÎ�]�jd]�ÐCPQ_eNQÃ�Rb]fX[ZYÅ�Õ�ÄfRbUkÒ�Zbl�i>_eUajdÃ�_�XdÆ�ÆfXdNQ_e]�P Ï Ë�_a]®X:P¤P`_aÃ�Æ�P`RT]�c�PQjÍ�_aSf]�_�X·Ã�_WP`Ë�j�Í Î|jdN�ÆfX[NkX[Ã�_aPQ_aN�_eŤPQRbÃ�X:PQRbjd]\È�J�Ë�_®Å¤RbÃ�Æ�Zb_eŤP�ÅQjdZbÄ�PQRbjd] Ï j�Ä�ZbÍ�i>_­PQj§ÄVŤ_£PQË�_Ã�X:Ü�RbÃ4Ä�ÃBÐ}ZTRbÒd_eZTRbË�j�j�Í�_�ÅKP`RTÃ�X[PQ_£X�Å�RT] _�Õ�ÄfX:P`RTj�] Ø Ó�Î|j�N�_WÜ�X[Ã�Æ�Zb_�_eŤPQRbÃ�X:P`RT]�c·PQË�_�ÆfNQj�ifX[i�RbZbRªPKl

NM4ð<ê:ï ��í�ðEkeé�ë¤ìkí�ù�ð¤ì���øhé�ï _ ðKï�ï�è8çCðKðKó:ìkï�\ �:ì`èCì�ú�ø8é�ï�ñ�è8ù�ð�çCú�í�ðKø ��ðKøCëKçCé�ó[ð ��é�ï{æ ���dðKï ��é k�æ§ôkûhg � ôví�í�é�ï�ø������i�j[ü�ù�ð<çCú�í�ðKø\ìkçCð�ì �¡ô���é ê�ð��9bWðKçCø8é�ôvï�ôkûVìù�ðQì���è}ìkó�í�ð ��çCô beé���ð �+óWõO�Fì�beé���÷�ìkñvðKç �Oìkï�ö:ìkï ��ú�øCð ��é�ïè8ù�ð �:ìkçCø8ðKç ��ð¤ø8ëKçCé�ó[ð ��é�ï gY÷�ìkñvðKç �Oìkï ����vý�ikj

K

Page 6: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

XdÅ`ÅQj�UaRbX[PQ_�Í Ï RTPQË +�/1032�465�768:91;�<6=�> A ,�. / ������� 9 ,�, > ,�. /?�<6A 9 ,�,�. > ; . /102�4�5�768 91; <6=�> X�ÅM�ÛG,�. / ������� 9 ,�, > ,�. /@?�<�A 9 ,�,�. > ; . / 02�465�7�8 91;�<6=�> P +�/1032�465�768:91;�<6=�> Ý ^

lonqp V1rWÛ +�/102�4�5�768 91; <6=�> A ,�. / ������� 9 ,�, > ,�. /@?@<6A 9 ,�,�. > ; . /102�465 768 91;�<�=�> Ýlonqp V1rWÛ +�/ 02�465�7�8 91;�<6=�> Ý

ã�Ä�P+PQË�_�XdÍfÍ�RªP`RTj�]§jdÎ�ZT_aÜ�RbUeX[Z�RªP`_aÃ�Å+Ã�X[Òd_�ÅOP`Ë�_�ÅKPkX:PQRYŤPQRYUaÅ�Î|jdN�PQË�RYÅ+_eŤPQRbÃ�X:P`_�Ì�_aN`l®ÅQÆfX[NkÅQ_d×VPQË�_UWj�Ä�]�P�Î|j�N4P`Ë�_�Í�_a]�j�Ã�RT]fX[PQj�N�RYÅBZTRbÒd_eZTl-PQj-i>_­N`_aZYX:P`RTÌ�_aZbl�Zbj Ï Ó�Xd]fÍ P`Ë�_®]�ÄfÃ4i>_aN�j[ÎOj�Ä�P`UajdÃ�_eÅÛ|Æ>j�Å`ÅQRTi�Zb_OZb_WÜ�RYUaX[ZbRbÖa_eÍ Y{á�Ñ�ÅkÝ<RYÅ�Ë�Ä�c�_dÓ[Ã�_eXd]�Rb]�c�PQËVX:P�P`Ë�_O]�Ä�Ã�_aNkX:P`jdN�RYÅ�Ì�_aN`l4ZbRTÒ�_aZbl�PQj4iV_�Öa_aN`jfÈ6�N`_eÍ�RbUWPQRb]�cBPQË�_ Ï Ë�j�ZT_+Zb_WÜ�RYUaX[ZbRbÖa_eÍ­N`Ä�ZT_�Rb]®jd]�_�c�j�RYÅ�PQj�j�i�Rbc�X�ÅKP`_aÆ�È

H ]�_ Ï X�lBPQjBj:Ìd_eN`UajdÃ�_�PQËf_eÅQ_�ÅQÆfX[NkÅQ_{Í�X:PkX4ÆfNQj�i�ZT_eÃ�Å�RYÅ�P`j�ifNQ_�X[Ò�Í�j Ï ]�P`Ë�_�c�_a]�_eN`X[PQRbjd]�jdÎPQËf_<Y{á�Ñ�jdÎ�_eX�UkË·N`Ä�ZT_BRb]�P`j®X­Å¤_�Õ�Ä�_a]fUa_�jdÎÅQÃ�XdZTZb_aN+ŤPQ_aÆVÅaÓ�X[]VÍ�PQË�_e]§P`j­Ã�XdÒd_4Rb]fÍ�_eÆV_e]fÍ�_e]fUW_XdÅ`ÅQÄ�Ã�Æ�PQRbjd]fÅ4PQj§NQ_�Í�ÄfUW_£PQË�_­]�Ä�Ã4i>_aNBj[ÎOÆfXdN`XdÃ�_WPQ_eN`Å�RT] P`Ë�_£Ã�j�Í�_eZ8ÈFJ�Ë�_­Í�_eUWj�Ã�ÆVj�ŤRTPQRbjd]1jdÎN`Ä�ZT_�Å4ÅQË�jdÄfZbÍ�X[Rbà PQj·Ã�_a_aP�P Ï j·UWN`RªP`_aN`RbXfÈ�8�RTNkÅKP�Ó�P`Ë�_£Å¤PQ_aÆVÅ4ÅQË�jdÄ�ZYÍ�i>_£Å¤Ã�XdZTZ_a]�j�Ä�cdË-Î|jdN�PQË�_ÆfXdN`XdÃB_aPQ_eN�_�ÅKP`RTÃ�X:P`RTj�]§Æ�N`jdifZT_eà P`j­i>_�Î|_eXdÅQRbi�ZT_�Û|RCÈ _dÈbÓ>Rb]·P`_aN`Ã�Å�jdÎ�ËfX�Ì�Rb]�c£ÅQÄ�UWRb_a]�P�P`N`XdRT]fRT]�cÍ�X[P`X®PQj®P`N`XdRT]-PQËf_�ÃBj�Í�_eZ8Ó\Æ�NQj:Ì�RYÍ�Rb]�c®PQËfX[P4ŤÃ�j�j[P`Ë�RT]fc­P`_eUkË�]fRbÕ�Ä�_�Å�X[N`_BÄVŤ_�ͧP`j�Ã�RªP`RTc�X:PQ_�N`_WÐÃ�X[Rb]�Rb]�c£ÅQÆfX[NkŤ_�ÍfX:P`X�Æ�NQj�i�Zb_aÃ�Å`ÝWÈ>Ñ�_�UWj�]fÍ�Ó�P`Ë�_4Rb]fÍ�_eÆV_e]fÍ�_a]VUW_�X�ÅQÅQÄ�Ã�Æ�P`RTj�]fÅ¡Ã�XdÍ�_�ŤË�j�Ä�ZYÍ�iV_ZbRT]�c�Ä�RYÅKP`RbUeX[ZbZTl­Æ�ZbXdÄfÅQRTi�Zb_dÈVI^]®PQË�_�]f_WÜ�P�ÅQ_eUvP`RTj�]fÅ Ï _�Í�_eÅ`UWN`RbiV_+P`Ë�NQ_e_�ÅKPkX:P`RbŤPQRYUaXdZ\ÆfXdN`ÅQRT]fcBÃ�j�Í�_eZbÅÏ Ë�RYUkË·ËfX�Ì�_4X[]�Rb]fUWN`_eX�ŤRb]�c�Í�_ecdN`_a_�jdÎ<ZTRb]�cdÄfRbŤPQRYU4ÅQjdÆ�ËfRbŤPQRYUaX[PQRbjd]�È>H�j�Í�_aZ Ø ÄfÅQ_eÅ�X�Í�_eUajdÃ�Æ>j�ÅQRªÐPQRbjd] Ï Ëf_aN`_BÆVX[NkX[Ã�_WP`_aNkÅ�UajdN`NQ_�ŤÆ>jd]VÍ�RT]fc£P`j�ZT_aÜ�RYUaXdZ�Í�_eÆV_e]fÍ�_a]VUWRb_eÅ�XdNQ_�X�]fX[PQÄ�NkX[Z<N`_eÅQÄ�ZTPeÈ\J�Ë�_Ã�j�Í�_aZ�X[ZYŤj�Rb]fUWj�NQÆ>jdNkX:P`_eÅ�X�ÆfNQ_aÎ|_aN`_a]fUa_�Î|jdN�N`RTc�Ë�P¤Ð}i�N`Xd]fUkË�Rb]�c�ÅKP`NQÄVUvPQÄfNQ_�Å+PQË�N`jdÄfcdË UWj�]fÍ�RTPQRbjd]�ÐRb]�c£j�] =QÍ�RYŤP`X[]VUW_�?�Î|_eX:P`Ä�N`_eÅeÈ>H�j�Í�_eZ à _WÜ�PQ_e]fÍ�Å{PQË�_BÍ�_eUajdÃ�Æ>j�ÅQRªP`RTj�]�PQj­RT]fUaZTÄVÍ�_�X­ÅKP`_aÆ Ï Ë�_eNQ_ÅQÄ�i>UeX:P`_acdj�NQRbÖeX[PQRbjd]�Î|NkX[Ã�_�Å�XdNQ_�UkË�j�ÅQ_a]­Æ�N`jdifXdi�RTZbRYÅKP`RbUeX[ZbZTl�È�H�j�Í�_eZ R ËVX[]fÍ�Zb_eÅ Ï Ë�Ð}Ã�j:Ìd_eÃB_e]�P�i�lXdÍfÍ�RT]fc�ÆfX[NkX[Ã�_WP`_aNkÅ<UWj�NQN`_eÅQÆVj�]fÍ�Rb]�c�PQj��� ������UaX[PQ_ac�jdN`RT_�Å�iV_eRT]�c�ÆVXdÅ`Ť_�Í�Î|N`jdÃ�PQË�_OÆVX[N`_a]�P<j[Î>PQË�_N`Ä�ZT_+P`j�jd]�_+j[ÎFRTP`ÅOUkË�RbZYÍ�NQ_e]�Ó�jdN¡i>_aRb]�c�Í�RYÅQUkËVX[N`cd_eÍ­XdÅ¡X�PQNkXdUa_dÈE����h½T4 4 �+½�¾ ������ÂJ5yÂ��a¼�ÂyÁ 2 ¾�¿�4 5����}¾V½ � ��½q��Ây» �E=�y¹ 2 ¾�¿�4�5O¹J�Ë�RYÅ£ÅQ_eUWPQRbjd]±Í�_eÅ`UWN`RbiV_�Å�Ë�j Ï PQË�_·c�_a]�_eN`X[PQRbjd]¸j[Î+PQËf_ YOá�ѸjdÎ�N`Ä�Zb_·RYÅ�i�N`jdÒd_e]±Í�j Ï ]�RT]�PQj1XÅQ_eÕ�Ä�_a]VUW_�j[Î�ÅQÃ�X[ZbZT_eN�ŤPQ_eÆfÅ�Rb]­Ã�j�Í�_aZ Ø È�J�Ëf_�SVN`ŤPP`Ë�Rb]�cBPQjB]�j[P`_�RYÅ�PQËfX[P¡_eXdUkË£RT]�PQ_eNQ]VX[Z(NQÄfZT_�RT]X�Zb_WÜ�RbUeX[ZbRTÖe_eÍ 6�É'8�:,ËfX�Å�PQË�_+Î|j�NQÃ���×

M�Û��>ÝkA��`Û� `Ý�� �!�"� e Û� e Ý$#1Û%�VÝ ; e Û'& e Ý(� � �%;*)BÛ'&�)�Ý Û à Ý

#3RbÅ�P`Ë�_�Ë�_�XdÍ�Ð^UkË�RbZbÍ­j[Î�PQË�_�N`Ä�Zb_dÓ Ï Ë�RYUkË®RT]�Ëf_aN`RªPkÅ�PQË�_�Ëf_eXdÍ Ï jdNkÍ C�PkX[c4ÆVX[RbN+�­Î|NQj�à RTP`Å�ÆfXdNQ_e]�PM�È,� e Û� e Ý-�.�/� �

`Û� `Ý�X[]VÍ,; e Û'& e Ý-�.�/� ;0)BÛ'&!)�Ý�X[N`_�Zb_WÎ�P�X[]fÍ N`RbcdË�P4Ã�j�Í�RªSV_aNkÅ4jdÎ+# È�.�RªP`Ë�_aNKV±jdN

1 Ã�X�l�iV_­Öa_eNQjVÓ\X[]fÍHV ^ 1 ^ V Î|j�N�Ä�]fXdNQl-NQÄfZT_�ÅaÈ�8hRbcdÄfNQ_ à ÅQË�j Ï Å�X�PQN`_a_ Ï Ë�RYUkË Ï RbZTZiV_ÄfÅQ_eÍ�XdÅ{Xd]·_WÜ�XdÃBÆfZT_�P`Ë�N`jdÄ�c�Ë�jdÄ�P�PQË�RYÅ�ÆfX[Æ>_aN�ÈVÙ-_ Ï RbZbZ�_aÜ�PQ_a]VÍ�PQË�_�ZT_aÎ�P+Xd]fÍ�N`RTc�Ë�P�Ť_�Õ�Ä�_a]fUa_eÅPQj£RT]fUaZTÄVÍ�_4XBPQ_eNQÃ�Rb]fX:P`RT]fc +�2�3 .£ÅQl�Ã4i>jdZCÓfX[ZbZTj Ï Rb]�c�X�H·XdNQÒ�j:Ì�Æ�N`j�Ua_eÅ`Å�PQj�Ã�j�Í�_eZ�PQËf_�ZT_aÎ�P�X[]VÍN`RTc�Ë�POÅQ_eÕ�Ä�_e]fUW_�ÅaÈ�J�Ë�ÄfÅ4�` 5e ^ ;*) 5 e ^ +�263 .VÈ

8�j�N¡_WÜ�X[Ã�Æ�Zb_dÓ�Rb] +�/ 02�465�7�8 91;�<6=�> A ,�. / �6����� 9 ,�, > ,�. /@?�<6A 9 ,�,�. >%; . /102�465�768 9 ;�<6=�> ×Vj^ à 1 ^ V M ^ +# ^ ; . � e[^F,�. �87:^F,�.�89g^ +�2�3 . ;oe[^ +�2�3 . Ë ^ E 02�465�7�8 9#;�<6= H 3eo^ E ?�<�A 9 ,�,�.3H :7:^ E �6����� 9 ,�,3H

[OjdPQ_�PQËVX:P�Zb_WÜ�RbUeX[Z�N`Ä�Zb_eÅeÓ:RT]�UWj�]�PQNkXdŤPhP`j�P`Ë�_¡Rb]�P`_aN`]fX[Z�N`Ä�Zb_eÅeÓ[X[N`_�UajdÃ�Æ�Zb_WP`_aZbl4Í�_WP`_aN`Ã�RT]�RYŤPQRYU[ÈJ�Ë�_el­X[Z Ï X�l�ÅPkX[Òd_�PQËf_+Î|jdN`à M�Û��>Ý A )

þ M­é èCù�èCù�ð<ðPkeëKð��eèCé�ôvï�ôkû�è8ù�ð<èCô��çCú�í�ð�é�ï�è8ù�ðFèCç8ðKðWö�Zhù�é�ë}ù�ù:ìkø�è8ù�ðFûbôvç �<; =?>A@CB�D�EGF j

`

Page 7: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

Ï Ë�_eNQ_[M,RYÅ¡X4ÆVX[NQP¤Ð}j[Î�Ð^ŤÆ>_a_�UkË�P`XdcfÓ6�®RbÅ�X Ï jdNkÍ�Ð8PkX[c�ÆVX[RbN-EG)g4 r1HWÓfX[]VÍ�PQËf_�N`Ä�Zb_+NQ_ Ï NQRTPQ_�Å�P`j�ÚKÄVÅKPPQËf_ Ï j�N`Í%)�ÈFÑ�_a_�Sfc�Ä�N`_ à Î|jdN�_WÜ�XdÃBÆfZT_�Å�j[Î�ZT_aÜ�RbUeX[Z�N`Ä�Zb_eÅeÈ 8�jdN`Ã�X[ZbZTl�Ó Ï _ Ï RTZbZ�X[Z Ï X�l�Å�PkX[Òd_�XZb_WÜ�RbUeX[ZbRTÖe_eÍ�]fjd]�ÐCPQ_eNQÃ�Rb]fX[Z M�Û��>Ý�P`j�_aÜ�ÆfX[]fÍ4Í�_WP`_aN`ÃBRb]�RYÅKP`RbUeX[ZbZTl�Û Ï RªP`Ë�Æ�N`jdiVX[i�RbZTRTPKl Ø Ý\RT]4PQË�RYÅ Ï X�lRTÎXMMRbÅ�X�ÆfXdN¤PQÐCjdÎ�Ð}ÅQÆV_e_eUkË�ÅQl�Ã�iVj�Z8È�J�Ë�ÄfÅ<Î|j�N�P`Ë�_{ÆfXdN`ÅQRb]�c�Ã�j�Í�_aZYÅ Ï _{N`_eÕ�Ä�RbNQ_�P`Ë�_{]fjd]�ÐCPQ_eNQÃ�Rb]fX[ZZYX[i>_aZYÅ�PQj�iV_�ÆfXdN¤P`RªP`RTj�]�_eͧRT]�P`j£P Ï j®ÅQ_WPkÅaÓ�ÆVX[NQP¤Ð}j[Î�Ð^ŤÆ>_a_�Uk˧Ťl�Ã�iVj�ZbÅ+X[]VͧjdPQË�_eN�]fjd]�ÐCPQ_eNQÃ�Rb]fX[ZYÅaÈI^]�PQ_eNQ]fXdZ{N`Ä�Zb_eÅ�XdZ Ï X�l�Å�ËfX�Ìd_·Xd]�ghá�Ñ Ï Ë�_eNQ_'M RYÅ�]�jdP­X ÆfXdN¤PQÐCjdÎ�Ð}ÅQÆ>_a_eUkË�ÅQl�Ã�iVj�Z8È�ã�_eUaXdÄfÅQ_Zb_WÜ�RbUeX[ZbRTÖe_eÍâNQÄfZT_�Å�X[N`_®Í�_aPQ_eNQÃ�Rb]�RbŤPQRYU®PQËf_al Ï RbZTZ{]�j[P�i>_·Í�RbÅ`UWÄVÅQÅQ_eÍâRT]âPQËf_�NQ_eÃ�XdRT]VÍ�_aN�j[Î�PQË�RYÅÆfXdÆV_eNe×fXdZTZ�jdÎhP`Ë�_�Ã�j�Í�_aZbRT]fc�UkËfjdRYUW_eÅ�Uajd]fUa_aN`]­Rb]�PQ_aN`]fXdZ�NQÄ�Zb_eÅeÈ

J�Ë�_�Æ�N`jdifXdi�RTZbRTPKl�jdÎhX[]�Rb]�PQ_eNQ]fXdZVN`Ä�Zb_�UeX[]�i>_�N`_ Ï N`RTP¤PQ_e]�Ûy_WÜ�XdUWPQZbl�Ý�ÄfÅQRT]�c4PQË�_+UkËfXdRT]�N`Ä�Zb_�jdÎÆ�N`jdifXdi�RbZTRTPQRb_eÅe×M�Û��

` 5e Û� ` 5e Ý �/�/� � e Û� e Ý$#1Û%�VÝ ; e Û'& e Ý-�.�/� ;*) 5 e Û'&�) 5 e ÝP(Mf4 �VÝ]^

M � Û�# P(Mf4?�>Ý J bW cXe ����� ` 5

eM��QÛ�� W Û� W Ý PG� e Û� e Ý �/�.� � W � e Û� W � e Ý649Mf4 ��4?#§Ý J

b� cXe ����� ) 5 e

M�dÛ�; � Û�& � ÝP � e Û� e Ý-�.�/� �` 5e Û� ` 5e Ý64%; e Û'& e Ý-�.�/� ; � � e Û'& � � e Ý64%Mf4?�=4"#§Ý

Û�P`Ë�_�ŤÄfifÅQUaNQRbÆ�PkÅ �\Ó( Xd]fÍ &­X[N`_4ÄfÅQ_eÍ·PQj�Í�_a]�jdPQ_�PQË�_�Ë�_�XdÍ�Ó(Zb_WÎ�PQÐCÃ�j�Í�RTSf_aN�X[]VÍ·N`RTc�Ë�PQÐCÃ�j�Í�RTSf_aNÆfXdN`XdÃB_aPQ_eN�PKl�Æ>_eÅ�N`_eÅQÆ>_eUvP`RTÌ�_aZbl�ÝvÈ

[O_aÜ�PeÓ Ï _­Ã�X[Òd_£PQË�_�XdÅ`ÅQÄ�Ã�Æ�PQRbjd]�PQËfX[P�P`Ë�_­Ã�j�Í�RTSf_aNkÅBX[N`_£cd_e]�_aNkX:P`_eÍ�Rb]fÍ�_eÆV_e]fÍ�_a]�P`ZTl1jdÎ_eX�UkË­jdPQË�_eNeÓM�KÛ�� W Û� W Ý PG� e Û� e Ý �/�/� � W � e Û� W � e Ý64%Mf4?�=4"#§Ý ^ M�¤Û�� W Û� W ÝP(Mf4 ��4?#§Ý

Û R ÝM�dÛ�; � Û�& � Ý P � e Û� e Ý-�.�/� �

` 5e Û� ` 5e Ý64%; e Û'& e Ý-�.�/� ; � � e Û�& � � e Ý64%Mf4?�=4"#§Ý ^ M��Û�; � Û�& � Ý P(Mf4 ��4?#§Ý

Û;_�ÝI^]1ÅQÄ�Ã�Ã�XdNQl�Ó�P`Ë�_�cd_e]�_aNkX:P`RTj�]�j[Î�PQË�_FYOá�Ñ-jdÎOX�NQÄfZT_£ÅQÄfUkË1X�Å�Û à ÝvÓ�cdRbÌd_a]-P`Ë�_­ghá�Ñ(ÓhËfXdÅ

i>_a_a]�Í�_�UWj�ÃBÆ>j�ÅQ_eÍ­Rb]�P`j�PQË�N`_a_�ŤPQ_eÆfÅ���×Ø È :�_a]�_eN`X[PQ_{PQË�_�Ë�_eX�Í�UWjd]VÅKP`RªP`Ä�_a]�PZYX[i>_aZ>j[Î�P`Ë�_{ÆfË�N`X�Ť_�Ó Ï RTPQË­Æ�NQj�ifX[ifRTZbRªPKl�M � Û�# P Mf4?�>ÝvÈà È :�_a]�_eN`X[PQ_+Ã�j�Í�RªSV_aNkÅ�PQj�PQËf_�ZT_aÎ�POj[Î�PQË�_�Ë�_�XdÍ Ï RªP`Ë�Æ�NQj�ifX[ifRTZbRªPKl W cXe ��� ` 5

e M��¤Û�� W Û� W Ý_P.Mf4?�=4"#�ÝvÓ Ï Ë�_eNQ_ �` 5e Û� ` 5e Ýk^ +�2�3 .fÈfJ�Ë�_ +�2�3 .�Ťl�Ã�iVj�Z�RbÅ

XdÍ�Í�_eÍ­PQjBPQËf_�Ìdj�UaXdi�Ä�ZYX[N`l�j[Îh]fjd]�ÐCPQ_eNQÃ�Rb]fX[ZYÅaÓ�Xd]fÍ£PQË�_�Ã�j�Í�_aZhÅKP`jdÆfÅ�c�_a]�_eN`X[PQRb]�c�Zb_WÎ�PÃ�j�Í�RªSf_eN`Å Ï Ëf_a]�RªPORYÅ¡c�_a]�_eN`X[PQ_eÍ�È

R È :�_a]�_eN`X[PQ_+Ã�j�Í�RªSV_aNkÅ�PQj�PQËf_�NQRbcdË�P¡j[ÎhPQË�_�Ë�_�XdÍ Ï RTPQË�Æ�N`jdifXdi�RTZbRTPKl W cXe ��� ) 5 e M�dÛ�; W Û'& W ÝkP.Mf4?�=4"#§ÝWÈ�Ù�_�Í�_WSf]�_g;0) 5 e Û�&!) 5 e Ý�XdÅ +�2�3 .>È

8�j�N_aÜ�X[Ã�Æ�Zb_dÓ[P`Ë�_{ÆfNQj�ifX[i�RbZbRªPKlBj[Î�P`Ë�_{N`Ä�Zb_ +�/ 02�465�7�8�> A ,�. / ������� > ,�. /@?�<6A�> ; . /102�4�5�768�>Ï jdÄ�ZYÍ®iV_�_�ÅKP`RTÃ�X:P`_eÍ®XdÅ

M � Û ; .�P +D9 02�465�768 Ý JNM � ÛG,�. /@?�<6A�> P +D91; . 9 02�4�5�768 Ý JNM � ÛG,�. / ������� > P +�91; . 9 032�465�768 ÝJkM � Û +�2�3 .KP +D91; . 9 02�4�5�768 Ý JNM � Û +�2�3 .KP +D91; . 9 02�4�5�768 Ý

I^]�P`Ë�RYÅ�_aÜ�X[Ã�Æ�Zb_dÓ(X[]fÍ�Rb]·P`Ë�_B_WÜ�X[Ã�Æ�Zb_eÅ{RT]§PQË�_�NQ_�ÅKP�j[Î�P`Ë�_4ÆfXdÆV_eNeÓVÎ|jdN�i�N`_aÌ�RTPKl Ï _4j�Ã�RªP�PQË�_ÆfXdN¤PQÐCjdÎ�Ð}ÅQÆV_e_eUkË�P`Xdc�Å�XdÅ`ÅQj�UaRbX[PQ_�Í Ï RTPQË Ï jdNkÍ�ÅaÓ(Î|j�N�_WÜ�XdÃBÆfZT_ Ï N`RªP`RT]�c +�/102�4�5�768�> NkX:P`Ë�_aN+P`ËfX[]+�/1032�465�768:91;�<6=�> È�Ù-_�_eÃBÆfËfXdÅQRTÖe_�P`ËfX:P�PQË�N`jdÄ�c�Ë�jdÄ�P{PQËf_4Ã�j�Í�_aZYÅ{Rb]·P`Ë�RYÅ{ÆfXdÆV_eNeÓ>_eX�UkË Ï jdNkÍ�RbÅX[Z Ï X�l�Å+ÆVX[RbNQ_�Í Ï RTPQË RTP`Å�ÆVX[NQP�j[ΡŤÆ>_a_�UkË�×�_aRTPQËf_aN Ï Ë�_e]-PQË�_ Ï jdNkÍ�RbÅ�c�_a]�_eN`X[PQ_�Í�Ó�jdN Ï Ë�_e]-PQË�_Ï jdNkÍ£RYÅ�iV_eRT]fc�UWjd]VÍ�RªP`RTj�]�_eÍ®Ä�Æ>jd]\È

ý�æhï�ðPk�ëKð ��è8é�ôvï+é�ø�èCù�ð�ê�çCø8è�ç8ú�í�ð<é�ïOèCù�ð<è8çCðKðvö�; =?>A@CB�D�EGFvö�Z\ù�é�ë}ù{ù:ìkø ��çCôvó:ìkó�é�í�é è�õ��������Qg�������� ��� � i

/

Page 8: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

J H 6Ñ�ÛyiVj�Ä�cdË�PkÝ

������� [a6{ÛyIKã�H§Ý[c[a6�Û|IKã�H§Ý

IKã�H

�c6{ÛyiVj�Ä�cdË�PvÝ

��ã���ÛyiVj�Ä�cdË�PkÝi>jdÄfcdË�P

[c6{Ûyg\j[P`ÄfÅ`Ý[a[c6{Ûyg\j[P`ÄfÅ`Ý

g\j[P`ÄfÅ5�687:9<;�=��@ � �+k� �������]�,����� ��!,�!U�Dk+�!�!�W!,+� �%!6���W!���E�G� +��� F�"�"�"�"9� �+E�Y�QE� !'�*���k � ����Z� ��E� !O� !qAWQ������ ��!,+e��(*!O��!,� !,+���!6��� ����� ���](*!9)�����G�;�! +��� �� ��� 1��! ���� � ��+ �� 1��! ����;���ck+� �� ��!�$ ��+ E� ! $� �!1" ���W�)(*���wF� � !�W ���k+� �(���� ����]�#��!,+-�*���k�k �( ��!O���W�)(*�����e ��]E�� ��-�*���k � ���� ����� ���](*!O����� �� � �����!6�]��� ����D��+�!%�W ���� �k�����!,� !,+���!6� ��k+�� �,��W+�!�$W wF !�F�$�����D��k+�� �,��W+�!9����*! �+� �� �) ��IE� !� ����+�!�F

E=�y¹ �y¹��£¿�¿�Ây» ���­Â��a¼���»�ÁW4­¼e¾�¼��<4F)1¾�¿�4�5 I^]�PQËfRbÅ�Ť_�UvP`RTj�] Ï _¡SVN`ŤP�Í�_�ÅQUaNQRbi>_OË�j Ï PQË�_�Ã�j�Í�_aZUaXd]�i>_�_aÜ�P`_a]fÍ�_eÍ�P`j4i>_X=QË�RbŤPQj�NQl�Ð}ifXdÅQ_eÍ�?�È:Ù-_{P`Ë�_a]®Å¤Ë�j Ï Ë�j Ï P`Ë�RbÅ�_aÜ�P`_a]fÅQRbjd]£UeX[]�i>_�Ä�P`RTZbRbÖa_eÍRb]®Rb]fUajdN`ÆVj�N`X[PQRb]�c =`Í�RYÅKPkX[]fUa_�?4Î|_eX:P`Ä�N`_eÅ�Rb]­P`Ë�_�Ã�j�Í�_aZCÈÛyã�ZYXdUkÒ�_WP�XdZ8È Øeädä�à iVÝ�j�NQRbcdRb]fX[ZbZbl·RT]�P`NQj�Í�ÄfUa_eÍ�Ë�RYŤPQjdN`l�ÐCiVXdÅQ_eÍ�ÃBj�Í�_eZbÅ�Î|jdN�ÆVX[NkŤRb]�cfÈ<.�Õ�ÄfX:Ð

PQRbjd]VÅ R X[]fÍ�_{Ã�X�Í�_�P`Ë�_�RT]fÍ�_aÆ>_a]fÍ�_e]fUW_�XdÅ`ŤÄfÃBÆ�PQRbjd]�P`ËfX:P�_eXdUkË4ÃBj�Í�RTSf_eN\RYÅ\c�_a]�_eN`X[PQ_eÍ+Rb]fÍ�_eÆV_e]�ÐÍ�_e]�P`ZTl§j[Î�P`Ë�_Bj[PQËf_aNkÅBÛyR8È _dÈbÓ(PQËVX:P+PQË�_�Ã�j�Í�RTSf_aNkÅ+X[N`_�c�_a]�_eN`X[PQ_eÍ·RT]fÍ�_aÆ>_a]fÍ�_e]�PQZbl·j[Î�_aÌd_eNQl�P`Ë�RT]fc_WÜ�Ua_aÆ�P M�Ó,# X[]VÍ<�>ÝvÈFI^]�c�_a]�_eN`XdZ8Ó�Ë�j Ï _aÌd_eNeÓ\PQË�_®Æ�N`jdifXdi�RbZTRTPKl�j[Î{c�_a]�_eN`X[PQRb]�c§_�XdUkË1Ã�j�Í�RTSf_aNUWj�Ä�ZYÍ­Í�_eÆV_e]fÍ®jd]®X[]�l�Î|Ä�]fUWPQRbjd]®j[ÎhPQË�_+Æ�N`_aÌ�RbjdÄfÅ�Ã�j�Í�RªSV_aNkÅaÓ�Ë�_�XdÍ C:ÆfX[N`_a]�P�UaX:P`_ac�jdN`l�Xd]fÍ­Ë�_eX�ÍÏ jdNkÍ�ÈhH�j�NQ_ej:Ìd_eNeÓ(RTΡPQË�_£PQjdÆâÍ�j Ï ] Í�_aN`RTÌ:X[PQRbjd] jdNkÍ�_eN�RbÅ4Î|Ä�ZbZTl�ÅQÆV_�UWRTSf_eÍ�ÓhPQËf_a] P`Ë�_£Æ�N`jdiVX[i�RbZªÐRTPKl�jdÎ�c�_a]�_eN`X[PQRb]�c�X�Ã�j�Í�RªSV_aN4UeX[] i>_£UWj�]fÍ�RTPQRbjd]�_�Í�jd] X[]�l§jdÎ�PQË�_£Å¤PQN`ÄfUWPQÄ�N`_�PQËVX:P4ËfX�Å�i>_a_a]Æ�N`_aÌ�RbjdÄfÅQZTl®cd_e]�_aNkX:P`_eÍ�È>J�Ë�_BNQ_eÃ�XdRT]VÍ�_aN�j[Î<PQËfRbÅ�ÆfX[Æ>_aN+XdÅ`ÅQÄ�Ã�_eÅ¡P`ËfX:P�PQËf_�Í�_eNQRbÌ:X:PQRbjd]§jdNkÍ�_aN�RbÅÍ�_eÆ�PQË�ÐCSfNkÅKP�� PQËVX:P�RYÅaÓd_eXdUkË�Ã�j�Í�RTSf_aNNQ_�UWÄ�NkŤRbÌd_eZTl�c�_a]�_eN`X[PQ_�ÅFPQË�_�ŤÄ�i�Ð8P`NQ_e_¡iV_eZTj Ï RªPiV_aÎ|jdN`_�PQË�_]�_aÜ�POÃ�j�Í�RTSf_aN{RbÅ�c�_a]�_eN`X[PQ_eÍ�È^8hRbcdÄfNQ_ R cdRbÌd_�Å�Xd]�_WÜ�X[Ã�Æ�Zb_�PQËfX[PORTZbZTÄVÅKP`N`X[PQ_eÅ�P`Ë�RYÅaÈ

J�Ë�_�Ã�j�Í�_aZYÅ�Rb]�Û}ÉjdZbZTRb]fÅ Ø�ädä `�Ý{ÅQË�j Ï _eÍ·PQËfX[P�PQË�_�Í�RYŤP`X[]VUW_�iV_aP Ï _e_a] Ï j�N`ÍfÅ�ŤP`Xd]fÍ�Rb]�c�RT]Ë�_�XdÍ�Ð}Ã�j�Í�RªSf_eNON`_aZYX:PQRbjd]VŤË�RbÆfÅ Ï XdÅ�RbÃ�ÆVj�N¤PkX[]�PeÓVRT]�ÆVX[NQPQRYUWÄ�ZYX[N�P`ËfX:P{RTP{RYÅ¡RbÃBÆ>jdNQP`Xd]�POPQj�UeX[Æ�P`Ä�NQ_X�ÆfNQ_aÎ|_aN`_a]fUa_OÎ|jdNNQRbcdË�PQÐCi�NkX[]VUkË�RT]fc�ÅKP`NQÄfUWPQÄ�N`_eÅ�Û Ï Ë�RYUkË­XdZTÃ�j�ÅKP�P`N`Xd]fÅQZbX[PQ_eÅ�RT]�P`j�X�ÆfNQ_aÎ|_aN`_a]fUa_¡Î|jdNÍ�_eÆV_e]fÍ�_a]VUWRb_eÅ¡i>_WP Ï _a_e]®X�Í�Ú¤XdUa_a]�P Ï jdNkÍ�ÅkÝvÓ�X[]VÍ­XBÆ�N`_WÎ|_eNQ_e]fUW_�Î|jdN¡Í�_eÆV_e]fÍ�_a]VUWRb_eÅ¡]�jdP�PQj�UWN`j�Å`ÅXÌd_eNQi\È�I^]-PQË�RYÅ�ÅQ_eUvP`RTj�] Ï _�Í�_�ÅQUaNQRbiV_�Ëfj Ï PQËfRbÅ�Rb]�Î|j�NQÃ�X:P`RTj�]-UeX[]�i>_�RT]fUajdN`ÆVj�N`X[PQ_�ͧRb]�PQj�Ã�j�Í�_aZØ È>I^]§ÅQ_eUWPQRbjd] / È à jdÎ<PQË�RYÅ�ÆfX[Æ>_aN Ï _BÍ�_eÅ`UWN`RbiV_�_WÜ�ÆV_eNQRbÃ�_a]�P`Å{PQËVX:P�_eÌ:X[ZbÄfX:P`_�PQËf_4_WÊ(_eUWP�jdÎ<PQË�_�Ť_Î|_eX[PQÄ�N`_eÅ�j�]�ÆfX[NkŤRb]�c�XdUeUWÄ�NkXdUaldÈ

��RbŤP`Xd]fUW_�UaXd]4i>_Rb]fUWj�NQÆ>jdNkX:P`_eÍ�Rb]�PQj�PQË�_�Ã�j�Í�_aZ�i�l�Ã�j�Í�RªÎ|l�Rb]�c�PQË�_�Rb]fÍ�_aÆ>_a]VÍ�_a]fUa_�X�ÅQÅQÄ�Ã�Æ�ÐPQRbjd]VÅOŤjBP`ËfX:PO_�XdUkË£Ã�j�Í�RTSf_aN{ËfXdÅ¡XBZbRTÃ�RTPQ_eÍ�Í�_eÆV_e]fÍ�_e]fUW_�j�]£P`Ë�_�Æ�N`_aÌ�RbjdÄfÅ�Ã�j�Í�RªSV_aNkÅa×

M�¤Û�� W Û� W Ý P-#�4%Mf4?�=4"� e Û� e Ý �/�.� � W � e Û� W � e Ý¤Ý ^ M��¤Û�� W Û� W ÝkP-#�4%Mf4?�=4�� \ �#r$� V���� �^Û \ �¸Ø ݤÝÛ K Ý

M��Û3; W Û�& W ÝkP #�4%Mf4?�=49; e Û�& e Ý �/�.� ; W � e Û�& W � e Ý¤Ý ^ M��Û3; W Û�& W ÝkP #�4%Mf4?�=4�� \ �#r$� V���� �[Û \!�¸Ø ÝQÝÛJ`�Ý

áO_eNQ_"� \ � r$� V���� � Xd]fÍ#� \ �#r$� V���� � X[N`_§Î|Ä�]VUvPQRbjd]VÅ­jdÎ4P`Ë�_-ÅQÄ�NQÎyXdUa_-ŤPQN`RT]fc�i>_aZbj Ï PQË�_�Æ�N`_aÌ�RbjdÄfÅÃ�j�Í�RªSV_aNkÅaÈ�Ñ�_a_¡SVcdÄ�N`_O_�Î|jdNRTZbZbÄfÅKP`N`X[PQRbjd]�È�J�Ë�_{Í�RYÅKPkX[]fUa_OÃ�_eX�ŤÄ�N`_¡RYÅ�ÅQRTÃ�RbZbXdN<PQj�P`ËfX:PRT]§Û}ÉjdZbZTRb]fÅØeä�ä `�ÝvÓ(X�Ìd_�UvP`jdN Ï RªP`˧P`Ë�_4Î|j�ZTZbj Ï Rb]�c à _aZb_aÃ�_a]�P`Åe×<Û Ø ÝORYÅ�PQË�_�ŤPQN`RT]�c­j[Î�Öe_aN`j£Zb_a]�cdPQËVß�Û à Ý�Í�j�_eÅ

S

Page 9: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

h

P(h)

H(h) R1(r1) R2(r2) R3(r3)

distance5�687:9<;�=��� � !O��!BAY �q�� �� �^$�� (���� (� $� �� ��!�� !,+���!6� � E� �W+���(��( ��� �� � � (���� (�� ��������������������! �"$#&% �('���� F � � !�����$�)�! *"�#9 ��-7� � ���,� ���� �#�FE� !#�k�W+ � ���!9��k+� ����L(*!���� � �W+�!U�Y ���� � �����W !,+��+� 1 �� �,� G F � �]�W+� �� �� �� ��!E� !'������!��^����� ���I����� �W �� ����]���]���� ��k+�� � ���+�! �W���� �����!6�D(��-� $.� 1 ��+/� G � ��+ $�� ��+ E� � � �k�! + $Y�������I��k+�� �,��W+�!#��+�!%�W ���� �k���D��!���!,+���!6�I!����k! � � !,+�!a ��IE��!'k+�!�! � F

0!1.23�46587)9�:);)<>=

?!2 4 @�A�ACB8=DE�F <G@�A�ACB

?!2IHKJ 4MLMN�O�=LMN�O P

2 4M5�7�98:�;)<Q=

PN�R

587)9�:);)<?.2SHKJ 4 D 7�<T9 F =

D 7�<T9 F5�687:9<;�=VU@ k+�!�! � �E�IE� !XW�YL�k�.ZzAD� �k!6� ��L ���!��T� � �I����������!���!��T���F�[ � ��\ �� �][����������\ �+�!O �� �k� (!^�!,�, �� ���(!^�!,�,'�*���k � ���� +�!��k�*!��,� �%!,� ��F_[ ����� � !,!��!\L �� ��Z��&^���� �, F

PQËf_­Å¤PQN`RT]�c·Uajd]�P`XdRT] X�Ì�_aN`iVß�J�Ë�_�SfN`ŤP�Î|_eX[PQÄ�N`_£XdZTZbj Ï Å�PQË�_£ÃBj�Í�_eZ�P`j·ZT_�X[N`] X�Æ�NQ_aÎ|_aN`_a]fUa_�Î|jdNN`RTc�Ë�PQÐCifN`Xd]fUkË�Rb]�c®Å¤PQN`ÄfUWPQÄ�N`_eÅeÈ�J�Ë�_�Ť_�UWj�]fÍ·Î|_�X:P`Ä�NQ_�`4XdZTZbj Ï Å�PQË�_�Ã�j�Í�_aZ�PQj�ZT_�X[N`]-X®Æ�N`_WÎ|_eNQ_e]fUW_Î|jdN{ÃBj�Í�RTSVUeX:PQRbjd]®j[ÎhPQË�_�Ã�j�ÅKPON`_eUa_a]�P¡Ìd_aN`i�ÈMaE=� A 2 ¾�¿�4�5'A�b ���<4·Á�¾ )dc�5J4 )>4�»(¼�e*�f¿Gf�À�»hÁd¼4¿hÂ��a¼�Ây»�Á[¼�Ây¾>» �f»h¿Q��À=�ÁG��¼�4 �>¾V½�Â'&G��¼�Ây¾>»J�Ë�_�PQN`_a_�RT]£SfcdÄfNQ_ à RbZTZbÄfŤPQNkX:PQ_�Å�P`Ë�_�RTÃ�Æ>jdNQP`X[]VUW_�j[Î�PQËf_�UajdÃ�Æ�Zb_aÃ�_a]�P C[XdÍ�ÚKÄf]fUvP¡Í�RYÅKP`RT]fUWPQRbjd]�È�I}PÏ jdÄ�ZYÍ4i>_¡ÄfÅQ_WÎ|Ä�Z�PQj+RbÍ�_a]�PQRTÎ|l\=QIKã�H\?�X�ÅFX�ÅQÄ�i�ÚK_�UvP�ÓdX[]fÍ =QghXdŤP Ï _e_aÒ*?�X�Å<X[]�XdÍ�ÚKÄf]fUvP{Û|PQ_aÃ�Æ>jdNkX[ZÃ�j�Í�RªSV_aNvÝvÓ�i�Ä�P®PQË�RYÅ­Í�RbŤPQRb]fUvP`RTj�]$RYÅ£]�jdP­Ã�XdÍ�_§Rb]±PQË�_§PQN`_a_�Ó�X�Å�i>j[PQË ,�.�Å­X[N`_·RT]$PQË�_-ÅQXdÃB_Æ>j�ÅQRªP`RTj�]�g4Û8ŤRYÅKP`_aNkÅPQj�X ; .�Äf]fÍ�_aNOXd] + ]�j�Í�_�ÝWÈ�8�N`jdÃ/Ë�_eNQ_+j�] Ï _ Ï RbZbZ�RbÍ�_a]�PQRTÎ|l£UWj�Ã�Æ�ZT_eÃ�_a]�P`Å$hi�l�X:PQP`XdUkËfRT]�cBX�ikj�ŤÄ6BÜ�P`j4]�j�]�ÐCPQ_aN`Ã�RT]VX[ZYÅaÈ�8�RTc�Ä�NQ_ K ÅQË�j Ï Å�PQË�_�PQN`_a_�RT]£SfcdÄ�N`_ à Ï RTPQË­X�Í�Í�_�ÍUWj�Ã�Æ�ZT_eÃ�_a]�POÃ�X[N`Ò�Rb]�c�ÅaÈ

L ÆVj�ÅKPQÐCÆ�N`j�UW_�ÅQÅQRT]fc£ÅKPkX[c�_�UWj�Ä�ZYÍ·XdÍ�Í·PQË�RYÅ+Í�_WPkX[RbZ\P`j£P`Ë�_BÆfX[NkŤ_eN{j�Ä�PQÆ�Ä�PeÓ(i�Ä�P+PQËf_aN`_�X[N`_�XUWj�Ä�Æ�Zb_�j[ÎfN`_eX�Ťj�]fÅ�Î|j�N�Ã�XdÒ�Rb]�c�PQË�_¡Í�RYŤPQRb]fUvP`RTj�] Ï Ë�RbZT_�ÆfXdN`ÅQRb]�cfÈ%8�RTNkÅKP�Ó�RbÍ�_e]�PQRTÎ|l�Rb]�c�UWj�Ã�Æ�ZT_eÃ�_a]�P`ÅRYÅ4UWj�Ã�Æ�ZT_aܧ_a]fjdÄ�c�Ë�P`j Ï XdNQNkX[]�P�X�Æ�N`jdifXdi�RTZbRYÅKP`RbU�PQN`_eX[PQÃ�_a]�P�È\g�_aÜ�RYUaXdZ�Rb]�Î|jdN`Ã�X:PQRbjd]-RYÅ�]�_a_�Í�_eÍ� Î|jdN+_aÜ�XdÃ�Æ�ZT_�Ó�Ò�]�j Ï ZT_�Í�cd_4PQËfX[PH= Ï _a_aÒ*?£RbÅ+ZbRTÒ�_aZbl�PQj®iV_�X£PQ_eÃBÆ>jdNkX[Z<Ã�j�Í�RTSf_aN�ÈOQ+]�j Ï Zb_eÍ�c�_X[i>jdÄ�PŤÄfi>UeX:PQ_ecdj�NQRbÖeX[PQRbjd]BÆ�NQ_aÎ|_aN`_a]fUa_eÅ � Î|jdN�_aÜ�XdÃ�Æ�ZT_�P`ËfX:P�X+Ìd_aN`iBP`XdÒd_eÅF_aÜ�XdUvP`ZTl�jd]�_OÅQÄ�i�ÚK_�UvP� RbÅ�X[ZYŤj·N`_eÕ�Ä�RbN`_eÍ�È�8fjdN�_WÜ�X[Ã�Æ�Zb_dÓc= Ï _a_aÒ*?�UeX[]1ÅQjdÃ�_WP`RTÃ�_eÅ4iV_­X·Å¤Äfi�ÚK_eUWPeÓFXdÅ�Rb]mlhr�pvz+ �s`sk´ �r�p�r�������u·�:�(sWÓ�ÅQj�PQËf_�Ã�j�Í�_aZ�Ã4ÄVÅKP+ifX[ZYX[]VUW_�P`Ë�_BÆ�NQ_aÎ|_aN`_a]fUa_�Î|jdN�ËfX�Ì�Rb]�c­X­Å¤Ä�i�ÚK_eUvP�X[c�X[Rb]fŤP

n y\ôkèCð<è8ù:ì`èhè8ù�é�ø�ûTðQì`è8ú�ç8ð �¡ð¤ìkï�ø�è8ù:ì`è ��õeï:ì��¡é�ë ��çCôvñvçCì����¡é�ï�ñ �:ìkçCø8é�ï�ñ�ìkí�ñvôvç8é èCù��¡ø�ûTôvç�èCù�ð �¡ô���ðKí ��ú�øyè\vðKð ��è8ç}ìkë\Oôkû:Z\ù�ð^èCù�ð¤ç\ð¤ìkë}ù+ëKôvï�øyèCé è8ú�ðKïaè ��ôaðKøhôvç ��ôaðKøhï�ôkè\ù:ì�bWð�ì-bWðKçCó�é�ï{è8ù�ð<ø8è8çCé�ï�ñè8ô�èCù�ð<çCé�ñvùWèhôvç�í�ð^ûªèôkûfé è8ø\ù�ðQì���jdÿeðKðOg � ôví�í�é�ï�ø ������i(ûbôvç\ìûTú�í�í ��ðKøCëKçCé���è8é�ôvï�ôkû�è8ù�ð �:ìkç8øCé�ï�ñ¡ìkí�ñvôvç8é èCù��¡ø j

dî�ï{èCù�ð �¡ô ��ðKí�ø ��ðKøCëKçCé�ó[ð ��é�ï g � ôví�í�é�ï�ø �����d i}ö:èCù�ð¤ç8ðXZ�ìkøhìèCù�é�ç � �eú�ðKøyèCé�ôvï+ëKôvï�ëKðKçCï�é�ï�ñ���ú�ï�ë^è8ú:ì`è8é�ôvïGo*g �i��ôaðKø\è8ù�ð�ø8è8çCé�ï�ñ�ëKôvïaèCìké�ï ��ö �vö��ôvç i �ëKô���Oìkø�p g Z\ù�ðKçCð�ì�ëKô���Oì�é�øhìkïWõaèCù�é�ï�ñ�è}ìkñvñvð ��ìkørqQö s�ôvçrqto s�ikjü�ù�ð �¡ô ��ðKí ��ðKø8ë¤ç8é�ó[ð���é�ï�è8ù�é�ø �:ì��[ðKçhù:ìkøhì�ëKí�ð¤ìkï�ðKçhé�ï�ë¤ôvç �[ôvç}ì`è8é�ôvï�ôkû ��ú�ï�ë^è8ú:ì`è8é�ôvï�é�ïaè8ô�è8ù�ð<ñvðKï�ðKç}ì`è8é bWð��ç8ôeëKðKøCø¤ö[ìkø ��ðKøCëKçCé�ó[ð �+é�ï{øCðKë^èCé�ôvï�þ%j �j

fru k�ëKð ��èvqCî o�÷ws�é�ø�ë¤í�ôvø8ðKç\è8ô�è8ù�ðyx->�ö�ó�ú�èhï�ôkè8ð<èCù:ì`èvqCî o�÷ws�é�ø\ìkí�øCô�èCù�ð�ø8ú�ó�zyðKë^èhé�ï�qCî o�÷Mí�ìkøyè]Z(ð¤ðE\ó[ôvú�ñvùWè�ò�ôkèCú�ø�s%j�NM4ð�ú�øCðFè8ù�ðFè8ðKç �|{�}&~���e ft~Rft��r�é�ï�ì�ó�ç8ôWì���ø8ð¤ï�øCðFè8ù:ì`è�é�ï�ë¤í�ú���ðKøhó[ôkè8ù�ëKô����í�ð �¡ðKïaè8ø\ìkï ��ø �dðKëKé ê:ðKçCø\ú�ï ��ð¤çè8ù�ð<èCðKç �¡é�ï�ôví�ôvñkõOôkû a ô bWðKçCï��¡ð¤ïWè�ìkï �zo(é�ï ��é�ï�ñ%j

ä

Page 10: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

� 4 E =.L����Q7����6A��Q< � 4M5�= J 7����6A��Q<3

?!2SHKJR�6A� �M9 F

?!2SHKJ<>;�A�58A F <��M9���� P

2@ E�F���R�� 2

� 7�@

3?!2SHKJ

?!2R�6A� �M9 F

?!2<>;�A�5�A F <�� 9����

P2

@ E�F���R�� 2� 7(@

� 4 E =.L����Q7����6A��Q< � 4M5�= J 7����6A��Q<3

?!2IHKJ0 ;�A�� FTF 9�A P

2

@ E�F ?!2IHKJE 5�� � � P

2IHKJ� 9������ ��: ?.2SHKJ

J 7 ��:��KA FTF

3?!2IHKJ

0 ;�A�� FTF 9�A P2

@ E�F ?!2IHKJ?!2E 5�� � � P

2� 9������ ��: ?.2SHKJ

J 7 ��: �6A F>F5�687:9<;�=��� � ��!qA ���� ��!�� � ��!,+�!#E� !9��k�k� ����� ����IE��� ������ ��! +�� �+�!O��!���!,+���!U�] �� ��!,�*!�� �W!��T�� � �#�h! ��q� ��E� !,+��! ��W�-��)!,+k+���+���F � � � �� E� !O�W+���(��( ��� �D� � ��!�� !,+��� �� �L(*��E� [ �'+�!��G� � ��\��� � [�� ��� �.\��� �k� (!^�!,�,���$ � &�" WIY � .������ ���4��� $�� (�"�� )���� �"! � &�" W�Y �#���� %$�� $��s(�"�� )���� � �� � �W+�! ��k�����( ��� �� ���� F �('�� �� �k ��� ����+'& � &�" WIY � /4�������3� (�" W�Y ������ %$��� �2 � (�"�� (�,�� )���� �)( � &�" WIY � /4������� (�"�� (�,�� )���� �*! � (�" W�Y ������ %$��� �2�� (�"�� (�,�� )���� � ��e9(� � �� ��!��*!�� ��!�����! ��k�k� ���W� ���� F

PQËf_BN`_aZYX:P`RTÌ�_�RbÃBÆfNQj�ifX[i�RbZbRªPKl�j[ÎI= Ï _a_aÒ*?�i>_aRb]�c­PQË�_BË�_�XdÍ�Ð Ï j�N`Í�jdÎX£ÅQÄ�i�ÚK_�UvP�È(J�Ëf_eÅQ_4Æ�N`jdi�Zb_aÃ�ÅX[N`_�]�jdPONQ_�ÅKP`NQRYUvP`_eÍ­PQj ,�.�ÅaÓVUWjdÃ�ÆfXdNQ_ =`J�Ë�_�ŤÆ>jdÒ�_eÅ Ï j�Ã�X[]�ÅQXdRbÍ-Û +�<,+*- PQËVX:P¡PQËf_4XdÅQiV_�ÅKP`j�Å Ï XdÅÍ�Xd]�cd_eNQj�ÄfÅ`Ý�?�Ì�ÅaÈ =Qã�jd]fÍfÅ�iV_�X:PFŤË�j�N¤PQÐ8P`_aN`à Rb]�Ìd_eŤPQÃ�_e]�PkÅ�Û +�<,+*- i>_eUeX[ÄfÅQ_�P`Ë�_�Ã�X[N`Òd_aP\RYÅ\Í�j Ï ]VÝ�?�ÓÏ Ë�_eNQ_4Xd] +�<,+*- Ëf_eXdÍ�_eÍ®i�l =¤PQËfX[P,?�RYÅ{X�UajdÃ�Æ�Zb_aÃ�_a]�PeÓfi�Ä�P�Xd] +�<*+*- Ëf_eXdÍ�_eÍ�i�l>=QiV_�UaX[ÄVŤ_�?�RbÅX[]�X�Í�ÚKÄ�]fUWPeÈ

L±ÅQ_eUWj�]fÍBNQ_�XdÅQjd]4Î|jdN�Rb]fUWj�NQÆ>jdNkX:P`RT]fc{P`Ë�_OUWj�ÃBÆfZT_eÃB_e]�P C:X�Í�ÚKÄ�]fUWP�Í�RYÅKP`RT]fUWPQRbjd]�Rb]�PQj�PQË�_{ÆfX[NkÅKÐRb]�c�Ã�j�Í�_eZVRYÅ�P`ËfX:P�PQËfRbÅÃ�X�lBËf_aZbÆ�ÆfX[NkÅQRT]�c�XdUaUaÄ�NkXdUWl�È�J�Ë�_�XdÅ`ŤÄfÃBÆ�PQRbjd]�P`ËfX:P¡UWj�ÃBÆfZT_eÃB_e]�P`Å�X[N`_cd_e]�_aNkX:P`_eÍ�Rb]fÍ�_eÆV_e]fÍ�_a]�P`ZTl�j[Ρ_�XdUkË j[P`Ë�_aN4j[Î�PQ_e]1Zb_eXdÍfÅ�PQj§RT]fUajdN`NQ_�UvP�ÆfXdN`ÅQ_eÅeÈhÑ�_e_�Sfc�Ä�N`_B`�Î|jdN_WÜ�XdÃBÆfZT_�ÅaÈE=� A��y¹ ºW¿�4�»(¼�Â���.�Ây» �J��¾ ) c�5J4 )34�»(¼ � �f»h¿ �­¿Gf�À�»hÁd¼ ��Ây»%¼!��4+�c4�»h» �½T4�4!����»X� Ù-_�XdÍfÍPQËf_,i.j£Å¤Ä�Ü­PQj�X[ZbZ�]�j�]�Ð8P`_aN`Ã�RT]fXdZbÅ�Rb]®PQNkX[Rb]�RT]fc�ÍfX:P`X�P`ËfX:P{Å`X:P`RbŤÎ|l�PQËf_+Î|jdZbZTj Ï Rb]�c�UWj�]fÍ�RTPQRbjd]fÅe×

Ø È J�Ë�_�]�j�]�Ð8P`_aN`Ã�RT]fXdZ�Ã4ÄfŤP¡iV_�×hÛ Ø Ý�X[]*,�.(Ó +�<,+*- Ó�jdN + Ï Ë�j�Ť_�ÆfXdNQ_e]�P¡RYÅOX[] + 0�Û à Ý�X[],�. 9 +�<*+*- 9*+ Ó�jdN ; . Ï Ë�j�Ť_+ÆfXdNQ_e]�P�RYÅ¡X ; .�0�j�N�Û R Ý�X[] + Ï Ë�j�ÅQ_+ÆfX[N`_a]�P¡RYÅOX[] +�<*+*- Èà È J�Ë�_�]�j�]�Ð8P`_aN`Ã�RT]fXdZ�Ã4ÄfŤP��>�[z�ËfX�Ìd_�jd]f_�jdÎhP`Ë�_+Î|jdZbZbj Ï RT]�c�ÅQ_aÃ�X[]�P`RbU�P`Xdc�Åe× +�=�; 9 ;�3 j 9< ,/ 9 =�? - 910*2�2:9433 j 9 A , - 9 2�A . 9 j 3- jdN . - .(ÈfÑ�_a_�Û8H·X[NkUWÄfÅ�_aP{X[ZCÈ ä _�Ý�Î|j�NOX[]_WÜ�Æ�ZYX[]fX[PQRbjd]®j[Î Ï ËfX:P�P`Ë�_eÅQ_+P`Xdc�Å¡ÅQRTc�]�RªÎ|l�È^8�j�N¡_WÜ�X[Ã�Æ�Zb_dÓ�P`Ë�_ ,�.3=QghXdŤP Ï _a_eÒ*?4Rb]SfcdÄfNQ_ à Ï j�Ä�ZYÍ­ËVX�Ìd_�PQË�_ 2�A .·Û�P`_aÃ�ÆVj�N`XdZYÝPkX[c 0�X[]fÍ£PQË�_ +�<,+*- RT]@=�Û +�<,+- i>_eUeX[ÄfÅQ_PQË�_�Ã�XdNQÒ�_WP¡RbÅ¡Í�j Ï ]VÝ�?fÓ Ï j�Ä�ZbÍ­ËfX�Ì�_�P`Ë�_ +�=�; ÛyXdÍ�Ìd_aN`i�RYX[Z�Ý�P`X[cVÈ

R È J�Ë�_�]�j�]�Ð8P`_aN`Ã�RT]fXdZ�Ã4ÄfŤP¡]�j[POi>_�jd]­PQËf_gYOá�Ñ®jdÎ�X�UWj�jdNkÍ�Rb]fX:P`_eÍ­Æ�Ë�NkXdÅQ_dÈ*8�j�N_WÜ�X[Ã�Æ�Zb_dÓfRT]­PQË�_�N`Ä�Zb_ + A + j�j + P`Ë�_+P Ï jBUkË�RbZYÍ + Þ Å Ï j�Ä�ZYÍ£]�jdPOiV_�Ã�XdNQÒ�_eÍ£X�ÅUWj�ÃBÆfZT_eÃB_e]�P`ÅeÈ

I^]1XdÍfÍ�RªP`RTj�]�Ó�P`Ë�_�SfNkÅKP4UkË�RbZYͧÎ|j�ZTZbj Ï Rb]�c®PQË�_�Ë�_�XdÍ-j[ΡX®Æ�N`_aÆ>j�ÅQRªP`RTj�]fX[Z<Æ�ËfN`X�Ť_�RYÅ�Ã�X[N`Òd_eÍ-XdÅ�XUWj�Ã�Æ�ZT_eÃ�_a]�PeÈ

�V

Page 11: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

E=� A�� A �+½:¾������FÂ;58Â|¼eÂJ4 � ¾�� 4�½���ÀX��ÁG��¼�4 �V¾V½:ÂG&!��¼eÂ8¾V»m$\½(�*)34 � H�j�Í�_aZ Ø UajdÄ�ZYÍ�i>_·N`_WP`N`XdRT]�_�Íjd]§PQNkX[Rb]�Rb]�c£Í�X[P`X Ï RTPQ˧PQË�_B_a]fËfX[]fUa_eÍ·ÅQ_WP�j[Î�]�j�]�ÐCPQ_aN`Ã�RT]VX[ZYÅaÓ(X[]fÍ·RªP+Ã�RTc�Ë�P�ZT_�X[N`]�PQË�_BZb_WÜ�RbUeX[ZÆ�N`jdÆ>_aNQPQRb_eÅ Ï Ë�RYUkËâÍ�RYŤPQRb]�cdÄ�RYÅQ˸UajdÃ�Æ�Zb_aÃ�_a]�P`Å�Xd]fÍ�X�Í�ÚKÄ�]fUWP`Å�Û�=QIKã�HN?§Ì�Å = Ï _a_eÒ*?�Ó�jdN =KPQËVX:P,?Ì�ÅaÈL=QiV_�UaX[ÄVŤ_�?�ÝvÈ�áOj Ï _aÌ�_aN�Ó\RTP Ï jdÄ�ZYÍ1ŤPQRbZTZ�ÅQÄ�Ê>_eNBÎ|NQj�à P`Ë�_®ifXdÍ Rb]fÍ�_eÆV_e]fÍ�_e]fUW_�XdÅ`ŤÄfÃBÆ�PQRbjd]fÅRbZTZbÄfŤPQNkX:PQ_�Í�Rb]�Sfc�Ä�N`_-`�È:Jhj�ÅQjdZbÌd_<P`Ë�_eÅQ_Ò�Rb]fÍ�Åhj[ÎfÆfNQj�i�ZT_eÃ�ÅaÓePQË�_�cd_e]�_aNkX:P`RTÌ�_�Æ�N`j�UW_eÅ`Å�RYÅh_WÜ�PQ_e]fÍ�_eÍPQj�Rb]fUaZTÄfÍ�_�X�ÆfNQj�ifX[i�RbZbRbŤPQRYU+UkË�jdRYUW_+j[Î�ZT_aÎ�P{X[]fÍ®N`RTc�Ë�P¡ÅQÄ�i(UaX[PQ_ac�jdN`RTÖ�X:P`RTj�]�Î|N`XdÃ�_eÅe×

Ø È ÉË�j�j�ÅQ_�X�Ëf_eXdÍ # Ï RªP`Ë�Æ�NQj�ifX[ifRTZbRªPKl M � Û�#BP6Mf4 �VÝWÈà È ÉË�j�j�ÅQ_+ZT_aÎ�P{X[]fÍ®N`RTc�Ë�POÅQÄ�i(UaX:P�Î|NkX[Ã�_eÅeÓ6� l X[]VÍ ; l Ó Ï RTPQË�Æ�N`jdifXdi�RbZTRTPQRb_eÅM�����Û�� l P.Mf4?#�4?�>Ý�X[]VÍFM���aÛ�; l P#Mf4"#�4 �VÝWÈ�.�X�UkË­ÅQÄ�i>UeX:P¡Î|NkX[Ã�_+RbÅ{X�Ã�Ä�ZTPQRYŤ_aP 1��ŤÆ>_eUaRªÎ|l�Rb]�c�PQËf_�UWjdÃ�Æ�Zb_aÃ�_e]�PkÅ�PQËfX[P¡PQË�_�Ëf_eXdÍ­N`_eÕ�Ä�RbNQ_�Å�RT]�RTP`Å�Zb_WÎ�P{j�N�N`RbcdË�P¡ÃBj�Í�RTSf_eN`ÅeÈR È :�_a]�_eN`X[PQ_�PQËf_�ZT_aÎ�P�X[]fÍ­N`RTc�Ë�P¡Ã�j�Í�RTSf_aNkÅ Ï RªP`Ë�Æ�NQj�ifX[ifRTZbRªP`RT_�ÅM��QÛ�� W Û� W ÝkP-#j49Mf4?�=4�� \ � r$�!V�� � �^Û \ �¸Ø Ý.4"� l Ý�Xd]fÍM��Û3; W Û�& W Ý_P-#j49Mf4?�=4�� \ � r$�!V�� � �dÛ \!�¸Ø Ý.49; l Ý�N`_eÅQÆV_�UvPQRbÌd_eZTl�È

J�Ë�ÄfÅhPQË�_¡ÅQÄ�i(UaX:PFN`_eÕ�Ä�RbNQ_eÃB_e]�P`ÅFX[N`_X�Í�Í�_eÍ�PQj�PQË�_¡Uajd]fÍ�RTPQRbjd]fRT]�c�UWj�]�P`_WÜ�PeÈ:L�Å<UWjdÃ�Æ�Zb_aÃ�_e]�PkÅFX[N`_cd_e]�_aNkX:P`_eÍ�PQËf_al�X[N`_�N`_aÃ�j:Ì�_eÍ4Î|NQj�Ã�P`Ë�_{X[ÆfÆ�NQj�Æ�N`RbX[PQ_¡Å¤Äfi>UeX:P�Ã4ÄfZªP`RbÅQ_WP�È�H�j�ÅKP�RbÃ�ÆVj�N¤PkX[]�PQZbldÓ[PQË�_Æ�N`jdifXdi�RbZTRTPKl4jdÎ(c�_a]�_eN`X[PQRb]�c�PQË�_ +�263 .4ÅQl�Ã4i>jdZ Ï RbZbZfi>_ V Ï Ë�_e]�PQË�_{ÅQÄ�i(UaX[P�Î|N`XdÃ�_ORbÅ{�>�[�f�¤sa�Oq(z8¯:ÓX[]VͧP`Ë�_�Æ�N`jdifXdi�RbZTRTPKl�j[Î�cd_a]f_aNkX:PQRb]�c�X�UWj�ÃBÆfZT_eÃB_e]�P Ï RbZbZ�iV_ V Ï Ë�_e]�RTP�RYÅ+]�j[P�Rb]-PQË�_�ÅQÄ�i(UaX:PÎ|NkX[Ã�_W0�P`Ë�ÄfÅ¡X[ZbZ\X[]VÍ£j�]�ZTl�PQË�_�N`_eÕ�Ä�RbNQ_�Í­UajdÃ�Æ�Zb_aÃ�_a]�PkÅ Ï RTZbZ�i>_�cd_a]f_aNkX:PQ_�Í�ÈJ�Ë�_�Æ�N`jdiVX[i�RbZTRTPKl·jdÎP`Ë�_�Æ�Ë�NkXdÅQ_ + /102�465 768�> A ,�. / �6����� > ,�.�ikj /@?@<6A�> ; . /102�465 768�> RbÅ]�j Ï ×

M � Û ; .�P +D9 02�4�5�768 Ý JNM ��� Û@,�.�ikj��7P +D91; . 9 02�465�7�8 Ý JNM � � Û��7P +D91; . 9 02�4�5�768 Ý JM � ÛC,�.�ikj /?�<6A�> P +D9 ; . 9 02�465�768 4��,�.�ikj��:Ý JFM � ÛG,�. / ������� > P +D91; . 9 02�465 768 4����Ý JM � Û +�2�3 .KP +D91; . 9 02�465 768 4����ÝNJ�M � Û +�2�3 .KP +D91; . 9 02�465 768 4����Ý

á{_aN`_4P`Ë�_�Ëf_eXdͧRT]fRªP`RbXdZTZbl·Í�_eUaRbÍ�_eÅ{PQj­P`X[Ò�_�X®Å¤Rb]�c�ZT_ ,�.�ikj-ÛyÅQÄ�i�ÚK_eUWPkÝ{PQj­RªPkÅ�ZT_aÎ�PeÓ�X[]VÍ·]�j®UWjdÃBÐÆ�Zb_aÃ�_a]�PkÅOP`j£RTP`Å�NQRbcdË�PeÈ�,�.*ikj /@?�<�A�> RYÅORbÃ�Ã�_eÍ�RYX:P`_aZbl�cd_a]f_aNkX:PQ_�Í�XdÅ¡P`Ë�_BNQ_�Õ�ÄfRTN`_eÍ�ÅQÄ�i�ÚK_�UvPeÓ(X[]VÍ,�.�i.j·RbÅ�N`_aÃ�j:Ì�_eͧÎ|NQj�à � l Ó\ZT_�X�Ì�Rb]�c�RTP�_aÃ�Æ�PKl Ï Ë�_a]-PQËf_�]�_WÜ�P�Ã�j�Í�RTSf_aN�Ó�,�. / ������� > RYÅ�c�_a]�Ð_aNkX:P`_eÍ�ÈJ�Ë�_�RT]VUWjdN`N`_eUvP�ŤPQN`ÄfUvP`Ä�N`_eÅ�Rb]¸SfcdÄ�N`_H` ŤËfjdÄ�ZY͸]�j Ï ËfX�Ì�_�ZTj Ï Æ�N`jdifXdi�RTZbRTPKl1iV_�UaXdÄfŤ_M ��� Û�,�.�ikj 9 ,�.�ikj��7P +D91; . 9 ����� Ý�Xd]fÍ M ��� Û�@,�.�ikj 91; .�ikj��7P ; . 9 ;�<N9 ����� Ý�ÅQË�j�Ä�ZbÍ­i>_�ŤÃ�X[ZbZCÈE=� E 2 ¾�¿�4�5 E_b �½(��ÁW4 � ��»�¿�� �=" 2 ¾���4 )>4�»(¼LO]fj[PQËf_aN�jdifŤP`X�UWZb_·P`j�_WÜ�P`N`X�UvPQRb]�câÆ�NQ_�Í�RYUaX:P`_WÐ^X[N`cdÄ�Ã�_e]�P£Å¤PQN`ÄfUWPQÄ�N`_·Î|N`jdà ÆfXdN`ÅQ_�P`NQ_e_eÅ­RbÅ Ï Ë�ÐÃ�j:Ìd_eÃB_e]�PeÈhJ�ËfRbÅ�Ť_�UvPQRbjd] Í�_�ÅQUaNQRbi>_eÅ4X�ÆfNQj�ifX[i�RbZbRbŤPQRYUBPQN`_eX[PQÃ�_a]�P4jdÎ�_aÜ�PQNkXdUvP`RTj�]-Î|NQj�à N`_aZYX:P`RTÌ�_UWZYX[ÄVŤ_�ÅaÈ [OjdÄf]�Æ�Ë�NkXdÅQ_eÅ�XdNQ_¡Ã�j�ŤP�jdÎ�PQ_a]£_WÜ�PQNkXdUWPQ_eÍ�Î|N`jdÃÇŤÄfi�ÚK_eUWP�ÆVj�ŤRTPQRbjd]\Ódjdi�ÚK_eUvPÆVj�ŤRTPQRbjd]�Ó�jdNÎ|N`jdÃ Ï RTPQËfRT]*.�.�Åa×� ��*) cQ5;4J�Ë�_�ŤPQj�NQ_�Û +�<,+*- PQËfX[P 2*-+ j 0 i>jdÄ�c�Ë�POg\j[PQÄVÅ`Ý

� ��*) cQ5;4J�Ë�_�ŤPQj�NQ_�Û +�<,+*- PQËfX[POIKã�H i>jdÄfcdË�P 2-*+ j 0 Ý

� ��*) cQ5;4J�Ë�_�ŤPQj�NQ_�Û +�<,+*- PQËfX[POIKã�H i>jdÄfcdË�POg�j[P`ÄfÅ�Î|N`jdà 2*-*+ j 0 Ý

����æ���ú�í è8é�øCð^è¤ö�ôvç�ó:ìkñ�ö�é�øhìøCð^èJZhù�é�ë}ù �OìKõOë¤ôvïWèCìké�ï ��ú ��í�é�ë¤ì`è8ð�ï�ôvï�gYè8ðKç �¡é�ï:ìkídí�ìkó[ð¤í�ø�j

ØdØ

Page 12: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

?!2 4 F <T7��KA(=

?!2 4 F <K7 �6A(=0 ;�A F <T7��KA

3)N%���k4 <>; E <>=T4��!: E�� =

���!?!2 4 <T; E <Q=� R 0<T; E <

3�46587)9�:�;)<Q=T4��!: E� =

?.2SHKJ 4ML6N�O�=LMN�O P

2 4M5�7�98:�;)<Q=T4�.: E� =

PN�R

5�7�98:�;)<0 ��� J�� ?!2 4 @�A�ACB8=

� E�F <.@�A�ACB

/� > ,�. A ,�. +�<,+*-:/���5 ��� >/���> +�<,+-:/���5 ��� > A ����,�. + ikj /�� 5 ��� >/���> +�/�� 5 ��� > A ,�.�ikj ; . /���5 ��� >/���> ; . /���5 ��� > A ; < 2*-*+ j 0 ,�.

5�687:9<;�=��@�� 2��! � ! ����+�!9� ��](*!9��!��!6� ��L� ���!� �!,+��� �������Q��[��!��k� +� �(*! � �G�;���#��!���!��T F � � !#����!�;��!U�%!�� &�" �� � ������� ��!�� !,+���!�� �� $1,�"�# ������ ��! + $�(��� �k�*!��, !�� E��� -�)����e�����Y�� ��Z�� &�" k+����!O(��I��!�� �� �E� !%$'&�(�)[� ! ����+�!�F � � !#���� �� E� !��I����k�k!6�<��� � �DE��+��������]E��!'k+�!�!�$�� �T� ��^ �� �� ��k�u���+���!6�Z�� �#�" Y+*D����������!,��!��TQ��)E� ! +� ����T �#�-,�.!/10.�k�qF

I}P�Ã�RTc�Ë�PBi>_�ÆVj�ÅQÅQRTifZT_®PQj Ï N`RªP`_®N`Ä�Zb_WÐ}ifXdÅQ_eÍ�ÆfX:PQPQ_eNQ]fÅ�P`ËfX:P�RYÍ�_a]�PQRTÎ|l P`N`X�UW_eÅBRb]¸X�ÆfXdN`ÅQ_£P`NQ_e_dÈáOj Ï _aÌ�_aN�Ó Ï _®XdNQc�Ä�_£Xdc�X[Rb] P`ËfX:PBPQË�RYÅ�P`X�ŤÒ�RYÅ�i>_eŤP�RT]�PQ_ecdNkX:P`_eÍ Rb]�PQj�PQË�_®ÆfX[NkÅQ_aN�×�PQËf_£PkXdÅQÒ RbÅUWj�Ã�Æ�ZT_aÜ­_e]�jdÄ�c�Ë®PQj Ï X[N`N`Xd]�P¡XBÆ�N`jdifXdi�RTZbRYÅKP`RbU�P`NQ_�X:PQÃ�_e]�P�Ó�X[]fÍ®Rb]�PQ_ac�N`X[PQRbjd]®Ã�X�l£Ë�_eZTÆ�ÆfXdN`ÅQRT]fcXdUeUWÄ�NkXdUaldÈFL UajdÄ�ÆfZT_®j[Î�UajdÃ�Æ�Zb_WÜ�RTPQRb_eÅ�X[N`_�P`ËfX:P�Ã�j�Í�RªS>UaX:P`RTj�]1i�l1X[] +�<,+*- Í�j�_eÅ�]�j[P�XdZ Ï X�l�ÅRb]�Ì�jdZbÌd_¡_aÜ�P`N`X�UvP`RTj�]�Ûy_dÈ cfÈbÓ�=¤PQË�_¡ÎyX�UvP�Û +�<*+*- P`ËfX:PiV_�Ťj�iVj�NQÄ�RYÅ<Æ�ZYX�ld_�Í Ï RTPQË­X+ifX[ZbZVXd]fÍ�X+ifX:PvÝ�?�ÝvÓX[]VÍ�RTP�RYÅ�]�j[P�Ä�]fUWj�Ã�ÃBj�]�Î|j�N_aÜ�P`N`X�UvP`RTj�]�PQjBj�UeUWÄ�NPQËfNQj�Ä�cdË£ÅQ_aÌ�_aNkX[Z>UWjd]VÅKP`RªP`Ä�_a]�P`ÅeÓ(Û|_dÈ cfÈbÓQ=QJ�Ë�_UkËfXd]�cd_�Å�Û +�<,+- P`ËfX:POËf_�ÅQXdRbÍ£PQË�_�c�j:Ìd_eNQ]�Ã�_e]�P Ï X�Å�Æ�N`_aÆfXdNQ_�Í�PQj�Ã�XdÒd_ 2-*+ j 0 Ý�?�ÝWÈ

J�Ë�_�Ť_�UWj�]fÍ�N`_eXdÅQjd]·Î|jdN+X[]§Rb]�PQ_ecdNkX:PQ_�Í�PQN`_eX[PQÃ�_a]�P+j[Î�P`N`X�UW_�ÅORYÅ{P`j­RbÃ�Æ�N`j:Ìd_�P`Ë�_BÆfX[NkX[Ã�_WÐPQ_eNQRbÖeX[PQRbjd]�jdÎ�PQË�_OÃ�j�Í�_eZ8È�I^]�ÆfXdN¤P`RbUaÄ�ZbXdNeÓ[PQË�_�ŤÄ�i(UaX[PQ_ecdjdN`RbÖeX:P`RTj�]�ÆfNQj�ifX[i�RbZbRªP`RT_�Å�X[N`_OÅQÃB_�X[N`_eÍ�i�l_WÜ�P`N`X�UvPQRbjd]\È:I^]B_aÜ�X[Ã�Æ�Zb_eÅ Ø Ó à X[]VÍ R XdiVj:Ì�_32 iVj�Ä�cdË�P�Þ:RbÅ�X�P`N`Xd]fŤRTPQRbÌd_�Ìd_eNQi�0:i�Ä�P Ï RTPQË�j�Ä�P�Ò�]�j Ï ZªÐ_eÍ�cd_4jdÎFPQNkXdUW_�ÅaÓV_WÜ�X[Ã�Æ�Zb_ à Rb]�P`N`XdRT]�Rb]�c�Í�X[P`X Ï RbZbZ�Uajd]�PQN`RTifÄ�PQ_�P`j�P`Ë�_4Æ�N`jdiVX[i�RbZTRTPKl£jdÎ42 i>jdÄfcdË�PeÞi>_aRb]�c�X[]®RT]�P`N`Xd]fŤRTPQRbÌd_+Ì�_aN`i�È

8�j�NQÃ�XdZTRYŤÃ�Å�ŤRbÃ�RTZYX[N�P`jH:L6�Ñ^:ÔÛ :+X[ÖeÍfX[N+_WP�X[ZCÈ Øeä�ä�K ÝOËfX[]VÍ�ZT_ Ï Ë�Ð}Ã�j:Ìd_aÃ�_e]�P+i�l·XdÍ�Í�RT]�cX·��r`q·Î|_eX[PQÄ�N`_�PQj�_�XdUkË-]�jd]�ÐCPQ_eNQÃ�Rb]fX[Z<Rb]�PQË�_�P`NQ_e_dÓ\Xd]fͧÆfNQj�ÆfX[c�X:PQRb]�c®c�XdÆfÅ�PQË�N`jdÄ�c�˧P`Ë�_�PQN`_a_Ä�]�PQRbZ>PQË�_el�X[N`_¡Sf]fXdZTZbl�Í�RbÅ`UkËfXdNQc�_eÍ�XdÅX�PQNkXdUa_{UWj�Ã�Æ�ZT_eÃ�_a]�P�Û8Ť_e_OSfc�Ä�NQ_ / ÝvÈ�I^]�_aÜ�P`N`X�UvP`RTj�]�UaXdÅQ_eÅPQËf_D6F_a]�]­PQN`_a_eifX[]fÒ£X[]�]fj[P`X[PQRbjd]�UWjdÐCRb]fÍ�_aÜ�_�Å¡X 2-*+ j 0 Ï RªP`Ë®PQË�_5�6��,�.�Ë�_eX�Í®j[Î\P`Ë�_ +�<,+*- Ó�ÅQj�RªPRYÅOÅKP`N`XdRTc�Ë�P¤Î|jdN Ï X[NkÍ�PQj�XdÍfÍ�P`Ë�RbÅORT]�Î|j�NQÃ�X[PQRbjd]­PQj�PQN`_a_�Å�RT]®P`N`XdRT]�Rb]�c�Í�X[P`X�È

:�RbÌd_a]�PQËfX[P�P`Ë�_�g\á�Ñ1j[ÎOP`Ë�_®NQÄ�Zb_£ËVXdÅ�X·c�X[Æ�ÓhPQË�_eNQ_�X[N`_ R Ï X�l�Å�PQËfX[PBP`Ë�_®c�X[ÆâUaX[]�iV_ÆfX�ÅQÅQ_eÍ®Í�j Ï ]­PQj�PQËf_gYOá�Ñ(×7 4 ��¿ J�Ë�_�c�X[Æ£RYÅ¡ÆfX�ÅQÅQ_eÍ£PQjBP`Ë�_�Ë�_eX�Í£jdÎhP`Ë�_�Æ�Ë�NkXdÅQ_dÓ�X�Å�RT]®N`Ä�ZT_�Û R ÝRb]­SVcdÄ�N`_ / È$-4��C¼�8�9­Â3� �(¼ J�Ë�_�c�XdÆ£RYÅ�ÆVXdÅ`Ť_�Í�jd]£NQ_�UWÄ�NkŤRbÌd_eZTlBP`j4jd]f_�jdÎ�PQË�_+Zb_WÎ�P�jdN�NQRbcdË�P�Ã�j�Í�RªSf_eN`Åj[Î\PQË�_

Ë�_eX�Í�Ó�jdN�RYÅ�Í�RbÅ`UkËfX[N`cd_�Í�XdÅ�X 2-*+ j 0 XdNQc�Ä�Ã�_a]�P�P`j4P`Ë�_+ZT_aÎ�P C:NQRbcdË�P�j[Î�P`Ë�_�Ëf_eXdÍ�È�I^]®N`Ä�ZT_Û à Ý�RªP�RbÅ¡ÆVXdÅ`Ť_�Í­j�]®PQj�X�N`RTc�Ë�POÃ�j�Í�RTSf_aN�Ó�P`Ë�_ + UajdÃ�Æ�Zb_aÃ�_a]�P�ÈfI^]�NQÄfZT_£Û;_�Ý�X 2*-*+ j 0 RbÅcd_e]�_aNkX:P`_eÍ£PQjBPQË�_�N`RbcdË�P¡j[Î�PQË�_�Ë�_�XdÍ ;�< È

Ù-_{ŤÆ>_eUaRªÎ|l�X+ÆfXdN`XdÃB_aPQ_eNFPKl�Æ>_ M;:�Û30,P�Mf4?�=4"#§Ý Ï Ë�_aN`_0MRbÅ<_eRªP`Ë�_aN<7 4 ��¿ Ó $-4��C¼ jdN 9­Â3� �(¼ ÈJ�Ë�_�c�_a]�_eN`X[PQRbÌd_�Æ�N`j�UW_eÅ`Å+RYÅ�_WÜ�PQ_e]fÍ�_�Í-PQj§UkË�j�j�Ť_�i>_WP Ï _a_a]-P`Ë�_eÅQ_£UaX�Ť_�Å�X:Î�P`_aN�c�_a]�_eN`X[PQRb]�c®PQË�_

Ø�à

Page 13: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

4 E = ?!2 N2 � A����6A

P� �8B�A��

4M5�= ?.2 N

�!R�� 2? A�@ �S7 �KB H 5 E�F A��

D 7�A�@ F J 7�� ���

4 �C= ?!2 N?!2 N

<T7 � E � F? A�@ � ��: � E ��� ��7)9�� � E �

5�687:9<;�=��� ��+�!,!a!qA ���� ��!��e�#�h��k+�� �,��W+�!�� � E� (���k!%�;&f� �

Ë�_�XdÍ­j[Î�P`Ë�_+Æ�Ë�NkXdÅQ_dÈ�J�Ë�_�NQ_�ÅKP�j[ÎhPQË�_+Æ�Ë�NkXdÅQ_{RYÅPQË�_e]­c�_a]�_eN`X[PQ_�Í�Rb]®Í�RTÊ(_aN`_a]�P Ï X�l�ÅÍ�_aÆ>_a]fÍ�Rb]�cjd]�Ëfj Ï P`Ë�_�c�X[Æ�RbÅ{Æ�N`jdÆfXdc�X:P`_eÍ�È�I^]·PQË�_ 7 4 ��¿ UaX�Ť_+P`Ë�_�Zb_WÎ�P�Xd]fÍ�N`RTc�Ë�POÃ�j�Í�RTSf_aNkÅ{XdNQ_�c�_a]�_eN¤ÐX:P`_eÍ�XdÅ�]�j�NQÃ�XdZ8È�I^]­PQË�_ $ 4��8¼ 8�9£Â3� �(¼ UaX�Ť_�Å�X ��5 ��� NQ_�Õ�ÄfRTN`_aÃ�_a]�P�RbÅ¡X�Í�Í�_�Í£P`j�_aRTPQË�_eN�PQË�_�Zb_WÎ�PjdN+N`RTc�Ë�P�Ñ�/�ãOÉ�L<J Ì:X[N`RbXdi�Zb_dÈ�J�Ë�RYÅ�N`_eÕ�Ä�RbN`_aÃ�_a]�P+RbÅ�Î|Ä�ZTSfZbZT_�͸Û8X[]fͧNQ_eÃ�j:Ìd_eÍ�Î|NQj�ÃÔPQË�_�ÅQÄ�i(UaX:PZbRbŤPkÝ Ï Ëf_a]�_aRTPQËf_aN�X�P`N`X�UW_dÓdjdN�X+Ã�j�Í�RªSV_aN�]�j�]�ÐCPQ_aN`Ã�RT]VX[Z Ï Ë�RYUkË�ËfXdÅ<PQË�_ ��5 ��� Î|_eX[PQÄ�N`_dÓdRbÅ<c�_a]�_eN¤ÐX:P`_eÍ�È 8fjdN+_WÜ�XdÃBÆfZT_�Ó�Y¡Ä�Zb_�Û à ÝWÓ +�<,+*-:/18�7 � 8�>�/���5 ��� > A �6��,�. /�8�7 � 8�> + i.j /102�4�5�768�>�/���5 ��� > ÓËfX�Å¡Æ�N`jdifXdi�RTZbRTPKl

�� ��� &�" $�,�"�#�� ��3���� � � �� � #4�12�3�� $1,�"�#�� �� &�"�� ��3���� ��� �� � �����v $1,�"�#�� �� &�"�� ��3���� ��� % � ��� $ W�Y �v $1,�"�#�� �� &�"�� ��3���� ��� % � $ WIY � /�01��2�3����3� � 2��! �� $1,�"�#�� �� &�"�� ��3���� � � $ W�Y � � 2��! �I��� % � $� �!�" $1,�"�#�� �� &�"�� ��3���� � ���S��� � � $� �!1" $1,�"�#�� �� &�"�� ��3���� � ���I�Y¡Ä�Zb_�Û _�ÝWÓ ; . / 02�465�7�8�>�/���5 ��� > A ;�< /102�465�768�> 2*-*+ j 0 ,�. / ������� > Ó�ËfXdÅ�Æ�N`jdiVX[i�RbZTRTPKl

�� � (�, (�"�� /�01��2�3�� ��� �� � #4�12�3�� (�"�� /�0���2�3����s(�, ��� �� � �����r (�"��s/�01��2�3���� (�, ��� % � ��� &�" WIY � (�"�� /�01��2�3���� (�, ��� % � �#�" Y+* (�"�� /�01��2�3���� (�, � � &�" W�Y � � 2��! �I��� % � &�"�� )����1*�� (�"�� /�01��2�3���� (�, � ���I��� �� � $� �!1" (�"�� /�01��2�3���� (�, � ���I��� % � $� �!1" (�"�� /�01��2�3���� (�, � ���S�I^]1N`Ä�Zb_-Û à Ý -�� 5�768 RYÅ�UkË�j�ÅQ_a]�Ó�Ťj§PQË�_ ��5 ��� NQ_�Õ�Ä�RTN`_aÃ�_e]�PBRbÅBXdÍfÍ�_eÍ�P`j�; l Èe:�_a]�_eN`X[PQRbjd]1jdÎ+ ikj /102�465 768�>�/�� 5 ��� > Î|Ä�ZªSVZTZYÅ�i>j[PQ˸P`Ë�_ + i.j�X[]fÍ ��5 ��� N`_eÕ�Ä�RbNQ_eÃ�_a]�P`Å�Rb]Q; l È<I^]�N`Ä�Zb_�Û;_�Ý-�� 5 768 RbÅ�UkË�j�Ť_e]§X[c�X[Rb]�È [{j[PQ_4PQËfX[P�c�_a]�_eN`X[PQRbjd]�jdÎ 2-*+ j 0 Å`X:P`RbŤSf_�ÅOi>j[PQ˧PQË�_ ,�.�i.j®X[]VÍ ��5 ���ÅQÄ�i>UeX:PON`_eÕ�Ä�RbNQ_eÃ�_a]�P`ÅeÈ� ��c-4�ÁdÂ3��5f�K�*��4 �.b�$�Â8»X�>ÀhÂ��a¼�ÂyÁ!�^5;5 . 2 ¾V¼e �*��¼�4�¿�9 4���»�4 )34�»(¼ ��¼e¾-¼!��4 2 ¾\¿<4�53�Ñ�_�UvPQRbjd]VÅ R È Ø PQj R È R Í�_eÅ`UWN`RbiV_�Í�PQËf_�ifX�ŤRYU+Î|NkX[Ã�_ Ï jdN`Ò­Î|jdN�PQË�_BÆfX[NkÅQRT]�c£ÃBj�Í�_eZbÅ�Rb]·PQËfRbÅ�ÆfXdÆV_eNeÈI^]�PQË�RYÅ�Ť_�UvP`RTj�] Ï _�Í�_eÅ`UWN`RTi>_�Ëfj Ï Å¤j�Ã�_�ZbRT]fcdÄ�RYÅKP`RbUBÆ�Ëf_a]�j�ÃB_e]fX-Û|]�j�]�ÐCN`_eUaÄ�NkŤRbÌd_ ,�.�ÅeÓ(Xd]fͧUaj[ÐjdNkÍ�Rb]fX:P`RTj�]�Ó�Î|j�N4_aÜ�XdÃ�Æ�ZT_�Ý�UWZb_eXdNQZbl-Ì�RbjdZYX:P`_�PQËf_�RT]VÍ�_aÆ>_a]fÍ�_a]fUa_®X�ÅQÅQÄ�Ã�Æ�PQRbjd]VÅ�XdÅ`ŤÄfÃB_�Í�RT]1PQË�_cd_e]�_aNkX[Z�Ã�j�Í�_aZYÅaÈ(Ù-_�Í�_eÅ`UWN`RTi>_�X�]�Ä�Ã4i>_aN+jdÎ�PQË�_�Ť_�ÅQÆV_�UWRYX[ZFUaX�Ť_�ÅaÓ(Rb]§_eX�Uk˧UaX�Ť_�X[N`cdÄfRT]�c£Ë�j ÏPQËf_­Æ�Ëf_a]�j�ÃB_e]�jd]�Ì�RbjdZYX:P`_eÅ�PQË�_­RT]fÍ�_aÆ>_a]fÍ�_e]fUW_�XdÅ`ÅQÄ�Ã�Æ�PQRbjd]fÅeÓhXd]fÍ�P`Ë�_a]¸Í�_eÅ`UWN`RTifRT]�c§Ë�j Ï PQË�_Ã�j�Í�_aZ\UeX[]®iV_�N`_WSV]�_eÍ­PQj�Í�_�X[Z Ï RTPQË®P`Ë�_�Æ�N`jdi�Zb_aÃ�È�X�y¹ ��¾V»="Q½T4�ÁdÀh½(�eÂ�� 4!���[�Ù-_�Í�_aSf]�_�]�jd]�ÐCN`_eUaÄ�N`ÅQRbÌd_:,�.�Å�Û|Î|NQj�Ã,Ë�_aN`_�j�]�NQ_aÎ|_aN`NQ_�Í+PQj�XdÅhifXdÅQ_WÐk[a6ÅaÓ�X[]fÍ4ZbXdiV_eZT_�Í ,�. < NkX:P`Ë�_aNPQËVX[] ,�.�Ý{XdÅO,�.�Å{PQËfX[P�Í�j£]�jdP+Í�RTN`_eUWPQZbl·Í�jdÃ�Rb]fX:P`_BXd] ,�.®PQË�_eÃ�ÅQ_aZbÌd_�ÅaÓ(Ä�]fZT_�ÅQÅ{PQË�_�Í�j�Ã�RT]fX[PQ_�Í,�. RbÅ�X�Æ>j�Å`Ť_�ÅQÅQRTÌ�_ ,�.$Û|RCÈ _dÈ<RTP�Í�RTN`_eUWPQZbl1Í�jdÃ�Rb]fX:P`_eÅ�X 6 H Ñ�ÐCP`X[c%. 3 + ÝWÈQ8�RbcdÄ�N`_ S§c�RTÌ�_eÅBŤj�ÃB__WÜ�XdÃBÆfZT_�ÅaÈ�ã�XdÅQ_WÐk[a6Å�Í�_eÅQ_aN`Ìd_�ÅQÆV_�UWRYX[Z(PQN`_eX[PQÃ�_a]�P�Î|jdN�P`Ë�N`_a_�N`_eXdÅQjd]VÅa×

" J�Ë�_�i>jdÄ�]fÍfX[N`RT_�Å�j[ÎhiVXdÅQ_WÐk[a6�Å�XdNQ_+j[Î�P`_a]�ŤPQN`jd]�c�ZTl�Ã�X[N`Òd_�Í�È�I^]®ÆfX[NQPQRYUWÄ�ZYX[N�Ó�PQËf_�ÅKPkX[NQPÆVj�RT]�PkÅ¡j[Î�ifXdÅQ_WÐk[a6Å¡X[N`_�jdÎ�PQ_a]�Ã�X[N`Òd_�Í Ï RTPQË·X�Í�_aPQ_aN`Ã�RT]f_aN¡jdNOXd]�j[P`Ë�_aN¡Í�RYŤPQRb]fUvP`RTÌ�_RªP`_aà ŤÄfUkË�X�Å¡X[]�XdÍ�ÚK_�UvPQRbÌd_�È�ã�_eUaXdÄfÅQ_�jdÎ\P`Ë�RbÅeÓ�P`Ë�_�Æ�N`jdifXdi�RTZbRTPKl�j[Î�cd_a]f_aNkX:PQRb]�cBPQËf_+�263 .�ÅQl�Ã4i>jdZ�ÅQË�jdÄ�ZYÍ®iV_�c�NQ_�X:P`ZTl�Rb]fUWN`_eX�Ť_�Í Ï Ëf_a]­PQË�_�Æ�N`_aÌ�RbjdÄfÅ�Ã�j�Í�RTSf_aN¡RYÅeÓ�Î|jdN_WÜ�X[Ã�Æ�Zb_dÓVXBÍ�_WPQ_eNQÃ�Rb]�_aN�È�L{Å¡PQË�_el£ÅKPkX[]fÍ�Ó�PQË�_�Rb]fÍ�_eÆV_e]fÍ�_e]fUW_�X�ÅQÅQÄ�Ã�Æ�PQRbjd]VÅ�RT]®PQËf_PQË�N`_a_�Ã�j�Í�_eZbÅ�Zbj�ÅQ_�PQË�RYÅ¡Rb]�Î|jdN`Ã�X:PQRbjd]\È�J�Ë�_�Æ�N`jdifXdi�RTZbRTPKl�j[Î�,�. < /$#62�5�> A =�2:/�8�7 � >

�R

Page 14: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

,�, /$#62 5�> Ï jdÄfZbÍ­iV_�_�ÅKP`RTÃ�X[PQ_eÍ�X�Å 1k1M � ÛC,�,�P ,�. <N9 #62�5 Ý J�� �¤Û =�2:/�8�7 � > P ,�. <N9 ,�, 9 #62 5 Ý JM�¤Û +�2�3 .KP ,�. <N9 ,�, 9 #62 5 Ý JFM�dÛ +�263 .KP ,�. <N9 ,�, 9 #62 5 Ý

I^]�Ã�X[Ò�Rb]�cBPQË�_�Rb]fÍ�_eÆV_e]fÍ�_e]fUW_�X�ÅQÅQÄ�Ã�Æ�PQRbjd]M � Û +�2�3 .�P =�2D/�8�7 � > 41,�. <N9 ,�, 9 #62 5 Ý]^QM � Û +�2�3 .KP ,�. <N9 ,�, 9 #62�5 Ý

P`Ë�_�Ã�j�Í�_aZ Ï RbZbZ�ÎyX[RbZ(PQj�Zb_eXdNQ]­PQËfX[P�PQË�_ +�2�3 .�Ťl�Ã4i>jdZ\RbÅ�Ì�_aN`l�ZTRbÒd_eZTl£PQjBÎ|jdZbZTj Ï XÍ�_WP`_aN`Ã�RT]�_eNeÈVL{Å¡XBNQ_�ŤÄfZªP�Ó�PQË�_�Ã�j�Í�_eZ Ï RTZbZ�XdÅ`ÅQRTc�]­Ä�]fNQ_�XdÅQjd]fXdi�ZTl�ËfRTc�Ë­Æ�N`jdiVX[i�RbZTRTPKl�P`j,�.�Å¡ÅQÄfUkË�XdÅ�� ,�.·¯dsvpvz^sWt`udr:¯£z�nfs�u��Q���\Rb]�ÅQ_a]�P`_a]fUa_eÅ¡ÅQÄfUkË®X�Å��ª¯dsWpvz}satQu�r:¯�z|n�sBud�`�xkr:tQ´�s`u��CÈ

" J�Ë�_�X[]f]�j[PkX:PQRbjd]�ŤP`X[]VÍ�X[NkÍ�Rb]®PQË�_+P`NQ_e_aifXd]�Ò�Zb_eX�Ìd_�ÅPQË�_�Rb]�PQ_aN`]fXdZ�ÅKP`NQÄfUWPQÄ�N`_+j[ÎifXdÅQ_WÐk[a6Å�Ä�]fÍ�_eN`ÅQÆV_�UWRTSf_eÍ�È�8�j�N¡_WÜ�X[Ã�Æ�Zb_dÓ�i>j[P`Ë£qfsaz>�W���eu£¥:�:~�����s�Û Ï Ëf_aN`_�q�sazÃ�j�Í�RªSf_�Å��W���eu�Xd]fÍB�W�e��u+Ã�j�Í�RªSV_eÅ�¥:�:~�����s`Ý�X[]fÍ-¥:r:�fo�~�~br�oywks�wWt`s`r[� Û Ï Ëf_aN`_�i>j[P`Ë¥�r[�fo�~�~Tr4X[]fÍ�oywks¡Ã�j�Í�RTÎ|l-watQskr:��Ý Ï j�Ä�ZbÍ­ËfX�Ì�_{P`Ë�_�ÅKP`NQÄVUvPQÄfNQ_-,�. < A ,�, ,�, ,�,(Èã�_eUaXdÄfÅQ_�jdÎ\P`Ë�RbÅeÓ�P`Ë�_aN`_�RbÅ�]fj�NQ_�XdÅQjd]�P`j�iV_eZTRb_aÌ�_�P`ËfX:POÃ�j�Í�RTSf_aNkÅ Ï RTPQË�Rb]*,�. < Å�X[N`_Í�_aÆ>_a]VÍ�_a]�P{j�]£P`Ë�_�Ë�_eX�Í£NkX:P`Ë�_aN�P`ËfX[]­PQËf_�Æ�NQ_eÌ�RTj�ÄfÅ�Ã�j�Í�RªSf_eNeÈ�I^]®ÎyX�UvPeÓfRªÎFRªP{ÅQjËfX[ÆfÆV_e]�_eÍ­PQËVX:P{XBÃ�X:ÚKjdN`RTPKl�j[Î�Æ�Ë�NkXdÅQ_eÅ Ï _eNQ_+ZbRTÒ�_�q�saz>�W����u�¥:�:~�����saÓ�PQË�_e]UWj�]fÍ�RTPQRbjd]�Rb]�cBjd]�P`Ë�_�ÆfNQ_eÌ�RbjdÄVÅ�Ã�j�Í�RTSf_aN�N`X[PQË�_eN�P`ËfX[]£PQË�_�Ë�_�XdÍ Ï jdÄ�ZYÍ�i>_+Æ�NQ_aÎ|_aNkX[i�Zb_dÈ

" I^]�cd_a]f_aNkX[Z(RªPORYÅ¡RbÃ�ÆVj�N¤PkX[]�P�Û|Rb]®ÆVX[NQPQRYUWÄ�ZYX[N�Î|j�N�PQË�_�Í�RYŤP`X[]VUW_+Ã�_eXdÅQÄ�N`_{P`j�iV__WÊ(_eUWPQRbÌd_�ÝP`j�ËfX�Ìd_+Í�RTÊ>_eNQ_e]�PO]�jd]�ÐCPQ_eNQÃ�Rb]fX[Z�ZYX[i>_aZYÅ�Î|jdN Ï ËVX:P{X[N`_�_WÊ(_eUvP`RTÌ�_aZbl­Í�RTÊ(_aN`_a]�PMOÐ}ifX[N¡Zb_aÌ�_aZYÅaÈfÑ�_a_�ÅQ_eUvP`RTj�] / È R È à Î|jdN�Î|ÄfN¤P`Ë�_aN{Í�RbÅ`UWÄfÅ`ÅQRTj�]�È

8�j�N�PQË�_�Ť_�N`_eX�Ťj�]fÅ�PQË�_+Î|j�ZTZbj Ï RT]fcBÃ�j�Í�RTSVUaX[PQRbjd]fÅ Ï _aN`_+Ã�XdÍ�_�PQjBP`Ë�_�Ã�j�Í�_aZYÅa×

" J�Ë�_�]�j�]�Ð8P`_aN`Ã�RT]fXdZ�ZbXdiV_eZ(Î|jdN¡ifX�Ť_aÐ�[c6�Å�RYÅ¡UkËfX[]fcd_eÍ£Î|N`jdà ,�.�P`j ,�. < È^8�j�NUWj�]fŤRYŤPQ_a]VUWldÓ Ï Ëf_a]�_eÌd_aNOXd]#,�.�RYÅOÅQ_a_e] Ï RTPQË�]�j�Æ�N`_+jdN¡Æ>j�ŤPOÃBj�Í�RTSf_eN`ÅeÓ�X[] ,�. < ZT_eÌd_aZRbÅ{XdÍ�Í�_�Í�È^8�j�N¡_WÜ�X[Ã�Æ�Zb_dÓ� + � ,�. 8 7 � #62 5� � ; . 0 � ��� � � Ï jdÄ�ZYÍ­iV_+P`N`Xd]fÅKÎ|j�NQÃ�_�ÍPQj�� + � ,�.�� ,�. < 8 7 � #�2 5�� � ; . 0 ����� � � È�J�Ë�_�Ť_ =¤_aÜ�PQNkXW? ,�. < Å�X[N`_�N`_aÃ�j:Ìd_�ÍiV_aÎ|jdN`_�ÅQUajdN`RT]fc4P`Ë�_�jdÄ�P`Æ�Ä�POjdÎ\PQËf_�ÆfX[NkŤ_eN¡X[c�XdRT]VÅKP�PQËf_+PQN`_a_aiVX[]�Ò(È

" J�Ë�_�Rb]fÍ�_aÆ>_a]VÍ�_a]fUa_�XdÅ`ŤÄfÃBÆ�PQRbjd]fÅ¡XdNQ_�Í�RTÊ>_eNQ_e]�P Ï Ëf_a]®PQË�_�ÆVX[N`_a]�P¡]�jd]�ÐCPQ_eNQÃ�Rb]fX[Z�RYÅX[]*,�. < È�Ñ�Æ>_eUaRªS>UaX[ZbZbldÓ�_�Õ�ÄVX:PQRbjd]VÅ K Xd]fÍ `BXdNQ_+Ã�j�Í�RTSf_eÍ­PQj�i>_M��QÛ�� W Û� W ÝkP #�4%Mf4?�=4"� e Û� e Ý �/�/� � W � e Û� W � e Ý¤Ý ^ � �KÛ�� W Û� W ÝkP.Mf4?� W � e Û� W � e ݤÝM�dÛ3; W Û'& W Ý_P #�49Mf4 ��4%; e Û'& e Ý �/�/� ; W � e Û�& W � e Ý¤Ý ^ M�dÛ3; W Û'& W ÝkP#Mf49; W � e Û�& W � e ݤÝ

J�Ë�_�Ã�j�Í�RªSV_aNOX[]VÍ­ÆfNQ_eÌ�RbjdÄVÅKÐ}Ã�j�Í�RªSf_eN�]�jd]�ÐCPQ_eNQÃ�Rb]fX[ZYÅ�X[N`_�X[Z Ï X�l�Å�XdÍ�Ú¤X�UW_a]�P�ÓfŤjBP`Ë�_Í�RYÅKPkX[]fUa_�Ì�XdNQRYX[ifZT_�RbÅ{UWjd]VÅKPkX[]�POX[]fÍ­RbÅ�j�Ã�RªPQPQ_eÍ�È 8�j�N�PQË�_�ÆfÄ�NQÆ>j�ÅQ_eÅ�jdÎhP`Ë�RbÅOÃBj�Í�_eZ8Ó����Û� ���Ý�Xd]fÍN;��Û'&���Ý�XdNQ_�Í�_aSf]�_eÍ­P`jBi>_�#1Û%�VÝWÈfJ�Ë�_�Æ�N`jdifXdi�RbZTRTPKl�j[Î�PQË�_�ÆfNQ_eÌ�RbjdÄVÅ_WÜ�X[Ã�Æ�Zb_�RYÅ�]�j Ï

M � ÛC,�,�P ,�. <N9 #62�5 Ý J�� �¤Û =�2:/�8�7 � > P ,�. <N9 ,�, 9 #62 5 Ý JM�¤Û +�2�3 .KP ,�. <N91=�2 918�7 � Ý JFM�dÛ +�263 .KP ,�. <N9 ,�, 9 #62 5 Ý

6�NQ_�ŤÄfÃ�Xdi�Zbl>M��¤Û +�263 .KP ,�. <N91=�2 9 8�7 � Ý Ï RTZbZ�i>_�Ìd_eNQl£UaZTj�Ť_�PQj Ø È

Ø _

Page 15: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

ÛyX�Ý �

� J�J �

ÛyiVÝ ?!2 4�� E ��=?!2 4�� E ��=?!2 N

<T;�A � E �J�JE ���

?!2 4 ��7�:�=?.2 N

;�� F ��7�:

ÛyU�ÝP2 4 � � B�A F =

P2 4�� � B�A F =

� � B�A F � �QA����6A E �J�JE ��� P

2 4M; E <TA F =; E <TA F 5 E � E � E�F

5�687:9<;�=��

� � � ��!O��!���!,+� �� � �I�#������ ����� �� �L���T��+ �� ����� ����Z ��]E� ! k+�!�!�(��� �:F � ( � �� � � � � �P��� � �k�*!,�� ���!BA��������!�� � � �E�I(���k!%�;&f� � � �W!6�]�� �W!��k�,+� �(*!6�I �� �k!,�,� ������4F �� F & ���!#E���eE� !��+��� ��!,� � �hE� !�����I^���� �,- ��e���%!,� �� E� !R� ! �I� �hE��!#� �W+���k!�F

�X� AH��¾�¾f½:¿�Ây» ��¼eÂ8¾V»Éj�jdNkÍ�Rb]fX:P`RTj�]�Uajd]fŤPQN`ÄfUWPQRbjd]fÅ�XdNQ_OXd]�j[P`Ë�_aN�_WÜ�X[Ã�Æ�Zb_ Ï Ë�_eNQ_�P`Ë�_ORb]fÍ�_aÆ>_a]VÍ�_a]fUa_�X�ÅQÅQÄ�Ã�Æ�PQRbjd]VÅ<RT]PQËf_�ifX�ŤRYUFÃ�j�Í�_aZYÅ�ÎyX[RbZdiVXdÍ�ZblBÛ8X:P\Zb_eX�ÅKP�c�RTÌ�_a]�PQËf_UWÄfNQN`_a]�P\X[]f]�j[PkX:PQRbjd]+Ã�_WP`Ë�j�Í+RT]�PQË�_<P`NQ_e_aifXd]�Ò�ÝvÈ8�RTc�Ä�N`_ ä ÅQË�j Ï Å{Ë�j Ï UWj�jdNkÍ�Rb]fX:P`RTj�]�RbÅ�X[]�]fj[P`X[PQ_�Í�RT]·PQË�_�PQN`_a_eifX[]�Ò(È 1 G J\j­ÄfŤ_BX[]·_aÜ�X[Ã�Æ�Zb_�PQjRbZTZbÄfŤPQNkX:PQ_�PQË�_�Æ�N`jdi�Zb_aÃ�ÅeÓWPkX[Òd_�PQË�_�NQÄfZT_:,�. /� �� > A ,�. /� �� > j�j / �� #�> ,�. / #62 5�> Ó Ï Ë�RbUkË4ËfXdÅÆ�N`jdifXdi�RbZTRTPKl

M � ÛC,�.�P ,�. 9 � �� Ý JNM � Û +�263 .KP ,�. 9 ,�. 9�� �� Ý JNM � Û(j�j / �� #�> P ,�. 9 ,�. 9 � �� Ý JM � ÛG,�. /$#62 5�> P ,�. 9 ,�. 9 � �� Ý JNM � Û +�2�3 .KP ,�. 9 ,�. 9 � �� Ý

J�Ë�_�Rb]fÍ�_eÆV_e]fÍ�_a]VUW_�X�ÅQÅQÄ�Ã�Æ�P`RTj�]fÅ¡Ã�_eXd]­P`ËfX:P{PQË�_�Ã�j�Í�_eZ�ÎyX[RbZYÅ¡PQj�Zb_eXdNQ]®P`ËfX:POP`Ë�_aN`_�RYÅ{XdZ Ï X�l�Å_WÜ�X�UvPQZbl�jd]�_§Æ�Ë�NkXdÅQ_�Î|jdZbZTj Ï Rb]�c P`Ë�_�Uaj�j�N`Í�RT]fX[PQj�N§Û(j�j�ÝvÈ�J�Ë�_§ifX�ŤRYU�Æ�N`jdiVX[i�RbZTRTPKl¸ÃBj�Í�_eZbÅ Ï RTZbZcdRbÌd_{Ã4ÄfUkË�P`j�j�Ë�RbcdË�Æ�N`jdifXdi�RbZTRTPKl4P`j�Ä�]�ZbRbÒd_aZblBÆ�Ë�NkXdÅQ_eÅ�ÅQÄfUkË�X�Å:,�. A ,�.|jGj�jdN ,�. A ,�. j�j,�. ,�.(È�8�j�N+PQË�RYÅ�N`_eX�Ťj�] Ï _�X[ZTPQ_aN�PQË�_�c�_a]�_eN`X[PQRbÌd_�Æ�N`j�Ua_eÅ`Å�PQj·X[ZbZbj Ï cd_e]�_aNkX:P`RTj�]�jdÎ�i>j[P`Ë-PQË�_UWj�j�N`Í�Rb]fX[PQjdNhX[]fÍ�PQËf_�Î|jdZbZbj Ï RT]�c¡ÆfË�N`X�Ť_<Rb]�jd]f_�ÅKP`_aÆ 0eRT]VÅKP`_eXdÍ+jdÎ�ÚKÄfÅKP�cd_e]�_aNkX:P`RT]�cOX�]fjd]�ÐCPQ_eNQÃ�Rb]fX[ZX:P+_eX�Uk˧ŤPQ_aÆ\Ó�X�]�j�]�Ð8P`_aN`Ã�RT]fXdZ�Xd]fͧX£i�Rb]fX[N`l�ÐCÌ:X[ZbÄ�_�Í�� 2�2 � # -VX[c®X[N`_4cd_e]�_aNkX:P`_eÍ�È�� 2�2 � # ^ Ø RTÎPQËf_aN`_�RYÅ�X­UWj�jdNkÍ�Rb]fX:P`RTj�]�NQ_eZbX[PQRbjd]fÅQË�RbÆ�È>I^]�PQË�_Bcd_e]�_aNkX:P`RTÌ�_�Æ�N`j�UW_eÅ`ÅeÓfcd_e]�_aNkX:P`RTj�]�j[Î�X�� 2�2 � #�� -VXdc­X[Zbjd]fc Ï RªP`˧X�Ã�j�Í�RTSf_aN�PQN`Rbcdcd_eN`Å{X[]§X�Í�Í�RTPQRbjd]fXdZhŤPQ_aÆ�RT]·PQË�_Bcd_e]�_aNkX:P`RTÌ�_�Æ�NQj�Ua_eÅ`ÅaÓV]fX[Ã�_aZblPQËf_�cd_e]�_aNkX:P`RTj�]�jdÎ�P`Ë�_�UWj�j�N`Í�Rb]fX[PQjdN+PkX[c*C Ï jdNkÍ·ÆfXdRTN�Ó�ÆfXdN`XdÃB_aPQ_eNQRbÖa_�ͧi�l·P`Ë�_ M ���ÆfXdN`XdÃ�_WPQ_eNeÈ8�j�N�PQË�_�ÆfNQ_�UW_eÍ�RT]�c�_aÜ�XdÃ�Æ�ZT_�P`Ë�RbÅ Ï j�Ä�ZbÍ­cdRbÌd_+Æ�N`jdiVX[i�RbZTRTPKlM � ÛC,�.<P ,�. 9 � �� Ý J � �KÛ +�2�3 .�P ,�. 9 ,�. 9 � �� Ý JNM�dÛC,�. /$#62�5�>�9 � 2�2 � #��- P ,�. 9 ,�. 9 � �� Ý JM��Û +�2�3 .KP ,�. 9 ,�. 9 � �� Ý JFM ���Û(j�j 9 �� # P ,�. 9 ,�. 9 ,�. 9�� �� 9 #�2 5 Ý

[OjdPQ_<P`Ë�_�]�_ Ï PKl�Æ>_�j[Î�ÆfXdN`XdÃB_aPQ_eNeÓ.M ��eÓvÎ|jdN\PQË�_�c�_a]�_eN`X[PQRbjd]�j[Î�PQË�_UWj�jdNkÍ�Rb]fX:P`jdN Ï jdNkÍ�Xd]fÍ�6 H Ñ�ÐP`XdcfÈ�J�Ë�_�c�_a]�_eN`X[PQRbjd]§jdÎ�� 2�2 � #��- X[Zbjd]�c Ï RªP`Ë%,�. /$#62�5�> Rb]§P`Ë�_�_WÜ�X[Ã�Æ�Zb_BRTÃ�Æ�ZbRbUaRªP`ZTl�NQ_�Õ�Ä�RTN`_eÅcd_e]�_aNkX:P`RTj�]�j[ÎhX�UWj�jdNkÍ�Rb]fX:P`jdN<PkX[c*C Ï jdNkÍ�ÆVX[RbN�P`Ë�NQj�Ä�cdË�PQË�_oM ��ÆfXdN`XdÃ�_WPQ_eNeÈ�J�Ë�_�cd_a]f_aNkX:PQRbjd]�jdÎPQËfRbÅP`Xdc�C Ï j�N`ÍBÆfXdRTN�RbÅ�UWj�]fÍ�RTPQRbjd]�_�Í�j�]�PQË�_{P Ï j Ï j�N`ÍfÅ�Rb]�PQËf_�Uaj�j�N`Í�RT]fX[PQRbjd]�Í�_eÆV_e]fÍ�_e]fUWl�Û � ��X[]VÍ #62 5 Rb]�PQË�_�_aÜ�X[Ã�Æ�Zb_�ÝvÓVX[]fÍ­PQËf_�ZbXdiV_eZ�jd]®P`Ë�_aRbNON`_aZYX:PQRbjd]VŤË�RbÆ�ÛC,�. 9 ,�. 9 ,�.BRb]®PQË�_4_WÜ�X[Ã�Æ�Zb_dÓN`_aÆ�N`_eÅQ_a]�PQRb]�c ,�.�UWj�jdNkÍ�Rb]fX:P`RTj�]VÝvÈ

J�Ë�_�� 2�2 � # -VX[c�RYÅ<RbÃBÆfZTRYUWRTPQZbl V Ï Ë�_a]�]�j�NQÃ�XdZ�]�jd]�ÐCPQ_eNQÃ�Rb]fX[ZYÅ�XdNQ_�cd_e]�_aNkX:P`_eÍ�Ó[Î|jdN�_aÜ�XdÃ�Æ�ZT_PQËf_�Æ�Ë�NkXdÅQ_ +�/102�4�5�768�> A ,�. / ������� > ,�. /@?�<�A�> ; . / 02�465�7�8�> ]�j Ï ËVXdÅ�Æ�N`jdifXdi�RbZTRTPKlM � Û ; .<P +D9 032�465�768 Ý JNM��¤ÛG,�. /@?�<6A�>�9 � 2�2 � #���� P +�91; . 9 032�465�768 Ý JM�¤ÛC,�. / �6����� >�9 � 2�2 � #���� P +�91; . 9 032�465�768 Ý JFM�¤Û +�2�3 .KP +D91; . 9 02�465�7�8 Ý JM�dÛ +�2�3 .KP +D91; . 9 02�465 768 Ý

�� ` ôvç\øCé�����í�é�ëKé è�õWö�Z�ð<ñvé bWð ��ç8ôvó:ìkó�é�í�é è�õOèCðKç �¡ø\ú�ï ��ðKç�÷+ô ��ðKí �^Zhé è8ù�ï�ô ��é�ø8èCìkï�ëKðQbvìkç8é�ìkó�í�ðKøJY�èCù�ð ��çCôvó:ìkó�é�í�é è�õè8ðKç �¡øOZ\é èCù ��é�ø8èCìkï�ëKðebvìkç8é�ìkó�í�ðKøQö�ôvç�ûTôvçh÷+ô ��ðKí�ø �ìkï � �ö�Z\é�í�í�ó[ð<øCé��¡é�í�ìkç¤öWó�ú�è]Z\é èCùOèCù�ðì�����é èCé�ôvï�ôkûbkìkçCé�ôvú�ø ��é�ðKëKð¤ø\ôkû�ëKôvï ��é è8é�ôvï�é�ï�ñ¡é�ï�ûTôvç �Oì`è8é�ôvï j

��¡ÿeðKð�æ ���dðKï ��é k�æ·ôkû g � ôví�í�é�ï�ø ������i(ûTôvçhì ��ðKøCëKçCé���è8é�ôvï�ôkû�ù�ôqZ�è8ù�ð�ù�ð¤ì���çCú�í�ð¤ø�è8çCð¤ì`è ��ù�ç}ìkø8ðKøhé�ï�bWôví b�é�ï�ñëKôaôvç ��é�ï:ì`è8é�ôvï j

�K

Page 16: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

& �&f� $ @ � � � $

�f� �

& �&f� $ @ � � �

$ �f�

5�687:9<;�=?>��@ � �+��k!#k+�!�!O(*!%� ��+�!9�� � .� �!,+ E� !'� � ���,����� ����Ik+��� � � ��+�� �� ���� ��F

�X� E���Àh»�Á[¼�ÀX��¼eÂy¾>»J�Ë�RYÅFŤ_�UvPQRbjd]�Í�_eÅ`UWN`RTi>_eÅ\jdÄ�NhPQN`_eX[PQÃ�_a]�P�j[Î =¤ÆfÄ�]fUvP`ÄfX:P`RTj�]�?ORb]�P`Ë�_Ã�j�Í�_eZ8Ó Ï Ë�_eNQ_ =QÆ�Ä�]fUWPQÄfX[PQRbjd]�?RYÅ�ÄfÅQ_eÍâPQj N`_WÎ|_eN�PQj Ï jdNkÍ�ÅBP`Xdcdcd_�ÍâX�Å�X UWj�ÃBÃ�X-jdN�UajdZbjd]�È 6�NQ_eÌ�RTj�ÄfÅ Ï j�NQÒ ��PQË�_·Ã�j�Í�_eZbÅÍ�_�ÅQUaNQRbiV_�Í�Rb]�ÛCÉj�ZTZbRT]VÅ Øeä�ä `�Ý�X[]fÍ�P`Ë�_4_�X[N`ZTRb_aN{Ìd_aNkÅQRTj�]®jdÎ<PQË�_�Ť_4cd_a]f_aNkX:PQRbÌd_�Ã�j�Í�_eZbÅ�Í�_eÅ`UWN`RbiV_�ÍRb]·ÛCÉjdZbZbRT]fÅ Øeädä�/ Ý � UWj�]fÍ�RTPQRbjd]�_�ÍBjd]�Æ�Ä�]fUWPQÄfX[PQRbjd]�XdÅ<ÅQÄ�NQÎyXdUa_Î|_�X:P`Ä�NQ_�Å<j[Î>PQËf_OÅKP`NQRb]�cfÓ�P`NQ_�X:P`RT]�cRTP¡Õ�Ä�RTPQ_+Í�RTÊ>_eNQ_e]�PQZbl�Î|N`jdÃ/Zb_WÜ�RYUaXdZVRTPQ_eÃ�ÅeÈ�I^]£ÆfXdN¤P`RbUaÄ�ZYX[N�Ó[PQËf_�Ã�j�Í�_aZ(Rb]�Û}ÉjdZbZTRb]fÅ Øeä�ä / ÝFÎyX[RbZT_�Í�PQjcd_e]�_aNkX:P`_{Æ�Äf]fUvP`ÄfX:P`RTj�]�Ó�X4Í�_aSVUWRb_a]fUal�j[Î�P`Ë�_�Ã�j�Í�_eZ8È�J�Ë�RYÅÅQ_eUWPQRbjd]£Í�_eÅ`UWN`RTi>_eÅË�j Ï Æ�Ä�]VUvPQÄVX:PQRbjd]RYÅ¡RT]�P`_acdNkX:P`_eÍ­RT]�P`j�P`Ë�_�cd_e]�_aNkX:P`RTÌ�_�Ã�j�Í�_eZbÅeÈ

H Ä�N+SfNkŤP4ÅKP`_aÆ�RbÅ�PQj�NkX[RYŤ_�Æ�Ä�]VUvPQÄVX:PQRbjd] X�Å�Ë�RbcdË�RT]-P`Ë�_�ÆfXdN`ÅQ_BPQN`_a_eÅ�X�Å+ÆVj�ÅQÅQRbi�ZT_�È�6�Äf]fUvÐPQÄVX:PQRbjd]�X:P�P`Ë�_§i>_ac�RT]�]fRT]�c�jdN�_e]fͱj[Î�ÅQ_a]�PQ_e]fUW_�Å�RYÅ�N`_aÃ�j:Ìd_�ÍâÎ|NQj�à P`Ë�_·P`N`XdRT]�Rb]�c*C�PQ_�ÅKP£ÍfX:P`XX[ZTPQj�cd_aPQË�_eNeÈ 1 ( LOZbZ<Æ�Ä�]VUvPQÄVX:PQRbjd]-RTPQ_aÃ�Å�XdÆfX[NQP{Î|N`jdÃÔP`Ë�j�ÅQ_�P`X[c�cd_�ͧXdÅ�UWj�Ã�Ã�X­jdN�UajdZbjd]âÛyRªP`_aÃ�ÅÅQÄfUkË­X�ÅÕ�Ä�jdPQ_eÅ�Xd]fÍ�Æ>_aN`RTj�Í�ÅeÓ�P`X[c�cd_�Í�����j�N � Ý�X[N`_{N`_aÃ�j:Ìd_�Í�X[ZTPQjdc�_WP`Ë�_aN�È�J�Ëf_eÅQ_{P`N`Xd]fÅKÎ|j�NQÃ�X[ÐPQRbjd]VÅ{Ã�_eXd]�PQËfX[P�Æ�Äf]fUvP`ÄfX:P`RTj�]§X[Z Ï X�l�Å¡XdÆ�ÆV_�X[NkÅ¡i>_WP Ï _a_a]·P Ï j�]fjd]�ÐCPQ_eNQÃ�Rb]fX[ZYÅaÓVXdÅOj�Æ�Æ>j�ÅQ_eÍ®PQjX[ÆfÆV_�X[N`RT]�c�X[P�P`Ë�_�_a]VÍ­jdÎFXBÆ�ËfN`X�Ť_�È�Ñ�_a_+Sfc�Ä�NQ_ Ø�V Î|j�NOX[]®_WÜ�X[Ã�Æ�Zb_dÈ

6�Äf]fUvP`ÄfX:P`RTj�]�RbÅ�PQË�_e]�PQN`_eX[PQ_eÍ+Rb]4X¡Ì�_aN`l�ÅQRTÃ�RbZbXdN Ï X�lOPQj�UWj�jdNkÍ�Rb]fX:P`RTj�]�×Wj�Ä�N�Rb]�P`Ä�RTPQRbjd]�RYÅ�P`ËfX:PPQËf_aN`_�RYÅ¡X�ÅKP`NQj�]�c�Í�_aÆ>_a]fÍ�_e]fUWl­iV_aP Ï _e_a]£PQË�_�Æ�Äf]fUvP`ÄfX:P`RTj�]­Ã�X[N`Ò�X[]VÍ�P`Ë�_+ÃBj�Í�RTSf_eN¡cd_a]f_aNkX:PQ_�ÍX:Î�P`_aN�RTPeÈ�6�Ä�]fUWPQÄfX[PQRbjd]�RYÅFPQË�_eNQ_aÎ|jdN`_�cd_a]f_aNkX:PQ_�Í Ï RTPQË�P`Ë�_�Î|jdZbZTj Ï Rb]�c+Æ�Ë�NkXdÅQ_�PQË�N`jdÄfcdË�X � 4 � -VX[cÏ Ë�RYUkË�RbÅ�ÅQRTÃ�RbZbXdN+PQj®PQËf_ � 2�2 � # -VX[c ÛyX®i�Rb]fXdNQl�Ð}Ì�XdZTÄf_eÍ�Î|_�X:P`Ä�NQ_�_�Õ�ÄVX[ZFPQj Ø RTÎ�X®Æ�Ä�]VUvPQÄVX:PQRbjd]Ã�X[N`Ò�RYÅ¡cd_e]�_aNkX:P`_eÍ Ï RTPQË®P`Ë�_+Î|jdZbZTj Ï Rb]�c�Æ�Ë�NkXdÅQ_�ÝWÈ/O]VÍ�_aN�PQËfRbÅ�Ã�j�Í�_aZCÓK,�. /�;�� ��� > A ,�. <:/�;�� ��� > 9 /69> +�=� . / 2� #�> Ï j�Ä�ZYÍ�ËfX�Ì�_�Æ�N`jdi�ÐX[ifRTZbRªPKl

M � ÛC,�. < P ,�. 91;�� ��6�� Ý JNM��QÛ +�2�3 .�P ,�. 9 ,�. <N91;�� �6�� Ý JM��Û +�=� . / 2� #�>�9 � 2�2 � #�����9 � 4 � �- P ,�. 9 ,�. <N91;�� ��6�� Ý JM��Û +�2�3 .KP ,�. 9 ,�. <N9 032�465�768 Ý JFM ��Û 9 9 P ,�. 9 ,�. <N9�+�=� . 91;�� ��� 9 2� # Ý Û / Ý

M���RYÅ{X�]�_ Ï ÆVX[NkX[Ã�_WP`_aN�PKl�ÆV_�Î|jdN{c�_a]�_eN`X[PQRbjd]®j[Î<Æ�Ä�]VUvPQÄVX:PQRbjd]�PkX[c*C Ï jdNkÍ£ÆfXdRTNkÅeÈ�J�Ë�_�cd_e]�_aNkX:ÐPQRbjd]�jdÎ � 4 � �- X[Zbjd]�c Ï RTPQË +�=� . / 2� #�> Rb]�PQË�_4_WÜ�X[Ã�Æ�Zb_�RTÃ�Æ�ZbRYUWRTPQZbl­N`_eÕ�Ä�RbNQ_�Å�cd_e]�_aNkX:P`RTj�]­jdÎ<XÆ�Ä�]VUvPQÄVX:PQRbjd]§P`Xdc�C Ï jdNkÍ­ÆfX[RbNOP`Ë�NQj�Ä�cdË�P`Ë�_<M���ÆfX[NkX[Ã�_aPQ_aN�ÈVJ�Ëf_4cd_e]�_aNkX:P`RTj�]�j[Î<PQËfRbÅ{P`Xdc�C Ï jdNkÍÆfXdRTN�RbÅ�UWj�]fÍ�RTPQRbjd]�_�Í�jd]�P`Ë�_�P Ï j Ï jdNkÍ�Å�RT]�P`Ë�_�Æ�Ä�]fUWPQÄfX[PQRbjd]£Í�_eÆV_e]fÍ�_e]fUWl·Û ;�� �6�� X[]VÍ 2� # RT]PQËf_�_WÜ�X[Ã�Æ�Zb_�ÝWÓfX[]fÍ£PQËf_�ZbXdiV_eZ�jd]­PQË�_eRTN{NQ_eZbX[PQRbjd]fÅQË�RbÆ-ÛG,�. 9 ,�. < 9�+�=� .4Rb]­P`Ë�_�_WÜ�XdÃBÆfZT_�È Ý�X� � � 4�»(¼�4�»�ÁW4 ����Â|¼�� 4 ) ch¼ .�� �59����K�eÀX� f�4�Ád¼ �Ñ�_e]�P`_a]fUa_eÅRT]�PQË�_{PQN`_a_aiVX[]�Ò�j�UaUaÄ�N�Î|N`_eÕ�Ä�_e]�P`ZTl Ï RTPQËX6]Y H ÅQÄ�i�ÚK_�UvPkÅ Ï Ë�RYUkË�Ã�X�l�j�N�Ã�X�lB]�j[P�iV_UWj�]�PQN`jdZbZT_�Í�×�X�Å<P`Ë�_{P`NQ_e_aifXd]�Ò�X[]�]�jdP`X[PQRbjd]£UaÄ�NQN`_a]�P`ZTl�ÅKPkX[]fÍfÅ�P`Ë�_�]fjd]�ÐCPQ_eNQÃ�Rb]fX[ZVRbÅ + Ï Ë�_WP`Ë�_aN�jdN]�jdP�X�ÅQ_a]�P`_a]fUa_¡ËfXdÅ<Xd]�j:Ì�_aNQPFÅQÄ�i�ÚK_�UvPeÈ�J�Ë�RbÅFRYÅ�X�Æ�N`jdi�Zb_aà Î|jdNFPQËf_OŤÄ�i(UaX[PQ_ecdjdN`RbÖeX:P`RTj�]4Æ�N`jdiVX[i�RbZªÐRTPQRb_eÅRT]�Ã�j�Í�_eZbÅ à X[]VÍ R � P`Ë�_{ÆfNQj�ifX[i�RbZbRªPKl�j[Î�ËfX�Ì�Rb]�c�Öa_eNQj4ÅQÄ�i�ÚK_�UvPkÅaÓ � ��� Û���KP +D9*; . 9�� ��&��aÝvÓ

�� �æhø\ôvï�ð�ôkû�è8ù�ð�ìkï�ôvïWõ��¡ôvú�øhç8ð�beé�ðPZ�ðKçCø�ôkû�è8ù�é�ø ��ì��dðKç �[ôvé�ïaè8ð �+ôvú�è¤ö�èCù�é�øhë}ù�ôvé�ë¤ð<ôkû ��é�ø8ë¤ìkç ��é�ï�ñ�èCù�ðø8ð¤ïWè8ð¤ï�ë¤ðPgYê�ï:ìkí ��ú�ï�ë^è8ú:ì`èCé�ôvï �OìKõOï�ôkè\ó[ð<ô��èCé��OìkíYö�ìkø�èCù�ð<ê:ï�ìkí ��ú�ï�ë^è8ú:ì`è8é�ôvï �Oìkç \ �OìKõ[Z�ðKí�í�ë¤ìkçCçyõOú�øCð^ûTú�íé�ï�ûTôvç �Oì`è8é�ôvï�ìkódôvúeè\è8ù�ð�øCðKïWèCðKï�ëKð�ø8è8çCú�ë^è8ú�çCð j

Ø `

Page 17: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

ÛyX�Ý 33

?!2SH 3)N%�HM?k1.?��IH P

2� � �� ��: � � E ��A F

P2

� F � E ��:�A��67)9 F

ÛyiVÝ 33P2

� � �� �8: � � E ��A FP2

� F � E ��:�A��K7�9 F

Û8UeÝ 33��P2

� � �� ��: � � E ��A FP2

� F � E ��:�A��K7�9 F

5�687:9<;�=?> >� � E��!'k+�!�!�( �� �I���� �����!�� �k!��T�!�����!�� � E� !����� ���k� (!^�!,�,�� � E�Z��]!����W ������������!���!���!,�Y� � ��!,+ �k��(.^ !��, �*���k �� ���� � � ( � ��Ik+�� ��� �� � � �� �:� ��+-!U��������� ���� � $YE�� �� �Y� ���^!���!���!��Te ��e+�!����.�%!6��� � � � ��������!,��� ' �� ���)�k!��T�!�� �,!�� � �E�����W �k��(.^ !��,��-�+�!9�u���� ��!U�D��z� .��!O)� ���!� �!,+��� ����� $�� F ��q�(�;��� �� � � � � � � � ��� � � � � �� 1 ��������� � �(� ��"I��� � � � � �� G������ � � � � ���!U�%!�� �� � ���"!d � � � � �# 1 � � � ��� � � � ��"I�$� � � � � �# G ���%� � � � � � % � � � ! � � � �

� �h$ � $W �F$!�c$ � $ �F$!�c$ � $ $'&D$ �F� �"� $ � � � $���$ ��$!�h$!�c$ � $W $(&D$ �F�' �F$W �F$!�c$W �F$ �a$Y $(&D$ �F� � � $ � � � $ ��$ ��$ �F$G�c$W $(& $����� � �F$!� �F$G�c$)&D$ �F� � � �

* �'+� 8= >� � !O�,��� �W � ���� �� �[���+� ��( ��!��_� ��+'! ��q�]��!%�%!���� �h( ��u���;�%�OF',���+-!BA��������!�$G � !,��� �� �� ���� ��T�!,+��*������!��# 1 ( �� � � y� � �)� � $G# G ( �� � � ��)� � $ �� ��# ( ( �� � � � F(& ��eE��!�� ���������!O��! ��k�W+�!�F

Ï RbZTZ�iV_�ÎyX[RbNQZbl�Ë�RTc�Ë�iV_�UaXdÄfŤ_�j[Î�PQË�RYÅeÈeI^]�X�Í�Í�RTPQRbjd]�Ó�Ť_e]�PQ_a]VUW_eÅ Ï RªP`Ë4X[]fÍ Ï RTPQËfjdÄ�PFŤÄ�i�ÚK_eUvPkÅhXdÆ�Æ>_eX[NRb]·Õ�ÄfRªP`_�Í�RªÊ(_aN`_a]�P{ÅQl�]�PkXdUWPQRYU+_a]�Ì�RTN`jd]�Ã�_e]�PkÅaÈ^8fjdN�P`Ë�_eÅQ_�NQ_�XdÅQjd]fÅ Ï _+Ã�j�Í�RªÎ|l­PQË�_�]fjd]�ÐCPQ_eNQÃ�Rb]fX[ZÎ|jdN¡ÅQ_a]�PQ_e]fUW_�Å Ï RTPQËfjdÄ�P¡Å¤Äfi�ÚK_eUWP`ÅPQj�iV_ +'- È�Ñ�_e_OSfc�Ä�N`_ ØdØ È�J�Ëf_�N`_eÅQÄ�ZTPQRb]�c4Ã�j�Í�_aZ(ËfX�ÅXBUWZb_eXd]�_aNÍ�RbÌ�RbÅQRTj�]+j[Î�ŤÄfi>UeX:PQ_ecdj�NQRbÖeX[PQRbjd]�×6M ��� Û�,�.�ikj��:P +D9 ; . 9 � ��&��WÝ . Ø X[]fÍoM ��� Û@,�.�ikj��:P +'-:9*; . 9�� ��&��aÝ ^V È�J�Ë�_�Ã�j�Í�_aZ Ï RTZbZFZT_�X[N`]�Æ�N`jdifXdi�RTZbRYÅKP`RbUeX[ZbZTl®PQËf_�_e]�Ì�RbNQj�]�Ã�_a]�P`Å{RT] Ï Ë�RYUkË + X[]fÍ +/- XdNQ_�ZbRbÒd_aZblPQj�XdÆ�Æ>_eX[N�È�X��0 �D��Àh»�Á[¼�ÀX��¼�Ây¾>»J��¾V» �e¼a½(��Ây»(¼L{ÅX�Sf]fXdZVŤPQ_aÆ\Ó Ï _{ÄfŤ_�P`Ë�_ON`Ä�Zb_OUWjd]VUW_aN`]�Rb]�c+Æ�Ä�]fUWPQÄfX[PQRbjd]�Rb]�PQN`j�Í�ÄfUW_�Í�Rb]·ÛCÉj�ZTZbRb]fÅ Ø�ädä `�ÝvÈ[J�Ë�_UWj�]fŤPQNkX[Rb]�PORYÅ{X�Å�Î|jdZbZbj Ï ÅaÈ�I}ÎFÎ|j�N�X[]�l®UWjd]VÅKP`RªP`Ä�_a]�P21�RT]�P`Ë�_�UkËfXdN¤P31 A 4 5)5 276 5)598BP Ï j�j[ÎFRTP`ÅUkË�RbZbÍ�NQ_e] 2 X[]VÍ 6 X[N`_�ÅQ_aÆfXdN`X[PQ_eÍ-i�l�X�UajdÃ�Ã�X�Ó\PQË�_e]�PQË�_�ZYXdŤP Ï jdNkͧRb] 6 Ã4ÄfŤP4i>_£Í�RbNQ_�UvPQZblÎ|jdZbZbj Ï _�Í�i�l-X�UWjdÃ�Ã�X�Ó\jdN�Ã�ÄfÅKP�iV_�P`Ë�_�ZYXdŤP Ï j�N`Í-Rb]-PQË�_£ÅQ_a]�P`_a]fUa_dÈ\I^]-P`N`XdRT]�Rb]�c·Í�X[P`X ä ` Uj[Î�UajdÃ�Ã�XdÅ�Î|j�ZTZbj Ï P`Ë�RbÅ{NQÄfZT_�ÈfJ�Ë�_�N`Ä�Zb_�ËfXdÅ�P`Ë�_�i>_a]�_aS�P{jdÎFRbÃ�Æ�N`j:Ì�Rb]�c�_-�UaRT_e]fUWl­i�l­NQ_�Í�ÄfUaRT]�cPQËf_{]�Ä�Ã4i>_aN�j[Î�Uajd]fŤPQRTPQÄ�_e]�P`Å�Rb]�P`Ë�_�UkËfXdN¤P�ÈdI}P Ï j�Ä�ZbÍ�i>_{ÆfNQ_aÎ|_aNkX[i�Zb_�PQjBÍ�_aÌ�_aZbjdÆ�X�Æ�N`jdifXdi�RbZTRYÅKP`RbUX[]VX[ZbjdcdÄf_�jdÎhP`Ë�RbÅONQÄ�Zb_dÓ�ifÄ�P Ï _�Zb_eX�Ì�_{P`Ë�RYÅ�PQjBÎ|Ä�P`Ä�NQ_�N`_eÅQ_eXdN`UkË\È0��+½(��Á[¼�ÂyÁ!�^5¡º.���eÀ�4 �0��y¹�� ��½(�*)>4�¼�4�½ � �e¼eÂ�),��¼�Ây¾>»J�X[i�Zb_ Ø Å¤Ëfj Ï Å�P`Ë�_­Ì:XdNQRbjdÄfÅ�Zb_aÌd_eZbÅ�j[ÎOiVXdUkÒ�ÐCjdÊâÎ|j�N�_�XdUkË PKl�Æ>_­jdÎ{ÆfXdN`XdÃB_aPQ_eN4Rb]1PQËf_­Ã�j�Í�_aZCÈ[OjdPQ_¡P`ËfX:P Ï _OÍ�_�UWjdÃ�Æ>j�ÅQ_ �;:FÛ�� W Û� C) W 4" Or W Ý64 �(4�<oP3Mf4?#�41)g49r64>= 4"� l Ý¡Û Ï Ëf_aN`_4 C) W X[]VÍ 3r W X[N`_�PQË�_Ï jdNkÍBXd]fÍZ6 H Ñ4PkX[c�cd_e]�_aNkX:P`_eÍ Ï RTPQË�]�j�]�Ð8P`_aN`Ã�RT]fXdZ�� W Ó �¡Xd]fÍ�<£X[N`_�PQËf_�� 2�2 � # Xd]fÍ � 4 � ->X[c�ÅXdÅ`ÅQj�UaRbX[PQ_�Í Ï RTPQË®PQËf_�]�jd]�ÐCPQ_eNQÃ�Rb]fX[ZCÓ?=/RYÅ�PQËf_�Í�RbŤP`Xd]fUW_+Ã�_eX�ŤÄfNQ_�Ý�Rb]�PQjBPQËf_�Æ�NQj�Í�ÄVUvP

M": e Û�� W Û� Or W Ý64���4�< P6Mf4?#�41)g49r64>= 4"� l Ý JNM": 7 Û� G) W P-� W 4" 3r W 4 �(4�<X49Mf4"#j41)g49r64>= 4"� l ÝJ�Ë�_�Ť_�P Ï j Æ�N`jdifXdi�RbZTRTPQRb_eÅ�XdNQ_®P`Ë�_a] ÅQÃ�j�j[PQËf_eÍ�Ť_eÆfX[NkX:P`_aZbldÈOÛJ.�RYŤ]�_eN Øeä�ä `diVÝBjdN`RTc�RT]VX[ZbZTl1ÄVŤ_�Í6 H Ñ�P`Xdc�Å�P`j�ŤÃ�j�j[P`Ë®XBcd_e]�_aNkX:P`RTÌ�_�Ã�j�Í�_eZ�RT]®P`Ë�RbÅ Ï X�ldÈ�I^]�_�XdUkË�UaXdÅQ_�PQË�_+Sf]VX[Z�_�ÅKP`RTÃ�X:P`_+RbÅ

��^A@ e��(eB$Û Ø � @ eaÝaÛC@ 7 ��7B Û Ø � @ 7eÝ ��9�ÝÏ Ë�_eNQ_ ��e:Ó ��7OX[]fÍ ��9¡XdNQ_¡Ã�X:Ü�RbÃ4Ä�à ZTRbÒd_eZTRbË�j�j�Í�_eŤPQRbÃ�X:PQ_�Å Ï RTPQË�PQËf_{UWj�]�P`_WÜ�PX[P�ZT_eÌd_aZYÅ Ø Ó à X[]VÍR Rb]·P`Ë�_�P`X[ifZT_�Ó>Xd]fÍD@ e:ÓE@ 7�Xd]fÍD@ 9�XdNQ_4ÅQÃ�j�j[PQËfRT]�c­ÆfX[NkX[Ã�_aPQ_aNkÅ Ï Ëf_aN`_ VFZ @ W Z�Ø ÈVÙ-_BÄfŤ_

Ø%/

Page 18: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

PQËf_�ÅQÃBj�jdPQË�Rb]�c�Ã�_WP`Ë�j�Í·Í�_eÅ`UWN`RbiV_�Í­Rb]1Ûyã�RbÒd_eZ\_WP�X[ZCÈ Øeä�ä / ÝvÓ Ï Ë�RYUkË�RbÅ�Í�_aN`RbÌd_eÍ­Î|N`jdà X�Ã�_WPQËfj�ÍÍ�_�ÅQUaNQRbiV_�Í�Rb]§Û|Ù±RTP¤P`_a]�X[]fÍ�ã�_aZbZ ØeädäfØ ÝWÈW8�RTNkÅKP�Ó�Å`X�l�PQË�_�ÃBj�ÅKP�ŤÆ>_eUaRªS>UO_eŤPQRbÃ�X:P`_ ��e ^ ` �� � U4P`ËfX:PRYÅaÓ��Ge�RbÅ�PQËf_�Ì:X[ZbÄ�_�j[Î�P`Ë�_�Í�_e]�jdÃ�Rb]fX:P`jdN+UWj�Ä�]�P�Rb]·PQËf_�N`_aZYX:P`RTÌ�_�Î|NQ_�Õ�Ä�_a]fUal�_eŤPQRbÃ�X[PQ_�È�Ñ�_eUWj�]fÍ�ÓÍ�_aSf]�_ p e+PQj£i>_�PQË�_B]�Ä�Ã4i>_aN�j[Î�Í�RYŤPQRb]fUvP+jdÄ�PkUWj�ÃB_�Å�ÅQ_a_e]·Rb]�PQË�_��Ge�_aÌd_e]�P`Å�RT]�P`N`XdRT]fRT]�c®Í�X:PkX�ÈJ�Ë�_�Ì:X[N`RYX[i�Zb_ p e�UaXd]£PkX[Ò�_+Xd]�l�Ì:X[ZbÄ�_+Î|NQj�Ã Ø PQj��Ge�Rb]fUWZbÄfÅQRTÌ�_dÈ�J�Ë�_e] Ï _�ÅQ_WP

@ e ^ �Ge� e B K p e

LO]VX[Zbjdcdj�ÄfÅ{Í�_WSf]�RTPQRbjd]VÅOÎ|j�N�� 7 X[]fÍ p 7 Zb_eX�Í®PQj @ 7 ^ � �� � 5���� �È(J�Ë�_�Uajd]fŤP`Xd]�P K Ï XdÅ{UkËfj�ÅQ_a]�PQj

Ã�X:Ü�RbÃBRbÖa_�X�UaUWÄfN`X�UWl�jd]­PQËf_+Í�_aÌd_eZTj�Æ�Ã�_a]�POŤ_aPeÓ�ÅQ_eUWPQRbjd] V jdÎ\P`Ë�_�PQN`_a_aiVX[]�Ò§ÛyRT]�Æ�NkXdUWPQRYUW_�RªP Ï XdÅÎ|jdÄf]fÍ­PQËfX[P{X[]�l�Ì:X[ZbÄ�_�Rb]£P`Ë�_�N`Xd]�cd_ à U K c�X�Ìd_+XBÌd_eNQl�ÅQRTÃ�RbZbXdN¡ZT_eÌd_eZ�j[ÎFÆV_eN¤Î|j�NQÃ�X[]VUW_�ÝWÈ0�� A­»X��»�¾���» ��¾f½:¿ �<��»h¿ � ��½�¼�¾ � � c 4 4�Á�� � �*� �>Ây» �LOZbZ Ï jdNkÍ�Å�j�UeUWÄ�N`N`RT]�c®Zb_eÅ`Å{P`ËfX[]G`£PQRbÃB_�Å 1 � RT]-P`N`XdRT]�Rb]�c�Í�X:PkX�Ó�X[]VÍ Ï jdNkÍ�Å�RT]�PQ_�ÅKP�Í�X[P`X Ï Ë�RYUkËËfX�Ì�_�]�_aÌ�_aN�iV_e_a]§ÅQ_a_e]·RT]·PQNkX[Rb]�RT]fcfÓ(X[N`_�NQ_eÆ�ZYXdUW_�Í Ï RªP`Ë�PQËf_��3,� �, 3 �6,�PQj�Òd_e]�È>J�ËfRbÅ�X[ZbZTj Ï Å¡PQË�_Ã�j�Í�_aZ�PQj�NQj�i�ÄfŤPQZbl�ËfXd]fÍ�Zb_�P`Ë�_ŤP`X[PQRYÅKP`RbUeÅ�Î|jdNhN`XdNQ_<j�N\]�_ Ï Ï j�N`ÍfÅaÈWÙ-jdNkÍ�ÅhRT]�PQ_eŤP�ÍfX:P`X¡PQËfX[PhËfX�Ì�_]�jdP+i>_a_e]-ÅQ_a_e]�Rb]�PQNkX[Rb]�RT]fc®XdNQ_BÍ�_WP`_aN`ÃBRb]�RYÅKP`RbUeX[ZbZTl�XdÅ`ŤRbcd]�_�Í�PQËf_ 6 H Ñ�PkX[c Ï Ë�RYUk˧RYÅ�XdÅ`ŤRbcd]�_�Íi�l�PQË�_®PkX[cdc�_aNBÍ�_eÅ`UWN`RTi>_eÍ�RT]%Û3Y{X:PQ]VX[ÆfXdNQÒ�Ë�R Øeä�ä `�ÝWÈhL�Å�X·Æ�N`_aÆ�N`j�UW_�ÅQÅQRT]fc§ÅKP`_aÆâPQË�_­P`Xdcdc�_aNBRbÅÄfÅQ_eÍ·PQj­Í�_eUWj�Í�_B_eX�UkË�PQ_�ÅKP+Í�X:PkX£ÅQ_a]�PQ_e]fUW_�È�LOZbZ�jdPQË�_eN Ï jdNkÍ�Å�X[N`_�P`Xdcdcd_�Í·Í�Ä�N`Rb]�c£ÆfXdN`ÅQRb]�cfÓfPQË�_jdÄ�PQÆ�Ä�PFÎ|N`jdà YOX[PQ]fXdÆfX[N`Ò�Ë�RCÞ Å\P`Xdcdcd_eNhi>_aRb]�c�RTc�]�jdN`_eÍ�È�J�Ë�_#6 H Ñ�P`Xdc�Å�X[ZbZTj Ï _eÍ+Î|j�NF_eXdUkË Ï j�N`Í�X[N`_ZbRTÃ�RTPQ_eÍ�PQj�P`Ë�j�ÅQ_ Ï Ë�RYUkË�ËfX�Ìd_�i>_a_a]­Å¤_e_a]�RT]�P`N`XdRT]fRT]�c�ÍfX:P`X�Î|jdN<P`ËfX:P Ï jdNkÍ�ÛyXd]�l Ï j�N`Í�C�P`Xdc+ÆfX[RbN`Å]�jdP4Ť_e_a]-RT]-PQNkX[Rb]�Rb]�c Ï j�Ä�ZbÍ�cdRbÌd_�Xd]�_�ÅKP`RTÃ�X:P`_�j[Î�Öa_aN`j®RT]�PQË�_>M : 7�Xd]fÍ'M��(7�Í�RYÅKP`NQRbi�Ä�P`RTj�]fÅkÝvÈJ�Ë�_¡Ã�j�Í�_aZfRbÅFÎ|ÄfZTZbl4Rb]�PQ_ac�N`X[PQ_�Í�Ó:RT]BP`ËfX:P�ÆfXdN¤P�jdÎ(ÅQÆ>_a_eUkË�P`Xdc�Å<XdNQ_¡Å¤P`X:P`RbŤPQRYUaXdZTZbl�c�_a]�_eN`X[PQ_eÍBX[Zbjd]fcÏ RTPQË Ï jdNkÍ�Å+RT]-P`Ë�_�Ã�j�Í�_aZYÅaÓhŤj®PQËVX:P�P`Ë�_�ÆfX[NkÅQ_aN Ï RbZTZ�Ã�XdÒd_�X�ÅKPkX:P`RbŤPQRYUaXdZ�Í�_eUaRbÅQRbjd] XdÅ�P`j�PQË�_Ã�j�ŤPOZTRbÒd_eZTl�P`X[cBÎ|j�N¡_eXdUkË®Ò�]�j Ï ] Ï j�N`Í£RT]®PQËf_�Ť_e]�P`_a]fUa_dÈ0�� E ����4j� ��½(��Ây» � � 5��V¾V½:Â|¼!� )J�Ë�_�ÆfXdN`ÅQRT]fc�X[Zbcdj�NQRTPQËfà Î|j�N4P`Ë�_�Ã�j�Í�_aZYÅ�RYÅ�X�Í�l�]VX[Ã�RbU­Æ�N`jdc�N`XdÃBÃ�Rb]�c§XdZTc�jdN`RªP`Ë�Ã�Ó Ï ËfRbUkËâRbÅÌd_eNQl�ÅQRbÃBRbZYX[N�PQj+ÅKPkX[]fÍfX[NkÍ4UkËfXdN¤P�ÆfX[NkŤRb]�c�X[ZbcdjdN`RTPQË�Ã�ÅhÎ|jdNFÆ�N`jdifXdi�RbZTRYÅKP`RbU�jdN Ï _aRbcdË�PQ_�Í�cdNkX[Ã�Ã�X[NkÅeÈJ�Ë�_�X[Zbcdj�NQRTPQË�à ËfX�Å�UajdÃ�Æ�Zb_WÜ�RTPKl���Û3V � ÝWÓ Ï Ë�_aN`_:V1RYÅ�PQË�_B]�Ä�Ã4i>_aN�j[Î Ï j�N`Í�Å{RT]§PQË�_�ŤPQN`RT]�cVÈVI^]Æ�NkXdUWPQRYUW_dÓ�Æ�N`Ä�]�Rb]�c�ÅKP`N`X[PQ_ecdRb_eÅ¡Û|Ã�_aPQË�j�Í�Å Ï Ë�RYUkË�Í�RbÅ`UaXdN`Í�Zbj Ï _eN�Æ�N`jdifXdi�RTZbRTPKl4UWj�]fÅKP`RªP`Ä�_a]�PkÅ�Rb]�PQË�_UkËfXdN¤PvÝhUeX[]BRTÃ�Æ�N`j:Ìd_�_-�UaRT_e]fUWl4X�c�NQ_�X:P�Í�_eXdZ8È[J�Ëf_�XdÆ�Æ>_a]fÍ�RYUW_�Å<j[ÎFÛCÉj�ZTZbRT]VÅ Øeädä�ä Ý\cdRbÌd_�X�Æ�NQ_�UWRYŤ_Í�_�ÅQUaNQRbÆ�PQRbjd]�jdÎVP`Ë�_{ÆVX[NkŤRb]�c�X[Zbcdj�NQRTPQË�Ã�ÅeÓdX[]�Xd]fX[Zbl�ŤRYÅ<j[Î>PQËf_aRbNUWj�Ã�Æ�Ä�P`X[PQRbjd]fXdZfUWj�Ã�Æ�ZT_aÜ�RªPKl�Ó�X[]VÍX[ZYÅQj�X�Í�_�ÅQUaNQRbÆ�P`RTj�]­jdÎhP`Ë�_�Æ�N`Ä�]�Rb]�c�ÃB_aPQË�j�Í�Å¡PQËfX[P{X[N`_�_eÃBÆfZTj:l�_eÍ�È

Ñ�_e_BÛJ.�RYŤ]�_eN�Xd]fÍ­Ñ�X:P¤PkX Ø�ädä�ä Ý�Î|j�N�Xd]���Û3V���ÝX[Zbcdj�NQRTPQË�à Î|j�NZb_WÜ�RYUaX[ZbRbÖa_eÍ£cdNkX[Ã�Ã�X[NkÅaÓ Ï Ë�RYUkËUWj�Ä�ZYÍ·i>_�XdÆ�Æ�ZbRT_�Í�P`j£P`Ë�_�Ã�j�Í�_eZbÅ�Rb]§P`Ë�RbÅ�ÆfXdÆV_eNeÈ<ÛJ.�RYŤ]�_eN�Xd]fÍ�Ñ�X:P¤PkX Ø�ädä�ä Ý¡XdZbÅQj­Í�_�ÅQUaNQRbi>_BXd]��ÛOV 9 ÝBX[Zbcdj�NQRTPQË�Ã3Î|j�N�X�N`_eŤPQN`RbUWPQ_eÍâUWZYXdÅ`Å4jdÎ�Zb_WÜ�RYUaX[ZbRbÖa_eÍ1cdNkX[Ã�Ã�X[NkÅaÓhRªP�RYÅBXd]âj�ÆV_e]âÕ�Ä�_�ÅKP`RTj�]Ï Ë�_aPQË�_eN¡PQË�RYÅ¡N`_eŤPQN`RbUWPQ_�Í­UaZbX�ÅQÅ�Rb]fUWZbÄfÍ�_�Å�PQË�_�Ã�j�Í�_eZbÅ¡Rb]­PQË�RYÅ¡ÆfXdÆV_eNeÈ� 9 4 ��À<5y¼ �J�Ë�_-ÆfX[NkÅQ_aN Ï XdÅ�PQNkX[Rb]�_eÍ jd] ÅQ_eUWPQRbjd]fÅ V�à U à�Ø j[Î�PQËf_�Ù�X[ZbZ�Ñ�PQN`_a_aP P�jdÄ�N`]fXdZ{Æ>jdNQPQRbjd]$jdÎ�PQË�_6F_a]f]âJhNQ_e_aifXd]�Ò$ÛyH·XdN`UaÄfÅB_WP�X[ZCÈ Øeä�äWR Ý£ÛyXdÆ�Æ�N`j�Ü�RbÃ�X:P`_aZbl _ V Ó VWV�V Ť_e]�PQ_a]VUW_eÅkÝvÓ�Xd]fÍ P`_eŤPQ_�Í�j�]ÅQ_eUvP`RTj�] àWR Û à Ó _ Ø `·ÅQ_a]�PQ_e]fUW_�Å`ÝWÈhÙ-_®ÄfŤ_­PQËf_ 6�L7Y{Ñ*.��FL{g Ã�_eXdÅQÄ�N`_eÅ­Ûyã�ZbX�UkÒ�_WP�X[ZCÈ Ø�ädä�Ø Ý�PQjUWj�Ã�ÆfX[N`_+ÆV_eN¤Î|j�NQÃ�X[]VUW_d×$ �*�-4�5;4�¿Q�+½T4�Á�Â3��Ây¾>»�� ]�Ä�Ã4i>_aN¡jdÎFUajdN`NQ_�UvP¡UWjd]VÅKP`RªP`Ä�_a]�P`Å�Rb]�Æ�N`jdÆ>j�ÅQ_eÍ­ÆfX[NkŤ_

]�Ä�Ã�iV_eNOj[ÎFUWj�]fÅKP`RªP`Ä�_a]�PkÅ¡RT]�Æ�N`jdÆ>j�ÅQ_eÍ£ÆfX[NkÅQ_

�Kþ�î�ïDg � ôví�í�é�ï�ø ������iJZ(ðFðKçCçCôvï�ð¤ôvú�øCí õ{ø8èCì`èCð ��è8ù:ì`è�ìkí�í4Z�ôvç ��ø\ôeëKëKú�çCé�ï�ñ�í�ðKøCø�èCù�ìkï�ýè8é��¡ð¤ø�é�ï{èCçCìké�ï�é�ï�ñ �:ì`è}ìZ�ðKç8ð<ë¤í�ìkø8øCé ê:ð ��ìkø\ó[ðKé�ï�ñ-qCú�ï�\eï�ôuZ\ï�s�o:èCù�ìkï�\eø�è8ô �Fìkïzo(él\vðKí�ûTôvç �[ôvé�ïaè8é�ï�ñ�ôvú�è\è8ù�é�ø�ð¤ç8çCôvç�j

Ø S

Page 19: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

H H �).�g Z _ V Ù-jdNkÍ�Å�Û à�à _ K ÅQ_a]�PQ_e]fUW_�Å`ÝgXY g�6 É�ã�Å V É�ã�Å Z�à É�ã�Å

ÛyH§X[cd_eNQÃ�Xd] Øeä�ä�K Ý SY_VÈ ` U SW_fÈ ä U Ø È à ` K `�È ` U S Ø È _ UÛCÉjdZbZbRT]fÅ Ø�ädä `�Ý S K È S U S�`�È R U Ø È Ø _ Kdä È ä U S R È ` UÛJ:�j�j�Í�Ã�X[] Øeä�ä / Ý SY_VÈ S U S K È R U Ø È à�Ø K / È ` U S Ø È _ UÛCÉËVX[N`]�RbXdÒ Øeä�ä / Ý S / È K U S / È _ U Ø È VWV ` à È Ø%U SW`fÈ ØTU

H�j�Í�_aZ Ø S / È ä�U S�S�È à�U V È ä�K ` K È S U SW`fÈ R�UH�j�Í�_aZ à SWSfÈ K U S�S�È /WU V È ä�à `�`�È /WU S / È ØTUH�j�Í�_aZ R SWSfÈ ` U S�S�È /WU V È äWV ` / È Ø%U S / È _ U

ÛCÉËVX[N`]�RbXdÒ àYV�VWV Ý äWV È ØTU ä�V È Ø%U V È / _ /YV È Ø%U S ä È ` UÛCÉjdZbZbRT]fÅ àWVWV�V Ý äWV È ØTU ä�V È _ U V È /TR /YV È /WU S ä È ` UH H �).�g Z Ø�VWV Ù-jdNkÍ�Å�Û à _ Ø `�ÅQ_a]�PQ_e]fUW_�Å`Ý

g=Y g�6 É�ã�Å V É�ã�Å Z¸à É�ã�ÅÛyH·Xdcd_aN`Ã�X[] Øeä�ä�K Ý SY_fÈ V U SY_VÈ R�U Ø È _�` K _VÈ V�U / S�È S UÛ}ÉjdZbZTRb]fÅ Ø�ädä `�Ý S K È R U S K È /�U Ø È R�à K�/ È à U S V È S UÛCÉËfXdNQ]fRbXdÒ Øeädä�/ Ý SW`�È /WU SW`fÈ ` U Ø È àYV K[ä È K U S R È à�U

Û3YOX[PQ]fXdÆfX[N`Ò�Ë�R Øeä�ä / Ý SW`�È R U S / È K U Ø È à�Ø ` V È à U �H·j�Í�_aZ Ø S / È K�U S / È /�U Ø È Vdä ` R È _ U SY_fÈ Ø%UH·j�Í�_aZ à SWS�È Ø%U SWSfÈ R�U Ø È V ` `Y_VÈ V�U S K È Ø%UH·j�Í�_aZ R SWS�È V U SWSfÈ R�U Ø È V�K `Y_VÈ R�U S K È _ U

ÛCÉËfXdNQ]fRbXdÒ àYVWV�V Ý S ä È ` U S ä È K U V È SWS ` / È ` U S / È /WUÛ}ÉjdZbZTRb]fÅ àWVWVWV Ý S ä È ` U S ä È ä�U V È S / `WSfÈ R�U S / È /WU

* �'+� 8= "� !��k� � �� ���>Y!��,� ���� ' �)�#�hE� !��+ �z� +�!�!,(���4�:F ��������� ( � �(*!���!6�I+�!�������� ���+�!,�� ��k ���� F�� � ��-E��!6�%!,+����!9�Y� �)(*! +e� �h� +����k�k �� ��(W+���u�%!,�� �*!,+ �k!��T�!�����!�F � � ���� ' � � �+�!OE� !#�*! +���!��T����!O� ��k!��T�!�����!�� � E���)��+ ' �,+����k�k �� ��(�+���q��!,��e+�!��k�*!��,� �%!�����F @ ���*E� !#+�!��k��� ��- ��]E�� ��Q��( ��!9�+�!� ��+������!,���ek+�� ���!6� �� �D�!,���!6�]���DE� !O�����! � ��W$�� �k �� �)E��!O�����!#!%������ �� ����]��!,k+� ���F � & ���!'E� �E� !,�k!#+�!��k� � �� �P� � � )�k�� ����T ����W+��#��!���!��TQ�.�%!,+ E�����k!# �� � �������� �� ����� � � E��!#� � ��]�����W!����q� �� ��!��� ! +�!9E��!# �����+��.�%!6��k+�! ����!��T � �h��� � � ����� ���� � �k!��,� ���� �4F � � �����!,E� ! + � E�]E��!O��!�� � ���� �#�hE� ! ���� �� ��� � �+����! �!,+���F �

$ �*�-4�5;4�¿ 9 4�ÁG��5;5 � ]�Ä�Ã4i>_aN¡jdÎFUajdN`NQ_�UvP¡UWjd]VÅKP`RªP`Ä�_a]�P`Å�Rb]�Æ�N`jdÆ>j�ÅQ_eÍ­ÆfX[NkŤ_]�Ä�Ã�iV_eN¡j[Î<UWj�]fÅKP`RªP`Ä�_a]�PkÅ¡RT]­PQN`_a_eifX[]fÒ�ÆfX[NkÅQ_

�4½:¾ ���eÂ8»X�H��½(��Á�� 4�¼ � � ]�ÄfÃ4i>_aN·jdÎ�Uajd]fŤPQRTPQÄf_a]�P`Å Ï ËfRbUkË%Ì�RTj�ZbX[PQ_1Uajd]fŤPQRTPQÄ�_e]�P·iVj�Ä�]fÍ�XdNQRb_eÅÏ RªP`Ë�X�UWjd]VÅKP`RªP`Ä�_a]�P¡RT]®P`Ë�_+PQN`_a_eifX[]�Ò£ÆfX[NkŤ_�È

8�j�NOX�UWjd]VÅKP`RªP`Ä�_a]�P�PQj�i>_%2 UajdN`NQ_�UvPeÞ�RTPOÃ4ÄfŤPOŤÆVX[]­PQË�_�Å`X[Ã�_�Ť_aP¡j[Î Ï jdNkÍ�Å+Û|Rbcd]fjdN`RT]�c�Æ�Äf]fUvÐPQÄVX:PQRbjd]\Ó�RCÈ _dÈ�X[ZbZVP`jdÒ�_a]fÅ�P`X[c�cd_�Í�XdÅ�UWjdÃ�Ã�XdÅeÓ�UWjdZbjd]VÅ�jdN�Õ�Ä�j[P`_eÅkÝ�Xd]fÍ�ËfX�Ì�_¡PQË�_+Å`X[Ã�_{ZYX[i>_aZJ1 ��XdÅX4Uajd]fŤPQRTPQÄf_a]�PRb]�P`Ë�_OP`NQ_e_aifXd]�Ò�ÆfX[NkŤ_�È�J�X[i�Zb_ à ŤË�j Ï Å�PQË�_�N`_eÅQÄ�ZªPkÅ<Î|j�N�H�j�Í�_eZbÅ Ø Ó à Xd]fÍ R Ó�X[]VÍX�Ì:X[N`RT_aPKl·j[ΡjdPQË�_eN�ÃBj�Í�_eZbÅ�RT]�P`Ë�_�ZTRTPQ_eN`X[PQÄ�N`_dÈhJ Ï j�Ã�j�Í�_aZYÅ�ÛCÉj�ZTZbRb]fÅ àYV�VWV 0�ÉËVX[N`]�RbXdÒ àYV�VWV ÝjdÄ�PQÆ>_aNQÎ|jdN`à Ã�j�Í�_aZYÅ à Xd]fÍ R jd]�ÅQ_eUvP`RTj�] àYR j[Î(P`Ë�_¡PQN`_a_eifX[]fÒ>ÈVÛCÉjdZbZbRT]fÅ àYVWV�V ÝhÄfÅQ_eÅ�X�PQ_eUkËf]�RbÕ�Ä�_ifX�Ť_�Í�jd] i>j�j�ÅKP`RT]fc§X[Zbcdj�NQRTPQË�Ã�Å�Î|j�N4Ã�XdUkË�Rb]�_�Zb_eXdNQ]fRT]�cVÓ Ï Ë�RYUkË NQ_eN`Xd]�Ò�ÅoV(ÐCi>_eŤP4j�Ä�PQÆ�Ä�P4Î|N`jdÃÃ�j�Í�_aZ à Rb]­P`Ë�RYÅ�ÆfX[Æ>_aN�È�ÛCÉËfXdNQ]fRbXdÒ àYVWV�V Ý�Í�_eÅ`UWN`RTi>_eÅ�X�ÅQ_aN`RT_�ÅjdÎh_e]�ËfX[]VUW_aÃ�_e]�PkÅ�PQjBPQËf_�_�X[N`ZTRb_aNÃ�j�Í�_aZ�jdÎ�Û}ÉËfX[N`]�RYX[Ò Ø�ädä / ÝvÈ

J�Ë�_�Æ�N`_eUaRbÅQRbjd]�C:NQ_�UaX[ZbZFj[Î�PQËf_�PQNkXdUW_�Å+Î|jdÄf]fÍ-i�l�H�j�Í�_eZ R Ï X�Å äWR È S U C äWV È ØTU Û|jdÄ�P4j[Î#_ R�/UaX�Ť_�Å{Rb]§ÅQ_eUWPQRbjd] àWR j[Î<P`Ë�_4P`NQ_e_aifXd]�Ò�ÝvÓ Ï Ë�_aN`_�P`Ë�NQ_e_�UaNQRTPQ_eNQRYX�Ã4ÄVÅKP�iV_BÃ�_WP{Î|j�N�X�PQNkXdUa_�PQj­iV_

�¤ýcgb÷�ìkñvðKç �Oìkï ����vý�i�ëKôví�í�ì���øCðKø����x->¡ìkï �*>��-;�èCô�è8ù�ð�ø}ì��¡ðhí�ìkó[ð¤íYö�ûbôvç�ëKô���:ìkç8é�øCôvï Z�ð�ìkí�øCô�ç8ð �¡ô bWð �{è8ù�é�ø��é�øyèCé�ï�ëKè8é�ôvïTZ\ù�ðKï�ë¤ìkí�ëKú�í�ì`è8é�ï�ñ¡øCëKôvç8ð¤ø�j

Øeä

Page 20: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

=QUajdN`NQ_�UvP�?�×<Û Ø Ý�RªP4Ã�ÄfŤP�iV_�Xd]�XdNQc�Ä�Ã�_a]�P+PQj�P`Ë�_�UWj�NQN`_eUWP+Ëf_eXdÍ�Ð Ï jdNkÍh0<Û à Ý�RªP�Ã�ÄfÅKP�iV_�Rb]-PQË�_UWj�NQN`_eUWP�ÆVj�ŤRTPQRbjd]�Rb] NQ_eZbX[PQRbjd]-PQj·PQËfX[P4Ë�_eX�Í Ï j�N`Í�Û|ÆfNQ_�UW_eÍ�RT]�c�j�N�Î|jdZbZbj Ï RT]�c�Ý 0�Û R Ý+RTP4Ã�ÄfÅKP�iV_Í�j�ÃBRb]fX[PQ_eÍ�i�l�P`Ë�_�UWjdN`N`_eUvP�]fjd]�ÐCPQ_eNQÃ�Rb]fX[Z�ZbXdiV_eZ8ÈQ8�j�N�_aÜ�X[Ã�Æ�Zb_dÓ�RT]�SfcdÄ�N`_ / PQË�_­PQNkXdUa_£RYÅ�Xd]X[N`cdÄfÃB_e]�PP`j �¾VÀ � �(¼ Ó Ï Ë�RYUkË­RTP �}¾ 5J5y¾�� � Ó�Xd]fÍ£RTP¡RbÅ¡Í�jdÃ�RT]VX:PQ_�Í£i�l£X�� � È H Î\PQËf_�_ R / UaX�Ť_�ÅaÓR _ Ø Ï _eNQ_�ŤPQN`RT]�cdÐCÌ:X�UWÄ�j�ÄfÅ{_aÜ�PQNkXdUvP`RTj�]§Î|N`jdà ŤÄ�i�ÚK_eUvP�Æ>j�ÅQRTPQRbjd]�Ó�N`_eUaj:Ìd_eNQ_�Í Ï RªP`Ë ä `�È R U C ä S�È S UÆ�N`_eUaRbÅQRTj�]�C�N`_eUeX[ZbZJ0�Xd]fÍ ä ` Ï _eNQ_BZbjd]�c�_aN�Í�RYÅKPkX[]fUa_�UaX�Ť_�ÅaÓ�N`_eUaj:Ìd_aN`_eÍ Ï RªP`ËGS Ø È _ U C Kdä È _ U Æ�N`_eUaRªÐÅQRTj�]�C�N`_eUeX[ZbZ 1 `�È� �®Â3��ÁdÀ � ��Ây¾>»J�Ë�RYÅ�Ť_�UvP`RTj�]¸Í�RYÅ`UWÄfÅ`Ť_�Å�Ťj�ÃB_�X�ŤÆ>_eUWP`ÅBj[Î�PQË�_�Ã�j�Í�_aZYÅ�Rb]âÃ�jdN`_�Í�_WPkX[RbZ8È�Ñ�_�UvP`RTj�] / È Ø cdRbÌd_�ÅBXÃ4ÄVUkË-Ã�j�NQ_�Í�_WPkX[RbZT_�Í�Xd]fX[Zbl�ŤRYÅ�j[ÎPQË�_�ÆfXdN`ÅQ_aNkÅeÞ>Æ>_aNQÎ|jdN`Ã�X[]fUa_dÈ(I^]�Ť_�UvPQRbjd] / È à Ï _�Í�RYÅQUaÄfÅ`Å�PQË�_Í�RYÅKPkX[]fUa_�Î|_eX[PQÄ�N`_eÅ�Rb]�P`Ë�_¡Ã�j�Í�_aZCÈ:I^]�Ť_�UvPQRbjd] / È R Ï _¡Í�RYÅQUaÄfÅ`ÅFË�j Ï P`Ë�_�ÃBj�Í�_eZ�Rb]�P`_aNkXdUWP`Å Ï RªP`ËBPQË�_6F_a]f]§J\N`_a_eifX[]fҮŤPKl�ZT_�j[Î�X[]f]�j[PkX:PQRbjd]\È 8�RT]VX[ZbZTl�ÓVRb]�ÅQ_eUWPQRbjd] / È _ Ï _4Í�RYÅ`UWÄfÅ`ÅOP`Ë�_4]f_a_eÍ·PQj­i�NQ_�X[ÒÍ�j Ï ]�UWj�]�P`_WÜ�P¤ÐCÎ|N`_a_£N`Ä�Zb_eÅ�Rb]�P`Ë�_®PQN`_a_eifX[]�Ò Rb]�ŤÄfUk˸X Ï X�l-PQËVX:P�PQË�_�Ã�j�Í�_aZ Ï RbZbZ¡cd_a]f_aNkX[ZbRTÖe_PQjâcdRbÌd_�]�j�]�Ð}Öa_aN`j Æ�N`jdifXdi�RbZTRTPKl1P`j1NQÄfZT_�Å�]�jdP­Å¤_e_a]±Rb]±PQNkX[Rb]�Rb]�cfÈ�I^]$_eX�UkË�UeXdÅQ_ Ï _·ÄfÅQ_�PQË�N`_a_Ã�_WP`Ë�j�Í�Å�j[Î4Xd]fX[Zbl�ŤRYÅaÈ#8�RTNkŤPeÓ Ï _-UaXd]�UWj�]fÅQRbÍ�_eN­Ëfj Ï Ì�XdNQRbjdÄVÅ­X�ŤÆ>_eUWP`Å­j[Î�P`Ë�_�Ã�j�Í�_eZ+X[Ê>_�UvPÆfXdN`ÅQRT]fc�ÆV_eN¤Î|j�NQÃ�Xd]fUW_�Ó�PQËfNQj�Ä�cd˧X�UaUaÄ�N`X�UWl­ÃB_�XdÅQÄ�N`_aÃ�_a]�P`Å{jd]�P`Ë�_�PQN`_a_aiVX[]�Ò(È>Ñ�_eUWj�]fÍ�Ó Ï _BUaXd]Zbj�j�Ò®X[POPQËf_�Î|N`_eÕ�Ä�_a]VUWl£jdÎ�Í�RTÊ>_eNQ_e]�P�UWjd]VÅKP`NQÄfUWPQRbjd]fÅORT]�P`Ë�_�P`NQ_e_aifXd]�Ò(ÈVJ�Ë�RbN`Í�Ó Ï _4UaXd]·UWjd]VŤRYÍ�_aNZbRT]�c�Ä�RYÅKP`RbUeX[ZbZTl­ÃBjdPQRbÌ:X:PQ_�Í£_aÜ�X[Ã�Æ�Zb_eÅ¡XdÅ¡X Ï X�l�j[ÎVÚKÄfŤPQRTÎ|l�Rb]�c�Ì:X[N`RbjdÄfÅ�Ã�j�Í�_aZbRb]�c�UkË�jdRYUW_�ÅaÈ

� �y¹ �i�D58¾ ��4�½B5y¾�¾ �+��¼�¼��<4 9X4 �eÀ�5|¼��I^]­PQË�RYšŤ_�UvP`RTj�] Ï _�Zbj�jdÒ�Ã�jdN`_�UaZTj�Ť_eZTl�X[P�PQË�_+ÆfXdN`ÅQ_aN�Ó�i�l�_eÌ�XdZTÄVX:PQRb]�cBRªPkÅ�ÆV_eN¤Î|j�NQÃ�Xd]fUW_�jd]�ŤÆ>_WÐUWRTSVU�Uajd]fŤPQRTPQÄ�_e]�P`Å+jdN�Uajd]fŤPQN`ÄfUWPQRbjd]fÅeÈ�J�Ë�_�RT]�P`_a]�PQRbjd]-RbÅ�PQj�cd_aP�X®i>_WPQPQ_aN4RbÍ�_�X®j[Î�PQË�_�ÆfXdN`ÅQ_aN�Þ ÅŤPQN`_a]�cdPQËfÅ�X[]VÍ Ï _eXdÒ�]f_eÅ`Ť_�ÅaÈ�8�RTNkÅKP�Ó�P`X[ifZT_ R ËfXdÅ�X�i�NQ_�X[Ò�Í�j Ï ]�jdÎ\Æ�N`_eUaRbÅQRTj�]­Xd]fÍ�N`_eUeX[ZbZ>i�l�Uajd]�ÐŤPQRTPQÄ�_e]�P¡PKl�Æ>_dÈ�L{ZªP`Ë�jdÄ�c�Ë­ÅQjdÃ�_ Ï ËVX:P�ÄfŤ_aÎ|Ä�Z�Rb]­Ä�]VÍ�_aNkÅKPkX[]fÍ�RT]�cBÆfXdN`ÅQ_aN�ÆV_eN¤Î|j�NQÃ�Xd]fUW_�Ó�X�i�N`_eXdÒ�ÐÍ�j Ï ]�j[Î�XdUeUWÄ�NkXdUal­i�l�UWj�]fŤPQRTPQÄ�_e]�P�PKl�ÆV_�ÎyX[RbZYÅOP`j­UaXdÆ�PQÄfNQ_4PQË�_BRbÍ�_eX­j[Î�X:PQP`X�UkË�Ã�_a]�P�X�UaUWÄfN`X�UWldÈ8�j�N4P`Ë�RYÅ�N`_eXdÅQjd] Ï _£XdZbÅQj�_aÌ:X[ZbÄfX[PQ_�P`Ë�_£ÆVX[NkŤ_eNeÞ Å�Æ�N`_eUaRbÅQRTj�] X[]fÍ N`_eUeX[ZbZ�Rb] NQ_�UWj:Ì�_aN`RT]�c�Í�_eÆV_e]�ÐÍ�_e]fUWRb_eÅ¡i>_WP Ï _a_e] Ï j�N`ÍfÅaÈ�J�Ë�RYÅ¡cdRbÌd_�Å¡X�iV_aP¤P`_aN{Rb]fÍ�RYUaX[PQRbjd]�j[Î�PQËf_�XdUaUaÄ�NkXdUWl£jd]�Í�RªÊ(_aN`_a]�P{Ò�Rb]fÍ�Åj[Î�X:PQP`X�UkË�Ã�_a]�P`ÅeÈ�LÔÍ�_eÆV_e]fÍ�_a]VUWl�RYÅ�Í�_aSf]�_�͸X�Å�X�PQN`RTÆfZT_ Ï RTPQË�P`Ë�_�Î|jdZbZTj Ï Rb]�c�_aZb_aÃ�_e]�PkÅ·ÛyÅQ_a_Sfc�Ä�NQ_ Ø�à Î|j�NOX[]®_WÜ�X[Ã�Æ�Zb_+PQN`_a_�Xd]fÍ£RTP`Å{XdÅ`Ťj�UWRYX:P`_eÍ­Í�_aÆ>_a]fÍ�_a]fUaRT_�Å`ÝW×

¹ � 2 ¾�¿h ��4�½ J�Ë�_�Rb]fÍ�_aÜ­j[ÎhPQË�_�Ã�j�Í�RTSf_aN Ï j�N`Í£RT]®PQËf_�Ť_e]�P`_a]fUa_dÈA � 7 4 ��¿ J�Ëf_�Rb]fÍ�_aÜ­jdÎhP`Ë�_+Ë�_eX�Í Ï jdNkÍ�Rb]®PQË�_�ÅQ_a]�P`_a]fUa_dÈE � 9X4�53��¼�Ây¾>» L EG. ���6�� 8 Ó � ��� # Ó A32 #������ � � Ó =�� �6� � 8���2 HQ_[ÐCPQÄ�ÆfZT_�Ó Ï Ë�_aN`_{P`Ë�_�Î|jdÄ�N¡_eZT_eÃ�_a]�P`ÅX[N`_�PQË�_�ÆVX[N`_a]�PeÓ�Ëf_eXdÍ�Xd]f͸ÃBj�Í�RTSf_eN�]�jd]�Ð8P`_aN`ÃBRb]fXdZbÅ�Rb]�ÌdjdZbÌd_�Í�Rb]¸PQË�_�Í�_aÆ>_a]fÍ�_a]fUaldÓ

X[]fÍ�P`Ë�_�Í�RbNQ_�UvP`RTj�]�jdÎ�P`Ë�_1Í�_aÆ>_a]VÍ�_a]fUal Û8g Î|jdN·Zb_WÎ�P�Ó Y Î|jdN·N`RbcdË�PkÝWÈa8�j�N�_WÜ�X[Ã�Æ�Zb_dÓE + Ó ; .(Ó�,�.�ikj>Ó 3 H Ï j�Ä�ZYÍ�RT]fÍ�RbUeX:PQ_�X�ŤÄfi�ÚK_eUWP¤Ð}Ìd_aN`i�Í�_aÆ>_a]VÍ�_a]fUaldÈ�I^]�UWj�jdNkÍ�Rb]fX:P`RTj�]�UaXdÅQ_eÅPQË�_eNQ_�RbÅ�X�S�Î�P`Ë·_aZb_aÃ�_a]�P�j[Î<PQËf_�PQÄ�ÆfZT_�Ó j�j>È 8fjdN{_aÜ�X[Ã�Æ�Zb_dÓ�EG,�.>Ó�,�.>Ó�,�.>Ó - Ó j�j6H Ï j�Ä�ZYÍiV_�Xd]�RT]fŤP`Xd]fUW_+jdÎQ[c6¸Uaj�jdNkÍ�RT]VX:PQRbjd]\È

I^]±XdÍ�Í�RªP`RTj�]�Ó<PQËf_·NQ_eZbX[PQRbjd]¸RbÅ3=¤]�j�NQÃ�X[ZbRbÖa_eÍ�?·P`j1Ťj�ÃB_�_aÜ�PQ_a]�P�È-8�RTNkÅKP�Ó�X[ZbZa6 H Ñ PkX[c�Å£X[N`_N`_aÆ�ZYXdUa_eÍ Ï RªP`Ë�PQËf_�PQj�Òd_a] 2*+(- ×�PQË�RYÅORYÅ{ÅQj�PQËVX:P)6 H Ñ£P`X[c�cdRb]�c�_aN`NQj�N`Å¡Í�j�]�j[P{Zb_eX�Í®PQj�_eNQN`jdNkÅ�RT]

� n M4ð�ðPk�ëKí�ú ��ð�é�ï�ê�ï�é èCé bkìkí�ç8ð¤í�ì`è8é bWð<ëKí�ìkú�øCðKø�ûbç8ô��è8ù�ðKøCð<ê:ñvú�çCðKøQöeûbôvç�ðPk�ì�����í�ð qCî�ë¤ìkí�í�ð���ì ��í�ú���ó[ðKç ;�� ������è8ôê�kOè8ù�ð�øCé�ï�\Ss Z\ù�ðKç8ð ��í�ú ��ó[ðKç��eé�ø�ëKô�g�é�ï ��ðPkeð�� Zhé è8ù�è8ù�ðFè8ç}ìkëKð�øCú�óIz8ðKë^è\ôkû�èCù�ð�é�ïeê:ï�é è8é bvìkí j�ü�ù�ð�ìkí�ñvôvç8é èCù��ø8ë¤ôvç8ð ��þ �� �����f� ��çCðKëKé�øCé�ôvï��`ç8ð¤ë¤ìkí�í�ôvï�è8ù�ð n ��ë¤ìkøCðKøhé�ï�øCðKë^èCé�ôvï �� ó�úeè�é�ï�ê�ï�é èCé bkìkí�ç8ð¤í�ì`è8é bWðKø�ìkç8ððPkaèCç8ð��¡ðKí õ ��é �¡ëKú�í è�ðkbWðKï�ûTôvç�ùeú �Oìkï�ìkï�ï�ôkèCì`è8ôvçCø�è8ô ��é�øyèCé�ï�ñvú�é�øCùOûbç8ô� ��ú�ç �[ôvøCð<ëKí�ìkú�ø8ð¤ø gTé�ï�è8ù�é�øhë¤ìkø8ðWö�èCù�ðé�ï�ê�ï�é èCé bkìkí�ëKôvú�í���ó[ð�ì ��ú�ç �[ôvøCð<ëKí�ìkú�ø8ð �¡ô���é ûTõeé�ï�ñ� ëQìkí�í�ð ��� i�gTæ�ï�ï�ü�ì¤õeí�ôvçQö�� j ë j i

àYV

Page 21: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

ü�� _ÿ

y _ g �

y _ o_��J_

î �

� _

� oøCìuZ 1

y _ g �

y _ o

��üè8ù�ð G

yhy

�Oìkï (

_ _

î yZ\é èCù �

y _ g �

y _ o

��üèCù�ð �

y^y

è8ðKí�ðKøCëKô�[ð `

=%YOX Ï ? �{_eÆV_e]fÍ�_a]VUWRb_eÅ [{jdN`Ã�XdZTRbÖa_�Í ��_aÆ>_a]fÍ�_a]fUaRT_�ÅY¡_aZYX:P`RTj�] H�j�Í�RTSf_aN áO_�XdÍ Y¡_aZYX:P`RTj�] H�j�Í�RTSf_aN áO_eX�Í+ ; . ,�.�ikj 3 V Ø + ; . ,�.�ikj 3 V Ø2�3 . 263 . + - Ø Ð Ø 263 . 2�3 . + - Ø Ð Ø,�. < ,�, =�2 3 à R ,�. < 2*+(- 2*+(- 3 à R; . ;�< ,�.�ikj - R Ø ; . 2+(- ,�.�ikj - R Ø,�.*ikj ,�. < .�. - _ R ,�. ,�. < .�. - _ R,�. < ,�, =�2 3 K ` ,�. < 2*+(- 2*+(- 3 K `.�. ? , ,�.�ikj - ` _ .�. 2+(- ,�.�ikj - ` _

5�687:9<;�=?>�"@ k+�!�!#�� �I ���-��k�k�T�� ���!6� �W!��*!�� �W!�� �, �!,��F & ���!'E� �- �� [ ����+�� ��� DC� �����\g��!,�*!�� �W!�� �� �!���$ ���� � � ������+�!O+�!��������!6� � �E� �" � $ �� �IE� !#& ��� � � �+�!��T- ��IE� !�!� E�D+�!����� ����Z ��e+�!�� �����!6� � E� & �OF

.�Ì:X[ZbÄfX[PQRbjd] 6�N`_eUWRYÅQRTj�] YO_eUaXdZTZ[Oj�ghX[i>_aZYÅ ä�Ø È V�U äWV È ä�U[Oj­Éj�ÃBÆfZT_eÃB_e]�P`Å SWSfÈ K U SWSfÈ K ULOZbZ SWSfÈ R�U SWSfÈ R�U

5�687:9<;�=?> ��#!��*!,� ��!,� � �I��,����+��� �]��� Y!��,� ������c� �hE� ! k+�!�!�(��� � � E�>�]����!,� ' F(����� (���� �<��! �� �QE���-��� ���E� !�W!��*!�� ��!���� � � !�!U���Q��L(*!O����+k+�!��, $�E� !'+�!����� ����Z� � (*! � +���� � ������ ����<)��������������! ���� ����������� ��!���!��T � � � � � �+E�Y �� ��� �+�!O��k+� �� �*!6�I(*!%� ��+�!O������� �+� �� �)+�!,� �� ���� � �����T��! �� �e������� ��!���!��T� �+E�Y �� ���-�+�![�%!��W ���DE� !O������ ���� ����)� ���!� �!,+��� �����wF

à�Ø

Page 22: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

6�NQj�ÆVj�N¤P`RTj�] Éj�Ä�]�P g\X[i>_aZ Y¡_eUeX[ZbZ 6�N`_eUaRbÅQRTj�]_ à È à�Ø Ø�K�Ø _�` [a6 ä�Ø È Ø%K äWV È à `Øeä È / S /TV�ä ` �c6 ä�Ø È V�à ä�Ø È Ø�ØØ�R È V�V _�`�` K Ñ ä�Ø È à�Ø äWV È ä `Ø�à È S R _�` VWR 6-6 SW`fÈ Ø S S K È K�ØR È ä�K Ø _ Øeä Ñ�ã�L Y S / È S Ø SWSfÈ S /à È K[ä ä�à S L � �)6 S à È ä�/ SW`fÈ K�àØ È ` R K SY_ L �cP 6 ` K È _ Ø `WSfÈ ä KØ È VWV R ` V Ù$ác[a6 ä�K È V�V ä SfÈ SW_V È ä�à R�R�Ø � 6 SY_VÈ àdä / SfÈ R�/V È _�S ØT/[à 6 Y9[ R�à È K ` ` Ø È K _V È R�K Ø�à ` 6 YFJ SW`fÈ K�Ø S K È Ø `V È R�Ø Ø�Ø�V Ñ�I�[ � S R È `W_ SWSfÈ _ `V È à�/ ä S [aM Ø�à È à _ `W`fÈ ` /V È àWK S�S Ù$á{L � �c6 ä�K È _ K ä / È ` /V È V S àdä [{L{É _�SfÈ à S ` R È `W_V È V S à S 8�YOL9: à�Ø È _ R _�`fÈ Ø%KV È V�K Ø�ä Ù$áa6 6 Ø�V�V È VWV Ø�VWV È V�VV È V _ Ø ` /�É'6 àWK È V�V à SfÈ K /V È V _ Ø ` É H [cP�6 K `fÈ à�K ` ä È àWRV È V _ Ø%K Ñ � KYR È R�R `W`fÈ ` /V È VWR Ø�à Ñ�ã�L Y � `W`fÈ ` / SWSfÈ S äV È VWR ä YYOÉ ØdØ È Ø�Ø RWR È R�RV È V�à / ghÑ�J K�/ È Ø _ Ø�VWV È V�VV È V�Ø R M V È VWV �V È V�Ø à I�[�JOP V È VWV �

* �'+� 8= �� !�� ������� �D��+�!��, ��k ����<� ��+]�W �^! +�!��T �,��� ��� ���!��Te �W�*!���$�� ��+'�k!�� � ������)�#�hE� !'k+�!�!,(���4� � �E�]������!�� ' F���(*!��� ��eE� !'� ���G� �!,+��� �����^���(*!,��� � +����*��+k� ����Z ��eE� !'�*!,+���!��T����!O� � ����� ��� �� !,�Y�� ��IE��!'k+�!�!�( ��4��k!��,� ���� �cE������6�%!'E�� �� ���(*!,���*�������Y- ��eE� !#�Y���)(*!,+e�#�h����� ��� �� !��T��eE������6�%!'E�� ��-���(*!��wF

Í�_eÆV_e]fÍ�_a]VUWRb_eÅ 1�a È�Ñ�_eUajd]fÍ�Ó(X[]�l�UWj�Ã�Æ�ZT_eÃ�_a]�P�Ã�XdNQÒ�Rb]�c�Å{jd]�P`Ë�_�ÆVX[N`_a]�P�j�N�Ë�_�XdÍ�]fjd]�ÐCPQ_eNQÃ�Rb]fX[ZX[N`_�N`_aÃ�j:Ì�_eÍ�È�8�jdNh_WÜ�X[Ã�Æ�Zb_dÓ�EC,�.�ikj>Ó,�. < Ó�.�.(Ó - H�RYÅhNQ_eÆ�ZbX�UW_�Í+i�l EG,�.(Ó�,�. < Ó@.�.(Ó - HvÈ�J�Ë�RbÅ�Æ�N`_aÌ�_a]�P`ÅÆfXdN`ÅQRT]fc£_aN`N`jdNkÅ Ï Ë�_aN`_�X­UWj�ÃBÆfZT_eÃB_e]�P�ËfX�Å{i>_a_e]§Ã�RbŤP`XdÒd_e]�PQj®iV_�X[]�XdÍ�ÚKÄ�]VUvP�Û|jdN�Ì�RbUa_4Ì�_aNkÅQX�ÝZb_eXdÍ�RT]�c®P`j�ÃBj�NQ_�PQËVX[]�jd]�_�Í�_eÆV_e]fÍ�_e]fUWl�_aN`NQj�NeÈ�L{Å�Xd]�_aÜ�X[Ã�Æ�Zb_dÓ�Rb]§SVcdÄ�N`_ Ø�à Ó�RTÎ�PQË�_ ,�. z|n�s��r:�� <o�z�n4z|n�sz^sW~TsWpawk�`qfs Ï XdÅ(Ã�RYÅKPkX[Òd_e]�Zbl{RYÍ�_a]�PQRTSf_�Í�XdÅ�X[]�X�Í�ÚKÄ�]fUWP�PQË�_e] Ï RªP`Ë�jdÄ�P\]�jdN`Ã�X[ZbRbÅ`X:P`RTj�]PQËfRbÅ Ï j�Ä�ZYÍ�ZT_�XdÍ­PQj�P Ï j£Í�_eÆV_e]fÍ�_e]fUWl®_aN`NQj�N`Åe×�i>j[PQË·PQË�_ .�.®Í�_aÆ>_a]VÍ�_a]fUal�X[]fÍ®P`Ë�_�Ìd_eNQi�ÐCj�i�ÚK_eUWPN`_aZYX:PQRbjd] Ï jdÄfZbÍ+i>_�Rb]fUWj�NQN`_eUWPeÈWÙ±RTPQË�]fjdN`Ã�XdZTRYÅ`X:PQRbjd]\ÓWjd]�Zbl�PQË�_Ìd_aN`i�Ð}jdi�ÚK_�UvP�N`_aZYX:PQRbjd]�RYÅ�Rb]fUajdN`NQ_�UvPeÈ/O]VÍ�_aN<P`Ë�RYÅ�Í�_WSV]�RªP`RTj�]�Ó[c�jdZYÍ�Ð}ŤP`Xd]fÍ�XdN`Í�Xd]fÍBÆfX[NkÅQ_aNQÐCj�Ä�PQÆ�Ä�PhP`NQ_e_eÅ<UaXd]�iV_OUajd]�Ìd_eN¤P`_eÍ�P`j�Ť_aP`Åj[ÎOÍ�_eÆV_e]fÍ�_e]fUWRb_eÅeÓ\X[]VÍ�Æ�NQ_�UWRYŤRbjd]FC�N`_eUaXdZTZFUaXd]�iV_£UeX[ZYUWÄ�ZYX:P`_eÍ-jd]-P`Ë�_eÅQ_�Í�_aÆ>_a]VÍ�_a]fUaRT_�ÅaÈ �{_eÆV_e]�ÐÍ�_e]fUWl�X�UaUaÄ�N`X�UWRb_eÅBX[N`_£c�RTÌ�_a]1Î|j�N�Ť_�UvPQRbjd] V jdÎ{P`Ë�_®PQN`_a_aiVX[]�Ò Rb]�SVcdÄ�N`_ Ø�R È<JhXdi�Zb_X_�cdRbÌd_�Å�Xi�N`_eXdÒ�Í�j Ï ]£j[Î�PQËf_�XdUaUaÄ�NkXdUWRb_eÅ�i�l£Í�_eÆV_e]fÍ�_e]fUWl£PKl�Æ>_dÈJ�X[i�Zb_eÅ K X[]fÍ `BŤË�j Ï PQË�_�Í�_eÆV_e]fÍ�_e]fUWl£X�UaUaÄ�N`X�UWlBÎ|jdN9S�ÅQÄ�i�ÐCPKl�ÆV_�ÅjdÎ�Í�_eÆV_e]fÍ�_e]fUWl�Ó Ï Ë�RYUkËPQj�cd_aPQË�_eNOXdUaUajdÄ�]�P�Î|jdN ä _ U jdÎ�XdZTZ\Í�_aÆ>_a]fÍ�_e]fUWRb_eÅeÈfJ�Ë�_�Ť_�ÅQÄ�i�ÐCPKl�ÆV_�Å¡X[N`_d×��¾ )dc�5J4 )>4�»(¼4¼e¾H� � 4�½q� b���E�� � � e��FA���� ��½T4�Á!�^5;5)e c�½T4�ÁdÂ3��Ây¾>»]� J�Ë�RYÅ�PKl�Æ>_�RT]VUWZbÄfÍ�_eÅ+Xd]�l�N`_WÐ

� dü�ù�ð zyú�ø8è8é ê:ë¤ì`è8é�ôvï�ûbôvç�è8ù�é�ø�é�ø�èCù:ì`è\è8ù�ðKçCð�é�ø\ìkï�ðKø8è8é��Oì`èCð � � �ðKçCç8ôvç�ç}ì`è8ð<é�ï{è8ù�ð�ù:ìkï ��g�ìkøCøCé�ñvï�ð�� _ �<ÿ¡è}ìkñvøé�ï{èCù�ðFè8çCðKðKó:ìkï�\ g � ì`è8ï:ì��:ìkç \eù�é ���� n i}ödìkï � Z�ð ��é���ï�� èJZ�ìkïWè\èCù�é�ø�ï�ôvé�ø8ðFèCô�ë¤ôvïWè8çCé�ó�ú�è8ð<èCô���ð��[ðKï ��ðKï�ë^õðKçCç8ôvçCø�j

àdà

Page 23: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

� ��� � �������Y � !����� ���� � !�� �h+�!��� ' ��F ��� ' ��F ��� ��� ����� &�"�, �" � �" � � � �4F ��� ����F ���' ����F ��� � ��F � � ������� "�" �" � &�" W�Y # � �4F � ' � �4F � �� ����F � ' ��F � � � ' ��� $?(�"'&�" W�Y � ����F ��� ����F � �� � �4F ��� ��F � � '%� �' &�"'&�"�,'"�" # � �4F ��� � �4F ���� � ��F � � ��F ' � ' ����� (�" �" � &�" W�Y # � ' F � � � ' F � �� � �4F � � �4F ��� � � � � (�" �" � (�" W�Y # ����F � ' ����F ���� ����F � � �4F ��� � ��� � (�" �" � "�" # ����F � ' � � F � �� ����F � � �4F � ' � ��� � �!1" �!1" $ # ����F ��� ����F ���� � �4F �%� � F ��� ����� (�" �" � $�,�"�# W�Y # � �4F ' � ����F ���� � ����F ��� � F ��� � � � � " �" �� �" � # ����F ��� ����F ���� � ����F ��� � F ' � ����� &�"'&�"�,'&�" # � �4F � � ����F � '�&' ����F ' � � F ' � � ��� $�,�"�# �" � $ W�Y # � �4F ��� � ' F � �� � � ��F ��� � F ' � � ��� &�"'&�"�, $�,�"�# # � ��F ' � � ��F � �� � ����F ��� ��F � ' ����� (�" �" � "�.�(�" # � �4F ��� ����F ���� � � � F � � ��F ��� ����� &�"�, �" � &�"�,'� ����F ��� � ' F � '� � � ' F � � ��F ��� � ��� (�" �" �� �" � # � ��F � � ����F ���� � � ' F ��� ��F � � � � � (�" �" � $�� W�Y # � ' F � � ����F '�'� � ����F � � ��F ��� ' ��� &�"'&�"�&�" # Y�Y ����F � � �%��F � �� � � �4F � ' ��F � ' ' ��� $?(�"'"�"�� � ��F ' � � � F ���' � ����F � � ��F � ' ' ��� $�,�"�# �� &�" $�� WIY # � ��F ��� � ��F ���'�� ����F � � ��F ��� ' � � (�" �" � "�.4%�" # ����F ��� � ��F ���'�' ����F ��� ��F � � ' ��� $?(�" "�.�(�"'� � ��F ��� � �4F ���' � ����F ��� ��F � ' ' ��� &�"'&�"�,'(�" # � ��F ��� � ' F ���' � ����F ��� ��F � � � ��� "�.4%�" �" �� �" � � ����F ��� � ��F ���' � ����F ��� ��F ��� � ��� &�"�, �" � �" � # � �4F ��� ����F ���' � ����F ��� ��F � � � ��� (�" �" � &�" # ����F � � � �4F � �' � ����F ��� ��F ��� � ��� (�" �" � $�,�"�# # � �4F � � � ' F � �' � ����F ' � ��F � � � � � (�"'(�"�(�" # Y�Y � �4F � � � ' F � �' � ����F � � ��F � ' � ��� &�"�, �" � "�.4%�"'� ����F ' � � � F ' ���� ����F ��� ��F ��� � � � (�" �" � $�� # � ��F ��� ����F ���� � ����F ��� ��F ��� � � � (�" �" � $ W�Y # � �4F ��� ����F � '� ' ����F � � ��F � ' �&' � $ $'$ # Y�Y � ' F ��� � ��F � '��� � � F �' ��F � � �&' � "�" �" � $�� W�Y # � �4F ��� � ��F ���� � � � F ��� ��F � � �&' � � " �" �� �" � � � ��F � ' ����F ������ � � F � ' ��F ' � � � � $?(�" �" � � ����F ��� � ��F � ���� � ' F � � ��F ' � � � � &�"�, �" � � "�� � ��F � � � � F ������ � ' F ' � ��F ' � � ��� $���&�('(�"�&�" # ����F ��� ����F � '��� � ' F �%� ��F ' � � � � $?(�" $ WIY � ����F ' � ����F ������ � ' F � � ��F ' � � � ' &�"'&�"�&�" # � ��F ��� ' ��F � ���� ����F � ' ��F ' � ��� "�.4%�" �" � "�" # ����F ��� ����F � �� � ����F ' � ��F '�' ��� �!1" �!1" $���&�( # ����F ��� � �4F � �� ' ����F ��� ��F '�� ��� "�.�(�" �" �� �" � � � �4F �&' �%��F ' �� � ����F ��� ��F '�� ��� $�,�"�# �� "�.�(�" $ WIY # ����F � � ����F ���� � ����F ��� ��F ' � � � $?(�" $1,�"�#'� ����F ��� ����F � ���� � �4F ��� ��F ' � � � (�" �" � "�.�(�"'� � � F ��� ����F ������ � �4F ' � ��F � � ��� $���&�('(�" $+� ����F ��� � ' F � �� � � �4F ��� ��F � � ��� &�"'&�"�, $�� # ����F ��� � � F � ���� � �4F ��� ��F � � ��� $?(�"'"�#�&'� ' ��F ��� ����F ������ � �4F � � ��F � � ��� &�' �" �� �" � # � ��F � � ����F ���� � � �4F ��� ��F � � ��� &�"'&�"�,'"�#�& # ����F ' � � ��F ���

* �'+� 8= �@ �,����+��� �]�#�FE� !� �L������_� +�!��T� !��T �W!��*!�� �W!�� ���� �W�*!��e �� �k!��,� ������)� �hE��!'k+�!�!�( ��4�^$���-+�!��,�#��!,+�!6�(��D������!�� ' F � ( +��� �(����� ( �����)� ���� ���!#�*!,+���!��T����!�� � ( �*!,+���!,�Y����!�� � !�� ( � !,� ����$���h+�!�� (��+�!,�� ��k ����

àYR

Page 24: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

� �W�*! W��(!� �W�*! �#!��k�,+� ���� ���� �������T � !�� ���� �h+�!��� ��k ����������� ��!���!,�Y������%!,+�( $ (�" &�" W�Y � W� (!^�!,�, � ' ��� ����F ��� ����F � �

(�" �" � &�" WIY # � (.^ !��, ' � ��� � ' F � � � ' F � �� ����� ( � ��F ��� �#� ���� � ��k!�� (�" �" � $1,�"+# W�Y # ����� � ��F ' � ����F ���

(�" �" � $�� WIY # � � � � ' F � � ����F '�'(�" �" � $ W�Y # � � � � ��F ��� ����F � '$ (�" $ W�Y � � � � ����F ' � ����F ���$ (�" $�� W�Y � � � ����F � � ����F ���FDFDF���c� @ � � ����� ����F ��� � ' F ���

� E� !,+ ������� ��!���!��T�� "�" �" � &�" WIY # � ����� � ��F � ' � �4F � �(�" �" � (�" WIY # � � � � ����F � ' ����F ���

� � �%� ( � ��F ��� �#� ���� � ��k!�� $1,�"+# �" � $ W�Y # � � � � ��F ��� � ' F � �$1,�"+# �� &�" $�� W�Y # ' ��� ����F ��� � ��F ���"�" �" � $�� WIY # �&' � � ��F ��� � ��F ���$1,�"+# �� "�.�(�" $ W�Y # ��� ����F � � ����F ���"�" �" � "�" WIY # � � � ��F � � � ��F ���$1,�"+# �� &�" $ W�Y # � ' ����F ��� � �4F ���$1,�"+# �" � $�� W�Y # ' � ����F � � � ��F ���"�" �" � $ W�Y # � � ����F � � ����F � �$1,�"+# �� "�" $ W�Y # � � � � ��F ��� � � ��F ���$ "�.�%�"'&�" WIY � � � ����F ��� ����F ���"�" �" � $1,�"+# W�Y # � � � � ��F ��� ����F ' �FDFDF���c� @ � � ����� � ��F ��� � �4F �&'�X�\������ ��� �� ���� &�"'&�"�,'"�" # '����&' � ��F � � � �4F ���(�" �" � "�" # � � � � ����F � ' � � F � �

� � �%� ( � � F ' � �#� ���� � ��k!�� $ (�" "�"'� ' ��� ����F ' � � � F ���"�.4% " �" � "�" # ��� ����F ��� ����F � �"�.�(�" �" � "�" # ��� ����F � � � ' F � �&�"'&�"'"�" # ' � ��F � � ��F ���"�"'"�"'"�"�� � � '�� F ��� ' ��F ���&�" Y �" � "�" # �&' � ��F � � � � ��F ���FDFDF���c� @ � � ����� � ' F ' � � � F � ����T��+ �� �� �� ���� &�"'&�"'&�" # ' � � ����F � � �%��F � �(�"'(�"'(�" # � � � � ��F � � � ' F � ������ ( � F ��� � � ������ ��k!�� $'$ $ # �&' � � ' F � � � ��F � '"�.4% " �" �� �" � # ' � � � F ��� ����F ���(�" �" �� �" � # ' � ����F � � � � F � �&��&��&� # ' � �&' F � � ����F ���$1,�"+# $1,�"�# $1,�"�# # � � ����F ��� ����F ���"�"'"�"'"�" # � � ����F � � ����F � �FDFDF���c� @ � ����� � � F ��� � ' F ' �

* �'+� 8= U@ �,����+��� �K� ��+ ���+� ������ �W�*!�� ��k��(!� �W�*!��Q�#�=��!��*!,� ��!,� � � � � �+k �&� F � � ���D�k� (G�; �W�*!��Q�T�����W+k+� �� �L����+�!E���� � �a� ���!,� �+�!O�P� � � � F

à _

Page 25: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

� �W�*! Y� (!� ���*! �#!��k�,+� ���� ���� ����� �T � !�� ���� �h+�!��� ��k �����]����� � � E� �� ��k!%�;&f� � &�"�,' �" � �" � � � � ����� � �4F ��� ����F ���

&�"�,' �" � &�"�,'� ����� ����F ��� � ' F � '�&' � � ' ( ' ��F ��� � � ������ ��k!�� &�"�,' �" � �" � # � ��� � �4F ��� ����F ���

&�"�,' �" � "�.4%�"'� � ��� ����F ' � � � F ' �&�"�,' �" � � "'� ��� � � ��F � � � � F ���&�"�,' �" � &�" Y � ' � � � F � ' � � F � �&�"�,�&�' �" � � ' � � �4F � � ����F ���&�"�, � " �" � � � � ����F ��� ����F � 'FDFDF���c� @ � �&' � � ' ����F ' � � ' F � ��]����� �]��L& ��� &�" &�"�,'&�" # @ � �*���k � ���! ����� � �4F � � ����F � '&�" &�"�, $�,�"�# # � !����� ���!O������ �k! ����� � ��F ' � � ��F � �

� � � � ( ��F ��� �#������ ����k!�� &�" &�"�,'(�" # � !6�W� ��!U�D+�!����� �%! ' ��� � ��F ��� � ' F ���&�" &�"�, $�� # ��� ����F ��� � � F � �&�" &�"�,'"�#�& # ��� ����F ' � � ��F ���&�" &�"�, "�.�(�" # ��� ����F � ' � �4F � �&�" &�"�, "�.4%�" # ��� � ' F � � � ��F ���FDFDF���c� @ � � � � � �%��F ' � ����F ���

W!��T�!��T� ���n� !��� �!�"' �!1" $ # � ����� ����F ��� ����F ��� �!�"' �!1" $���&�( # ��� ����F ��� � �4F � �

� � � � ( �4F ��� �#������ ����k!�� �!�"' �!1"�&�" # � ' ����F �&' � ��F ��� �!�"' �!1" $�� # � � ����F ��� ����F ���FDFDF���c� @ � � � � � � �4F ��� � �4F ���

@ �S^ � ���,e��L���!,+�( (�"� �" � "�.�(�" # ����� � �4F ��� ����F ���(�"� �" �� �" � # � ��� � ��F � � ����F ���

'�' � ' ( ��F ��� �#������ ����k!�� (�"� �" � "�.4%�" # ' � � ����F ��� � ��F ���$?(�" "�.�(�"'� ' ��� � ��F ��� � �4F ���(�"� �" � &�" # � ��� ����F � � � �4F � �(�"� �" � $�,�"�# # � ��� � �4F � � � ' F � �(�"� �" � $�� # � � � � ��F ��� ����F ���$?(�" �" � � ��� � ����F ��� � ��F � �$?(�" $1,�"+#'� � � ����F ��� ����F � �(�"� �" � "�.�(�"'� � � � � F ��� ����F ���$?(�"'"�#�&�� ��� ' ��F ��� ����F ���$?(�"'&�" � ��� ����F ��� ����F ���$?(�" $��+� ' � ����F ��� � ' F � �(�"� �" � "�#�& # ' � ��F � � �' F � �(�"� �" � $ # � � ��F ��� � � ��F ���FDFDF���c� @ � 'I' � ' ����F � � ����F � �

* �'+� 8= �@ �,����+��� �K� ��+ ���+� ������ �W�*!�� ��k��(!� �W�*!��Q�#�=��!��*!,� ��!,� � � � � �+k '�� F � � ���D�k� (G�; �W�*!��Q�T�����W+k+� �� �L����+�!E���� � �a� ���!,� �+�!O�P� � � � F

àWK

Page 26: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

ZbX[PQRbjd]fÅj[Î\PQË�_�Î|jdN`à E + ; .���� H Ï Ë�_eNQ_����+RbÅ�X[]�l�UWj�Ã�Æ�ZT_eÃ�_a]�PeÓ�jdN E ; . 2*+(- ��� HÏ Ë�_aN`_�����RYÅFX[]�l�UWjdÃ�Æ�Zb_aÃ�_e]�PF_WÜ�Ua_aÆ�P ; .*ikjBÛ|RCÈ _�ÈTÓ:XdÄ�Ü�RTZbRbXdNQl�Ð}Ìd_eNQi �±Ìd_eNQi+Í�_eÆV_e]fÍ�_a]VUWRb_eÅX[N`_4_aÜ�UaZTÄVÍ�_eÍfÝWÈ�J�Ë�_4Ã�j�ŤP{Î|N`_eÕ�Ä�_e]�P�Ìd_eNQi�UWjdÃ�Æ�Zb_aÃ�_e]�PkÅaÓ�Ñ�Ä�i�ÚK_eUvPQÐCÌ�_aN`i§X[]VÍ H i�ÚK_eUWP¤ÐÌd_eNQi�Ó�XdNQ_+N`_eUaj:Ìd_aN`_eÍ Ï RªP`Ë®j:Ì�_aN ä�K U X[]VÍ ä�à�U Æ�N`_eUaRbÅQRbjd]�C:NQ_�UaX[ZbZ>NQ_�ŤÆ>_eUWPQRbÌd_aZbldÈ

��¼��<4�½£Á�¾ )dc�5J4 )>4�»(¼��.b � �X� � � e � �X�y¹^A�½T4�ÁG��5;5�e*c�½%4�Á�Â3��Ây¾>» � J�ËfRbÅPKl�ÆV_�Rb]fUWZbÄfÍ�_�Å�Xd]�lBÍ�_eÆV_e]�ÐÍ�_a]VUWRb_eÅ Ï Ë�_eNQ_�PQË�_�Ã�j�Í�RTSf_aN+RYÅ�X­UajdÃ�Æ�Zb_aÃ�_a]�P�Ó�X[]fͧPQË�_�Í�_eÆV_e]fÍ�_e]fUWl§Í�j�_�Å+]�j[P+ÎyXdZTZRT]�P`j�PQË�_£wk�:�{q>~bsW��sW�Vzz^�£r�¥�satax�PKl�Æ>_dÈ

�[� 2 ¾�¿� �FÁG��¼�Ây¾>»/b���A�� A � e�\¹ �$0�¹­½%4�Á!�^5;5)e c�½T4�Á�Â3��Ây¾>» � LO]�l�Í�_aÆ>_a]VÍ�_a]fUal Ï Ë�_aN`_OP`Ë�_+Ã�j�Í�RªÐSf_aN{RbÅ¡X .�.(È��¾�¾V½�¿�Ây» ��¼�Ây¾>»/b ��¹ � � � e �FA1� A��½%4�Á!�^5;5)e c�½T4�Á�Â3��Ây¾>» �2 ¾�¿� �FÁG��¼eÂy¾>» ��Â|¼!��Ây» ���*��4G"����[�.b ��E�� A� e��FA���0 ��½T4�Á!�^5;5)e c�½T4�ÁdÂ3��Ây¾>»]� LO]�l+Í�_aÆ>_a]VÍ�_a]fUal Ï Ë�_eNQ_PQË�_�ÆVX[N`_a]�P¡RbÅ ,�. < È2 ¾�¿� �FÁG��¼eÂy¾>»¸¼e¾ ���[�kb � E=� A e � 0�� � ��½T4�ÁG�^5J5�e*ch½T4�ÁdÂ��eÂ8¾V»]� L{]�l�Í�_eÆV_e]fÍ�_a]VUWl Ï Ë�_aN`_FPQË�_�ÆfX[NQÐ_a]�PORYÅ ,�.>Ó�P`Ë�_�Ë�_eX�Í®RbÅ ,�. < Ó�X[]fÍ£PQË�_�Ã�j�Í�RTSf_aN{RbÅ�]�jdP{X .�.(È��4�»(¼�4�»(¼eÂ3��5 7 4 ��¿ b�� �X��� � e�� �=� � ��½%4�Á!�^5;5)e c�½T4�Á�Â3��Ây¾>» � �{_eÆV_e]fÍ�_e]fUWl�RT]�Ì�jdZbÌ�Rb]�c�PQËf_�Ë�_eX�Í�Ð Ï j�N`Íj[Î�PQË�_�_e]�PQRbNQ_�ÅQ_a]�PQ_e]fUW_�È�£¿�f�Àh»�Á[¼�¼�¾ � ��4�½��rb � 0��y¹>¹*e � ��� � �§½T4�Á!�^5;5)e c�½T4�ÁdÂ3��Ây¾>»]� LO]�l�Í�_eÆV_e]fÍ�_e]fUWl Ï Ë�_eNQ_{PQË�_+ÆfXdN¤Ð_a]�P�RbÅ ; .>Ó�PQËf_{Ë�_�XdÍ�RYÅ 2+(- Ó�Xd]fÍ�P`Ë�_�Ã�j�Í�RTSf_aN�RYÅ�]�jdP�X .�.F0�jdN Ï Ë�_aN`_¡P`Ë�_�ÆVX[N`_a]�PRYÅ + ÓPQË�_�Ëf_eXdÍ®RYÅ ; .>Ó�Xd]fÍ£PQË�_�Ã�j�Í�RTSf_aNORYÅ�]�jdP{X .�.(È

L UWjd]VUWZbÄfŤRbjd]·PQj�Í�N`X Ï Î|N`jdà P`Ë�_eÅQ_BX�UaUaÄ�N`X�UWRb_eÅ{RbÅ{PQËfX[P�P`Ë�_BÆfX[NkŤ_eN�RYÅ�Í�jdRb]�c®Ìd_aN`l Ï _eZTZ<X:PN`_eUWj:Ì�_aN`RT]fc�PQË�_BUWjdN`_4ŤPQN`ÄfUvP`Ä�N`_4j[Î�ÅQ_a]�P`_a]fUa_eÅe×>UajdÃ�Æ�Zb_aÃ�_a]�P`ÅeÓ(Ť_e]�P`_a]�PQRYX[ZhË�_eX�Í�ÅeÓ>Xd]fÍ�ifX�Ť_aÐ�[c6N`_aZYX:PQRbjd]VŤË�RbÆfÅ­ÛC,�.-UkË�Ä�]fÒ�ÅkÝ�XdNQ_�XdZTZ�NQ_�UWj:Ì�_aN`_eÍ Ï RªP`Ë1j:Ìd_eN äWV U XdUeUWÄ�NkXdUaldÈ\J�Ëf_£Ã�X[Rb]1Ťj�Ä�NkUW_eÅj[Ρ_eNQN`jdNkÅ�X[N`_�XdÍ�ÚKÄf]fUvPkÅaÈ<Éj�j�N`Í�RT]fX[PQRbjd]�RYÅ�_eÅQÆV_�UWRYX[ZbZTl�Í�R.�UWÄ�ZTPeÓhÃBj�ÅKP�ZTRbÒd_eZTl-iV_�UaXdÄfŤ_�RTP4jdÎ�PQ_a]Rb]�Ì�jdZbÌd_�Å�X�Í�_eÆV_e]fÍ�_e]fUWl­iV_aP Ï _e_a]®P Ï j�Uajd]�PQ_e]�PQÐ Ï jdNkÍ�ÅeÓ�Zb_eX�Í�Rb]�cBPQj�Ìd_eNQl�ÅQÆfXdN`ÅQ_�ŤP`X[PQRYÅKP`RbUeÅaÈ� � A 2 ¾V½%4 ����¾>À\¼B¼!��4��®Â3�e¼ ��»�ÁW4 2 4 ���eÀh½T4J�Ë�_�Í�RYÅKPkX[]fUa_�ÃB_�XdÅQÄ�N`_dÓ Ï Ë�j�ÅQ_­RbÃ�Æ�Zb_aÃ�_a]�P`X[PQRbjd] Ï X�Å�Í�_eÅ`UWN`RTi>_eÍ�RT]�ÅQ_eUvP`RTj�] R È Ø È Ø Ó�Í�_eÅQ_aN`Ìd_eÅÃ�jdN`_BÍ�RbÅ`UWÄfÅ`ÅQRTj�]�X[]VÍ·Ã�j[P`RTÌ:X:P`RTj�]�È�I^]·P`Ë�RYÅ�Ť_�UvPQRbjd] Ï _�UWj�]fÅQRbÍ�_eN+RªP+Î|N`jdà PQËfNQ_e_�Æ>_aNkŤÆ>_eUWPQRbÌd_�Åa×RTP`Å+Rb]�-fÄ�_e]fUW_�j�]§ÆfXdN`ÅQRT]fc®X�UaUWÄfN`X�UWlF0>Xd]�Xd]fX[Zbl�ŤRYÅ�j[ÎÍ�RYŤPQN`RTi�Ä�PQRbjd]fÅ+Rb]§P`N`XdRT]fRT]�c�Í�X[P`X£PQËfX[P4X[N`_ÅQ_a]fÅQRªP`RTÌ�_�PQj�PQË�_4Í�RbŤP`Xd]fUW_�Ì:XdNQRYX[i�Zb_eÅ�0fXd]fÍ�Ťj�Ã�_�_WÜ�X[Ã�Æ�Zb_eÅOj[Î�Ť_e]�PQ_a]VUW_eÅ Ï Ë�_aN`_�RTP�RYÅOÄfÅQ_WÎ|Ä�ZhRT]Í�RYÅQUaNQRbÃ�RT]VX:PQRb]�c�i>_WP Ï _a_a]�UajdÃ�ÆV_aPQRb]�c�X[]VX[Zbl�ÅQ_eÅeÈ� � A��y¹�����4�º#) c �fÁ[¼{¾ �\¼��<4 �­Â��a¼���»�ÁW4 2 4 �*�eÀh½T4�¾>»��­ÁdÁdÀh½(��Á�. J�X[i�Zb_ / ÅQË�j Ï Å�P`Ë�_N`_eÅQÄ�ZTP`ÅÎ|jdN�Ã�j�Í�_aZYÅ Ø Xd]fÍ à Ï RTPQË�Xd]fÍ Ï RTPQË�j�Ä�P4P`Ë�_£XdÍ:Ú¤XdUW_e]fUWl�X[]VÍ�Ìd_aN`i1Í�RYÅKPkX[]fUa_�Ã�_eX�ŤÄ�N`_eÅeÈ�I}PBRbÅUWZb_eXdN�PQËfX[P¡PQË�_�Í�RbŤP`Xd]fUW_+Ã�_eX�ŤÄ�N`_+RTÃ�Æ�N`j:Ìd_�Å�XdUaUaÄ�NkXdUWl�È

Ù±ËfX[PRYÅ�Ã�j�ŤPŤPQN`RTÒ�Rb]�c�RbÅ�ÚKÄfŤPË�j Ï ifX�Í�ZTlBÃ�j�Í�_aZ Ø ÆV_eN¤Î|j�NQÃ�Å Ï RªP`Ë�jdÄ�PPQË�_�Í�RbŤP`Xd]fUW_{ÃB_�X:ÐÅQÄ�NQ_�Èfg�j�j�Ò�Rb]�c�X:P¡P`Ë�_�ÆfXdN`ÅQ_aN�Þ Å�j�Ä�PQÆfÄ�PeÓ�P`Ë�_�N`_eX�Ťj�]£Î|j�N�PQË�RYÅORYÅ�PQËVX:P¡PQËf_�XdÍ�Ú¤X�UW_a]VUWl­Uajd]fÍ�RªP`RTj�]Rb]�P`Ë�_£Í�RYŤP`X[]VUW_�Ã�_eXdÅQÄ�N`_�RbÅ�XdÆ�Æ�N`j�Ü�RbÃ�X:P`RT]�c�ÅQÄ�i>UeX:P`_acdj�NQRbÖeX[PQRbjd]�RT]�Î|j�NQÃ�X[PQRbjd]�È�I^]�ÆfXdN¤P`RbUaÄ�ZbXdNeÓRb] Æ�Ë�NkXdÅQ_eŭŤÄVUkË XdÅ .�.�Å­X[]fÍ +�<,+*- Å·ÛyXd]fÍ�Ó�PQj¸X ZT_�ÅQÅQ_aN®_WÜ�P`_a]�PeÓ�RT] ; .�ÅkÝ Ï Ë�RYUkË XdZTÃ�j�ŤP­XdZªÐÏ X�l�Å�P`XdÒd_§_aÜ�XdUvP`ZTl�j�]�_�UajdÃ�Æ�Zb_aÃ�_a]�P®PQj1P`Ë�_-NQRbcdË�P­jdÎ�PQË�_eRTN�Ë�_�XdÍ�ÓPQËf_-X�Í�Ú¤XdUa_a]fUalâÎ|_�X:P`Ä�NQ__a]VUWj�Í�_eÅ4PQËfRbÅBÃ�jd]�jdÐCÌ:XdZT_e]fUWl�PQË�N`jdÄfcdË1ÆfXdN`XdÃ�_WPQ_eN`Å:M�Û +�2�3 .1P .�.�� +�<,+- 9 � #� � � �� 8 Ý�^ V X[]VÍM�Û +�2�3 . P .�.�� +�<,+*- 9 2 8 � #� � � �� 8 Ý ^ Ø È 8�RTc�Ä�NQ_ Ø _�ÅQË�j Ï Å�ÅQjdÃ�_�ÆfX[NQPQRYUWÄfZbXdNQZbl ifXd͸ŤPQN`ÄfUvÐPQÄfNQ_�Å¡NQ_aPQÄ�N`]�_�Í£i�l�Ã�j�Í�_aZ Ø Ï RTPQË�]�j�Í�RbŤP`Xd]fUW_+Ì:X[N`RbXdi�Zb_eÅeÈJ�Ë�_¡jdPQË�_eN�ŤÄ�N`Æ�N`RbÅQ_�RbÅFP`ËfX:P�ÅQÄ�i(UaX:P`_ac�jdN`RTÖ�X:PQRbjd]BUaXd]�i>_¡Ìd_eNQl�ÄVŤ_aÎ|Ä�Z8Ódi�Ä�P<PQËVX:P<PQËf_OÍ�RbŤP`Xd]fUW_Ã�_eX�ŤÄ�N`_{ËVXdÅ�Ã�X�ŤÒ�_eÍ�P`Ë�RbÅÄ�P`RTZbRªPKl�È H ]�_{Rb]�PQ_aN`Æ�N`_WPkX:PQRbjd]�Rb]£Ã�j:Ì�Rb]�c�Î|N`jdà PQË�_�Zb_eXdŤP�ÆfXdN`XdÃ�_WPQ_eN¤ÐRbÖa_eÍBÃ�j�Í�_aZVH�j�Í�_aZ Ø ÛJ[OjfÓ [Oj�ÝhPQj+P`Ë�_�Î|Ä�ZbZTlBÆfX[NkX[Ã�_aPQ_aN`RbÖa_eÍ4Ã�j�Í�_aZfH�j�Í�_eZ à ÛwS�_�ÅaÓ S�_eÅkÝ�RbÅ<PQËfX[P<PQË�_

à `

Page 27: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

H H �c.g L � g=Y g�6 É�ã�Å V É�ã�Å Z±à É�ã�ÅH�j�Í�_eZ Ø [ H [ H /WK È V U / `�È K�U à È Ø S R S�È K�U `�`�È _H�j�Í�_eZ Ø SL.Ñ [ H S�`�È ` U SW`�È /WU Ø È à�à ` V È ä U S Ø È SH�j�Í�_eZ Ø SL.Ñ SL.Ñ S / È S U SWS�È à�U Ø È V�R ` R È /WU SW_fÈ _H�j�Í�_eZ à [ H [ H S K È Ø%U SW`�È S U Ø È à S K S�È S U S V È RH�j�Í�_eZ à SL.Ñ [ H S / È /WU S / È S U Ø È Ø�V ` R È S U S R È àH�j�Í�_eZ à SL.Ñ SL.Ñ S�S�È /WU S ä È V U V È ä K ` K È /WU S K È `

* �'+� 8= �� !��k� � ��e���<W!�� � ���� �a� ��E��!��+ �z� +�!�!,(���4�:F @ (���� *$Y� (���� ���! �� E���QE� !'��&^k��,!�� � �� .�%!,+�(����� �� � ������-+�!,�k�*!��,� �%!���� � !,+�!O���k!6�I ��]E��! �� ���������!O��! ��k��+�!�F � � � ��� ( ���(*!,��!U�I+�!�� ����� ���+�!��� ��k ���� F� � ��eE� !#.��!,+����!a�Y���)(*!,+�� � �,+����k�k �����(�+���q�%! ��e�*!,+-�k!��T�!�� ��!�F � � ��� ' � � �+�!#E� !�*!,+���!,�Y����!9� �F�k!��T�!�� ��!,� � E���c��+ ' �,+����k�k �����(�+���u�%!,��e+�!��k�*!,�,� �%!�����Fgbì�i _<_

î yì��¡ôvï�ñ

y _

y _ o

ìñvçCôvú �_ _

î yôkû

y _

y _ o

Z(ôvç \vðKçCø

gTóYi ÿ�o(æ �

M��^y _è8ù:ì`è

ÿø8ù�ôqZ·ú��

ÿçCðKøCð¤ìkç8ë}ù�ðKçCø�ø}ìké��

5�687:9<;�=?>��� � ��!qA ���� ��!��e�#� (���D���+��k!�� �W+���������!6�I(�� �����W!�� � � �E�]� �o�W ������ �,!O��+-�k� (*� ��!�����+� DC �� ��������� �� � ������ � �]���W!�� ��� & ��$ &'� � ��I��( ��! � � F � � � � ����! "�" ����e � �)����������!,��!��T���$WE��!#��E��!,+V����� ��� !��� �� � ( � E��! $1,�"+# � ��e � �L������� ��!���!��T���F � �I(*��E�I!BA����� ��!�� !� E��!,+eE� !9 �S^k���!���� �]�,��� �W � ������+-E� !'�k� (*� ��!�����+� C��� ����B���+����!,�! +�� � ���� ����+k+�!�� E��!#!,+k+���+���$ �k�)E� !,�k!9�+�!O!BA��������!�� � � !,+�!#E��!��&^k���!�� ���Z�� �I�k��(*� ��!�����+� DC �� ����>���+� �( ��!�� �.�%!,+�����] ��IE� !� + ��� ��� ��F

XdÍ:Ú¤XdUW_e]fUWl�UWjd]VÍ�RªP`RTj�]�X�Í�Í�Å<X[N`jdÄf]fÍ Ø�Ø%U Rb]BX�UaUWÄfN`X�UWlF0�PQË�_�Ìd_eNQiBUWj�]fÍ�RTPQRbjd]�XdÍ�Í�ÅFXd]�j[P`Ë�_aN Ø È K�U 0X[]VÍ�ŤÄ�i(UaX[PQ_ecdjdN`RbÖeX:P`RTj�]�Sf]VX[ZbZTlBXdÍ�Í�Å�X+ÃB_eNQ_ V È S U ÈG/O]fÍ�_aN�P`Ë�RYÅ�Rb]�P`_aN`Æ�N`_WP`X[PQRbjd]�ŤÄfi>UeX:PQ_ecdj�NQRbÖeX[ÐPQRbjd]�RT]�Î|jdN`Ã�X[PQRbjd]�RYÅQ]�Þ P<X[ZbZ�PQËfX[P�ÄfÅQ_WÎ|ÄfZ(Û8X[]fÍ�PQË�RYÅ Ï X�Å�Ã�l�jdN`RTc�RT]fXdZ�X�ÅQÅQÄ�Ã�Æ�PQRbjd]\Ó�X�Å�P`Ë�RbÅ Ï XdÅ�PQË�_jdNkÍ�_eN�RT] Ï Ë�RbUkË�Î|_�X:P`Ä�NQ_�Å Ï _aN`_OjdN`RbcdRb]fX[ZbZTl�XdÍ�Í�_�Í�PQj�PQË�_�ÃBj�Í�_eZYÝWÈ�ã�Ä�P�Ä�]fÍ�_eNX[]fj[PQËf_aN�Rb]�PQ_eNQÆ�N`_WÐP`X[PQRbjd]4ÅQÄ�i(UaX[PQ_ac�jdN`RTÖ�X:P`RTj�]�RYÅ�Ì�_aN`l{ÄfÅQ_WÎ|Ä�ZC×aRb]�Ã�j:Ì�RT]fc�Î|NQj�ÃMH�j�Í�_eZ Ø Û;[{jfÓ [Oj�Ý(PQj{H�j�Í�_eZ à Û;[{jfÓ [Oj�ÝÏ _�Ť_e_+X Ø�V U RbÃ�Æ�N`j:Ìd_aÃ�_e]�P¡Í�Ä�_�PQj�ŤÄfi>UeX:PQ_ecdj�NQRbÖeX[PQRbjd]£ÆVX[NkX[Ã�_WP`_aNkÅ�0�XdÍ:Ú¤XdUW_e]fUWl�PQË�_e]·XdÍ�Í�Å¡XØ È K�U RTÃ�Æ�N`j:Ìd_eÃB_e]�P�0�X[]VÍ�P`Ë�_�Ìd_eNQi�UWj�]fÍ�RTPQRbjd]�XdÍ�Í�Å{X4SV]fX[Z ØTU RbÃBÆfNQj:Ì�_aÃ�_a]�PeÈ

8�N`jdÃ/Xd]�_a]�c�RT]f_a_aN`Rb]�c4Æ>jdRb]�P�jdÎ�Ì�Rb_ Ï Ó�c�RTÌ�_a]£X�UkË�jdRYUW_�j[Î Ï Ë�_aPQË�_eNP`j�X�Í�Í�ÚKÄfŤP¡Í�RbŤP`Xd]fUW_�jdNÅQÄ�i>UeX:P`_acdj�NQRbÖeX[PQRbjd]®PQj£PQË�_�Ã�j�Í�_aZCÓ>Í�RYŤP`X[]VUW_4RYÅOÆfNQ_aÎ|_aNkX[i�Zb_dÈ>ãÄ�P�ZbRT]�c�Ä�RYÅKP`RbUeX[ZbZTl�RTP�RYÅ�UaZT_�X[N¡P`ËfX:PXdÍ:Ú¤XdUW_e]fUWl·UeX[]-jd]�Zbl·X[ÆfÆ�NQj�Ü�RbÃ�X:PQ_BŤÄfi>UeX:PQ_ecdj�NQRbÖeX[PQRbjd]�Ó(X[]fͧPQËVX:P�ŤÄfi>UeX:PQ_ecdj�NQRbÖeX[PQRbjd]·RYÅ�ÃBj�NQ_=QUajdN`NQ_�UvP�?§Rb]¸ÅQjdÃ�_�ÅQ_a]fÅQ_dÈ<I^]¸Î|N`_a_ Ï j�N`ÍâjdNkÍ�_eNBZYX[]fcdÄfXdcd_eÅ�Í�RYŤP`X[]VUW_�Ã�X�l1]�j[P�XdÆ�Æ�N`j�Ü�RbÃ�X:P`_ÅQÄ�i>UeX:P`_acdj�NQRbÖeX[PQRbjd]·X[P+XdZTZ Ï _eZTZ �'X£UajdÃ�Æ�Zb_aÃ�_a]�P+Ã�X�l�XdÆ�Æ>_eX[N�PQj­_aRTPQË�_eN�PQË�_BNQRbcdË�P�jdN�ZT_aÎ�P+jdÎPQËf_�Ë�_eX�Í�ÓfUWj�]�Î|ÄfÅQRT]fc�P`Ë�_�XdÍ:Ú¤XdUW_e]fUWl­UWjd]VÍ�RªP`RTj�]�È

� � A�� A $�½T4���À<4�»�ÁdÂJ4 �§Ây» �½q�fÂy»�Ây» � � ��¼ � JhXdi�Zb_eÅ�S�X[]fÍ ä ÅQË�j Ï P`Ë�_�_WÊ(_eUWP�j[Î�Í�RbŤP`Xd]fUW_�j�]PQËf_+Í�RbŤPQN`RTifÄ�PQRbjd]®j[Î�ÃBj�Í�RTSf_eN`Å�Rb]£P Ï j4jdÎ\PQËf_�Ã�j�ÅKP�Î|NQ_�Õ�Ä�_a]�POŤl�]�P`X�UvP`RbU�_a]�Ì�RTN`jd]fÃB_e]�P`Åe× ,�.�X[]VÍÌd_eNQi�Ã�j�Í�RTSVUaX[PQRbjd]�ÈdJ�Ëf_OÍ�RbŤPQN`Rbi�Ä�PQRbjd]�Ì:X[N`Rb_eÅ<X+cdN`_eX[P�Í�_eXdZ Ï RªP`Ë�Í�RbŤP`Xd]fUW_�ÈdH�j�ÅKP�ŤPQN`RTÒ�Rb]�c+RbÅ<PQË�_Ï X�l�P`ËfX:P�PQËf_�Æ�N`jdiVX[i�RbZTRTPKl�j[Î +�2�3 .BRb]fUaNQ_�XdÅQ_eÅ Ï RTPQË­RT]VUWN`_eXdÅQRb]�c4Í�RYÅKPkX[]fUa_d×�Î|N`jdà /�ØTU P`j]S ä U PQjä S U Rb]®PQË�_ ,�.£UeXdÅQ_dÓ�Î|N`jdà S U P`j ` V U PQj ä ` U Rb]­P`Ë�_�Ìd_eNQi�UaX�Ť_�È^.�X�UkË­Ã�j�Í�RTSf_aNOÆfNQj�ifX[i�RbZbRªPKlcd_e]�_aNkX[ZbZbl·Í�_eUaNQ_�XdÅQ_eÅ Ï RªP`Ë�Í�RbŤP`Xd]fUW_�ÈF8fjdN�_aÜ�XdÃ�Æ�ZT_�Ó>PQË�_�Æ�N`jdiVX[i�RbZTRTPKl�j[Î�Ť_e_aRb]�c�X#.�.�Ã�j�Í�RTSf_aNPQj�Xd]#,�.£Í�_eUWN`_eX�Ť_�ÅÎ|NQj�à Ø%/ È /�U PQj K È K�/�U PQj V È ä�R U È

à�/

Page 28: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

y _

y _ o

j j jp

æ���ü � �_uhö ��� ` æ�ò�ÿIu æ�� ` æ�ò�ÿSuhö ��� ` æ�ò�ÿSu æ�� ` æ�ò�ÿIu\ö ����ü � ��u �ìkñvð p �ìkñvð p �ìkñvð pd���j d�f ÿaü � _ f f�j ý ÿaü � _ ��d�j n ý ÿeü�� _� d�j d _<_ ý�j ý�d _<_ ��j � _ _ �j ýkþ ÿ�o(æ � �j f ÿ�o(æ � ��j ývý ÿ�o(æ � �j þ y _ � j ývý y _ ��j vý y _�j � _ ��j � � _ ��j � _��j n � ÿ a ��j f ÿ a ��j �� ÿ a��j ý n æ �Xx _ ��j n _ � y ��j ��d _ � y��j ýkþ _ � y ��j æ���� _ ��j �kþ æ��^x _��j n æ���� _ ��j��¤ý æ �Xx _ ��j � æ ��� _��j � f ü�� ��j �� g ��� o<g ��j � ÿ��j � f � �Xyhx _ ��j � � � _ ��j � g ��� o<g��j � � � _ ��j ��� � ��j ��� ���j � x�x ��j ��� ��� � ��j ��� � o a��j ��� � oOy ��j ��� � o ��j ��� � o��j ��� ��� ���j ��� ` � æ a��j ��� � ���j ��� gYò � o<g* �'+� 8= ��# ���k+� �( �W� ���� � � �����G�;�! +��� �� ����e��!,� !,+���!6� �� �*���� �J�����W ��!,+��Q����� &f� � �k!�!#k+�!�!#��cE� !#��!%� � $*����+� ������]�W ������ �,!�� � +���� E��![� ! � F @ ( � ��� � ��! �� �QE��!#������ ��! + �� ��&^k���!��T ��)E� !c��! ��^$

� ( � ��� � ��!��� �QE��!,+�!O ��-��%!,+�(I(*!, � !�!��IE��![� ! �]�� �DE��!O������ ��! + F � ��!�� ���k+� �( �W� ���� � � ! +�!� ����,� ����!6��� +���� E� ! +��� � � ��� � !%�%!��T���� ��+ !���u� � �hE��!'E��+�!�!O����k!�� �� �k!��,� ���� � ' � '�� �#�hE� !k+�!�!�( ��4�nF

� _�Xoj j j

p

æ���ü � �_uhö ��� ` æ�ò�ÿSu æ�� ` æ�ò�ÿIu\ö ��� ` æ�ò�ÿIu æ�� ` æhò�ÿIu\ö ����ü � ��u �ìkñvð p �ìkñvð p �ìkñvð p � y _ g � ý��j f�d ÿeü�� _ �vý�j � ÿeü�� _�¤ý�j f _<_ �j d _ _ � j d� _ _f�j þ ÿ�o(æ � g � �j y _ g � ��j � ÿ�o(æ �f�j �d ÿeü�� _ �j�� n ÿ a ��j ý y _ý�j vý ÿ a g � �j d�� æ ��� _ ��j þ ÿ aý�j���� æ���� _ �j n ý ÿ�o(æ � ��j�� n æ ��� _ý�j�� æ��^x _ � j ý ÿ�o(æ � g � ��j��Kþ ÿ�o(æ � g � �j kþ ÿ�g � � j þ�d y _ ��j �vý y _ g ��j f � o � j��� ÿ a g � ��j �kþ _�� y�j d n y _ ��j f æ��^x _ ��j � ÿ1g ��j f _ � ü ��j _�� y ��j ��� �XoOy��j n ÿ�o(æ � ��j���� _ � ü ��j ��� � o��j þ � ÿ a ��j �� ÿ ��j ��� � � _��j�� n �Xo ��j � n ÿ1g � ��j ��� ÿ����j�� ÿ ��j � n g ��� o<g ��j ��� ÿ��j�� _ � y ��j � ` � æ a ��j ��� ` � æ a��j � f � � _ ��j � g�ò � o<g ��j ��� æ��Xx _��j �kþ � o� ��j ��� � ��j ��� g ��� o<g��j � � oOy ��j ��� � o _ ��j ��� g�ò � o<g��j � � o�� ��j ��� �Xo��j � ` � æ a ��j ��� � � _��j � g�ò � o<g ��j ��� � o��j � � o a ��j ��� î y\ü]x��j � ÿ�o(æ � ���j � � �Xy^x _��j ��� ���j ��� � o _��j ��� � o ���j ��� î yhü]x��j ��� �hü��j ��� g ��� o<g* �'+� 8= ��# ���k+� �( �W� ���� � ��� ���!� �!,+��� �������e��!�� ! +���!6�I�� �*���� �;������ � !,+������ �%!,+�( � �E�� �� (�" � �k!�!'k+�!�!#��aE� !��!%� � $ �����+� ���� �_�W ������ �,!���� +���� E� ! � ! � F @ ( � ��� � ��! �����E� !-������ � !,+e �� ��&^k��,!��TQ��cE��! ��! ��^$

� ( � ��� � ��!��� �QE��!,+�!O ��-��%!,+�(I(*!, � !�!��IE��![� ! �]�� �DE��!O������ ��! + F � ��!�� ���k+� �( �W� ���� � � ! +�!� ����,� ����!6��� +���� E� ! +��� � � ��� � !%�%!��T���� ��+ !���u� � �hE��! �� ���k+� �( �W� ���� � �� �k!��,� ���� � ' � '�� F @ �4AW ��� ��+ ��%!,+�(�� � �%!,+�( �Q�1�Y ����L (�" ����������!,��!��TQ��)E� !, �+ +� ����T � � !,+�!9!BAW����� ��!U�:� +���� E� !��k!O����� ���� ��,��F

à S

Page 29: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

n f� y _

y _ o _ _

î y y _

y _ o _ _

� y _

y _ o _<_

î y y _

y _ o

_<_

n �� y _

y _ o _<_

î y y _

y _ o ÿ�o(æ �

�� y _

y _ o _<_

î y y _

y _ o

ÿ�o(æ �

* �'+� 8= >��W����!O�� �!,+�� �� �%!O��k+����,���+�!��_� ��+-E� !#�����!#�k��+ � ���!9�k!��T� !,� ��!#�#� �q�Y��� �Y� � &�"�,�"�"'"�" ��IE��!� +���� ��k!�$ &�"�,'"�" $1,�"�# ��]E� !#�k!,����� �]� ��k! � $ � � ! +�!#E� !O �S^k���!���� � ����� �W �� ���� �� ���� �� ��� ��P� !�� (*!, � !�!,�E� ! � �a��k+�� � ���+�!���F � � !'�*!,+���!��T����!�� �+�! ���%!��g� +���� �k!��,� ���� � ' � '�� � � E� ! k+�!,!�(��� �:F � �D(*��E�D� ��k!,�+� ����T �;(�+��� �u� �� �L��k+����,���+�!,� �+�!O����+�!f� +�!��T� !��T F

�vý� � _

� ÿ a� _

ü�� � _

� y _ _<_

ý� � _

� ÿ a� _

ü�� � _� y _

_<_

n d � _

� y _

y _ o � _

� � _ _

� � _

� y _

y _ o � _� �

_<_

* �'+� 8= > >W����!O�� �!,+�� �� �%!O��k+����,���+�!��_� ��+-E� !#�����!#�k��+ � ���!9�k!��T� !,� ��!#�#� �q�Y��� �Y��$ � � !,+�!OE��!f�%!,+�(I����� �� � ���� ��]E� !f�� ���������!O��! ��k�W+�!�� ���� �� ��� ��P� !�� (*!, � !�!,�]E� !' � �L��k+����,���+�!,��F � �](*��E�I� ��k!,�-E��!��� � � �k���u� ��!��T-�������W�k!�� � ���� ��!,V�� ���� !,+-�W+���(��( ��� �I� � �W!,+eE� !'������!�� $!����!#��cE� !O��� ���+���(��( ��� � �]�#� ��!���!,+��� �����o�=� ������ � !,+ ��G����� �Y �����o�W!��*!�� �W!�� ����E��� � +����k�k!��'��%!,+�( F ��� ����� ���� ��+#����I�����G�;�! +��� �� ��wF �

� � A�� E ���<4 �®Â3�e¼ �f»hÁ�4Q$�4 ��¼eÀh½T4 ���f»h¿ 9­Â3� �(¼."%��½(��»�Á���Ây» � ��¼e½:ÀhÁd¼eÀh½%4 � ã�j[P`Ë PQËf_®X�Í�Ú¤X:ÐUW_e]fUWl�X[]fÍ�Ìd_eNQiBUWjdÃ�Æ>jd]�_e]�P`ÅFj[ÎVPQË�_¡Í�RYŤP`X[]VUW_�Ã�_eXdÅQÄ�N`_�XdZTZbj Ï P`Ë�_�ÃBj�Í�_eZ�PQj+Zb_eXdNQ]BX{Æ�N`_WÎ|_eNQ_e]fUW_Î|jdN4NQRbcdË�P¤Ð}i�NkX[]fUkËfRT]�c®ÅKP`NQÄVUvPQÄfNQ_�ÅaÈ 8�RbN`ŤPeÓ�Uajd]fÅQRbÍ�_aN+PQËf_�XdÍ�Ú¤X�UW_a]VUWl§Uajd]fÍ�RTPQRbjd]\È\JhXdi�Zb_ Ø�V ŤË�j Ï ÅÅQjdÃ�_�_WÜ�XdÃBÆfZT_�Å Ï Ë�_eNQ_�N`RTc�Ë�P¤Ð}i�N`Xd]fUkË�Rb]�c�ÅKP`NQÄVUvPQÄfNQ_�Å{X[N`_�Ã�jdN`_+Î|NQ_�Õ�Ä�_a]�PeÈ /{ÅQRT]fc�PQË�_BÅKPkX:P`RbŤPQRYUaÅÎ|N`jdÃ/PkX[i�Zb_eÅOS�X[]VÍ ä Ó�PQË�_�Æ�N`jdiVX[i�RbZTRTPKl�j[Î�PQËf_+XdZªP`_aN`]fX:P`RTÌ�_�ÅKP`NQÄfUWPQÄ�N`_eÅ�UeX[]®iV_�UeX[ZYUWÄ�ZYX:P`_eÍ�È�J�Ë�_N`_eÅQÄ�ZªPkÅ¡X[N`_+cdRbÌd_a]­iV_eZTj Ï È�J�Ëf_�N`RbcdË�P¤Ð}i�NkX[]fUkË�Rb]�cBÅKP`NQÄfUWPQÄ�N`_eÅ�c�_WP¡Ë�RbcdË�_eN¡Æ�N`jdifXdi�RTZbRTPKl·ÛyX[ZTPQËfjdÄ�c�Ë

à[ä

Page 30: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

PQËfRbÅ¡RYÅ�i>_WÎ|jdN`_�PQË�_�Zb_WÜ�RYUaXdZ(Í�_aÆ>_a]fÍ�_e]fUWl­Æ�N`jdifXdi�RTZbRTPQRb_eÅ�X[N`_�Ã�Ä�ZTPQRbÆ�ZTRb_eÍ®Rb]�ÓfÅQj4P`Ë�RYÅZ=¤Æ�N`RbjdN�?�Æ�N`_WÎ�Ð_aN`_a]VUW_�Î|j�N�NQRbcdË�PQÐCi�NkX[]VUkË�RT]fc�ŤPQN`ÄfUWPQÄ�N`_eÅ�UeX[]�i>_·j:Ìd_eN¤Ð}NQÄfZT_�Í�i�l�Zb_WÜ�RYUaXdZ{Æ�N`_WÎ|_eNQ_e]fUW_�Å`ÝWÈ�I}Î+PQË�_Í�RYÅKPkX[]fUa_­Ì:XdNQRYX[i�Zb_eÅ Ï _eNQ_­]�j[P�UWj�]fÍ�RTPQRbjd]�_�Í1j�]�Ó\P`Ë�_®Æ�NQj�Í�ÄVUvP�j[ÎOP`_aN`Ã�Å4Î|jdNBP`Ë�_£P Ï j�XdZªP`_aN`]fX:ÐPQRbÌd_�Å Ï jdÄ�ZYÍ£i>_�RYÍ�_a]�PQRYUaXdZ8ÓVX[]fÍ£PQË�_�Ã�j�Í�_eZ Ï j�Ä�ZYÍ£ËfX�Ì�_+]�j�Æ�NQ_aÎ|_aN`_a]fUa_�Î|jdN¡jd]f_+ŤPQN`ÄfUWPQÄ�N`_+j:Ìd_aNX[]fj[PQËf_aN�È

6�N`jdiVX[i�RbZTRTPQRb_eÅ�Î|jdN�P`Ë�_+P Ï j�X[ZTPQ_eNQ]VX:PQRbÌd_O.�.�ÅKP`NQÄfUWPQÄ�N`_eÅ�Rb]£PkX[i�Zb_ Ø�V Û|_aÜ�UaZTÄVÍ�RT]fcBÆfNQj�ifX[i�RbZbRªPKlPQ_eNQÃ�Å�PQËfX[P�XdNQ_{Uajd]fŤP`Xd]�P�XdUaNQj�ÅQÅ<PQË�_{P Ï j4ŤPQN`ÄfUWPQÄ�N`_eÅeÈ�Lo^ Ø Ã�_eXd]fÅ�Í�RYŤP`X[]VUW_{RYÅ�XdÍ�Ú¤X�UW_a]�P�Ó�L�^ VÃ�_eXd]fÅ¡]�jdP¡X�Í�Ú¤XdUa_a]�PkÝW×9£Â�� �(¼#"9��½(��»hÁ���Ây» �

M�ÛC.�.�P ,�. 9 ,�. <N9�+��- Ý M�Û +�2�3 . P ,�. 9 ,�. <N9�+���� ÝM�ÛC.�.�P ,�. 9 ,�. <N9�+��- Ý M�Û +�2�3 . P ,�. 9 ,�. <N9�+���� Ý^ V � ØT/W/��'V � SWS KYR��'V � Ø%/�/��'V � S�S KYR ^ V � V�à _ KWK

��¾>» 9£Â3� �(¼."%�h½(��»�Á��hÂ8»X�M�ÛC.�. P ,�. 9 ,�. <N9�+��- Ý M�ÛC.�.�P ,�. 9 ,�. <N9�+���� ÝM�Û +�2�3 . P ,�. 9 ,�. <N9�+���� Ý M�Û +�2�3 . P ,�. 9 ,�. <N9�+��- Ý^ V � ØT/W/��'V � V�KWK /��'V � S�S KWR��'V � /YV / S[^ V � V�V ` Ø%/ S

6�N`jdiVX[i�RbZTRTPQRb_eÅ�Î|jdNPQËf_ +�<,+*- UaXdÅQ_{Rb]�PkX[i�Zb_ Ø�V Ó�X�ÅQÅQÄ�Ã�RT]fc�PQËf_ +�<,+*- Uajd]�P`XdRT]VÅ�X�Ìd_eNQi�Û�o^ VÃ�_eXd]fÅ¡Ã�j�Í�RªS>UaX:P`RTj�]®Í�j�_�Å�]�j[P{UaNQj�ÅQÅ�XBÌd_eNQi\Ó �o^ Ø Ã�_eX[]VÅ�RªP{Í�j�_�Å`ÝW×9£Â�� �(¼#"9��½(��»hÁ���Ây» �

M�ÛC.�.1P ,�. 9 ,�. <N9�+��- �91;���� Ý M�Û +�<,+*- P ,�. 9 ,�. <N9�+��- �91;���� ÝM�Û +�2�3 . P ,�. 9 ,�. <N9�+����D91;��- Ý M�Û +�263 . P ,�. 9 ,�. <N9�+����D91;��- Ý^ V � Ø%/W/��'V � VWR K _ �'V � ä / ` K��'V � ä / ` K ^ V � VWV K[ä /WK

��¾>» 9£Â3� �(¼."%�h½(��»�Á��hÂ8»X�M�ÛG.�. P ,�. 9 ,�. <N9�+��- Ý M�Û +�263 .1P ,�. 9 ,�. <N9�+��- ÝM�Û +�<*+*- P ,�. 9 ,�. <N9�+���� Ý M�Û +�2�3 . P ,�. 9 ,�. <N9�+����D91;��- Ý^ V � Ø%/�/��'V � /YV / S �'V � V�àdà S �'V � ä / ` K ^ V � V�V�à / S ä

� � A�� � ���<4 � 4�½q� ��¾>»h¿�Â|¼�Ây¾>» ��»�¿ 9£Â3� �(¼."U�4½(��»�Á��hÂ8»X� ��¼a½:ÀhÁd¼eÀh½T4 � JhXdi�ZT_ ØdØ ÅQË�j Ï ÅFŤj�ÃB__WÜ�XdÃBÆfZT_�Å Ï Ë�_aN`_�PQË�_�Ì�_aN`i®Uajd]fÍ�RTPQRbjd]®RYÅ�RTÃ�Æ>jdNQP`X[]�PORb]®Í�RªÊ(_aN`_a]�PQRYX:P`RT]fc�PQË�_+Æ�N`jdifXdi�RbZTRTPKl�j[ÎhP Ï jŤPQN`ÄfUvP`Ä�NQ_�ÅaÈfI^]�iVjdPQË·UaX�Ť_�Å¡X[]�XdÍ:ÚKÄ�]fUvP�UaX[]�X[P¤P`X�UkË�_aRTPQË�_eNOË�RbcdË�jdNOZbj Ï Ó�i�Ä�P{PQË�_�ËfRTc�Ë·X:P¤PkXdUkË�ÐÃ�_a]�PON`_eÅQÄ�ZªPkÅ�RT]�X�Í�_eÆV_e]fÍ�_a]VUWl­UaNQj�ÅQÅQRb]�cBXBÌ�_aN`i�Ó�X[]fÍ®ËfX�Å�ZTj Ï _aN�Æ�N`jdiVX[i�RbZTRTPKldÈLO]·XdZªP`_aN`]fX:P`RTÌ�_�PQj�PQËf_4ŤÄfN¤ÎyX�UW_�ŤPQN`RT]�c�Î|_�X:P`Ä�NQ_ Ï jdÄfZbÍ®i>_4X�Æ�N`_eÍ�RYUaX[PQ_�ŤÄVUkË·XdÅ = Ï _aN`_�X[]�lj[Î�PQË�_®Æ�N`_aÌ�RbjdÄfÅBÃ�j�Í�RªSV_aNkÅ�Rb]+? ?�Ó Ï Ë�_aN`_ ? RbÅ�X-Ť_aPBjdÎ�]�j�]�ÐCPQ_aN`Ã�RT]VX[ZYÅ�P`ËfX:P�X[N`_£ZbRbÒd_aZbl�PQjUWj�]�P`X[Rb]�X�Ìd_aN`i�ÓdÅQÄfUkË�XdÅ ; .(Ó +�<,+- Ó + j�N +'- È[J�ËfRbÅ Ï jdÄfZbÍ�X[ZbZbj Ï PQËf_¡ÃBj�Í�_eZ�PQj�ËVX[]fÍ�Zb_OUaX�Ť_�ÅFZTRbÒd_PQËf_{SfNkŤP�_aÜ�XdÃ�Æ�ZT_�RT]£P`Xdi�ZT_ ØdØ UWjdN`N`_eUvP`ZTl�È�J�Ë�_+ÅQ_eUWj�]fÍ�_aÜ�XdÃ�Æ�ZT_�ŤËfj Ï Å Ï Ë�l�RªP�RYÅ�Æ�N`_WÎ|_eN`Xdi�Zb_OPQjUWj�]fÍ�RTPQRbjd]�jd]®P`Ë�_�ŤÄfN¤ÎyX�UW_�ÅKP`NQRb]�cVÈ�I^]®PQË�RYÅOUaX�Ť_�P`Ë�_�Ìd_eNQi®RYÅ =¤Rb]�Ì�RYŤRbi�Zb_�?�PQj�P`Ë�_+PQj�Æ�ZT_eÌd_aZCÓfX�Å�RªPRYÅ¡cd_e]�_aNkX:P`_eÍ�N`_eUaÄ�NkŤRbÌd_eZTl�i>_aZbj Ï P`Ë�_ ,�.�jdi�ÚK_�UvP�È

RWV

Page 31: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

� � A���0���¼a½:À�Á[¼�À\½(�^5 ���!� ��4 )+��»(¼eÂ8Á+�+½T4�� 4�½T4�»hÁ�4 � H ]�_£Ë�l�ÆVjdPQË�_�ŤRYÅ Ï jdÄfZbÍ i>_­PQËfX[P�Zb_WÜ�RbUeX[ZŤP`X:P`RbŤPQRYUaÅ�XdNQ_BN`_eX[ZbZbl Ï ËVX:P�RbÅ+RbÃ�ÆVj�N¤PkX[]�P+RT]-ÆfX[NkÅQRT]�cV×>PQËfX[P�XdNQN`RbÌ�Rb]�c®X:P�X®UajdN`NQ_�UvP�RT]�PQ_eNQÆfNQ_aP`X:ÐPQRbjd]�Î|jdN�X�ÅQ_a]�P`_a]fUa_ORbÅŤRbÃ�Æ�Zbl�X+Ã�X[P¤PQ_eN�jdÎ�Sf]fÍ�Rb]�c�P`Ë�_{Ã�j�ŤPÅQ_aÃ�X[]�P`RbUeX[ZbZTl�Æ�ZbXdÄfÅQRTi�Zb_{Xd]fX[Zbl�ŤRYÅaÓX[]VÍ�P`ËfX:P�PQË�_�ŤP`X[PQRYÅKP`RbUeÅN`_aZYX:P`_eÍ�PQj�ZT_aÜ�RbUeX[Z(Í�_aÆ>_a]fÍ�_a]fUaRT_�Å¡X[Æ�Æ�N`j�Ü�RTÃ�X[PQ_OP`Ë�RYÅ�]�j[P`RTj�]£j[ÎhÆ�ZbXdÄfÅQRªÐi�RbZTRTPKldÈfI^ÃBÆfZTRYUWRTPQZbldÓ Ï _dÞ Í£i>_�ÚKÄfŤP¡X�Å Ï _eZTZ�jdÊ ÛyÃ�X�l�i>_+_aÌ�_a]£i>_WPQPQ_eN¡j[Ê�Ý�RªÎFÅKPkX:P`RbŤPQRYUaÅ Ï _aN`_�UeX[ZYUWÄ�ÐZYX:PQ_�Í�i>_WP Ï _a_e]�RªP`_aÃ�Å�X:PPQË�_�Æ�N`_eÍ�RYUaX[PQ_WÐ^X[N`cdÄfÃB_e]�P�ZT_eÌd_aZCÓ Ï RªP`Ë£]�j�NQ_aÎ|_aN`_a]fUa_¡PQj�ÅKP`NQÄVUvPQÄfNQ_�È�J�Ë�_Í�RYÅKPkX[]fUa_�Æ�N`_WÎ|_aN`_a]VUW_eÅ+Äf]fÍ�_aN�PQË�RYÅ�Rb]�P`_aN`Æ�N`_WP`X[PQRbjd]�X[N`_�ÚKÄfÅKP4X Ï X�l�j[Î�Ã�RªP`RTc�X:P`RT]�c·ÅQÆfXdN`ÅQ_BÍfX:P`XÆ�N`jdi�Zb_aÃ�Åe× Ï Ëf_a]�P`Ë�_�ZT_aÜ�RYUaXdZ�ÅKPkX:PQRYŤPQRYUaÅ�X[N`_OPQj�jBŤÆfXdN`ÅQ_dÓdPQË�_e]£ÎyXdZTZbRb]�c4ifX�UkÒ�jd]£ÅQjdÃ�_�ŤPQN`ÄfUWPQÄ�NkX[ZÆ�N`_WÎ|_eNQ_e]fUW_BRbÅ�]�jdP�RYÍ�_eXdZ8Ó(i�Ä�P+RYÅ+X:P�ZT_�XdŤP�i>_WPQPQ_aN�P`ËfX[]-UkËfX[]fUa_dÈ(J�Ë�RYÅ�Ë�l�Æ>j[PQËf_eÅQRbÅ�RYÅ�ÅQÄ�c�cd_eŤPQ_�Íi�l�Æ�N`_aÌ�RTj�ÄfÅ Ï j�NQÒ�jd]®Å¤Æ>_eUaRªS>U�UeXdÅQ_eÅj[ÎhX[P¤PkXdUkË�Ã�_a]�P¡X[Ã�i�RTc�Ä�RTPKl�ÅQÄfUkË®XdÅN.�.�X[P¤PkXdUkË�Ã�_a]�P�Û|_�È cVÈTÓÅQ_a_·ÛCÉj�ZTZbRb]fÅ�X[]fÍ�ã�N`j�j�Ò�Å ä K ÝQÝvÓ Ï Ë�RYUkË�ËVXdÅ�ÅQË�j Ï _eÍ�P`ËfX:P�Ã�j�Í�_eZbÅ Ï RbZTZ�ÆV_eN¤Î|j�NQà i>_WPQPQ_eN�cdRbÌd_e]Zb_WÜ�RbUeX[Z�ŤP`X[PQRYÅKP`RbUeÅaÓfXd]fÍ£PQËfX[P{XBŤPQNkX[RbcdË�POŤPQN`ÄfUvP`Ä�N`XdZ(Æ�NQ_aÎ|_aN`_a]fUa_+RbÅ¡Ã�_eNQ_eZTl£X�ÎyXdZTZTÐCiVXdUkÒ(È

ã�Ä�P�Ťj�ÃB_�_WÜ�X[Ã�Æ�Zb_eÅ�ÅQÄ�cdc�_eŤPOPQË�RYÅ�RbÅ�]�jdP{P`Ë�_BUeXdÅQ_d×VPQËfX[PeÓ(Rb]·ÎyXdUWPeÓ(Ã�X[]�l�Ť_e]�PQ_a]VUW_eÅ�ËfX�Ì�_ÅQ_aÌd_eN`XdZ[_eÕ�ÄfXdZTZbl�ÅQ_aÃ�Xd]�P`RbUeX[ZbZTl�Æ�ZYX[ÄfÅQRTifZT_�Xd]fX[Zbl�Ť_�ÅaÓWifÄ�P�PQËVX:P�ŤPQN`ÄfUWPQÄ�NkX[Z[ÆfNQ_aÎ|_aN`_a]fUa_eÅ�Í�RYŤPQRb]�cdÄ�RYÅQËŤPQN`jd]�c�ZTl�i>_WP Ï _a_e]£P`Ë�_aÃ�È>JhXdÒd_�PQË�_+Î|j�ZTZbj Ï RT]fcB_aÜ�X[Ã�Æ�Zb_�Û|Î|NQj�Ã"Û;6F_eNQ_eRTNkXBX[]fÍ­Ù-XdNQN`_a] S V ݤÝW×

� ��*) cQ5;4�¹P�jdË�] Ï XdÅ�iV_eZTRb_aÌ�_eÍ­PQj�ËfX�Ì�_+iV_e_a]�ŤËfj[P¡i�l£ã�RTZbZ

Ñ�Ä�N`Æ�N`RbÅQRb]�cdZbldÓ�PQË�RYÅ�Ť_e]�PQ_a]VUW_{ËVXdÅP Ï jBX[]fXdZTl�ÅQ_eÅ � ã�RbZTZ�UeX[]�i>_�PQË�_+Í�_a_eÆ­ÅQÄ�i�ÚK_�UvP�j[Î\_eRªP`Ë�_aN=¤i>_aZbRb_aÌd_�Í^?­jdN =QÅQË�j[P�?�È S�_WP+ÆV_ejdÆ�Zb_�ËfX�Ìd_BX�Ìd_eNQl�ŤPQN`jd]�c­Æ�N`_WÎ|_aN`_a]VUW_�Î|j�N�ãRbZbZhP`j­i>_�Í�jdRb]�c£PQË�_ÅQË�j�j[PQRb]�cVÓ�Ťj�Ã�ÄfUk˸ÅQj�PQËVX:P�PQËf_al�Ã�X�l1_eÌd_e]âÃ�RYÅQÅ�P`Ë�_·ÅQ_eUWj�]f͸X[]fXdZTl�ÅQRbÅeÈOÛyJhj1Ť_e_®PQËfX[P�PQË�_Í�RYŤÆfNQ_aÎ|_aN`NQ_�Í·X[]fXdZTl�ÅQRbÅ{RbÅ�ÅQ_aÃ�X[]�PQRYUaXdZTZbl�Õ�Ä�RªP`_�ÆfZbXdÄfŤRbi�Zb_dÓ(UWj�]fŤRYÍ�_eN��Oo�~�~�x`sa~�oysa¥�sku�³���n�� z^��nfr:¥:sxksksW�§p¤nf�:zCÈ Ý

L{Å�_aÌ�RYÍ�_a]fUa_¡PQËVX:PŤPQN`ÄfUvP`Ä�NkX[Z�Æ�N`_WÎ|_eNQ_e]fUW_�Å�UaXd]�_aÌd_e]�j:Ìd_eN¤Ð}NQRYÍ�_�Ť_eÃ�X[]�PQRYU�Æ�ZYX[ÄfÅQRTifRTZbRªPKl�Ó[PkX[Òd_PQËf_+Î|jdZbZTj Ï Rb]�c�_WÜ�X[Ã�Æ�Zb_�Û�Î|N`jdÃ3Û;6�Rb]�Ò�_aN Øeä�ä _�ÝQÝv×

� ��*) cQ5;4\A8�ZTRbÆ·Å`X[RYÍ�P`ËfX:P�Ñ�Õ�Ä�_�X[Ò�l Ï RbZTZ\Í�j�P`Ë�_ Ï jdN`Ò�ld_�ÅKP`_aNkÍ�X�l

J�Ë�RYÅ{ÅQ_a]�PQ_e]fUW_�RbÅ�X�c�XdN`Í�_a]�ÆfX:P`Ë�×VPQË�_BÅKP`NQÄfUWPQÄ�NkX[Z\Æ�NQ_aÎ|_aN`_a]fUa_�Î|jdNX=¤l�_eŤPQ_aNkÍ�X�l*?�PQj�Ã�j�Í�RTÎ|lPQËf_�Ã�j�ÅKP�NQ_�UW_a]�P�Ìd_aN`i�RYÅ�ŤjBÅKP`NQj�]�c�PQËVX:P�RªP¡RYÅ�_�XdÅQl�P`j�Ã�RYÅQÅ�PQËf_BÛyjd]�Zbl�Ý�ÅQ_aÃ�X[]�P`RbUeX[ZbZTl�Æ�ZYX[ÄfÅQRbi�ZT_Rb]�P`_aN`Æ�N`_WP`X[PQRbjd]�Ó�ÆVX[NkX[Æ�Ë�NkXdÅQ_eÍ£XdÅ{��~�o q�pWr[oyu�¯dsWpvz}satQu�r:¯�z|n�r[z�²�¢W�fskre´[¯� <o�~�~�u���z|n�s� ��:tQ´[È

J�Ë�_�Ã�j�Í�_aZ\Ã�XdÒd_�Å�P`Ë�_�UWj�NQN`_eUWP¡Æ�NQ_�Í�RYUvPQRbjd]VÅ�RT]®PQËf_eÅQ_�UaXdÅQ_eÅeÈ�I^]�_WÜ�X[Ã�Æ�Zb_ Ø Ó�P`Ë�_�ÅKPkX:P`RbŤPQRYUaÅRb]�P`Xdi�Zb_ ä ŤË�j Ï P`ËfX:P¡X .�.�RYÅ ä PQRbÃ�_eÅ�XdÅZTRbÒd_eZTlBP`jBX[P¤P`X�UkË�Zbj Ï PQËfXd]£Ë�RbcdË Ï Ëf_a]�P Ï j4Ì�_aN`ifÅ�X[N`_UaXd]fÍ�RYÍ�X:P`_�X[P¤P`X�UkË�Ã�_a]�P�Æ>jdRb]�P`ÅBÛ�P`Ë�_BUkËVX[]fUa_eÅOjdÎÅQ_a_aRb]�c£X .�.­Ã�j�Í�RTSf_aN+X[N`_ Ø%K È S U X[]fÍ Ø È /YR URb]âUWj�ZTÄfÃB]VÅ Ø X[]fÍ R j[ΡP`Ë�_�PkX[i�Zb_­N`_eÅQÆ>_eUvP`RTÌ�_aZbl�ÝvÈ\I^]â_WÜ�X[Ã�Æ�Zb_ à Ó\P`Ë�_­ÆfNQj�ifX[i�RbZbRªPKl-j[Î{ÅQ_a_eRT]�cX[] ,�. ÛyXdÍ:ÚKÄ�]fUvPvÝ�Ã�j�Í�RªSf_eN�PQj ud�BRb]�X­]�jd]�Ð^XdÍ:Ú¤XdUW_e]�P�i�Ä�P+]fjd]�Ð}Ìd_eNQi�Ð^UWN`j�Å`ÅQRT]�c�_e]�Ì�RbNQj�]�Ã�_a]�P+RbÅà È ØdØTU Rb]âÅQ_eUWPQRbjd]fÅ à Ð à�Ø jdΡPQË�_£PQN`_a_aiVX[]�Ò±Û;S§jdÄ�P�j[Î R /[ä UaX�Ť_�Å`Ý�0\Rb]�UWj�]�PQNkXdŤP�PQË�_®UkËfX[]VUW_£jdÎÅQ_a_aRb]�c®X[] ,�.®X�Í�ÚKÄ�]fUWP�Ã�j�Í�RTÎ|l�RT]�c§par:oyu�XdUWN`j�Å`ÅOX�Ì�_aN`i�RbÅ V È V�à ` U Û Ø j�Ä�P�jdÎ R /W/ S�UaX�Ť_�Å`ÝWÈ>J�Ë�_P Ï jBÆfNQj�ifX[i�RbZbRªP`RT_�Å¡Í�RªÊ(_aN{i�l­X4ÎyX�UvP`jdN¡j[Î<X[ZbÃ�j�ŤP9S V È

� � E ����4·º.) c�¾V½�¼ ��»�ÁW4�¾ �¡¼��<4'����¾VÂ8ÁW4�¾ �4�½%4�4 9X4Gch½T4 ��4�»(¼���¼eÂ8¾V»8�RTc�Ä�N`_eÅ Ø%K X[]fÍ Ø `�ŤËfj Ï ÅQjdÃ�_�X[ZTPQ_eNQ]VX:PQRbÌd_�ŤPKl�ZT_�Å¡j[Î�ÅQl�]�PkXdUWPQRYU�X[]�]fj[P`X[PQRbjd]�ÈVJ�Ë�_D6F_a]f]­P`NQ_e_WÐifXd]�Ò�X[]�]�jdP`X[PQRbjd]£Å¤PKl�ZT_{PQ_a]VÍ�Å�P`j�Zb_eX�Ì�_¡PQN`_a_�Å�Õ�Ä�RTPQ_7-VX:P�ÓdPKl�Æ�RYUaXdZTZbl Ï RªP`Ë£j�]�_{Zb_aÌ�_aZ>j[Î\ŤPQN`ÄfUvP`Ä�NQ_Î|jdN�_�XdUkËNM{ÐCiVX[N+ZT_eÌd_eZJ0�X:P+P`Ë�_�j[PQËf_aN+_WÜ�PQN`_aÃ�_�X[N`_BUajdÃ�Æ�Zb_WP`_aZbl�i�RT]VX[N`l�Ð}i�NkX[]fUkËfRT]�c­NQ_eÆ�N`_eÅQ_a]�P`X[ÐPQRbjd]VÅaÈ�J�Ë�_�P Ï j�X[]f]�j[PkX:PQRbjd]­ÅKPKl�Zb_eÅ�X[N`_{Rb]­ÅQjdÃ�_�ÅQ_a]VŤ_�_eÕ�Ä�RbÌ�XdZT_e]�PeÓ�RT]£PQËfX[P�RTP¡RbÅ_eX�Ťl�P`j�Í�_aSf]�_X�j�]�_WÐCPQjdÐCj�]�_�Ã�X[Æ�Æ�Rb]�c�i>_WP Ï _a_e]�PQË�_eÃ�ÈVã�Ä�P�UaNQÄVUWRYX[ZbZTl�Ó�P Ï j�Í�RªÊ(_aN`_a]�P�Xd]�]�jdP`X:P`RTj�]�ÅKPKl�Zb_eÅ¡Ã�X�lZb_eXdÍ�PQj�Õ�Ä�RTPQ_�Í�RTÊ>_eNQ_e]�P�ÆfX[NkÅQRT]�c�XdUaUaÄ�NkXdUWRb_eÅ�Î|jdNFX¡cdRbÌd_e]�Ã�j�Í�_aZCÓe_eÌd_a]�RTÎ�P`Ë�_�P Ï j{N`_aÆ�N`_eÅQ_a]�PkX:PQRbjd]VÅX[N`_+_eÕ�Ä�RbÌ:X[Zb_a]�P¡Ä�]fÍ�_eN{Ťj�Ã�_�j�]�_WÐCPQjdÐCj�]�_�Ã�XdÆ�Æ�Rb]�cfÈ

R�Ø

Page 32: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

gbì�i ÿ

� � � � _

� � � �

gbóYi ÿ� �����

� � � _

�����

� � �

5�687:9<;�=?>.U@ � �!,+�� �� �%!9�� � ����� ����]�� �W��!��_� ��+')�k!��T�!�����! � �E� ��%!,+�( � ! �]�c$W��!%� ������ � !,+�� � � $ �v' $ �� �+� ����T-������ ��! +�� � � $ � ' F � � ��eE��!�F!�� �Dk+�!�!�(��� � �� �W��!#�#�����������k �� & ��� !O��!U��!�� �#�h��k+�� � ���+�!f� ��+! ��q� ( �+-��!U�%!��wF � ( � �� �� �� �!,+����� ���!O( �� ! �Y�� �����!,�Y (� ����+ �D(W+��� �u� ����)+�!���+�!,�k!��T��� ���� F

gbì�i ?!2

?!2� � � � ?

� � � �

gYì � i ?!2

?!2 N� � � � ?

� � � �

gbóYi ?.2?!2

?.2� � � � �

� � ?

� �� �

5�687:9<;�=?>��@ � �!,+�� �� �%!9�� � ����� ����]�� �W��!��_� ��+')����� �I� �W+���k! � E�Z)������� � !���]&a$���!%� '�����W ��!,+�� � � $ � ' $�� �D+� ����T �����W !,+�� � � $ � ' F � � ��QE��! �F!����Ik+�!�!�( ��4���� �W��!#� � ����� �W�k �� &���� !'��!%�%!��^� �h��k+����,���+�!]� ��+! ��q� ( �+-��!U�%!�� $ �� E� ��� ��� � ��� ��,!#E��� E��!#� ���!� +�!����W+��k ���!O�� � !���� �� +�!����W+��k ���!#� ��� �]�4��+���k!��-�+�!���(*!���!6� & �mF � ( � �� ��Z�� �!,+�� �� �%!O(��� !��T� �����!��T ( �� �+ �D(�+��� �u� �� �)+�!,��+�!��k!��T��� ���� F � � � ��-����+������ � � �� ����]� �FE��!�F!�� �Dk+�!�!�(��� � �� �W��!#��[�W �^! +�!��T� ��!'+�!����W+��k �%!9�� �]� ���!� +�!����W+��k ���! &�" � � ���k����!O�k!,� �k! &�"�, �� )(��+ � ��k+�� � ���+�!�$ &�" ��-)(��+ ' ��k+�� �,��W+�! � F

L/ÆfXdN`ÅQRb]�c�ÃBj�Í�_eZÍ�j�_�Å�]�j[P�]�_a_�ͧP`j·i>_�PQRb_eÍ-P`j�PQË�_£Xd]�]�jdP`X:P`RTj�] ÅKPKl�Zb_�j[Î�PQË�_�P`NQ_e_aifXd]�Òjd] Ï Ë�RYUk˧RTP�RYÅ�PQNkX[Rb]�_eÍ�È�J�Ë�_�Î|jdZbZbj Ï RT]�c­Æ�N`j�Ua_eÍ�ÄfNQ_BUaX[]�iV_BÄfÅQ_eÍ·PQj­PQNkX[]fŤÎ|jdN`à PQN`_a_eÅ�Rb]§i>j[PQËPQNkX[Rb]�Rb]�c�X[]fÍ­P`_eŤP{Í�X:PkX4P`j�X�]f_ Ï NQ_eÆ�NQ_�Ť_e]�P`X:P`RTj�]�×

Ø È J\NkX[]VÅKÎ|j�NQÃ/P`N`XdRT]fRT]�c�Í�X[P`XBPQN`_a_�Å�PQjBPQËf_�]�_ Ï NQ_eÆ�N`_eÅQ_a]�P`X[PQRbjd]­Xd]fÍ£PQNkX[Rb]£P`Ë�_�Ã�j�Í�_aZCÈà È Y¡_eUaj:Ìd_eN�ÆVX[NkŤ_�PQN`_a_�Å�RT]­PQËf_�]�_ Ï NQ_eÆ�N`_eÅQ_a]�P`X[PQRbjd] Ï Ëf_a]�NQÄf]�]�Rb]�cBPQË�_�Ã�j�Í�_aZ\j:Ìd_aNPQ_�ÅKP{Í�X[P`X�ÅQ_a]�PQ_e]fUW_�ÅaÈR È Éjd]�Ìd_eN¤P�P`Ë�_+PQ_�ÅKP¡jdÄ�PQÆ�Ä�P�ifXdUkÒ�P`j�PQË�_+P`NQ_e_aifXd]�Ò�N`_aÆ�N`_eÅQ_a]�P`X[PQRbjd]�Î|j�NOÅQUajdN`RT]fcÆ�Ä�N`ÆVj�Ť_�ÅaÈ

L{Å�Zbjd]�c+XdÅ\PQËf_aN`_RYÅFX{j�]�_WÐCPQjdÐCj�]�_�Ã�X[ÆfÆ�RT]fc�i>_WP Ï _a_e]�PQËf_P`NQ_e_aifXd]�Ò�X[]fÍ�PQË�_�]�_ Ï N`_aÆ�N`_eÅQ_a]�ÐP`X[PQRbjd]�Ó>]�jdPQË�Rb]�c�RYÅOZbj�ŤP{Rb]·Í�jdRb]�c�P`Ë�RbÅeÈFÛJ:�j�j�Í�Ã�X[] Øeä�ä / Ý�X[]fÍ ÛJPdj�Ë�]fÅQjd] Øeä�ä / Ý�i>j[P`˧ÅQÄ�cdc�_eŤPPQËfRbÅ<ŤPQNkX:P`_acdl�È�ÛJ:�j�j�Í�Ã�X[] Øeädä�/ Ý\UWjd]�Ì�_aNQP`Å\PQË�_�PQN`_a_eifX[]fÒ+PQj+i�Rb]fX[N`l�i�NkX[]fUkË�Rb]�c{PQN`_a_eÅeÈ�Û;P�jdË�]VŤj�]Øeä�ä / Ý{Uajd]fÅQRbÍ�_aNkÅ�Uajd]�Ìd_eN`ÅQRbjd]·P`j�X­]�Ä�Ã�iV_eN�j[Î�Í�RªÊ(_aN`_a]�P�N`_aÆ�N`_eÅQ_a]�PkX:PQRbjd]VÅaÓ(X[]fÍ�Í�RYÅ`UWÄfÅ`Ť_�Å�Ë�j ÏPQËfRbÅ¡Rb]�-fÄf_a]fUa_eÅOX�UaUWÄfN`X�UWl�Î|jdN¡]fjd]�Ð}ZT_aÜ�RbUeX[ZbRTÖe_eÍ 6�É'8<:+ÅeÈ

J�Ë�_�Ã�j�Í�_aZYÅ�Í�_eÌd_eZTj�ÆV_�Í�Rb]�PQËfRbÅ�ÆVX[Æ>_aN�ËfX�Ì�_BP`XdUaRªP`ZTl-XdÅ`ŤÄfÃB_�Í�PQË�_ 6F_e]�]�ÐCPQN`_a_eifX[]�ҷŤPKl�ZT_j[Î�Xd]�]�j[PkX:P`RTj�]�ÓfX[]VÍ Ï RTZbZ�Æ>_aNQÎ|jdN`à ifX�Í�Zbl£cdRbÌd_e]�j[PQËf_aNON`_aÆ�N`_eÅQ_a]�PkX:PQRbjd]VÅ�Û�Î|jdN{_WÜ�X[Ã�Æ�Zb_dÓVi�RT]VX[N`l�Ði�NkX[]fUkËfRT]�c�P`NQ_e_eÅkÝvÈ�J�Ë�RbÅ�Ť_�UvP`RTj�] Ã�XdÒd_�Å+PQË�RYÅ�Æ>jdRb]�P4Ã�jdN`_�_WÜ�Æ�ZbRYUWRTPe×hÍ�_eÅ`UWN`RTi�Rb]�c�_aÜ�X�UvP`ZTl Ï ËfX:PX[]f]�j[PkX:PQRbjd]�ŤPKl�ZT_�RbÅ�ÅQÄ�RªPkX[i�Zb_OÎ|j�N�P`Ë�_{Ã�j�Í�_aZYÅeÓ�Xd]fÍ�ÅQË�j Ï RT]fc�Ë�j Ï j[P`Ë�_aN�X[]�]�jdP`X[PQRbjd]�ŤPKl�Zb_eÅ Ï RTZbZUaXdÄfÅQ_­Æ�N`jdifZT_eÃ�ÅeÈFJ�Ë�RbÅBÍ�_eÆV_e]fÍ�_a]VUW_�jd]>6F_e]�] U�PQN`_a_aiVX[]�Ò�ÅKPKl�Zb_­Xd]�]�j[PkX:P`RTj�]fÅ�Í�j�_�Å4]fj[P�RTÃ�Æ�ZblPQËVX:P�PQË�_�Ã�j�Í�_aZYÅXdNQ_�RT]fXdÆ�Æ�N`jdÆ�N`RYX:PQ_OÎ|jdN�X�PQN`_a_eifX[]fÒ�Xd]�]�jdP`X:P`_eÍ�Rb]£X�Í�RªÊ(_aN`_a]�P¡ÅKPKl�Zb_ � Rb]�PQË�RYÅUaX�Ť_ Ï _+ÅQRbÃBÆfZTl�N`_eUajdÃ�Ã�_a]fÍ�PQNkX[]fŤÎ|jdN`Ã�RT]fc�PQËf_+PQN`_a_eÅP`jK->X:PeÓ�j�]�_WÐ}Zb_aÌd_eZVÆ>_aNOM{ÐCiVX[N�ZT_eÌd_eZVP`NQ_e_eÅi>_WÎ|jdN`_+PQNkX[Rb]�Rb]�cBPQË�_�Ã�j�Í�_eZ8Ó�X�Å�RT]®PQËf_ R Ð^ÅKP`_aÆ®Æ�NQj�Ua_eÍ�Ä�N`_+jdÄ�P`ZTRb]�_�Í®XdiVj:Ì�_dÈ

R�à

Page 33: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

ÛyX�Ý ã�ã �)6

�c6

� �:�[�

ÛyiVÝ ã�ã [c6

[a6

[a6 6-6�[�

ÛyXfÞ Ý 8Fg\L<J �c6

� Ñ^: �[�

Ûyi�Þ Ý 8Fg\L<J [c6

[c6�ã 6-6 �[�5�687:9<;�=?> �X ( ( �� �+ �D(�+��� �u� �� �L��k+����,���+�!,� �),h� @ � ( �F!����]k+�!�!�( ��4�D�� �W��!#�� ������� ���� ��F � �]!���u� � ��k!OE��!( �� �+ �I(�+�����q�� �� �L�� ������� ���� �� �W��!O��+�!U��!��T��QE� !#�����W!���� +���� ��! �+�� �� �)E� � E� !,�k!#��k+�� �,��W+�!���P� ��� ���D+�!,��!� �%!#��� � ��+���(��(� ��� ���W� !-��cE� ! ����� ���� ���������! �W!��*!�� �W!�� ��� ��k�k�T�� ���!6� � E�DE��!��� �� "�"� �� (*����� � F

H PQËf_aN�Ã�j�Í�_aZYÅ�Rb]�P`Ë�_OZbRªP`_aNkX:PQÄfNQ_OXdNQ_OXdZbÅQj�Ìd_eNQl�ZTRbÒd_eZTl4PQj�i>_�ÅQ_a]fÅQRTPQRbÌd_�PQj�X[]�]�jdP`X[PQRbjd]�ÅKPKl�Zb_dÈÛCÉËVX[N`]�RbXdÒ Øeädä�/ ÝWÞ ÅhÃ�j�Í�_aZYÅ Ï RbZTZ�Ã�j�ÅKP�ZTRbÒd_eZTl�Æ>_aNQÎ|jdN`Ã,Õ�ÄfRªP`_�Í�RTÊ(_aN`_a]�PQZbl Ï RªP`Ë�ifRT]fXdNQl+i�NkX[]VUkË�RT]fcPQN`_a_�Å�Û�Î|jdN�_aÜ�X[Ã�Æ�Zb_dÓ(Ë�RYÅ�UaÄ�N`NQ_e]�P+Ã�j�Í�_aZYÅ Ï RTZbZ<ZT_�X[N`]�PQËVX:P�NQÄfZT_�Å�ÅQÄfUkË-XdÅ ; . A ; +/- .�.·X[N`_Ìd_eNQl�N`XdNQ_�Ó[i�Ä�P Ï RªP`Ë�i�Rb]fX[N`l4i�NkX[]VUkË�RT]fc�ÅKP`NQÄfUWPQÄ�N`_eÅ<PQË�RYÅUajd]�PQ_aÜ�P¤Ð^Ť_e]fŤRTPQRbÌ�RªPKl Ï RTZbZfi>_OZbj�ŤPkÝWÈ�J�Ë�_Ã�j�Í�_aZYÅ�j[Î+ÛyH·Xdcd_eNQÃ�X[] Øeä�ä�K 01YOX[PQ]fXdÆfX[N`Ò�Ë�R Øeä�ä / Ý{ÄfÅQ_�UWjd]�P`_WÜ�PQÄfXdZ<Æ�N`_eÍ�RYUaX[PQ_eÅ Ï ËfRbUkË Ï j�Ä�ZYÍÃ�j�ŤPBZbRbÒd_aZbl�]�_a_�Í P`j�i>_­Ã�j�Í�RTSf_eÍ�cdRbÌd_e]�X§Í�RTÊ(_aN`_a]�P�Xd]�]�jdP`X:P`RTj�]�ŤPKl�Zb_dÈ¡Û :�j�j�Í�Ã�Xd] Øeä�ä / ÝWÞ ÅÃ�j�Í�_aZYÅ<X[N`_�P`Ë�_�_WÜ�UW_eÆ�PQRbjd]\Ó[XdÅ�Ë�_¡X[ZbNQ_�XdÍ�l�ÅQÆ>_eUWRTSf_�Å\P`ËfX:PFP`Ë�_�PQN`_a_eifX[]�Ò�ÅQË�j�Ä�ZbÍ4iV_�P`N`Xd]fŤÎ|jdN`ÃB_�ÍPQj�ËfRbÅOUkËfj�ÅQ_a]£N`_aÆfNQ_�Ť_e]�PkX:P`RTj�]�Ó�i�RT]VX[N`l�i�NkX[]fUkË�Rb]�c�PQN`_a_�ÅaÈ

� � E=�y¹ 9 4Gch½T4 ��4�»(¼���¼eÂ8¾V» ��� 4�Ád¼ � ��¼a½:ÀhÁd¼eÀh½(�^5 8<»�¾f¼ $-4 �ÂyÁ!�^5 8��+½T4���4�½T4�»hÁ�4 � J�Ëf_+XdZªP`_aN`]fX:ÐPQRbÌd_BN`_aÆ�N`_eÅQ_a]�P`X[PQRbjd]fÅORT]§SfcdÄ�N`_eÅ Ø�K X[]fÍ Ø `�ËfX�Ì�_�PQËf_BÅ`X[Ã�_4Zb_WÜ�RYUaXdZ�Í�_eÆV_e]fÍ�_e]fUWRb_eÅ�Û|ÆfNQj:Ì�RYÍ�RT]fcPQËVX:P4P`Ë�_£ifRT]fXdNQl�Ð}i�NkX[]fUkË�Rb]�c�ŤPQN`ÄfUvP`Ä�NQ_�Å�X[N`_£Ua_a]�PQ_eNQ_�Í-XdiVj�Ä�P4P`Ë�_�Ë�_�XdÍ�jdΡPQË�_�ÆfË�N`X�Ť_�ÓhX�Å�RT]PQËf_¡_WÜ�X[Ã�Æ�Zb_eÅkÝvÈdJ�Ëf_�Í�RªÊ(_aN`_a]fUa_¡iV_aP Ï _e_a]�PQË�_¡N`_aÆfNQ_�Ť_e]�PkX:P`RTj�]fÅ�RT]�Ìdj�ZTÌ�_eÅFŤPQN`ÄfUvP`Ä�N`XdZ�Æ�N`_WÎ|_aN`_a]VUW_eÅÅQÄfUkË·XdÅOPQË�_�NQRbcdË�P¤Ð}i�NkX[]fUkËfRT]�cBÆ�N`_WÎ|_eNQ_e]fUW_�ÅO_a]VUWj�Í�_eÍ�i�l­PQË�_BÍ�RYÅKPkX[]fUa_�Ã�_eXdÅQÄ�N`_dÈfL{Æ�Æ�Zbl�RT]�c�PQË�_Ã�j�Í�_aZYÅ�Rb]�PQË�RYÅ�ÆVX[Æ>_aN<P`j�PQN`_a_eifX[]�ÒBX[]fXdZTl�ÅQ_eÅ Ï Ë�RYUkË�ÄfÅQ_¡PQË�RYÅ<PKl�Æ>_Oj[Î#=¤Ëf_eXdÍ�Ð}Ua_a]�PQ_eNQ_�Í^?�i�RT]VX[N`l�Ði�NkX[]fUkËfRT]�cOPQN`_a_ Ï RbZbZdÎyXdRTZ�PQj�NQ_�ŤÄ�ZTP\Rb]4XOÃ�j�Í�_eZ Ï RTPQË4X�Í�RYÅKPkX[]fUa_�Ã�_eX�ŤÄ�N`_FPQËVX:P<UWjdN`N`_eUvP`ZTl�_a]fUaj�Í�_eÅX�Æ�N`_WÎ|_eNQ_e]fUW_�Î|jdNON`RbcdË�P�ifN`Xd]fUkË�Rb]�c�ÅKP`NQÄfUWPQÄ�N`_eÅeÈ

Jhj·Å¤_e_�PQË�RYÅaÓ�UWj�]fŤRYÍ�_eN�PQË�_�_aÜ�X[Ã�Æ�Zb_eÅ�Rb]�SfcdÄfNQ_ ØT/ È�I^]�_eX�UkË�i�RT]VX[N`l§i�NkX[]fUkËfRT]�c�_aÜ�XdÃ�Æ�ZT_PQËf_�cd_e]�_aNkX:P`RTj�]�jdÎP`Ë�_�Sf]fXdZ�Ã�j�Í�RªÎ|l�Rb]�c .�.·RYÅH=¤ifZTRb]fÍ^?®P`j�PQË�_£Í�RbŤP`Xd]fUW_�i>_WP Ï _a_e]-RTP�Xd]fÍ�PQË�_Ë�_�XdÍ®PQËVX:P{RTP�Ã�j�Í�RTSf_eÅeÈVL�POP`Ë�_�P`jdÆ�Zb_aÌd_eZ\jdÎ�P`Ë�_�P`NQ_e_�RªP�RbÅ�X[Æ�ÆfXdNQ_e]�PQZbl£XdÍ�Ú¤X�UW_e]�P{PQj�PQËf_4Ë�_�XdÍh0UWN`ÄfUaRbXdZTZbl�PQË�_�UWZbj�ÅQ_aN�Ã�j�Í�RªSV_aN�Û +'- RT]�ÛyX�ÝvÓ>PQËf_BjdPQË�_eNO.�.�Rb]¸ÛyiVݤÝ�RYÅ�ËfRbÍ�Í�_a]-ZTj Ï _aN�RT]§PQË�_BPQN`_a_ŤPQN`ÄfUvP`Ä�NQ_�È�Ñ�j�P`Ë�_�Ã�j�Í�_eZ Ï RbZbZ�i>_BÄ�]fX[ifZT_�PQj®Í�RªÊ(_aN`_a]�P`RbX[PQ_Bcd_a]f_aNkX:PQRbjd]�jdÎ�PQËf_ .�.�RT]-XdÍ�Ú¤X�UW_e]�PÌ�ÅaÈ�]�j�]�Ð}X�Í�Ú¤XdUa_a]�Pj�N�]�j�]�Ð}Ìd_aN`i�Ð^UWN`j�Å`ŤRb]�c+Ì�ÅaÈ�Ìd_eNQi�Ð^UWN`j�Å`ÅQRT]�c�_e]�Ì�RbN`jd]�Ã�_a]�PkÅaÓ�X[]fÍ�P`Ë�_�ŤPQN`ÄfUWPQÄ�N`_eÅRb]­SVcdÄ�N`_ Ø%/ Ï RTZbZ�c�_WP¡Ä�]�N`_eX�Ťj�]fX[i�Zbl�Ë�RbcdË®Æ�N`jdifXdi�RTZbRTPKldÈJ�Ë�RYÅ�Í�j�_�Å�]�jdP�Ã�_eX[]�P`ËfX:P�Í�RbŤP`Xd]fUW_{Æ�NQ_aÎ|_aN`_a]fUa_eÅ�UeX[]�]fj[P�i>_O_a]VUWj�Í�_eÍ�Rb]£X+i�Rb]fXdNQlBi�NkX[]fUkË�ÐRb]�ca6�É'8�:BÈdÛJ:�j�j�Í�Ã�X[] Ø�ädä / Ý>XdUkË�Rb_aÌ�_eÅ>PQËfRbÅ�i�l�XdÍ�Í�Rb]�cOÍ�RYŤP`X[]VUW_FÎ|_eX[PQÄ�N`_eÅ�PQj�PQËf_�]�jd]�Ð8P`_aN`ÃBRb]fXdZbÅeÈJ�Ë�_�ÅQÆ�RbNQRTP�j[Î�PQËfRbÅ\RTÃ�Æ�Zb_aÃ�_a]�PkX:PQRbjd]�RYÅ(P`ËfX:P�P`Ë�_FPQj�Æ�ZT_eÌd_eZ[NQÄfZT_�Å ; . A ; . .�.�Xd]fÍ ,�. A ,�. .�.Ï jdÄ�ZYÍ�i>_+ÃBj�Í�RTSf_�Í�P`j ; . A ; . /�� ������ 0�> .�.�Xd]fÍ ,�. A ,�. /�� � ��2 #�> .�.>Ó Ï Ë�_eNQ_�Û B�N`Ìd_eNQi>ÝÃ�_eXd]fÅ{X�Æ�ËfN`X�Ť_ Ï Ë�_eNQ_+P`Ë�_�Ë�_�XdÍ�ËfX�ÅOX�Ìd_eNQi�Rb]�RªPkÅON`RTc�Ë�P¤Ð}ÃBj�Í�RTSf_eN`ÅeÓ�X[]fÍ Û B�NQÃ�j�ÍfÝ�Ã�_�X[]fÅOXÆ�Ë�NkXdÅQ_OP`ËfX:P¡ËfX�ÅX[P�Zb_eX�ÅKP�jd]�_�N`RTc�Ë�PQÐCÃ�j�Í�RTSf_aNPQj4PQË�_+Ë�_�XdÍ�È�J�Ë�_�Ã�j�Í�_aZ Ï RTZbZ�Zb_eX[N`]�Î|N`jdà PQNkX[Rb]�ÐRb]�c�Í�X:PkX�P`ËfX:PM�Û ; . A ; . /�� ���6��� 0�> .�.1P ; .�Ý�� M�Û ; . A ; . / i ������ 0�> .�.1P ; .�ÝvÓ�RCÈ _dÈbÓ�PQËfX[P¡XÆ�N`_aÆ>j�ÅQRªP`RTj�]fX[Z�ÆfË�N`X�Ť_+Ã�j�Í�RTSVUaX[PQRbjd]®RbÅ�Ã�ÄfUkË�ÃBj�NQ_+ZbRTÒ�_aZbl Ï Ë�_e]­RTP�Í�j�_eÅ�]fj[POUWN`j�Å`Å�X�Ìd_aN`i�È

RWR

Page 34: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

gbì�i y _

y _

� � � y

� � �

gbì � i y _

y _ o

� � � y

� � �

gTóYi y _

y _

y _ _<__ _

5�687:9<;�=?> �� � � ��! � �IE��! �F!����Ik+�!�!�( ��4�I�� �������!,� &�" ��F � � � � �W+ ������ ��� �� ����]��)E��!O���� ����� �����$ ���� �^!,+�!,�Y� ���!#+�!�����+��k �%! � &�" � �W��F�� ���!� +�!����W+��k �%! � &�"�, � �������]� �W+���k!���F � ( � c��k+�� �,��W+�!#E��� �� � !%�%!,+�k!�!��] ��Ik+�� �� �� �o� ��Y$ (��� � ���� +�!��,!� �%!O�)���q� ��T�z� ���� ��+���(��(� ��� �K� +���� )�����W!���k+�� �� !6�D���]k+�!�!,�� � �� �W��! � � FÛyX�Ý L �)P 6

L �)P�6ÎyX[NOËfRTc�Ë�_aN

Ñ�ã�L YPQËfXd]®_aÜ�ÆV_�UvPQ_�Í

Û|i>Ý L � �c6

L � �c6ÃBj�NQ_�ŤPQN`RT]fcd_a]�P`ZTl

Ñ�ã�L7YPQËfXd]�_WÜ�ÆV_�UvP`_eÍ

5�687:9<;�=?>��� A ���� ��!�� � �F��E� ! + �4��+���k!�� ��IE� ! �F!����Ik+�!�!,(���4� � � !,+�!O�����!� +�!��,��+��k �%!O�� �I+�!��,��+��k �%!#�4��+���k!,�'�+�!� ��]�� �^!,+�!��T� ���!6�nF

� � E=� A ����4�º.) c�¾V½�¼ ��»�ÁW4B¾ � �®Â �-4�½T4�»(¼eÂ���¼eÂ8»X����¾V»="Q½T4�ÁdÀh½(�eÂ�� 4 ���G� 9 4�ÁdÀh½(�eÂ�� 4 ���[� 8�Rbc[ÐÄ�N`_ Ø S­ÅQË�j Ï Å{PQË�_BÃ�j�Í�RªS>UaX:P`RTj�]·P`j£P`Ë�_Z6F_a]�]�P`NQ_e_aifXd]�Ò·X[]f]�j[PkX:PQRbjd]·PQj®NQ_eZbXdiV_eZ�iVXdÅQ_WÐk[a6�Å�XdÅ,�. < È\I}P4X[ZYŤj�RbZTZbÄfŤPQNkX:P`_eÅ�X�Æ�N`jdifZT_eÃÔPQËfX[P�X[N`RYŤ_�Å+RªÎ�PQËfRbÅ�Í�RbŤPQRb]fUWPQRbjd]�RbÅ4]�j[P�Ã�X�Í�_d×\ŤPQN`ÄfUWPQÄ�N`_eÅÅQÄfUkË�X�Å�P`ËfX:PFRT]4SfcdÄfNQ_ Ø SfÛyiVÝ\NQ_�UW_aRbÌd_Ë�RbcdË�Æ�N`jdiVX[i�RbZTRTPKl+_aÌ�_a]4RTÎ�P`Ë�_al�XdNQ_-]�_aÌ�_aNFŤ_e_a]�Rb]�P`N`XdRT]fRT]�cÍ�X[P`X�ÈhÛ¤Û;P�jdËf]fŤj�] Øeädä�/ Ý]�jdPQ_eÅ¡PQËfX[POPQË�RYÅ{ŤPQN`ÄfUWPQÄ�N`_�ËfXdÅ�ËfRTc�Ë�_aNOÆfNQj�ifX[i�RbZbRªPKl£PQËfXd]­P`Ë�_4UajdN`NQ_�UvPeÓ-VX[P�ŤPQN`ÄfUvP`Ä�NQ_�Ófc�RTÌ�_a]·UWj�Ä�]�P`ÅOP`X[Ò�_a]�Î|N`jdà PQË�_4PQN`_a_eifX[]�Ò­Î|jdN�X�ŤP`X[]VÍ�X[NkÍ 6�É'8<:BÈ�ÝOJ�Ëf_�Ã�j�Í�_aZRYÅ¡Î|j�jdZb_eÍ�i�l�P`Ë�_�i�Rb]fXdNQl­i�N`Xd]fUkË�Rb]�c�ŤPKl�Zb_�Rb]�P`j�Ã�j�Í�_aZbRT]fc�iVjdPQË .�.�Å¡XdÅ¡i>_aRb]�c£X�Í�Ú¤XdUa_a]�POP`j�PQË�_Ë�_�XdÍ®j[ÎhPQË�_�]�j�Ä�]�Ð}Æ�Ë�NkXdÅQ_dÓ�ÅQj Ø SfÛyiVÝ Ï RTZbZ�c�_WP¡Ìd_eNQl�Ë�RbcdË�Æ�N`jdiVX[i�RbZTRTPKldÈJ�Ë�RYÅ�Æ�NQj�i�Zb_aÃ/Í�j�_eÅ�]�jdP�j�]�ZTl�XdÆ�Æ�Zbl�PQj ,�.�Å�� jdPQË�_eN�Æ�Ë�NkXdÅQ_eÅ�ÅQÄfUkË®XdÅ�XdÍ�ÚK_�UvPQRbÌ:X[Z(Æ�Ë�NkXdÅQ_eÅÛ +�=� .�Å`Ý�j�N{XdÍ�Ìd_aN`i�RYX[Z�ÆfË�N`X�Ť_�Å�Û +�=�; .�Å`Ý¡XdZbÅQj�ËfX�Ì�_�]�jd]�Ð}N`_eUWÄfN`ÅQRTÌ�_�Û|ifXdN Ø Ý¡X[]fÍ�N`_eUaÄ�NkŤRbÌd_�ÛyifX[Nà ÝOZT_eÌd_eZbÅeÓ Ï Ë�RYUkË·X[N`_�]�jdP�Í�RTÊ>_eNQ_e]�P`RbX[PQ_�Í�RT]�P`Ë�_D6F_e]�]�PQN`_a_eifX[]�Ò(ÈVÑ�_a_�SVcdÄ�N`_ Øeä Î|j�N{_WÜ�XdÃBÆfZT_�ÅaÈIKÍ�_�X[ZbZTl�PQËf_eÅQ_�UeXdÅQ_eÅ\ÅQË�j�Ä�ZbÍ�iV_�Í�RTÊ>_eNQ_e]�P`RbX[PQ_�Í+PQj�jf× Ï _Í�RYÍ�]�jdPhRbÃ�Æ�ZT_eÃ�_a]�PhP`Ë�RYÅ�UkËVX[]�c�_�iV_�UaXdÄfŤ_RTP�RYÅÄ�]�ZbRTÒ�_aZbl�PQj4Ã�XdÒd_{Ã�ÄfUkË­Í�RªÊ(_aN`_a]fUa_OP`jBX�UaUWÄfN`X�UWlBcdRbÌd_a]�PQË�_�NQ_eZbX[PQRbÌd_ORb]�Î|N`_eÕ�Ä�_e]fUWl�jdÎ�PQË�_�Ť_UaX�Ť_�Å�Û|_aÜ�UWZbÄfÍ�Rb]�c§UWj�j�N`Í�Rb]fX[PQRbjd] UaX�Ť_�ÅaÓ�Xd]fÍ�ZTj�j�Ò�Rb]�c·X[P�PQË�_XS V Ó àWK _�RT]fŤP`Xd]fUW_�Å�Rb]1Ť_�UvPQRbjd]VÅ à Ðà�Ø jdÎP`Ë�_ 6F_e]�]§P`NQ_e_aifXd]�Ò Ï Ëf_aN`_�X�ÆVX[N`_a]�P4X[]fÍ-Ë�_�XdÍ-]�j�]�Ð8P`_aN`Ã�RT]fXdZ Ï _eNQ_BP`Ë�_£Å`X[Ã�_d× ä _fÈ K�UÏ _aN`_�PQË�_#,�.�UaX�Ť_�0 à È ` U Ï _aN`_�UaX�Ť_�Å�j[Î{Uaj�j�N`Í�RT]fX[PQRbjd] Ï Ë�_eNQ_£X·Æ�Ä�]fUWPQÄfX[PQRbjd] Ã�X[N`Ò Ï XdÅ�PQË�_UWj�j�N`Í�Rb]fX[PQjdN 1 g 0�jd]�Zbl à È ä�U Ï _eNQ_�ÅQRTÃ�RbZbXdN�PQjBPQËfj�ÅQ_�Rb]®SfcdÄfNQ_ Øeä ÝvÈ� � E=� E ��À ),),��½ . Jhj�ŤÄfÃBÃ�XdNQRYŤ_�Ó�PQË�_�Ã�j�Í�_aZYÅ¡Rb]®PQË�RYÅ¡ÆfXdÆV_eNOXdÅ`ŤÄ�Ã�_�×

Ø È J\N`_a_+N`_aÆ�N`_eÅQ_a]�PkX:PQRbjd]VÅ�XdNQ_ = -VX:P�?�×�R8È _dÈbÓ�j�]�_+ZT_eÌd_aZ�Æ>_aNaMOÐ}ifX[N¡Zb_aÌ�_aZCÈà È �{RTÊ(_aN`_a]�P9MOÐ}ifX[N¡Zb_aÌ�_aZYÅ�ËfX�Ìd_+Í�RTÊ>_eNQ_e]�POZbXdiV_eZbÅ�ÛyRT]�ÆfXdN¤P`RbUaÄ�ZYX[N�Ó�]fjd]�Ð}NQ_�UWÄ�NkÅQRTÌ�_{Ì�ÅaÈNQ_�UWÄ�NkÅQRTÌ�_�Zb_aÌ�_aZYÅ¡X[N`_+Í�RªÊ(_aN`_a]�PQRYX:P`_eÍ�Ó�X[POZT_�XdŤP�Î|jdN�PQËf_�ÃBj�ÅKP�Î|N`_eÕ�Ä�_e]�P{UeXdÅQ_+j[Î�,�.�ÅkÝvÈ

� � ������4!�H4�4�¿¸¼�¾ �4½T4 ��� �­¾���» 9£À�5;4 �J�Ë�_­ÆfX[NkŤRb]�c§XdÆ�Æ�N`j�X�UkË�_eÅ Ï _£ËfX�Ì�_�Í�_eÅ`UWN`RbiV_�Í1UWj�]fUW_e]�P`N`X[PQ_�j�]1i�N`_eX[Ò�Rb]�c·Í�j Ï ]�Uajd]�PQ_aÜ�P¤ÐCÎ|NQ_e_N`Ä�ZT_�Å�RT]âPQËf_­P`NQ_e_aifXd]�Ò Rb]�P`j-ÅQÃ�X[ZbZT_eN�UWjdÃ�Æ>jd]�_e]�P`ÅeÈFg\_WÜ�RYUaX[ZbRbÖa_eÍ�NQÄfZT_�Å Ï _aN`_®RT]�RTPQRYX[ZbZbl1i�N`jdÒd_e]

��fûTôvç�ðEk�ì�����í�ðvö gYÿ gYÿ xvôvù�ï�ðQì`è8øhì�� ��í�ðKøki � gYÿ�÷�ìkçyõOðQì`è8ø�ó�ìkï:ìkï:ìkøki;i

R _

Page 35: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

Í�j Ï ]�P`j­iVX[N`_WÐ}iVj�]�_eÅ�H·X[N`Òdj:Ì­Æ�NQj�Ua_eÅ`Ť_�ÅaÓfPQË�_e]§Rb]fUWN`_eX�Ť_�Í·Í�_aÆ>_a]VÍ�_a]fUal�jd]§ÆfNQ_eÌ�RbjdÄVŤZbl­c�_a]�_eN¤ÐX:P`_eÍ-Ã�j�Í�RªSV_aNkÅ Ï XdÅ+ifÄ�RTZTP�ifXdUkÒ§Ä�ƧP`Ë�N`jdÄ�c�˧P`Ë�_�Í�RbŤP`Xd]fUW_�Ã�_eX�ŤÄfNQ_�X[]VÍ�ÅQÄ�i(UaX:P`_ac�jdN`RTÖ�X:PQRbjd]\È.�Ì�_a] Ï RTPQË�PQËfRbÅ�XdÍ�Í�RTPQRbjd]VX[Z\Uajd]�PQ_aÜ�P�Ó�PQËf_�Ã�j�Í�_aZYÅ{X[N`_�ŤPQRbZTZ\Xdi�Zb_�PQj�N`_eUaj:Ìd_aN�N`Ä�Zb_eÅ¡Rb]�PQ_�ÅKP�ÍfX:P`XPQËVX:POËfX�Ì�_�]f_aÌd_eN�iV_e_a]�Ť_e_a]�Rb]­P`N`XdRT]fRT]�c�Í�X[P`X�È

LO]�XdZªP`_aN`]fX:P`RTÌ�_dÓ[ÆfNQj�ÆVj�Ť_�Í4Rb]·ÛCÉËfXdNQ]fRbXdÒ Øeä�ä / ÝvÓ:RYÅ<PQj4ZTRbÃ�RªP�ÆVX[NkŤRb]�c�PQj�P`Ë�j�ÅQ_OUWj�]�PQ_WÜ�P�Î|N`_a_N`Ä�ZT_�Å{ÅQ_a_e]�RT]�P`N`XdRT]�Rb]�c�Í�X[P`XfÈVL,Zb_WÜ�RYUaX[ZbRbÖa_eÍ�N`Ä�Zb_�RbÅ{Æ�N`_eÍ�RYUvP`_eÍ�Rb]�P Ï j£Å¤PQ_eÆfÅeÈ 8�RTNkŤPeÓ�P`Ë�_ Ï Ë�j�ZT_UWj�]�PQ_WÜ�PQÐ8Î|N`_a_�NQÄ�Zb_�RYÅ{c�_a]�_eN`X[PQ_�Í�È(Ñ�_eUWj�]fÍ�ÓVPQË�_�ZT_aÜ�RbUeX[Z�RªP`_aÃ�Å�XdNQ_�SfZTZb_eͧRT]\È>J�Ë�_�Æ�N`jdifXdi�RTZbRTPKl®jdÎX�N`Ä�ZT_+RYÅ�_eŤPQRbÃ�X:PQ_�Í�XdÅ 1 h ×

M�Û��`Û� `Ý �/�/� � e Û� e Ý$#�Û��>Ý ; e Û�& e Ý �/�.� ;*)BÛ'&�)�Ý P(Mf4?�>Ý ^

M�Û��`�.�/� �fe #j;[e��/�/� ; ) Ý P(Mf4?�>Ý J b

W cXe ����� `M � Û� hW PG�]W 4%Mf4?�>Ý J b

� c e ����� )M � Û'& � P�; � 4%Mf4?�>Ý

J�Ë�_+_eŤPQRbÃ�X:P`RTj�]£P`_eUkË�]�RYÕ�Ä�_+ÄfÅQ_eÍ�Rb]�ÛCÉËfXdNQ]�RYX[Ò Ø�ädä�/ ÝFÎ|j�N�PQË�_4É'8 N`Ä�Zb_�ÆfNQj�ifX[i�RbZbRªP`RT_�ÅRb]�PQ_eNQÆ>j[ÐZYX:PQ_�Å�Ť_eÌd_eN`XdZh_�ÅKP`RTÃ�X:P`_eÅeÓ(PQË�_�Zbj Ï _�ÅKP+i>_aRb]�c�M�Û��

`�/�/� � e #j; e �/�.� ;0)�ÝKP M�ÝWÈ�LO]�l·N`Ä�Zb_eÅ�]�j[P�ÅQ_a_e]

Rb]�PQNkX[Rb]�Rb]�c�Í�X:PkX Ï RbZTZ�cd_aP{Öa_eNQj�Æ�N`jdiVX[i�RbZTRTPKl£Äf]fÍ�_aN{PQË�RYÅOÃ�j�Í�_eZ8ÈF6<X[NkŤ_�P`NQ_e_eÅORb]�PQ_�ÅKP+Í�X:PkX Ï RTZbZi>_�ZTRbÃ�RªP`_eÍ®PQj�Rb]fUWZbÄfÍ�_�N`Ä�Zb_eÅ¡ÅQ_a_e]®Rb]­PQNkX[Rb]�RT]fcfÈLMÆ�N`jdi�Zb_aÃ Ï RTPQË®P`Ë�RbÅ¡XdÆ�Æ�N`j�X�UkË�RbÅ¡Uaj:Ìd_eN`Xdcd_dÈ�L{Å¡ÅQË�j Ï ]®RT]­PQË�RYÅ¡ÅQ_eUvP`RTj�]�Ó�Ã�X[]�l�P`_eŤP¡ÍfX:P`XÅQ_a]�PQ_e]fUW_�Å Ï RbZTZVNQ_�Õ�ÄfRTN`_¡NQÄfZT_�Å<PQËVX:P�ËfX�Ì�_¡]�j[PiV_e_a]£ÅQ_a_e]BRb]�P`N`XdRT]�Rb]�cVÈdJ�Ë�RYÅ�cdRbÌd_�Å<Ã�j[P`RTÌ:X:P`RTj�]�Î|jdNi�N`_eXdÒ�Rb]�c�Í�j Ï ]�N`Ä�Zb_eÅ¡Rb]�PQj£ÅQÃ�X[ZbZT_eNOUWjdÃ�Æ>jd]�_e]�P`ÅeÈVJ�Ë�RYÅOÅQ_eUvP`RTj�]�Ã�j[PQRbÌ:X:P`_eÅ�P`Ë�_�]�_e_eÍ®PQj£i�NQ_�X[ÒÍ�j Ï ]�N`Ä�Zb_eÅ¡Î|N`jdà Î|jdÄfN{Æ>_aNkŤÆ>_eUWPQRbÌd_eÅeÈ 8�RbN`ŤPeÓ Ï _�Í�RbÅ`UWÄVÅQÅ{Ë�j Ï PQË�_]6F_a]�]�P`NQ_e_aifXd]�Ò­Xd]�]�j[PkX:P`RTj�]

ŤPKl�Zb_®ZT_�XdÍ�Å�PQj�X·Ì�_aN`l�ZbXdNQc�_£]�Ä�Ã4i>_aN�jdÎ{cdNkX[Ã�Ã�X[N�NQÄ�Zb_eÅeÈ�Ñ�_eUajd]fÍ�Ó Ï _­X�ÅQÅQ_eÅ`Å4PQË�_®_WÜ�PQ_e]�P�jdÎPQËf_-Uaj:Ìd_aNkX[c�_�Æ�NQj�i�Zb_aà i�l�Zbj�jdÒ�RT]fc�X:P£N`Ä�Zb_·Î|N`_eÕ�Ä�_e]fUWRb_eÅ£RT] PQNkX[Rb]�RT]fc�Í�X:PkX�È�J�Ë�RTNkÍ�Ó Ï _�NQÄf]_WÜ�Æ>_aN`RTÃ�_e]�PkÅ�PQj�XdÅ`ÅQ_eÅ`Å�P`Ë�_�RTÃ�ÆfX�UvP<j[ÎVPQË�_OUaj:Ìd_aNkX[c�_<Æ�N`jdi�Zb_aà j�]�X�UaUWÄfN`X�UWldÈT8fjdÄ�NQPQË�Ó Ï _�Í�RbÅ`UWÄVÅQÅË�j Ï i�NQ_�X[Ò�Rb]�c�NQÄ�Zb_eÅ¡Í�j Ï ]­Ã�X�l�RbÃ�Æ�NQj:Ì�_�_�ÅKP`RTÃ�X[PQRbjd]�XdÅ Ï _aZbZ�XdÅ¡UWj:Ì�_aNkX[c�_dÈ� � �X�y¹ ����4g�a4�»�» ��½T4�4 � ��»X� �£»�»h¾V¼ ��¼�Ây¾>» ��¼ . 5J4 $-4 ��¿ ��¼e¾ 2 �f» .�9­À<5J4 � J�Ë�_ = -VX:P`]�_eÅ`Å,?j[Î{PQË�_H6F_a]f] PQN`_a_eifX[]�Ò1Xd]�]�jdP`X:P`RTj�]�ŤPKl�Zb_£ËVXdÅ�X[ZbNQ_�XdÍ�l-i>_a_a]�Í�RYÅQUaÄfÅ`Ť_�Í RT]�ÅQ_eUvP`RTj�] / È R È<J�Ë�_-VX[PQ]�_�ÅQÅ�jdÎ\PQËf_�P`NQ_e_eÅ�Zb_eXdÍfÅ�PQj�X4Ì�_aN`l�ZbXdNQc�_�Û8X[]fÍ®UWj�]fÅKPkX[]�PQZbl�cdN`j Ï Rb]�c�Ý�]�Ä�Ã4i>_aN�j[Î�NQÄfZT_�ÅaÈ�J�Ë�_Æ�N`RTÃ�_�NQ_�XdÅQjd]®Î|jdN{PQË�RYÅORYÅOP`ËfX:P{PQË�_�]�ÄfÃ4i>_aN{jdÎ�XdÍ�ÚKÄf]fUvPkÅ¡PQj®X�Ë�_�XdÍ�RYÅOÆ>j[PQ_e]�PQRYX[ZbZTl�Ä�]�ZbRbÃBRTPQ_�Í�ÓÎ|jdN�_aÜ�XdÃ�Æ�ZT_{PQË�_eNQ_�UaXd]�iV_+X[]�l�]�Ä�Ã4i>_aN�j[Î�.�.�X�Í�ÚKÄ�]fUWP`Å�PQj�X�Ë�_�XdÍ�Ì�_aN`i�È�L�i�Rb]fX[N`l�ÐCifN`Xd]fUkË�Rb]�cÛCÉËfjdÃ�ŤÒ�l4X�Í�ÚKÄ�]fUWPQRbjd]VÝ�c�N`XdÃ�Ã�XdN�UeX[]Bcd_e]�_aNkX:P`_�Xd]�Ä�]fZTRbÃ�RªP`_eÍB]�Ä�Ã4i>_aN<jdÎ>XdÍ:ÚKÄ�]fUvPkÅ Ï RTPQË�Ìd_eNQlÎ|_ Ï NQÄ�Zb_eÅeÈ�8fjdN�_WÜ�X[Ã�Æ�Zb_dÓ�PQËf_OÎ|jdZbZbj Ï RT]�c4cdNkX[Ã�Ã�X[N�c�_a]�_eN`X[PQ_eÅX[]�l�Ť_�Õ�Äf_a]fUa_ ; . A ; ,�. .�. ��×

; . A ; ,�.; . A ; . .�.

I^]�Uajd]�PQNkXdŤPeÓ�P`Ë�_ 6F_e]�]�PQN`_a_eifX[]�Ò-ÅKPKl�Zb_ Ï jdÄ�ZYÍ UWN`_eX[PQ_�X�]�_ Ï NQÄ�Zb_�Î|j�N�_eX�UkË ]�ÄfÃ4i>_aN4jdÎ96-6�ÅÅQ_a_a]�Rb]®PQNkX[Rb]�RT]fc�ÍfX:P`XfÈ�J�Ë�_+cdNkX[Ã�Ã�X[N Ï jdÄ�ZYÍ£i>_

; . A ; ,�.; . A ; ,�. .�.; . A ; ,�. .�. .�.; . A ; ,�. .�. .�. .�.ÈbÈTÈbÈfXd]fÍ­ÅQj�jd]

H PQËf_aNOXdÍ�Ìd_aN`i�RYX[Z�XdÍ:ÚKÄ�]fUvPkÅaÓ�ÅQÄfUkË�XdÅ¡X�Í�Ìd_eNQi�RYX[Z>Æ�Ë�NkXdÅQ_eÅ�j�N�X�Í�Ìd_eNQifRbXdZ +�<,+*- ÅaÓ�UaXd]®XdZbÅQj�Ã�j�Í�RTÎ|lX�Ìd_eNQi�ÅQ_aÌ�_aNkX[Z(PQRbÃ�_eÅ�0fX[]VÍ�X[ZbZ�j[Î�PQË�_�Ť_�Í�RªÊ(_aN`_a]�P¡PKl�Æ>_eÅOjdÎFX�Í�ÚKÄ�]fUWP`Å�UaX[]�i>_4ÅQ_a_a]®P`jdcd_aPQË�_eN¡RT]

��� � ù:ìkç8ï�é�ì�\ � ø �¡ô ��ðKí�ìkí�ø8ô�ëKôvï ��é è8é�ôvï�øhôvï{èCù�ð ��ìkçCðKïaè\ôkû�è8ù�ð<ï�ôvï�gYè8ðKç �¡é�ï:ìkí�ó[ð¤é�ï�ñ�ðPk��:ìkï���ð ��ö�Z�ð<ô�¡é è�è8ù�é�øù�ðKç8ðFûbôvç�ó�ç8ð�beé è�õ�j

R�K

Page 36: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

PQËf_4ÅQXdÃ�_�NQÄ�Zb_dÈVJ�Ë�_�N`_eÅQÄ�ZªPORYÅOX�UajdÃ4ifRT]fX[PQj�NQRYX[Z�_aÜ�ÆfZTj�ŤRbjd]®RT]�P`Ë�_�]�Ä�Ã�iV_eNOj[ÎFNQÄfZT_�ÅaÈfJhj�cdRbÌd_�X-VX�Ì�jdÄ�N�j[Î�P`Ë�RYÅaÓ�Ë�_eNQ_�RbÅ�X4N`Xd]fÍ�jdà Å`X[Ã�Æ�Zb_{jdÎ\N`Ä�ZT_�ÅPQËfX[P�j�UaUaÄ�N`NQ_�Í�jd]�Zbl�jd]VUW_{Rb]�Ť_�UvPQRbjd]VÅ à Ð à�Øj[Î�PQËf_ 6F_a]�]­PQN`_a_eifX[]�Ò(Ó�Xd]fÍ Ï _aN`_+j[Î�PQË�_+Î|j�NQÃ�X[P ; . A ;�< ��2�# ����� ��� ��×

; . A ; < ,�. ,�. ,�. . - ,; . A ; < ,�. +�<*+*- .�. +/- +�=�; .; . A ; < ,�. +�=�; . +�=�; . .�. .�.; . A ; < -�<; . A ; < ,�. .�. ,�. +�<,+*-; . A ; < ,�. .�. +�<,+- .�.

I}P�RYÅ<]�jdP�jd]�Zbl4Ì�_aN`i�ÆfË�N`X�Ť_�Å�PQËfX[PUaXdÄfÅQ_�PQË�RYÅ<Ò�RT]VÍ�j[Î�UWjdÃ�i�Rb]fX:P`jdN`RbXdZ�_WÜ�Æ�Zbj�ÅQRTj�]�×:j[P`Ë�_aN�ÆfË�N`X�Ť_�ÅaÓRb]1ÆfX[NQPQRYUWÄfZbXdN�]�jd]�ÐCN`_eUaÄ�N`ÅQRbÌd_�]�jdÄf] Æ�Ë�NkXdÅQ_eÅeÓ\X[ZYŤj·Uajd]�PQN`Rbi�Ä�PQ_­X�Ë�Ä�cd_�]�Ä�Ã�iV_eN4jdÎ�N`Ä�Zb_eÅeÈhJ�Ë�_]�_aÜ�P{ÅQ_eUWPQRbjd]�UWj�]fŤRYÍ�_eN`Å�P`Ë�_�Í�RYÅKP`NQRbi�Ä�P`RTj�]fX[Z�Æ�N`jdÆ>_aNQPQRb_eÅ�jdÎ\P`Ë�_�NQÄfZT_�Å�RT]�Ã�jdN`_�Í�_WPkX[RbZ8È

[OjdPQ_PQËfX[PhP`Ë�_aN`_�RbÅ�cdj�j�Í�Ã�jdPQRbÌ�X[PQRbjd]4Î|jdNhPQË�_O6F_a]f]�PQN`_a_eifX[]�Ò(Þ ÅFÍ�_eUaRbÅQRTj�]�PQj�N`_aÆ�N`_eÅQ_a]�PhN`Ä�Zb_eÅRb]�PQËfRbÅ Ï X�ldÓ�N`X[PQË�_eN�P`ËfX[] Ï RªP`Ë£N`Ä�ZT_�Å�_aÜ�Æ�NQ_�ÅQÅQRb]�c�ÉË�j�Ã�ŤÒ�l�XdÍ�ÚKÄf]fUvP`RTj�]�Û|RCÈ _dÈbÓ�X�ÅQUkËf_aÃ�X Ï Ë�_eNQ_UWj�Ã�Æ�ZT_eÃ�_a]�P`ÅFX[]VÍ�XdÍ�ÚKÄf]fUvPkÅ�XdNQ_�Ť_eÆfX[NkX:P`_eÍ�ÓaPQË�N`jdÄfcdË�N`Ä�Zb_�PKl�Æ>_eÅ E ; . A ; < �� 2 � � � � �� 8 � ��HX[]VÍ E ; . A ; . � #� �4 � 8 �KH¤ÝWÈ 8�RTNkŤPeÓ�RTP4X[ZbZTj Ï _eÍ·PQË�_�XdNQc�Ä�Ã�_a]�P C[XdÍ�ÚKÄ�]VUvP�Í�RYÅKP`RT]fUWPQRbjd]�Î|jdN .�.Ã�j�Í�RªSV_aNkÅ+PQj�Ì�_aN`ifÅ�PQj�i>_�ZT_aÎ�P4Ä�]fÍ�_WSf]�_�Í�×�P`Ë�RbÅ�Í�_eUaRbÅQRbjd] Ï X�Å�Î|jdÄ�]fÍ�P`j�iV_�Ì�_aN`l·Í�R.�UaÄ�ZTP�Î|jdNX[]f]�j[PkX:PQj�N`ÅeÈ�Ñ�_eUajd]fÍ�Ó�Rb]­PQË�_Bpv��t|�Wrdwks�jdNkÍ�_eNQRb]�c­Û8XdÅ�jdÆfÆVj�Ť_�Í�PQj�Í�_e_aÆ®ÅKP`NQÄfUWPQÄ�N`_�ÝWÓ�XdÍ�ÚKÄf]fUvPkÅ¡X[N`_j[Î�P`_a]�Î|j�Ä�]fÍ�UWZbj�ÅQ_aN+P`j�PQË�_�Ë�_�XdÍ�PQËVX[] UWj�ÃBÆfZT_eÃB_e]�P`ÅeÓ�PQË�_eNQ_ei�l·l�RT_eZbÍ�Rb]�c·Å¤PQN`ÄfUvP`Ä�N`_eÅ�PQËVX:P�ÎyXdZTZjdÄ�P`ÅQRbÍ�_�P`Ë�_£ÉË�jdÃ�ÅQÒ�l§XdÍ�ÚKÄf]fUvP`RTj�]�Å`UkË�_eÃ�XfÈh8�jdN�_aÜ�X[Ã�Æ�Zb_dÓ�X®NQÄfZT_�ÅQÄfUkË-X�Å E ; . A ; < ,�.*ikj.�. +�<,+*- ikj6H�RYÅBÎ|jdÄf]f͸Ìd_aN`l�Î|N`_eÕ�Ä�_a]�P`ZTl Rb]¸PQË�_H6F_a]f]�P`NQ_e_aifXd]�ÒF0 +�<,+*- UWj�ÃBÆfZT_eÃB_e]�P`Å�]�_�X[N`ZTlX[Z Ï X�l�Å�_aÜ�P`N`XdÆVj�Ť_�j:Ìd_eN¡XdÍ�ÚKÄ�]VUvP`ÅeÈ� � �X� A���À ��»(¼eÂ���.�Ây» ��¼!��4K��¾�� 4�½(�*��4:�+½:¾��Q5;4 ) I^]�j�N`Í�_aN�P`j�Õ�ÄfX[]�P`RªÎ|l�PQË�_�UWj:Ì�_aNkX[cd_�Æ�N`jdi�Zb_aÃ�ÓN`Ä�ZT_�Å Ï _aN`_+UajdZbZT_�UvP`_eÍ£Î|NQj�à ÅQ_eUvP`RTj�]fÅ à Ð à�Ø j[Î�PQËf_ 6F_a]�]®PQN`_a_eifX[]fÒ>È^6�Ä�]fUWPQÄfX[PQRbjd] Ï X�Å�N`XdRbÅQ_eÍ®XdÅË�RbcdË�XdÅBÆ>j�Å`ŤRbi�Zb_­Rb]�P`Ë�_®PQN`_a_�Ó�X[]fÍ1PQË�_�N`Ä�ZT_�Å�Í�RbÍâ]�jdP�ËVX�Ìd_�UWjdÃ�Æ�Zb_aÃ�_e]�P�Ã�X[N`Ò�RT]�c�Å4j�NBPQË�_Í�RYÅKP`RT]VUvPQRbjd]âiV_aP Ï _e_a]âifXdÅQ_WÐk[a6Å4X[]VÍ NQ_�UWÄ�NkÅQRTÌ�_ ,�.�ÅeÈ ä�Rdä Ó R S à N`Ä�ZT_£PQj�Òd_a]VÅ Ï _aN`_£UWj�ZTZb_eUWPQ_�Í RT]PQËfRbÅ Ï X�l�0dPQË�_eNQ_ Ï _eNQ_ Ø�à Ó _ Vdä Í�RYÅKP`RT]VUvP�NQÄ�Zb_OPKl�Æ>_eÅeÈ�Ù-_+X[ZYŤj4UajdZbZT_�UvP`_eÍ�P`Ë�_�UajdÄ�]�PÎ|jdN�_�XdUkË�N`Ä�Zb_dÈJ�X[i�Zb_ Ø�à ŤËfj Ï Å¡Å¤j�ÃB_�ŤP`X[PQRYÅKP`RbUeÅ�Î|jdN�PQËf_eÅQ_�NQÄ�Zb_eÅeÈL�Ã�X[ÚKjdN`RªPKlBj[Î�N`Ä�Zb_eÅRT]�PQË�_�cdNkX[Ã�Ã�X[N�� `fÓ / ` K Ó�jdN K _fÈ K�U � j�UaUWÄfNQN`_eÍ�j�]�ZTl�j�]fUW_�È�J�Ë�_�Ť_N`Ä�ZT_�Å�X�UaUajdÄ�]�POÎ|j�N V È /dà�U jdÎ�NQÄfZT_�Å{i�l®PQj�Òd_a]\ÈVJ�ËfX[P�RYÅaÓ>RªÎ�X�NQÄfZT_ Ï X�Å{Í�NkX Ï ]·X:P�N`Xd]fÍ�jdà Î|N`jdÃPQËf_ äWR�ä Ó R S à NQÄfZT_+P`jdÒd_e]fÅ�Rb]�ÅQ_eUWPQRbjd]fÅ à Ð à�Ø j[Î�PQË�_+P`NQ_e_aifXd]�Ò(Ó�PQË�_eNQ_ Ï jdÄ�ZYÍ®iV_�X V È /dà�U UkËfXd]fUW_j[Î�PQËVX:P{i>_aRb]�c�PQËf_�jd]�Zbl£Rb]fŤP`X[]VUW_+j[Î�PQËfX[P{N`Ä�ZT_�È H ]®PQË�_�jdPQË�_eNOËfX[]VÍ�Ó Ï Ë�_e]�Í�N`X Ï Rb]�c�X�NQÄ�Zb_�X:PNkX[]fÍ�j�à Î|N`jdà PQË�_ Ø�à Ó _ Vdä N`Ä�ZT_�Å¡Rb]�PQË�_�c�N`XdÃBÃ�XdN¡RT]fÍ�ÄfUW_�Í£Î|N`jdà PQË�j�Ť_�ÅQ_eUWPQRbjd]fÅeÓ�P`Ë�_aN`_ Ï j�Ä�ZYÍi>_�X K _fÈ K�U UkËVX[]fUa_�jdÎ\P`ËfX:PON`Ä�Zb_�ËfX�Ì�RT]�cBj�UaUaÄ�NQN`_eÍ­jd]fZTl�j�]fUW_�È

J�Ë�_ÆV_eN`Ua_a]�P`Xdcd_�i�l�PQj�Òd_e]�j[Î�P`Ë�_ Ø Ð}UajdÄ�]�P\N`Ä�Zb_eÅhRbÅFXd]�RT]VÍ�RbUeX:P`RTj�]�j[Î�P`Ë�_�UWj:Ìd_eN`Xdcd_FÆ�N`jdi�Zb_aÃ�È8�N`jdà PQË�RYÅF_eŤPQRbÃ�X:PQ_�Ó V È /[à U j[Î>XdZTZ�N`Ä�Zb_eÅ¡ÛyjdN Ø RT] Ø�R�ä N`Ä�Zb_eÅkÝ\N`_eÕ�Ä�RbN`_eÍ�Rb]�PQ_eŤP�Í�X:PkX Ï j�Ä�ZbÍ�]�_eÌd_aNËfX�Ì�_�i>_a_e]�Ť_e_a]®RT]®PQNkX[Rb]�Rb]�cfÈ�I}P Ï XdÅ¡XdZbÅQj�Î|jdÄ�]fÍ­P`ËfX:P Ø%K È V U Û Ø Rb]H`�È ` / Ý�jdÎ�XdZTZ\ÅQ_a]�P`_a]fUa_eÅ�ËfX�ÍX:P+Zb_eXdŤP{j�]�_4N`Ä�Zb_�PQËVX:P�j�UeUWÄ�N`NQ_�Í�ÚKÄfŤP�j�]fUW_�È>J�Ë�RYÅ�cdRbÌd_eÅ�X[]·_�ÅKP`RTÃ�X[PQ_�P`ËfX:P+N`jdÄ�c�Ë�ZTl Ø Rb] `fÈ ` /ÅQ_a]�PQ_e]fUW_�ÅORb]�PQ_�ÅKP�ÍfX:P`X Ï RTZbZ\]�jdP�i>_4UWj:Ì�_aN`_eÍ®i�l®X�c�N`XdÃ�Ã�XdNORb]fÍ�ÄfUa_eÍ®Î|N`jdà _ V Ó VWV�V Ť_e]�P`_a]fUa_eÅRb]­P`Ë�_+PQN`_a_eifX[]fÒ>È

I}Î�PQË�_�UajdÃ�Æ�Zb_aÃ�_a]�POÃ�X[N`Ò�RT]�c�Å¡X[N`_�X�Í�Í�_�Í£P`j�PQË�_�]fjd]�ÐCPQ_eNQÃ�Rb]fX[ZYÅaÓ�Xd]fÍ­PQË�_�iVXdÅQ_WÐk[a6'C:]�jd]�ÐN`_eUWÄfN`ÅQRTÌ�_N,�.4Í�RbŤPQRb]fUvP`RTj�]�RYÅFÃ�XdÍ�_�Ó:PQËf_a]�PQË�_OUaj:Ìd_aNkX[c�_�Æ�N`jdi�Zb_aÃ�RbÅFÃ�XdÍ�_ Ï j�N`ÅQ_dÈ�JhXdi�Zb_ Ø�R cdRbÌd_eÅPQËf_�ŤP`X[PQRYÅKP`RbUeÅ�RT]§PQË�RYÅ+UaXdÅQ_dÈ ØT/ È Ø%U j[ÎXdZTZ<ÅQ_a]�PQ_e]fUW_�ÅBÛ Ø Rb] K È S­Å¤_e]�PQ_a]VUW_eÅkÝ�UWjd]�PkX[Rb]�_eÍ·X[P�Zb_eX�ÅKPjd]f_ Ø Ð^UWjdÄf]�P�N`Ä�ZT_�È� � �X� E ���<4,º#) c �fÁ[¼�¾ �j��¾�� 4�½(�*��4 ¾V» �­ÁdÁdÀh½(��Á�. 6<XdN`ÅQRT]fc-_aÜ�ÆV_eNQRbÃ�_a]�P`Å Ï _eNQ_§ÄfŤ_�Í�PQjXdÅ`ÅQ_eÅ`ÅFPQË�_�RTÃ�ÆfX�UvP�j[Î(PQË�_�UWj:Ì�_aNkX[cd_�Æ�N`jdifZT_eÃ�jd]£ÆfX[NkŤRb]�c�X�UaUWÄfN`X�UWldÈ�Ñ�_eUWPQRbjd] V jdÎ>P`Ë�_OP`NQ_e_aifXd]�ÒÏ XdÅ�ÆfX[NkÅQ_eÍ Ï RTPQË�Ã�j�Í�_aZYÅ Ø X[]fÍ à X�Å�iV_aÎ|jdN`_dÓ�i�Ä�P¡P`Ë�_+ÆfX[NkÅQ_{P`NQ_e_eÅ Ï _eNQ_�N`_eŤPQN`RbUWPQ_eÍ�PQj�Rb]fUWZbÄfÍ�_N`Ä�ZT_�Å�X[ZbN`_eXdÍ�l4Ť_e_a]BRT]�P`N`XdRT]fRT]�c�Í�X[P`XfÈdJhXdi�Zb_ Ø _�ŤËfj Ï Å�PQË�_¡N`_eÅQÄ�ZTP`ÅeÈGY¡_eŤPQN`RYUvPQRb]�c�PQËf_ONQÄfZT_�ÅFZT_�XdÍ�Å

R `

Page 37: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

YOÄ�ZT_�Éj�Ä�]�P [{jfÈ�jdÎ�Y¡ÄfZT_�Å 6F_aNkUW_e]�P`X[c�_ [OjVÈ�j[Î�Y¡Ä�Zb_eÅ 6F_aNkUW_e]�PkX[c�_i�l£Jl�Æ>_ i�l£Jl�ÆV_ i�l�PQjdÒ�_a] i�l�PQj�Òd_a]

Ø ` / ` K K _fÈ Kdà ` / ` K V È /dàà Ø `WS�S Ø�R È ` V R�R / ` V È R `R ` ä K K È ` V àWV S K V È à�à_ _ K / R È `WS Ø S à S V È Ø�äK R�àdä à È ` K Ø `Y_ K V È Ø S

`®ÈbÈTÈ Ø�V S R K `�È /TR `W_ RWV V È `�SØ�Ø ÈbÈbÈ àYV _ ä ` _fÈ VWV /dà�Øeä V È /�/à�Ø ÈbÈbÈ KYV KYVfØ _fÈ V _ Ø%K[äWRfØ Ø È /YVK�Ø ÈbÈTÈ Ø�VWV àYV _ Ø È `Y_ Ø _ KYV�/ Ø È K _

� Ø�V�V _ R�ä R È K _ S /[ä�Kdä ` ä�R È `Y_* �'+� 8= >�"Y��� ���� ��,� � ��+-+�� ��!��e���%!,�K� +���� �k!��,� ������ ' � '�� �#�hE� !'k+�!�!,(���4�*$ � ��!,+�!O����������!���!��TQ� �+E�W ������ � !,+�!� ��- �������� �W!6�I��� � ���!� �!,+��� ��������F

YOÄ�ZT_�Éj�Ä�]�P [{jfÈ�jdÎ�Y¡ÄfZT_�Å 6F_aNkUW_e]�P`X[c�_ [OjVÈ�j[Î�Y¡Ä�Zb_eÅ 6F_aNkUW_e]�PkX[c�_i�l£Jl�Æ>_ i�l£Jl�ÆV_ i�l�PQjdÒ�_a] i�l�PQj�Òd_a]

Ø / SW` K KWK È VWV / SW` K V È SW_à Øeä�Ø S Ø�R È _ Ø R S R ` V È _ ØR S Ø%K K È /TV à _W_ K V È à `_ Kdà S R È ` ä à�ØdØ�à V È à�àK R /�/ à È `Y_ Ø SWS K V È àWV

`®ÈbÈTÈ Ø�V ä�à S `�È _ ä /�ØdØ�à V È / `Ø�Ø ÈbÈbÈ àYV K[ä K _fÈ Ø ` S / _�S V È ä�Rà�Ø ÈbÈbÈ KYV KWK�à R È SW` ØT/ `WS�S Ø È S�SK�Ø ÈbÈTÈ Ø�VWV à _ V Ø È `WS Ø ` ä ` R Ø È S Ø

� Ø�V�V _�S R R È R S S /YV /dà S ä�à È ` ä* �'+� 8= > �Y��� ���� ��,� � ��+-+�� ��!��e���%!,�K� +���� �k!��,� ������ ' � '�� �#�hE� !'k+�!�!,(���4�*$ � ��!,+�!O����������!���!��TQ� �+E�W ������ � !,+�! �� ����� ��!6�]���]�����!� �!,+��� �� �����F

H H �).�g L�UaUWÄfN`X�UWlg=Y g�6 É�ã�Å V É�ã�Å Z�à É�ã�Å

H�j�Í�_aZ Ø S / È ä SWSfÈ R Ø È V�à ` R È ä SY_fÈ _H�j�Í�_eZ Ø Û|N`_eŤPQN`RbUWPQ_�ÍfÝ S / È _ SW`fÈ / Ø È Øeä ` Ø È / S Ø È S

H�j�Í�_aZ à S�S�È S S ä È V V È ä _ ` K È ä S K È `H�j�Í�_eZ à Û|N`_eŤPQN`RbUWPQ_�ÍfÝ S / È ä S / È V Ø È Øeä ` à È K S à È _

* �'+� 8= >��� !��k� � �� ���>Y!��,� ���� �)� �FE��!��+ � � +�!�!�( �� �:F�[J+�!���k+� ��,�!U�k\���! �� �QE� !'������!��^ ��e+�!���k+� ��,�!6�]��+�!����.�%! +� ����L+�� ��!��eE������6�%!#(*!,!��]�k!�!,� ��]k+�� �� ����[� ���F � � � ��� ( ���(*!���!6�D+�!�� ����� ��W+�!��� ��k ���� F�� � ��-E��!O6�%!,+����!O�Y� �c(*!,+e� �F�,+����k�k �� � (W+���u�%!,��e�*!,+-�k!��T�!�����!�F � � ��� ' � � �+�!#E� !'�*!,+���!��T����!� � �k!,�Y�!,� ��!�� � E���)��+ ' �,+����k�k �� ��(W+���u�%!,��Q+�!��k�*!,�,� �%!�����F

R /

Page 38: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

PQj�X V È K C Ø È ` U Í�_eUaNQ_�XdÅQ_�Rb]�N`_eUaXdZTZ C�ÆfNQ_�UWRYŤRbjd]�Î|j�N�Ã�j�Í�_aZ Ø ÓdX[]VÍBX V È ä C à È V�U Í�_eUaNQ_�XdÅQ_Î|j�N<Ã�j�Í�_aZà È� � �X� ���4½T4 ����Ây» � �­¾���» 9£À�5;4 ��º.) c�½�¾���4 � � �a¼�Â3),��¼eÂy¾>» Éj:Ì�_aNkX[c�_OÆ�N`jdi�Zb_aÃ�Å�X[N`_{]�jdP�PQË�_jd]fZTl®Ã�j[PQRbÌ:X:P`RTj�]�Î|jdN�i�NQ_�X[Ò�Rb]�c�Í�j Ï ]�NQÄfZT_�ÅaÈ>J�Ë�_4Ã�_WP`Ë�j�Í�Ã�X�l­XdZbÅQj�RbÃBÆfNQj:Ì�_�_eŤPQRbÃ�X[PQRbjd]�È>J\jRbZTZbÄfŤPQNkX:PQ_�PQË�RYÅaÓ�UWj�]fŤRYÍ�_eN�PQË�_­NQÄfZT_�Å�Ë�_eX�Í�_eÍ�i�l§PQjdZYÍ�Ó Ï Ë�j�ÅQ_£UWj�Ä�]�P`Å�XdNQ_�ÅQË�j Ï ]�Rb] P`Xdi�ZT_ Ø%K È.�ŤPQRbÃ�X:P`RT]�c§PQË�_­Æ�N`jdifXdi�RTZbRTPKlHM�Û�Y¡Ä�Zb_�P �c6FÓ�PQjdZYÍfÝ�ÄfŤRb]�c¸ÛCÉËfXdNQ]�RYX[Ò Øeä�ä / ÝvÞ Å�Ã�_WPQËfj�Í Ï j�Ä�ZYÍRb]�P`_aN`ÆVj�ZbX[PQ_�P Ï jBÃ�X[Ü�RbÃ4ÄfÃ�Ð}ZbRTÒ�_aZbRTË�j�j�Í­_eŤPQRbÃ�X[PQ_�Åa×

@�M ) � Û3Y¡ÄfZT_:P �c6FÓ�PQj�ZbÍVÝ�B$Û Ø � @>Ý M ) � Û�Y¡Ä�Zb_:P �c6�Ý.�ŤPQRbÃ�X:P`RTj�]�RT]�PQ_eNQÆ>jdZYX:P`_eÅ¡i>_WP Ï _a_e]�PQË�_BŤÆ>_eUaRªS>U[ÓfZb_WÜ�RYUaXdZTZbl­ÅQ_a]fÅQRTPQRbÌd_4Í�RYŤPQN`RTi�Ä�PQRbjd]�Rb]�P`X[ifZT_ Ø%K ÓX[]VÍ�P`Ë�_+]�jd]�Ð}Zb_WÜ�RbUeX[Z>_eŤPQRbÃ�X:PQ_+ifX�Ť_�Í�j�]�ÚKÄfŤP¡PQË�_+ÆfXdNQ_e]�P�]�j�]�ÐCPQ_aN`Ã�RT]VX[ZCÓ ; .(È�J�Ë�_aN`_�X[N`_{Ã�X[]�lÍ�RTÊ>_eNQ_e]�P�N`Ä�Zb_eÅRT]�P`Ë�_�ÃBj�NQ_�ŤÆ>_eUaRªSVU�Í�RYÅKP`NQRbi�Ä�P`RTj�]§Û à `4Í�RTÊ(_aN`_a]�PN`Ä�Zb_OPKl�ÆV_�ÅaÓ�jdÄ�Pj[Î Ø _ / P`jdÒ�_a]fÅÏ Ë�_eNQ_�P`jdZYÍ Ï X�Å�X ; .·Ë�_eX�ÍfÝ 0�X[]fÍ�P`Ë�_aN`_�X[N`_�Ť_eÌd_eN`XdZ Ø Ð^UWjdÄf]�P�N`Ä�Zb_eÅ�Û ØdØ UaX�Ť_�Å`ÝWÈ�8�N`jdÃ"PQË�_�Ť_ŤP`X:P`RbŤPQRYUaÅ @ Ï j�Ä�ZbÍ�ËfX�Ì�_�P`j�i>_¡N`_aZYX:PQRbÌd_eZTl+Zbj Ï È[J�Ë�_aN`_dÞ ÅFX�Ë�RTc�ËBUkËVX[]fUa_�jdÎ>X�]�_ Ï N`Ä�ZT_�Î|j�N�=KPQj�ZbÍ�?i>_aRb]�c£N`_eÕ�Ä�RbNQ_�Í�RT]·PQ_eŤP�ÍfX:P`XfÓ�P`Ë�_aN`_WÎ|j�NQ_4X�NQ_�XdÅQjd]fXdi�ZT_�XdÃ�jdÄ�]�P{jdÎ�Æ�NQj�ifX[ifRTZbRªPKl­Ã�XdÅ`ÅOÃ4ÄVÅKP�iV_Zb_WÎ�POP`j�P`Ë�_�ifX�UkÒd_eÍ�ÐCjdÊ�_�ÅKP`RTÃ�X[PQ_gM ) � Û3Y¡Ä�Zb_:P �)6ÝvÈ

J�Ë�RYÅ�_�ÅKP`RTÃ�X:P`RTj�]�ÃB_aPQË�j�Í RYÅ�Ã�RYÅQÅQRb]�c·X·UWN`ÄfUaRbXdZ�cd_e]�_aNkX[ZbRbÅ`X:P`RTj�]�×�Rb]1ŤÆ�RTPQ_£j[Î�PQË�_eNQ_�i>_aRb]�cÃ�X[]�l�Í�RªÊ(_aN`_a]�P£N`Ä�Zb_eÅeÓ<PQËf_§Í�RYÅKP`NQRbi�Ä�P`RTj�]±j:Ìd_aN�ÅQÄ�i(UaX[PQ_ac�jdN`RTÖ�X:P`RTj�]1Î|NkX[Ã�_eÅ£RbÅ�Ã�ÄfUkË$ÅQËfX[N`ÆV_eNeÈ=KP`jdZYÍ^?�RYÅ�Ť_e_a] Ï RTPQË­jd]�Zbl K ÅQÄ�i(UaX:P`_ac�jdN`RTÖ�X:PQRbjd]BÎ|NkX[Ã�_eÅRb]�PQNkX[Rb]�Rb]�c4Í�X[P`X � P`Ë�_�ZbXdNQc�_O]�Ä�Ã4i>_aNj[Î�NQÄ�Zb_eÅ�RYÅBXdZTÃ�j�ÅKPB_a]�PQRbNQ_eZTl Í�Äf_£P`j-X�Í�ÚKÄ�]fUWP`ÅBjdNBÆ�Ä�]fUWPQÄfX[PQRbjd]¸X[Æ�Æ>_eXdNQRb]�c§X[Î�PQ_aN�j�N�i>_WP Ï _a_e]UWj�Ã�Æ�ZT_eÃ�_a]�P`ÅeÈ�J�Ë�_+_eŤPQRbÃ�X:PQRbjd]­Ã�_WPQËfj�Í­Rb]­Ã�j�Í�_aZ à _WÊ(_eUWPQRbÌd_eZTl�_�ÅKP`RTÃ�X[PQ_eÅP`Ë�_+Æ�NQj�ifX[ifRTZbRªPKl�jdÎX�N`Ä�ZT_�X�Å

M ��� Ûyg�ÉJP �)6FÓ�PQj�ZbÍfÝ JFM � � Û3YOÉJP��)6FÓ�PQjdZYÍfÝ JNM�Û3YOÄ�ZT_:P��c6FÓ�P`jdZYÍ�Ófg�É�Ó*YOÉ�ÝJ�Ë�_­ZT_aÎ�P�Xd]fÍ�NQRbcdË�P�ÅQÄ�i(UaX[PQ_ac�jdN`RTÖ�X:P`RTj�]�Î|NkX[Ã�_�ÅaÓ � l X[]VÍ ; l ÓFX[N`_£UkË�j�Ť_e]�SfNkÅKP�ÈhJ�Ë�_­_a]�PQRbNQ_N`Ä�ZT_�RYÅ�PQËf_a]�cd_e]�_aNkX:P`_eÍ­i�l­H·X[N`Òdj:Ì�Æ�N`j�UW_eÅ`ÅQ_eÅeÈ

H ]fUa_�XdNQÃ�_eÍ Ï RªP`Ë£P`Ë�_�M���¡Xd]fÍ M����ÆfX[NkX[Ã�_WP`_aNkÅaÓ�PQËf_�Ã�j�Í�_aZ�ËVXdÅ�PQË�_�X[ifRTZbRªPKl�P`j�Zb_eXdNQ]�PQË�_cd_e]�_aNkX[ZbRYÅQX[PQRbjd]®PQËfX[PX=¤PQjdZYÍ^?�XdÆ�Æ>_eX[NkÅ Ï RTPQË�X£Õ�Ä�RTPQ_4ZbRbÃBRTPQ_�Í�Ó�ŤËVX[N`Æ·Í�RbŤPQN`Rbi�Ä�PQRbjd]§j:Ìd_aN�ŤÄ�i(UaX[P¤Ð_ac�jdN`RTÖ�X:P`RTj�]£Î|NkX[Ã�_eÅeÈfÑ�X�l£PQË�_�Ť_�ÆfXdN`XdÃ�_WPQ_eN`Å¡XdNQ_�Xdc�X[Rb]®_eŤPQRbÃ�X[PQ_�Í£P`Ë�N`jdÄ�c�Ë®Rb]�PQ_eNQÆ>jdZYX:P`RTj�]�Ó�Î|jdN_WÜ�XdÃBÆfZT_

@�M ) �¤ÛygFÉ P �c6FÓ�PQj�ZbÍVÝ�B$Û Ø � @>Ý M ) �QÛ8g�ÉJP �c6�ÝI^]­PQË�RYÅ¡UaX�Ť_�@�UaX[]­iV_+Õ�Ä�RTPQ_+Ë�RbcdË�È H ]�Zbl K ÅQÄ�i(UaX[PQ_ac�jdN`RTÖ�X:P`RTj�]�Î|N`XdÃB_�Å+ÛyXdÅ�j�Æ�ÆVj�Ť_�Í�PQj à `�N`Ä�ZT_PKl�ÆV_�Å`Ý�ËfX�Ìd_Fi>_a_a]�ÅQ_a_e]+RT]+P`Ë�_ Ø _ / UaXdÅQ_eÅeÈWJ�Ë�_<Zb_WÜ�RYUaX[ZbZbl�ÅQÆV_�UWRTSVU<Í�RYÅKP`NQRbi�Ä�P`RTj�]gM ) � Û8g�ÉJP �c6FÓ�P`jdZYÍfÝUaXd]¸PQË�_eNQ_aÎ|jdN`_�iV_§Õ�Ä�RTPQ_�ËfRTc�Ë�ZTl�PQN`ÄfŤPQ_eÍ�È]Y¡_eZbX[PQRbÌd_aZbl�ZbRTP¤PQZb_·Æ�N`jdiVX[i�RbZTRTPKl1Ã�XdÅ`Å�RYÅ�Zb_WÎ�P�P`j�PQË�_ifX�UkÒd_eÍ�ÐCjdÊ·_eŤPQRbÃ�X[PQ_�È

I^]­ÅQÄ�Ã�Ã�X[N`ldÓ�Î|NQj�à PQË�_+Í�RYÅKP`NQRbi�Ä�P`RTj�]fÅ�RT]£P`X[ifZT_ Ø�K Ó[PQËf_�Ã�j�Í�_eZ>ÅQË�jdÄfZbÍ£iV_+Õ�Ä�RªP`_�Äf]fUW_eN¤PkX[Rb]X[i>jdÄ�P Ï ËVX:P�NQÄ�Zb_eÅ]=¤PQjdZYÍ^?BUaXd]­X[ÆfÆV_�X[N Ï RªP`Ë�È�áOj Ï _aÌ�_aN�Ó�RTPOŤË�j�Ä�ZYÍ�i>_�N`_aZYX:P`RTÌ�_aZbl�UW_aNQP`XdRT]®X[i>jdÄ�PPQËf_�ŤÄfi>UeX:PQ_ecdj�NQRbÖeX[PQRbjd]�Î|NkX[Ã�_dÈ�I^]�PQN`j�Í�ÄfUaRT]�c+ÅQÄ�i>UeX:P`_acdj�NQRbÖeX[PQRbjd]�ÆVX[NkX[Ã�_WP`_aNkÅhXdZTZbj Ï Å�P`Ë�_�Ã�j�Í�_aZPQj­cd_e]�_aNkX[ZbRbÅQ_�Rb]§X[]·RbÃ�ÆVj�N¤PkX[]�P Ï X�l®XdiVj�Ä�P�N`Ä�Zb_eÅeÈfÙ-_4ËfX�Ì�_4UaXdNQ_aÎ|Ä�ZbZTl®RbÅQjdZYX:P`_eÍ®P`Ë�_\=`UWjdN`_�?�jdÎN`Ä�ZT_�Å � PQËf_�ŤÄ�i(UaX[PQ_ecdjdN`RbÖeX:P`RTj�]�Î|NkX[Ã�_ � PQËVX:P�PQË�_�Ã�j�Í�_eZ\ŤËfjdÄ�ZYÍ®iV_�Ua_aNQP`X[Rb]�X[i>jdÄ�P�È

Ù-_�ÅQË�jdÄfZbÍ�]fj[PQ_{PQËfX[POÉËVX[N`]�RbXdÒ(Þ Å�ÃB_aPQË�j�Í Ï RbZbZ(Ua_aNQP`XdRT]�Zbl�ËfX�Ìd_�Ťj�ÃB_�XdÍ�Ì:Xd]�PkX[c�_eÅ<Rb]£_�ÅKP`RªÐÃ�X:P`RTj�]�×:RªP Ï RbZbZ�UaX[Æ�PQÄ�N`_¡Å¤j�ÃB_�ŤP`X:P`RbŤPQRYUaXdZ�Æ�N`jdÆ>_aNQPQRb_eÅ�j[Î>NQÄ�Zb_eÅ�P`ËfX:P<j�Ä�N<RT]VÍ�_aÆ>_a]fÍ�_a]fUa_�X�ÅQÅQÄ�Ã�Æ�ÐPQRbjd]VÅ Ï RbZTZ(Zbj�ÅQ_4Û|_�È cVÈTÓ�PQËf_�Í�RYŤPQN`RTi�Ä�PQRbjd]�j:Ì�_aN<P`Ë�_�]�Ä�Ã�iV_eNjdÎ�.�.BX�Í�ÚKÄ�]fUWP`Å�Ť_e_a]�Î|j�NX4ÆfX[NQPQRYUWÄ�ZYX[NË�_�XdÍfÝWÈ� 9 4�5���¼�4�¿ ��¾V½��/O]�Î|jdNQPQÄ�]fX[PQ_eZTl�Ó\Í�Ä�_�P`j�ÅQÆfX�UW_�ZTRbÃ�RªPkX:P`RTj�]fÅaÓ\RªP�RYÅ+]�j[P�Æ>j�Å`ÅQRTi�Zb_BPQj�c�RTÌ�_BX�UWj�Ã�Æ�ZT_aPQ_�N`_aÌ�Rb_ Ï jdÎÆ�N`_aÌ�RbjdÄfÅ Ï jdN`Ò®Rb]�PQË�RYÅ�ÆfX[Æ>_aN�È(I^]§P`Ë�_�]�_WÜ�P�P Ï j�Ť_�UvP`RTj�]fÅ Ï _BcdRbÌd_BX­Í�_aP`XdRTZb_eÍ-UWj�ÃBÆVX[N`RbÅQjd]·jdÎ

R S

Page 39: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

ÛyX�Ý

�������Y � � ��!� � (�"'��0�� $ # (�,�.'&�" WIY $1,�"�# W�Y' � (�"'��0�� $ # (�,�.'&�" WIY� (�"'��0�� $ # (�,�.'&�" WIY $�� W�Y� (�"'��0�� $ # (�,�.'&�" WIY &�" $�,�"�# W�Y� (�"'��0�� $ # (�,�.'&�" WIY�� $ WIY� (�"'��0�� $ # (�,�.'&�" WIY "�" $�,�"�# W�Y� (�"'��0�� $ # (�,�.'&�" WIY "�"� (�"'��0�� $ # (�,�.'&�" WIY &�"� (�"'��0�� $ # (�,�.'&�" WIY "�"�&�" $1,�"�# W�Y' (�"'��0�� $ # (�,�.'&�" WIY "�"�"�"' (�"'��0�� $ # (�,�.'&�" WIY &�"�"�"' (�"'��0�� $ # (�,�.'&�" WIY � $1,�"�# W�Y' (�"'��0�� $ # (�,�.'&�" WIY � $ WIY' (�"'��0�� $ # (�,�.' (�"'��0�� $ # "�.�(�"'(�,�.'&�" W�Y $1,�"�# WIY� (�"'��0�� $ # (�,�.'&�" WIY $�� W�Y $1,�"�#� (�"'��0�� $ # (�,�.'&�" WIY $1,�"�# W�Y "�"� (�"'��0�� $ # (�,�.'&�" WIY $1,�"�#F� "�"� (�"'��0�� $ # (�,�.'&�" WIY "�" $�� W�Y� (�"'��0�� $ # (�,�.'&�" WIY "�"�&�"� (�"'��0�� $ # (�,�.'&�" WIY "�" � $ W�Y� (�"'��0�� $ # (�,�.'&�" WIY &�" � $ W�Y� (�"'��0�� $ # (�,�.'&�" WIY "�.�(�" $1,�"�# WIY� (�"'��0�� $ # (�,�.'&�" WIY "�.�(�"�"�"�&�"� (�"'��0�� $ # (�,�.'&�" WIY "�.�(�"� (�"'��0�� $ # (�,�.'&�" WIY � "�#�& � $1,�"�# W�Y� ��� ���c� @ �

Û|i>Ý

ÉjdÄ�]�P Ñ�Ä�i(UaX:Pa8fN`XdÃ�_S ä @,�.�i.j 9*+�<,+*- ikj �Rdä @,�.�i.j �ä @,�.�i.j 9*+ ikj �S @,�.�i.j 9*+'- ikj��à ��Ø _ / J H JhL�g

* �'+� 8= >.U� � �# ���k+� �( �W� ���� �.�%!,+e+�����!�� � �E� [J������.\ ��eE� ![��! �� � � +���� �k!,�,� ���� � ' � '%� � �FE��!'k+�!�!�( �� � � � � ( ��# ���k+� �( �W� ���� �.�%!,+-�k� (*����!�����+� DC �� ����<� +����!,� � E� [;������k\ ��eE� ![� !��� F

PQËf_­Ã�j�Í�_aZYÅ�RT]�PQË�RYÅ4ÆVX[Æ>_aN�PQj·P`Ë�_®ZT_aÜ�RYUaXdZTRbÖa_�Í36�É'8�: ÃBj�Í�_eZ�j[Î4ÛCÉËVX[N`]�RbXdÒ Ø�ädä�/ ÝvÓ�X[]fÍ PQË�_Ë�RYÅKP`jdN`l�ÐCifX�Ť_�Í�Ã�j�Í�_aZYÅ¡jdÎ�Û;P�_aZbRb]�_aÒ­_WP{X[ZCÈ Øeä�ä _ 0�H§X[cd_eNQÃ�Xd] Øeä�ä�K 0 Y{X:PQ]VX[ÆfXdNQÒ�Ë�R Øeä�ä / ÝvÈ

8�j�N�Í�RYÅQUaÄfÅQÅQRbjd]-j[ΡXdÍ�Í�RTPQRbjd]VX[Z�N`_aZYX:P`_eÍ Ï j�NQÒ(Ó\ÉËfX[Æ�PQ_aND_®jdÎ+Û}ÉjdZbZTRb]fÅ Ø�ädä�ä Ý�X:P¤P`_aÃ�Æ�PkÅ�PQjcdRbÌd_�X�UWj�Ã�Æ�NQ_eË�_a]VŤRbÌd_�NQ_eÌ�Rb_ Ï j[Î Ï j�NQÒ�j�]-ŤP`X[PQRYÅKP`RbUeX[ZFÆfX[NkÅQRT]�c®Ä�Æ-PQj�XdNQj�Ä�]fÍ Ø�ädä S�È H Î�ÆfXdN¤ÐPQRYUWÄfZbXdN�N`_aZb_aÌ:Xd]fUW_�RbÅ�j[P`Ë�_aN Ï j�NQÒ�j�]·ÆfX[NkÅQRT]�c�PQË�_ 6F_a]�]�Ù Ñ*P£PQN`_a_aiVX[]�Ò Û;P�_aZbRb]�_aÒ�_aP+XdZ8È Øeä�ä _�0H·Xdcd_aN`Ã�X[] Ø�ädä�K 0�.�RbÅQ]�_aN Øeä�ä `�0�.�RYŤ]f_aN Øeädä `[i 0�ÉjdZbZTRb]fÅ Øeä�ä `^0�ÉËfX[N`]�RYX[Ò Øeädä�/ 0%:�j�j�Í�Ã�Xd] Øeä�ä / 0YOX[PQ]fXdÆfX[N`Ò�Ë�R Øeädä�/ 0�ÉË�_aZbifX�X[]VÍ\P�_aZbRT]�_eÒ Øeä�ä S�0 Y¡j�X[N`Ò àYVWVfØ ÝWÈ�ÛJ.�RYŤ]�_eN Øeädä `^0F.�RYŤ]f_aN Øeä�ä `[i>ÝÍ�_�ÅQUaNQRbiV_�ÅFŤ_eÌd_aNkX[Z�Í�_aÆ>_a]VÍ�_a]fUal�ÐCifX�Ť_�Í�Ã�j�Í�_aZYÅ Ï Ë�RbUkËBX[N`_XdZbÅQj�UaZTj�Ť_eZTl+N`_aZYX:PQ_�Í+PQj�PQËf_Ã�j�Í�_aZYÅ�RT]PQËfRbÅ{ÆfX[Æ>_aN�È\ÛCÉj�ZTZbRb]fÅ Øeä�ä `�Ý�XdZbÅQj�Í�_eÅ`UWN`RbiV_�Å¡X�Í�_aÆ>_a]fÍ�_a]fUal�Ð}ifX�Ť_�Í­Ã�j�Í�_eZ\X[Æ�ÆfZTRb_eÍ­PQj�P`NQ_e_aifXd]�ÒÆfXdN`ÅQRT]fcfÈVÛ :�j�j�Í�Ã�Xd] Øeä�ä / ÝFÍ�_eÅ`UWN`RTi>_eÅ�Æ�N`jdifXdi�RTZbRYÅKP`RbU�Î|_�X:PQÄfNQ_�cdNkX[Ã�Ã�X[NkÅ<X[]fÍ�P`Ë�_aRbNXdÆ�Æ�ZbRbUeX:P`RTj�]PQj ÆVX[NkŤRb]�c-PQË�_·PQN`_a_aiVX[]�Ò(ÈOÛCÉËf_aZbifX X[]fÍ@P�_aZbRT]f_aÒ Ø�ädä S�ÝBÍ�_eÅ`UWN`RTi>_·X[]¸Rb]fUWN`_aÃ�_a]�PkX[ZCÓ�Ë�RYÅKP`jdN`l�ÐifX�Ť_�Í ÆfX[NkÅQRT]�c·XdÆ�Æ�N`j�X�UkË Ï Ë�RYUkË1RYÅ4XdÆ�Æ�ZbRT_�Í�PQj·ZYX[]fcdÄfXdcd_�Ã�j�Í�_aZbRT]fc·Î|jdNBŤÆ>_a_�UkË NQ_�UWj�cd]�RTPQRbjd]�ÈáORYŤPQjdN`l�ÐCiVXdÅQ_e͸X[Æ�Æ�N`j�X�UkË�_eÅ Ï _aN`_�RT]�PQN`j�Í�ÄfUa_eÍâPQj ÆfXdN`ÅQRb]�c�Rb] Ûyã�ZYXdUkÒ1_aP£X[ZCÈ Øeä�ä�à iVÝvÈOÛ�Y¡j�XdNQÒàYV�V�Ø Ý�Í�_eÅ`UWN`RTi>_eÅ£X�cd_a]f_aNkX:PQRbÌd_�Æ�N`jdiVX[i�RbZTRYŤPQRYU�ÃBj�Í�_eZ{jdÎ+Xd]±RT]fUaNQ_eÃ�_a]�P`XdZOÆfX[NkÅQ_aN�Ó Ï RªP`˱cdj�j�ÍN`_eÅQÄ�ZªPkÅ+RT]�PQ_eNQÃ�Å�j[Î�iVjdPQË-ÆfX[NkÅQ_BX�UaUWÄfN`X�UWl�jd]§PQË�_BPQN`_a_eifX[]fÒ>Ó�Xd]fÍ�XdZbÅQj®ÆV_eNQÆ�Zb_WÜ�RTPKl·ÅQUajdN`_eÅ{Î|jdNZYX[]�c�ÄfX[c�_�Ã�j�Í�_aZbRb]�cfÈ

.�XdNQZbRb_aN Ï jdN`Ò Ï Ë�RYUkË�RbÅOj[Î<ÆfX[NQPQRYUWÄfZbXdNONQ_eZT_eÌ:X[]fUa_�UWjd]VŤRYÍ�_aN`_eÍ­P`Ë�_�RbÃBÆ>jdNQP`Xd]fUW_4j[Î<NQ_eZbX[PQRbjd]fÅi>_WP Ï _a_a]BZb_WÜ�RbUeX[Z�Ë�_�XdÍ�ÅhÎ|j�NFÍ�RbÅ`X[Ã�i�RTc�ÄfX:P`RTj�]4Rb]�ÆVX[NkŤRb]�cfÈ[Ñ�_e_�ÛyáORb]fÍ�Zb_OX[]VÍ:Y¡j�j[P`Ë Ø�ädäfØ Ý�Î|jdNFjd]�_j[Î\PQË�_+_eXdNQZbRb_eŤPÆ�Rb_eUa_eÅj[Î\N`_eÅQ_eXdN`UkË�j�]�PQË�RYÅ�PQj�Æ�RYU[Ó Ï RªP`Ë�Rb]�PQËf_�Uajd]�PQ_aÜ�P�j[ÎhÆ�NQ_eÆVj�ŤRTPQRbjd]VX[Z>Æ�Ë�NkXdÅQ_X:PQP`X�UkË�Ã�_a]�P�X[Ã�i�RTc�Ä�RTPKldÈW8fjdN Ï jdN`Ò+PQËfX[P�ÄfÅQ_eÍBZb_WÜ�RbUeX[Z�N`_aZYX:P`RTj�]fÅ�Î|jdN�ÆfX[NkŤ_¡Í�RYÅ`X[Ã4ifRTc�ÄfX:P`RTj�]jU�XdZTZÏ RTPQË�Ìd_eNQl�ÆfNQj�ÃBRYÅQRT]�c�N`_eÅQÄ�ZTP`Å U­ÅQ_a_�Û8Ñ�_eÒ�RT]�_�_aP{X[Z Ø�ädä�à 0*Pdj�]�_eÅ¡Xd]fÍ .�RYŤ]�_eN Øeä�ä�à X�0 P�jd]f_eÅ¡X[]VÍ.�RYÅQ]�_aN Ø�ädä�à i 0\L{ZbÅQËfX Ï R�Xd]fÍ�É�X[NQPQ_eN Øeä�ä _�ÝvÈ\Ñ�PkX:PQRYŤPQRYUaX[ZÃ�j�Í�_aZYÅ�j[ΡZb_WÜ�RYUaX[ZbRbÖa_eÍ-c�N`XdÃBÃ�X[PQRYUaX[ZÎ|jdN`Ã�X[ZbRbÅQÃ�Å+X[ZYŤj®ZT_�XdÍ·PQj®ÃBj�Í�_eZbÅ Ï RTPQË-ÆfXdN`XdÃB_aPQ_eN`Å�UWj�NQN`_eÅQÆVj�]fÍ�Rb]�c�P`j­Zb_WÜ�RYUaXdZFÍ�_aÆ>_a]fÍ�_e]fUWRb_eÅeÈ

Rdä

Page 40: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

Ñ�_e_®Û�Y¡_eÅQ]�RbÒ Øeädä�à 0VÑ�UkËfX[i>_eÅ Øeä�ä�à 0(Ñ�UkËfXdiV_�Å�Xd]fÍ�Ù�X:PQ_eN`Å Øeä�äWR Ý�Î|jdN Ï j�NQÒ®jd]�ÅKP`j�UkËVXdŤPQRYU�PQN`_a_XdÍ:ÚKjdRb]�RT]fc�cdNkX[Ã�Ã�X[NkÅaÈFÛ;P�j�ÅQË�R�Xd]fÍ-Ñ�NQRb]�RbÌ�X�Å Øeä�ä _�Ý�Í�_�ÅQUaNQRbi>_�Xd] X[ZTPQ_aN`]fX[PQRbÌd_dÓ#=`ŤÄ�Æ>_aNQP`Xdcdc�RT]�c ?Ã�j�Í�_aZ{Î|jdN�PQN`_a_·X�Í�ÚKjdRb]�Rb]�c cdNkX[Ã�Ã�X[NkÅeÈ<Ñ�_a_1ÛyL{ZbÅQËfX Ï R Ø�ädä `�Ý4Î|jdN Ï jdN`Ò1jd]±Å¤PQj�UkËfX�ÅKP`RbU®Ë�_�XdÍ�ÐX[Ä�PQjdÃ�X[P`X�Ó�X[]VÍ�ÛyghX:Ê(_aNQPKl�_aPFXdZ8È Øeädä�à Ý>Î|j�N�X{ÅKP`j�UkËVXdŤPQRYU�Ìd_eN`ÅQRbjd]+j[Î�ZbRT]fÒ�cdNkX[Ã�Ã�X[N�ÈdÛyÍ�_�H·X[NkUkÒd_e]Øeä�ä�K Ý�UWjd]VŤRYÍ�_aNkÅ�ŤPQj�UkËfXdŤPQRYU�Zb_WÜ�RbUeX[ZbRTÖe_eÍ@6�É'8�:+ÅaÓ Ï RªP`Ë$ŤÆ>_eUaRªSVU·NQ_aÎ|_aN`_a]fUa_­P`j>.�H Ã�_WP`Ë�j�Í�ÅÎ|jdN®Ä�]fÅQÄ�Æ>_aN`Ì�RbÅQ_eÍ�P`N`XdRT]fRT]�cVÈ�ÛCÑ�_a]�_aÊ Øeädä�à Ý�Í�_�ÅQUaNQRbi>_eÅ£PQË�_�ÄfŤ_�j[Î�Ã�X[N`Òdj:ÌâÃ�j�Í�_aZYÅ�Î|jdN®N`Ä�ZT_cd_e]�_aNkX:P`RTj�]�Ó Ï Ë�RYUkË�RbÅUWZbj�ÅQ_aZbl4N`_aZYX:P`_eÍ�PQj�P`Ë�_OÃ�X[N`Òdj:Ì�ŤPKl�ZT_¡N`Ä�Zb_eÅ�RT]�P`Ë�_OÃ�j�Í�_aZYÅ<Rb]�PQË�_{UaÄ�N`NQ_e]�PÆfXdÆV_eNeÈ�8�Rb]fX[ZbZbldÓ�]�jdPQ_+PQËVX:P¡]�j[P{XdZTZ�Ã�X�UkË�RT]f_�Zb_eXdNQ]fRT]�c�Ã�_WP`Ë�j�Í�Å�Î|j�N¡ÆfX[NkŤRb]�c�X[N`_�ÆfNQj�ifX[i�RbZbRbŤPQRYU[ÈÑ�_e_�Ûyã�NQRbZbZ Øeä�äWR 0�áO_eNQÃ�Ú¤XdÒdjdi�X[]VÍ­H�j�j�]�_al Ø�ädä�/ Ý�Î|jdN¡N`Ä�ZT_aÐCiVXdÅQ_eÍ­ZT_�X[N`]�RT]fcBÅQl�ÅKP`_aÃ�ÅaÈ

I^]·N`_eUa_a]�P Ï jdN`Ò>ÓhÛCÉË�RYX[]�c àYVWV�V Ý�ËfX�Å�ÅQË�j Ï ]®PQËVX:P{P`Ë�_4Ã�j�Í�_eZbÅ�RT]·PQË�_BUWÄ�N`NQ_e]�P{ÆfX[Æ>_aN�UaXd]i>_�RTÃ�Æ�Zb_aÃ�_e]�P`_eÍ�XdZTÃ�j�ŤP¡Ä�]fUkËfXd]�cd_�Í£Rb]�X�ÅKP`j�UkËfXdŤPQRYU�PQN`_a_�XdÍ:ÚKjdRb]�RT]fcBc�N`XdÃ�Ã�XdNeÈ�Û8ãRbÒd_eZ àYV�VWV ÝËfX�Å�Í�_eÌd_eZTj�ÆV_�Í�cd_a]f_aNkX:PQRbÌd_�ŤP`X[PQRYÅKP`RbUeX[ZÃBj�Í�_eZbÅ Ï Ë�RYUkË RT]�P`_acdNkX:P`_ Ï jdNkÍ-ÅQ_a]VŤ_­RT]�Î|j�NQÃ�X[PQRbjd]�PQjPQËf_�ÆfX[NkŤRb]�c�Æ�N`j�UW_eÅ`ÅeÈ(ÛJ.�RYŤ]f_aN àYV�V�à Ý�Í�_eÌd_eZTj�ÆfÅ¡X�Ťj�Æ�Ë�RYÅKP`RbUeX:PQ_�Í£c�_a]�_eN`X[PQRbÌd_�Ã�j�Í�_aZ(Î|jdN{ZT_aÜ�RYUaXdZªÐRbÖa_eÍ�Uajd]�PQ_aÜ�P¤ÐCÎ|NQ_e_�N`Ä�Zb_eÅeÓ[Ã�X[Ò�Rb]�c�ÄfÅQ_¡j[Î�X+Æ�NQj�ifX[ifRTZbRbŤPQRYU�Ã�j�Í�_aZ�jdÎ�ZT_aÜ�RYUaXdZTRbÖa_�Í�PQNkX[]fŤÎ|jdN`Ã�X:PQRbjd]VÅi>_WP Ï _a_a]�N`Ä�Zb_eÅeÈ�Ûyã�ZbXdË�_WPkX�X[]fÍ ÉËfX[N`]�RYX[Ò àWVWV�V ÝOÍ�_eÅ`UWN`RTi>_eÅ+Ã�_WP`Ë�j�Í�Å+Î|j�N+PQË�_�N`_eUaj:Ìd_aN`l�j[ÎPQË�_ÅQ_aÃ�X[]�PQRYU+PkX[c�Å{RT]�P`Ë�_I6F_e]�]�PQN`_a_eifX[]fÒ­X[]f]�j[PkX:PQRbjd]VÅaÓ>X�ŤRbcd]�RTSVUeX[]�P�ŤPQ_aÆ�j�]�Î|NQj�à P`Ë�_�UajdÃ�Æ�Zb_WÐÃ�_a]�P C[XdÍ�ÚKÄf]fUvP�Í�RYÅKP`RT]VUvPQRbjd]¸N`_eUWj:Ì�_aN`_eÍ�Rb]�Ã�j�Í�_aZ à j[Î{PQË�_�UWÄ�N`N`_a]�PBÆVX[Æ>_aN�È�Û}ÉËfX[N`]�RYX[Ò àYV�V�Ø ÝcdRbÌd_�ÅBÃB_�XdÅQÄ�N`_aÃ�_a]�P`Å�jdÎ�Æ>_aN`Æ�Zb_WÜ�RªPKl1Î|jdN�X-ZT_aÜ�RYUaXdZTRbÖa_�Í>6�É'8<:BÈOÛJ:�RbZYÍ�_eX àWVWV�Ø Ý�c�RTÌ�_eÅB_WÜ�Æ>_aN`RªÐÃ�_a]�P`ÅORT]�Ìd_�ÅKP`RTc�X:P`RT]�c4PQË�_+Ä�P`RTZbRTPKl£j[ÎFÍ�RTÊ>_eNQ_e]�P�Î|_�X:PQÄfNQ_�Å�RT]®i�RbcdNkX[Ã/Zb_WÜ�RbUeX[Z�Í�_eÆV_e]fÍ�_a]VUWl£Ã�j�Í�_eZbÅÎ|jdN�ÆVX[NkŤRb]�cfÈ�Û8H�RbZTZb_aN�_aP4X[ZCÈ àYVWV�V Ý�Í�_aÌ�_aZbjdÆfÅ�c�_a]�_eN`X[PQRbÌd_dÓ(Zb_WÜ�RYUaX[ZbRbÖa_eÍ�Ã�j�Í�_aZYÅ�Î|jdN�Rb]�Î|jdN`Ã�X:P`RTj�]_WÜ�P`N`X�UvPQRbjd]�j[Î{N`_aZYX:P`RTj�]fÅaÈFJ�Ë�_®Ã�j�Í�_aZ�_a]�ËVX[]fUa_eÅ�]�jd]�ÐCPQ_eNQÃ�Rb]fX[ZYÅ�Rb]1P`Ë�_�ÆfX[NkÅQ_�PQN`_a_�Å4P`j�UeX[N`NQlÅQ_aÃ�X[]�PQRYU�ZYX[i>_aZYÅaÓ�X[]fÍ�Í�_eÌd_aZbjdÆVÅ�X�Æ�N`jdifXdi�RTZbRYÅKP`RbU�Ã�j�Í�_aZ Ï Ë�RbUkË�PkX[Ò�_eÅBPQËf_eÅQ_·ZbXdiV_eZbÅ�RT]�PQj1X�UvÐUWj�Ä�]�PeÈ(ÛCÉj�ZTZbRT]VÅ�_WP�X[ZCÈ Ø�ädädä ÝFÍ�_eÅ`UWN`RbiV_�Ë�j Ï PQË�_OÃ�j�Í�_eZbÅRT]�PQË�_�UWÄ�N`NQ_e]�P�ÆfX[Æ>_aN Ï _eNQ_OXdÆ�Æ�ZbRT_�Í�PQjÆfXdN`ÅQRT]fc®ÉÖa_�UkË�ÈhÛ}ÉËfX[N`]�RYX[Ò àYVWV�V Ý�Í�_�ÅQUaNQRbi>_eÅ{X£ÆfX[NkÅQRT]�c�Ã�j�Í�_eZ Ï Ë�RYUk˧XdZbÅQj�ÄfÅQ_eÅ{Ã�XdNQÒ�j:Ì£Æ�N`j[ÐUW_�ÅQÅQ_eÅ�P`j®c�_a]�_eN`X[PQ_�NQÄ�Zb_eÅeÈ�J�Ë�_�Ã�j�Í�_aZFP`XdÒd_�Å�Rb]�PQj�XdUeUWjdÄf]�P+Ã4ÄVUkË�XdÍfÍ�RªP`RTj�]fX[Z<Uajd]�PQ_aÜ�PTU·Å¤ÄVUkËXdÅ�Æ�N`_aÌ�RbjdÄfÅQZTl�c�_a]�_eN`X[PQ_eÍ�Ã�j�Í�RTSf_aNkÅeÓVj�N�]�j�]�ÐCPQ_aN`Ã�RT]VX[ZYÅOË�RbcdË�_eN�Rb]·P`Ë�_BÆfX[NkŤ_�PQN`_a_eÅ U­P`Ë�N`jdÄ�c�ËX­Ã�X[Ü�RTÃ�Ä�ÃBÐC_e]�P`NQj�Æ�l­Rb]fÅQÆ�RTN`_eÍ·ÃBj�Í�_eZ8È�J�Ë�_�Ť_BXdÍ�Í�RªP`RTj�]fX[Z�Î|_eX[PQÄ�N`_eÅ�cdRbÌd_�UWZb_eX[N�RbÃBÆfNQj:Ì�_aÃ�_a]�P`ÅRb]£Æ>_aNQÎ|jdN`Ã�Xd]fUW_�È>Û}ÉjdZbZTRb]fÅ àYV�VWV Ý<ŤËfj Ï Å�ÅQRTÃ�RbZbXdNRbÃ�Æ�NQj:Ì�_aÃ�_a]�PkÅ<PQËfNQj�Ä�cdË£X�Õ�Ä�RªP`_�Í�RªÊ(_aN`_a]�P¡X[Æ�ÐÆ�N`j�X�UkË®iVXdÅQ_eÍ®jd]�i>j�j�ŤPQRb]�c�X[Æ�ÆfNQj�XdUkË�_�Å�PQj�N`_aNkX[]�Ò�Rb]�c�Û;8�N`_aÄf]fÍ�_WP�X[ZCÈTÓ Ø�ädä S�ÝvÈVJ�Ë�RbÅ{X[Æ�Æ�N`j�X�UkËRb]�P`_a]fÍfÅ�PQj�X[ZbZTj Ï c�NQ_�X:P7-f_WÜ�Rbi�RTZbRTPKl·RT]§PQË�_BÎ|_�X:PQÄfNQ_�Å Ï ËfRbUkË�UaXd]§i>_BRb]fUajdN`ÆVj�N`X[PQ_eÍ·RT]-X£Ã�j�Í�_aZCÓX[]VÍ�XdÍ�Í�RªP`RTj�]fX[ZVÎ|_eX[PQÄ�N`_eÅX[N`_{ŤËfj Ï ]�PQj4c�RTÌ�_ORbÃBÆfNQj:Ì�_aÃ�_a]�P`Å�RT]£ÆfX[NkŤRb]�c�Æ>_aNQÎ|jdN`Ã�X[]fUa_dÈ 8hRb]fXdZTZbldÓÛyã�j�Í àYV�V�Ø Ý�Í�_eÅ`UWN`RTi>_eÅ�X�Ì�_aN`l§Í�RTÊ>_eNQ_e]�P�X[Æ�ÆfNQj�XdUkË?U�X � H 6 XdÆ�Æ�N`j�XdUk˧PQj�ÆfXdN`ÅQRb]�c U Ï Ë�RYUkËcdRbÌd_�Å�_aÜ�UW_aZbZb_a]�PN`_eÅQÄ�ZTP`Åjd]�P`NQ_e_aifXd]�ÒBÆfX[NkŤRb]�cVÓ�UajdÃ�ÆfX[NkX[ifZT_¡P`j�P`Ë�_�N`_eÅQÄ�ZTP`Åj[ÎÛ}ÉËfX[N`]�RYX[Ò àYV�VWV 0ÉjdZbZbRT]fÅ àYVWV�V ÝWÈ�=�y¹ �i�4¾ ) c���½:Â3��¾V»â¼e¾�¼��<4 2 ¾�¿�4 5¾ � ��� ��½:»hÂ���� � �Ù-_£]�j Ï cdRbÌd_�X�Ã�j�NQ_�Í�_aP`XdRTZb_eÍ UajdÃ�ÆfX[N`RYŤj�]�jdÎ�P`Ë�_�Ã�j�Í�_aZYÅ�Rb]�PQËfRbÅ�ÆfX[Æ>_aN�PQj�P`Ë�_�ÆfXdN`ÅQ_aN�jdÎÛCÉËVX[N`]�RbXdÒ Øeä�ä / ÝvÈ�J�Ë�_+Ã�j�Í�_aZ\Í�_�ÅQUaNQRbi>_eÍ­RT] ÛCÉËVX[N`]�RbXdÒ Øeä�ä / Ý�ËfX�Å�P Ï jBPKl�ÆV_�Å�j[Î�ÆfX[NkX[Ã�_WP`_aNkÅa×$-4 �Â8ÁG�^5 � 4Gc-4�»h¿�4�»hÁ�. � ��½q��)34�¼�4�½(� ÉËVX[N`]�RbXdÒ(Þ Å�Í�_aÆ>_a]VÍ�_a]fUal�ÆfX[NkX[Ã�_aPQ_aNkÅ{XdNQ_BŤRbÃ�RTZYX[N�PQj

PQË�_�� à ÆfX[NkX[Ã�_WP`_aNkÅ�j[Î�ÅQ_eUWPQRbjd] K È Ø È�Ù±Ë�_eNQ_�XdÅ�j�Ä�N¡ÆfX[NkX[Ã�_aPQ_aNkÅ�X[N`_M": 7 Û� G) W P � W 4" 3r W 4���4�<=4%Mf4"#�4�)g4 r64 = 4"� l Ý

ÉËfX[N`]�RYX[Ò(Þ ÅÆVX[NkX[Ã�_WP`_aNkÅRb]�jdÄ�N¡]fj[P`X[PQRbjd] Ï j�Ä�ZYÍ£i>_M": 7 Û� G) W P � W 49Mf4�)�Ý

8�j�N�_WÜ�X[Ã�Æ�Zb_dÓ(P`Ë�_�Í�_aÆ>_a]fÍ�_a]fUal§ÆfXdN`XdÃB_aPQ_eN�Î|j�N�X[] ,�.§Ë�_eX�Í�_eÍ�i�l�q>tQ����z8p{i>_aRb]�c®PQË�_ŤÄfi�ÚK_eUWPOj[Î�PQË�_�Ì�_aN`i§tQ�:pWs Ï j�Ä�ZbÍ­i>_gM�Û ��� 2 ��� 8 � P ,�. 9 +D9 � 2 ��� ÝvÈ

9£À�5;4��7��½(�*)34�¼�4�½(� J�Ë�_¡ÅQ_eUWj�]fÍ�PKl�Æ>_¡j[Î>ÆfX[NkX[Ã�_WP`_aNkÅhXdNQ_�XdÅ`ÅQj�UaRbX[PQ_�Í Ï RTPQË�UWj�]�P`_WÜ�P�Î|NQ_e_�N`Ä�Zb_eÅRT]®P`Ë�_+PQN`_a_�ÈfL{Å¡Xd]®_aÜ�X[Ã�Æ�Zb_dÓ�P`XdÒd_�PQËf_ + ]�j�Í�_�Rb]£P`Ë�_+Î|jdZbZTj Ï Rb]�cBPQN`_a_�×

_ V

Page 41: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

�c6{Û8ÅQXdRbÍVÝ��ãÅ`X[RYÍ

Ñ�Û|N`j�ÅQ_�Ýß

J�Ë�RYÅ+]�jd]�ÐCPQ_eNQÃ�Rb]fX[ZFUWj�Ä�ZYͧ_aÜ�ÆVX[]fÍ Ï RªP`Ë-Xd]�l�jdÎ�PQËf_BN`Ä�Zb_eÅoT A C¸Rb]§P`Ë�_�cdNkX[Ã�Ã�X[N�ÈJ�Ë�_�NQÄ�Zb_�Æ�NQj�ifX[ifRTZbRªPKlBRYÅ�Í�_WSf]�_�Í£X�Å]M�Û THADC]P & n � � 4%T�4��:M�ÝWÈ�Ñ�j�P`Ë�_�N`Ä�Zb_�ÆfNQj�ifX[i�RbZbRªPKlÍ�_aÆ>_a]VÍ�Å�jd]£PQË�_�]�jd]�Ð8P`_aN`ÃBRb]fXdZVi>_aRb]�cB_WÜ�ÆfX[]VÍ�_eÍ�Ó�RTP`Å�Ë�_�XdÍ Ï jdNkÍ�Ó�X[]fÍ­X[ZYŤj�RªPkÅÆVX[N`_a]�PeÈ

J�Ë�_�]�_WÜ�P�Î|_ Ï Å¤_�UvP`RTj�]fÅ�c�RTÌ�_¡Î|Ä�NQPQË�_eN�_WÜ�Æ�ZYX[]VX:PQRbjd]�jdÎ�PQË�_�Í�RTÊ>_eNQ_e]fUW_�Å�i>_WP Ï _a_a]�ÉËfX[N`]�RYX[Ò(Þ ÅÃ�j�Í�_aZYÅOX[]VÍ�P`Ë�_�Ã�j�Í�_aZYÅ¡j[ÎhPQË�RYÅ�PQËf_eÅQRbÅeÈ�=�y¹ �y¹ �£¿�¿hÂy¼eÂ8¾V» �^5 $�4 ��¼eÀh½T4 ��¾ �]��� ��½:»hÂ������ � 2 ¾�¿�4 5 J�Ë�_aN`_OX[N`_¡Å¤j�Ã�_¡]�j[PkX[i�Zb_OXdÍ�Í�RªP`RTj�]fX[ZÎ|_eX[PQÄ�N`_eÅ�jdÎ>ÉËfX[N`]�RYX[Ò(Þ ÅhÃ�j�Í�_aZCÈT8hRbNkÅKP�ÓaP`Ë�_N`Ä�Zb_ÆfNQj�ifX[i�RbZbRªP`RT_�ÅhXdNQ_�UWjd]VÍ�RªP`RTj�]�_eÍ�jd]�P`Ë�_�ÆfX[N`_a]�PhjdÎPQËf_�]fjd]�ÐCPQ_eNQÃ�Rb]fX[Z>iV_eRT]fc�_aÜ�ÆVX[]fÍ�_�Í�È H Ä�NÃ�j�Í�_eZbÅ�Í�jB]�j[P�Rb]fUWZbÄfÍ�_�PQË�RYÅ�RT]�Î|jdN`Ã�X[PQRbjd]�Ó�X[ZTPQËfjdÄ�c�ËÍ�RYÅKP`RT]fcdÄ�RYŤËfRT]�cBN`_eUWÄfN`ÅQRTÌ�_OÎ|N`jdÃ/]�j�]�Ð}NQ_�UWÄ�NkŤRbÌd_ ,�.�Å�UaX[]­iV_�Uajd]fÅQRbÍ�_aN`_eÍ�X�NQ_�Í�ÄfUa_eÍ�Î|j�NQÃ/jdÎ�PQË�RYÅRb]�Î|jdN`Ã�X:PQRbjd]\È�Û8Ñ�_e_�ÅQ_eUWPQRbjd] / È R È à Î|jdN¡XBÍ�RYÅQUaÄfÅQÅQRbjd]£jdÎ\P`Ë�RbÅ¡Í�RbŤPQRb]fUvP`RTj�] 0�PQËf_+XdNQc�Ä�Ã�_a]�P`ÅRb]£P`ËfX:PÅQ_eUvP`RTj�]�X[N`_�XdZbÅQj�ÃBjdPQRbÌ:X:PQRbjd]­Î|jdN�ÉËVX[N`]�RbXdÒ(Þ Å�UkË�j�RbUa_�jdÎFUajd]fÍ�RªP`RTj�]�RT]fcBj�]£P`Ë�_�ÆfXdNQ_e]�P�È Ý

Ñ�_�UWjd]VÍ�Ó\ÉËfX[N`]�RYX[Ò�ÄfÅQ_eÅ Ï j�N`Í�Ð}UaZbX�ÅQÅ{RT]�Î|j�NQÃ�X[PQRbjd]·P`j®ÅQÃ�j�j[PQË�Æ�N`jdifXdi�RTZbRTPQRb_eÅeÓ>Xd]fͧN`_aÆ>jdNQP`ÅX V È R�K U RTÃ�Æ�N`j:Ìd_eÃ�_a]�PÎ|N`jdà PQË�RYÅ�Î|_�X:PQÄfNQ_�È8�RT]VX[ZbZTl�Ó�ÉËfXdNQ]fRbXdÒ­ÄfÅQ_eÅ RWV Ã�RTZbZTRbjd] Ï j�N`Í�Å{j[Î<P`_WÜ�P�Î|j�N�Äf]fŤÄfÆV_eNQÌ�RYŤ_�Í�PQNkX[Rb]�Rb]�cfÈ(L ÆfXdN`ÅQ_aN

RYÅ�P`N`XdRT]�_�Í-Î|NQj�Ã"P`Ë�_�P`NQ_e_aifXd]�Ò(Ó\X[]VÍ ÄfÅQ_eÍ-PQj§ÆfX[NkŤ_�PQË�RYÅ�P`_WÜ�P�0FÅKPkX:P`RbŤPQRYUaÅ�X[N`_�PQË�_e]�UWj�ZTZb_eUWPQ_�ÍÎ|N`jdÃÇPQËfRbÅ�Ã�XdUkË�Rb]�_aÐCÆfXdN`ÅQ_eÍBP`_WÜ�POX[]fÍ£Ã�_aN`cd_eÍ Ï RªP`Ë�PQËf_{P`NQ_e_aifXd]�Ò�ÅKPkX:P`RbŤPQRYUaÅ�PQj�PQNkX[Rb]­X�Ť_�UWjd]VÍÃ�j�Í�_aZCÈfJ�Ë�RYÅ¡c�X�Ì�_�X V È K U RTÃ�Æ�N`j:Ìd_eÃ�_a]�P�Rb]�ÆV_eN¤Î|j�NQÃ�Xd]fUW_�È�=�y¹ � A ���<4"� 4kc 4�»�¿�4�»�Á�. �7��½(�*)34�¼�4�½(�£¾ �g���X��½:»�Â3�����d� 2 ¾�¿<4�5 Ù±Ë�RTZb_�ŤRbÃ�RTZYX[N{PQj®jdÄ�NkÅaÓÉËfXdNQ]�RYX[Ò(Þ Å�Í�_eÆV_e]fÍ�_a]VUWl¸ÆfX[NkX[Ã�_WP`_aNkÅ�X[N`_·UWj�]fÍ�RTPQRbjd]�_�Íâj�]±ZT_�ÅQÅ�RT]�Î|j�NQÃ�X[PQRbjd]�È�Ù±Ëf_aN`_eXdÅ�jdÄ�NÆfXdN`XdÃB_aPQ_eN`Å�X[N`_[M : 7dÛ� G) W=P � W94" 3r W 4 �(4�<X49Mf4"#j41)g49r64>= 4"� l ÝvÓ>ÉËfXdNQ]fRbXdÒ>Þ Å�ÆfX[NkX[Ã�_aPQ_aNkÅ�RT]®jdÄfN¡]�j[ÐP`X[PQRbjd] Ï jdÄ�ZYÍ£i>_gM : 7dÛ� C) W=P-�]W 4%Mf41)�ÝWÈVJ�Ë�_�X�Í�Í�RTPQRbjd]fXdZ�RT]�Î|j�NQÃ�X[PQRbjd]®RbÅ¡X�Å�Î|jdZbZTj Ï Åe×7'J�Ëf_®Ëf_eXdÍâ]�j�]�Ð8P`_aN`Ã�RT]fXdZ¡ZbXdiV_eZ�Û ; .1Rb]¸PQË�_�Æ�N`j[SfP`Å C�N`j�ÅQ_£_WÜ�XdÃBÆfZT_�ÝvÈ�L�P�SfNkÅKP�c�ZbXd]fUW_­PQË�RYÅ

Ã�RTc�Ë�P4ÅQ_a_eÃ"N`_eÍ�Äf]fÍ�X[]�P��'Î|j�N�_WÜ�XdÃBÆfZT_�Xd] + Ï RTZbZ�ÄfÅQÄfXdZTZbl�P`XdÒd_�X ; .§X�Å+RªPkÅ�Ë�_�XdÍ�ÈáOj Ï _aÌ�_aN�ÓWRT]�ÅQjdÃ�_�UeXdÅQ_eÅ(P`Ë�_�Ëf_eXdÍ+ZYX[i>_aZ�UaXd]�Ì�XdNQl�ÓWÎ|j�N�_WÜ�X[Ã�Æ�Zb_�Xd] + UeX[]+P`XdÒd_�Xd]�j[P`Ë�_aN+ X�Å�RªPkÅ�Ë�_eX�Í­Rb]�UWj�jdNkÍ�Rb]fX:P`RTj�]®UeXdÅQ_eÅeÈ

Or W 4 r®J�Ë�_�6 H Ñ�P`X[c�ÅÎ|jdN�PQËf_�Ëf_eXdÍ®X[]VÍ£Ã�j�Í�RTSf_aN Ï jdNkÍ�ÅeÈ�J�ËfRbÅ¡XdZTZbj Ï Å�jdÄ�N¡Ã�j�Í�_aZ(P`j�ÄfŤ_�6 H ÑP`Xdc�ÅOX�Å Ï j�N`Í�Ð^UWZYXdÅ`Å�RT]�Î|jdN`Ã�X[PQRbjd]�ÈVÉËVX[N`]�RbXdÒ(Þ Å�Ã�j�Í�_aZ\Ã�X�l£iV_�Ã�RYÅQÅQRb]�c�X[]�RTÃ�Æ>jdNQP`Xd]�Pcd_e]�_aNkX[ZbRbÅ`X:P`RTj�]§Rb]-PQË�RYÅ+NQ_�ŤÆ>_eUWPeÈ�Û}ÉËfX[N`]�RYX[Ò àWVWVWV Ý{ÅQË�j Ï Å�P`ËfX:P�ÄfÅQRb]�c®PQË�_B6 H Ñ�P`Xdc�ÅXdÅ Ï jdNkÍ�Ð^UWZYXdÅ`Å�Rb]�Î|jdN`Ã�X:P`RTj�]­Rb]®PQË�_�Ã�j�Í�_aZ\RbÅ�RbÃ�ÆVj�N¤PkX[]�P¡Î|jdN¡ÆfXdN`ÅQRb]�cBX�UaUaÄ�N`X�UWl�È

�-J�Ë�_OUWj�jdNkÍ�Rb]fX:P`RTj�]g-VXdcfÈ[J�Ë�RYÅ�Í�RYŤPQRb]�cdÄ�RYÅQË�_eÅeÓ�Î|jdN�_aÜ�X[Ã�Æ�Zb_dÓ[UWj�j�N`Í�Rb]fX[PQRbjd]�UeXdÅQ_eÅ�Î|N`jdÃ�XdÆ�Æ>j�ÅQRªÐPQRbÌd_�Åa×�ÉËVX[N`]�RbXdÒ(Þ Å(Ã�j�Í�_aZ Ï RTZbZ[ËfX�Ì�_FPQË�_�Å`X[Ã�_<ÆfXdN`XdÃ�_WPQ_eN �RM�Û 1 n � \ � \ ��&*P � ��� ��4%2jMf492jM�Ý� Rb]®i>j[P`Ë�j[Î\P`Ë�_eÅQ_�UaX�Ť_�ÅaÈ

< 8 = 8�$ ��e 9>� J�Ëf_{Æ�Ä�]VUvPQÄVX:PQRbjd]\Ó�Í�RbŤP`Xd]fUW_�X[]fÍ�ÅQÄ�i(UaX[PQ_ac�jdN`RTÖ�X:P`RTj�]�Ì�XdNQRYX[ifZT_�ÅaÈ�I}PRYÅ�Í�R �UWÄfZªPPQj�P`_aZbZ Ï RªP`Ë�jdÄ�PO_aÃ�Æ�RbNQRYUaXdZ(PQ_eŤP`Å Ï Ëf_WPQËf_aN¡P`Ë�_eÅQ_+Î|_eX[PQÄ�N`_eÅ¡XdNQ_�RTÃ�Æ>jdNQP`Xd]�P�È

�=�y¹ � E ����4 9­À<5J4+�7��½(�*)34�¼�4�½(�·¾ �<��� ��½:»hÂ������ � 2 ¾�¿�4 5 J�Ë�_�N`Ä�ZT_�ÆVX[NkX[Ã�_WP`_aNkÅ+RT]âÉËfXdN¤Ð]�RYX[Ò(Þ Å{Ã�j�Í�_aZFX[N`_�_aÊ>_�UvPQRbÌd_eZTl�Í�_�UWj�ÃBÆ>j�ÅQ_eÍ�Rb]�PQj­jdÄ�N � Ø ÆVX[NkX[Ã�_WP`_aNkÅ�ÛyÅQ_eUWPQRbjd] K È Ø ÝvÓ�P`Ë�_BË�_eX�ÍÆfXdN`XdÃB_aPQ_eN`ÅeÓ[X[]fÍ�� Rb]�Ã�j�Í�_aZYÅ à X[]fÍ R � P`Ë�_{ÅQÄ�i(UaX:P`_ac�jdN`RTÖ�X:PQRbjd]BX[]fÍBc�X[ÆBÆfX[NkX[Ã�_WP`_aNkÅaÈ[J�ËfRbÅÍ�_�UWjdÃ�Æ>j�ÅQRªP`RTj�]�X[ZbZTj Ï Å�jdÄfN¡ÃBj�Í�_eZ�P`j�X�ÅQÅQRbcd]®Æ�NQj�ifX[ifRTZbRªPKl�PQj�N`Ä�ZT_�Å�]�j[P{ÅQ_a_e]�RT]®PQNkX[Rb]�Rb]�c�Í�X:PkX�×ÅQ_a_�ÅQ_eUvP`RTj�] / È _BÎ|j�N¡_WÜ�PQ_e]fŤRbÌd_�Í�RYÅ`UWÄfÅ`ŤRbjd]\È

_ Ø

Page 42: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

�=�y¹ � � 9­Â3� �(¼."U�4½(��»�Á��hÂ8»X� ��¼a½:ÀhÁd¼eÀh½T4 � Â8» ��� ��½:»hÂ������ � 2 ¾\¿<4�5 H ÄfN4Ã�j�Í�_aZYÅBËfX�Ìd_�ÄVŤ_�ÍÍ�RYÅKPkX[]fUa_{Î|_�X:P`Ä�NQ_�ÅPQjB_a]fUaj�Í�_�Æ�N`_WÎ|_eNQ_e]fUW_�Å�Î|j�N�NQRbcdË�P¤Ð}i�NkX[]fUkËfRT]�c�ŤPQN`ÄfUWPQÄ�N`_eÅeÈfÉËfX[N`]�RYX[Ò(Þ Å�Ã�j�Í�_aZÍ�j�_eÅB]�jdP�N`_aÆ�N`_eÅQ_a]�P�PQË�RYÅ4Rb]�Î|j�NQÃ�X:P`RTj�]1_WÜ�Æ�ZbRYUWRTPQZbldÓFi�Ä�P�RT]VÅKP`_eXdÍ�ZT_�X[N`]fÅ�RTP�RTÃ�Æ�ZbRbUaRªP`ZTl�P`Ë�N`jdÄ�c�ËN`Ä�ZT_­Æ�N`jdifXdi�RTZbRTPQRb_eÅeÈ<8�j�N4_aÜ�XdÃ�Æ�ZT_�Ó�Î|j�N�X[] ,�. .�. .�. Ť_�Õ�Ä�_a]fUa_�PQËf_£Æ�N`_WÎ|_eNQ_e]fUW_�Î|j�N�X§NQRbcdË�P¤Ði�NkX[]fUkËfRT]�cBÅKP`NQÄVUvPQÄfNQ_�RbÅ�_a]VUWj�Í�_eÍ�PQË�N`jdÄfcdË£X4Ã4ÄfUkË­Ë�RTc�Ë�_aN�Æ�N`jdifXdi�RbZTRTPKlBÎ|jdNPQË�_�NQÄfZT_ ,�. A ,�..�.4NkX:P`Ë�_aN<P`ËfX[] ,�. A ,�. .�. .�.(ÈfÛ;[{j[PQRYUW_OPQËfX[PUWj�]fÍ�RTPQRbjd]�Rb]�c�jd]BP`Ë�_ON`Ä�ZT_�Þ Å�ÆfX[N`_a]�P�RYÅ<]�_a_�Í�_eÍPQj�Í�RbÅ`X[ZbZTj Ï PQË�_�ŤPQN`ÄfUvP`Ä�N`_ � ,�.�� ,�. .�. .�. 0�ÅQ_a_�ÛJPdj�Ë�]fÅQjd] Øeädä�/ Ý�Î|jdN�Î|Ä�NQPQËf_aNOÍ�RYÅQUaÄfÅ`ŤRbjd]�È�Ý

J�Ë�RYÅ�ÅKP`N`X[PQ_ecdl·Í�j�_eÅ�]�j[P�_a]VUWj�Í�_�X[ZbZ<j[Î�PQË�_�Rb]�Î|j�NQÃ�X:P`RTj�]§Rb]-PQË�_�Í�RYŤP`X[]VUW_�Ã�_eXdÅQÄ�N`_dÈ�J�Ë�_Í�RYÅKPkX[]fUa_�Ã�_eXdÅQÄ�N`_�_WÊ(_eUWPQRbÌd_aZbl£Æ>_a]VX[ZbRbÅQ_eÅ�N`Ä�Zb_eÅ ,�. A ,�. < ,�. .�. Ï Ë�_aN`_+PQËf_�ÃBRYÍ�Í�Zb_ ,�.£Uajd]�ÐP`XdRT]VÅX�Ì�_aN`i�×dRb]�P`Ë�RbÅ�UaX�Ť_OPQË�_O.�.BÃ�j�Í�RªS>UaX:P`RTj�]�NQ_�ŤÄfZªPkÅ�Rb]£X�Í�_eÆV_e]fÍ�_a]VUWlBPQËfX[P�UaNQj�ÅQÅQ_eÅ�X�Ìd_aN`i�ÈÉËfXdNQ]�RYX[Ò(Þ Å\Ã�j�Í�_eZ�RYÅ�Ä�]fX[ifZT_PQj�Í�RbŤPQRb]�c�Ä�RbÅQË�UeXdÅQ_eÅ Ï Ë�_aN`_�P`Ë�_Ã�RYÍ�Í�Zb_ ,�.+Í�j�_eÅ C:Í�j�_�Ť]\Þ PFUWjd]�PkX[Rb]X�Ìd_eNQi-Û|RCÈ _�ÈTÓ�PQË�_ .�.�Ã�j�Í�RTSVUaX[PQRbjd]�Í�j�_eÅ C:Í�j�_�Ť]�Þ POUWN`j�Å`Å�X�Ì�_aN`iVÝvÈ�=� A � ��¾ )dc ��½:Â��e¾>»Ç¼e¾ ���<4 2 ¾�¿�4�53� ¾ ��� 4�5yÂy»�4 � 4�¼,�^5 ��¹ � � � 8 2 ��� 4�½(),��» ¹ � � 0'8

9 ��¼�»X�*c ��½q� ��Â+¹ � � �Ù-_�]�j Ï Ã�X[Ò�_�XBÍ�_WPkX[RbZT_�Í­UajdÃ�ÆfXdNQRYŤj�]�PQjBP`Ë�_+Ë�RbŤPQj�NQl�Ð}ifXdÅQ_eÍ�ÃBj�Í�_eZbÅ�jdÎÛ3Y{X:PQ]VX[ÆfXdNQÒ�Ë�R Øeä�ä / ÝX[]VÍ®ÛJPd_eZTRb]�_eÒ4_WP�X[ZCÈ Øeä�ä _�0:H·Xdcd_eNQÃ�X[] Øeä�ä�K ÝvÈ:L$ŤPQN`_a]�cdPQËBj[Î>PQË�_�Ť_OÃ�j�Í�_eZbÅ<RYÅ<Ä�]VÍ�jdÄ�i�PQ_eÍ�ZTl4PQË�_Æ>j Ï _eN¤Î|Ä�Z<_�ÅKP`RTÃ�X[PQRbjd]�PQ_eUkËf]�RbÕ�Ä�_�Å�PQËfX[P�PQË�_el·ÄfÅQ_d×�Ã�X:Ü�RbÃ4Ä�Ã"_a]�PQN`jdÆ�l�Ã�j�Í�_aZbRT]fc�ÛyRT]±Û�YOX:P`]fX:ÐÆfXdNQÒ�Ë�R Øeädä�/ ÝQÝvÓ�j�N�Í�_�UWRYŤRbjd]�P`NQ_e_eÅ4ÛyRT]âÛ;P�_aZbRT]�_eÒ­_aP�XdZ8È Øeädä _�0fH§X[cd_eNQÃ�Xd] Ø�ädä K ݤÝWÈfL Ï _eXdÒ�]�_eÅ`ÅaÓÏ _ Ï RbZbZ�X[N`cdÄ�_�RT]�PQËfRbÅ�ÅQ_eUWPQRbjd]�Ó:RYÅ�PQËf_�Ã�_aPQË�j�ÍBj[Î(XdÅ`Ťj�UWRYX:P`RT]fc{ÆfXdN`XdÃB_aPQ_eN`Å\PQNkX[]fÅQRTPQRbjd]fÅhP`XdÒd_e]�i�li>j[P¤P`jdÃBÐ}Ä�Æ�ÓfÅQË�RTÎ�P¤Ð}NQ_�Í�ÄfUW_�Ó�ÅKPKl�Zb_+ÆfX[NkŤ_eN`ÅeÈ�Ù�_+cdRbÌd_+_aÜ�XdÃ�Æ�ZT_�Å Ï Ë�_aN`_�PQË�RYÅ�ZT_�XdÍ�ÅP`j�P`Ë�_�ÆfXdN`XdÃ�Ð_WP`_aNkÅ+Ä�]�]�_�UW_�ÅQÅ`X[N`RTZbl�Î|NkX[cdÃ�_e]�P`RT]fc£P`Ë�_BPQNkX[Rb]�RT]fc�ÍfX:P`X­Rb]�ÅQjdÃ�_�UaX�Ť_�ÅaÓ(jdN+Rbcd]�j�NQRb]�c®RTÃ�Æ>jdNQP`Xd]�PUWj�]�PQ_WÜ�P4Rb] j[P`Ë�_aN�UaXdÅQ_eÅeÈhÑ�RbÃ�RTZYX[N�jdifÅQ_aN`Ì:X:P`RTj�]fÅ+ËfX�Ìd_�i>_a_e]1Ã�XdÍ�_�Rb]�PQË�_®UWj�]�P`_WÜ�P�j[Î�PkX[cdc�RT]fcÆ�N`jdi�Zb_aÃ�Å\ÄfŤRb]�c¡Ã�X:Ü�RbÃ4Ä�ÃM_a]�P`NQj�Æ�l�Ã�j�Í�_aZYÅ�ÛyghX:Ê(_aNQPKl{_aPhX[ZCÈTÓ àYV�V�Ø 0�Q+Zb_aRb]�X[]VÍ�H·X[]�]fRT]�c àWVWV�à ÝvÈ

Ù-_�SVN`ŤP�Xd]fX[Zbl�Öa_�PQË�_+Ã�j�Í�_aZ(jdÎ�ÛyH§X[cd_eNQÃ�Xd] Øeä�ä�K Ý<PQË�N`jdÄfcdË�P`Ë�N`_a_�UWj�ÃBÃ�j�]£_WÜ�XdÃBÆfZT_�ÅjdÎX[Ã�i�RbcdÄ�RTPKl(×�.�.·X[P¤PkXdUkË�Ã�_a]�P�Ó(Uaj�jdNkÍ�RT]VX:PQRbjd]-X[]fÍ-X[ÆfÆVj�ŤRTPQRbÌd_�ÅaÈ(I^]-_eXdUkË-UaX�Ť_�X Ï jdNkͧÅQ_eÕ�Ä�_e]fUW_T ËfX�Å�P Ï j1UWjdÃ�Æ>_WP`RT]�câÅKP`NQÄfUWPQÄ�N`_eÅ � S e Xd]fÍ S 7 � Ï RTPQË X�ÅQÅQj�UWRYX:P`_eÍ�Í�_eUaRbÅQRbjd]±Å¤_�Õ�Ä�_a]fUa_eÅE � e 4 �/�.�d4��

`H+X[]VÍ E � e 4 �/�.�d4���)-H�NQ_�ŤÆ>_eUWPQRbÌd_eZTl�È�J�Ë�ÄVÅ�PQË�_�Æ�N`jdiVX[i�RbZTRTPKl·jdÎ�PQËf_�P Ï j�ŤPQN`ÄfUvP`Ä�NQ_�Å�UaXd]i>_ Ï NQRTP¤P`_a]�XdÅ

M�ÛOS e P T�Ý ^ bW cXe ����� `

M�Û � W P � e �/�.� � W � e 4UT�Ý

M�ÛOS(7!P T�Ý ^ bW cXe ����� )

M�Û �qW9P ��e��/�.� �qW � eq4%T�Ý

I}P Ï RTZbZ(iV_�ÄfŤ_aÎ|Ä�Z>PQj�RbÅQjdZYX:P`_OPQËf_�Í�_�UWRYŤRbjd]�i>_WP Ï _a_e]�PQËf_{P Ï j4ŤPQN`ÄfUvP`Ä�NQ_�Å�P`j�X�ŤRb]�cdZb_{ÆfNQj�ifX[i�RbZbRªPKlPQ_eNQÃ�È�g\_WP¡PQËf_�Ì:XdZTÄ�_���i>_�PQË�_�Ã�Rb]�RbÃ4Ä�à Ì:XdZTÄ�_+jdÎ \ ÅQÄfUkË­PQËfX[P � W��^ ��WQÈ�J�Ë�_e] Ï _�UaX[]­NQ_ Ï NQRTPQ_PQËf_+P Ï j�Æ�N`jdifXdi�RbZTRTPQRb_eÅe×M�ÛOS=eGP T�Ý ^ b

WdcXe ����� � � eM�Û �!WUP ��e �.�/� � W � e�4%T�Ý JNM�Û � � P � eG�.�/� � � � e�4%T�Ý J b

Wdc � 5 e ����� `M�Û � WUP ��eG�/�/� � W � e(4UT�Ý

M�ÛOS 7 P T�Ý ^ bWdcXe ����� � � e

M�Û � W P � e �.�/� � W � e 4%T�Ý JFM�Û � � P � e �/�.� � � � e 4%T�Ý J bW c � 5 e ����� )

M�Û � W P � e �.�/� � W � e 4%T�Ý

J�Ë�_<SVN`ŤP�PQË�Rb]�c{PQjO]�jdPQ_�RYÅ(P`ËfX:P WdcXe ����� � � e M�Û � W P � e �.�/� � W � e 4%T�Ýk^ WdcXe ����� � � e M�Û � W P � e �/�.� � W � e 4UT�ÝvÓÅQj�PQËVX:P�P`Ë�_eÅQ_{ÆfNQj�ifX[i�RbZbRªPKl�PQ_eNQÃ�Å�X[N`_ORTN`N`_aZb_aÌ:X[]�P�P`j�PQËf_�Í�_�UWRYŤRbjd]�i>_WP Ï _a_e]�PQËf_OP Ï j4ÅKP`NQÄVUvPQÄfNQ_�ÅaÈÙ-_�Ã�XdÒd_+jd]f_+X�Í�Í�RTPQRbjd]fXdZ�XdÅ`ŤÄfÃBÆ�PQRbjd]�Ó�P`ËfX:Pb

Wdc � 5 e ����� `M�Û � W P � e �/�.� � W � e 4UT�Ý . b

Wdc � 5 e ����� )M�Û � W P � e �/�.� � W � e 4UT�Ý . Ø

J�Ë�RYÅORYÅFÚKÄfŤPQRTSf_eÍ�Î|jdN�PQËf_�_WÜ�X[Ã�Æ�Zb_eÅORT]�P`Ë�RbÅ�Ť_�UvP`RTj�]�Ó�i>_eUaXdÄfÅQ_�jd]fUa_+PQË�_��dP`Ë�Í�_eUWRYÅQRTj�]®RYÅOÃ�X�Í�_dÓPQËf_�Î|jdZbZTj Ï Rb]�c�Í�_�UWRYŤRbjd]VÅ¡X[N`_�Æ�N`X�UvP`RbUeX[ZbZTl£Í�_WPQ_eNQÃ�Rb]�RYÅKP`RbUdÈ .�Õ�Ä�RbÌ:X[Zb_a]�PQZbldÓ Ï _�X[N`_�XdÅ`ÅQÄ�Ã�RT]�cBP`ËfX:P

_ à

Page 43: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

ÛyX�ÝP2

PN ?.2

?!2R 0r?!?

2S2L ? ?!2

R 0 ?.?

2I2L ? ?!2

R 0r?!?

Û|iVÝP2

PN ?!2

?!2R 0 ?.?

2S2L ? ?.2

?!2R 0r?!?

2S2L ? ?!2

R 0r?!?ÛyU�Ý

PN ?!2

R 0 ?!?L ? �?.2

R 0 ?!?L ? R 0r?!?

5�687:9<;�=#"��� � �� � � ( � �+�!# � �L� �� �� �����!O��k+�� � ���+�!���� ��+-E� !#�����!#�k!��T� !�����!O� � � ��+ �W��F � � � �P��� � �-E��!� +�����!,�� ��k ���� � ���(*!���!6� [�"�\ � � � !,+�!#E��!' � �L��k+�� �,��W+�!�� �� �^!,+ F � � !9�+��9�(*�.�%!'E��!O&f�N� �� ���L!� E� ! + ��!%� � � ��+ ��!,+�( �k���u� ��!��Te�#�FE� !�=� ��- �� � ��� ��+ +� ����T � � ��+'����� �I�k���q����!��T � �FE��!�X� �� �� � ( ��� F

ÛyX�Ý ?!2

?!2?.2

R 0r?!?2I2

L ? ?!2R 0r?!?

J�J ?!2R 0 ?.?

Û|iVÝ ?!2?.2

R 0r?!?2I2

L ? ?!2?!2

R 0r?!?J�J ?!2

R 0r?!?ÛyU�Ý

?.2R 0 ?!?

L ? �?!2R 0 ?!?

J�J R 0 ?.?

5�687:9<;�=#" >� � �� � � ( � �+�!# � �L� �� �� �����!O��k+�� � ���+�!���� ��+-E� !#�����!#�k!��T� !�����!O� � � ��+ �W��F � � � �P��� � �-E��!� +�����!,�� ��k ���� � ���(*!���!6� [�"�\ � � � !,+�!#E��!' � �L��k+�� �,��W+�!�� �� �^!,+ F � � !9�+��9�(*�.�%!'E��! &�" � ��]���L!� E��!,+-��!9� � � ��+R�� ���� �k���u� ��!��T � � �#�FE� !'���T��+ �W �� ��!6� �4��+���k! � ��+ +� ����T � � ��+'��� � �k���u� ��!,�Y � ( � � �FE��!���T��+ �� �����!6� � �W+���k! � F

ÛyX�Ý ?.2

?!2R 0v?!?

2S2L ? ?.2

R 0r?!?� ?!2

R 0r?!?

ÛyiVÝ ?!2?.2

R 0r?!?2S2

L ? ?!2?!2

R 0r?!? � ?!2R 0 ?.?

ÛyU�Ý?.2

R 0 ?!?L ? �?.2

R 0 ?!?� R 0r?!?

5�687:9<;�=#"�"� � �� � � ( � �+�!# � �L� �� �� �����!O��k+�� � ���+�!���� ��+-E� !#�����!#�k!��T� !�����!O� � � ��+ �W��F � � � �P��� � �-E��!� +�����!,�� ��k ���� � ���(*!���!6� [�"�\ � � � !,+�!#E��!' � �L��k+�� �,��W+�!�� �� �^!,+ F � � !9�+��9�(*�.�%!'E��! &�" � ��]���L!� E��!,+-��!9� � � ��+R�� ���� �k���u� ��!��T � � �#�FE� !#�� �*���k � ���!a�4��+���k! � ��+ +� ����T � � ��+ ������� �k���q����!��T � ( � �#�FE� !����*���k � �%!9� �W+���k! � F

_ R

Page 44: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

M�ÛOS e P T�Ý B M�ÛOS 7 P T�Ý . Ø Ó:RCÈ _dÈbÓ:PQËfX[P<Ìd_aN`l�ZbRªPQPQZb_¡Æ�N`jdifXdi�RTZbRTPKl�Ã�X�ÅQÅFRYÅFZbj�ŤP�P`j+PQN`_a_�ÅhjdPQË�_eNFPQËfXd]<S ejdN S(7:ÈT:�RTÌ�_a]�P`Ë�_eÅQ_�P Ï jO_eÕ�ÄfXdZTRTPQRb_eÅeÓ Ï _�ËVX�Ìd_�RYŤj�ZbX[PQ_�Í�PQË�_�Í�_eUaRbÅQRbjd]�i>_WP Ï _a_a]�PQË�_�P Ï j{ŤPQN`ÄfUWPQÄ�N`_eÅPQj�P`Ë�_�ÆfXdN`XdÃB_aPQ_eN`ÅfM�Û � � P � e �.�/� � � � e(4UT�Ý�X[]fÍFM�Û � � P ��e��/�.� � � � eq4UT�ÝvÈ8�RTc�Ä�N`_ àYV ÅQË�j Ï Å�X�UaX�Ť_�jdÎ .�.�X:PQP`X�UkË�Ã�_a]�PeÈ�J�Ë�_�SfNkŤP4PQËfRT]�c§PQj·]fj[PQRYUW_­RbÅ�PQËfX[P4P`Ë�_ .�.X:PQP`X�UkË�Ã�_a]�POÍ�_eUaRbÅQRTj�]£RYÅ�Ã�X�Í�_+iV_aÎ|jdN`_{P`Ë�_-.�.�RbÅ�_eÌd_a]­i�Ä�RbZªP�ÈfJ�Ë�_+Í�_eUaRbÅQRbjd]®RbÅ�ZbRT]�Ò�_eÍ£PQj�PQË�_-,�.Æ�N`_eUa_eÍ�Rb]�cBPQË�_�ÆfNQ_eÆVj�ŤRTPQRbjd]�× Ï Ëf_WPQËf_aN¡P`Ë�_�X[NkU�XdiVj:Ì�_�PQË�_ ,�.�ÅQË�jdÄ�ZYÍ®cdjBZT_aÎ�P{jdN�N`RTc�Ë�PeÈJ�Ë�_¡]�_aÜ�P<PQË�Rb]�c+PQj�]fj[PQRYUW_¡RYÅ�PQËVX:PX[PFZb_eX�ÅKP�j�]�_�RTÃ�Æ>jdNQP`Xd]�P<Î|_�X:P`Ä�NQ_�Ó:PQËf_¡Ìd_aN`i�Ó�ÎyXdZTZYÅ<jdÄ�P`ÅQRbÍ�_j[Î�P`Ë�_Uajd]fÍ�RªP`RTj�]�RT]fc{UWj�]�P`_WÜ�PeÈ�ÛyJ�Ë�_Ã�j�Í�_aZ�jd]�Zbl�Uajd]fÅQRYÍ�_aNkÅ�Rb]�Î|jdN`Ã�X:P`RTj�]�ÄfÆ�PQj{P Ï j{Uajd]fŤPQRTPQÄf_a]�P`ÅÆ�N`_eUa_eÍ�Rb]�c®jdN�Î|jdZbZTj Ï Rb]�c£PQË�_�Zbj�UeX:P`RTj�]§j[Î�PQË�_�Í�_�UWRYŤRbjd]�È�Ý�J�Ë�RbÅ+UajdÄ�ZYͧi>_�S�Ü�_eÍ�i�l·Uajd]fÅQRYÍ�_aN`RT]fcXdÍfÍ�RªP`RTj�]fX[Z¡Uajd]�PQ_aÜ�P�ÓFi�Ä�P�PQË�_eNQ_®RYÅ�]fj§S�Ü�_�Í1i>jdÄ�]fÍâjd]âË�j Ï ÎyX[NBP`Ë�_�Ìd_aN`i�UeX[]�i>_­Î|NQj�à PQË�_Í�_�UWRYŤRbjd]�Æ>jdRb]�PeÈ�[{j[P`_�X[ZYŤj�P`ËfX:P\Rb]�j[P`Ë�_aNhUaXdÅQ_eÅ>P`Ë�_�Ã�_WP`Ë�j�Í�Î|N`XdcdÃ�_a]�PkÅ(PQË�_Í�X:PkX�RT]�Ä�]f]�_eUa_eÅ`ÅQXdNQlÏ X�l�ÅeÈ(É�X�Ť_�Å Ï Ë�_eNQ_4PQË�_�Ìd_aN`i·Í�RbNQ_�UvP`ZTl®Æ�N`_eUW_�Í�_eÅOPQË�_ ,�.>ÓVjdN�RbÅ�jd]�_4Æ�ZbX�UW_�Î|ÄfN¤P`Ë�_aN�PQj£PQË�_�ZT_aÎ�PeÓX[N`_�PQN`_eX[PQ_eÍ®ÅQ_aÆfXdN`X[PQ_aZbldÈ

8�RTc�Ä�N`_ à�Ø ÅQË�j Ï Å�X§Å¤RbÃ�RTZYX[N�_WÜ�X[Ã�Æ�Zb_dÓ�,�.�UWj�j�N`Í�Rb]fX[PQRbjd] X[Ã�i�RTc�Ä�RTPKldÈhL{c�XdRT]�Ó\PQË�_­Æ�RbÌdj[PkX[ZÍ�_�UWRYŤRbjd]®RbÅ�Ã�X�Í�_�Rb]�XBÅQjdÃ�_ Ï ËfX:P¡UWj�Ä�]�PQ_aNQÐ}RT]�PQÄfRªP`RTÌ�_�Zbj�UaX:P`RTj�]�×�X:P�PQËf_ ,�.�Æ�N`_eUa_eÍ�Rb]�c�PQË�_�Uaj�j�N¤ÐÍ�Rb]fX:P`jdN�ÈVL�POP`Ë�RYÅOÆ>jdRb]�P{PQË�_ ,�.£Î|jdZbZTj Ï Rb]�c�PQËf_4UWj�jdNkÍ�Rb]fX:P`jdN�ËfX�ÅO]�jdP{iV_e_a]�i�ÄfRTZTPeÓ>X[]fÍ�RTP`Å{Ë�_eX�Í]�j�Ä�]£RYÅ�]�j[P�RT]£PQË�_�Uajd]�PQ_aÜ�P`ÄfX[Z Ï Rb]fÍ�j Ï È�8hRbcdÄfNQ_ àdà ŤË�j Ï ÅX[]®X[Æ�Æ>j�ÅQRªP`RTÌ�_{_aÜ�XdÃ�Æ�ZT_ Ï Ë�_eNQ_{PQË�_Ë�_�XdÍ1]fjdÄ�]âj[ÎOP`Ë�_�X[Æ�Æ>j�ÅQRªP`RTÌ�_ ,�.�RbÅB]�jdPBRb]1P`Ë�_�UWj�]�P`_WÜ�PQÄVX[Z Ï RT]fÍ�j Ï Ï Ë�_a]�PQË�_�Í�_�UWRYŤRbjd]âRbÅÃ�XdÍ�_�ÈJ�Ë�_�Ť_¡ZYXdŤP�P Ï j�_WÜ�X[Ã�Æ�Zb_eÅ�UeX[]�i>_{_WÜ�P`_a]fÍ�_�ÍBPQj�RbZTZbÄfŤPQNkX:P`_{X[]�jdPQË�_eN�Æ�N`jdi�Zb_aÃ�ÈdJ�Ëf_ ,�.�X:Î�P`_aNPQËf_4UWj�]:ÚKÄ�]fUWPOjdN¡UWj�ÃBÃ�X�UWj�Ä�ZYÍ­i>_+PQËf_�ŤÄ�i�ÚK_eUvPOjdÎ�XBÎ|j�ZTZbj Ï RT]fcBUaZbXdÄfŤ_�È^8�j�N¡_WÜ�X[Ã�Æ�Zb_dÓ�Rb] ³���n��~�oT´�svp��·r[tv¯®r[�>u �¡o�~�~�~T�:¥:sWp�³�o�~�~�PQË�_4Í�_eUWRYÅQRTj�]®]fj[POP`j�UWj�jdNkÍ�Rb]fX:P`_��·r[tv¯�X[]fÍ �Oo�~�~�RYÅOÃ�XdÍ�_�ÚKÄVÅKP

X:Î�P`_aN�PQË�_ ,�.��§r:tv¯¡RYÅ�i�Ä�RbZTPeÈ�L�P�PQË�RYÅ�Æ>jdRb]�PeÓdPQË�_�Ìd_aN`i�~T�:¥:sWpFRYÅ�j�Ä�P`ÅQRYÍ�_�PQË�_�UWj�]�P`_WÜ�PQÄVX[Z Ï Rb]fÍ�j Ï ÓX[]VÍ£P`Ë�_�Ã�j�Í�_aZ�ËVXdÅ¡]�j Ï X�l�j[Î�PQ_eZTZbRb]�c�PQËfX[P �¡o�~�~�RYÅ�P`Ë�_�ŤÄfi�ÚK_eUWPOj[Î�PQË�_+Î|j�ZTZbj Ï RT]fc�UaZbXdÄfÅQ_dÈfJ�Ë�_Ã�j�Í�_aZ�RYÅ�XdÅ`ÅQRTc�]�RT]fc­Æ�N`jdiVX[i�RbZTRTPKl·Ã�XdÅ`Å�PQj�c�ZTj�ifX[ZbZTl�RbÃ�Æ�ZYX[ÄfÅQRTifZT_�ŤPQN`ÄfUvP`Ä�N`_eÅ+Í�Ä�_�P`j®Æ>jdRb]�P`Å�jdÎZbj�UeX[Z�XdÃ4i�RbcdÄ�RTPKl�Rb]®PQË�_�ÆfXdN`ÅQRb]�c�ÆfNQj�UW_�ÅQÅeÈ

Ñ�j�ÃB_�jdÎhP`Ë�_eÅQ_�Æ�N`jdi�Zb_aÃ�ÅOUeX[]�i>_+S�Ü�_eÍ®i�l­UkËfXd]�cdRb]�cBPQË�_�Í�_aN`RTÌ:X[PQRbjd]®jdNkÍ�_aN¡j�N¡PQË�_�Uajd]fÍ�RªÐPQRbjd]fRT]�c�UWj�]�PQ_WÜ�P�È(Û�YOX:P`]fX[ÆVX[N`Ò�ËfR Ø�ädä / ÝFËfX�Å�Xd]£XdÍfÍ�RªP`RTj�]fX[Z�UkË�Ä�]�Ò�Rb]�c�ŤP`Xdcd_ Ï Ë�RbUkË­Ã�_eX[]VÅ�P`ËfX:PPQËf_�Ëf_eXdÍ�]�j�Ä�]�Í�j�_�Å\ÎyXdZTZ Ï RTPQËfRT]�PQË�_¡Uajd]�PQ_aÜ�P`ÄfX[Z Ï Rb]fÍ�j Ï Î|j�N�PQË�_¡UWj�j�N`Í�Rb]fX[PQRbjd]4Xd]fÍ4XdÆ�ÆVj�ŤRTPQRbÌd_UaX�Ť_�ÅaÈ

�,��¾V»�ÁW58ÀX��Ây¾>» �J�Ë�_OÃ�j�Í�_eZbÅ<Rb]�PQËfRbÅ�ÆfX[Æ>_aN�Rb]fUajdN`ÆVj�N`X[PQ_�ÆfX[NkX[Ã�_aPQ_aNkÅ Ï Ë�RYUkËBPQNkXdUkÒ4X+]�Ä�Ã�iV_eN�j[Î(ZbRT]�c�Ä�RYÅKP`RbU¡ÆfË�_WÐ]�j�ÃB_e]fX�×�i�RbcdNkX[Ã�Zb_WÜ�RYUaXdZfÍ�_aÆ>_a]VÍ�_a]fUaRT_�ÅaÓ�ÅQÄ�i>UeX:P`_acdj�NQRbÖeX[PQRbjd]�Î|N`XdÃ�_eÅeÓ:PQË�_{Æ�NQj�ÆfX[c�X:P`RTj�]�jdÎ�ÅQZYXdÅQËUaX[PQ_ecdjdN`Rb_eÅeÓVX[]VͷŤj­jd]�È(J�Ë�_BÃ�j�Í�_aZYÅ�XdNQ_4cd_a]f_aNkX:PQRbÌd_4ÃBj�Í�_eZbÅeÓ Ï Ë�_aN`_4ÆfXdN`ÅQ_�P`NQ_e_eÅ�X[N`_4Í�_�UWjdÃBÐÆ>j�ÅQ_eÍ�RT]�PQj+X�]�Ä�Ã4i>_aNFj[Î(ÅKP`_aÆfÅ�Rb]BX{PQj�Æ�Ð^Í�j Ï ]�Í�_eNQRbÌ:X:P`RTj�]4j[ÎfPQË�_�P`NQ_e_dÓ:X[]fÍ�PQË�_¡Í�_�UWRYŤRbjd]VÅhRb]�PQË�_Í�_eNQRbÌ:X:PQRbjd]-X[N`_�Ã�j�Í�_eZT_�ͧXdÅ+Uajd]fÍ�RTPQRbjd]VX[ZFÆ�N`jdifXdi�RTZbRTPQRb_eÅeÈ>Ù±RTPQË�X®UaX[N`_WÎ|ÄfZFUkËfjdRYUW_Bj[ÎÍ�_eNQRbÌ:X:P`RTj�]X[]VÍ�RT]fÍ�_aÆ>_a]fÍ�_e]fUW_�XdÅ`ŤÄ�Ã�Æ�P`RTj�]fÅeÓ�PQË�_ON`_eÅQÄ�ZTPQRb]�c�Ã�j�Í�_aZ�ËVXdÅ<ÆfXdN`XdÃ�_WPQ_eN`Å<UajdN`NQ_�ŤÆ>jd]VÍ�RT]fc{P`j+PQË�_Í�_�ŤRbNQ_�Í®ZTRb]�cdÄfRbŤPQRYU�Æ�Ë�_a]fjdÃ�_a]fXfÈ

I^]�XdÍfÍ�RªP`RTj�]+PQjORb]�PQN`j�Í�ÄfUWRb]�c¡P`Ë�_<P`Ë�NQ_e_�ÆfXdN`ÅQRT]fc¡ÃBj�Í�_eZbÅeÓeXd]fÍ+_aÌ:XdZTÄfX[PQRb]�c¡P`Ë�_aRbN\Æ>_aNQÎ|jdN`Ã�X[]fUa_jd]�P`Ë�_c6F_e]�]�Ù�X[ZbZ>Ñ�P`NQ_e_WP P�jdÄ�N`]fXdZ�PQN`_a_eifX[]�Ò(Ó Ï _OËVX�Ìd_¡cdRbÌd_e]�Í�RbÅ`UWÄVÅQÅQRTj�]�Û|Rb]£Å¤_�UvP`RTj�]fÅ / Xd]fÍZS�ÝPQËVX:PXdRTÃ�Å<P`j�cdRbÌd_¡Ã�jdN`_¡Rb]fŤRbcdË�P�Rb]�PQj�P`Ë�_OÃ�j�Í�_aZYÅa×dPQË�_eRTNÅKP`NQ_e]�c[P`ËfÅ�Xd]fÍ Ï _�X[Ò�]�_eÅ`ÅQ_eÅeÓ�PQË�_O_aÊ>_�UvPj[Î�Ì:XdNQRbjdÄfÅ�Î|_eX[PQÄ�N`_eÅ�jd]�ÆfXdN`ÅQRb]�c4XdUeUWÄ�NkXdUaldÓdXd]fÍ�P`Ë�_{N`_aZYX:P`RTj�]fŤËfRTÆ�jdÎ�PQË�_�ÃBj�Í�_eZbÅ�PQj�j[P`Ë�_aN Ï j�NQÒjd]�ŤP`X[PQRYÅKP`RbUeX[Z�ÆfXdN`ÅQRT]fcfÈ�I^]�UWjd]VUWZbÄfŤRbjd]\Ó Ï _ Ï jdÄ�ZYÍ£ZbRbÒd_�PQj�Ë�RbcdËfZTRbcdË�P�PQË�_+Î|j�ZTZbj Ï Rb]�c�ÆVj�RT]�P`Åe×

" Ñ�_eUWPQRbjd] / È Ø Å¤Ëfj Ï _�Í�Ó�PQË�N`jdÄ�c�Ë®Xd]®Xd]fX[Zbl�ŤRYÅ�j[ÎFXdUeUWÄ�NkXdUal�jd]�Í�RªÊ(_aN`_a]�P¡PKl�Æ>_eÅ¡jdÎÍ�_aÆ>_a]VÍ�_a]fUaRT_�ÅaÓ�PQËfX[P{XdÍ�ÚKÄ�]VUvP`Å{X[N`_�P`Ë�_�Ã�X[Rb]®ÅQjdÄfN`Ua_eÅ�j[ÎF_aN`NQj�NRb]®PQË�_�ÆVX[NkŤRb]�cÃ�j�Í�_aZYÅaÈ�I^]�Uajd]�PQNkXdŤP�Í�_aÆ>_a]fÍ�_e]fUWRb_eÅ¡Î|jdN`ÃBRb]�cBPQËf_H=QUWj�NQ_�?4ŤPQN`ÄfUvP`Ä�N`_�jdÎFÅQ_a]�P`_a]fUa_eÅ UÎ|jdN¡_aÜ�XdÃ�Æ�ZT_�Í�_aÆ>_a]fÍ�_e]fUWRb_eÅ�Rb]�Ìdj�ZTÌ�Rb]�c�UWjdÃ�Æ�Zb_aÃ�_e]�PkÅaÓ�ÅQ_a]�P`_a]�PQRYX[Z�Ë�_�XdÍ�ÅeÓ�X[]VÍ#,�.UkË�Ä�]�Ò�Å U£X[N`_+XdZTZ�N`_eUaj:Ìd_eNQ_�Í Ï RªP`Ë�j:Ìd_eN ä�V U Æ�N`_eUaRbÅQRbjd]�X[]fÍ­NQ_�UaXdZTZCÈ

_W_

Page 45: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

" Ñ�_eUWPQRbjd] / È à _aÌ:X[ZbÄfX[PQ_eÍ£PQËf_�_WÊ(_eUvPOjdÎhP`Ë�_H=QÍ�RbŤP`Xd]fUW_�Ã�_eXdÅQÄ�N`_�?�jd]�ÆfXdN`ÅQRT]fcBX�UaUWÄfN`X�UWldÈL%Ã�j�Í�_aZ Ï RTPQË�j�Ä�PO_aRTPQËf_aN¡P`Ë�_�XdÍ�Ú¤X�UW_e]fUWl�Í�RYŤP`X[]VUW_+Î|_eX[PQÄ�N`_+jdNOÅQÄ�i(UaX:P`_ac�jdN`RTÖ�X:PQRbjd]ÆfX[NkX[Ã�_aPQ_aNkÅ�ÆV_eN¤Î|j�NQÃ�Å�Ì�_aN`l�ÆVj�jdN`Zbl§Û / `�È K C /WK�U Æ�N`_eUaRbÅQRbjd]�C:NQ_�UaX[ZbZ�ÝvÓ�ŤÄ�c�cd_�ÅKP`RT]�c�PQËVX:PPQË�_�X�Í�Ú¤XdUa_a]fUal�Î|_eX[PQÄ�N`_+RbÅ{UaX[Æ�PQÄ�N`RT]fc�ÅQjdÃ�_�ÅQÄ�i>UeX:P`_acdj�NQRbÖeX[PQRbjd]�Rb]�Î|j�NQÃ�X:P`RTj�]­Rb]®PQË�_H�j�Í�_aZ Ø ÆVX[NkŤ_eNeÈ�J�Ë�_�N`_eÅQÄ�ZTP`Å�Rb]­PkX[i�Zb_ / ŤËfj Ï PQËfX[P¡PQË�_�ÅQÄ�i(UaX[PQ_ac�jdN`RTÖ�X:P`RTj�]�ÓXdÍ�Ú¤X�UW_e]fUWl£Xd]fÍ =¤Ì�_aN`i�Ð}UaNQj�ÅQÅQRb]�c�?�Î|_�X:PQÄfNQ_�Å¡X[ZbZ�UWjd]�P`NQRbi�Ä�P`_�ŤRbcd]�RTSVUeX[]�PQZbl�PQj�H�j�Í�_eZ à Þ ÅÛyXd]fÍ®i�l£RTÃ�Æ�ZbRbUeX:P`RTj�]�H·j�Í�_aZ R Þ ÅkÝÆV_eN¤Î|j�NQÃ�X[]VUW_dÈ" Ñ�_eUWPQRbjd] / È R Í�_eÅ`UWN`RbiV_�Í£Ë�j Ï PQË�_+P`Ë�N`_a_+Ã�j�Í�_aZYÅOX[N`_ Ï _eZTZTÐ}ÅQÄ�RTPQ_�Í�P`j�P`Ë�_6F_a]�]�Ð8P`NQ_e_aifXd]�Ò�ÅKPKl�Zb_+j[Î<X[]�]�jdP`X[PQRbjd]�Ó�Xd]fÍ£Ëfj Ï UW_eN¤PkX[Rb]­ÆfË�_a]�j�Ã�_a]fX�Û|ÆVX[NQPQRYUWÄ�ZYX[N`ZTlPQË�_�Í�RbŤP`Xd]fUW_+Î|_�X:PQÄfNQ_�Å`ÝÃ�X�l�ÎyX[RbZ�P`jBi>_�Ã�j�Í�_aZb_eÍ�UWj�NQN`_eUWPQZbl�cdRbÌd_e]£P`NQ_e_aifXd]�Ò�Å Ï RTPQËÍ�RTÊ>_eNQ_e]�P{Xd]�]�jdP`X:P`RTj�]®Å¤PKl�ZT_�ÅaÈ�J�ËfRbÅ�Ã�X�l�i>_�X[]�RbÃBÆ>jdNQP`Xd]�P�Æ>jdRb]�P¡PQj�i>_eX[N¡Rb]�Ã�RT]fÍÏ Ë�_a]�XdÆ�Æ�Zbl�Rb]�cBPQËf_�ÃBj�Í�_eZbÅ¡PQj�j[P`Ë�_aN�P`NQ_e_aifXd]�Ò�Å�jdN�j[P`Ë�_aN¡ZYX[]�c�ÄfX[c�_eÅeÈ�I^]®ÆVX[NQPQRYUWÄ�ZYX[N�ÓRªPOÃ�X�l�i>_�RbÃBÆ>jdNQP`Xd]�P¡PQj�ÆV_eN¤Î|j�NQà PQNkX[]fŤÎ|jdN`Ã�X:PQRbjd]VÅj�]®ÅQjdÃ�_�ŤPQN`ÄfUvP`Ä�NQ_�Å�RT]PQN`_a_eifX[]�Ò�Å Ï RTPQË�Í�RTÊ>_eNQ_e]�P{X[]�]�jdP`X[PQRbjd]­Å¤PKl�ZT_�ÅaÈ" Ñ�_eUWPQRbjd] / È _�c�X�Ì�_{_aÌ�RYÍ�_a]VUW_�ÅQË�j Ï RT]fc4P`Ë�_�RTÃ�Æ>jdNQP`Xd]fUW_+j[Î�PQËf_�ÃBj�Í�_eZbÅeÞ�X[ifRTZbRªPKl£PQji�N`_eX[Ò­Í�j Ï ]£P`Ë�_�UWj�]�PQ_WÜ�PQÐ8Î|N`_a_+N`Ä�ZT_�Å�RT]­PQËf_+PQN`_a_aiVX[]�Ò(Ó�PQËf_aN`_ai�l�cd_e]�_aNkX[ZbRbÖaRb]�c4P`jÆ�N`j�Í�ÄfUW_�]�_ Ï N`Ä�Zb_eÅ�jd]®P`_eŤP�_aÜ�X[Ã�Æ�Zb_eÅeÈ�JhXdi�ZT_ Ø _BÅQË�j Ï Å�P`ËfX:POÆ�N`_eUaRbÅQRbjd]�C:NQ_�UaX[ZbZ>jd]Ť_�UvP`RTj�] V jdÎ\PQËf_+PQN`_a_aiVX[]�Ò£Í�_eUWN`_eX�Ť_�ÅÎ|NQj�à S ä È V CTSWSfÈ S U PQjZS / È V CTS / È ä�U Ï Ë�_a]®PQËf_Ã�j�Í�_aZ�RYÅ¡N`_eŤPQN`RbUWPQ_eÍ�PQj�Æ�N`j�Í�ÄfUa_�j�]�Zbl�PQË�j�Ť_�Uajd]�PQ_aÜ�P¤ÐCÎ|NQ_e_�N`Ä�Zb_eÅ¡ÅQ_a_a]®Rb]­P`N`XdRT]fRT]�cÍ�X:PkX�È" Ñ�_eUWPQRbjd]HS�Í�RYÅQUaÄfÅQÅQ_eÍ­N`_aZYX:PQRbjd]VŤË�RbÆfÅ�P`j�P`Ë�_�cd_e]�_aNkX:P`RTÌ�_�Ã�j�Í�_eZ�j[Î�ÛCÉËfXdNQ]�RYX[Ò Øeädä�/ ÝWÓX[]fÍ­P`Ë�_�Ë�RYÅKP`jdN`l�Ð}ifX�Ť_�ͧÛyUajd]fÍ�RªP`RTj�]fX[Z�ÝÃBj�Í�_eZbÅOj[Î�Û�YOX:P`]fX[ÆVX[N`Ò�ËfR Øeädä�/ ÝX[]fÍ-Û;P�_aZbRb]�_aÒ_WP{XdZ8È Ø�ädä _�0�H·X[c�_aN`Ã�Xd] Ø�ädä�K ÝvÈ�Ù±Ë�RbZT_�UW_aNQP`XdRT]fZTl�ÅQRTÃ�RbZbXdN�PQj­ÉËfXdNQ]fRbXdÒ>Þ Å�Ã�j�Í�_aZCÓ�PQË�_PQË�N`_a_�Ã�j�Í�_eZbÅ�Rb]®PQË�RYÅ¡ÆfXdÆV_eN¡ËfX�Ìd_�ÅQjdÃ�_�ŤRbcd]�RTSVUeX[]�P�Í�RªÊ(_aN`_a]fUa_eÅeÓ Ï Ë�RYUkË®XdNQ_RbÍ�_a]�PQRTSf_eÍ®Rb]�Ť_�UvPQRbjd] S�È Ø È�Û8LO]�jdPQË�_eNORbÃBÆ>jdNQP`Xd]�P¡Í�RªÊ(_aN`_a]fUa_TU�PQË�_�Xdi�RTZbRTPKl�j[Î<H�j�Í�_aZYÅØ Ó à Xd]fÍ R P`j�cd_a]f_aNkX[ZbRTÖe_{P`jBÆfNQj�Í�ÄfUa_�UWj�]�P`_WÜ�P¤ÐCÎ|N`_a_�NQÄ�Zb_eÅ�]fj[P{ÅQ_a_a]®Rb]­P`N`XdRT]fRT]�c�Í�X[P`XU Ï X�Å�Í�_eÅ`UWN`RTi>_eÍ­Rb]�ÅQ_eUWPQRbjd] / È _fÈ�Ý�Ñ�_eUWPQRbjd] S�È à ŤË�j Ï _eÍ�PQËfX[P¡PQË�_�ÆVX[NkŤRb]�c�Ã�j�Í�_aZYÅ�j[ÎÛ3YOX[PQ]fXdÆfX[N`Ò�Ë�R Øeä�ä / 0�P�_aZbRb]�_aÒ�_aP{X[ZCÈ Øeä�ä _�0�H·Xdcd_eNQÃ�X[] Øeä�ä�K ÝUaXd]®ÅQÄ�Ê(_aN¡Î|N`jdà Ìd_aN`lŤRbÃ�RTZYX[N¡ÆfNQj�i�ZT_eÃ�Å�PQjBPQË�_H=QZbXdiV_eZ�i�RYXdÅ,?4j�NZ=¤j�ifŤ_eNQÌ:X[PQRbjd]£ifRbX�Å ?�Æ�N`jdi�Zb_aà j�ifÅQ_aN`Ìd_eÍ£RT]P`XdcdcdRb]�c�ÃBj�Í�_eZbÅeÓ�XdÅ�Í�_eÅ`UWN`RTi>_eÍ�RT]-Ûyg\X[Ê>_eN¤PKl�_aP�XdZ8ÈbÓ àWVWVfØ 04Q+Zb_aRb]£Xd]fÍ£H·Xd]�]�Rb]�c àWVWV�à ÝvÈ

� ������� 8=��<7� =��3� �� ���]�!� E� !��k �� ��-E��!#(���k ��-�#�hE� ! � ��+E�D ��]E� ��e����*!,+ � � � ��� ���]�� D�%!#��cE� �� �K�] ��u�>� �+������_� ��+(*!� �� �L�� !BAW��!,����!��T]�J� � E��!��k �� �!�Y ��k!,+ $*�� �g� ��+-�����Tk+� �(���� �� �) ��I� ���� � �W�e��cE� ��e+�!��k! �+��q� F �� ��� ���]�� D�%!#��)E� �� ��E��!#��!��)(*! +��Q� �h� ��E� !��k ��-�������� k�!�!�� @ +�.�Y �� � � ���P� $*� �+E�]�� �(*! +�� �� $, !,+�� �� ���[�F!,+�!, �+���� ��� �+E��Y�!�!6�W� �� �R� ��+-E� !'+�!,� �+E���( ��!#(W+�! ��YE� �� �<�W!���E�D� �hE��!� +� !,!6��( ��u�nF � � ! � ��+E�D(*!�� !� �!6�D��+�! ��� �:� +����@�� ��k��� �k�k ���� � � �E� � ��k��� � ��k��!,+ $ �O�� �]!������!6��$@ � � � � � ��� ����+E��� $��� �K�h�����g�]!,+�����F � ���� �Y�e��o�# ��� k+� ����]��� �+���_� ��+-�� �Y �� ��� !�!6��( ��u�I���� ����D�*��+k� ���� � � �FE��! � ��+E�nF � � ��<�W ��k��� �k�k ������ � �E�]� ���� ��E��!,+-�*!�������!9� � � �_^$ � � �%!,+��k �D�#��F!���� ���W� �W�� �W$ � � ��q�]�����Tk+� �( �W�!6� �T� �! �W +�!��,����I��aE� ��e+�!��k! �+��q� & +�!��u� ���� � ���$*Y+� ��� ����� �� �%�����+�!�$*�O�� D�%!,� $ � ���!�� +��T���Y��$*�] ��u�%! � �^���� �W+�!,�k!������+ $!�O6�Y �� �^� ��� ��$*�^��+� ��� �:�#��+����$ �W��!f�#�+k $ @ � �� $ � ����� +��T�q��$ � ��(*! +k]� ��� ��T �Y+�!�$ � 1A<�] ��TEC�$ � ��� �]��+k�����$�� �+kE��o�h�����! + $� !>� � ! �W���+ $ � ���k!�� � � ���k!�� C � !� ���$ @ � �T���>��+E���+ $ � �kE� ! � T���� !�$ �#!,( ( �!T�!� �� ���$ @ ��� � �W����+ $� ��� � � +���!�� � !,��� $ ��� �� �! � !�(�(*!,+ $/, !� � �W$ �� �K�O6�Y �� � �+�� � �P����F � ��!,+�! � �� ����k���k����!O�,+����� ��� �� ����_� +���� �k����+��,!�� ������k ��W!O� �=�F!���� F � �DE� !O�k� ����! +Q� � � ����� � � ��+E�%!6� � X & � !,�q��� �������� �!�� &�� ��k�����k�k ���� � � E�>W�,��k �] �����!,+ $ � ��u���+ � W�u� � �+kEC#�� � � ���� ��� !� ��k�q��!6��!�� �� �]o�W!�!��I �������!�� ��!'���E� !#+�!,�k! �+��u� F � ���� � � �W��!,+ �� ���O6�Y �� �Q�+k�! + � +���� �V� �Q��)(W+� �����!O�k���*!,+ �Y ��k!6�I� �K� ����!,+��E� !,�k �� �'�Q��)(�+� ��W��! � � �%!,+��k ��&YE� !, �+ �!��u� �� �� ����k� �*!,+ �Y ��k ���� � �� E� !#(*!,�� �� �� ����L� ��E� ��e+�!��k! �+��u� F,F ���������T$�E����4�Y�Q��)E� !O�� ��� �W����� ��+�!U�Y �! � !,+�� � ��+ E� !, �+-��������!��T���F� = � =�;�=��� �=��@ (�� ! �T$ T�!U�%!�� F � ������F�T��T�q� ���� �� @ kk+� �( ���!9�J�<�����!�� +����� �+���F ����<)�� � (��������6(��������&���� � ���������' � � � � & � ���6� � � ��F

_ K

Page 46: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

@ ���P� � $ �' ��Y�� F � ������F � ! �� @ ������ ��a�� � ��� ������ �� � ��� �� ��& � +�����k���� ���� � E� �] ��� �� ��� !��W+�!��k!��T��� ���� ��F���� � � � ��������&�� ��� ����� � �� � ��� � (��� � �������& �������� � � �� � � (���� � ��� ��� ����<)�� � (��������6(��������&���� � ��������$������!�� � ���.� � ����F

@ ���P� � $ �' ��Y��]�� ���O6�Y �]�Q�+k�!,+ F � +�� ��� ������� �<Y� ��� �� �g�h+�!%� ! +�!�� ��! , ��� �,� ���� ��� ��+�# �����)(� ������� ���� F� ���� )�� � (���� ����(����� ��&�� ��� ��� ��� � ' � � � � & �����.� � ����F D�%!�� $ �O���$�Y����k]�] �����!,+ $ � ��u���+ �<Y�q� � �+kEC�$ �� � � ���� � � !� ��k�q��!6��!,� F � � ����F*& �W�)(���! &W�' ����G� �F! + � ��+�� �� ��!9��! �+��� �� �L&'���!%��� ��!,+ F � ����� � � � ��������&�� ��� ������ � ��� ���� � ��� �� � ��� � � )�) � ���� (������ (��� (���&�� ( & ����� � � �� ��� ��&�$*� ���!,� � � �#� ' � � F

D�%!�� $ �O�� F ' ������F @ Y��� ���� �� ��1�]����!,� � ��+f�h�+��k �� ���� � � ��+ �G� Y!�� �k!f�' �����)(� ������� ���� F � ���� � �� ��������&�� ��� ������������ �� ��� �� � (�� ��� � ���"! ��� � ) (���� �$#&%'%'%1F

����u�*$ � C,+�W$ !,-��wF � ��� � F @ � +��T�,!6���W+�!f� ��+�('����T� ���� �%!����]���������+� �� �cE��! �W�T���,� ��9���.�%! +����!9�#�� ������ ��P� � +����� �+���F � ����� � � � �"� ����&�� ��� �������� �)� � (���*,+.-'-/+�0 ����� �1��) � � ��� (��2���4(������ (�� (���&�� ( & �3� ����! ��� ��)54

����u�*$ � C,+�W$),�+�!6�W!,+� ��q� � !��� �� !B�^$ � ����� � %�^!,+k �T$ �O6�Y ��<� ���!,+�� �� $ � ��(*!,+k]�]!,+���!,+'�� �<W��� ��� ��� �%����F � ��� ' F � � � �+ ��� �' ������+ �G� ��k!6� � +����� �+�� & � �k �� � � ��u� !,+ �]����!,���k� ��+]� +���(��(� ��� ���� ���h�+��k �� ��F � �,��� � � � ����� ��&�� ��� ����76���80 ����� �1��) � � ��� ( �9�2� (������ (��� ( ��&�� ( & �:� ����! ��� ��)�$�#�+k+� �� �� $�& � F

�����!,�W$ �#����$ �� � � � ��!�� !O�^���+��� ���:F ' ������F @ �k�k ���� �� � ,�� � � � ���� � ���� ��[�h�+��k!U� � !BAY F � ���� � �� ��������&�� ��� ����7+ � � � ��� � (�2� � �������& ��� ���� � ��� �� � ����� ��� ( � ;� (�) � ��� ��� ���� � � �� � � (���� � �7����� ����<)�� � (��������6(��������&���� � �������<4�Y! �k���!�F�� � F ' � �>= ' ����F

���^$ � !�� ��F �(' � � �&� F � ��� �� E��! �] �� �� �� W!, �#��,�+������!��T��QE��� @ �u� �!U�%!�� � �AW �� �� �h�+��k!@ �����W+��� � "�F � ����� � � � ��������&����?� � �$#�%'%'+1F

�T��E� $ � �W����+ �JF�$��� � � ��u���+ � @ F � ������� �k��� F � ������F � )�)� *�� ��&���� � � ( � �� ���@*�� � (�� ��� ���� ��� ��� �@� ( ���� (���&�� ( & ��)4 � � � � � +��������,� ���� �-���Z������� �W�!,+���$*�X� 'I'.� � � $ �����!�� � � ' � ��� ��F

+� ���� $ � +� ���F � � ����F @ �W���� �� �� � +����� �+ � � �����,� ����I�� �<�h�+��k �� ��,�+�!�! � !BAY'& @� +����� � ��+�� �� ����!� ��k!6� @ ����+�����u� F � ����� � � � ��������&�� ��� �� �A#&+ � � � � � � (�2� � �������& ��� ����� � �� � � (���� � ��� ���� ����<)�� � (��������6(� ������&�� ��� ��� ���EF

�^���+�� ���*$ � ����!���!�F � ������F�T��� ���� �� �� ���+��k ���� � E�Z)�����Y�!qAW �O� +�!�!O��+����� �+ �� � � ��+ �]����� ���� �����F��� � �� ��������&�� ��� ������ ����� � � ����� �4(���� ����(� �� � � ��� �� � ����� �B� ��� C � � (��D � � ��� ��& �� � � $ @R@ @ �� +�!��k� � �� � +�!��k��$��]!�� ���[�h�+E� � � ����� � F�^���+�� ���*$ � ����!���!�F ' ��� ��F � � ( E���� � �2� �� �@� ��)F*�� ����� )��� ��� )�(�� � ���uF��h+��T��!�!U�� �� ���'� �F& @R@ �Q� ' ��� ��F�^���+�� ���*$ � ����!���!�F ' ��� � F � ����!6�� ���!9��� ! ��g�h�+��k ����o� ��+'� ����������!7�]����!,����F � �,��� � �� ��������&�� ��� ����/-��� � � � � (�9� � �������& ��� ���� � � ��� � � (���� ���7� ���� ���� )�� � (���� ����(��� ����&�� ��� ��� ���EF

�^� !,��( W$*�� ��W+� ��� $��� � ,�+�!6�W!,+� ��q� � !,�� ���!��:F � � ����F � AW������ � ����g �W�T��� � �� Yk+�� � ���+�! � ��+ ���� ��� ���!�]����!��� �� ��F � �,��� � �� ��������&�� ���� ����GD �7H���� �I+.-'-.J�$��]���Tk+�! �� F�^� ��� ��$ �O6�Y �nF ' ��� ��F*T��� ���� �� �� ���+��k ���� � E�Z��]������� �� �� ��������;!BAYk+���,�!U�Ik+�!�!9��&^��� ��� �� ���+����� �+ F � ����� � � � ��������&����?� � �K#&%.%'%�$ � ����� ������$������!�� �����#� ������F

�������� �� ��$��] ��u���!�� $*�� � � ���!�� +��T���Y��F � ������F��h+�!��*���k �� ������� �]�W+���k! @ k���u� ��!��T�E�W+�������� ��u�%!6���J�%�F�]����!��wF���� � � � ��������&�� ��� �� �8LM� �N���O� ����! ��� ��) � �IP ����*�� (�� & � ���� ) ��� (�$ �����!�� ' �6� ����F�������� �� ��$��] ��u���!��wF � � ����F @ & ! � Y��� ���� �� �� �h�+��k! + ��k!6�]��� ���+��� ��!BAW �� ����#!��*!�� ��!����� �!���F��� � �� ��������&�� ��� ����� � �� � ��� � (��� � �������& ��� ���� � � �� � � (���� � ��� ��� ����<) � � ( ��� ���6(��������&�� ��� ��� ����$�����!�� � � �#� � � � F�������� �� ��$��] ��u���!��wF � � ����F � ��+�!�! �'!,� !,+��� ���!�$���!BAW �� ��� ��k!6�>�]����!,���k� ��+ T��� ���� �� �� �h�+��k �� ��F � ���� � �� ��������&�� ��� �����/6��� � ��� � (��� � �������& ��� ���� � � �� � � (���� � ��� ��� ����<) � � ( ��� ���6(��������&�� ��� ��� ���(��9�QJ��� �� � � ��� �� � ����� ���� ��� � ) � ( � ;� ( ) � ��� ��� �� � � � �� � � ( ��� ���7� ��� ���� )�� � (���� ����(�������&���� � ��������$ �����!�� � �.� ' ��F�������� �� ��$��] ��u���!��wF � � ����F��'! �G�3�'+� �%!���Y��� ���� �����1�]���W!���� � ��+ &#����+��� ���� �������!�h�+��k �� ��F��J� ��# ��k�k!,+k��� �����$ � � �%!,+��k �D�#�=�F!�� ������� ����� �F

�������� �� ��$��] ��u���!�� $ � �� �#^� ���$*� �����! � ����P�� � �� � �^�W+� ������� � � ������ ���� F � ��� ��F @ Y��� ���� �� ���h�+��k!,+ � ��+#�^C,!��q� F � ����� � � � �"� ����&�� ��� ����A&R �� � � � � (�2� � �������& ��� ���� � �h$*��������!���!��h�+E�*$� �+ �W���� �nF�������� �� ��$��] ��u���!��wF ' � ����F��# ��k�,+� ��� ����� �%! � !,+��� �Y �� ��� ��+-&#����+����� �� �������! �h�+��k �� ��F���� � � � ��������&�� ������������S��� � � �����,D � � �����(���� ����(� ����<� ��� ����� ���,� ( ��� ������� � (��� ����&:TND ;� �$#�%'%'%�U F

�������� �� ��$��] ��u���!��wF ' � � ' F*�h�+����!,�!,+ � ��� �� �� ������ ��+ Y��� ���� �� �� �h�+��k ����:�]����!���� & � ��!���+ �]�� �� +���,� ���!9� ���# ���k+� �( �W� ����!�C,�+�!�! �]!,E� ���W��F � � �� �*! �+ ��-)(*�T���D�u����W�!,+ F� ��k��!,+ $ � ��k��� F � ������F � ��+�!�!O& ! � � +���(��( ��� ���� ��7�]����!,���_� ��+k�#!��*!,� ��!,� � �:�h�+��k �����& @ � � AW������+��� ���� F��� � �� ��������&�� ��� ����GD �7H��V-/W�$�� ���!��� ���.�C� ����F

_�`

Page 47: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

�������� �� � � ! ������ +� ���!��Y��� ���� �������]���W!���� � ��+F&#���h�+��k �� �

� ��k��!,+ $ � ��k��� F � ������F @ � � ���� +� ���������������+� ��k��� �#��� +���(��( ��� � �>�]���W!���� � ��+ �#!��*!�� ��!���� �� +����� �+ F � !,�q��� �� ���+�!��*��+k � � �_�� ���.� ��� $ � ����� ����!f� ��+ � !��k!��+��u� ��Z������� � �%!7W�� �!�����!�$� � �%! +��k � �D� ���F!���� ���W� ���� ��F

� ��k��!,+ $ � ��k����$*�� � �' ���+��� ��:��k��F � ��� ��F � Z��� �!��T-���+��k ������ ��+'(� ���!qA� �� ��������T�!BAY �3� +�!�!#��+����� �+���� � � ! �]��W���� �����]��+����� �+���F � ����� � � � �"� ����&�� ��� ����A&R �� � � � � (�2� � �������& ��� ���� � ��4

� ��k��!,+ $ � ��k��� F ' ��� ' F � +��� � � ��+�� �� ���� �� ��+� ���+�� �.�%!,+-��+����� �+���F � �,��� � � � ����� ��&�� ��� ���� ����<� ��� ���� ���� � )��N��� � (�9� ��� � ������� �4(������ (��� (���&�� ( & � ��� � ��� � ����&:T � � �;� U $��J� �����W!���� � ��F

,�+�!���� �^$ � �%6�*$ � ^ � �%!,+ $ � ��(*!,+k � F�W�u���� +�!�$ � � ��+��� Y �����!,+ F � � ����F @ �I!$Z��� �!��T-(*�T����� �� ��������+� �E��� � ��+ �����)( ��� ����)�W+�!%� !,+�!,� ��!���F � ��� ( ��� ����� ��� (�� � � ��&��5��� � �� ��������&�� �������� � � � � � �� ��D ��� ��� �6(���� � �6(� �� � � ��� �� � �qF*�]��+��%�� ��!� � �� � F

�#�CU� �+ $ �'!,+�����^$ � F � F ��!� ���$ � F F�� � ����� � $ � ����<W��4F � ������F�H ������ (� ��� ��������� ( � �A���@��� ������� �H�� (�� �5(��uF �'�+ ���+ � � � �%! +��k � �K� +�!��k��F�' �����! Y$��O��� �!��wF ' ��� � F�����+���� � �<�+� ��� ���� �� �K�h�+��k!,+ �F!,+ � ��+�� �����!�F � �,��� � �� ��������&�� ����#&%'%'+ ���� � ��� �� � ����� �<)��� � � (�2� ��� � � ����� � ( ���&� (��� ( ��&�� ( & ����� � � �� � ����&:T �� � �;� U�$ �� k��k(���+�����$� @ F

�'�T����� �� $ � ���P�Y� �F � ������F*�h+���( �( ��� ���� ��3,�! ���W+�! � +����� �+���F � ����� � � � �"� ����&�� ��� ������ �������D ��� ��� �6(���� � �6(� � ����! ��� ��) � �,� (�� � ����&3L�� ��� ���� � &�� ��uF

�'! +��v^k�����( $ � � �J$*�� � � ���]�T��� !���F���! �+��� ����[�h�+��k!a�� � � +��� �k���� ���� �#!��� ��k ������ � +���� � A ���� ��!��� �E� � ��u�Z�����T�!BAY F � �,��� � �� ��������&�� ��� �����/6 �� � ��� � (��� � �������& ��� ���� � � �� � � (���� � �7����� ����<)�� � (��������6(��������&���� � ������� (��9�QJ��� ���� � ��� �� � ���?���� �; ��� ��) � (�� ;��(�) � ��� ��� ������ � ��� � � (���� ���� ���� ���� )�� � (���� ����(��� ����&�� ��� ��� ����$�� ���!�� ��� ' � ������F�' �� ����!�$!�#����$��� �<� ��� � �T��E� F � ��� � F*Tk+�� �,��W+��� @ �c( ����� �D�� �]��!BAW ����� � !����� ���� ��F � ���� � �� ��������&�� ��� �����#�-��� � ��� � (��� � �������& ��� ���� � � �� � � (���� � ��� ��� ����<) � � ( ��� ���6(��������&�� ��� ��� ���EF

�'���*�,+�� � $ � ��� ��$��� � � F!�TF � ����� �� F � ��� ��F5D � �@� � ��� ����� � � � � (�� � ���5(�� ( ���� ����*�� (���&�� ( & �� � (��9�� � �<)�� � (���� � ��4 � !���� �����$ � ��k��F�& @ �!�� ��k���G� � !��k��! ��F

� !��� �� !B�^$),�+�!6�W!,+� ��q�*$ � ����� �� �^!,+k �T$!�O6�Y ��<� ���!,+�� ���$ � ��(*! +k]�]!,+���!,+ $ @ � � � � ��������+E���� $���� �� � ��� �%����F � ��� �4F��'!��� ��k ���� � +�!,!�h�+��k �� �����k ������� �!��!��K�#!,+� ���� ����<�]����!��wF���� � � � ��������&����?������+.-'-)��� � �5(�� � (���&�� ( & � L�� ��� � �� � &�*O� ����! ��� ��)�$ �����!�� ' � ' � ' � ��F

� ��� � �k��� $�� �+E�:F � ������F � ��! � �^!�� � � @ � �!,+�� �� �%! � +�!�! � !,��+�!��k!��T��� ���� � ��� � +�!�! �� �� +����� �+���F � �,��� � � � ����� ��&�� ��� � �"� ��� � �F

� ��� !���$�� �+E�I�� � � ��k��� � ��k��!,+ F � ��� ' �F @ ��+���(��(� ��� ���� ��9���+��k!,+ �� ���� �!U�I��L�k� � � �+�!9�!���� �� ����T������!��T���F � ����� � � � ��������&�� ��� �4(���� ����(� �� � � ��� �� � ����� �B� ��� C � � (��D � � ��� ��& �� � � T�� � ��D9�V-�# U $*W��� ���k!�$ �����!�� � 'I' �C� ' ��F

� ��� !���$�� �+E�I�� � � ��k��� � ��k��!,+ F � ��� ' ( F @ ��+���(��( ��� ���� ��a���+��k!,+ �� �D �� �� ���� �� �� ���� F � ���� � �� ��������&�� ��� ������ ���BD9�?-�#$� ����! ��� ��) � �:� � (������ ��� � (�� *��� (������ � ( ���&� (��� ( ��&�� ( & ����� � � �� � ����&L�� ��� � �� �����$�W�� � ���k!�F

� ���P� $ @ +�6�Y �� �D�� � ����%�����+�!7Y+� �� �����F � ��� �4F��' �����)(� ������� ���� � ��W� �*! + �h�+k�� � �XY�*!�!��u� � ��+W� �*! +k����� � & @ �������� �h�+��k �� ��F � ��D ��� ��� �6(���� � �6(�� ���� � ��� �� � ����� ���� )�� � (���� ����(��� ����&�� ��� ��� ���T �� �GD �7H +.-.-<�.U $ �T���� � � �%!,+��k �T$ � ����� $ @ � ��� �� � ��� ��F

��!� �� $ �O��]�� �]�^��+� �������*! + � �� � ����4F ' ��� ' ����� �W � �������1Yk+����,���+�!]�%!,+��k���'����� �W �� �������� ��� �� �� ���� �� &#� ���]���W!�����F � �,��� � �� ��������&�� �������� ����<� ��� ���� ����� � )��N��� � (�2� ��� � �������� (������ (��� (���&�� ( & ����� � � �� ��� ��&:T �� � �M� U $ �]�� ��� ��!���� �� ��F

�� �^!,+k �T$ � ��� � $!�O�� �!�� W��! ����+ �� �^$ �#.�Y �� � !����*!,+���! ��F � � � ' F � +����� �� ����� � +� ���+����� & @� +���(��(� ��� ���� ����]����!�� � � �� ��4� � +����� �+ FF��� � � � ��������&�� ��� ����7+.-'-�#���� �BDB� (��5��*�� ) ��� � � � ������ � � ( � �� ��� ��� � � )�)2� � ( �������� ��� (������ (��� ( ��&�� ( & � 4

�� �^!,+k �T$ � ��� � $ @ � �W+�! � �]� �Q������ � $*�� ��, !,+����� �W�o�F!,+�!� +��F �(' � � �� F������ �� � ������� +��� ����� �!,� �W� &� +���(��(� ��� ���� ��a������!������ ��+'�k!,����!��T� �� �)�� �I� �(*!��� �� ���k!��T� !,� ��! �����F � ����� � � � �"� ����&�� ����D ;� �#&%'%'+1F

� ���!,+�� ���$ �O6�Y �� F � � ����F�Y��� ���� �� �� �#!,�� ��k ����!� � +�!�! �]���W!���� � ��+ �h�+��k �� ��F���� � � � ��������&�� ��� ����A'.���� ��� � (�9� � �������& ��� ������ � ��� � � (���� ���7� ��� �� �<)�� � (���� � �6(��� ����&�� ��� ��� ����$������!�� ' ���#� ' ����F� ���� �� �W$^�^�W+� ������� ��!,+ �TF�$��� �K� ���+� ��q� W�u� ��WEC�!�F � ��� ��F9� ��� �9��( ��� ����� �?�A� � (������ ��� � (���4(������ (�� (���&�� ( & � ��� � ��� � ����&/4 � � � �h+�!��k��F

� �+��,� ��$*�] ��u� !���� $ ! �k+� ���!7���T���+� �� �� � � F�� �+��� �� �Y �! � ���C�F � ������F � ����� �� � L� �+���! @ � �������!6�����+�� ��� � � � � ���� ��P�"&�E� ! �F!,� � � +�!�!�(��� �:F� ����<)�� � (��������6(� ������&�� ��� ��� ����$ � � �('�� & � � �#�C��� ��F� �+��,� ��$*�] ��u� !���� $� +����! �� $ � �+ � @ � � F � �+��� �� �Y �! � ���C�$ � ��(*! +k]� �� � �Y �Y+�!�$ @ � � �!���$*� �+E�, !,+������k����$ �+�!,� �EC�$��� � +� �k�gY�q� ��k(*!,+���!,+ F � ��� �4F � ��!�F!�� � � +�!�!�( ��4��& @ ��� ����� �� �� +�!6�W �� ��! @ +���� ��!��T Tk+�� �,��W+�!�FF��� � � � ����� ��&�� ��������7+�-'-<��� � �5( � � (���&�� ( & � L�� ��� ���� � &�*� ����! ��� ��)�$������!�� � � �#� � � ��F

_ /

Page 48: people.csail.mit.edupeople.csail.mit.edu/mcollins/6864/slides/CL2003.pdf · "! #$% '&(# ) +*, - "./- %0 *%-01 23- 4 %0 5687:9= ? @BA(?8?C68DFE:G H IKJMLONQPQRTSVUWRYX[Z\I^]

������������� ���������� ������� ���� ���� ������� ��!#"�"%$ &'���)(*!,+-"

��! � �+��q��!�� $��Q�+��wF � ������F � �DE� ! � � �k� �*! + �W ��k!6� � � ��� � � ����I�#�=�]�W+���k!%� Tk+�� �,��W+�! � +����� �+���F � ���� � �� ��������&�� ��� ���� LM� �N��� � ����! ��� ��) ��� P ����* � (�� & � ���� ) ��� (1F

�] �����! + $�W����k $ � !� ��� ?, � A^$�� �����! � ����P�� � $��� � � ���� � � !� ��k�q��!6��!,� F ' � ����F @ & �#��!�� � �k!O� �Y��� ���� �� �� �h�+��k ����L�� � AYk+���, � �!� ��+�� �� ����K� +���� � !BAY F � �,��� � �� ��������&�� ��� �����+ � � � � ���� ��& �?����� ������� � � ����� � (�� ;� (�)�� ��� ��� ���� � � �� � � (�������������� ���� )�� � (���� ����(����� ��&�� ��� ��� ����T�� ��� ��U�$� � F '�' �#� ' ����F�F!,+�!� +�Y$*�F!,+�!� +�L�� ���O6�Y �� � �+k+�!�� F � ������F �#!��� �!9������ �k! � +����� �+���� ��+'���� �������! @ � ����W�k �� �@ W�W+ �%! � �#�hE� ! , ��+�� ��� ��k� �� � �������� �+� ��k��� � �E� @ � ����!��T�!6� � +�����k � ����Z&'!, � ��+E�W��F�B���� C � � (�9D ��� ��� ��& ���� � ��+� � #/�+%� #�R>J�F

� ��4�%!,+ $ Y�!��4� !�� F � ��� �4F�LM� ��� ( ��&�� ( & �AD ��� ���������wF �F!,� ���� �� �T���Y��F� ��������+E���� $ @ � � � F � ������F @ �� �� ! �+ � (��k!,+ �%!6� � ���!Y��� ���� �� �� �h�+��k!,+ ��k!6�]���>� 1AW ��)���� �Tk+��������]����!,����F � �,��� � �� ��������&�� ��� �������� � ���2� ����<� ��� ���� ����� � )��N��� � (�2� ��� � ������� �4(������ (�� (���&�� ( & � ��� � ��� � ����&�$ +�� � � � �� ���!,+��k �T$G�h+��#�Y ���!,� ��!�$ � ������! � �k���� �nF

� ��������+E���� $ @ � � � F � ������F @ � �AW ��c� � � �Tk+��������]����!,� � ��+]�h�+k � � �d� W�*!,!��q� � ����� �� ��F ���� � ��� �� � ����� �<)��� � � (�2� ��� � � ����� � ( ���&� (��� ( ��&�� ( & ����� � � �� � ����&�$�� � � � ����F

� !��k� D�*$ �J� ��� �� F � � � ' F�� +���(��(� ��� ���� �� � +�!�!%� @ �&^��� ��� �� � � +����� �+ ��'�,W+����! � ��+E�[� ��+fT��� ���� �� ��&#���W+��� ���� ��� ���!7�h+��T��!��k�k ����4F � ����� � � � �"� ����&�� ��� ����;D ��H +.-'-�#%$�������� ��! �P� $������!�� � � �>= � ' ��F� �%�+E�*$ +� ��� F ' � � � F*� +���(��( ��� ���� ��O����G����� � �]� �+��k �� � �� �I���� ��� ���!a�����W!��� �� �4F � � ������������� �������� �� ��� ���� �����$ ' � �('�� $ �����!�� ' ���#� ' ����FW�u���(*!���$ � �%!���F � � � ' F*Y��T�u������ ��c��!BAW �� ��� DC�!6� � +�!�!%� @ �&^��� ��� ���� � +����� �+���F � ����� � � � ��������&�� ��� ����GD �7H +.-'-�#%$ �<����� ��! �P� $�� ���!�� � ' � = � � ' FW�u���(*!���$ � �%!�� �� � � ��q� �+ � �H��! +���F � ������F�Y��T�u������ ��9� !BAW �� ��� DC�!6�B�����T�!BAY � ,W+�!�! � +����� �+ F � ���� � �� ��������&�� ��� ���� LM� �N����D ��� ��� �6(���� � �6(� � ����! ��� ��) � �,� (�� � ����&3L�� ��� ���� � &�� ��uF

W!B�W ���!�$�W�����P� $ � ��� �Z�Q�+k+������ $�:F @ ����� ������� $��� � � F � �k�I^ � wF � ��� ' F @ ������ �� ��O� !��+�� ������ ��+W!�� ��Y� ��9���������T���� ���� F � ����� � � � ��������&�� ��� �� �8LM� �N��� �� � � ��� �� � ����� � )�)� � ���2� ( ���&� (��� ( ��&�� ( & ���� � ��� � ����&�F

W!,� !>�h$ Y�!��4���� �!�F � � � ' F �X� & @ & @ &#����+����� �� �������!7 �W���!�� � ��+ W�*���%!��]�������� ���!@ � ���� ����� �������F ���� )�� � (���� ����(��� ����&�� ��� ��� ����$ � � � �� & � � � ����F

� k�!���$ � ��Z�� � � �����E� �]� F !����wF � ��� � F � � ! � !,+��#� ,W+�!��T� !���� �:� +���( ��!�� & � ��� �� �� ����)E� !� +���(��(� ��� � �!�� � �h& �#��!�� � �%!��T��e �� @ � ���� �%! � !qAW ��������+�!��k�k ���� F5D �� LF� ( ����( ����� ��� � ���D � � ��� �5( ��� ��� LM��� ����*�$)��� � � � & � ����� = � ��� ��$ � � ��� � � � � F

_�S