SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

18
47 [email protected] Mark- [email protected] magdeburg.de Engineering [email protected] [email protected] [email protected] [email protected] Sciences [email protected] ABSTRACT - genomics. Keywords 1. INTRODUCTION - - -

Transcript of SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

Page 1: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

47

(*)*),+*-/.1032325476985.;:9<>=

?A@ B;CEDFBHGFIJKMLMKMNMO KML�P Q�RMSMT�O KMU�V>KMLMWYX�Z>JXMQ�Q�SMT�[�S\AU XM]MKMU�^ALMKMU _�`�O [�[email protected]

Mark-bdcfehg�i IjBHkl>[�mMXMXMU�X�Z>JXMQ�RMn�`�SMT�l>[�O SMLM[�So>` `�XjpqXML�\AnMSMT�O [�W�S�rLMO pqSMT�a�O `�_s KMtMNMSM]MnMT�tMuM\ASMT�Q�[email protected]

magdeburg.de

?AvfGxwhBfy>Bz SMR�`�{MX�Z>JXMQ�RMU SM|}O `�_Al>[�O SMLM[�S�KMLMN

EngineeringrLMO pqSMT�a�O `�_AX�Z>~qXMW�_�[email protected]

CED g @ y>� i y��H�f���!@ yl>O U O [�X�P LMa�O tMm�`�a�uMP LM[�{� XM]MnMT�LMu s ^[email protected]

wdDf@ Gf@ �ADf@>� iHg @ yADf@ ���z SMR�`�{MX�Z>JXMQ�RMn�`�SMT�l>[�O SMLM[�S�KMLMN z SMR�`�{MX�ZJXMQ�RMU SM|}O `�_Al>[�O SMLM[�S�KMLMN��>LMtMO LMSMSMT�O LMtrLMO pqSMT�a�O `�_AX�Z>~qXMW�_�[email protected]

� iH�M��iHc �f� c ���

��@ y>�fyADf@>�H� � �fyADf@z SMRMKMT `�Q�SML�`>X�Z>JXMQ�RMn�`�SMT�l>[�O SMLM[�SrLMO pqSMT�a�O `�_AX�Z>~qXMW�_�[email protected]

�H�f�!@ �/�Y�fIjBz SMR�`�{MX�Z>V>O XMa�`�K�`�O a�`�O [�aYKMLMN s SMNMO [�KMUP L�Z�XMT�Q�K�`�O [�aYKMLMN z SMR�`�{MX�Z>JXMQ�RMn�`�SMT

SciencesrLMO pqSMT�a�O `�_AX�Z � O a�[�XMLMa�O [email protected]

ABSTRACT�q� ���� ��� � ��� ��� �� ��������� �� ��� ���F�����!� ������������������;������>�� !%��������������>�� !%���������������� �� ���!�!� ��� ��'f¡���������'�� ��������������¡���� ��������� ��¢q��� ¢� ��!� � �� � &����� � � ��'- ���'� &����� £q���� ������ ��!����������'f�� �� � '�� �����

genomics.

Keywords�A���! � �� � � ������$�¡���������'�¤�$�������'f�� �� � '���$�'� ������!� ���1. INTRODUCTION��� ���� �� ����� ���� � �� �����¥��� ¢� �¤} ������f��'q��$�� � ¦����§�>�� � ���F¡� ������! ¦��� �¢� ��������f� ��� �������� ����������� ����� ���� ��d���¨���¨�� �����'���� ©� ��«ª¨� �� �� ¤¦����������� ¤ª¨� � � � �¬� � H�����!�!����� � ¤h¡����#��� ����'x� ��� ���� ��� ���&�������­��� � ��j��� �� ���Y���ª¨ �� ���¯® � � � °�!��� � ��� � ���� �����5� ���������������¥ª¨� ����� ��'±� � °���� �$f� ��� ���� � ����¤ ������� ��� ¡���� �����d� � � � �>���>���h� ���¢� «���A�¨����¡�������������¤H�������²ª � � � �� � Y�����!�!����� � ¤³�����H� ������H� ����¤³¢q��� ����¡�� Y� ����������j�����H� �� ���� � ��¤³£� �¤���� ����H�����¦������� � ��¦�� �� ������ � �´�� �¢� �������� �! �������������� ����������������E¡� '�� ����� ����������µ����¶�>�� �%�������� �q� �¤¬� ����� ���� ¥� � ¥����� ����ª¨� ��'q$&���� ���� ��� � &��� ��� ��� ª��!���·ª � � � � ª¨� � ��¡� #� ���� ������ � ��'f����� ����¤j�� ����� ������• ¸º¹ ��¤} ��M�� ��M� ������� ��������h����� � ����������°� � � ������ ��'A��������� � ��� ����� �������� 'q����� � � � �F��� �� ����� &��������� � ��� ����� �����!����� £q�• ¸ �� ���� ���� -¡���� ��#� ������� ��������h����� � ����������°�� ������ ���������M� ������� ����>����A�!��� � �

-�� ������ �������������� £q$�� �!� � ¥�� ���� ���� ��³����  ������� � ������� ��«¡�¤x���� �¢� ��&»� ����� ���� � � ��������� � ©���� ������¼#��� 'q����� � � � �

• ½ ���� ²�� �� ������ � ������ � ��� ��¾���¿�����! ��� � ���� � ¡�� � � � ¤�$ � ��� ��� -�����! ���� ���� ��� �������� ������$������! � ���������� ������ & �¢q��� ����� �������•

® � � � ¬� ��� ��� �� �!���!¡������!� ��'�� �º�!� ��� ��'��������¬������ �� ª�����£q�H���� ��� �������� � ��'3'� ��� ��d���À ������ �� ����$!� ��� �������� �����/���x����� � ���¥����� �����¢� ������°¡� §� � §� ��� �¬��� ������¬ �� ��� Á����� ��������� ��� �����²�����

��� ���� ��� � ��'²� �! ������������¬ ������ �� �Â����'� ��� § ����� � ���� � ��Ã� ��� � ������������ ����� �����!��������� � ©���� ��������q� ���À ��� � ��d�� �¢�� �ª��°����´�>�� Ä%�������$#�� �� ����� ¡� ��«� � ±ª¨� ����� ��'�� � �������� � ���$Å�����Æ��������� ���� ��Ǫ¨� � � �È����� ������� �����É���Ê� � �������� ��! ���� ������ ��H� �������������Ë� � ��>� ���� ¥� � ���� ��� �A� �����������������j������¡� ���������­���«� � §��������� ��� �����Â���� ���� � � ���� �����Â��¡������¬� � §ª¨� ����� ��'�� � �������� � ���!������� £q�¹ �������� 3���¥� � d���� �� �E'�����ª¨� � ���¥� ��� ��� �� ��� �Ì�!� ��� ��'°¡���������'�� �������������¡���� ���$>����²�>�� ¬%�������ª����&��������� ��Ã���¦�������j�������Ä'� ������!� ��������d������'º�� �� � '����/��������� ��� ����!� ��������� ��� �����ºª����! �����¢�� �� ��±���¥� � ����� ������ � ��¦����� ��� �h£�����ª¨� ���'� ³ª����>�����A��� �Í���� �� ��! ����>����� ���� ��¤�� ¸���������°���§��"�ÎÌ'������� ��« ������ � ��� ���� ��Ä���Ì ����������� Á�����������Ã����%����� ��¡��!� � � ��H ��� ���� ��� �������j��¢� ��Ï� � h"j����� £q��Ð�����Ñ������ �q� �����!¡�� ��$}Ñ��j�����Ò ������� ������$�������Ñ�Ó������>Ô¨������� � ©���� ������� �q� !�� �� ��� ���� ��!���F� � ���¨� ���� ���������� ������� ���� � �� d� � �� � d����� £q�«�����Ä� ����� ��� � � ���«��� � � º ���� ��� ���� �q� � ��¡�� �Í��� ������ � �� � ¥� ���� ���������� �� ����� ¡� A� � Aª¨� ����� ��'¬�� � �������� � ��q���� � � � �� � &����� £q�F����� ���� &ª¨��� � � ��!¡�¤j� � &ª¨� ���� ������ � �� � �� ¢� ��������°�>�� ³%������� ��¢q��� ¢� ���� � �� � f����� £q��$�¡���� ��¬����� ª��¨�������f� �����$M���� ���Ϫ � � � � ª����f�&� � � � � h��¢� �� � ��� �A�Ï'�� 'q��¡�¤}� Y� ��� � ©� h�����H� � h��� � ��Y�� � � � � ¥��¢� ��A� �¢� ����! �'q��¡�¤}� �����® � � � A� � A��� ��� ��������� ��� � ��À���!�A� � ��'�� �� ������ ���������q����¡�� �$·��������������� � �$�� � H� ���������������� ��� � ��¬���Õ� ª��¨�� ������ �������������¡�� ��·� � ���·ª¨ ��� ����������� ��Y�����������h����� '�� �����>� �¢� ��Y�� ������ ���������M����¡�� ����¸ � � ��'�� Y�������Õ��� � h�������fª����Õ �����¢�� �� ��Hª¨� � � � � h� ����������������A� ���$}¡������� ����ª¨ ���  ª������� ��«� � ���¨� � �¤¦�!� ' � �¨'� ��¨¡� �� � ��!�� �� ��� ���¨¡�¤x� ����¤}� ��'ª¨� � � � � ¶�!��� � � �� ¶�� ������ ���������x����¡�� ��;���Ì¡�¤¿����� ��'5� � �� �Ä��ª¨�������¢� ���� ������� Ò ����� � ��¨�� ������ ���!���¥� � ������ £q�!��������' ª¨� � � � � #�����! �� �� ��������� ����h�����;����� ª¨ ���£� �¤��¥�����3�������h���� �� ��¥����� � « ��� �� �������� �������'�� ¢� ��H¡�¤³� � A���� À����'q����� ©� ����������� � Aª¨� ����� ��'³� ���� ��������¡� A���������

Page 2: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

48

���º� � Ö����×�>�� ¿%������±ª¨ �¡¾� � � ÖØ Ù�Ú Ú Û>Ü Ý ÝßÞAÞAÞAà á�â�à Þ>ãßâ�á�à ä�å�æ�Ýç �� ���'� �è�£��������� �%�������è é��

1.1 ê�ë>ì�ë>íïî�ìAðAñ>ò#ó�î�ôfõ�ö�ì�õ�÷>ø§÷>ùYúÂ÷>û�î�ö�üfû�ë>óý õ�÷>ë>ö�ì�õ�þ>õ�ì�ÿdù�÷>ó¬ê�ó�ü��dê�î�íïõ��>ø –ý õ�øfôfõ�ø��dì�÷

Thrombin�����'q�h���� À� ¤} �� ����� � ¤±� � ��� �¥����'q����� �«� ��� ������ ��A� � ���¥��� � � �¢� «� � �� ��� �� � �� ��«����� � ¢�� � ¤#¡�¤#¡�� ����� ��'������F������'� ��&� � � H���¬�F�� ��� � �������� �q� f��� ��� �� � � �� ��� � ¦����� ����¢� ���¤Ì���h�#�� �ª¶������'����j��� ����� � ¤«���H� �� ���� � ��¤°���������������� ³� � ³�� ��� � ���������Yª � � � � � �A� � ����� �h¡�� ����$ï����� ����ª¨ ��¥¡�¤H� �� � � ��'� ����¤�� � ��� �>� ��� ������ ��>������ � �� �³��¡�� � � � ¤ ���Y¡�� ���h���Y� � ³������'� ��A� � � ���q� ���d� ���¢� ��d�� �� ������ � ����dª¨� � � � � Ä����� £µ���°�� �� ����!� ��� ��'5ª � ���� � �������� ��q� �  ����� � ¢�  Ø ¡�� ����� ��'�é������! ����������q�������§� � !� ������� � ¢�  Ø �����

-¡�� ����� ��'�é¬���� ����5����� � ���� �� ����!� ����� �����º�����º� � ��º¡� ¦��� ���� ��� � �� �� � '��h���q�� �ªº�����! ����������M� � ���M�����>����� ¤!¡�� ����$�¡����>������� � ��¢� ���� ��� � ��� � ��! ����� � ���� � ��¨�� �Í���� �� ��«����� �!������'xØ������ ��¡�� � � � ¤�$>�������#��¡������� �� ������$������£H���Ï� � �� & ����� �������$��� � ����� �������� &��������� ����� ���Ï����� ������$�������� ��� � ¤�$� �� ��� é���q� º� � �����!¡�� �Ì� ����� ��� ��'°�������º� ��³������� ��� � ��Ä�����������°�����! ����������� �� � �� �����&� � �� �Y��¡�� � � � ¤³���f¡�� ���H���H�Ï������'� ��j� � � h���H� � �����!¡�� ��$q�Ï£� �¤�� ��� � ������f� �¬¡��������¬������� � � ��'q� 1 Ë�j� � �� ������! �����������$�Ñ�%x���� À����� � ¢� Ø ¡�� ���Eª¨ �� � éd�����E� � 3��� � ����«���� º� ������� � ¢� ��&��� � �����! ��������̪������ �� ����� ¡� ��#¡�¤¥�j� � ��'�� j�� ���� ���� j¢� ��������Õ�����! ������ ��¦����Õ���������·¢q��� �� ³Ø ¸����������� � ¢� �$Ï� ����� � ������� � ¢� �é���������"���$ "�Ó��«¡�� ������¤d�� ���� ���� ���$>ª � � � ��� �� ����� ¡� 5� � �� �

-��� �! ���� ���������Ì ����� � ���� � ��Ä���§� � ¿� ��� ������ �� �q� �� ���� ��� � �������&���Õ� � f� ����� ¢�� ��������¡�� ���·ª¨ ��� j�����·� ����� ���� ��

- ���� ���������·ª¨ ��� ����� ������� ¤x� � ����� � �¤xª¨ ��� �'� ��� ������ ��Ã� �²���Ã� ��� �������� � ¤d������� ��� � ����� ������ ��A�����¥��� �³�������À�����! ������������ ¹ ��������'�� �����³����� � ¢�� � ¤¬� �«'� ��� �������$����� �� ��� � ������&¡�� ����� ��'�������� ��� � ¤�� �  ������ � ����������$��������� ������ #ª¨� � � ¢q������������ � ������� �������Ï�����# � ¤�� � �����· ����� � ���� � ��Ï���¨� � ��� �>����'q����� �� ��� ������ ���� �q� ����� £Yª����·���&�� �� ����!� �� jª � � � � ����� � �� j ����� � ���� � ��Ï���� j����� � � �����·� �Y� � �������� #�����!����� ������!���!������������� �� ¤j ��� ���� ����� � &����������¢q��� �� ��

�q� ���Ï����� £h���Ï ��� ��! �������¤º���³�j������'� ������!� � ¤º����� ������ ��¦����� £q�Y������� � ��'ª¨� � � � �«¡���� � � �   � ����� ���� ���� � �����¨� ������� � ��¤x�����¬����� ¢� ���� � � ¤h�� �� ������ �����¡�������������� ����²���º��������$Õ� �±�����! ¬����� ��!� � ¬�����!¡� ��¬���#�� ���� ���� -to- ��q���! �� A����� ���j������¡� A �¢� ���'��� ���� ��>� � ��� � ��� �� � �������� � ��!� � �!������� � � ¨�� ����

-ª������ �A������'!�� �� � '��A ���¢�� �������! �����$ß� � ¨� �� ��� �������������� �� �� Î�"�Î������� � ��������������! ����������� � ���ª¨ ��� ¥� �À�������'� ��� ������ ��À¡���� ��°���«� � ��������¤¥�� �� ��� ���Ï�� ��������� ��¦�����j� � �� ����� ��� ��'º� ���� �q� ³'q�����>ª����>���h� � ª � �¦Ø � �³����¤����� �éj������� �d����� � ������������ � ³� � ��!��� ���>ª � �Y�� ���� �� ��d���� � ���M�� �ª±� ��>���¨Î�"�ÎÏ�����! ����������M���Ï� ��£� ³�����Y� �� ���¨���¨�q�������q�!� ��� ��'� ¤�� � ��Ä������� �¦ � ����������Ä¡� �� � ���$�� �Ï������� �¦¡� ���� ��¦��� � �� d� �� ����>� � �� ����h���������/���«�����! ����������h���3� ¤}��� � �� � ©� ������3� �� �¥�����°� � �!� ������� � �� � ����� ��������� ¹ �������� f� ���� j�����! ����������· �����¢� j���&¡� j� ������� � ¢� j� � �������� � ¢� �$��h ��� ���� �������h� � ���À��� ª���¤��À����¤��«»�� ������� � ¢� �¼ºª¨� � �«��� � � �¢� ±��� ������ � ¢� �� ¤ � � ' � ��������������¤x �¢� ��°� � ����' � � �#���#�����! �� �� �� ¤d��� �� �������q� ��� ������� �$�� �Á �¢q��� ����� � ��'¶� � /��������������¤Ä�����x� � ��������� £ ����� ¤�$«���� ���� ��� ���� �����·����� �·� ���� ��·ª����·��� ���� �q� �� � �! �� �� �·�� �� ����� �� �����h���q� � ���� ���� ��¥� � ���¥ª¨ � ��¢� °���������3���º��� ����� ����ª����µ®« Ã�����! ���� Ã� � ��������������¤d���¬� ���� ������ � ¢� ��#�����¦� � À��������������¤º���¦� ���� �� ������� � ¢� ��Y����������! ���� ¨� � �Ø ����ª¨ �� ' � � ���é¨��¢� �����'� ¨� � �� ¨� ª������ ����� &� ��ª����� ��� �F���

1 ��� ������������������ �������� ���������� ����! "$#$��"%����� ����&'��(���� �� ��� ��"$) ���+*�� ���� ����"%! ,- � ��.� /� ��*0 �� "1/��� �2"%�� 3) ���4 ���657���98$� -0:�;�;=< ����� - �� ���=>@?7! !- ��(�! ���� ����"�� ��) ��� � ��*A �A������! ,B"% "���)C �� "�/��� �D"%�� E"%������! /A����������F7! ��/�*������������ G������� ���������� ����! "H#$��"%����� ����&'��(���� �� ��� ��"H����/�57���18$� -�:�;�;=< >

� �! ������������������q ���� ���������������!� ��� �!� ©� &� � �� �� �������������� #���!� � #����� � ¢� ��F��������!� ��� �!� ©� &� � �� �� �������������� #���!� � &� �����tives,

�q� ���Ì����� �Ì ���� ���Ì�� �'q������� ��'­ �¢q��� ����� �����­���°ª������ � �±¡�� �°� ���� ����� ������� �������d���� ���� � ¤�$·ª¨  ª������ �«�����! ����� ��� � �������� � ��¨��� � ��'2I>Ë�������¢� ��±Ø �����! ������ ��'¾���� ����º������ ��°� � ²������¢� �� é�� ¹ ����� � ����ª����� ���� ���� � ¡�� �¡� �������� � ������ � ��� ��������f� ��¡��!� �F� � �� �& ��� ���� ��� ��������$������F� � �� �predic

��������J�������� � ���� ���� �$ï�����! ¨ ��� ���� ���������F���� &������ ���� � � ¤j� ����� ��� ��!���¡� À� ���� Ì����� ����Y������� ���¢q��� � ¢� �$!���Y���A�� �Í���� �� ��d���h'� ��� ������ KI>Ë�������¢� ����ML�� � �A�� �� ��¨Ø ���� ¢q��� ¨�����!�!����� ����� ������é� ����� ���� ��!��� � ��'�NON�� � ����� P PQ �� � �� ��#� � ���h� � ����� �x¡� À������� � �� ��� ��x�����À�����! À����� ���� Ì����/�>�� tasks,

¡����¨� �¨�� �Í���� �� ��¨ ������ � ��� ��������&����������£-������ ��f� � �� �f ��� ���� ��� �������Ø � ��� �>� � £� �� ¤������ � ¢� �$F� ��������

-� ��� �>� � £� �� ¤������ � ¢� �$� �� ��� é�$ïª � � � � �����! ��� ���� ���������F���� &������ ���� � � ¤j� ����� ��� ��!���������

1.2 ê�ë>ì�ë>íïî�ì3RAñ>ò#ó�î�ôfõ�ö�ì�õ�÷>ø§÷>ùTSÃî�øfîGU}ò#ó�÷>ì�î�õ�øV üføfö�ì�õ�÷>ø§ë>øfôXWh÷>ö�ë>û�õ�Y�ë>ì�õ�÷>ø�q� «'� ������! ��¥���¬� �¢� ������¥����'q������� � � � ��¢� «����ª¿¡� � ��3� �Í��� ����� ���$� ����� ����� ��'±� � � ��� ���3'� ������! ��µ����� ��� �� � ª¨� � � � �±¡������ ��������� ��� � ���� � ��� ������� � ���;� � � ��� �� ��ª���¤5������� ��������� � �����d'� ������!� ���d� ��� ��� ¤�������� ����� ��°ª¨� � � � �Í��� ����� §����� ��!¡�� ¤;�����°'� ��� �� �� ���� � ��� ����� ������$>������������ ����������'� ������!� ����$}��� ��}� �������� ��'«��¡�������� � !'� ��� ��q ��������� ��³� �³� � � �Í��� ����� ��Ì�¨ ��� ��j������ h�����Y ������ �� ����$&�����À� � �� ¥ ������ �� ���� ����À������������ � ©� !� �³¢q�����������q ��������¨���F�� �� ���¨�����³� ��� ��������qª¨� � � ����  ������� � ���$�� ������� �����Y � ������������������������>��������� ��������� ¸ � � � ����' � '� ��� ��>� � ���� ��������� �����¦Î�Ñ�Ñ���¤} ���� �f ������ �� ���H���� x��� �� �����¤À£�����ª¨��$����� ¤«Ó�%EZ ���A� � �� ������ �� ��� � ��¢� «¡� � ��d� � ��������� ���� ©� ����²Ë��� � «�� �� ��� ��� ��'q$f����� ¤�ÑEZ� � ��ª �¦� � ������'E� � �!� ������� � ¤°���j� � d� �Í��� ����� h� �¢� ��j� � ���j�������������µ�¡���� ���&�����f� ���� ������ ��'¦��������� �����������&� � ��� ������� H¡� ������! ��Ï� �! � ������ � ¢� ������� «� ��������� ��� �����d¡� �¤������±� �Í��� ����� Ã� � �!� ������� � ¤����¥� � ��������� ���� ©� ¬� � ����£�����ª¨�h'� ��� ����¬�³�����³� ��>%h������� ��� � ��d�����¨¢q����� �� ¤����&'� ���

-� �¢� �������E ������ �� �

-� �¢� ��³� ��������� ��� �����Ì�������¾� � º¤} ���� �³'� ������! �� 2 �¨ ��� �����! ��jª¨ ��� d��������¤}�!� ©� ��E�����Ì�¥� ��¡�� ��³���!� � ¥'� ��� ��³Ø���¡������³��è�"�骨 ��� &ª¨� � ��� �� �!������� �� � � ��'q�

� ª������� £q�qª¨ ���  ��������������� ��³ª¨� � � �������!� ��q%�� �q� �� f� ª��¨����� £q��ª¨ ��� ���j ��� ���� ����� � A��������� ���������������������� � ©���� ������������ � A ������ �� ���q ��������� ��¡�¤³� � Y'� ��� ���� �q� A��������� ������������ ����� � ¤¬���� A��� ��� � ���¡������������������ �������������� �'q����� ���$�ª � � � h� � h��������� ������������ h��� ��� � ������ ���� ��� ����j ������������A� � �� �� ��� ¸ '� ��� �è ������ �� ������� � ��¢� !� ���� !� � ���«���� !��������� ������$ ¡����q������ �� ¤Ø � �Ö� � ���x�������Ä� �� éÌ� ���� Ä� � ���9���� Ä��������� � ©���� ������� �q� ­��� � ��� ��������� ��� �����¶ �����¢�� �� �� ��¡������«� � ±'� ������! ±���«�� �� ����� ¡� ��Ä� �Ä� � ����� ����ª¨� ��'f� ª��� �������'����� � ���Ë�� §�� ������ ���������¬����¡�� Á� � ���� ��� ���ª � � � � '� ��� ��ÃØ������ � �� �� ������ �� � �������������� éF� ��� ��������·ª¨� � � ª � � � � ��� � ��Õ'� ��� ���� ¸ �#� ��� �������� �����#� ��¤A¡� � ¤�� � ������$�� �#ª � � � � � � j ������ �� �#�����Õª � � � � ���� j'� ��� j������ ��M���M£�����ª¨����¥¡�� ���º� �±�����! ¬ª���¤�ª¨� � � � � ¬ ������ �� �º�����#ª � � � � ������� � ��#'� ��� ������ ����¨Ë����Y� ��� �������� �����Y� ��¤!¡� '� ��� �� � ��$�� �Aª � � � � � � ¨ ��� �� ����� ������¡�� ����� ����H�f ������ �� �Ã������ ������&� � H� �¢� ��#���j ��� ��� ���� �����Ã���j� � H'� ��� ���������� ��'A������������ � ����¨Ë����Y� ��� �������� �����Y� ��¤!¡� ¡���� � � ¤�� � �����>�����

2 ��3 �������[ ���3 �����X�� �\A] ��^`_ \A���� ���[] ��) ��� ���� ���[8$���� ����) ���a��� �� �� �^���b�����������"%c9) ���9������ ��*d ��� - � �� �� �d �� ��� ���� ���d/��� �e��.��� ! ��(�! �_ �� -=f g g �� - "�> *�"%)�> /�� g - � �ih g ,B����"% g 8$j�k7� g /�( g ��/���l+> �� ��! c

Page 3: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

49

'� ��� �� � ��� �q� ���d�� ������ ���������d����¡�� ­�������; ��� �� ������º� � ��� �'��� � Â����������� ������ �����³¡� �� ª¨ � ���� � Ì ��� ��� ���� ������� �¢� ����&���Õ� � f� ª��¨'� ��� ��������� ���>'�� ¢� ��� ��� � ���� �! ������������������ � ������$¬�����! ���� ���� ���¡�¤#'� ��� ! ��� ��� ���� �����microarrays.3

�q� ±��� � ��¥�� ������ ���������³����¡�� ±� � ���� ��� ��Ä�¥¢q����� �� ¤;���H ����� � ���� � ��¬���� ����� ¢�� �������q'� ��� ��&���F ������ �� ����� �q� �� f� ����� ���� ���� � f� � ����� �������! H���ª � � � � � � ¥'� ��� º�� � � �������$�ª � �� � ��¥����'q������� � �ª¨� � � �A�!������� �����À� �� � ���'� ��� ¥�����Ì� ����¢�� ¢� �$� � ������ ¤} � ºØ���¡�� ���¢q��¡�� ¥� � ��������� ������ � � ��� é �������'q������� � �qª¨� � � ��� ���� ��� ����� ���� ��� � ����'� ��� �$M� � ������� ������������� �'q����¤h���Õ� � ������ �� �¬�����fª � � � � � � ���&'� ��� H������ ��YØ ª � ���Ï'� ��� ������Y� � �� � ����� ��Ï� � ������ �� �h����£� �é�$�� � ³ ������ � ����� «���¨� � ��������� ������ � � �³� ��� � ���>� �h� � ¬���!� �������� �º� �Í��� ����� ¬���&� � � ������ �� ��$Õ�����¥ª � �� � ��¨� � � ��� ��� ���� �����º���&� � ���'� ��� H�����! �� ��� ��Ϫ¨� � � ��� � ����Ï���#�������­�j������'� ��j ������ �� ���À���Ï������� � ��ª������ � � ��¢� À¡� � ��x�� �� � ����¡�� À���¦��� Ì� �Í��� ����� À� ��������� ��� �����3��¡������ ���� � '� ��� ��

¹ ���¥� �3������� ����� �¥���d� � �q� �����!¡�� �3��������� ���$f¤} ���� �¥'� ������! Ã���������� �� �����¤fª������ �A� � ¨ ���¡�� � �¨����� ��� �����³���Aª¨ ¨ �����¢�� �� ��!� � #� �Í��� ����� �$� ��ª������ � � ��¢� �¡� � ��¥�����A ���� ¤������#����¤����� #���!� �� ���� � ��¤� ���� � '� ��� #� �� � Y� �� �j� ��j������»�������£��� �¼Y� ���Õ��������� �������j��������������� � ©���� �������������� � ���$� � ¨���� A���-� � ��� ����������� � �� ��� ��! �¢� �� ��������¤}�!� ©�� ��'H��� ��� � &��� �� �!�����! �������H¢q��� �� ���$����j�����! �� �� �� ¤� ���� ���� A� � ¥����� ª¨ ������������ ��������¡� A���������� �¬� � ���&ª���¤�� ¹ ���Ï� �¦� � � ����¦� � ���� -� � ��� ���Ï�� ���� �� ��¦� � ���Ï�� ������ �����ª������ �Y����£� �����Ï�!��� � ��ª���¤!�������°� � � ��� ��� �� � � ��'��� ���������� � ¨�������¨� �������!����� £q���

3 m���A*������A��l - � ��"%"% ��� - � ��) ! ��"�F7��� �T) � ���n ���T/� ����l� �A"% ��/�,�*�� ��F7 �o��)����#$ "% D�� D��!%>7_ <%p�p�q cA����/0��� �6��.��� ! ��(�! �6�� D ���6^� ����) ��� /0\A ��� ����� � ��,���� ��(���"%�E_ �� -=f g g *���������� -www5.stanford.edu/MicroArray/SMD/)

¸ �/������� � ���������h� � ��� � ���'� ̪¨� � � ��� � ��'3 ������ �� �3� ��� �������� �������º���º� ��� ���� �������Y���>��������� ����������� � A��������� � ��� � � ' �-� � ������' � ������ � �������� � ���$� ��� � ���³� � º¤} ���� �³� ª��

-� ¤}¡���� �Ä� ¤�� � �� $&� � ���«���� º��� ��°���°� ���� � �� � ¤�� � ������� ��� �������� �������������!'� ��� ������ &� ����¤j�������

- ���� � � � ¢� &�� ������ ���������

For ��q���! �� �$Á� ������ �� �Ç�!� ' � � � ��¢� ¯� � ¯��� ' � �¾� �Í��� ����� �����! �� ��! ���������� � ¤H���A� ��� ���������ª¨� � � ������� � ��¨ ������ �� ��$ï¡����F� � ¦� �������� ������ �� �º���!��������� � ©� ��º� �±����� ���� ��� ����f�����! ������ �! ����f� ��� � ¦�� �� �H������ � ��� ������� &������������� ��� ��������������� ��� � ¤�� ��������'�� ��������������� � ���������

¸ ��� �����·� � ��� � ���'� jª����·� � ����$�¡� �������� ¡���� � ��������� �����h�����Y��������� � ©���� ������ ���A���>¡� ¨ª¨� � ��� �� �A� �A� � ¨� �� ��� ���$ß ��� ���� ���������������q��������� �����!������� �!�������� H��������� � ©���� �����ÃØ �¢� ��¬� � ����' � � �&ª����& ��� �� ����&� �¦� � �� ����� ��� ��'d� �� é�����¥ ��� ���� ���������������¨��������� � ©���� �����¥������� �¥��������� #��������� ������� ��������� �����prac� � �� �$ï� �F���F�����!� ��� ��� � ��¢� #��������� � ©���� ����� � ��������� ��� ��������¢q��� ����¡�� ª � �� ���� &����� ��¤}� ��'f���� ��� ���� ������������� �������

�¢q��� ����� �����;������������� � ©���� �����dª����A� � °� � �! �� �� �¥����� � «� � �� � «����� £q������ � ���� ��¤ºª����Y � ����!� � � ��x���¦ ��� ���� ���h����� ¤§���� «��������� � ©���� �����d � ��'� ��� �� ���h� ���� d� � ���¶���� d��������� � ©���� �����Eª����� ��� ���� ��� ���$¨� � d��� ��� � ��� ���� ��� �����Eª�������� ���� �q� ±� ������ ±�������Ì ���� ��¤Ãª����«� � �! �� ¤Ã� � ��������� �����¬���Õ'� ��� ��������Õª � � � � � � j�������� ����·��������� � ©���� �����#ª����· ��� ���� ��� �����¢q��� ����� �����x������������ �����hª����A� � � ' � � � ¤ � ���� ³�����! �� � ����� ��h¡� �������� «�'� ��� !������� � � ��¢� f� ���� f� � ���¬���� f��������� ������� ¸ �� ���� ��¤Y������� ������������� �����¡�� � ������� � ¤A� ����¤A��������� �����# ��� ���� ��� �������· � ���'� ��� ��¨Ë����£� �¤!������� ��� � ��

���¨��� �>Ø '� ��� �$ ��������� ������é� ���� ���Mª � ��� � � '� ��� ª����M£�����ª¨�Y��� � ��¢� � � ��������� ������� ¸ Ø '� ��� �$ ��������� ������éF ���� �Fª�������������� ����������� ����·�����j���# ���� ��¤� ��� �� �� � � ��AØ���éA�� � � ����� ���� ��¡���� � �����>£� �¤¬������� � A ��� ���� ��� �����À���AØ %�é�� � � ����� ���� ���� �� � � ��A�����>£� �¤������>� � A ��� ���� ��� ��������Ë� � ���ª¨��� !� �qª����

r2sKs@tKu3vxwzy�{}|�~ ��~Ov3y�|�~ �T�

16 21 2430

136

0

20

40

60

80

100

120

140

160

���+�o�� ����o�+� ����o�+� ���+�o��+�+�����+�o��+�+�

� ��� ��������� �� ����������

������ �¡�¢�£¥¤§¦ ¦ ¨ ¡ ¨  '�©¨ ��ª«©¬'­�­¥®�¯ ¢�°A¨ ®B® ¨ ��ª ®B±

²i³B´

´

µ�µ

¶ ³·�¸B¹º�¸B»¼�½B¾ »¿HÀ Á�ÂBÃ

�'���© �¡�¢�£¥�'  ®BÄ«©¬�­'­¥®�¯ ¢�°A¨ ®�® ¨ ��ª ®�±

²�²OÅŲ

Å�ÆÇ ÁBà ¸�¹§È ¾ ½ÉiÊB½�Ë À ¾ ¸ ½Ì ¸ Ë©Í+Î ¾ Ï©Í À ¾ ¸ ½

Ð�ÑMÒ�Ó¥Ô�Õ1Öz× æ+Ø[Ù>ä�ÚDÛ=Ü�ÛaÝ�Ú�Ú ãßá�ã ÛaÝ�Þ�Ú�ß�ÚGÛ�æ�Û>â�Ý�Þ�å�å�ãßâ�Ú Ú�ã ÙMæ�Ú ãMÛ�ÞKÛ=ÜFâ�æ+Ù=Ø�ãßâ�â�ãMÛ�Þ�â$Ù=à�ÚMÝ�âOáKÝ�Þ�å[ß�ÚGÛ�æ�ÛâÝ�Ü©Ü ãMã ãMÝ�Ú ãMÛ�Þ�à

Page 4: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

50

��������� ��x� ���������� ������ �q� Ì� ������ Ì���«���x ���� ��¤ºª����Y� � À�����!¡� ��À����������� ����� ���� ���F��¢� ���� � &���������������!¡� ��&���ÏØ '� ��� �$ ��������� ������é� ���� �����

1.3 äfü�å�æ±õ�íïíïõ�÷>øXäfì�ë>ì�õ�í tics¸ ��� � ��ª¨�A� � Ò � 'q����$������������F���Ï��"�Î�'������� ��� ������ � ��� ���� ��!���� ����������� #��������������h%����Á� ��¡��!� � � ��§ ��� ���� ��� ����������¢� ��¦� � 3"������ £q��Ð�����ÑE������q� �����!¡�� ��$YÑ��°����� Ò ������� ������$h������Ñ�Ó�������Ô¨������� � ©���� ������� �q� ����� � ��� �� ������Ï�Õ��� ¢� -����� �Y� ������ ���� � �Y ������ � ��� ���� �����h��¢� ��� ��� �¢��������M¤} ������ª¨� � � � ����  � � ��� � ��� �����j� � H ���� ��� ��&¡� �� ��'¦������� ��� ¡���� �������&�������¶� � �����!�! ����������°� ����������Ê®« ±¡� �� � �¢� ±� � ���«� � §� ������ ���� ���� �¢� ��Ã��� ������ � ��� ���� �����³������� ��¢� ���¤Y� � £� �� ¤Y�� � ��� �� ����&�F'�����ª¨� ��'#� ��� ��� �� ��¡�¤Y� � �������E�!� ��� ��'/�����!�!����� � ¤¿� �/¡������ ��������� ��� � ���

-�� ������ ��/£�����ª¨� ���'�

di� ����¢� ���¤Ã �����¡�� �� ��� �q� �������¬� �� � ������ ��°¡�¤x� � �ª�����£q� � �� ������£� �¤}����� &����� £H���!� � #�����! #� ��¡�� ������ �!� � ����¤} �����ç����������� ��� ����� �� 4®« d��� £� ���� � h ������ � ��� ��������j����� ����E�Y �������'����� � �� �� ����� ¡�� ��'«� � �� ��� � �������� � � �d ���� � ����'� °���¬���d �� ��� �!�� � ������ ���#� � �� �� � ���������� ������ ��������'hª¨� � � � � ³ � ���������� ������ «���¨ �¢� ���¤����� ³ ���� ��¬®« ³�� ��� �� ¢� ��d��Ó�Î�� �� ������ ��&������� � �� f �����¢�� �� ���� � f¡���� ���������Õ� � �� ���!� ����¤A�� � ������Ï���� � À�� � �������� � �����x������� ª����� ���� ��¦�����j� � ��������j�!� ��� ��'h����� £q��� �q� ¡��� ���£�����ª¨�Á¡�¤­����� '�� � ���d�������x�!� ��� ��'­������� ª����� 3��� ��¶¡�¤�� � ������ � ��� ���������� �A� � ¨� � �� � ¨����� £q������� � ��ª¨�A� � Ò � '����� &%�� ¸ ¡������FÎ��EZ§���� � x�����! � �� � ����������� ��E����� �����Ç������� ª����� �$¨��� ���������� ª����� d� � ����� � �¤ª¨����� ��h��������� ��� ��� �� � � ��'H���!����� #� � ����$� �� � �������� � ¤������&� � �q� �����!¡�� ������ £q$ï����� ¤fÓ¥���������§è��A'������� ���Ø�Î�Zé���� ��!�����!�! ����������F���� ����� ���� �������¤������� ª����� �� �q� ���#�� �¢� ���� ��#� � �� �� ����;��¡�� ���¢� ��;��¢� ���� � À ��� �¢�������������! � �� � � ��������$>ª � ��� âè�èEZ9���³� � À ������ � ��� ��������Y� �x� � Ì����

-�>�� %������H��� ��������!�! ����������������� ª����� �� 5 �q� A��� ¥��������� �����¿������� ª����� A� �

KDD-�>�� «%������³ª����¨��� ������� ��«¡�¤¦� � H����� ���� ����j� � H �����¡�� �� ��$>���� ��� �j�����!�! ������������������ ª����� d� ¤�� � �� �j����������� � ������� ¥� � ¥ ����� ���� � ¢� �����!¡� �� ���f�� ���� ���� ��¨� �«� � �q� �����!¡�� �«��������� ��������¬� � H�!��� � �

-�������������� ���� ���;� � Ò ������� �����¾ ��� ���� ��� �����¾����� £q�É��� ������� ����� ��$«�����Ô¨������� � ©���� �����d ��� ���� ��� ������$Õª � � � � � ������!� ��� �� �#¡� �� � ��¬��� �¬� �������������

single-���������¬��������� � ��� ����� ����������� £q$h"�%EZ ����� � E�����! � �� � �������¦��� �������!�! ������������������¿�!� ��� ��'¯ �����£q��'� ���� �q� �� Å��¡�� ���¢q��� �������Ö���

4 KDD-:�;�;=< ���� ��"%��� -=fGé ���� ��\A �� ��*T �Aê$ �� ��) ��� ���� ��"%ë���� *����� ì���/T(�,\í> î�>�ï���� ©ð�ñ�> m�> m�>�m ��.��������ò����/òî�> m�> &7>������*+>ó57��,B���� �X ��! � fé 8$����! ! ����*���"H) ���'57����F7! ��/�*��E�� "%����.���� ,C ��ê$ ��! ��*�,Bë7(�,C#$��"%"H?7! �����=>5 57������.� Eô�õEö�÷ ø§_ :�;�;=< cC57��� -8$� -4:�;�;�;4ù � *����� ì���� "�ú+#$� - ��� f ������! ��*A ���ù �� ���=>Hû�ü�ýþ$ÿ�ÿ���� �=÷ ���%ö�õ � ��� : _ : c f � � -98.

������� ª����� Ã������'� ²� � �� � ���º� ����� ����� Ã� � ������� � � ����' � � ����¤Ì� ��� ���� �����!�! ����������Y���������!� ��� ��'d �����£q��'� ��¥���� °��¢q��� ����¡�� �$F�������³�������Â� � bioinformatics-

�� ������ ��9����� ��� ���3 ���� ­����� Í��� Â� � ��� � ���'� ��±� � ��������!�! ����������� �����£q��'� ��������������F�������� ����F���� �Í������ �� ¤��

¸ ���! ���� ������ ���$ï¡���� � � � ��� ������ ��������������¡�� ��f�������&�� �������� ��� � ©� �� ���������� � Yª¨ ��� Y� ���� ¥��¢q��� ����¡�� A�����>� � Ò ������� �����À������Ô¨������� � ©���� ����������� £q���Ë�j� � HÓ�è¬�����! � �� � �������&ª � �# �����¢�� �� ��¦� ��������� ��� �����x���¦� � ���������� ����� ���$q"�"f��� ���� � A����� � ¤-�� �������� ��� � ©� ��À� ���$}%��j��� ���¡���� � � � A'� ��� ��������� ��� �������� �������� ������ ��������������¡�� ���$������À"j��� ��À����� ¤#� � !'� ��� ��q����¡�� ��

½ ��� ��� � £� �� ¤�$ � � ���qª����q���� !���������£¬���f������ ����q������������ ������� ������� ��� ���������������� � ���������!�� ����� ���� � � ¤jª¨� � � �� ������ �������������������Ò � '����� ¥"�� ���!� ����� ©� ���� � ¥��� 'q����� � � �!� �¥�� � �������� � ������ ���� �³� � !��������!� ��� ��'Y����� £q�·¡�¤!� � �����! � �� � �����������³���>� ���� ������ � ��'�� ¤�$���� � ��� �=è��EZ3���� � ¦�����! � �� � �������f� ��� � �q� �����!¡�� ������� £���� ����� ���� ���� d� �� ���� ������� ������!¡�� ����� ������ª¨� � � �����! x��� � ��¦��� 'q����� � � � $�¡����H����� ¤Ì�#¢� ���¤Ì� � ��� ������!¡� ��#���Ï� � ��;���� ���� �� �� �ªE�� ���� ���� ��F�����Ï� � ���Õ��������� ����[�³��ª¨ �¢� ���$��¡���������ÓEZÂ���f� �  �����! � �� � �������&� �¬� � Ò ������� �����Ã�����¬Ô¨������� � ©���� ���������� £q�!������� � ������� ��º�� �ªÁ�� ���� ���� ��f� ��� ��� ¤À��� ���� �� ���� ¦� � ¦�� ������ �������������� ���� ¥����� � A����������� ������ ������� �� � �������³ ���� ��!¡�� !��������� � ��� ����q¡���� �����³� ���� !� � ���«����  ��� 'q����� � � � �qª¨ ��� !¡�¤#�����F� � f� ��� �� ��� ��������F�����f��� �� � �� � d����� £q��$¨����� ����ª¨ ��E¡�¤��³��� ¢� ¹ ��¤} ��«�����Ì£ -�� ����� �� �³�� �� ' � ¡������������� � ��� ������ �q� ã

-�� ����� �� � �� �� ' � ¡����¬��������� � ��� ����������� ��� ��±�� �������� �����¢q��������'� ��·� �#�� ���� � ��'Yª¨� � � � � �� � '���� ��� �������·��������� �����¦���q�!����� � ��'A�������� �3�³������� ��¥%��*������ ������ � ��'�� ¤�$������ ¤E� ª��º'������� �� ��� ��±�� ������ ����������� � �������� � ���$>� ��� � ���&� ��������� � ¢� �����'�� �� �����'������!�!� ��'dØ ��Ô Q é�$��� �� �� � � � ���������� � ���!� ��� � � �� � ��� Í��� ��F����� �� ����f»������ ������� � ¤}¼#ª¨� � � �� ������ ������������������ Ò � ����� � ¤�$#�¥�� ������ � ¢� �� ¤²� � ��� �³�����!¡� ��º��� �����! � �� � ����������� ��

cross-validation� �� � ��� Í��� ���� �¶���E� � ������ � ¢� d����� � �����E����� �! �����¢� ��� 'q����� � � �;� �� ���� ����� �����!� ����� ��'q�

���������

����

�! �"���#��$

%%

&�"���#��'

&%

��"(*)!��+

,-, .

/ � 0#1-2 3 4-56 1�7�8 9 :�;#4-5�<�9 =0#4-5�5�>�? :�9 <�8

Ð�ÑMÒ�Ó¥Ô�Õ2ÖA@ Ú�ãMß�ã ÞKÛ=ÜFâBÛ=Ü ÚßÞ3Ý�Ú}ä>æ�â�ä�åzÙ=à�Ú Ù�ä>ÛaÝ�Ú�Ú ãßá�ã ÛaÝ�Þ ts.

Page 5: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

51

�q� A�� �� ��� ���� ��A����� � A ��� � ��>�������'q����� ©� ��À��������� ����ª����h�� ���� �����³%³�������� ������� ��H� � xª¨� ����� ��'¶�� � �������� � ��� � ��� £¶��Ð �q� �����!¡�� �Á�����§���ª¨��� � � ��H¡�¤�L�� Y� � ���'q�À�� ���� ������"f����� ������� ��Õ� � Yª¨� ����� ��'À�� � �������� ���� � ��� £¦%�Ð Ò ������� �����Ã�����¬���&ª¨��� � � ��¬¡�¤ ½ ����£x������'� ����§�� ���� �����¬Ñ����� ������� ��f� � ¦ª¨� ����� ��'E�� � �������� � ��� � ��� £E"�ÐÕÔ¨������� � ©���� �����E���������ª¨��� � � ��d¡�¤ �������� � �3�³��¤���� � ��$f� � � ��� � � � ½ ������� � � ����$j����� L����±�� �� ���� ���� ������Ó������ ������� ���¡���������� ������������������±� � !�����! � �� � � �����EJq�� ���� ��������¬�����¬ÓÃ���� Hª¨��� � � ��¬¡�¤h� � H���-� � ��� ���&� � ����� �������³��� ©����Y�����¦�³��¢�� �

Q ��'� �� ¹ ������� ¦������� � ����� ��'q$�ª¨ ¦ª������ ��� � £� ¦���  �����¢�� �� � ����������¡�� �! ���� �����±���±� �¢� ������ � ���� � � � ���  �� � � ��¬�����! x¢� ���¤Ì������� x����� � ª¨� ����� ��'Â� ������ ±�����±�º����� £Â���� �����¢�� �� ��� ������ � ����������� ¤;� �! ������������� ��� � ' � ����� �q� �� #���� �Ð

• � ��� £H��Ð � ���!�F��� �������� ���$-B��� ¢� ���� � � ¤����H� ���� � ��£����

• � ��� £«%�Ð�� � ����� ���� � ¥Ô¨���!¡� �����$·����� �� ��K� �� � �$J$L����°�� �� �$�������� � �C�³��¤���� � ��$�������� � � ��� � � � ½ ������� � � ����$CB��� ¢� ���� � � ¤À���� ��£�¤���J>�³��¢�� �º����'� �� ����� IA��� �����������±����� ��� ¢q��������$ ¸ � �������� � ' � ����Jj�M����� Q ����� ��£���$§IA��¡� ����®«� � £�� ��������$&����� Q ��� ��� ��£���������� �¤�$�Ôq��¡���� ©������

• � ��� £«"�Ð ½ ��� � � �������� � ����������$}®«� � � �����±�� ½ ����� � ���$ � � ���������� � ��� £�¤�$������³�A����� �����A����� ���$}I ¸ �������� ¸ ��D>� J ¹ �������Ò ����� ����$FE�� � �����GE � ���'q$KIA�i� �� �dQ ���� �£ � $°�����dIA������¤�� � ��¢���$ ¹ � �� ½ ����� � �����

2. HJI�KML°ú ýJN!O KMP6äRQ0WJH2.1 Overview�q� º��� �¾���!� � �������� £«���¨���³� ������°�!��������� � ��� ��!� � ���¨�����« ����� ���� � ¢� �� ¤ ��� ���� ����ª � �� � ��f���¬����'q����� �f� ��� ������ f������¡�� ���#ª¨ �� �·���#�Õ������'� ��Ï� � � ����� � �����!¡�� �

--��£� �¤;�� ��� � �������� �²¡��������²������� � � ��'q$A'�� ¢� ��²� � � � ��!� �����F� � ������� ���� #���·� � &�����! ����������

Ò �����;� � #�� �� ����� �� ���������Ï� � ���F����� £H� ���� ���� ��������� %�$�ª¨ #������� � #� � ���� � ���>���A� � � ' � � ¤ � � ��� � ���'�� ��'¥ �����¡�� ��������� � �� � ³�� ������������ Ò � ��� ��$ï� � � ����� ��� ��'Ì�������d� ������� ���� �� ��! �� ¤°� �!¡����������� ��¶�����E� � º�����!¡� ��º��� ���� � � � ¢� ��q���! �� ��M���M¢� ���¤ � � ��� �–����� ¤fÑ�%A�����! �����������Ø %�� %A � ����� ��������� � ���������>��������é���� ³����� � ¢� �� �q� ���M ��� �¢� ������M���M�������°��� � ��'¥� �������������� ���� ��� �¢q��� ����� �����¾�����¾� �� ���� �����¿� �� � ��� Í��� ��§� ��� � �������� ���� � ��'� � �������� H¢q��� � ����� �����Ã� ��#���f��� � ��'¦£-����� �¬���������&¢q��� � ����� �������>�� ���������$� � #�� ���� ���� #¢� ��������&����������� ���j��"���$ "�Ó��f�� ���� ���� ���$�ª � � � � ���j�Ï�����Õ� ���� � � ���°� ��� �#� �������� ��';� ¤�� � �� �#����� � ������� �� �q� ��� ������� �$ � ��¢�� ��'x� � ����� � ��¥� �� � ��� Í��� ��³�����¥ ����� ���� � ¢� º��� �! ���� �����°�� �������� �����°������������������ ��� �� �q� � ����$·¡� ��������  � � H ��q���! �� ��&� �¬� � H� �� �#� ��#���� H�����&������ª¨��������²� � ¦�����! #����� � ��� ¡���� ���������F� � #� ����� ��� ��'�� ���$�� � #����� � ��� ¡���� ���������� �� �!� ������� ��� � ���� ��¥���A¡� �¢� ���¤H��� ���� ��� ������������²� � ���!���&� � #� ����� ��� ��'� ���� �q� ���x�! ������x� � ���xª¨ ¶���²����� � ��¢� �E ����� � ���� ¤5�� ���� �� ���!��� ��������� � ��� ����� �����h����� ����������� ������� ¸ �!�¨�� �� ��� ��$ï��� ����� ��' � � ������ - ���� ������À� � �������� ¥� � º����� � ¢� ¥�����! ����������¨�������Á� �  � ������� � ¢�  �����! ������������� � ��'f� � �� �� ���� � ��������� �����¡���¡�� � � � � ��������!¡� &Í���� � &� ��� ��£�¤��

¹ �������� ª¨ � ��¢� ³�q���������� ��� � ���� ����� ¨� �A� �������� ��' ¹ ��¤} �� �����A�� �� ª�����£��������� � ��� ����¨�����«������ ��� �¢��������qª�����£¬� � ��ª¨ ��³� � ��� ¹ ��¤} �� �����³�� �� ª�����£q������H¡� Y ����� �� � ����Õ��������� � ��� ����j����� � ��¢� Y����� Í��� h����¢q��������'� Y� ���� ���� ���� � �� ���� �����TS ÑVU S ÓVU $�ª¨ ��� ���� �� ��¥���¥�� � �� ¤ ¹ ��¤} �� �����¥�� �� ª�����£ � �������� ��'� �� � ��� Í��� �������� � ��������� £q�

WWYX[ZWYX[\WYX[]WYX ^WYX[_WYX `WYX[a

b cde fgch ci cjek lm

b cde fgcn lmoe gfjek lm

p cjkok lmq gcc

r mocsti cni dookuk cg

v dw xcy dzco

{}|v cdgcoev ck ~�t lg

y lloek m~

v cfgdiv ce

� ooljk dek lm� fi co

h��y d~~k m~

ni foe cgk m~

h e dek oek jdi

� l~koek j� c~gcook lm

y dzcok dmv ce

� cmcek j� gl~gdssk m~

p cjkok lmq dti c

�k mcdg� c~gcook lm����� ���

n gloo� dik� dek lm

� ����� ������� �� ��� �� ���

�������� �������¢¡�������¢£

Ð�ÑMÒ�Ó¥Ô�Õ3Ö¥¤ ã ß+Û�Ú�ã Ú Ù+Ø�ãßá3Ý�ÛMÛ=ÚGÛ=Ý�á�Ù�ä�âqæ�â�ä�åjã Þ³Ú Ù�ä>Ú Ù+Ú}ä�ä>ÚMÝ�âOá�â�à

Page 6: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

52

2.2N øfì�ó�÷>ôfüfö�ì�õ�÷>ø§ì�÷ ý ë>ÿ>î�íïõ�ë>ø O î�ì*¦�÷>ó"§¸¿¹ ��¤} �� �����d�� �� ª�����£ Θ= ,, ANB

���¥�³��� �� ���� ��3����¤}��� � �«'����� �Ø � ¸ �¨é AN ,

ª � ��� � ���� � ������ Nn ∈ �� � ��� �� ������¦�H����� ��� �

¢q��������¡�� xØ �'q$¨�Y��������� ������ � ��� ¡���� �é�$¨������ ���� � �����Aa ∈ ¡� �� ª¨ � �������� ��j�� � ��� �� ��������A �����¡���¡�� � ��� � � �¥�� � � ����� �����¤�$�Í�������� � ��� ��À��� � ��'°�

condi� ���������A �����¡���¡�� � � � ¤������ � ��� ¡���� �����3Ø � Q ����¡�� �é Θ∈iθ ������ ���� �

������ niØ�� � ¨S ��Î�$ ��èVU é�� ¸¾¹ �µ�����3¡� Ã��� ��±���º�����! ���� Ã� �

condit���������Õ �����¡���¡�� � � � ¤«���A���� A������ �$}'�� ¢� ���¢q��� �� ������� � '��� ������j� � ��� � ��Õ������ ���J � ����� �$�� ¹ �x�����#¡� ��� ��h���>����������� � ��� ���� � ���M'�� ¢� ��M� � ©CªC«­¬ ®�¯±° ªV¯A©V¯ ª b²C³ ° ´ ° ¬ µT¶V° «­¬ ¯±° ³V· ¬ ° ªC¸ ���¥� � º���������³������ º'�� ¢� ��Ì� � ¢q��� �� ��!���#��� � ��#��� � ��� ¡���� ���� ¸ � �i�����#� d¢q��������'� ¦��� ¹ �³�f��¢� ��&� ����¤

ot� ��>� ¤} � ������ ��� ���� ��� � ¢� A� ���� �����$�� ��� � ������ �����������

tª�����£q��$ ���q� � ���� � ¹ ��¤} �� �����¬�� �� ª�����£x� � ������� ���� H�� � ��� �� ������Ï� � �� ��� �� -�� ������ ������� � � ����� ����'¦� � H��������� ��#��� � ��� ¡���� ��#Ø Ò � 'q�MÑ�é��=���� ���¬ ��� � ������&�����¬ ���� � � ¤������ ���� �������A� � ¨��

tª�����£ � � ������� ���� ��������A� �·�� ��� ���������¤j� ����� ��¤j� � ��x�����¡������ �!¡� �� � ��� ��� ���� ��� � ¢� &� ���� ������

®« !ª¨� � �q����� ��F��� f� � f� �� ��f���j�º¹ ² ¯ »*ªC¼ ³ ª · ¸C¶ ² ¯ µ ���j�F������ y� �¬�

¹ �³$Aª � ��� yç�� ½ ����£q��¢;¡�������������¤3���x�Ì� ��¡�� ��d���«������ ��h� � ���»�� � � �� ��� ¼

n�������á� �� ��' ������ ���� ��A¡�¤H����¤f������ #������� � �� &� � &¡�������������¤��Ë�� ����

yç�� ½ ����£q��¢Y¡�������������� ��·���·� ����¹ ² ¯ »*ªC¼ ³ ´ ² ¸C»*®�¬ ½ ª � � � � ���M� � ���������«���yç��q ����� �������$

y��� � � � ���� ���$M������� � f ����� ������&���

yç���� � � � ���� ����® � ��Y��� � ��'¥� ¹ �d��������� � ��� �����Y�����! �� �� ��������$�� � ½ ����£q��¢!¡�������£� �����A� � h��������� � ��� ����� ������������ h������� ���Y����� �������j�� ���� ���� d� ��¡�� ���$¨���³��� ��� ���� ���� ���������� � �� ¨� � ½ ����£q��¢f¡�������£� ��������!¡� #������ �� ¤j�� �� �� ��!�������x� � ¹ �³� �q� ���x����� ����� ��Ö ����������� �E�!��� � � � ��� � �� ¹ �*ª¨� � � ����������! ������!��� � ��'f� � &��������� � ��� ����� ����� ��������������¤��

Ò � '����� �Ѻ� � ��ª���� � ¬� � ������� ���� ¬���Y� ¹ ��¤} �� ����� �� ��F��������� � ��� ��&� ������� ���������°� � Y¾ ¶ · ´ ¬ �������� ���$�ª � � � � ���� ���� ������� ��A�������Ã� � ¨�� ���� ����¡����� ������������¡���� ¦����� ���Õ��� ������j�Ï¡� ���� � � ����£���������� ��Õ�����Ï� �������� ��'�� ���� ����� � ���� ��� ���� ����ª � �� � ����¨ � ��������Eç��!����������¤����f��¢� ��&Ó����� � ��&¤} ������ �q� Adult

�������³� ��>����������� ���A��%¥�� ���� ���� ��!�����¥� � ����������!��� � ��� ¡���� ¬Ø���� £q� ���������'� ��·¢q��������¡�� �éÕ���Ï»��M��������¤}¼������ Ò � '����� Ñ�$�ª¨ � '������� ��Y��� ¢� ³��� � ��� ¡���� ��� � ���&���� H������� � �� f� � ½ ����£q��¢Y¡�������£� ��Ï����� � j������'� ��·������ �� � ���� j� � ��� ��� � ��� ¡���� ��&ª¨� � �&�����#������ ����&� � ������ �����! ����j� � H��������� � ��� ����� �����¬ª � ��� � ��� ���M���Ï�!����� � ��'A¢q��� �� ��B� ��� ¨ª¨ ¨�����¥� � ¨� � ������ ���� ���� �� �� ���� �����A���������� ��������¡�¤} ������������F���·� � ¹ ��¤} �� �����!�� ���� �������� ��'q�¸ � � � ����' � � � ��������ª��3� � ¹ ��¤} �� �����9�� �� ª�����£Ç���� ­�����!� ����� ¤ ��� ������ �� ��«���q�����������q� � ��£q��$ � �³��������� � ��� ���� �������� ��'q$ � � f���������&��� � ��� ¡���� ���F������� ��� � ¤� ������� ������F� � #�������f���Ï� � ¦� � ������� ���� #� �������� ��&���!�� ������� � � j���������·�����!¡� ��j���� ��������! �� ����·� �#� � j� Q ����¡�� ���� Ò ���Õ������¢� ���� ����� �$ª¨ «�����d� � ��'�� �� «� � ���!� � Ã����� �����!��������� ���¦�¬�����! �� À¿ ������� ���ç¨� � ¢q��� �� �� ���¦��� � ��¬��� � ��� ¡���� ����ÁB³� � ��'�� � ¬��������� � ��� ��#� � Ò � '����� ¦Ñ�$�ª¨ ��� � � �¢� ��¥���� ������ � &¡� �� �� ��� ���� ��� � ¢� #��������������� ��� �¢� ����� � ������ �� ���!� � ¾ ¶ · ´ ¬ �������&� ��ºS ÓVU �

Salary

A ge Capital_gain

Capital_ loss

Occupation Marital_status

Education

Relationship

�q� Y� ª��f� �i�����Ï����� £q�Õ� ��� �������� ��'«� ¹ �Ä���� �Ð�� �������� ��'³� � A'����� � � ������ � ������� ���� �$������ � � �� � �������� ��'H� � # ��������! �� ����jØ � Q ����¡�� Y ���� ��� �� éÏ������ � ���f� � ������� ���� �� ¸ �Õ� �Õ���Õ� ��� ¢������Õ���f� ������H� � Y ��������! �� ����Õ�����Y�Ï'�� ¢� ��� � ������� ���� ³� � ���A���� «�� �� � � ���>�����³�'�� ¢� ��h������ ����A���¨�����! �� �� ³�������–� � �! �� ¤���� #� � # ��! �� ��� �����F��������� � ���������F���� �Í��� ������ ��F�������;� � Y�������–ª¨ &ª¨� � �����������F���!� �������� ��'f� � ¹ �§� � ������� ���� ���q� ��� ����� H� ª���ª���¤��&����¢�� �ª/� ¹ �³$� ���� � � ��'�'� �� � � ��'d�j ������ � ����������� � �������� � ���Y� ����

n� ��'q� Ò � ��� ��$F� ¹ �3���!��� � ������� ���� �� � ���� ��������� ���� � ����� ��������� � ��� ¡���� �����À����� � ¥��� � ��� ¡���� ���� �q� ���¨� ��'�'� �� ���q� � ���q� � !¡� �� � ¹ ����>� � «���� ³� � ���>¡� �� �>��� ���>� � ³��������$F�����¥� ����������A� �

scoring-based� �������� ��'d��� 'q����� � � � ��$�� � ���Ï��� � �������� � � �À� ������ � ���h� � �£º�³� � ������� ���� � � ����� ����� �!� ©� ���� � ¹ ��¤} �� ������$ ½ �ÔÂ���º����� � ¡�� ck-Ôq �� ¡�� ��ºØ���Ôqé ���� ���� �¤�� ������� ��'f��������� ������S è�$ ���CU �

�� ���������$h� � ¹ � � � ������� ���� Á ��������� ��²�§'������� ¯���E��������� � ���������� ���� � � ����� ����� À�� ������ ���n� � � ��h��� ����'d� � À������ ���$!������������� ��'d���h� � �������� � ������

d-separationS ��èVU � �q� ����� ��'�'� �� ���H� ����

n� ��'E� � ¹ �� � ������� ���� É¡�¤ � �� ���� � ��¤}� ��' � � É��������� � ��������� � ���� � � ����� �����

relation� � � ��Y��� ����'h� � ������� ���� �q� �� À��� 'q����� � � � �Y���� ��� ��� ����� ��d���

CI-based��� 'q����� � � � �F����������� � ����� ���

-¡���� �� ��� 'q����� � � � �ºS Î�$ ���VU �

®« Y�� �¢� ����� � ����Ï����� Í��� A������� � ����� ���-¡���� ���� � �� �

- � ��� A�� � � ����� �����¤������� ¤�� ���&��� 'q����� � � � $�ª � � � � ���� �� � �������� � ¤h� ��� ����¡�� j�����Õ�������Õ�!� ��� ��'Y� �� � ' � ��� �! ���� ���������Õ�������Y� ����Õ���� Y���f� ���Õ ������ ��� �����¤��qØ �q� A�����! �� ���� � ¤����������' � � ¤#Ë³Ø �Y %�é�ª � ��� ��°���q� � !�����!¡� ��!���F�� ���� ���� ���Jq� � �S ÎCUM������� ������ ����� é����ÃS Ñ�$ ÓVU $ ª¨ H� � ����� ���¢q�����������&��� � ������&���Õ� �������� ��' ¹ ��¤} �� ������� �� ª�����£q�������������� � ��� ������ �q� A ��! �� ��� �������� �� ��� ���¨���«�!� ��¨���f� �������������¡� ���� � � ����£º��������� ���� � � ��ªÁ� � ��� ¹ ��¤} �� �����º�� �� ª�����£q� ���� ¬ ����� �� � ������������� � ��� ������¥®« � ��¢� ­�������;�� �¢� ����� � ��/� ª�� ¹ ��¤} �� �����/�� �� ª�����£� �������� ��'§� ¤�� � �� ��Ð ¹ � Q ��ª¨ ����A����� � �����������ÄS %VU $�ª � � � � ���f��� ��������'� ��� ������ ¹ ��¤} �� �����¦�� �� ª�����£h� �������� ��'q$������ ¹ � Q ��ª¨ �� Q �� ���� �������ÅS "CU $ª � � � � ���&��� ��¬�����f��������� � ��� ��f� �������� ��'q� Q ��ª¨ �� Q �� ���� �������f���&� � H�������� � ����ª¨ &��� &� �!� � ���F������ÆB Q �����! � �� � � �������

2.3 L°üfóÈÇMÉRÉfó�÷>ë>ö"ʧì�÷THJÊfó�÷aænåfõ�ø§ê�ë>ì�ë2.3.1 ËÍÌVÎ ÌÈÏRÐ#Ñ -processing¹ �������� ¨� � ��� ����� ������ ¤jÑ�%! ���� � � � ¢� & ��q���! �� ���� �!� � &� ����� ��� ��'f��������$�� �����Í���� � ���¡�¢���������� � ����� � &�������������������F� �� � ������F�������! �� ��f� ���� ���� � ������ ��Ï� ����¤¥�� ���� ���� ���� �q� ��� ������� �$�� �>���a� ��� � � ��� ��h���h�� � �� ¤ ��� �! ���� ������� �������� �����E� �� � ��� Í��� ���� �q� d��� ��� �³� � � ��'°ª¨ ºª������ �Ì� � £� º���À���À����� ���� ���� j��� � � ���� ��'q� �q� j'q�����·���·���&���� ���� ��Õ�� ���� ���� �� ��¡�� ��·� � ���M���M������'� en����' � ���f� ����� ���� h��� �Õ� � Y� �! ������������Õ�� ���� ���� ��j�����H���j� � ��� �Õ �������' ������!������� �������� ��'¬� ¤�� � ��§��� � ������� f ���� � � ¤�� ¸ ��� � ���&� ����'� �$�ª¨ H���� f������ ��¤}� ��'³��������! !�� ³ª¨� � � � � !��� �����q�� ���� ����  � ��¡�� ��q¡����q��� ������ ���� !� � �� ���� ���� ���� � ���F���� &�����F� � ������'�� ¤j�������� ������ ��!ª¨� � � � � &������'� ��

variable.� ����� � � �¢� !� � ����$ ª¨  �� � �� � ��³� �  � �������������³� ��������� ��� �����³'q��� �³�� ���� ���� ��� � � ���� ��'q��®« ������! ���� ��¦� � ��!��� �����Ï� ��������� ��� �����¦¡� �� ª¨ � ��¦ ���� � ���� � °��"���$ "�Ó��h�� ���� ���� ��¥�����d� � ¬������'� ��!¢q��������¡�� ÃØ�» ¸ ��� � ¢�� � ¤}¼�é���� � ��'�Í������ �����Ì��$&�����À� � ��Ì������� ��«� � ��  �� ���� ���� ��¨¡�¤¦� � �� �!� ��������� ��� �����'q��� �¥�������²������'� ����¥� � ��� ���ï��� Ò � '����� #Ó�$�ª¨ # ������ � �� � � #���� �"���$ ������� ���� ���� ����������� ���� ¤¬���À� �  � � ��������� ¤x�!¢� ���¤x� � ��� �¨ ������ �����°���f� � �� ���� ���� ��F���!� � &���� � ��¢� #� � ������'f�������� ������ �����!ª¨� � � � � &������'� ���¢q��������¡�� ��¹ ��� ��À����� � ���� �������$}ª¨ A�� ���� �� ��³������ � � ��!�����q� � !�� ���� ���� ��q� � ��� � ��¢� � ��������� ��� �����À'q��� �À� ����� � ���À��� ��"�Ó�� �q� ���� �������ª¨� � � �����������À%����features.

ÒVÓ ÔCÕ�Ö*×4ØÚÙÜÛ­Ý ×*Þ±Ó Û­ßàß ×*á�âRã­Ö*äåÞ±á�Ö*Õ�æ*á�Õ�Ö*×çã­èFé êYë�Õ�ì á*í#ë Û á Û¢Ø

Page 7: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

53

î=

ba bPaP

baPbaPBAI

, )()(

),(log),(),( (1)

Ð�ÑMÒ�Ó¥Ô�Õ5ÖAïÁð ÕaÑ�ñCò#ó=Ô±ôTõ�ö Ñ�ó�ñ6Ò�õ�Ñ�ñJó�ò�ö ð Õ÷öøó�ùåúÆû�û�û�û

features

2.3.2 üåÑ�ÌVÐ#ýVþ ýVÿÈÌVý��ÈÑ���Ì����VÌVÎ þ ýVÿ�� ÌÚÑ��#þ ÌVý��ÈÑ�Î� ��VÐ��models�q� ¹ � Q ��ª¨ �� Q �� ���� �������±� ¤�� � �� ��� ����ª��«��� ����«���Ì������� �����«� � �����! �� ���� � ¤h���Õ� � f� ������� ��#�� �� ª�����£Y¡�¤¥����� ��� � � ��'h�Õ� � �� �� � ��� �#¢q��� �� �����·�����¦�������&��� ��Õª¨���� � � ��Õ���#� ������ � ��������h�� �� � � ���M� ���� ��M¡���� ��h���� � �� ���� ���ç��Ï � ���������� ������ «���d�¢q��� � ����� �����d� ���� �q� «� ¤�� � ��Â��� ����ª����� ����q���� � ����� !�������§� ª�������!� ����� ¤#��� ��³ � ���������� ������ !�! ���� ���� ���Ð� � ¨ ��� ���� ��� �����¥��������������¤H�����A� � ����� ��������� ��§I>Ë�¬������¢� #Ø ¸ B�>é&Ø�� � S ���VU é�� Ò ���Y� � ���j �����¡�� �� $q� � ¸ B�;�! ���� ���� ¥���� ���� º�� � ����� �������� � � ���� &� � &����� ����������� �����!���F����� ����� � ¤j����£�����ª¨������ ���� #� � ��� ¦���� ¦����� ¤�Ñ�%  ���� � � � ¢� # ��q���! �� ��Õ� �H� � Y� ����� ��� ��'À� ���$�ª¨ �����������¨���������������¨��� H�F ������&���Õ� � f� ����� ��� ��'¦� ��&����� � f¢q��� � ����� �����¬� ������� ������ � �����f���¬�� �� � � ����� ���� �����®« f�����������· �¢� ��¦�����������#���&��� ����

-����� �§���������H¢q��� � ����� ������� ¸ � � � ����' � � ���¢� -one-����������������¢q��� � ����� ������!� ' � ��ª�����£q$�� ������¢� ���¤Y ��� � ���� � ¢� f�����! �������� ��������� � ¤h�����#� � j� � �! jª¨ ������� �Ì� � ����Ì���À� � º����Ä�>�� «ª����¨¢� ���¤¦� � �!� � ���� �q� ��� ������� �$·ª¨ �� ���� �� ��A���A��¡����������A� � ¨ª¨���� � � ��¨�� � �������� � �ß����� � �����$ߪ¨ &�� ���� �� ��!ª¨ ª������ � � ��¢� ����A���� ���� ¬� �¢� ���������������� ����� �� ���� ����!�����¥ �� ��£ � � ¬���� � � ���F� � ��! ��!� ��� �F�� � ����� �������� ��

¹ ��� ��«���³� �  ��¡���¢�  ������� ¤�� ����$ ª¨ !'� ��� ������ ��³��� ¢� !��������� ����� !� ���� �����������±� � A ��� � ������� ���� ���� ����� ��� ��'³�������A� ���� � ��� � ����%������� ���� ���� ��������������¥� ��� �������� ����ïÔq �������� ��'  ���� � � ���� ���������£���¡��������!�!� ����� ��f�����Q ���� � ���¾����� Q �A� ¸ � � � ����' � ���� � � ���� �� � ���°� ����¤x�������� ���� ���������� ����'d� � «%����d�� ���� ���� ���$Fª¨ «������� �3������ �� ¤�� '������� «� ��� �¥���� ���� ��� �� ª�����£A¡�¤H����� ¤H� � ����¤}� ��'!� � �� ��¡

-�� �� ª�����£!� � ��������������� �� ��A� � ¨��������������� d������� � h�� ���� ���� ��j� ��� � J¹ ² ¯ »*ªC¼ ³ ´ ² ¸C»*®�¬ �q��� � ���A� � ¥��� ¢� ��������� ����� �� � ���h��������� ª��Y���Y� ª¨ �� ¢� ³�� ���� ���� ���� Ò ���¨ ���� � ��������� ����� �$ª¨ ¨��� ��A� �����>��������� � ��¤f� � ¨ª � ��� ¨� ����� ��� ��'H� ��F�����!�! ���� ���� ��!� ��� ¸ B�� ������ ���� �q� ��¬ª¨ H �� ��£� ��¬� � �� � �! �� �� �&� ���� ��&� � ��� � ���Ã�H»��� ��� ���� ¼

¸ B�´� ������ –�¬� ���� �� ª¨� � � ����� ¤E�������¬�� ���� ���� ���� ¹ �������� Ã� � � ���������� ������ ��Aª¨ ��� «�����A�! ���� ���� ��º��� � ��'§�����

-of-�����! �� ¬��������$Õª¨ ������� �A������� � �! �� ¤f �� ��£!� � ����� ¨ª¨� � � � � � � ' � �� �F� ������ ������!��������$���� �F���� � x� ���� d�����! �� ��Ì��������� ����� ���'�� ¢� 3� � � ' � � � ¤°¡� �� � ��d� ������ ���� �q� � � ��� ��!� ���� ������F� � ��ª¨�!� � Ò � '����� #Î��

ÒVÓ ÔCÕ�Ö*×�� Ø���� × ÙÜÛ­Ý ×*Þ±Ó Û­ßàß ×*á�âRã­Ö*äåæ*ì Û Þ±Þ±Ó è�Ó ×*Ö2.3.3 ��� Ì����#þ ��Úþ ýVÿÈÎ��VÑ Î Ñ��#Î þ ýVÿ��#Ñ�ÎB³� � ��'�� � !� � ��� ��³� ���� ���$ ª¨ !���� ���� ��³� � ! ���� � ��������F �����¡���¡�� � � � � ��&��� ���� � � ��� �������� ¥� �À� � ¥� �� ��������¥� ���� �q� ¥�� ����� � � ��'«�������³ª����¨����� ���� �� A� � A������ ���� �������j��������� � ��¤�� � A� �� ������� ���� ����� �� � � ��!����� � ¢�  ���� ������� � ¢� ������Õ� � f� �� �·�������Õª¨ ��� j������ª¨�#�������Ì� � ������! j����� � ��� ¡���� �����¦���� � h� ����� ��� ��'À��������$¨������� � h����� �j��������� ������ª¨ ��� ¥£�����ª¨��$�ª¨ ¥������� �� � ��¿����� ��������� ²� � /�� �� � � ���������� ���� �����������*� � I>Ë� ������¢� ���³��ª¨ �¢� ���$ï� � ����ª����������F� � #����� �� Ò ����� ������� �� ¤�$�ª � �� ª¨ # ��q���!� �� ��� � ¥ �����¡���¡�� � � � � ��³���!� � ¥� �� ������ ���$·ª¨  ������� �°� �  � � ���¨� �  � ���� ������� ¤«'q��¢� h��� �� ¥����� � � ����� �����¡���¡�� � � � ¤¬¢q��� �� ������ ¥����� ���³� � �! �� � ��� � ¤�$ª � � � � �! ������F� � ��� #ª¨ ��� ¦����� ¤� �� ' � �F ������ � ¡�� #�����Õ ���� �����Õ���f� � ����� �������

–ª¨ h������� �� �� � � ��Y��������� � ��¤°"�%�� �� ���j����� ��³���³����� � ¢� �$&���3è������� ���$ï���$è�%�$Mè�Ñ�$Mè�Ó�$ß%���Ó�$ß%�%�"�$ßÓ�Ó����ï��� ���� ¨ª¨ ¨£��� �ª�� � ����� � ��� &ª¨ ��� � � � � �Õ� ���� Y� ������� � ¢� A����� ���� � ���À����� � ¢� A����� ���$}ª¨ A�� ���� �� ������j��������� � ��¤%�%�"&����� ��Ï���Ï����� � ¢� ���®« j��� �#�����·ª������·���&��������� � ��¤¥�j� � ��� � ��������!¡� ���������� ��Y���Y����� � ¢� �¡� �������� ��!��� ��������� � ��¤}� ��'d�j� ���� À����� � ¢� ������ ³����� �

more.

2.3.4 � ýVÌ�� ��#þ ýVÿÈÎ��VÑ Ð#Ñ������ θ ��� ��>� � A� ���� !����¡� ����¨���F� � !� �� �q����� ��qª¨ ��� !�� �� ���� ���$ ª¨ !�! ���� ���� ��� � f � ���������� ������ H���j��� ��� � f��������� ����� f� ���� �������®« fª¨ ��� j'������#���#� � � � ����� � �� ���� ���ª¨ �� � ��� �ª����!����� ����� � ¤H� � #¡� �� ��$�ª � � � � �! ������F� � � ���� ������! �� ��h� ���� ����Ϫ¨ ��� À��¢� ������ � � � ��'h� ���� �������Ë���j��� �����>� ���� ��'q��¢� ���������� � ��� ����� �����º��������������¤H��� è����¥�����¥ª¨ �� ' � � �����������������¤���� Î��Ñ�������I>Ë�¬������¢� #�����!����������� �����!� ��� ��� �H���� #� � ��ª¨�!� � Ò � '����� �è��

0

0.2

0.4

0.6

0.8

1

VÖ*×*ë�Ó æ*á�×*ë! Vã­Þ±Ó á�Ó "­× VÖ*×*ë�Ó æ*á�×*ë!#Y×*Ô Û á�Ó "­×êYæ*á�Õ Û ì$ Vã­Þ±Ó á�Ó "­× 95 55êYæ*á�Õ Û ì$#Y×*Ô Û á�Ó "­× 128 356

ÒVÓ ÔCÕ�Ö*×�% Ø���� ×�&('*)�æ*Õ�Ö+"­× Û­ß ëàá � ×çæ*ã ß è�Õ�Þ±Ó ã ß!,àÛ á�Ö*Ó -÷ã­è"á � ×æ � ã­Þ±× ß!, ã­ë�×*ì

Activity

10695

79651

91839

16794

Page 8: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

54

2.4 Discussion�q� ��� §���� �� � �� � �� � � ��'q�#ª¨ � ��¢� �� ������� ��Ã������� ª�����£�� ��';���Ã� � �����ÆB Q ������ �����Ð1.

�q� §�����!¡�� ����� �����Â����� ��������� ��� ������'q��� �²¡���� ��²�� ���� ���� ��� � � ���� ��'«������� � ¹ ��¤} �� �������� ���¡���� ����� ���� ���� ¥� �� ���� �����³����Â����¢� ���$E ����� ���� � ¢� �� � �������� � ����� ������� ¤}©�� ��' � � ' �-

d� �! ���� ������������������Ã���!� � ¥������� � ���À����������� �� ��Ì����� ¤¬� � �������q�� ���� ���� ��������q� ���� ������ ���$ߪ¨ ¨¡� �� � �¢� ¨� ����¤f��������� � ��� ��� �������� ��'Ê� �� � ��� Í��� ��Öª������ � � ��¢� ��� ����� �� �� � � �!� �����

performance.

2.®« �'q��� �� ��x��ª����� ��� ����Y���� � À��¢� ������ � � � ��'h �����¡�� ��Ī � ��out-of-

�����! �� Y¢q��� � ����� ����������� �! ������ � ¡�� �$} �� � �������� � ¤�ª � ��� � #�����! �� #� � ©� &���F� � ��� ���3.

Ë�� H� � ����� �������� ������ � ¤A� � ����� j � ���������� ������ j�! ���� ���� ��·� � ������� A����� ����������� ������� ���� � � ����� �����ª � ��À�>ª¨ �� �-�� ���� �� �������� ���������� �����!���������F��¢q��� ����¡�� �$�� ��� � ����� � ¸ B�A�

3. òàKMPhê N/. H N!O S V Q O0. H N L O�q� ���A� ���� �����h ��� �� ������A��� �� ����� �� �����d�������d�� � �������� � ���¥����

-�>�� %������º����� £q� %¿�����¿"�$j ��� ���� ��� �����Á���h'� ��� �è ������ �� �§��������� �����Á�������������� � ©���� ������� �q� µ�� � �������� � � ����� ���� ��Ì� � µ�� � �� � ����� ����� ���±� � ������� ª����� ¥� ¤�� � ��nI>�Ô ¸ �¨���M$}ª � � � � ª����q�� �¢� ����� � ��«��� ½ ��'��� �¡�����'B��� ¢� ���� � � ¤������ A���j� � ���� ¤�� � �� $}ª¨ Aª¨ ���  ��¡�� !���ª¨� �³� � !�>�� ³���������� £f%�$�ª � � � � ������� ��� � &���������F���·� � ���F� ���� �������

1�2 ð9úÂ÷>ì�õ�þ>ë>ì�õ�÷>ø�q� ¨� ��� �¥��¡�� ���� � ¢� ¨�����¨������ ������ � ��� ���� �����!� � ����

-�>�� !%�������ª�������� �¢q��� ����� ������&�� � �������� � �����������&������� ¤�� ���I>�Ô ¸ �¨���M$�ª � � � � ª�������� ��� � ��� �� ���� ��h� �h� ���� ³�� ������ �A� � ����� � ¤������ �������

-2����� S ��"CU �ﮫ �ª¨ ��� �� � �������� � ¤�� ��� ��� �� � �� � � � � ¦�� � ������ ����� � ¤����!�����! ����� ¦�����Y�� � �������� ����!��� � ����F�����!� � �� ���� �� ��� �����

I>�Ô ¸ �¨�������� ��� ����� ��!������ �����ª¨� � � �� ������ ������������������$���� ����������&� ��� ������¢� ��Õ�!��� � � �� j����¡�� ��Ï���·���·��� ����� � ¤A� � j����� j� �¦�Õ�� ������ ���������·��������¡���� ���q� Y�������Ï�����Ï����� £q�Õ%�������"fª¨ ��� h�������������� ������Õ�� ������ ���������Õ��������$���������&��� � ���� �����!ª�����������ª¨� � ��� ��¹ ������� f� � f�>�� �$M�����f�� � �������� ��� ���#¡� � ��#� �� � ��¦���¦� �¢� ������·� �������� ��'����� £q�º�������� ������ ��'¿�� ������ ���������º��������� ����º������� ��� �������������º����� ��� �����¸ � � � ����' � � � �� ������� � ���Y¡� � ��Y��� ��Y� �A�������q�!� ��� ��'!�����! � �� � � ��������� � ��� �¢���������¤} �������$}� � ��� !ª����q� � �!� � ��³� ��������� ��� �����«��¡������q� � !�� �� ��� ���¨���� � �� �# ������ � ��� ���������$¨���Hª¨ hª¨ ��� h������£�� ��'À� � ������ ��j�����Y�����! ��������������ª¨� � � �������� �� ��� �����½ ���� ���¢� ���$M� � ��������j�������Ä� � ��>�� EP �Ï����� ��� �x���¡���������'�¤º������ ��� ��x��� �ªE� � ��� � ���'� #�����! ����� �� ���!� � ��� #�������;� ��� ���������� #�����! ������ ��f�����¡�����£q��� �q� �� º¡���������'�� �����³������� ª¨ ��� �� ���� ������! �� ��Ã� �°� ���� �¬����� �������� � ¢� ¯� � ������� ���� ��±� ��� ���������� ��µ¡�¤ � ��� �������� �������Á���; ������ �� �����Ò ����� � ���� ���� �$�ª¨ � ��������� ¤³�� ���� �Õª¨� � � �������� � ���� �������� ��'«���j������$}�����¤} ���ª¨� � � �!��� � �

-���������� �����¡�� �� �

.

1�2 R9ò#ó�î"Éfó�÷>ö�î�íïíïõ�ø��T¦�õ�ì*ÊXä�3 W

� ��� £q��%¥�����¥"A��� £� ��A�����q� ���� ��������� ��� ���� ���F��� ����'H��Ó!��������� �������F�������Ó#��������� � ©���� �������>���q ������ �� ����$��� �� � ���� � ¢� �� ¤�� � ª��Ï¢q�������������>���q� � �������ª¨ ��� j �����¢�� �� ���Ð ��� ��� � � ¤�$��� � ��'�� ����¡�� ª¨� � � � � ��'�� � � �� ��M � ��� ��q���! �� �����µ��� � ��� �±"�� �����5����� ���!����$������µ� ���������� ¤�$�� ª��±����¡�� ��§���§��� ������ ���������M��������� ��Mª¨� � � � ����M� � ���h���h��� � ��� ¡���� ��M ���� � � ¹ �������� ³���¨������ ��� ��� �� �q� �³�� ������ �����������������F�!� ��� ��'q$�ª¨ f��������� ��¬����� � f����� � ��F¢q���������������� � A��������� �q� A� ª������¡�� ��q'�� ¢� ��³ª¨ ��� !�����! ��³'� ��� �� 4��� ������ �����«�����interactions_relati

����$������ Ò � '����� !�!���!� � &� ������

ÒVÓ ÔCÕ�Ö*×65 Ø &Y× ß ã­Ö ,àÛ ì Ó 7 Û á�Ó ã ß ã­èàá � ×Äã­Ö*Ó ÔCÓ ß�Û ì¥ë Û á Û98 Ö*×*æ*á Û­ß ÔCì ×*Þ;:á Û;< ì ×*Þ;= Û Ö*Ö*ã­âRÞ < ×*á�âR×*× ß á Û;< ì ×*Þ;:�è�ã­Ö*×*Ó Ô ß ì Ó ß ä�Þ;=åá?> á+: Þ±×+@ Û Ö Û á�×á Û;< ì ×*Þºè�ã­Öçá�Ö Û Ó ß Ó ß Ô Û­ß ëàá�×*Þ±á"ÔC× ß ×*ÞBA Ø�q� ¯'� ��� �� 4��� ������ �����Ç����������� �� ��C��Î�%Ç� ����� ��� ��'× ��q���! �� ���$E� � corresp

������� ��'Ã�� ������ �����°�����H� �� � � ��'x� ����� ���� ��²"���¬� �� �# ��q���! �� �����q� ��� �������� �¥¡� �� ���� �� � ���º���� �� � �� �� �¥� � �����¡�� ����� �� ����� ¡�� ��'H ���� �'� ��� ����¨ ��� ��Ï������� �h¡� ³� �� ���� � ��� ��hª¨� � � � � � �� d�����£� �¤���� � ��� ¡���� '� ��� +4�� ���BI>�Ô ¸ �¨���j����£� ��>���M� �� ����>����������� ��M� �Y������� ���M��������Ø � Ò é�$especial

� ¤¬�� �� ������� ��'«�����¥� � ��'�� ¥� � �� �� � ��! ��q���! ��  � �«� �  ������'� ������¡�� �� �q� ���M���Mª � ¤!� � ³����� '�� �����M������� � ���Y���Ï¡� � ������� �������! ��Aª¨� � � � � � �� Ã������DÔx¢�� �ª3�� ���� ��� � �������Ï� �����¦�j��� ���� ��� ����Ï�� � ��� �� �������� ������$������Ò � '����� E������� � §��� ' � ���å�³��� §� � ���¬�� �������� ��� � ©���� �����Â� � ����� �²¡� unneces

������¤À� ��� ����¤« �������� � �������� � �� � ����� ��������$¨� � ���� h��������¡���� ������� ��� ����� � ¤j� �!������� ����������� ��q� 5�������3������� � � µ����� '�� �����Ì����¡�� 5'� ��� �� 4��� ������ �����­ª����°����ª�� � ��� �� ���� ���� ������¡�� ���'� ��� �$}����������$}�����! �� ��q$} � ������ ¤} � �$�������� ��� � ���½ ���� ���¢� ���$ï� � ¬����� '�� �����F��������� ����������� ��������� � ©���� ��������� � ��� ¡���� ��F� � � � '� ��� h����¡�� ¥ª¨ ��� º� �� � �� �����À�A�����!¡� ��¥��� ��� � ��� ¡���� ���Ð���� ¥�����A ���� ���������� �����3�����3���� «�����³ ���� � ��������� � ©���� ������$Õª¨� � � ������ � ¡�� ¬¢q��� �� ��!�Ø ������� �é¨�����¥�AØ � ���� �éq������� ����� ��� ��'f ��q���! �� ���$������GF&Ø ����£�����ª¨��é�������� �� � ��q���! �� ���� �q� ���Aª����¥������� � ��³ ��� ��� �Í������ � � «�����³� � °�� � �� � ����� �����3���I>�Ô ¸ �¨��� ����� ��� ½ light � �³��ª�$±� � ��� ���9� ���� -to-

� ����¤�� ������ ������� � � ³¡� �� ª¨ � ��³����¡�� !'� ���  �����³ ���� � ���Õ� � H��� � ��F�������F����¡�� �����q� ���F���F� ����� ����� �� ¡�¤À���-����� � ��IH ªV¯ ®�° JC¸ ´ ° ¸C»*« $�ª � � � � �������� �� ������H��������� �� '��H£� �¤��� ������ ������� � � ���¡�������� ���� ��>�������±� � ��� Aª¨�����}� � A�� ���� ��� � ��������·��� �� ���� ������S %��VU �

�³��� �� � ���!�¨����� �������C����� �º���&'� ��� �$ï����������$ï�����! �� ��q$ï � ������ ¤} � �$������� ��� � �«���x'� ��� +4�� �x�� � ����������� ��Y� � °����� '�� �����A'� ��� �� 4��� ������ ������$f�� ������������� ��� ���� ��� ����� �� ���� Ã���º� � Ã�� �ª �� � ��� �� �������� �����Á���h� � x������'� ����� � ��� ¡���� ��x�����Ì��������� �������3�����/��������� � ©���� �����������³��� ­�������;� � ���3�

genes_relation

interactions_relation

K;LNMBLt/t

class

geneN

motif

phenotype

complexx

interaction

SQL

Page 9: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

55

����� ¢� ��������E����� ��� � £� A� � ���q���q �����¡�� �� ��� � �!� �³� � !'� ��� ������q����� !¡� �������� ���·� � &������'� ����F���· ��� ����� ���� ������ ��� ������ �������F��������� � ��'f����������A������ ������ ��'d� � À� ��� �������� ������� 4��� ������ ������$�ª¨ «��� ��� �A� ��� ��d���h��� ���3�����ª � ���q£�� ���«���F�� ������ �����³ª����q �� ����¡�� ��� � �� � ��� �$ ��� �� ����� � ���� � ��¨� ��� � ����� ���� ���� ¢�� � ¤�$³� ¤}�!�! �� ��¤�$³�����§� ������� � � � ¢�� � ¤��®« 3� ����À�����hÍ��� �� � ��������������� ������ ��'h� � ³�������! ��� ª��Y ����� � ���� � ��>���Y� � ³�>�� d����'q����� ©� ����A������� ��� �� ¢� ��º�¨ ������! ��!����� � �� ��������� � �� ¤�$ïª � � � � �������¥�� � � ����� �� � � � � D�� �� � ������� D ¸ ��� ª¨ ����j� ���� ���������>� � A�>�� �®« �¡À� � � �� �q� A ����� � ���� ¤���¦�� ���� ���� ¢�� � ¤Eª���� ����� ¢q��� � �±�����¦� � x� ��� �������� �������H�� ������ ������$¡����� ¤}�!�! �� ��¤jª��������� ���� [I>�Ô ¸ �¨���H�����������YØ ¤} �� éj�� ����Ϫ¨� � � ¡�����£�'����������¦£�����ª¨� ���'� � �#� � j�������Ä����'� ��� ������·����� ���$� �� 'q���Õ����� j�����Õ �� ����¡�� ��� � � ��'h� ¤}�!�! �� ��¤�$� � ������ ���� ���� ¥����� ��� �������� ������� � �������¡� !� ���� ! ��� �� � ��� ��� Ò ���� ���� � ���� ����Õ'� ��� ��&Ø '� ��� ���$�'� ��� �%�éÕ� ����� ���� ��#� �#� ��� �������� ������� 4��� ������ ������$�ª¨ ��������� ��� ���� ��A� � ¨ ���� �¨Ø '� ��� �%�$ß'� ��� ���éq� �����A�����q� ��� �������� �����A����¡�� �$ß� ��� ��ª���������F��� �� �����¤j� � ��� ���q� A����� �� ¥����� ������� � � � ¢�� � ¤�¡� ������! A�� �� �¢q���������j�������� ¤¬����� ��>� � !��� ��� �Í��� �� � �����Y � ��������h���q� � �>�� Yª����>��¢� �����®« ��� �Y������ª����������>������� � �� ������� ¤ ��� �� ����A»��� �� ' � ¡�������$ ¼³��� ���'� ��� �� è ������ �� ����� ��� �������� � ��'�������������� ��'���Â� � Å����� '������²����¡�� � ��� �������� ������� 4��� ������ ����� Ø �� ���/� ¤}�!�! �� ��¤}é���³��ª¨ �¢� ���$MI>�Ô ¸ �¨���������������Ø ¤} �� éq�� �����ª¨� � � ��¤}��� ���� �A� � ¨'����� � �������¡�� ��!�����¥������ �� '�� � � ��£q�f���F����������� �� �� � � � � ¦����� '�� �����F������������� � � ���� � � ����� ������$�ª¨ &�� ���� �� ��!��������£� &� � &����� ����ª¨� ��'f�! ���� ���� ���Ð

1.®« d� ��� ��E���À��� ���Ä�¥ª���¤Ã���Ì������� � ��¢� ±»��� �� ' � ¡������«����� �� ' � ¡�������$ ¼� �� ���> ��� �� � ��� �#� �;������� ��� �������� �����x����¡�� �� Ò ���non-direct

�� �� ' � ¡�������$Mª¨ H�����! ���� ��¬� � H ������������#���� � �������� ������ ������¢q��� �� ��&���Õ� � f�������� �� �������� ��'#� ��� �������� ��������� ¸ � ��q���! �� �Ьª¨� � � Ø '� ��� ���$¥'� ��� �%�é¶����� Ø '� ��� �%�$¥'� ��� �"�é��� �� �����¤�� � � � #� ��� �������� ����� ����¡�� �$�Ø '� ��� ���$�'� ��� �"�é#����� � � ������������­���¿� � µ�������� ������ �������­���¿� � Ç����� '�� ������� ª��int �������� �������¨������� �«¡� ���������� ��� ���� ��¬� ������� � H� ��� �������� ���������¡�� ��

2.���Ä������ ��¥���Ì��¢q��� �Ä�¥¢� ���¤Ã������'� º� ��� �������� �����°����¡�� �$Ϫ¨ �������� ���� ����� �� ���Ö� � ��� ¶� ��� �������� �������d�����̪ � � � �/� � ' ��������� ������ �����¥¢q��� �� ���ª¨ ��� �'�� ¢� ������&�����! ���� ���Ø O¬��� Ó�é#�����ª � � � � ��� �!������ ����� � ��!��������� �¢� ����F���

neighborhood.

3.®« f���� ���� ��¬���� ���� ���F����¡�� f'� ��� *�x� � ���·� ����� ���� ��¦��� �·'� ��� ��ª � � � � ª � ��� E»��� �� ' � ¡������ ¼E���À��� � ����¦������������� ��'d���x������ ��� �������� �����!����¡�� ��

���#� � ���·������� �����$�ª¨ j� ��� ���������� ��#������ �� '��#� � ��£q�·���&� � j����¡�� ��·����������������$�����! �� ��q$Õ � ������ ¤} � �$j�����º� ��� � ��$Õ� �±�¬� � ��������!ª���¤�� �q� �¤Àª������ �� ��¢� � ����� � �� �h����� '�� ��� ��� � h����¡�� h'� ��� *�³$¨����������'q�����j���H������ �� '��� � ��£q�h�������´� � Ì'� ��� Ì����¡�� ��D�³��ª¨ �¢� ���$fª¨ � ���3� � �� ����� '�� ����� ��� �� ���� � ¤¶�������Ê� � ;� ��� �������� �����Á����¡�� �� �q� ���E»�������� � ���� ��'�¼/���d� � ��������¡���� ¥� � � �� �>� ���� A� � A�����! �������� �����À���C����� ����� ��� � !����� ��!� � � �����·� � #����� ������� ������ ���� & ������ ��� ������Ò � ����� � ¤�$������ ��¬� � x� �� �H������� � ���§¡� � ��§ �����¢�� �� ���$ª¨ x� ��� �'������ ��� ����� ��� ��'Å����� � �� �E�������/� ��� � � � ���E ����� � ���� � ��¶� ��� � ���E���������� ��������� ��� �����±�����¬� �� � '� ��� ���$ª � � � � ª¨ ��� x�� �� ' � ¡����������h� ����� ��� ��' ��q���! �� ���$�������� �¥¡� ¬���&� ����� �� ����� ¬���¥� � �� ���� ��������A¡� ������������ﮫ � ��� ��£� � ��&� � �������� f'� ��� f����¡�� ��������F� ����� ��� ��'h�����#� �� � � ��'Y¡� �������� j� � ���� � �! �� � ��� ��! ������� ������� ���� � £� #���

-����� �!���������

-¢q��� � ����� ����� ��������� ��&� ����'� ����

1�2?1 ò#ó�î"Éfó�÷>ö�î�íïíïõ�ø��T¦�õ�ì*Ê KMP6WJÇ0S S ä�q� ������! ¬���#�����#�� � �������� � � � �����f���F� � #�������/���Ï� � #� �� ����F�������&���� � Ö� ¤�� � �� $�¢�� ©��³�� ������ ��������$«�����Á� � /�� � �� � ����� ����� ���3��'�'��� �'q��� ��������� �������f��� � � ���f� �� ������Ø Ë������� ��������� � ¤�$�ª¨ ¦����ª¶� ������� ����� ¦� �f� �����“rel¤����

agg�� �'q��� ������$

sometimes.” )

�M��$ߪ � �������� ��I>�Ô ¸ �¨���¨���F���������£� ��F����� �� ����F���� �� ����� �� ����� ���·� � ����¡�� ���� ����� ����� ��'#� � �� �F�����! ��&�����������!¡� ����Ï������ � ��� ¡���� ���$�� � j�����! �������x� ¤} � ��h���«��� � ��� ¡���� ���$�� ��� ���h���� ������ � ¡�� «¢q��� �� ��A�����³����� �'q����� �������� � ��� ¡���� ���$�������������� � ���� ���� �$��>�� �� ����� �� �����À����� � A������ �� '���� � ��£q�¨������ � �������'� ��!��� � ��� ¡���� �� Ò � ����� � ¤�$�� � #������� ������f���Ï� � #����¡�� ��f�������!������� �part���·� � &� �� ������

I>�Ô ¸ �¨���º��� ���� � ������� �� '��°� � ��£x� ��������� ��� �����Ã���¬�����! ���� 0����� ��� ���� ��� � ��������$� �� 'q�������#������� �����Ï� � #����¡�� ��F'� ��� ¦�����H����������$�'� ��� h����������! �� ��q$� �� ��� �q� ���$ï� � �� 4����� ���!���� ������! ���� ��º�����º��DÔ§� ���������������'�'��� �'q��� ����� ��������� �������Ä���� µ�� � �� � �� Øcount

�����3�� ������ �������Ä���������� �'q����� �����·¢q��� �� ���Javg$max$min$������

sum�����������! ���� �³��� � ��� ¡���� �� é���A����� ���� �� �� � A����� ���F� ����� ���� #� � �� # � ��&'� ��� ������ � � # ��q���! �� �$�� � ����! �������� ��� �&��������� � ��'¦� � H ������ � ¡�� H¢q��� �� ��Ï�����j����������$������! �� ��q$� �� ���B��£�����ª¨��¢q��� �� ��Ã���� � ������� ��²¡�¤5� � �! �� ¤3�����¦��������� � ��';� � �� �Ò � ����� � ¤�$�� � &������'� ��F��� � ��� ¡���� #Ø � ��� &��������� � ©���� ������é���������������� ������ ��!ª¨� � ���� ��� � #� � ��'�� &� � �� ��� � ���'� ��� #����� '�� ����� � ��'f�������x� � &��� ���� ��� ��������� �����

�q� I>�Ô ¸ �¨���¶����� ����h������� ��� ���d���°�Ì� � ��'�� Ì����¡�� �$H�� �� ��������� � ¤������� ��� � ��«���q� �� ����������F�>Ñ�� Ó¬���f��� ½ light $������ Ò � '����� ���������� ��������� � ¢� ����'�� �  �����'������!�!� ��'q$·� �  � ������� ������� ��� �����°���f�!��� � � ��  ����¡�� ��¨� �����¬�� � ��'��  ����¡��  ���¨����� � ��« ����� ���� � � ��������� � ©���� ������� Ò ���!� �  ��� �����¨� ����� ��� ��'������� �� � � ��'q$¨�Y�����E���3I>�Ô ¸ �¨���¦������£Ì��¡��������Y�!� ����� �$&�����À� � ����� ���������¡�� &����������� �� ��D��"������� ���!�����

ÒVÓ ÔCÕ�Ö*×�P Ø Propositionalization.

1�2?Q ê�ë>ì�ëdúÂõ�øfõ�ø��T¦�õ�ì*ÊXä�R�ú light

¸ �&�! ���� ������ ��Ã��¡���¢� �$=I>�Ô ¸ �¨��� �����Ã����� ����&��� � ��Ï�����j�>Ñ�� Ó S ��%VU��������� ½ light S ��CU �����������& ������ � ��& ��� � ���� �! �������$�ª¨ � ���H��� ��H� � �� � ������� ����·ª¨� � � � � �� �Õ�� �������� �· ��������! �� ��j� �� � � ��'q�ÜS ��"CU �¨®« ��� ��Y� � �� � �� � � ��'q� � ��� #����ª¨ �� ���¸ ��� ����� � ¤�$Õ� � ¬��� ��� �f���������f�����¦�� �� � �!� ©���� �������fª����f�����H������������� ����� ��� ���� ��� ������¡������������������ � ©���� ������ ��� ���� ��� ������$¨������ �� � �������� � ¤°���À� �

K;LNMBL�S T S class

geneN

motif

phenotype

complex

interaction

gene_for_UNMBUNV W+XZY Xt/t

RELAGGS

Page 10: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

56

� ��� �Õ���� �Í��� ����Õ����������������� ����Ø Ñ�%�� ÓEZÄ���!��� ����������� � ©���� ������� é�� ¸ � ���� �����·� ���� &� � ���!Ó�� ���-����� �!���������

-¢q��� � ����� �����! ��� � ���� �! ������F� � ��ª¨ ��!� � ���

1. SVM light � ����������! ��#¡� �� � ��Õ� � ��#¡���� � �>Ñ�� Ó¦�����Y�>Ñ�� Ó������ ��� ��� �Ø������ ��Z\[�%�� Î�Zº¢q���ï��Ñ�� �EZ\[�Ñ�� �EZºè���Ñ�� ��Z][¦"�� �EZé�$ª � � � � ª����&��� ���� ��� ����Ï�������­�����j ������ � ��j ��� � ���� �! ������Ϫ¨� � ���� �������������!��������$j�����ºª¨� � � ��� ���� ��� ����� ��!¡� �� ��'E� ����� ��� � � ����� � ¤� � '���� ��� �������F������������� ��'f���� ���� �� ��!�-� �� ���F������� ��Ó!� �¢� ����

2. SVM light � �������������° ��������! �� ����� � ����������! ��°ª¨ �� ��J���� ����'��� � ������ ����� ��'q�qª����q� � ���¨��� � ����'� f�������E� � f�� �������� ��� � �� ����£� ����� �������Í������������ � �#����£���¡�� �#���� ����� �� ��� � ��!� � ��¢� ������ � � � ��'q�3.

Ë� � ��q�� � ��� �� �������� ������������� � ¨� �� �������������$ï� ��� � �����q¢q�����������ª¨� � � �����Õ� ��� �������� �����H��������$}��� �������� � ����������¿����ª¨ �� ������ � �� � ��� �� �������� �����Ä�� �� ����� ¡� ��­��¡���¢� �$h��� � � ����' � ��� ���� ��� ����� ��ª¨ ��� A��� ����� � ¤¬� � ��� ������«� ����� ��� � � ����� � ¤¦� � '���� ��� �������q�����!�����! ¢q�������������F����� ¤��¸ �h��� ½ light �����h���Y� � ¥I>�Ô ¸ �¨���³����� �����������£ �q�� �ª§� ������������������ �� ��� � ��¥� �¥� ���� ������ � ����������²� � #� ����� ��� ��'H'� ��� ��f����� � �  ��� ���� ��� �������� � ��Ï�����j� � �� �� �>'� ��� ��A���>�� � �� ��� ��h� � Ò � '����� «����� Q �� ���� ��� �������A���� �� � � ��¥��¡���¢� ¥©� ����������A ���� � � � ¢� ¥����� ������!¡� �����ª²©� ����³�����!�� �'q��� � ¢� ����� ���� �q� ��� ����

-¢q��� �� ��¥��� ���� ��� ����� ����������²©� ����A ��� ��� ����!�&�� �'��� � ¦������������ �� ����� &� �!� � & ��� ���� ��� ���������

ÒVÓ ÔCÕ�Ö*×!^`_ Ø êa@�@�ì Ó æ Û á�Ó ã ß ã­è�b�ced light

1�2?f ò#÷>íïì*Éfó�÷>ö�î�íïíïõ�ø��T¦�õ�ì*ÊXä�3 W�q� H ��� ���� ��� �������&�����H� � ��'�� H��������� �������#�����¬��������� � ©���� ������� � ���¦���#¡� � ��� �'������ ��!� �����!����� �����F����� ��� ������� �q� ��� &ª����F�&� � �! �� #�� � ������ ����� � ¤j�������������� � ©���� �����¬ ��� ���� ��� ������зª¨ �� � ��� �� � �¢q��� �� ������j��������� � ©���� �����¦ª¨� � �� � � � ' � �� �Ï��������� �� ����� �¢q��� �� � �����¢�� �� ��h¡�¤���� ½ light $��� �'q������� ����>� � ���� � � � ¢� #������ �'q��� � ¢� �����À� � ¥������� ����³���!��������� �����À ��� ���� ��� ������$�ª¨ ¥� ���� ¥� � º��¡�� ���¢q��� ������ � ���� �  ����¡��  �����!� �� �¨'� ��� ��¨� ����� ���� ��°� �¢� ������¨� �� ���� � �����¨� � �� ��¨ � �� ��q���! ��  ����� �������������$ �����! �� ��q$ �� ����� ��������� ��� ����� � ����¡� � ��� ���� ������� �����;��� ���� ��� ����d����¡�� ����H®« �� ��� ��� ��� �� ��5� � ���º��� ������� � �������� Â���±���� ��������� ��� �����§��¡������f� � ¦�����!¡� ��¦���A��������� �������j���H¡� h ��� ���� ��� ��� � ��'� ��� �è ������ �� ���

® � ��°� �������! ����«��������� �����° ��� ���� ��� ������$Ϫ¨ §������� ��� ��� � ��� �� � ��� ��������� ��������ª¨� � � �¨��������� �� ����� � � ' � ��¨� � ���¥©� ������ï���º�&�� ����f� � � �$�ª¨ � ��� ��E���Ì�������À� ����� ���� º� � º��������� �����̪¨� � � �¥�� �'q��� � ¢� º��������� �� ����� ������� �� �F���!©� �����$�� �>ª¨ � ���H�����Õ¤} ��j���Õ� ����¤³��������� �������Õ ��� ���� ��� ������� ����� ����� ��¬¡�¤h� � H�����!¡� ��H���j� � H� �� ���� � �����&� � �� ��Ï� �¦� � �'� ��� �����¡�� �! ���� ������ ��h��¡���¢� ������qª¨ � ���A�����>� ����¤f��������� �������� ��� ���� ��� ��¥��� �� �����¤�$ª¨ ��� �� ��¢� ��¥� � ¬���� �ª¨� � � � � ¬� � ��� � �� �F��������� �� ����� �� ¹ ��� ���������� -����� �«���������-¢q��� � ����� ������$·ª¨  ���������°�����¨� � ��������� ¤h� � H����� � ��­� � � Ã��� ��� ���� ��� �����x�� �� ��¢q�����Y� �! �����¢� ��x ��� ���� ��� �����;��������������¤��!�M��$Fª¨ «��� ������ ¤�� � ���A�����³� � «������� � ������� �����3���#� � ¬��� �����! ��� ���� ��� ��������$Õ�����j�������Ò � '����� #�����

ÒVÓ ÔCÕ�Ö*×!^^ Ø )Vã ß Þ±á�Ö*Õ�æ*á�Ó ã ß ã­è"á � ×çè�Ó ß�Û ì$@�Ö*×*ë�Ó æ*á�Ó ã ß Þ Ø1�2?g�2 K�î�íïüfû�ì�í/h>ôfõ�íïö�üfíïíïõ�÷>ø�h>ö�÷>øfö�û�üfíïõ�÷>øÒ �����5���

-����� �H���������

-validation,ª¨ A�� ��� �� ¢� ��À���� �� � � � ��� ¥���C��%�� �EZ��������������¤µ�����¶��������� ����� ��� ���� ��� �����Ê����� è�%�� ÓEZÆ��������������¤¾�������������� � ©���� ������ ��� ���� ��� ������� Ò �����E� � f�>�� ¬����'q����� ©� �����$�ª¨ f�� ��� �� ¢� ��#� � ����� ����� �� �� ��� �������í��"�� Î�Z×��������������¤E�����¬��������� �����± ��� ���� ��� �����¿�����Î���� ��Z×��������������¤Ì�����¦��������� � ©���� �����§ ��� ���� ��� �������® � � � x� � x�������! ��� ���� &����� � &ª¨� ���� ��&���!����� £f%�$�� � &����� � ����! �������������£fÑ ���!����� £H"��

����� � �� �H� � ���H� �Hª����À�h'q�����¶� � ����� �'�¤ � ��� d����� ����� ���� 3��� ��� � � ��������� ��� ����� ª¨ #������� � '� ��f��¡������Õ� � Y'� ��� �� è ������ �� ����$�� ����� ����� ��'�� � � ��� �'������ �����«���F� ����� ��� ��'¬�����³� �� �q�������!�����³� � f������'� H���j����� ���! �� ���������¡�������� � &�����!¡� ��&���·��������� ������������¡� & ��� ���� ��� ����Ë¢� ������ ��$�ª¨ � ��¢� �� � ��¥��¡���������Î�� � ������������ª�����£!� �����>� � ����£�����ª¨� ���'� ����� ����¢� ���¤A ������ ��������A����� � �� ���� ��'Y� � j�������·� � ���M�!��� � ���q� � ���M� � �! ª������ �¢q��� ��«���³� � � ��'q�¨� � £�  �� � �������� ��'¬� ��� �������� ���������&�� ���� � ���& ���� �����&¡�¤�¨ ���� ���A�� ���� � ���������!� ����� � ������ �������'� ���� � &���������������;���� &��������� � ��� � ��Àª¨� � � �����d��������� ��� ��� ��'5� �� ����� � ����$fª¨ °������� � �� ��«� �¥��� ������¥���� ��� �'������ ¬�����¨����������� �º�¨��������¡���� � ���¢�� �������! ����!���f� � ��� ��'� ��� ������ ������ ������� � �q� ���H� � ����� �E�������H¡� d���¥����¢q��������'� h����� � ������� � ��'À������'� ����������� ������������ ��'A� � ������ �����$�ª¨ � ������� ��Y� � ���+I>�Ô ¸ �¨��� � ���������! ¨ ���� ���� ����������¶������� � ��¶� �! �����¢� ��! ������/� ��� � ���/� �� � ������;�����¶�!��� � �

-��������� �����¡�� �� ���}�³��ª¨ �¢� ���$ �¢� ��³� � !��� ��� ��¢� ���� �����¬���7I>�Ô ¸ �¨���!ª���������� ������Ã� � �! �� H���¬�� � �� ¤h���� H����� � À�� � ������ ����� � ¤¥���#ª�����£h� �!�! �������� � ¤ª¨� � � �!��� � � ��  ����¡�� ��������«� �   ���� ¤x� � ���� ��� ����� �����Ã���j������ �� '��¬� � ��£q��$�����!� ��ª����������! � �� � � � ¢� #���!����� £q��% ����� "!���·� � #����

-�>�� !%��������

gene_i jNk l UNMBUNV W+XZY Xt/t

SVMlight

...model/predictionfunction02

model/predictionfunction01

model/prediction

function_prediction

SQL

...model/predictionfunction0

2model/prediction

function01prediction

Page 11: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

57

4. HJÇ0ä�m 1 ñaWJL . Ç0W N/n ÇMH N L O�³������� ���%�$}ª � � � � ª����� ��� � ����� ��������>� � ¥����°�>�� ³%�������$ � ���q� � �� � � ��� ��� �� � � ��'!�� ���� ���� ���Ð�Ø���éq� � ¨��������� �������������� ����� ����¤f�!����� � ��'!¢q��� �� ���JØ %�é³� � «����� ��� �3����� � °��¡�� ���� � ¢� °��� � ��� ¡���� «����������� ���A��� ��� � ��º�����

-������ ��� ��¦¢q��� �� ���JÏ�����xØ�"�éj� � ���������� ��Ï���A��!� ��� ���� «���¨� ª��Y� ¤} � ��A�����������Р���� j����¡�� j�������� ������ ��·� � j�� ���� ���� ��Ï����� ����� ¢�� �������·'� ��� ��Ï�����#� � ��� � ��d�� � ��� �� ������Ì�º¡�� ������¤²�� ������ �����Ä� � ���«�� �� ����� ¡� ��«� ��� �������� �������¡� �� ª¨ � ��Â� � ¶'� ��� ���� ¸ � � � ����' � � � �� ���� ¶� ¤} �� �����x�� ���� ���� ��;���¡���������'�� �������������$�� ������� ����� ����� ������ ����� �������� ¥� �  �������!���«��� � � �¢� � � ' � � ¤°������������� h ��� ���� ��� ���������q���E������ ��Y��������� ¢� h� � ��� �����¡�� �� $�ª¨ ��� ��A� ������� � ������������ � �������� � ���$ï� ��� � ������ ������ �����!� �� � ���$ ¸ ��� ¹ ����� ��$�������� ����� �� �Ö�� �� ' � ¡���� �! �� � ������� �q� �� ����� �� �/�� �� ' � ¡���� �! �� � ����� � ��� �� ���� ���� � f� ��� �� ������!��� � ��'h�� � �������� � ¡� �������� j� �i������� � ¤A¢q��� � ��'���¨ ��� ���� �����!��� � � �� f��������� ���$M�����¬� ����� f�� �������� ��������� � ������� j�!����� � ��'¢q��� �� ��#�� � � ����� ��¬����¡� �� � ����� ' � � ������ª�������$���� � � ����' � � � À� �� ���� �����x����� �� � � ��������� �������� ����������E� � f�������F�� �Í���� �� ��¬� ����������·� ��¢� �� � � 'q��� ������� � ���¢� ��������! ¨� � ���� �����¡�� �� $ߪ¨ ¨����� ��������� ��¥���po��� �� � � ���BoM�� �� ' � ¡���� � ������$� � ��� �¡�¤³� ����� �!� ©�� ��'�� � Y ��� ���� ��� �����À��������������¤¬��'q��� ��� ��>� �� ����������� ��Ø��¨� ��¡�� �������� � ¨'�� ¢� ��A� ����� ��� ��'f��������� �� é�� ¸ � � � ����' � � � ���F�� �� � �!� ©���� ����� �����¡�� ��5���j�����! �������� ��������� � ¤«� ��� ����������¡�� �$�ª¨ ¥ ����� ���� º���À ������ ��� ��������� ��� �����±� � ��� � ��¢q��� ¢� ����¬¡�������� �-and-

¡��������Á� ������ � � ��'¶� � ����� �'�¤���q� ���Õ�! �� � ���Hª����Õ��� ��À� ������ ���� ����� � ¤����j'� ��� ������ A� � A� ��� �������������� ��� ���� �������³� �d� � °����5�>�� d%������ � ��� £±"h�����! � �� � � �������²���º� � ���� ���� ������$Õª¨ ¬����� �������!� � Ã����¢q��������'� �� ���#� � ���!�! �� � ���º� �º� ���� � ��� ��� ���� ��� � ¢� #��������������¤������!�����! �������� ���������� � ���������� ������ ��Q�2 ð Hhë>í!§ L°þ>î�ó�þ>õ�î"¦Ò � ��� ��$�ª¨ f'�� ¢� H�F¡���� ��j��¢� ���¢�� �ª;��� � ��� £¦"�� �q� f����� £#ª����·���& ��� ���� ���� � ¦��������� ������� �§�#�� �� �fª � ��� x�#'�� ¢� ���'� ��� ¦��������� � ¢� dØ ª � ��� h� � ������ �� �«�����!ª � � � � � �  '� ���  ������ ��¨���¨��������� ���é�� �q�  'q�����¨ª����&���� �� ����&���� ������ � j��� ��� � ��#��������� ����� j��������� �������·ª¨� � � � �¦�Õ�� �� ��$���� �� $��� �� �ª���� ��$d��¤}���� ������ � $d��¤}����� £� �� �������$d ������������! �$dEIA$d ���� ������ �� � ��������!� � � ���$������ '���$�� ��� �'������¨�! ��!¡������� �$·� � �� �« ������ � ��� �$·�!� ����� � ��������������$������� �����$Ï � ��������������! �$Ï ������ � � �! ��!¡������� �$>� ������� ������#¢� �� � ��� �$A�����¢q��������� �� �q� j ��� � ���� �! ����·� ����� ���� ��q��Î�%Y� ����� ��� ��'A'� ��� ��>�����h"���Ï� �� �genes.��� � '� ��� ¦ª����H����� � '��� ���¢q��� �� ��j�����h� � �Ì��� � ��� ¡���� ���Ч��� ���� ������$�>��������$³�A���! �� ��q$ Q·� ������ ¤} � �$ ½ ��� � ��$¬�����¶� � ����� �������! �� �q� ‘� � ����� �������! +çï ��������! �� ��Õ�������� �� ������� ��#���#���� ����¨��ÎÏ� � ����� �������! �����!¡� ������ �q� ³����� ��� ���A���¨� � ¬��� � ��¨��� ¢� ¬��� � ��� ¡���� ���ª¨ ��� ��!��� � � �� � ������ Ò ����� ��� �������� �$ � � !¢q��� ��  ���R¿ �>��������ç�ª����¨�f� ��¡�� ��&���Õ%�Ñ� ������ �� ������ �'q����� ���$�� ��� � ��� ¿ �>¤}��� � ����ç5����� ¿ � ������� ����� �� ����� Ò ������������ç���³��ª¨ �¢� ���$�è��EZÁ���Ï� � #�>�������F¢q��� �� ��Fª¨ ��� # ��! �� ¤À� �����r�s}$������ � � ���� � Ì¢q��� �� ��hª¨ ��� Ì�!����� � ��'q� �q� ¨¿ �A���! �� ��$ç«��� � ��� ¡���� °� ����� ����� ���! ��!¡� ����°����� � ±Ó�ÎÌ ������ �� �Ä�����! �� ��� ��¬� � ���Ã���� § ��������� ���¡�¤� ����� ¢�� ��������'� ��� ����å¿ Q·� ������ ¤} � +çq����� ¿ ½ ��� � �Bçq����� � '��¥�q'� ��� &���!���� #���� � ����� � ������ ¤} � ��Y����"�Ó��#� ¤} � ���$��� �� � ���� � ¢� �� ¤�� ¸ �¦ ��q���! �� ����������������� ���%!���F� � ��ª¨�!¡� �����ª��

�¨ ��� �¨%�"�Ñ���Î�ÑEssential

r���� ���� �����Bs�>������� r�o � �$Q è �¨� Q- ���� � ����'� &�������������Bo`s�A���! �� �� r�o � ������� ����� �����!�����! �� ��� ��Bo`s

Q·� ������ ¤} � r�s

½ ��� � � r Q ��������%�Ñ�$ Q ��������%�Ó�s� � ����� �������! �Ò ������� ����� r�o �>�ÔqÔ¢BÔ ¸ IÌË¥I>� ¸ ���E ¸ � ��ËY�(o�$» Q I>Ë � ����§��tY� � �������¼�sÔ¨������� � ©���� ����� ��¤}���� ������ ��q� f��������� ����� �� ����� ¡� ���� ��� �������� ��������¡� �� ª¨ � ��¬��� �&���Õ� � ���%�Ñ�"&'� ��� ���� ����$�ª � � � � ������� ��� �>���e��Î�%Y� ����� ��� ��'A'� ��� ��>�����h"���Ï� �� �M'� ��� ���� �q� � ��� �������� �������j¡� �� ª¨ � ���'� ��� h ���� ���j������¡� h��������� � ��� ��E���A¿ Q·� ¤�� � ������ç�$¿ �¨ ��� �� � �+ç�$Æ¿ �¨ ��� �� � �

-Q·� ¤�� � ������çj���A¿ �³��ç������¦� � ���� ��� �Ï� � �� � �� ¤} � ��Y���� ��� �������� ��������$�� � Ì� � �� ���'�� � �h����� � «� ��� �������� �������¥���� °��������������� ����F���ª������ �A¡� ¨� ��� ��� �� � � ��'f���!� � &� �·� � &� ¤} � #����� � � �� ���'�� � ���·� � #��¡�� ���¢� ��� ��� �������� �������j������� ��¡� º�� � �� � ��À����� ������ ���� � ��'« ��� ���� ��� �����Ì��������������¤��

�³��ª¨ �¢� ���$·� �  ���������¨�����!¡� �� ���f� ��� �������� �������¨ª����¨������� ������� ��� ����¨��� � ����������Á� ��� � �� ��� ������  ������� ¤�� ����$·� � ���� !� ��������� ��� �����¬����� ��� �&���Õ� � � ��� �������� ��������¡� �� ª¨ � ���� � f'� ��� ��������!����� � ��'q� �q� ��� ������� �$�ª¨ j�� ���� �� �����Y� � �! �� � ��¤!� � ³������� ¤�� ���M¡�¤!� �� ���� � ��' Q·� ¤�� � ������$��¨ ��� �� � �³�����Y�¨ ��� �� � �-Q·� ¤�� � ���������H� ����� ����� � ¢� ;���º���¶��¡�� ���¢� ��E� ��� �������� ������$������ �³�E���� ����� ����� � ¢� H���j�F����� � ���� f������¡�� ���¢� j� � j� ��� �������� �������j®« j��� �#�����·����£� � �����x�������������Y� � Ì� � �� ���'�� � ���³ ���� � � ��� �������� �������F���d� � ���Aª���¤�$Fª¨ '� ��� ������ ��°¡�� ������¤x ���� ����� � ������ �� ����� ¡� ��°� � �� ��� �������� ��������¡� �� ª¨ � ��'� ��� ���$������!ª¨ &����� � ��!� � ����� � ³ ° ¸ ² ¯ µà° ¸V¬ ®�¯ ²u ¬ ° ªC¸�¯ ®�´ ² ¬ ° ªC¸C«BvV° © .

w�x?y�x?y{z}|Z~*�������q�����q�����/�/�����{�e���������®« ³�� �¢� ����� � ��º���º�� � �������� � ����� � ������� � ��' �!����� � ��' ¢q��� �� ���$ï� � ��� �¡�¤��� ����ª¨� ��'h� ���� À������������� � ��� ���� ��� ��������� Ò � ��� ��$�ª¨ «��¡�� ���¢� ��h� � ���>� � �>��������$A�A���! �� ��q$ ����� ½ ��� � �°��� � ��� ¡���� ��hª¨ ��� � � ' � � ¤±�� ������ ��;������������ � ©���� ������$fª � � � °� � ���� � ��«� � �� � �$f��� ���� ������$ Q·� ������ ¤} � �$������� � ����� �������! ����!¡� ���$«��� � �����Ì�������� ������ µ� � ������'�� ¤Âª¨� � � � � ��¡�� ���� � ¢� 5��� � ��� ¡���� �� Ò ����� � ���� ���� �$�ª¨� � � �� �'q�����Ä���Ì� � ±¡�� ������¤� ��� �������� �����d�� ������ ������� � � �$Fª¨ °��¡�� ���¢� ��º� � ���!'� ��� ��!� � ���!� ��� �������� ��ª¨� � � � � ³��������� � ��'¥'� ��� ³ª¨ ��� ³��� ����� � ¤ ��������� ��h� �h� � «�����! ³ ������!���� �  �� �� ��� �q� ���&���#�f������� � ��f� ����� ����� �����¬� � ���&� � H¡�� ������¤h� ��� �������� �����relation

� � � !������� �������� �! ��� ���� ��� � ��'f��������� � ©���� �������®« ¦�������!����� ��H� � ���j��� � � ����' � � ����¤«��� � ��� ¡���� Y¢q��� �� ��Õ�����Ï� � q��Î�%� ����� ��� ��'¬'� ��� ��¨ª¨ ���  �!����� � ��'q$Ï���¨� ���� ������ ����f� � H� � �� � ���� � ��� ¡���� ��Ø �>��������$��A���! �� ��q$���� ½ ��� � ��é&ª����F��� ����� � ¤��� ���� �� ����H������ � ���$q��� ����'� � �"���&� �� �M'� ��� ���$�"�Î�è � ���h���� ³���q� � �� � � �� � ¢q��� �� ��>����� ��� �������� ��ª¨� � � ��� � ��Y'� ��� ���� �q� ��� ������� �$�ª¨ ¥�� ���� �� ��À���������! � �������� ¥�����A� � �!����� � ��'¥� ��������� ��� �����h¡�¤H��� � ��' � ��������� ��� �����º���¥� � �� � �� � ¬��� � ��� ¡���� �������!� � &¡�� ������¤j� ��� �������� �����!�� ������ ������� � � ��

w�x?y�x?���0� �������/�����e�����/�N��~�~*�/|����������Ë���� E� � E���������� ���� ���� �� � ���²¡� � ��Ö� �� ���� ���$Aª¨ Ä�� � �� � ��;� � �� � � ���� � � ����� ���� �� � �������� � ��!���¥� � ¬�������¬������� ¤�� �����Õ��� S

15U $�ª¨ � ��¢� ��� �¢�������� � ¤��� �¢� ����� � ��3���d ������ ��� ����A�! �� � ���3�����!� ��� ��'��������� ������ ����������������� �����;����� ��h� � ��� � ��¢� Ä� � ������'3�� �� �¢q������ Ì���x� � ���¡�� ���� � ¢� ��� � ��� ¡���� �$>� ��� � ���&��������� � ©���� ��������®« H� �� � ��¬� � H��� ������ �� ����Y���� � ����� � �������� � � �!������£�� � ��'f� � ���� ������ � ���������� �����¡�� �� �

Ò � ��� ��$�ª¨ �'� ��� ������ ��x�j�� ������ �����h� �� � ÃS ��CUÕ� � ���>ª����>����¡� �� ��hª¨� � ��������� ������ ��Ì��������������� �����À����� ��ÅS1,15].

�q� ���³�� � �������� � � ���� º�!'q������ ������ j� �Y� � � ��� £A%�$������h������ ��� ���� ��� �����Yª����M������£� ��Y� � � �������� ���������$ª¨ x� ���� x�����!¡�� ����� �������À���º� �¢� ��������������� ������ ��¶��������������� �����E����� ��

Page 12: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

58

��� � ��'³� � ¸ ��� ¹ ����� �� � ����� �'�¤ÈS 14,15U·� �À������ ��>���¡������ �q� �  ��¢� ������ � ��� ���� ��� �����À��������������¤�� �q� � ����$}ª¨ !��� ��³� � !�� ����� �� �q�� �� ' � ¡����!� � ����� �'�¤

[9U �fË�¬� � �� °� � �� � ��� � �������� � ���$j� � Ã�� ����� �� � �� �� ' � ¡����¬�! �� � ���ª�����£� ��á� �� �#�����H� � �� ����� ��� ��'x��������� ���� Ò � ����� � ¤�$�ª¨ Ì�� � �� � ��x� � �� ����� �� ���� �� ' � ¡������! �� � ���!����� � &� �� ����������� ����

4.2O î�ë>ó�î�íïì O î�õ��ÆÊ�åf÷>óÈÇ�øfë>û�ÿ>íïõ�í

w�x?��x?yq�������/���������������/�����0�����e|���������|��/���Ôq ��

R¡� d�Y�� ������ ������� � ���j�����h� ������A�� ����������jª¨� � � ª � � � � �� �������� ���� � ��� ¡���� ��&Ø �� ���� ���� �� é

f1,f2,...,fk���� H��������������� �����®« H����� ���! � ��� f� � ���

R� ���F� ª�� ��� � ��� ¡���� ��f���Y� � �����������Ë�� #���F� � #£� �¤À��� � ��� ¡���� #��� �� ������ � ����� Í��� � �� ���� � ��� ����� �����h���q ���� � �� ���������� �q� ���� � ��q����� � ���¡�� ���� � ¢� ��� � ��� ¡���� «�������������� � ��� ����� �����h �����¡�� �� �ïÔq ��

Di¡� �� � ������ ��� �º���

fi�

Ôq ��r¡� d�Y�� ���������� �

R�q®« h� � ����� ������ h� �

fiç��j¢q��� �� h� �

r¡�¤

r[fi]∈Di��®«� � � �������������F���·'� ��� ������ � � ¤�$�ª¨ #����� ���! &� � ���

r[fiU����F�&� ��F���

¢q��� �� ����¨���Y� � ����� ª � ��� � � fjç���¢q��� �� ����

r�����¨� � ��'�� ¨¢q��� ��

c$ߪ¨

������� ��� � ¤A�� �'q�����#� �Ï���·� � �� � ��'�� ������¦� ���rcs}$�¡����·ª¨ �� � �! �� ¤!�� �� ����� ¡� � � H� ��&���

c�����Õ�� �������¡�� � � � ¤��

r1�����

r2� �

R���� j����� � ��#���

agree���

fi� �r1[fi

U±�����r2[fi

U±� � ���� �����! ¶�����!� ���Ö �� ��! �������J¦�����! �� ¤�$r1[fi]∩r2[fi]≠φ.Ò ��� ��q���! �� �$�������� � �� ��� � ³�������¨�� ������������ � � ��¡�� ¬��$ï� �¥ª � � � � � � key��� � ��� ¡���� ������¨ ��� ¬�����¥� � ¬��¡�� ���� � ¢� #���FÔ¨������� � ©���� ������� �q� #��������� ���������� � �§� � x����¡�� ;���� x�! ��!¡� ��������h��������� ��H%��Ë¡�� ���¢� x� � ����¨%�"�Ñ���%�ÎE��'��� � ���ª¨� � � �¨%�"�Ó���Î�Ó̪¨� � � �� �� � ����³���À� � º��� ���� ������$�>��������$������!�A���! �� ��H��� � ��� ¡���� ���$�¡� ��������

G234126[Class]∩G235065[Class]={ GTP-binding}�¨%�"�Ñ���%�Î5�������5��'��� � ��ºª¨� � � �¨%�"�Ó�"�Ó�è¿� �¿� ���� �§���x��� ���� ������$�A���! �� ��q$������ ½ ��� � �Ï��� � ��� ¡���� ����Ë�� �!� ' � �M������� � �� ����� ���� ��� ��'A� � �� �'��� � ³���&��'��� � ��! �����$ß¡� �������� ¨� � � ��� �������� �����§���r1[fi

U#�����r2[fi

U& ������ � ¡�� ¤«� ��¢q��� ¢� ��j� ���� h� � ���E���� �� ��! �����$M������� � f�����!¡� ��f���Õ�����!� ���# �� ��! ������·ª������ �#¡� j ��� � ���� ������ ����� ����� !� �  � � �� ���'�� � ���j��'��� � ��! ����&���

r1�����

r2���

fi���³��ª¨ �¢� ���$

� � !�����!¡� ��!���f� � ���� ��³ �� ��! ������q� �³��������� ���%������ ¤} �� ����� � ¤Y���¨'��� ���� ��� � ���Ö� ª���$º�����Ö� � ��� ������� ¶ª¨ ¶�����������d�� ���� �� Ä� � ­� � �� ���'�� � �����'��� � ��! ������}� �¢� ���� � �� �����$�� �M���M� ��� ��� �� � � ��'A���Y� � ª � �� � ���� � ��� ����

��'��� � ��! ������ � �� ���'�� � ������� ��� ¡���� �� ���º� �! �����¢� ��! ������ � �§ ��� ���� ��� �����

accuracy.

¹ � ������¤!� ��� �������� �������M¡� �� ª¨ � ��Y ���� ���>���q'� ��� ��>���� ³�������Ï�� � ��� �� ���� ��A¡�¤�Y�� ������ ������� � � �� � ��¡�� h%�� � � ��� � ����� ���� ³ ° ¸ ² ¯ µT° ¸V¬ ®�¯ ²u ¬ ° ªC¸ ¯ ®�´ ² ¬ ° ªC¸ Jthat����$>�H� ��#���j¡�� ������¤h ���� ���#���j'� ��� ��#�����¬� � À� � �� ���'�� � �Y���� � �� ���������������� ��#� ��� �������� ��������� �q� �� j� ��� �������� �������Ï���� ��������Ï�������°��������� ��M%��� ª��'� ��� ��¨���� !�� � ��! ��³��� ² JV¯ ®*®I�÷° ¬ v �F¡�� ������¤Y� ��� �������� �������� ������ ������ �A� � h ���� �Y���j� ��� � ���� ��� � h�� ������ ������� Ò ���Y� ��� �������� �$q�¨%�"�Ñ���Î�ÑE������¨%�"�Ñ���%�Î!��'��� � &ª¨� � �!� ��¡�� &%

.

w�x?��x?�q������������|��/�®« Ã���� ¬����ª¶� �§�# ���� � � ��������� �� ���� �� ¦�� �� ' � ¡���� � �������H��� ����'�� � �� ������������³®« ;���������E���Á�¨%�"�Ñ���%�Χ� � � ��¡��

1�����¶�� ���� �� 3� ����� �� ' � ¡���������®« ¦� � #� � ���F� � #����  � � �� � Y'� ��� ��jØ �¨%�"�Ñ���%�Î�$��¨%�"�Ó���Î�Ó�$�����!�¨%�"�Ñ���Î�Ñ�é�� �!� � &����¡�� #���� &��������� ��!� �!� � &��¤}���� ������ � ����� ������ ��

���H�� ���� �� h� � h�� �� ' � ¡���� � �����E���A� � h��������� � ��'À'� ��� ¥�¨%�"�Ñ���%�Î�$�ª¨ ��� � � � ©� #� � #����� ���������Y��� � ��� ¡���� ¦��'��� � ��! ����Õ¡� �� ª¨ � ��H� ª��f'� ��� ���Jï� � �������$ � ª���� ����������¨���� neighbors

� �F� � �¤¦��'��� � !ª¨� � � �� �� � ����q����� �������� ���� � ��� ¡���� ����}��������� � ��� ������ � ¡�� A����� �� ������� � ��� ¡���� ���� � ������� A��� ������q� �� � & ��� ���� ��� ����� ���·��������� � ©���� ��������q� 3� �� ���� �����¶��� � � ����� �������! º� � � ��¡��

1���³�����³ ����� ���� � ¢� �$¡� �������� ������ ������ � ���� � ��q� � �� � ¨'� ��� ���� ��� � � �¨%�"�Ñ���%�Î>ª¨� � � �� �'q���������� � ���H ��������! �� ���$³�����§� � ��� ������� x� �H���H� �! ������ � ¡�� x����� ���� ��h� �

localiz��� �����3�����¨%�"�Ñ���%�Î�� ¹ ¤�� � ����� � ��' ½ ��� � ��$F� � ¬¡���� �����Ö'� ��� �¨%�"�Ó�"�Ó�è#¡� ������! ��·� � j�� �� ' � ¡�����$�¡����·� �·���M��������� ��Y� �Y�!� ����� � ��������������q� f� � ��� �� H���Õ�A���! �� ��#�� �� � '������ ��&��� �·� � �� � j'� ��� ��Ï���·�� �� ' � ¡������Ï����¨%�"�Ñ���%�Î�$ï�����A� ��� ������� � �� ����� ¨��������� ��A� �A� � ¨��¤}���� ������ � ��Ë�� &������������¨������� � �� ��F� � f¡�� ������¤Y� ��� �������� �������� ������ ������� � � ��¡�� j%����¨%�"�Ñ���Î�Ñ�$ª � � � � ���>��������� ��h� �h��¤}���� ������ � $��������� �� ��������A����� ¤ ���Y� � ³��������� � ��'��� � ��� ¡���� j�¨%�"�Ñ���%�Î&� �#� � ���·����¡�� �� �q� j� � ��� �� ������>�������Ï�� � � ������·���Ï¡� �� � ����� �������� �$&� � ���� ¥�¨%�"�Ó���Î�Ó�$�ª � � � � ���¨��������� ��«� �«� �  ��¤}���� ������ � $

bec���! ���� � &�� �� ' � ¡����&���·� � &��������� � ��'f'� ��� ��

w�x?��x?� �������/���/� ������������|�� ���/�/�������0����� �Z�  �/��|��/������¡/�����q�������/��������������H �������� � �� �$�� � ��� h���� Y� ����¤³�!����� � ��'�¢q��� �� ���$q� ��� � ���Õ� � ��� ¥� � ���� ���������� ���%�$Õ�����¥� � ����� � ���� ¬���Y����� ¤À�#� � ��'�� ¦��� � ��� ¡���� #� ��¤������F¡� � ������� ��� ����!�����¦������������� ¦ ��� ���� ��� ������� �q� ��� ������� �$�� �§������ ��#��������� � '���� �� ' � ¡���� � ��������� � ���!���� �¡���� ��º���º��'��� � ��! �����ª¨ ��� � ��¥���A ��q���!� �� � ���� x� � ���Á���� ;��� � ��� ¡���� �� Ò ���¦� ��� �������� �$� � � ��¡�� 3��$����� d����������!¡�� �� ��>��������$��A���! �� ��q$������ ½ ��� � �³��� � ��� ¡���� ��Ï����'� �� � ��ª¨� � � � � ¡�� ������¤A� ��� �������� �������·� � � �

ble%���®« �� � � � ���M� � ¡���� �����°� � �� � '� ��� �������¥¡� �� �� ���� ��º���F�� �� ' � ¡������f� � ���� #� � �¤À��'��� � #ª¨� � � �¨%�"�Ñ���%�Î!ª¨� � ��� �'q�����!�����>��������$��A���! �� ��H����� ½ ��� � ���

k7����� ¢+"%"%���� ��! 8$! ��"%" 8$��� - ! ��l \A�� ) 8$��� ������"%����� &'������! ì��� ���k :�£�¤=<%:�� ¥§¦ ��� -¢+"%"%���� ��!�¨ ¥ k7m� -(� ��/� ��*�¨ ¥ m� ����"%! �� ���Z¨ ¥ ��^ ;�;�;=<%q ¨ : ��,B � - ! ��"%�k :�£�©�;���© ¥§¦ ��� -¢+"%"%���� ��!�¨ ¥ k7m� -(� ��/� ��*�¨ ¥ m� ����"%! �� ���Z¨ ¥ ��^ ;�;�£�;=< ¨ < � ��,B � - ! ��"%�k :�£�¤�;���¤ ¥ ¢+"%"%���� ��!�¨ ¥ k7m� g k7��� -��l���������*��;¨ ¥ m� ����"%! �� ���Z¨ ¥ ��^ ;�;��%:�¤ ð%��^ ;�;��%:�© ¨ < ��,B � - ! ��"%�k :�£�©�£�©�q ¥§¦ ��� -¢+"%"%���� ��!�¨ ¥ ¨ ¥ m� ����"%! �� ���Z¨ ¥ ��^ ;�;�;=<%q ð%��^ ;�;=<%p�; ¨ q �� ����������/�� �

�ÆÛ;< ì ×!^ Ø�ª - Û;, @�ì ×çã­è"ÔC× ß ×*Þ Øk7����� k7����� m, - � ^� � ����*� �k :�£�¤�;���¤ k :�£�¤=<%:�� k7������ � -����,B"% ����! ; > p=<�¤�;�p�©�;�q=<k :�£�¤�;���¤ k :�£�©�;���© k7������ � -����,B"% ����! ; > q�©=<�©���¤������k :�£�©�£�©�q k :�£�p���©�£ k7������ � ; > �%p=<%;�£�p�p=<�©�ÆÛ;< ì ×�« ØÚÙ Ó ß�Û Ö Ý Ó ß á�×*Ö Û æ*á�Ó ã ß Ö*×*ì Û á�Ó ã ß!< ×*á�âR×*× ß @ Û Ó Ö*Þºã­è"ÔC× ß ×*Þ .

Page 13: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

59

��������� ���ª � ��� A� � A�����!¡� ��A������ �� ' � ¡����������q������'� �$ ª¨ ! � ����������Á�������� � ��³� �� ���� �����d��� ����' � � ��� �� ' � ¡��������h���º������ ��¨���¥��� � � �¢� �� � ����$ª¨ ¨ ���������� � � ©� ¨� � ���� � ��� ¡���� ���� ¸ �F���! ��q���! �� �$�ª¨ &� � ����� &�A���! �� ��H���� � « ���� � ����¤§��� � ��� ¡���� °�����d ���� �������¥��� �A� � «'� ��� ��!� � ��� ��'��� � ¬ª¨� � ��¨%�"�Ñ���%�ÎH���H�A���! �� ��$Jï� � ���Õ����$q��� �j���>� � Y¡���� �����±� � �� � A'� ��� ����}®« � � ��Ì� �� �����>�����������¨� � �� �������������¤x��� � ��� ¡���� �$Ï�����«ª¨   ���� �������¨� � '� ��� ���� � ���E��'��� � ;ª¨� � � �¨%�"�Ñ���%�ÎEª¨� � � �� �'q�����¶���E�>��������$�� � ����� �¢� ���� � ��'f�¨%�"�Ó���Î�Ó�$�ª � � � � ������������� ��!� �!� � &��¤}���� ������ � �®« h����ªÄ ��� �� ������Y������� ���j�� �� ����� �� �����E���A� � h�! �� � ������� ��À����� �� � ��� ������ �� ' � ¡��������¬���� � ���� !� � ���qª¨  � �� ����¨�����! !�� ���� ���� ��q�������

f1,

f2, ..., fk$Y�����° ���������� � � ©� �� � �� ���«¤}� �� ����� �Í��� ����� E������ ���� ���� ��

[g1,...,gmUÕ� � ���>���A������ ��� ��h��������� ����>���Y��� ' � �AØ ª¨ ³�� ������ «������ ��¡�¤

���������� � ��'º�³� �Í��� ����� ³ª¨� � � � �d� Í������� ³¡�������£� ���� é���Ôq ��r∈R

¡� «�¨� �� ��� ���������$>�����¬� ��Ni�� ������ ��H� ��#���j�� �� ' � ¡������#���

r� ¸ �#�f� ����� ��� ��'��������� ���$�� ��M���>� �� ����>�������

- ��! �� ¤ � ��

Rtrain⊆R$�� ��� � � � ���

r���M�����>��! ��!¡� ������

Rtrain �ï���¥� � �� ��� � �����!� � � �$直 ¦����� � '�� Rtrain ��� N0$������

ª¨ #������� � ���� #���!�� �� � ��� ���Ni¡�¤���� � ��'H� � Y ���������� � ¤³� ��� �¥S

g1,...,gmU $q���

� � � ��� � ����� ��!� � Ò � '����� 12.

N0:=Rtrain J¬®­�¯±°�²�³Z´ ° = 1,2,...,m begin

Ni:={ x∈Ni-1 | x and r agreeon gi} ;

if Ni=φ then Ni:=Ni-1J

end

return NmJ

ÒVÓ ÔCÕ�Ö*×!^2:µ)Vã , @�Õ�á�Ó ß Ô�á � × ß × Û Ö*×*Þ±á ß ×*Ó Ô ��< ã­Ö � ã­ã­ëè�ã­Ö Û @�Ö*Ó ã­Ö*Ó á Ý ì Ó Þ±á

���� ���� � � � � �$�ª¨ f�����! ���� f� � f �� ��! �������� �Ni-1� � ���&��'��� � jª¨� � �

r���H� � Y�� ������� � ��� ¡���� gi$�������ª¨ ¥����� � '���� � ¥� ������

Ni� �q� A�� �ª�� ��

Ni� ��¤!¡� ��! �� ¤!���� ���>� ����¤f�!����� � ��' ��� � ��� ¡���� ¨¢q��� �� ����ß���¥������ ��q���

��¢q��� ������� � ��'h��� �·� � j�� �� ' � ¡������Ï���rª � ��

Ni���· ��! �� ¤�$�ª¨ j������� � ����

� � j����� ��������� �����#¡�¤A�� -����� � '���� ��'Y� � j ��� �¢��������·�����

- ��! �� ¤

Ni-1���

Ni�

®« d�� � � ������ � �� 3� � � �������� � �i=m� �q� º��� �����«� ���$

Nm$&����������� ���

�� �� ' � ¡�������� � ��� � ��¢� �� ����¢�� ¢� ��¥��'��� � ��! ������ �� ������� ��� � ��� ¡���� ���� � ������' ����H� ����¤ � � ' � ��¦ ���������� � � ������H ������ � ¡�� �� �q� ��� ������� �$¨ª¨ d����� ��� � �! ��!¡� ��������Nm� � ¸C® ² ¯ ®*«­¬Á¸C®�° Jv ³ ªV¯ «Aª H r �÷° ¬ v ¯ ®*«±©C® u ¬Y¬ ª ¬ vC®° ¸V° ¬ ° ² ´º¬ ¯ ² ° ¸V° ¸J�¶ ² ¬ ² «±®�¬ Rtrain ² ¸C¶M¬ vC®å©V¯±° ªV¯±° ¬ µJ´ ° «­¬ S g1,...,gm

U ��®« �� ������ &� � &��� �����F����� ª¨ ��

Nm����Ð

NN(r, Rtrain, [g1,...,gm]).

w�x?��x?w¶z}�����/�/� ������������|��C�Z�·�������/���/�¸������������|��/��|�|��Analysis

Ôq ��obj¡� d���E��¡�� ���� � ¢� d��� � ��� ¡���� �$¨� ��� � ���jÔ¨������� � ©���� ������$¨������� ��

Dobj¡� #� ���F����� ��� ����®« #����� ��������� #� � ¦��¡�� ���� � ¢� Y¢q��� �� h���

r$

r[objU

������� � � �� �i������� � ¤;������¡�� ���� � ¢� �¢q��� �� ��¦������ ����� �� �#�� �� ' � ¡������#� �NN(r,Rtrain, [g1,...,gm

U é���� � ��'f� � &�������!������Ð

arg maxd∈Dobj| { x∈NN(r, Rtrain, [g1,...,gm]) | x[obj]=d } |,ª � � � � ������ ������ ��!¡�¤predict(r, Rtrain, [g1,...,gm]).Ôq ��

Rtest ¡� ��q� �� ����������� ���$ï� ��� � � � ��� Rtest⊆R$������

Rtest ��������� ����� ���������� � � E� ����� ��� ��';��������� ��Rtrain JY� � ���h����$ Rtest∩Rtrain=φ

� �q� ��� ���� ��� �����3��������������¤E���¦��������������� � ��� ����� �����º�! �� � ���º��� � ��'�� � ¬� �� ���������� ��Rtest ���

| { r∈Rtest | r[obj]=predict(r, Rtrain, [g1,…,gm]) } |¹Rtest| ª � � � � ����� ��� ����� ��À���«���

accuracy(Rtest, Rtrain, [g1,...,gmU é!� �«� �

����� ����ª¨� ��'f����� ������� ��������M�°������ª¨ � ��¢� ¶����� ���! ��²� � ���x�� ���������� � ¤3� ��� � S

g1,...,gmU ���

�����¢�� �� ��H�����Ï� � Y�� ���� ��� � ���������>�� ����� �� �Õ�� �� ' � ¡���� � �������������H��������$�� � � � ��� �� ¥���� ���������� � ¤#� ��� �¨� � '���� ��� ������� � ¤¦������ ������q� � ! ��� ���� ��� �����«��������������¤¡�¤²� �� ���� � ��'����Ä�� �� � � ���³ ���������� � ¤Ã� ��� �³� � ���³� ����� �!� ©� ��¬��������������¤���¨ ��� ������ � ¤�$�� � ���F�� �� � �!� ©���� �����! �����¡�� ��x����� Q-hard.

Theorem�������� Q

-� �����¥���A�����! ���� ÄS

g1,...,gmUq� � ���f�� �� � �!� ©� ��

accuracy(Rtest, Rtrain, [g1,...,gm]).�q� & ��������Ï���·� � ����� � ����� ��x����'�� ¢� �� ����� � & ���� ���·� � ���F� ���� �������

Q�2?1 . ÷aæ Éfüfì�õ�ø��TL�Éfì�õ�æ±ë>û¨ò#ó�õ�÷>ó�õ�ì�ÿ���h� � ���A� ���� ������$�ª¨ ³ ��� �� ����A���h ������ ��� �����¡�������� �

-and-¡��������º� ������ �� �� � ��� Í��� &�����&����� ¢�� ��'f� � #�� �� � �!� ©���� �����! �����¡�� �� �

Ò � ��� ��$�� �F���F����� �ª������ � ¤�� � ���F� �Ï� � h��¡�� ���� � ¢� Y¢q��� �� h���A����¤³�� ��������x∈NN(r, Rtrain, [g1,...,gm

U é����� ��±�����±����� ����� �� ª¨� � �r[obj

U(x[obj]≠r[obj

U é�$ � �q���q� �! ������ � ¡�� !��� ��� ���� ���r[obj

U��������� ���� � ¤�������� � �������� �$r���q��������� � ��� ��

unpredictable��� � ��'#� � f�� ����� �� ���� �� ' � ¡���� � ������ �� � ��� Í��� �� �q� f����� �������Õ���� ��� ���� ������¡�� f�� ����������&��� ����ª����������¨¡��������� � & ��� ���� ��� ����� ��������������¤�Ð

acuracy(Rtest, Rtrain, [g1,...,gm])

≤ 1-|{ x∈Rtest | x is unpredictable.} |

|Rtest|.

Ø %�é�q� �� � � ��Á¡��������¯� �¯� � ��� ' � �

-� ����� � � �� ���;�� ������ �� ¡�¤

ub([g1,...,gm]).�� ���������$Õ� � Ã��¡���¢� ¬�� � � ���¡��������º�� ����� ���� ��f� ������������� ����� � ¤À���������¤j ���� ���� ������Sg1,...,gm,...,gn

Uq���ÜSg1,...,gm

U%J�� � ��������$ub([g1,...,gm,...,gn]) ≤ ub([g1,...,gm]).

Ø�"�é¹ ¤ ��� � ��'¥� � ³ ������� ������� ������¨�����! ���� � ��' � � ��� ����� �� ���� �� ' � ¡���� � �����Ø�� � ��ª¨�Â� � Ò � '�����

12é�$h� �Ã���à ���� ¤5���Ö� � ¶� � ���x� � ¶�� ����� �� ��� �� ' � ¡���� � ����� � � ��� ��£q�������� ���� ���� ��������Ð

NN(r, Rtrain, [g1,...,gm,...,gn])⊆ NN(r, Rtrain, [g1,...,gm])

��� � �!�! �������� �� ¤Ì����� ����ª��H� � ���H� �r���H���� ��� ���� ������¡�� xª � ��§��� � ��'

NN(r,Rtrain,[g1,...,gmU é�$«� � ��

r���Ì���� ��� ���� ������¡�� 5ª � �� ��� � ��'

NN(r,Rtrain,[g1,...,gm,...,gnU é�� �q� ���A� � «�����!¡� ��«�������� ��� ���� ������¡��

Page 14: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

60

records� ������ ���� ��¨� ����������������� � ¤¦� �H�! ���������� � ¤¦� ��� �¨���& ���� ����� ��¬¡�¤������� ��'H��� � ��� ¡���� ���$�ª � � � � � ������� ��������·���!Ø�"�é&��¡���¢� ��

Ò � ����� � ¤�$�� �� � ���� &� � ����ª¨ &��� ��� �� ���������� � ¤j� ��� �P$�� ��� � � � ���

ub(Q) ≤ accuracy(Rtest, Rtrain, P)Ò �����x�Í������ �������FØ2é&����� Ø

3é�$������&����¤j ���� ���� �����

QP����

Q

accuracy(Rtest, Rtrain, Q') ≤ accuracy(Rtest, Rtrain, P).�q� ���  ����� � ���� ¤Ì� ��� � ¢q��� ��H���H������ �¢� ����� Á�¦¡�������� �-and-

¡��������� ������ � � ��'²��� 'q����� � � � � � ���������°¡� ���� ��°���«�����! ���� �� � E�� �� � � ��� ���������� � ¤¶� ��� ��$À�����Á� � ��� �¡�¤Ä� ����� �!� ©� ;� � ; ��� ���� ��� ����� ��������������¤���A����� � �� ��¥�¥� ������ � � �� � ����f ���������� � ¤¦� ��� ���¨� �«ª � � � � � �  �������¨���¨� � ��! �� ¤�� ��� �¥S U $q����������¤³� � � � �H ���������� � ¤³� ��� �Õ�������� �� ��������Õ���f� ���Õ ����� ����� ��� �>ª¨� � � ���� ³�� �ª¿��� � ��� ¡���� «������ ��d���>� � ³����� ���F��������� � ��'������ � �������� ��! �� ¤Y� ��� �çS U $�ª¨ j'������������ � ¤A ��� ������#� � j ���� ��!¡�� �������������� ����� j� ��� ��������Á� ��� ������� �Á� � ; ���������� � ¤�� ��� ��$¬����¤Pmax

$�ª � � � � � ��! ���������� � ¤� ����� �!� ©� ���� � º ��� ���� ��� �����Ä��������������¤��&���Ì ���� � � � � �$&ª¨ ±� �� ����«���������� � ��Ï������ Y� �H� � Y ���� ��!¡�� �$q�����Hª¨ A� ��¢� �� � � 'q��� A� ����� � � � ���� ��ÀØ � �� � ���� ��� ��������

Q�����

ub(Q) ≤ accuracy(Rtest,Rtrain,Pmaxé�$�ª¨  �����

������ �� ¤¬ ������� ¥� � º� ��¡�� �� � ¥������� ��Ì���Qª¨� � � ������� ���� ���f����� � ��'¬� � �� �� � � ���F����� ��� �������

Ë�� ¨� ��¤fª������� ��q� ��� � ����¡�������� �-and-

¡�������� � �������� � � �¨���� ����� ���� � ¢� �$ �� � �������� � ¤±� �;����� ��hª � ��� Ì� � Ä��¡�� ���� � ¢� Ä��� � ��� ¡���� Ì��� ¹ ����� �������³��ª¨ �¢� ���$·� �«� �  ����� ����f��������� ��¨%�$M� � H�����!¡� ��H���j¢q��� �� ��&� �¬� � ��¡�� ���� � ¢� ���� � ��� ¡���� ¨������� ��� � ���$������!� � ����� � ��� #���� &� ����¤��� � ������ ����� � � �����¨�� �� ����!� �� jª � �� � ��Õ� � j�� ����������Ï���� j���� ��� ���� ������¡�� �$�� �#ª � � � � ����� � � ¦�� � � ��#¡������������H� � ���� �� ¤À����ª¨ ��� ����Actually

$¨�����Y¡�������� �-and-

bound� ������ � � �� � ��� Í��� j� ��¢� �� � � 'q��� ��>��¡������>���EZ3���¨��� �M� � ������ � ¡�� ������ ����F���·� � #� �¢� �� ��� � ��� ¡���� ���� �!��������� ���%

.

Q�2?Q PqºÆÉfî�ó�õ�æ±î�øfì�ë>û�K�î�íïüfû�ì�íw�x?w�x?y   �/������������»������������/�����

Ôq ��Strain ����� Stest �� ������ «� � «� ����� ��� ��'��������¬�����º� � ¬� �� �!��������$�� �� � ���� � ¢� �� ¤�$Õ���&��������� ���%�$ïª � � � � ª����F �����¢�� �� �� ¡�¤�� � ¦����§�>�� %��������®« x'� ��� ������ ��§� � ;�� �� � � ���� ���������� � ¤°� ��� �À���º��� � ��� ¡���� ���¡�¤� �� ���� � ��'

Strain ���·¡���� � � � j� ����� ��� ��'Y��������� ��>�����Y� � � �� �M��������� ���$���������������À� � ���� � ¥ ���������� � ¤¬� ��� �ÅS �A���! �� ��q$·�>��������$·����� �������� ������$ ½ ��� � �}U(=Pmax

é�� ����� �!� ©� ��!� � & ��� ���� ��� ����� ��������������¤����è��EZ�J�� � ��������$accuracy(Strain,Strain,Pmax) = 79%.

¸ ��� ���� ��� �����h� � ���>��� ��TS �A���! �� ��q$ï�>��������$ï����� �������� ������$ ½ ��� � �}U���������� � � �¢� ��Dè�%EZ§��������������¤���'q��� ��� ��� � &� �� ����������� ��Stest J

accuracy(Stest,Strain,Pmax) = 72%.

��� ���� Ì� � Ì ��� ���� ��� �����/��������������¤§�� ����� ���� ��3¡�¤XèEZ³$f� � ��� �� � � ��� ���������� � ¤¥� ��� �Y� � � ' � � � ¤º��¢� ������ � � ��¦� � �� ����� ��� ��'¥��������� �q� ³ ���������� � ¤ � ��� �� ����� ����� ��M� � ���M� �������� �������� �����h���q� � ³��� � ���� � �� � ���� � ��� ¡���� ���$ß��� ���� ������$Q·� ������ ¤} � �$ �����;� � ����� �������! �$!� �����x� � Ì� ��� �h���� ��h�����¥� ����3���� �! �����¢� ��! �������� �!� � & ��� ���� ��� ����� ��������������¤��

��� ���� ¾��� �Ã� � Á¢q��� �� ��²���EÔ¨������� � ©���� �����ª¨ ��� ��¢q��� ����¡�� �$hª¨ � ����������! ��¬������� � ���������� ��� � ���� �! �������� �q� H� �������������� ���!�¬��� � ��¡�� 3� ����� ���� ���� � d ��� ���� ��� �����¶��������������¤����¥� � 3� � ��'�� ������¶� ��«���  ���� ���� � ��� ¡���� ������������� ��&��� � � ��ªE� � ���Õ� � Y ��� ���� ��� ��������������������¤³� �! �����¢� ��ª � ��¶��� � ��� ¡���� ��«���� ±�� � � ����� ��Ì���À ���� � � � ��'�� ������Ä� ���$&� � º� � � �������� ���!�h� � ��ª��M� � ³�� �� � � ���M ���������� � ¤!� ��� ��$�� ������� � ��'!ª¨� � � ���� � ��� � ��� ¡���� � ��� � ��;� �;� � Ì��� ��� �h����� ���!��$H�����3� � °��������� � ����� ���!�3� ��� ���¥� � �� � ��� ���� ��� �����¥��������������� ���� Ò � '�����

13��������� � � ��� � ����� �� � ��ª�� � & ��� ���� ��� �������������������¤¬� �! �����¢� ���� � �

-by-� � � «����� � �¨� � ��� �� � � ���¨ ���������� � ¤¦� ��� �¨� �� ��¡��

3����'� ��� ������ ����

ÒVÓ ÔCÕ�Ö*×�^`¼�:­êYæ*æ*Õ�Ö Û æ Ý Ó , @�Ö*ã;"­× , × ß á <�Ý Ó ß æ*Ö*× Û Þ±Ó ß Ô�á � × ß Õ ,!< ×*Öã­è Û á�á�Ö*Ó < Õ�á�×*Þ Ø¸ ��� ���������� � �� ���� ��'¬��� �q� � ! ������ � ¡�� f ���������� � ¤Y� ��� ����$�ª¨ f�� ���� �� ���� � ���� � Y ���������� � ¤³� ��� �¥S �A���! �� ��q$��>��������$������ �������� ������$ ½ ��� � �}U·ª������ �� � � ��������A� � ¥'�� ¢� ��À� ����� ��� ��'«��������� ���� ¸ � � � ����' � � �¨���¨ª������ � ������� � �� ���� ��'ª � �� � �� ������� � ��! ���������� � ¤¦� ��� �¨�!� ' � �������

- � ����������Á� � ���¨ ���������� � ¤h� ��� �ª¨� � � �� �� � ��������j ��� ���� ��� �����À��������������¤¬��'q��� ��� ��� � !� �� �q��������� ���$ � ��¡��

3� ����� ����� ���� � ����� � ��������������� � d����� ��¨®« d������� � ��¥� ��¢� �� � � 'q��� ��ª � �� � ��¬ � ����!������� ����������� S �A���! �� ��q$j�>��������$j����� �������� ������$ ½ ��� � �}U�!� ' � ��� ��£� &'q�����!� ����£� �����$������!� � &�� �� ��� ���F���� #� � ��ª¨�!� � � ��¡�� &Ñ

.

��� ��'�� ������!Ôq��� �Acc1(%) ½ ��� � � �� &Ôq��� � Acc2(%)S ��±U

45.7S ���$ ����$ � ��$ � �CU

69.0S ���±U48.8

S ����$ � ��$ ����$ ���$ � $ � � U69.7S ���CU

62.5S ����$ � ��$ � ��$ � �CU

72.2S � U47.0

S � $ ����$ � ��$ ���$ ���±U69.6S � �CU

49.1S � ��$ ����$ � ��$ ����$ � U

70.2S � � U44.9

S � � $ ����$ � �VU59.6S � �VU

65.1S � ��$ � ��$ ����$ ����$ ��±U

69.7

�ÆÛ;< ì ×\¼�: êYæ*æ*Õ�Ö Û æ Ý Ó , @�Ö*ã;"­× , × ß á è�ã­ÖÍã;@�á�Ó ,àÛ ì�@�Ö*Ó ã­Ö*Ó á Ý ì Ó Þ±á ظ �����¾½ ��������������¤�ØStest $ Strain $¿o�� � ��'�� ������ÅÔq��� �Bo é�� ¸ ����%À½

accuracy(Stest $ Strain $Go ½ ��� � � �� °Ôq��� �Bo é��f �� ½M��� ���� ������$f��� ½M�>��������$���`½M�A���! �� ��q$¯ � ½ Q·� ������ ¤} � �$¯� �`½ ½ ��� � ��$ � � ½M� � ����� �������! �$in=Interaction.

Page 15: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

61

®« ¦� �! �� ��! ���� ���� � ¦¡�������� �-and-

¡��������E� � ����� �'�¤«� ����ÁZÁ>�q®« � �! �� ��! ���� ��#� � ���� � �� ³� ¤�� � ��������Y �¢q��� ����� ��Y� ���M � ���������� ������ ³���h�� �� �f����� �� ������Ó������� ¦����������� ��� ��'E� Q ���� � ���-III ������� ��������#ª¨� � � ���������£������ h���Cè�Ó�� ½ �©¥�������! �� ����¤����� ������ � ¤¬���!"��Ñ ½h¹ �}����������£��¡������ÏÎ#� ����������·���&�����! ���� j� � ��� �� � � ���· ���������� � ¤¥�����#���Y����� ����M� � ��� ���� ��� �����x����� � ��� £3"x��'q��� ��� �Y��������� ��Y%�$�ª � � � � �����! ������ ��{��Î�%� ����� ��� ��'f�� ����������F����� "����� �� ���� ������������

Q�2?f ê�õ�íïö�üfíïíïõ�÷>ø§ë>øfô Hhî�ö"Êføfõ�ö�ë>û¨ò#ó�÷>÷>ùÒ ����� � � ¿¡���������'�� �����°¢�� �ª¨ ���� ����$¦ ������ �� ���°� ��� ��������²�����ª�����£����'� �� � ��¨��� ��� � � �¢� #�� �������� � ��������� �������f���f�#� � ���� ��� �#��������� ����� � � � � �� �� ��� �q� ����$j� � á�� ������¤E� ��� �������� �����±�� ������ �����¿�����±� � x�A���! �� ����� � ��� ¡���� E� � ����� �Ã�������� ������ Àª¨� � � ��������� � ©���� ������$�� � ����' � � �Y���Y����� � ��surprising

����� � A� � ����� � !¡�� ������¤#� ��� �������� �����³���q� ����q� �! ������������q� � ����A���! �� ��¦�������>��������� ��� ���� �&���Õ ��� ���� ��� �����¬��������������¤A� �! �����¢� ��! ������Ë�A� � ���� � �� � ������$ß� � � ����¡� � �� ��¡�� ���¢� ��!� � ���� ���������¤���� � �&'� ��� ���ª¨� � �� � �!� �����Ä��������� �������5���� ­�����3�� ��� ���������� � ¤¾������ ��*���9� � ¯�����! � � ����� �������! ����¢� ���� ��� � x��¡�� ����� d���A� � ���j£�����ª¨� ���'� �$¨�����Y��������!� ��� ��'µ�! �� � ���*��������� ��� � ����� � ¤×� �� ������3¡���������'�� ����� � ¤ � �! �������������� ���� ���� ������� ���� ���� &¡� �� � ��� ��� ���� ��� ���������®« &������� &� � ���F� ���� �����!ª¨� � � �� ��������Ï���·� � &�� �� ��� ���! ���� ������ ��! ������ � ����

Theorem���H��� � Q

-� �����§���������! ���� S

g1,...,gmU#� � ���À�� �� � �!� ©� ��

accuracy(Rtest, Rtrain $CS g1,...,gm]).

Proof®« § ��� �� ����¬� ������� ������� ��� ������������� � � E�!� ��� �!��� ����¢� �� �����¡�� �� ��Ôq ��

E¡� ³������� � ���� �����h���¨� ��¡�� ��������&�q��� ��� � �� ��

V� ¸ cover���Ï�j� ��¡�� ��Ï���

E� ��� � � � ���Ï����¤A �� ��! ����·� �

V¡� �������'q�·���#���·� ���� �Ï���� �! ��!¡� �����q� � ����¢� ������ ���� ��� ��'!ª � �� � ��¨���q������� � ��� ¨ ������ �����q����¢� �����A� � ©�

K�����Y�Ï'�� ¢� ��H ���� � � � ¢� Y� ��� �'� ��

K≤|E¹ß���Á� Q

-�����! �� �� ���®« � � ��ª � � ���²���¯��� 'q����� � � � �����§�����! ���� � ��'Ö� � Á ���������� � ¤/� ��� �

P�!� ��� �!� ©�� ��'accuracy(Rtest, Rtrain, P

éÏ�������������¡�� A���j����� ��������� A� � �!� ��� �!���x����¢� ����®« Á��� ��� �Ã�� ���� �� Á� �� �Ã�� ������������h®« Á����� �²�E�� ��������

positiveØ �� �� � ���� � ¢� �� ¤�$negative

é¨� �&� ���!��¡�� ���� � ¢� �¢q��� �� #���f� Ø ��é���®« #�� �'q�������� ��� � f�� ����������·� �V���· ���� � � � ¢� j� �� �·�� �����������$�ª � � � j�������Ì ���� �

e∈E$ª¨ ¨���� ���� �������� Í��� &�� �'q��� � ¢� &� �� ���� ��������

negeJ�� � ��������$

v[obj]=r}�sÕ� �

v∈V$!�����

v[obj]=r���s� �

v=nege�����

e∈E.Ôq ��Rtest �� ������ ¨� � �� �������� �� ���� �����������$ V∪{ nege|e∈E

s}�ß®« ¨� � ���� �'q�����

e∈E���f������� � ��� ¡���� #� � ���f����� � '�����r}�sj���!�! ��!¡� ����F� �

e�����

nege¡����Y����� � '����Ï� � � ��! �� ¤º� ��Ï���#� � À��� � �����$������� � ³ ����� ���� «���

����� � � ��'������ � � ��'À�! ��!¡� ��������e�����

nege�������5� � d��� � �����J�� � �������$

v[obj]=r}�sÕ� �

v∈e���

v=nege$!�����

v[obj]=r�s}$���� � ���ª¨��� ��

®« f�� ������� ���� �� f� � H� ��&���Õ� ����� ��� ��'#�� �������������®« f��� ��� ��'� ��� ������ µ¹E¹ ���� � � � ¢� j� ����� ��� ��'Y�� ����������

aeØae[obj

U ½>��éÕ�����e∈E

� ��� � � � ���>����¤!� �� ��� ��������

v∈e�����

nege¡� ������! ±� � ±�� �� ' � ¡������°���

aeJ³� � ���«����$

ae[f]½�r}�sÕ� �

e=f$������

ae[f]½�r�s}$���� � ���ª¨��� ��

� �����$Mª¨ H���� ���� �Ø?¹E¹ Á>��éf�� �'q��� � ¢� H�� ����������

bi (bi[obj]=0, i=1,...,

|E¹ Á>��éÏ� � ���Õ���j�������'��� � Aª¨� � � ����¤�� ����� ��� ��'³�� ��������À���À����¤¬��� � ��� ¡���� Ø � � ��������$

bi[eU ½�r�s¦�����

e∈Eé��Ü�³��ªÖ� � �� �i������� � ¤;���H� � �� ����� ��� ��'

�� ����������¨���¨�� �'q��� � ¢� ��·Ôq ��Rtrain �� ������  � � �� ���������� �&� � H� ����� ��� ��'�� �����������$r

ae | e∈E} ∪{ bi | i=1,...,|E|+1} .

Q �� ���� ��� � ��'̪ � �� � ��v∈Rtest ���� �� � � ��h ���� � � � ¢� ±���¥�� �'q��� � ¢� º��� � ����������! �� ��������� ����ª���Ð

 ��� v∈e���

v=nege�����f�����!

e∈P$

v��'��� � ���ª¨� � �

ae∈Rtrain ���e$������ � �����

predict(v, Rtrain, P�>���

 Ë� � ���ª¨��� �$�� � 3ª � ��� 3� ����� ��� ��'Â� �� Rtrain ¡� ������! ��«� � �� �� ' � ¡���� � �����±���v� ¹ �������� ¦�� �'q��� � ¢� ¦�� ����������H���� ¦� �i�����#� �

Rtrain $ predict(v, Rtrain, P�M���

���P���� ��! �� ¤�$�������������� ��'Ì���À� � º����� � ��¥����� �$&� � º ��� ���� ��� �����Ì���� ���������� ����>����� ���� � � � ¢� ³� �� �>�� ����������>¡����������������� ����������¨�� �'q��� � ¢� �� �� ��� ����������������§������ ��#��� � �! �����¢� ¦� � ¦ ��� ���� ��� �����§��������������¤�$���� ¦� ��¤� ����� ����

e� �����

P���Ï�� �¢� ���� � � ��� ���� ��� �����Y�����

v∈e�����

nege$�ª � � � �

� ��£� �� � � à ��� ���� ��� �����±�������� ���� �����v∈e

¡����H� ���������� ����H�����nege�

������� ��� ���������e� ������ ���� ��Õ� � Y ��� ���� ��� ��������������������¤³� �>� � Y�����!¡� ��Y��� �� ��! �������� �

e����� ���� ¨� � ���¥���� �� � �> ���� ���� &� � ����� �! �����¢� ��! �����$�� ������� ��£� #���� &���� �¤

vP����

v∈V����� � ���

v∈e� �Ï����� ����� ¤j� �

v'∈e.���� � ���� ¦� � ���∪{ f | f∈P

s������ ���f���H� ����� ���� V� � �H� �! �����¢� h� � ��� ���� ��� ��������������������¤�$������& ���� �

v∈V - ∪{ f∈Ps}$�ª¨ h����' � �Õ���f��� ���

e� ��� � � � ���v∈e

�����«�����e� �����

P�·��� ���� !� ����� ��� �����«���

e�!���

- ��� ���� ������ � &¢q��� �� #���

nege$����!��� � � �¢� &� � &¡� �� �� ��� ���� ��� ����� ��������������¤�$�ª¨ &�!��� �

����¢� ��V��� � ��'h� � ��!� ��� �!���Ä�����!¡� ������ �� ��! ������Ï� �

E$�ª � � � � ��� �Í���� ¢q��� ��������������! ���� &� � &�!� ��� �!���x����¢� ����

Q.E.D

Permutation Accuracy(%)cl co mo in 69.4cl co in mo 69.5cl mo co in 68.6cl mo in co 67.6cl in mo co 68.9cl in co mo 69.2co cl mo in 71.0co cl in mo 72.2co mo cl in 70.5co mo in cl 70.3co in mo cl 71.0co in cl mo 71.0mo cl co in 67.4mo cl in co 66.3mo co cl in 67.9mo co in cl 70.0mo in co cl 67.9mo in cl co 67.9in cl co mo 68.7in cl mo co 69.2in co cl mo 68.9in co mo cl 68.9in mo co cl 69.5in mo cl co 69.2

�ÆÛ;< ì ×µÃ�:ÀêYæ*æ*Õ�Ö Û æ*Ó ×*Þåã­èÄ@�×*Ö , Õ�á Û á�Ó ã ß Þ÷ã­èYá � ×Åã;@�á�Ó ,àÛ ì�@�Ö*Ó ã­Ö*Ó á Ýì Ó Þ±á�Å?)Vã , @�ì ×+-Æ=)Vì Û Þ±Þ;=`Ç ß á�×*Ö Û æ*á�Ó ã ß =`dMã­á�Ó è?È .

Page 16: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

62

5. CONCLUSIONS

�q� ²¡���������'�� �����������!�!����� � ¤ � ���§� � ��¿�����! ���������� �� � ��������'�� �����¡��� ���£�� � ������' � �Y� �x� � À����� �Y�� ������� �� �q� �� À� ����� ���� ÌØ ¡����h���� «������ � �!� � ��«����é!����� �¨'� ������! �� �Í��� ������ ��'¬� �� � ��� Í��� ���$ � � ' �-� � ������' � ����

screenin'�����¡������Õ�����Ï� �� � � ��'�������'� Y� � ¡�������� �����!� � ��� ��� ��� ������ ��������¡�� ����� ��'º���h������'� ��A ������ �� ����$f�����d'� ��� « ��� ��� ���� �����º�!� ��������������¤��!����! ���� ���� �'� ��� #� ������� ����� �� ����������� � � �F� ���� #¡��� ���£�� � ������' � �f���� ¦��� � � � ����� ©����³� �¬���� ����&� ��� � ���� ������ ����!� ����$�ª � ��� f� � H��� �������&���Õ ������ �� �

mad H������� �f'� ��� H�����¦¡� ��! ���� ���� ��¦��� �� ���� � ¤�$������ � ��j� � ���¦�! ��� �� ¤�! ���� ����� ��'h� � À��� �������Y����DIÆ� ¸ ���>� �h�������� ����>�!� ��������������¤���� ¸ � �� � �� #� �� � ��������'�� ��f���� # �����¢�� ��� ��'�¢q��� �j��� ���������j���>��������$q���A�Ϫ¨� �� ¢q����� �� ¤d���j������� �������x������� � ������$��!��� � ����� ��� �¦£�����ª¨� ���'� À��� �� �����¤ ������ ����$&� ��� � ���� ��������� ��� �����Ì��¡������������!  �! �����¡���� � �  ���� � ª���¤����d���� ��¤h �¢� ��¬¡� ������ �¬� � ���&¡���������'�¤h���Ï¡���� � �������j��� � � �����¦£�����ª¨� ���'� ��� � � $}ª¨� � � � � A� � ��� � ���'� A¡� �� ��'³����� ¤}��� � �� � ©� A� � �� !��� �����������  � � � � �� ���� f£�����ª¨� ���'� �� ¸ �&�F�� �� ��� ��$�¡���������'�¤Y���������&����� ¤h�F� �i�����Õ��� ��j����������F�!� ��� ��'#����������$�¡����&���������F����� ¢�� ��'#�������� j�����Õ� � j�� �¢� ����� ��! ����Ï�������� ���� ��������j�!� ��� ��'d��� 'q����� � � � ��� Ò ���j� � ���>�� ��������d����3�>�� h%��������������� ��x���¦¡���������'�� �����A�� � �� � ����� �������A���¨��������!� ��� ��'q� �q� ���A� ���� �������������� ���� ���¡�¤�� ���!� ����� ©�� ��'f� ������������������!� ��� ��'f¡���������'�� ��������������¡���� ��� �� ������ � ����������$q����� ����ª¨ ���¡�¤«'� ��� ������j� ���������������A�������A�!� ��� ��'q$�� � ���� ��¢� &¡� � ��!������� � �� ���!� �!� � ���� ��� � ����

5.1 Whî�íïíï÷>øfíHù�÷>ó2æ±õ�øfõ�ø�� åfõ�÷>û�÷a�>õ�ö�ë>û¨ôfë>ì�ëaåfë>íïî�í�q� ! ��� ��� ���� �����«���f���� !'� ��� !���� �Í��� ���� � ¤#�� �'�������� ��q� � f ��� ��� ���� ��������Ã��� � ��«'� ��� ���$f�� �� ��� � � ��'±� �5�«�� �� ª�����£¿���¬¢q�����������¥�� �'�������������¤ ���� � ª���¤����j���¦������� � ������$����� j ������ �� �#� ��¤A� ��� ��������·ª¨� � � �������!¡� �������� � ��� ������ �� ���Y� �d�! �����¡���� � �°���«� � '������ � ��'º ���� � ª���¤���� �q� ��� ������� �$� � ��� A����ª¨� �� �� ��� �����¡� �� � ���� ��¡���������'�¤�� � ���¨���qª¨ !� ������³� ����  ��¡������ ���� � ª���¤���$¥� � ���x�� �ª*£�����ª¨� ���'� ¶ª¨� � � � �� /���d�� �� ����!� �� Ä� � ��������� �������>���q� ����¤!'� ��� ����#����� � ����� � ¨� ��� � ¢q��� ������$ß�����q ��q���! �� �$ß����� ��� ���� ��� � ��'h�� �'�������������¤¥ ���� � ª���¤��>��������'� ��� ³ ��� ��� ���� �����h�!� ��������������¤ ��� � ���� �! ��������[� ����� �$�� �Õ���Õ¢� ���¤«� ���� ������ � ��'�� � ���Õ ������ �� �H� ��� �������� ������ ��������� ��� ������ª����j�����j� ���� ¥��� ������� � � ��� £q�%Ì�����Ì"��²�� ���� �����Ì"����� ���� � ����� ��� �������� �����E� ��������� ��� �����Eª����À���º�����! d¢q��� �� d�����h� � ª¨� ����� ��'h�� � �������� � ��� � ��� £Y%#¡����·�����· ������ � ����������� ¤A'��� ����·¢q��� �� �� ¸ ���ª � � � &� ��� �������� �����!� ��������� ��� �����!ª����F���� #���·��������� � �� �F���·� ��������� ��� �������� ��³� �³� � !ª¨� ����� ��'¬�� � �������� � ��� � ��� £¬"�$ � ��� �������� �����³ª����q� � !� ���� �� �! ������������ ���Y� � �� ¦���������§���f�!� ' � �f¡� ¦ � �� � �� ��f� � ���fª¨ x� � � � �H���� �!����� � ��'E�������!��� � � ��� �������� �����E� ��������� ��� �����E�����h� ������¡� � � ' � � ¤��� �������� ¹ ���F� � ���Fª������ � ¡� ¦�&�������� � ���� ��� � ��'H��������� ��� �����H'�� ¢� ��H� � ���� � º����'q������� �¿ª¨ ¥ª¨ ��� º� � ����¤}� ��'q$�¤} ���� ��$ � ��������A� ����  � ��� �������� ������ ��������� ��� ��������¢q��� ����¡�� #� � ��� ���� ��j����¤«��� � ��Y����'q������� � ��Ë�Ï � �� � �� ��� � � � �Õ¡� �� � ��Ï� �� � ��� Í��� ��j���� Y�� � ��� ��������>��� � ��'³� � ����� ��������� ��� ������� Ò ��� ��q���! �� �$¦ � �� � �� ���� ¹ ��¤} �� �����´�� � �������� � ������� �­¡� Á����£� ��Â��� ��� ���� ��� � ��'Ä ���� � ª���¤���$�ª¨� � � ��������������� ��Ä �����¡���¡�� � � � � ���$¦�����Ä� � ��

p�� ���� ��� ��9 ���� � ª���¤��3������� �µ¡� Â��� ��µ��� � �� µª¨� � � ��������� ����� ��� ���� ��� ������� �q� #Í��� �� � ���������>ª � �� � ��Ϫ¨ Y�����H'� ��Õ� ���� h�����j���>� � ��¢q��� ����¡�� &� ��� �������� �����!� ��������� ��� �����!���F���·� �i������� �! ������������� ��¸ � ��������³� ��������³�������!� ��� ��'�¡���������'�� �����q��������¡���� ��q���q� � !����� �� H���� ��� �������� � ��'Aª¨� � � � � ¨����¡�������������¤�� Ò ��� � ��� £ ��$ß� � ¨� �� ��� ���ª�����������ª¨�������� �!¢� ���¤¦��� ���� ��� ����¨����� � ��� ¡���� �����«� � ���¬� � H� ����� ��� ��'x� ���� �q� ���&���¡� �������� ¨� � ¨� � ��!��� ����� �� ���� ��A� � ¨� ��� ������ �������� ��£� &� �!� � #� ��������

���������«���F ��� � ���� �! ������q¡���� ��«���³� � !�� �� ��� ���¨���F� � !��� ��� �����������EJ}� � �¤cho� #��� � ¤}��� � �� � ©� Y� ��� ������ ��Õ� �H� � h� ��������H���������H� � ���j»�������£� ���¼� � £� ¨� � ������ � ¢� ¨� ��� ������ ����������Ã� � ¨��� ��� �������������Ï��� � ����¡� � ��!� � &�>��

co-� � ��� ����çM ��� � ���� ����� A� � ���qª � ��³����� ����¡�������� � ��'�ª¨� � � ¡���������'���� ���¨������ � ��!��� ����$��������#����� �� �����! ��F� ��»�ª���¢� ���$ ¼¦����� � � ¦� �� ���� ���������>������� ���� ������� �A� � ¨�� �����»�ª���¢� �¼¨������ � � ����� ��������A� � &�� �� ��� ���FØ ����¡� ����F���·� � ��������é#� ��� � ¦ ��� �¢��������fª���¢� �� ¹ �������� ¦�������Y�!� ��� ��'À���������j������� � � ¤����� ���! Â� ����� ��� ��'×�����µ� �� �±�������Ö���� Ö������ª¨�¾������� � � �����! ����� � ��� ¡���� ������$Ï� � �¤;����� ��° � ���������� ª������ E���Ã� � ��� �ª/ª���¢� �� � ���

cross-¢q��� � ����� �����E����� � h ��� �¢��������jª���¢� hª������ �� ��� ���� ����� ¹ ���� � ���� � ������ � ¢� ¦ ������� ����H������� �����Y'��� ������� � ������ ����� � ¤«�����Y�������Y�!� ��� ��'À���� ����� �� ����� ! ��� � ���� �! �������� ������� �q� ����� ����� �� ����� f���������&������������� ��'#���¨� � � � �! �� d»��! ��!¡� ���� � � �Í��� ���¤}¼h� ���� ��j� � ���j� ����¤°������ ���$qª � ��� h� � � ¤�� � ��±'� ������������ £³� � A����¡� �����!���� A�������> ���� ���¨���¨��� � �! �� ¸ ���³� � ��� � ���� �! ���� ��¥���³�����«� � �! �� ¤²���³� � ±� ���¢�� �� ±��� � � º�������¥�!� ��� ��'� ¤�� � ��Ö¡����f� ��� � ������ ��¤À�� � ������ ¡� ¦����� ��ª � ¤Ì���� ��� � ���� �! ����f������ �������$q �� 'q� $qª � ¤«�� �������� ��� ��� ������ ��³� � ����� �À¡� ¥� ���� º�����À� �� � ����

Real-ª������ �# ��� � ���� ����� j� �����#� ��� � � ��� �������� �����Y¡� �� ª¨ � ��Y� ��� � � �� ³������ ��� ���� ��� �����!�&£� �¤À���� ��&�����&�������&�!� ��� ��'H�� �� ������ � $� ������ � ����������� ¤�ª¨� � ��� �� � ���������¡���������'�� �����F�� � �� � ����� ���������

5.2 SÃî�øfî�ó�ë>û¨û�î�íïíï÷>øfíHù�÷>ó¬ôfë>ì�ë æ±õ�øfõ�ø���q� ���

-� � ��� ����ç�� ��� ���� �����Y���������d�>�� Y%������Ϫ����M� � ���M¡���������'�� �����

knoª¨� ���'� Ī������ �/�����º¡� Â�° ��� ��� �Í������ � � ������° ���� ��¤Á� �����3� � �����! � �� � � �������¶���h�� � � ������Y�������­� � À��� ¢� ���� � � ¤±���³¡�����£�'������������h��� ���� ���������������«ª¨� ���� ����¨� � ���¨ª¨ �� ������ � ��� ��«� �«� � ���&�� �'q������� ¹ ���#��� �Í������ � ¤°� �! �������������� ��� ���� �����Eª������ � ����� ����������³ª������ �Ä������� º� � ���ª������ �µ¡� ���;¢q��� �� Ö���¿�������²�!� ��� ��'Å������� � �� ���;¡���������'�� ������� � �� � ����� ����������®« &����ª�������� � �� ��&� �¢� ������F� ��� � � ������������Ò � ��� ��$>������¢� ���� ���������#ª¨��� ����� � ��� ���#� � ���#ª � � � ¹ ��¤} ��#�� ����¦���� 'q�����Y������� ���� �� � ��'A� � ¨����� � ��� ¡���� �����A�������ê � � � � �������¨���� ¨������ª¨��$ß������ ����� ³��������� � ��� ����� �����h����� £¥� �>��� � �����h���Y¡� ������ ���� �� � ��'��� � �������� � ���� �� � '��� ���� � ���� ��� ����� � ¤x����� ��������� � ��� ����� ������$Y� ��� � ������ ������ �����Ã� �� � ���$��� ½ ��$·���� ���� ��!¡�� ���� Ò ���� ��q���! �� �$ ª¨ !��� ¹ ��¤} ��q�� ��������¨� ���� ��'� ��� # ��� ��� ���� ����� �������&ª � �� ª¨ #ª������F���!� �� ���� � ��¤���� ��� � ����f���>'� ��� ��� � ���¥�� � � ���� � � ' � � ¤�� ��� ����� ������ ���� ¹ ���!� �#ª¨ ¬ª������!���¥����� � � ��'������ �¡� �� ª¨ � ��À� ª���� ¤} � ��³���f ���� � �������Ø �� 'q� $·�������� ��!¢q���·�����

-�������� ���é�$·ª¨ � �����d���¥��������� � ��� ����� �����±��� 'q����� � � � ���3���º� � ' � � ���#� � ���!������¢� ���� ���������ª¨��� ����� $ß� ������Í���� � �� ���� ������ � ��'!� � ���F���Ï����Ñ! ���� ��� �������� � ��� £H�!Ø��� �����

2-¢q��� �� ��«��������� � ��� ����� �����«����� £�é!� �  ª¨� ����� ��'Ã�� � �������� � ª������ ¹ ��¤} ���� ���� �q� Y� ��������H����� � ��� ¹ ��¤} ����� ����� � ����� ��������¡� A�� �� ���� ��À��������� �����A�����q ����� ¨��������� � ��� ����� �����A����� £q���Ï������ � ���$����F����� �� ������������ �Í��� ����� ���Õ� � ������ �� ��� �&���� H���Õ� � f���

-� � ��� ���&Ø Q ��'� �éF���·����ªd ��! �����¤}� ��' ¹ ��¤} ���� ���� �������� ��'#� �¬�j� � ����¤¥����'� ��� j ��� ��� ���� �����#�������Õ�����j�Õ��������� � ��� ����� ���������� £��� ���� � ��'³ª¨� � � �!��� � � �� A�!¤} ������ ��$��>¡����������������� ���� �q� A ����À����� ���� �����±"¥ �����¢�� �� �� � �¢� ������!� ��� � ' � � �����!�����!�! ������ ��¡������fª � ¤À� � �� � �� � ����� ����� ��� ¹ ��¤} ����� �������� � ��� £H��ª����F� ������ ���� �������

�q� �� ��������!� ��������!���F���� &� � ��� � ����¡� � ��!�� �����'���� ©� ��!¡� ������� &ª¨� � � � �� � ¬� ��������� � ¢� ¬����'�� �¬ �����'������!�!� ��'§Ø ��Ô Q é������!�!����� � ¤�¡����f���f� � � � � £�����ª¨�¥������� � �� ¨� ��� �q� ��������� � ���propositionalization

����� ��A�����q'q������� � �������� � ��� �&�� ������ ���������F� �������� ��'������ £q� � ��� £q�Õ%�������"H���� Y��������� � ��� ������ ���������� �������� ��'¬����� £q��$·� �«ª � � � � � �  � ��������� ��� �����°��¡��������!������� ���� ���ÏØ '� ��� �éÕ� ����� ���� ��·�����Ï����� ¤!�� ���� ���� ��>���q� � ���M�������� ���� ���M� ��� �� �q¡����������� � ��ª�� ���� ������ ������A��� � ����������� ���� ������� ½ ����¤j���������!� ��� ��'f����� £q��� ��� ������ ������������������¡���� �� � ��¢� H�f� � �!� �����F����� ���� +J����� f�� � ����Ï����� ¤A��� � ��¢�

Page 17: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

63

�«� ����¤-� ����¤§�� ������ ������� � � 3¡� �� ª¨ � ��3 ���� � � � ��º���¬� ��� ��� �� �¥� �±� � ��������¡���� #��� � ��¢� ¦�Ï� ���� Y�� ������ ���������Õ����� £q���¢� ��H� � ����' �H� ��� £�%������� ��� £°"À���� ¥�� ������ ����������$�� � ¥ª¨� ����� ��'°�� � �������� � ��� � ��� £«%«��� ��°������ ½ �����h� � �ª¨� ����� ��'��� � �������� � ��� � ��� £�"A��� ��º�¨�� �� ' � ¡���� � ������ � ����� �'�¤�� �q� h£� �¤«� � � ��� £«%Àª����³�A'q�����Ì��� 'q����� � � �¿�����A�� ���� ���� ������� � ������� �������������Ì�� ������ ��������� �q� j£� �¤A� � � ��� £h"&ª����·���&� � ����'� j� � � ¤} �� �����M�� ���� ��� � �����h���q����� �������� ��¨Ë����� ������� � ¤�$������ �������� ���>�q�! ���� ���� ����� ��ª�� � �!� �����>� ª��j�� ���� ���� A¢� �������������� �� �q� !� ����� ��� ����� �����³� ���� !ª�������Y� �������� �������� ³� � ³� ��� �������� �����h�� ������ �����h� �����Y� � ³����� �������� ³�! ���� ���� �$¡�¤d� ��£�� ��'x� ª��¬�������H ���� �����#�� ����� ��H���¬ ���� � ��� � ��H� �³� � �¤ºª¨ ��� £�����ª¨�!����� ��� ����������

Ò � ����� � ¤�$#� �­����¡�� ���� �����ÄÓ�� �̪¨ ±����� ��Ä� � ��� � ���'� ��«������� ���¡�¤� ��� �������� � ��'Àª¨� � � ���� ��� � ���� �! ������������¡�������������¤�� �q� �� ¥� ����� ���� ¥� � �� � ��A�����q� �! �����¢� �� � ��� ���-�����! ���� ��q� ��� �������� �����¥Ø �� 'q� $�� �! ����� ���� � ��'

² ¸C¶ÊÉYªV¬ ° ¼ ² ¬ ° ¸J �Ï�� �ªÌ�������������> ��� � ���� �! ������ éY�����H� � YÍ��� �� � �����À���� ��ª±��� � ������� ¬�¨� � ����'�� ��' ����� � ��� ¡���� �����º��¢� ��¨���������J�³��� �� � ����� � �������� � ��Ï ���� ���j� � �� �Õ�� ������ ��H����»��������� � �������� ��� ¼A¡������������ ���� ��� ������ �q� �������� � ��·���� ��·�����·� � ����'� �$� �� 'q� $�� � ��� j���·���&� � ����'� � �Yª � ���M� ��£� ��>�� ��� ������ #¡�� ��� ���!� � �����!¡�� ��� �q� ���F����� �� h���>� � ����'�� ��'������ � ��� ¡���� �������������� ��!Í��� �� � �������H��¡������f � ���������� ������ ¦ �¢q��� ����� ������� ���Y� � ¦� � ����'� �! ��� �� ¤h������ �������� � f����� �������j���� f��������������������� � ��F� � �� ¸ B�A$M���j���� �������� ��#�#Ø I>Ë�>é&������¢� �$��������� ���� ��F� � # �����¡�� �� �j���� Yª������ � � ��¢� Y� ���� � ��' ����� ¤H��������������¤�� 6 ¹ ����ª � ����� �·� � &� � ����'� ��������� ��q���! �� #»����������� ��¼¬���º���� ¬���� ������&� � ¬� ����� �$ï� ��£�� ��'������! � ���� ���� �������������& ���� ������!��� � � ���� ¨ �����¡���¡�� �F �q� ��������ª � ��� � �� � � ��� ��!� � � ��� £H��������� � ��� #�� � ��'�� ��! ���� ���� �$Y� ��� � ��� ¸ B�A$Ï� � ���������°� �� �����¬���� �� ���� ��¬���� ���� �� � ��'±�� � �������� � ª¨� � �A¡� «� ���� «����¡���� �!���¥� � �� ¬� � ����'� ��!� � ���������� � ���$���������¡� �� � ��&��¢� ��&�����! #� ����� #���· ������ � ¡�� &� � ����'� ��BF

6. ACKNOWLEDGMENTS

� � ����� �����+�³��� ©�����ª¨��� � ������>� � ����£!� � ���������� ���������&��� � � ���>����� � ' � ���������� �� �� �À����'q����� ©�� ��'q$}������� ��� � ©�� ��'«��������� ������ ��'�� � !¢q�����������q��������� �����������³������� ��M%�� ½ ����£ ������'� ���ª¨��� � ������>� � ����£ � ����� �� � ���¢���������$ï��� ������®«����¡� ���$�ª � �# �������������'� �� � ���> ������ � ��� ���� �����h� �h� � ³�>�� �$F����� ¸ �����IA� � � ��� ��Â�����µ� � ����� � ������ ½ � £q��� � � ª � �¾� �� � ������ ��¾� �� ���Á���� ¤} ���� � �� ���� �³��¢�� � Q ��'� �ª¨��� � ��º���5����£�����ª¨� ���'� ¨�³� Ò '��������9987841

7. REFERENCES

1. ¸ '�����ª�����$CIA� $����!� �� � ��� £���$ � � $������ ¸ � �³����ª����!��� ½ � ��� ��'��������������� �����!����� ���¡� �� ª¨ � �� � ����F���·� � �� ��� �!������'� &��������¡���� ����Ë ¯ ª u ®*®*¶V° ¸JC«ºª H ¬ vC®!Ì`ÍÍÎ ¾aÏ�¹ÑÐÒ+ÓV¹ÕÔ�Ö]Ò ¸V¬ ®�¯ ¸ ² ¬ ° ªC¸ ² ´Ï ªC¸ H ®�¯ ®*¸ u ®çªC¸ ¹ ² ¸ ² JC®+ÉY®*¸V¬}ª H×Ö ² ¬ ² ½ ®°��� � � ��'�������$��³� �A� $½ ��¤j%�Î -%���$�������"s}$� ���'� ���%���è --%���Î�� ¸ � ½ Q �� �����$�������"��

6 ����ª������ �A¡� ¨��� �� ¨���>��� ��q�! ���� ���� �� ��� � ��� ¸ B�«� �!����� ���� #�����>�� ���� ��� � ����À���!��������������¤�$}¡����q� � ���q���q� �! �������� � �������Y®«� � � ��������������¤�$ ���� ��� �������À¡� º� � �! �� ¥��� � ��³���! ��� ���� ��� ��������$·ª � ��� ���� ¸ B�±ª������ ��� �Í���� �� h�>�� À� � ��� ������������À �¢� ���¤����� +ç�� ��� ���� ����������!��� � � �� ¥� � �! ����»�Ôq� ��� ¼;������� �Á¡� ;��� ���$³¡����E�����! ���� ������ ��Á ������ � ���$³� �À�� �Í���� �� �� ������ � ��� ��������M���Ï������£A� � �� �q ��� ���� ��� ��������$ï�����¥�����! ��� � �������� � ������� ¨� � �-� ��� � ��!����� � �����

2.� � ���'q$ L�� ����������

PowerConstructor��¤�� � �� �

http://www.cs.ualberta.ca/~jcheng/bnpc.htm.3. Ch

���'q$ L�� Ø %�������é��PowerPredictor

��¤�� � �� �http://www.cs.ualberta.ca/~jcheng/bnpp.htm.

4.� � ���'q$�L�� $��¨�� �� �� ���$GIA��Ø���������é��}�A���! ������ ��' ¹ ��¤} �� �������� �� ª�����£��������� � ��� ����������

UAI-99.5.

� � ���'q$ML��ï�����A�¨�� �� �� ���$MIA� $ßÔq �������� ��' ¹ ��¤} �� ����� ¹ �� � ���� �� ª�����£�>������� � ��� �����Ð ¸ � 'q����� � � � �x�����Ö��¤�� � �� � Ë ¯ ª u ®*®*¶V° ¸JC«Tª H Ì`Ø thÙ ° ®*¸C¸V° ² ´ u ªC¸ H ®�¯ ®*¸ u ® ª H ¬ vC® Ï ² ¸ ² ¶V° ² ¸ «±ª u ° ®�¬ µ H ªV¯u ªÉY© · ¬ ² ¬ ° ªC¸ ² ´}«­¬ · ¶V° ®*«ºª H ° ¸V¬ ®�´ ´ ° JC®*¸ u ® $�%��������

6.� � ���'q$EL�� ®�¬ ² ´ Ú Ø %�������é��qÔq �������� ��' ¹ ��¤} �� �������� �� ª�����£q�j���������������Ð ¸ �«� ��������� ��� ����� -� � �����¤¦¡���� ��°�� � �������� � ��Û ª ² ©C©C® ² ¯ ° ¸¾ ¯±¬ ° H ° u ° ² ´ Ò ¸V¬ ®�´ ´ ° JC®*¸ u ® Journal.

7.�A���� � ���$���� Ò �M�����A� ���� £q��¢�� ����$���Ø�������%�é�� ¸d¹ ��¤} �� ����� ½ �� � ��������E� � ¶� ��������� ����� ���Ì �����¡���¡�� � ��� � � �¶��

tª�����£q�x������� ���������¹ ²u vV° ¸C®�Ü�® ² ¯ ¸V° ¸J $�� Ø � ���"���� -347).

8.Ò �� �������$`t³������� ��� � �� �� �� �$�IA� � ¸ �� ������ ����� -� � ����� �� � �'� ��� ������ � ©���� ����� ���Ï���

-� � �� &� �������� ��'H����� ��� �� � �� � ����� �����!���

boostingÚIÝ*ª · ¯ ¸ ² ´}ª H�Ï ªÉY© · ¬ ®�¯ ² ¸C¶ Ð µ*«­¬ ®+É Ð u ° ®*¸ u ®*« $55(1):119--

��"���$ ¸ ��'q��������è��9.

�³������$��³� $ ½ ������� ����$��³������� ���!¤}� � $ Q � Ë ¯±° ¸ u ° ©V´ ®*«ºª H×Ö ² ¬ ²Mining

� ½ � �oQ �� �����$�%��������10.

�³����� �¤�$}L�� ¸ �·����� ½ �*� �� � ¹ � L��·Ø�������%�é�� �q� !�! ������ ��'¬��������� ���Õ� � H���� ��F������ ��f��I> ��� �� ¢� ��FË � ������ � ��'#� � ��������� ������ � � ��Ø I>Ë�>é������¢� ��Radiology

$����"�$� � ���%��-36.

11.� ���£� ���� ����$A�³�¥Ø�������Ó�é�� ¸ � �������������x���²� �������� ��' ¹ ��¤} �� ������� �� ª�����£q���EÛ ® u vC¸V° u*² ´{ÞV®*©CªV¯±¬ ¹(Ð Þ -TR-95-06

� ½ � �������������Research.

12.L������ � � � ��$ � � ½ ��£�� ��'fÔ¨����'� - ������� #��� ½ Ôq �������� ��' Q ������� � ���������� ¹ ����� � ��� £q�� ���$��A� ¹ ����'� ���$������ ¸ ����� ������$� ���� ��������$-¾ ¶C¼ ² ¸ u ®*«° ¸IßÆ®�¯ ¸C®�´ ¹ ®�¬ vCªC¶C« -

Ð · ©C©CªV¯±¬$àC® u ¬ ªV¯$Ü�® ² ¯ ¸V° ¸J � ½ � �oQ �� �����$1999.

13.������'� ���$ ½ � -̧ �������!®«����¡� ���$��M� � ������� ������� ��� ����� -¹ ��� ��Ôq �������� ��'RB³� � ��' ½ ��� � � �� ������ ��������� ¸ '�'��� �'q��� �����������!�A� IA����¢� �� ���������� ½ � �� �¡���'q$� ���� ��������$ Ë ¯ ª u ®*®*¶V° ¸JC«ºª H ¬ vC®�áY´ ®*¼*®*¸V¬ vÒ ¸V¬ ®�¯ ¸ ² ¬ ° ªC¸ ² ´ Ï ªC¸ H ®�¯ ®*¸ u ®çªC¸ Ò ¸C¶ ·`u ¬ ° ¼*®�Ü�ªJV° u Ë ¯ ªJV¯ ² ÉaÉÅ° ¸J(ILPé�$�Ô¢� ¸ ��%���Ó�è����� ���� ��'� �� -�j �������'q$�%��������

14. ½ ������� � � ����$��M���A���! ���� � ��'H�� �� � � ��� � ¤} ���� � �� ��� ������ ��� ���� � ¤j�����¡������ � � ��'q��Ð ©V¯±° ¸JC®�¯$ÜZâ ¾�Ò+ã Ë ¯ ªJV¯ ®*«±«±®*«R° ¸ Ö ° « u ªC¼*®�¯ µ Ð u ° ®*¸ u ®*½� �! ��� ������15. ½ ������� � � ����$��M������� �� �� �$�L�� � ����¢� ���� � ��'f� � �� � �������� � � �� ���ª¨� � �� ����� ��� � � �������! �� ��� �& �������� ��' Ú Ë ¯ ª u ÚCª Hº¾aÏ�¹ÑÐÒ+ÓV¾aÏ�Û -SIGMOD-ÐÒ+ÓV¾ Þ ÛeÐ µ+ÉY©ÚCªC¸ Ö ² ¬ ²C³C² «±® Ð µ*«­¬ ®+ÉY«�ä Ë Ô�ÖaÐå�$� ���'� ���%�%�Î --%�"�Î�$ ½ ��¤j%��������16.

� ��� ���� � ������$EIA� �¨Ø���������é�$ Ë ¯ ª ³C²C³ ° ´ ° «­¬ ° u ¯ ® ² «±ªC¸V° ¸J ° ¸M®+æ*©C®�¯±¬«±µ*«­¬ ®+ÉY« ã ¬ vC®*ªV¯ µ ² ¸C¶ ² ´ J orithms$�L�� � �!®«� � �¤ D �M�������

17.Q �������$`L��ºØ��������é�� Ë ¯ ª ³C²C³ ° ´ ° «­¬ ° u ÞV® ² «±ªC¸V° ¸J ° ¸ Ò ¸V¬ ®�´ ´ ° JC®*¸V¬Ð µ*«­¬ ®+ÉY« ã ¸C®�¬ �ƪV¯ »*« ª H ©V´ ²V· «­° ³ ´ ® ° ¸ H ®�¯ ®*¸ u ®*½ ½ ����'q���Kaufmann.

18.D��� ��������$�L�� IA�IÏ ØÚ ç ã Ë ¯ ªJV¯ ² ÉY« H ªV¯ ¹ ²u vV° ¸C®�Ü�® ² ¯ ¸V° ¸J �½ ����'q��� �������� ������$�������"��

19.�� �� ��� ���$ Q � $��¨� ¤}� ������$��A�������h��� � �� �� ���$BIA��Ø�������"�é��$Ï ²V· « ² ¬ ° ªC¸C½Ë ¯ ®*¶V° u ¬ ° ªC¸�½ ² ¸C¶ Ð ® ² ¯ u v ���� ���� ��'� ���Ôq ���� ���� ç�³��� ���� � ������� ��� � � �����

20.®«����¡� ���$��M������������� � ¢� &Ô¨��'�� � Q ����'q���!�!� ��'f�����&������ª¨� ���'� ���� ����¢� ���¤j� �!�³������¡���� ����������³��Ô¨��¢������#����� �M���©� ������ £���$ ���� ��������$ ÞV®�´ ² ¬ ° ªC¸ ² ´ Ö ² ¬ ² ¹ ° ¸V° ¸J ���� ���� ��'� �� -�j �������'q$�%��������

ê < ã­Õ�á"á � × authors:

Page 18: SIGKDDExplorations. Volume3,Issue2 – page 47 KDD Cup 2001 ...

�������������� ���������� ��������� ����� ���! #"�$������ �� &%– ���'�

64

èCÓ ×Ñ) � × ß Ô°���¦��� ��������H�������H� ���� �� ������#� � 0I>��� £ ½ ������'� ��! ������ ¢���� ���������Ï�A������������� ���! � �������� ¹ ����£À���>�A���!�! ����� ��[� Y�� ��� �� ¢� ��� ��� Q·� � �³� �������§� � Ò ������� � ¤h���Õ����������� ��� � ���&���ÁB��� ¢� ���� � � ¤h���ÁB��� � ���$B³��D� f� � ���ª�����£� ��¬���&�F ���� �-�����f�� �� ����ªdª¨� � �AQ ������ ��������7I>����� �� ��¨�� �� �� �������� � ��A���! ���� � ��'²����� ����� �� � ����Y���H� � B��� ¢� ���� � � ¤;���

¸ � ¡� �������� ½ ���� ��¡������ � ���Ç�� �� ������ � ����� ¡� ���������É���www.cs.ualberta.ca/~jcheng.) � Ö*Ó Þ±á�ã­Þ�é Û á?7*Ó Þ¬���#� � ��j� �� Q �� �� � �� ����¦��������������� ��� � ���¦�����Ã��� -���������� ��h���¥��� � � ���H����� � ' � ����$¨����� ��������� ��� � ���

-¡���� ���������'«����� ����¢� ���¤�����! �����¤�� Q �������F���#��� � � ���&����� � ' � ����$ � jª����·� ��¢q��� ¢� ��#� �#�� �¢� ����� �� ��'�������� � �����¤}� ��'³�� ����

-� � �! A ��� � ����� ¤�� � �� �������£�����ª¨� ���'� A����� ����¢� ���¤ ������ ������� �#�����H¡������ �� � ��������'�¤d�����! ������ ���� � � ������� �� � ��� Q·� � �³�������� � � Ã� � ������ �! ��������¦� � ��!� �����H���'�� �� � ���� ��'¶����� ½ ��� ��������������� ����� #����� � çB��� ¢� ���� � � ¤���� ½ � ���� ���������$ ½ � ���� ��� ���� �����é÷Ó Þ Û Þ � Óµé Û­ÝCÛ Þ � Ó����À� ½ ��� � ����À� � ���� ����À���¥� � �������� �A���! ���� ������� ����� ����¥� � �B��� ¢� ���� � � ¤Á��� � ��£�¤���� � � ���º���3� ��� ��� �� � � �� � ����� �� � �����Á�����¾ �������� � �����§ �����¡�� �� �Á���3� �! �����¢�� ��' ��� ���� ��� �������������������¤ �����Ê�����! �������� ���������5 � ���������� ������ È���Â�������­�!� ��� ��'

algorithms.

Mark-ê Ø�ê Ö*ã­ÔC×*ìf�� ��� �� ¢� �� � ���f��� ��� �f�� �'��� � ¦� �������! ���� ��h� ��� ����� ������� ½ ��'��� �¡�����'àB��� ¢� ���� � � ¤�$��¨ ���� ����¤�$M�����¬��� ½ � ������� ������'���� � � ¢�

� ��� ����� Y�������3���� ��¡�����' � B��� ¢� ���� � � ¤�$�������� ��������� ¸ ��� ��A� �¢� �������¤} ������� �Y��������¡���� ³�� � �� � ����� �����Y�� �¢� ����� ��! �����$ � ���M����ª±� Q·� � �³��� � ���� ����M� ���� ������ ®«����¡� ���P �;�� �� ������ � '������� ����� ½ ��� � � �� Ôq �������� ��' D������ª¨� ���'� &���� ����¢� ���¤���� ½ ��'��� �¡�����'RB��� ¢� ���� � � ¤��b � Ó ß Ó æ � ÓµdMã­Ö*Ó Þ � Ó á Û ���À���¶��������������� d ������� ��������h� �E� � º� � ����#����A���! �� ���� � ¤¶����� ����� ²�����±���'�� �� � ���� ��'¶�����§� � ����³���h�A���! ���� ��Sc� ����� ����·� � ¥B��� ¢� ���� � � ¤¥��� � ��£�¤������ � ���M¡� � ��Yª�����£�� ��'¥���Y¡����

-� ��������� ��� � ����$¬�������3�!� ��� ��'´��� 'q����� � � � ��$¬��������¡���� ¾� ¤�� � �� ��$x����������! �������� ��������������'�� ���-B¥I>ԨР� � � �Ð è è ª¨ª¨ª�� '���� £q� �-tokyo.ac.jp/~moris/.ë Û "­Ó ëp Û ÔC×A������«����� ��� �������q ������� ��������!��� ¹ ����� ����� ��� � � ���¨����� ½ ���� �����

Info��� ��� � ���3�����9���°�A���! ���� ��Ä����� ����� ­���d� � ¨B��� ¢� ���� � � ¤ ���®«��� ������� � ����� ½ �������������o� Y ������� �� � ��� Q·� � �³���������3� � Y�A���! ���� ������� ����� §� � ������ �! ����Ã���¦� � B��� ¢� ���� � � ¤5���À��� � � �������x���ÄB��¡������

-� � ���! ���� '���� ½ ���� °��¡������ � ���A�� �� ������ � �����º¡�����£�'����������º�����º¡� ��������� ����ª¨ª¨ª�� ����� ª¨��� ��� �����è~dpage.èCÕ ß b�×*ޱ׳���A� Q·� � �³�Õ� � ���� ����!����� � �� � ����Õ���&�A���! �� ���� � ¤������ ����� ����� ���'�� �� � ���� ��'´���Ì� � B��� ¢� ���� � � ¤¯��� � ��£�¤����2� 5���Ì����ª�� �¢� ����� �� ��' ��� ������ ��� ����Ä��� 'q����� � � � �����3�����! ���� � ��'­�������� ������ ����������������� �����³����� ��q� � ���q�����³¡� !����� ������� � ¤#� �������� �������� ��³� ������� ������ �����

-trees

���!��� � � �¢� � � ' � � ¤�������������� & ��� ���� ��� ���������