Indução de Árvores de Decisão
description
Transcript of Indução de Árvores de Decisão
![Page 1: Indução de Árvores de Decisão](https://reader036.fdocuments.net/reader036/viewer/2022082507/56815e17550346895dcc7456/html5/thumbnails/1.jpg)
Indução de Árvores de Decisão
Prof. Alex F. V. Machado
![Page 2: Indução de Árvores de Decisão](https://reader036.fdocuments.net/reader036/viewer/2022082507/56815e17550346895dcc7456/html5/thumbnails/2.jpg)
Recordando...
![Page 3: Indução de Árvores de Decisão](https://reader036.fdocuments.net/reader036/viewer/2022082507/56815e17550346895dcc7456/html5/thumbnails/3.jpg)
Recordando...
![Page 4: Indução de Árvores de Decisão](https://reader036.fdocuments.net/reader036/viewer/2022082507/56815e17550346895dcc7456/html5/thumbnails/4.jpg)
Árvores de Decisão• São classificadores baseados em árvores para instâncias
representadas como vetores de características.• Os nós internos testam os valores de uma característica.
– Existe um ramo para cada valor possível da característica.• As folhas especificam a classe.
![Page 5: Indução de Árvores de Decisão](https://reader036.fdocuments.net/reader036/viewer/2022082507/56815e17550346895dcc7456/html5/thumbnails/5.jpg)
Árvores de Decisão• Podem representar conjunções e disjunções arbitárias. • Podem representar qualquer função de classificação
com atributos discretos.• Podem ser reescritas como um conjunto de regras, por
exemplo, em forma normal disjuntiva (DNF).
Outlook: sunny humidity: high → noOutlook: sunny humidity: normal → yesOutlook: overcast → yes
![Page 6: Indução de Árvores de Decisão](https://reader036.fdocuments.net/reader036/viewer/2022082507/56815e17550346895dcc7456/html5/thumbnails/6.jpg)
shape
circle square triangle
Indução Top-Down de Árvores de Decisão
• Árvore é construída recursivamente de cima para baixo, usando divisão e conquista.
<red, circle>: + <red, square>: <blue, circle>: <green, square>:-<red, triangle>:+
color
red blue green
pos neg pos
neg neg
![Page 7: Indução de Árvores de Decisão](https://reader036.fdocuments.net/reader036/viewer/2022082507/56815e17550346895dcc7456/html5/thumbnails/7.jpg)
Histórico da pesquisa em árvores de decisão
• Hunt e colegas usam métodos de árvore de decisão com busca (CLS) para modelar o aprendizado humano de conceitos na década de 1960.
• No final dos anos 70, Quinlan desenvolve o ID3 com a heurística de ganho de informação para aprender sistemas especialistas a partir de exemplos.
• Na década de 1980 uma série de melhorias foram introduzidas para lidar com o ruído, características contínuas, características ausentes, e critérios de divisão melhores.
• Pacote de árvore de decisão atualizado de Quinlan (C4.5) lançado em 1993.
• Weka inclui uma versão Java do C4.5 chamada J48.
![Page 8: Indução de Árvores de Decisão](https://reader036.fdocuments.net/reader036/viewer/2022082507/56815e17550346895dcc7456/html5/thumbnails/8.jpg)
Weka J48 Trace 1data> java weka.classifiers.trees.J48 -t figure.arff -T figure.arff -U -M 1Options: -U -M 1 J48 unpruned tree------------------color = blue: negative (1.0)color = red| shape = circle: positive (2.0)| shape = square: negative (1.0)| shape = triangle: positive (0.0)color = green: positive (0.0)
Number of Leaves : 5Size of the tree : 7
Time taken to build model: 0.03 secondsTime taken to test model on training data: 0 seconds
![Page 9: Indução de Árvores de Decisão](https://reader036.fdocuments.net/reader036/viewer/2022082507/56815e17550346895dcc7456/html5/thumbnails/9.jpg)
Weka J48 Trace 2data> java weka.classifiers.trees.J48 -t figure3.arff -T figure3.arff -U -M 1Options: -U -M 1 J48 unpruned tree------------------shape = circle| color = blue: negative (1.0)| color = red: positive (2.0)| color = green: positive (1.0)shape = square: positive (0.0)shape = triangle: negative (1.0)
Number of Leaves : 5Size of the tree : 7
Time taken to build model: 0.02 secondsTime taken to test model on training data: 0 seconds