MACHINE LEARNING Y TELEDETECCION · 2020. 6. 30. · TELEDETECCION Cienciaartey tecnologíade...

MACHINE LEARNING Y TELEDETECCIONSVM UN ALGORITMO CON SUPERVISIÓN

Seminario de Doctorado, ETSISI, UPM

6/29/2020 Seminario Doctorado ETSISI UPM 1

¿MACHINE LEARNING?

DETECCION DE SPAN RECONOCIMIENTO FACIAL TRADUCCION SIMULTANEA CONDUCCION AUTONOMA

es una disciplina científica en el ambito de la inteligencia artificial que se basa en sistemas que aprenden automáticamente.


¿OBJETIVO?. DEFINICIÓN CLARA

PROBLEMAS DE CLASIFICACION PROBLEMAS DE CLUSTERING PROBLEMAS DE REGRESION


ANTECEDENTE

TEST DE TURING

¿pueden las máquinas pensar?


TIPOLOGIA

APRENDIZAJE SUPERVISADO

APRENDIZAJENO

SUPERVISADOAPRENDIZAJE REFORZADO

PROCESAMIENTO DE LENGUAJE

NATURAL

DEEP LEARNING


APRENDIZAJE SUPERVISADO

ALGORITMOS DE REGRESION

ALGORITMOS DE CLASIFICACION

SVM

SUPPORT VECTOR MACHINE


SVM (SUPPORT VECTOR MACHINES)Clasificador basado en algoritmos no paramétricos.

SVM fueron propuestas por Boser, Guyon y Vapnik en 1992.

Son clasificadores derivados de la teoría de aprendizaje estadístico postulada por Vapnik y Chervonenkis.

Es uno de los mejores métodos de clasificación.

Adquirieron fama cuando dieron resultados muy superiores a las redes neuronales en el reconocimiento de letra manuscrita, usando como entrada píxeles.

Aprendizaje supervisado.

Clasificador lineal no probabilístico.


TELEDETECCIONCiencia arte y tecnología de obtener información acerca de la superficie de la Tierra sin entrar en contacto con ella.

TecnologíaCiencia

Arte

TELEDETECCION


TELEDETECCION


FLUJO DE TRABAJO EN TELEDETECCION


SENSORES EN TELEDETECCION


Satélites de órbita polar. Programa LANDSAT Sensor de LANDSAT 8

(image credit: NASA)



RESOLUCION ESPECTRAL



Resolución espacial nominal

Campo proyectado del campo de visión instantáneo

RESOLUCION RADIOMETRICA

CLASIFICACION DE IMÁGENES EN TELEDETECCIÓNInteligencia

artificial

Clasificación de imágenes de Teledetección

Bioinformática

Clasificación de secuencias de ADN

Diagnóstico médico

Reconocimiento de voz

Reconocimiento de escritura

Reconocimento de objetos en visión artificial

Movimiento de robots

Procesado del lenguaje natural

Análisis de stock de mercados

……..

Ciencias de la Computación

Reconocimiento de formas

Minería de datos

Estadística

Aprendizaje automático


CLASIFICACION DE IMÁGENES EN TELEDETECCIÓNMetodologías que incluye

Toma de decisiones: se atribuye cada una de las celdillas de laimagen, a unas categorías de cubierta terrestre definidas en unaleyenda, en función de los Niveles Digitales registrados en distintasbandas o imágenes que componen una imagen multibanda

El documento final es un documento gráfico (mapa temático) y tablasestadísticas que reflejan la distribución superficial de ellas

En una operación de clasificación se puede indicar generalmente lassiguientes fases: Entrenamiento. Análisis de separabilidad. Asignación.Verificación de resultados


CLASIFICACION DE IMÁGENES EN TELEDETECCIÓN

Reconocimiento de patrones espectrales

Reconocimiento de patrones espaciales

Reconocimiento de patrones temporales


CLASIFICACION DE IMÁGENES EN TELEDETECCIÓNEjemplo de imagen clasificada con resultado de un mapa temático

Agua

Suelo mixto

Suelo urbanizable

Vegetación mixta

Suelo urbano

Pinar

Autovía

Encinar

Vegetación ribereña


CLASIFICACION DE IMÁGENES EN TELEDETECCIÓN

Imagen LANDSATMapa categórico de clases

Banda 4

Banda 3

Localización de una clase en cada unidad espacial de análisis (UEA)

• Cada UEA representa un VECTOR decaracterísticas

• Definición de FRONTERAS de decisión entreclases

• Definición de REGLAS de decisión parasituar cada UEA en cada clase definidaentre fronteras uso de CLASIFICADOR

Identificación y selección de características

Clasificación vista desde el espacio de características


SVM. CLASIFICACION DE IMÁGENES

SVM

SUPPORT VECTOR MACHINE


SVM. PLANTEAMIENTO Si hay un número de observaciones l y cada una consiste en un par de datos:

Un vector xi Rn, i= 1, ……, l Una etiqueta yi {+1,-1}

Es decir, un conjunto de patrones de entrenamiento etiquetados de acuerdo con la expresión:

Existirá un hiperplano que separa las muestras positivas (+1) de las negativas (-1). Para ser linealmente separablesdeben existir un vector w y un escalar b tal que para todo el conjunto de entrenamiento, se cumplan lassiguientes inecuaciones

( y1, x1),......, ( yi , xi ) yi 1,1

i iw x b 1 if y 1if yi 1

1 , i 1,......, l

w xi b 1 Entonces se pueden expresar las inecuaciones como

yi ( w xi b ) Los puntos xi que están en el hiperplano satisfacen la expresión

w xi b 0


SVM. ¿CUÁL ES LA MEJOR SOLUCIÓN?

Encuentra un hiperplano lineal

(frontera de decisión) que

separe los datos

Primera solución Posibles soluciones


SVM. PLANTEAMIENTO II Como pueden existir muchos hiperplanos que proporcionen una separación efectiva, el que provee la separación

óptima se selecciona mediante la maximización de la distancia entre sí mismo y los planos que representan lasdos clases. El hiperplano óptimo es representado por la expresión

w0 xi b0 0 siendo el único que separa los datos de entrenamiento con un margen máximo, determinando la dirección ww en la que la distancia entre la proyección de los vectores de entrenamiento de las dos clases es máxima.


SVM. BUSCANDO EL HIPERPLANO Se comparan dos de los

hiperplanos, p. e. H1 y H2

Se define un margen en cada uno de ellos tangente a los soportes

El objetivo es maximizar el margen

El hiperplano que tenga mayor margen es el mejor clasificador de los datos

Los vectores soporte son los que tocan el límite del margen Tomado de Yasmin AnwarCS 795/895 – summer 2011, Old Dominion University

Vectores Soporte


SVM. ELECCIÓN DEL HIPERPLANO

Se tiene un hiperplano positivo y uno negativo

hiperplano “positivo”: w∙x+b = +1 hiperplano “negativo”: w∙x+b = -1

Para encontrar el hiperplano con mayor margen hay que maximizar el margen

El margen es igual a 2/ |w|

Tomado de Yasmin AnwarCS 795/895 – summer 2011, Old Dominion University

Vectores Soporte


SVM. ELECCIÓN DEL HIPERPLANO Esta distancia d(w,b) viene dada por la expresión

El hiperplano óptimo (w0,b0) es el argumento que maximiza la distancia según

Los vectores xi para los que se cumple yi (w∙xi + b) = 1 se denominan vectoressoporte

maxw wx: y1 x: y1

d (w,b) min x w x w

0 00 0 0

2 2w

d(w ,b ) w w


SVM. DATOS NO SEPARABLES LINEALMENTECuando los datos no se pueden separar linealmente, se hace un cambio de espaciomediante una función que trasforme los datos de manera que se puedan separarlinealmente. Esta función se llama kernel.

Φ: x →φ(x)

Espacio de características original Espacio de características hiper-dimensional


SVM. EJEMPLOS DE KERNELLineal: K( x ,x ) xT x

i j i j

Polinomial: x x r )d ,g 0Ti jK( xi ,x j ) (g

2i j i jFunción base radial: K(x , x ) exp(g || (x x ) || ,g 0

Ti j i jSigmoide : K(x , x ) tan H(g x x r)

donde γ es la anchura de la función kernel, d es el grado del polinomio y r es el término bias de la función kernel.


SVM. APLICACIÓN A IMAGENES



REFERENCIAS

C. Cortes and V. Vapnik, “Support vector networks”, Machine Learning, 20, 273‐297, 1995. D. J. Lary, A. H. Alavi, A. H. Gandomi and A. L.Walker, “Machine learning in geosciences and

remote sensing” 7(1), 3‐10, 2016. L. Ma, Y. Liu, X. Zhang, Y. Ye, G. Yin and B. A. Johnson, “Deep learning in remote sensing

applications: A meta‐analysis and review”, ISPRS Journal of Photogrammetry and RemoteSensing, 152, 166‐177, 2019.

A. E. Maxwell, T. A. Warner & F. Fang, “Implementation of machine‐learning classification inremote sensing: an applied review”, International Journal of Remote Sensing, 39(9), 2784‐2817, 2018.

V. N. Vapnik, The Nature of Statistical Learning Theory. Springer Verlag, 2000.


SVM_Linear SVM_Polynomial SVM_RBF SVM_Sigmoide


MACHINE LEARNING Y TELEDETECCION · 2020. 6. 30. · TELEDETECCION Cienciaartey tecnologíade...

Documents

Transcript of MACHINE LEARNING Y TELEDETECCION · 2020. 6. 30. · TELEDETECCION Cienciaartey tecnologíade...