52
Analizando patrones de datos SQL Server DM, Excel DM, Azure ML y R Ana María Bisbé York @ambynet http://amby.net/

Analizando patrones con SQL, Excel, Azure ML, R y más

Embed Size (px)

Citation preview

Page 1: Analizando patrones con SQL, Excel, Azure ML, R y más

Analizando patrones de datosSQL Server DM, Excel DM, Azure ML y R

Ana María Bisbé York@ambynet http://amby.net/

Page 2: Analizando patrones con SQL, Excel, Azure ML, R y más

2

Temario

Introducción a Minería de datosMS Office Excel – Herramientas de tabla y Minería de datosSQL Server Data Tools – Analysis ServicesSQL Server Management Studio – Data Mining Extensions (DMX)Lenguaje RMS Azure Machine Learning

Page 3: Analizando patrones con SQL, Excel, Azure ML, R y más

Introducción Minería de datos y Machine Learning

Page 4: Analizando patrones con SQL, Excel, Azure ML, R y más

4

Análisis de datos para conocer ¿por qué?

Descubrir las razones del éxito y el fracaso de la gestiónEntender los productos, clientes, y a nosotros mismos En resumen:

Obtener el conocimiento para dirigir el negocio sobre la base del análisis de datos Riesgo de un crédito a un cliente Agrupación de clientes Productos o servicios que se adquieren juntos Previsión de ventas Previsión de clientes potenciales

Page 5: Analizando patrones con SQL, Excel, Azure ML, R y más

5

La minería de datos en el proceso de búsqueda de conocimiento

http://www.csd.uwo.ca/faculty/ling/cs435/fayyad.pdf - 1997

Page 6: Analizando patrones con SQL, Excel, Azure ML, R y más

6

El modelo CRISP

https://es.wikipedia.org/wiki/Cross_Industry_Standard_Process_for_Data_Mining

Page 7: Analizando patrones con SQL, Excel, Azure ML, R y más

7

Algoritmos

Directos o supervisados Variable a predecir

Clasificación Estimación Previsión

Indirectos o no supervisados Patrones

Agrupación por afinidad Clustering Descripción

Page 8: Analizando patrones con SQL, Excel, Azure ML, R y más

8

Herramientas

http://www.techrepublic.com/blog/big-data-analytics/data-scientists-can-find-big-money-in-open-source/

Page 9: Analizando patrones con SQL, Excel, Azure ML, R y más

9

Explorar con TSQL

Page 10: Analizando patrones con SQL, Excel, Azure ML, R y más

10

Papel de las estadísticas

Permiten tener una idea de los valores Media, mediana, MIN, MAX

Descubrir correlaciones sencillasValidar algunas asunciones Visualizar con precisión

Histogramas y gráficos de caja (boxplots)

Page 11: Analizando patrones con SQL, Excel, Azure ML, R y más

11

Pasos en un proceso de minería de datos

Definir (inicializar) el modeloEntrenar el modelo

procesar un % de los casos conocidosValidar modelo para puntuar (score)

procesar un % de los casos conocidosComparar las predicciones con datos reales

Page 12: Analizando patrones con SQL, Excel, Azure ML, R y más

MS Office Excel – Herramientas de tabla y Minería de datos

Page 13: Analizando patrones con SQL, Excel, Azure ML, R y más

Minería de datos con MS Excel

Page 14: Analizando patrones con SQL, Excel, Azure ML, R y más

Detección fraudes o anomalías con DM Excel

Page 15: Analizando patrones con SQL, Excel, Azure ML, R y más

SQL Server Analysis Services Data Tools

Page 16: Analizando patrones con SQL, Excel, Azure ML, R y más

Validar modelos

Page 17: Analizando patrones con SQL, Excel, Azure ML, R y más

Realizar predicciones en SSAS

Page 18: Analizando patrones con SQL, Excel, Azure ML, R y más

SQL Server Management Studio – Visores

Page 19: Analizando patrones con SQL, Excel, Azure ML, R y más

Naive Bayes en SSAS

Page 20: Analizando patrones con SQL, Excel, Azure ML, R y más

Redes neuronales en SSAS

Page 21: Analizando patrones con SQL, Excel, Azure ML, R y más

Clustering en SSAS

Page 22: Analizando patrones con SQL, Excel, Azure ML, R y más

Árbol de decisión en SSAS

Page 23: Analizando patrones con SQL, Excel, Azure ML, R y más

Contenido Genérico del modelo

Page 24: Analizando patrones con SQL, Excel, Azure ML, R y más

SQL Server Management Studio – Data Mining Extensions (DMX)

Page 25: Analizando patrones con SQL, Excel, Azure ML, R y más

Contenido del modelo

Page 26: Analizando patrones con SQL, Excel, Azure ML, R y más

Detección de fraudes o anomalías con DMX

Page 27: Analizando patrones con SQL, Excel, Azure ML, R y más

Realizar predicciones

Page 28: Analizando patrones con SQL, Excel, Azure ML, R y más

Lenguaje R

Page 29: Analizando patrones con SQL, Excel, Azure ML, R y más

29

Lenguaje R

Código abierto, gratuito Disponible para Windows, Mac, Unix http://cran.r-Project.org

Comunidad enorme y muy activaTodo incluido: lenguaje e IDEMás de 5000 paquetesVisible desde Azure ML

Page 30: Analizando patrones con SQL, Excel, Azure ML, R y más

Explorar datos con R - Raffle

Page 31: Analizando patrones con SQL, Excel, Azure ML, R y más

Explorar datos con R - Raffle

Page 32: Analizando patrones con SQL, Excel, Azure ML, R y más

Correlación en datos con R - Raffle

Page 33: Analizando patrones con SQL, Excel, Azure ML, R y más

Modelado desde R - Rattle

Page 34: Analizando patrones con SQL, Excel, Azure ML, R y más

34

R para desarrollador SQL

Paquete dplyr Ejemplos de comandos

Filter Select Arrange Mutate Summarise Group_By

Base de datos SQL Programación RTabla Data frameColumna o campo Columna o variableFila Observación

Page 35: Analizando patrones con SQL, Excel, Azure ML, R y más

R – Estadísticas

Page 36: Analizando patrones con SQL, Excel, Azure ML, R y más

36

R para obtener gráficos

Paquete ggplot ggplot (df_dm, aes(Región, fill=Educación)) + geom_bar() ggplot(df_dm, aes(Ocupación) ) + geom_histogram(color = "white") +

facet_grid(EstadoCivil ~ .)

Page 37: Analizando patrones con SQL, Excel, Azure ML, R y más

MS Azure Machine Learning

Page 38: Analizando patrones con SQL, Excel, Azure ML, R y más

Algoritmos MS Azure Machine Learning

Page 39: Analizando patrones con SQL, Excel, Azure ML, R y más

Microsoft Azure Machine Learning

Page 40: Analizando patrones con SQL, Excel, Azure ML, R y más

Azure ML - Cargar datos

Page 41: Analizando patrones con SQL, Excel, Azure ML, R y más

Azure ML - Experimento

Page 42: Analizando patrones con SQL, Excel, Azure ML, R y más

Azure ML – Explorar datos

Page 43: Analizando patrones con SQL, Excel, Azure ML, R y más

Azure ML – Seleccionar columnas

Page 44: Analizando patrones con SQL, Excel, Azure ML, R y más

Azure ML – Dividir la muestra

Page 45: Analizando patrones con SQL, Excel, Azure ML, R y más

Azure ML – Algoritmos de clasificación

Page 46: Analizando patrones con SQL, Excel, Azure ML, R y más

Azure ML – Entrenar modelos

Page 47: Analizando patrones con SQL, Excel, Azure ML, R y más

Azure ML – Medir (score)

Page 48: Analizando patrones con SQL, Excel, Azure ML, R y más

Azure ML – Evaluar modelos

Page 49: Analizando patrones con SQL, Excel, Azure ML, R y más

Azure ML – Visualizar resultados

Page 50: Analizando patrones con SQL, Excel, Azure ML, R y más

50

Conclusiones

Minería de datos Búsqueda de conocimiento

Mayor parte del proyecto Exploración de datos Limpieza Definición de atributos o variables

ModeladoEvaluaciónImplementación

Page 51: Analizando patrones con SQL, Excel, Azure ML, R y más

Gracias por su atenciónFollow @pass24hop

Comparta sus opinions con hashtags #pass24hop & #sqlpass

Page 52: Analizando patrones con SQL, Excel, Azure ML, R y más

¿Preguntas?