41
diciembre 2010 Big data Architectures and Practical use cases [email protected] @juantomas

Big Data as Service

Embed Size (px)

Citation preview

Page 1: Big Data as Service

diciembre 2010

Big data

Architectures and Practical use [email protected]

@juantomas

Page 2: Big Data as Service

Data Everywhere

Page 3: Big Data as Service

Big DataBig data es el análisis de la información para identificar tendencias, patrones y

conocimientos que nos permitan tomar mejores decisiones de negocio

Page 4: Big Data as Service

La oportunidadLas nuevas tecnologías para el tratamiento de datos hacen posible gestionar y analizar todos los datos disponiblesen su forma nativa:

no estructurada

estructurada

streaming

Page 5: Big Data as Service

Impacto en el negocioAgilidad Operativa

Analizar todos los datos operativos disponibles, reaccionar en tiempo real y optimizar los procesos.

Conocer todo acerca de nuestros cliente Analizar todas las fuentes de datos para conocer a nuestros clientes y personalizar la oferta de productos y servicios de las interacciones de canal, a los medios de comunicación social.

Prevención del Fraude y Riesgo Desarrollar mejores modelos de fraude / riesgo mediante el análisis de todos los datos disponibles, y detectar el fraude en tiempo real con el análisis de las transacciones de streaming.

Impulsar y escalar la innovación Captura todas las fuentes de datos retroalimentación y análisis de grandes cantidades de datos para el desarrollo de nuevos productos y servicios.

Page 6: Big Data as Service

ASP Value addDescubrimiento, visualización y navegación de datos.

Analisis Agil de los datos para mejorar la visión de negocio e identificar nuevas oportunidades.

Analisis en streaming de los datos para la toma de decisones en tiempo real.

Soluciones ágiles en base a tecnologías abiertas

Page 7: Big Data as Service

Analisis ÀgilNecesidad del cliente

Ingerir datos tal y como son en Hadoop y obtener una visión de ella Proceso de grandes volúmenes de datos diversos dentro de Hadoop Combinar conocimientos con el almacén de datos Analis nálisis ad-hoc para probar nuevas hipótesis

Proposición de Valor Adquirir nuevos conocimientos a partir de una variedad y combinación de fuentes de datos Superar el costo prohibitivo de la conversión fuentes de datos no estructurados a un formato estructurado Extender el valor del almacén de datos mediante la incorporación de nuevos tipos de datos y la conducción de nuevos tipos de análisis Experimentar con el análisis de diferentes combinaciones de datos para modificar los modelos analíticos en el almacén de datos

Ejemplos de clientes Oferta personalizada de servicos financieros en Monty

Page 8: Big Data as Service

Streaming de datosNecesidad del cliente

Captura y proceso de datos en tiempo real, selección y agregación de información valiosa de negocio para su posterior procesamiento Proceso y analice de los datos perecederos, para la toma las decisiones oportunas.

Proposición de Valor Se ha reducido significativamente el tiempo de procesamiento y costo - proceso y luego almacenar lo que es valioso Reaccionar en tiempo real para capturar oportunidades antes de que caduquen

Ejemplos de clientes Pedro Sanz - Generación automatica de oferttas personalizadas para captar y retener los clientes.

Page 9: Big Data as Service

Descubrimiento y Navegación

Necesidad del cliente Comprender las fuentes de datos existentes Exponer los datos dentro existente sistemas de archivos de gestión de contenidos y para nuevos usos, sin copiar el datos a una ubicación central Buscar y navegar por grandes datos de orígenes multicana

Proposición de Valor Póngase en marcha rápidamente ydescubrir y recuperar grandes datos relevantes Utilizar fuentes de datos grandes en nuevo aplicaciones centradas en la información

Ejemplos de clientes Telefonica MSS SAQQRA - Generacíon de una vista 360 ° de las amenazas y vulnerabilidades de seguridad de sus clientes

Page 10: Big Data as Service

Soluciones Àgiles

Necesidad del cliente Comprender las fuentes de datos existentes Exponer los datos dentro existente sistemas de archivos de gestión de contenidos y para nuevos usos, sin copiar el datos a una ubicación central Buscar y navegar por grandes datos de orígenes multicana

Proposición de Valor Póngase en marcha rápidamente y descubrir y recuperar grandes datos relevantes Utilizar fuentes de datos grandes en nuevo aplicaciones centradas en la información

Ejemplos de clientes Telefonica MSS SAQQRA - Generación de una vista 360 ° de las amenazas y vulnerabilidades de seguridad de sus clientes

Page 11: Big Data as Service

Es el momento

Page 12: Big Data as Service

¿Preparado?

Page 13: Big Data as Service

1. Define your Goals

Page 14: Big Data as Service

Proceso tradicional

Convergencia de datosDivergencia analítica

DescubreRecopila

FiltraIntegra Aumenta

AnalizaActúa

3-6 meses 2 meses 2-4 meses

Page 15: Big Data as Service

Proceso ágil

Convergencia de datosDivergencia analítica

DescubreRecopila

FiltraIntegra Aumenta

AnalizaActúa

3-6 meses 2 meses 2-4 meses

MPV, con un simple modelo de frecuencia

Mide el uso actual y sus beneficios

Aprende y evoluciona hacia una mejor comprensión

Page 16: Big Data as Service

80/20

Page 17: Big Data as Service

Un ejemplo

¿Qué características tienen los clientes que nos están dejando?

¿Qué comportamientos de compra tienen

los clientes que se están yendo?

¿Cómo podemos retener a clientes de alto valor que

están a punto de abandonarnos?

¿Qué están diciendo los clientes que están a punto de irse en las RRSS?

¿Podemos determinar el sentimiento denuestros clientes antes de irse?¿Podemos determinar el sentimiento de

nuestros clientes antes de irse?

¿Podemos determinar el sentimiento denuestros clientes antes de irse?

¿Qué secuencia de eventos parece que es la anima a nuestros clientes

a quedarse?

¿Qué secuencia de eventos parece que es la anima a nuestros clientes

a quedarse?

Page 18: Big Data as Service

Escalando la solución

Nuestra arquitectura de referencia

Page 19: Big Data as Service

Arquitectura Lambda

Page 20: Big Data as Service

Arquitectura Lambda

Page 21: Big Data as Service

Batch-Hadoop (MR1)

Page 22: Big Data as Service

Batc-MapReduce

Page 23: Big Data as Service

Batch-Cascading

Page 24: Big Data as Service

Batch-Spark

Page 25: Big Data as Service

Batch-MPP database

Page 26: Big Data as Service

Velocidad

Batch

Speed

Serving Query

query = function(all data)

All Data

Page 27: Big Data as Service

Velocidad. Storm

Page 28: Big Data as Service

Servicio.

Batch

Speed

Serving Query

query = function(all data)

All Data

Page 29: Big Data as Service

Pull-based Batch Loads

EnterpriseData Models

Complex ETL Logic

Poorly Suited to Non-Relational Data

El diseño emergente es difícil

Arquitecturas convencionales

Page 30: Big Data as Service

Drive Towards in memory Processing

Page 31: Big Data as Service

https://www.tele-task.de/archive/lecture/overview/5721/

In memory Computing

Page 32: Big Data as Service

https://www.tele-task.de/archive/lecture/overview/5721/

Page 33: Big Data as Service

https://www.tele-task.de/archive/lecture/overview/5721/

Apache Spark

Page 34: Big Data as Service
Page 35: Big Data as Service
Page 36: Big Data as Service
Page 37: Big Data as Service

Data Structures

Algorithmshttps://www.flickr.com/photos/herrolsen/7645876896/

Page 38: Big Data as Service

Raw Data Data Structure Algorithm Insight

Estructura

Page 39: Big Data as Service

Traditional Data Flow

Page 40: Big Data as Service

Streaming Data Flow

Page 41: Big Data as Service

aspgems.com@aspgems

Gracias