28
Biml en Data Vault

Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Embed Size (px)

Citation preview

Page 1: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Biml en Data Vault

Page 2: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Sander van der Hoeff

• Microsoft BI Specialist

• Zelfstandig

• (trail)Runner

• The Future Group =Maatschap van ZZP'ers

Page 3: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Wat is Data Vault

Page 4: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Data Vault

• Architectuur voor Datawarehouse laag

• Schaalbaar

• Parallellisme wordt aangemoedigd

• Kan nieuwe domeinen absorberen

Page 5: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Core Components Data Vault

• Hub = Business Key

• Link = Verbinding Business Keys

• Satellites = Attribute information

Page 6: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Wat is Biml

Business Intelligence Markup LanguageFrom Wikipedia, the free encyclopediaBusiness Intelligence Markup Language (Biml) is a domain-specific XML dialect for defining business intelligence (BI) assets. Biml authored BI assets can

currently be used by the BIDS Helper add-on for Microsoft SQL Server Business Intelligence Development Studio(BIDS) and the Varigence Mist integrated development environment; both tools translate Biml metadata into SQL Server Integration Services (SSIS) and SQL Server Analysis Services (SSAS) assets for the Microsoft SQL Server platform. However, emitters can be created to compile Biml for any desired BI platform.

While Biml’s declarative design is sufficient to author BI assets, BimlScript extends the language by enabling authors to embed C# orVB.NET code within Biml, similar to how ASP.NET includes .NET code within static HTML markup.[3] BimlScript is used to merge changes into existing Biml assets, automatically generate Biml code, and apply changes across multiple Biml files during compilation.

Page 7: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Waarom Generen

• Veel Tabellen

• Veel Packages

• Minder fouten

• Standaard Tabellen

• HULPMIDDEL, kan ook zonder

Page 8: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Waarom Genereren

Data Vault

Veel en

Standaard

Tabellen

Page 9: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Sounds Familiar?

ProjectProject

ProjectProject

Project

SRC DWHDMT

DMTDMT

ProjectProject

ProjectProject

Project

ProjectProject

ProjectProject

Project

Page 10: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Opties tot genereren

• TSQL

• MIST (Varigence)

• BiXPress (Pragmatic Works)

• Quipu

• DWHDeck

• Others

Page 11: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

SSIS vs tSQL

• Standaard Logging

• Standaard Monitoring

• Standaard Fout Afhandeling

Page 12: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Tables

• tSQL

• Metadata tabellen

• Ontstaan vanuit Templates

Page 13: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Waarom Biml

• Gebruikt SSIS

• XML Based

• Exception Driven

• Open Source

• Geen Api kennis vereist

• Kennis van SSIS noodzakelijk

• BIDSHelper

Page 14: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Exception based

Page 15: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Bronlaag (Navision)

Per Bedrijf (1000+) een set van 3500 tabellenMeerdere databases?Partieel laden?

Page 16: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers
Page 17: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Hubs

• Meervoudige keys concateneren

• Naamgeving uniform door Views

• Een package voor alle hubs

• Serieel laden (niet Data Vault standaard)

Page 18: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Hubs

• meerdere bronnen

• Alles varchar

• Select key from order

• Select key1_key2 from Orderregel

• Onderhouds issue

Een package of package per Hub?

Page 19: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers
Page 20: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Links

• Naamgeving standaardiseren door views

• Een package voor alle links

• Niet parallel

Page 21: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers
Page 22: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Satellites

• Verschilvergelijking dmv Hashbyteso In de package met een task of in een stored

procedure?

• Iedere satellite is verschillend

• Package per satellite

• Package is standaard op Attribuutvelden na

Page 23: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers
Page 24: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Datamart

• Transformatie tot Bussines logic

• Copy Paste

• View laag op DWH, een op een transfer van data naar Datamart laag

Page 25: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

DatamartPackage Biml

• Logging en config management ontbreken

Page 26: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Logging en Packageconfig toevoegen

Page 27: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers

Meer Lezenhttp://bimlscript.com/

http://biml101.blogspot.nl/

http://varigence.com/

Page 28: Biml en Data Vault. Sander van der Hoeff Microsoft BI Specialist Zelfstandig (trail)Runner The Future Group = Maatschap van ZZP'ers