Episode 44 : REX dataoops modélisation et postgresql performance, DuckDB stars, MS Fabric ratio prix/performance

#DataOops

#Technologie #Dataoops : le podcast sur la data et de devops #Eric Duquesnoy #Fabien Beaumont #Romain Ferraton

21:04

Step into the mysterious and visually stunning world of The Electric State as host Francesca Amiker takes you behind the scenes with the creative masterminds who brought Simon Stålenhag’s dystopian vision to life. In this premiere episode, directors Joe and Anthony Russo, stars Millie Bobby Brown and Chris Pratt, writers Christopher Markus and Stephen McFeely, and producers Angela Russo-Otstot and Chris Castaldi reveal how they transformed a haunting graphic novel into an epic cinematic experience. Watch The Electric State coming to Netflix on March 14th. Check out more from Netflix Podcasts . State Secrets: Inside the Making of The Electric State is produced by Netflix and Treefort Media.…

大约1年之前 1:06:09

MP3•单集首页

REX sur des erreurs de modélisation avec des vues trop imbriquées, performance postgresql windows vs linux. DuckDB une star sur Github qui rejoint Postgresql. MS Fabric des prix d'appel pour les entreprises avec un ratio prix/performance attractif.

50集单集

#DataOops

Episode 44 : REX dataoops modélisation et postgresql performance, DuckDB stars, MS Fabric ratio prix/performance

#DataOops

published 大约1年之前

MP3•单集首页

50集单集

#Technologie #Dataoops : le podcast sur la data et de devops #Eric Duquesnoy #Fabien Beaumont #Romain Ferraton

ทุกตอน

#DataOops

1
Episode 54 : des nouvelles de DuckDB, des vecteurs chez les principales databases, no/low-code vs code 1:00:11

26天之前1:00:11

1:00:11

Des nouvelles de DuckDB avec l'interface graphique DuckDB UI, Les vecteurs dans les principales bases de données relationnelles comme Oracle, SQL Server ou PostgreSQL et comment fabriquer ses embeddings. Enfin une discussion sur les avantages et inconvénients entre la solution NO/Low Code et le Code de l'intégration à la BI…

#DataOops

1
Episode 53 : Bilan 2024 des databases / dbt & dlt un duo gagnants ? 51:00

12 weeks之前51:00

51:00

Episode timeline

#DataOops

1
Episode 52 : Iceberg et Delta, Migration de bases de données, Evidence.dev : Reports as Code 52:17

19 weeks之前52:17

52:17

Episode timeline

#DataOops

1
Episode 51 : DuckDB v1.1 vs PostgreSQL v17 / SQL en difficulté 1:04:10

26 weeks之前1:04:10

1:04:10

Episode timeline

#DataOops

1
Episode 50 : Performance d’un stockage physique récent | L’audit de sécurité dans SQL Server et PostgreSQL | Stockage objet

40 weeks之前

—

Dans cet épisode ont parle de Performance d'un stockage physique recent et la comparaison avec ce que l'on peut avoir sur du cloud public. De l'audit de sécurité dans SQL Server et PostgreSQL. Du stockage objet (S3 et Ceph), Cloud (ou pas)

#DataOops

1
Episode 49 : Migration de données et collations, Cas d’utilisations d’IA, DevOx

47 weeks之前

—

On parle : Migration/Transfert de données inter-databases et les problématiques de collations associées. Puis discussions sur les collations : performances, impacts Un REX sur un dataoops sur les datatypes text/varchar entre postgresqle et mssql Les grands cas d'usage IA : détection DevOx : retour d'Adrien sur ce qui lui a plus : Alto et Park et l'AGC (Appolo Guidance Computer : ou la programmation sous contraintes 😀 )…

#DataOops

1
Episode 48 : Indexation – PostgreSQL vs MSSQL vs Oracle

51 weeks之前

—

On parle indexation dans les bases de données relationnelles et en particulier PostgreSQL, MSSQL et Oracle : index Btree, GIN, GIST, partiel ou filtré, couvrant, columnstore, FullText, Spatial, BRIN, Bitmap... Une heure de comparaison entre les 3 grands SGBDR

#DataOops

1
Episode 47 : PostgreSQL : MVCC et Vacuum – PowerBI : Analyser les performances – Modélisation One Big Table et le stockage colonne à la rescousse – Détection d’anti-pattern dans MSSQL

1 year之前

—

Retour pgday Paris. PostgreSQL : MVCC et Vacuum. PowerBI : Analyser les performances et quelques conseils pour les optimiser. OBT : modélisation One Big Table et le stockage colonne à la rescousse. Clause Non-Sargable et détection d'anti-pattern avec les extended events sur MSSQL

#DataOops

1
Episode 46 : Adrien Nayrat nous rejoint pour parler postgresql – DuckDB v0.10 – C/C++ bannis par les USA ?

1 year之前

—

Adrien Nayrat un spécialiste postgresql rejoint l'équipe Dataoops, il se présente et en profite pour nous rappeler l'histoire de postgresql et glisser quelques conseils sur les extensions. La deuxième partie concerne DuckDB et les nouveautés de la v0.10 ainsi que des remarques sur une nouvelle concernant les languages C/C++ considérés comme "à risques" par l'administration américaine.…

#DataOops

1
Episode 45 : Chargement massif 1 Milliard de lignes dans un columnstore SQL Server en 6min, DuckDB v0.10, MS Fabrics et Vacuum 1:07:09

1 year之前1:07:09

1:07:09

Comment accélérer un chargement massif dans un columnstore sur SQL Server : un retour d'expérience approfondi avec 1 milliard de lignes chargé en 6 minutes. DuckDB passe en v0.10 et stabilise son stockage. MS Fabric annonce que le Vacuum sera bientot possible et voici pourquoi c'est une bonne chose...…

#DataOops

1
Episode 44 : REX dataoops modélisation et postgresql performance, DuckDB stars, MS Fabric ratio prix/performance 1:06:09

1 year之前1:06:09

1:06:09

#DataOops

1
Episode 43 : bilan 2023 une année spéciale pour la data avec l’émergence de l’IA et la progression des stockages objets et lakehouse 1:02:01

1 year之前1:02:01

1:02:01

Episode 43 : bilan 2023 avec les lakehouses, la gouvernance des données, les bases de données vectorielles, les IA génératives et autres LLM, Oracle Cloud et les bases Autonomous

#DataOops

1
Episode 42 : MSSQL Server replication oops / Qdrant, PostgresML et LanceDB / chdb / tpch / oracle autonomous db

1 year之前

—

Episode timeline

#DataOops

1
Episode 41 : Onyxia et SSP Cloud avec Frederic Comte

1 year之前

—

Onyxia est une UX open source pour mettre en place un datalab avec des services basés sur des containers et orchestrés par K8s. Minio pour le stockage, Keycloak et Vault pour la sécurité s'intègre parfaitement. Cette solution est mise en oeuvre à l'INSEE avec le datalab SSP et Frederic Comte, Architecte Data à l'INSEE nous en explique les fondements et les avantages.…

#DataOops

1
Episode 40 – Microsoft Fabric passe en GA 1:07:10

1 year之前1:07:10

1:07:10

Microsoft Fabric passe en GA : on en parle

#DataOops

1
Episode 39 : Interview Sylvain Lesage, Développeur chez Hugging Face 1:05:28

1 year之前1:05:28

1:05:28

Une interview de Sylvain Lesage développeur chez Hugging Face dans l'équipe en charge de la prévisualisation des datasets : le dataset viewer. Il nous parle de son parcours et de son expérience chez Hugging Face, une société très inspirée dans le monde de l'IA.

#DataOops

1
Episode 38 : PowerBI et Couche Sémantique – Databases et Comptage Approximatif – Parquet méthode d’encodage 57:09

1 year之前57:09

57:09

Partie 1 : La couche sémantique et l'architecture de Power BI. Partie 2 : Comptage approximatif et l'algorythme hyperlolog. Partie 3 : les différents types d'encodage avec les columnstore index SQL Server & Apache Parquet et des stockages colonnaires en général

#DataOops

1
Episode 37 : Oracle Data Cartbidge, SQL Server Minimal Logging, Parquet et tri des données, Database of Databases Dashboard, DataGouvernance 1:06:43

2 years之前1:06:43

1:06:43

Episode 37 : Oracle Database Data Cartbridge ou comment faire une extension dans la base Oracle. SQL Server Journalisation Minimale. L'importance du tri des données pour les performances avec Parquet. Le tableau de bord des bases de données : +900 databases étudiées. La DataGouvernance un sujet qui n'est pas uniquement technique.…

#DataOops

1
Episode 36 : les tendances des bases de données / Une formation Databricks testée / DB Vectorielles : les points importants 1:08:06

2 years之前1:08:06

1:08:06

Databricks : formation en ligne gratuite et aparté Delta Lake 3.0. Oracle DB : un dashboard sur les features et innovation depuis la 11.2 avec 1608 features. Les tendances des bases de données (Relationnelles et NoSQL). Les bases de données vectorielles : qu'est ce qui les différencie et les points importants pour les choisir.…

#DataOops

1
Episode 35 : SQL invulnérable / Microsoft DataFabric 1:03:10

2 years之前1:03:10

1:03:10

SQL : un language incontournable dans le traitement des données. On en parle avec une approche historique, les dialectes et les nouvelles approches qui rendent ce language plus vivant que jamais. Dans la deuxième partie de l'épisode on vous parle de Microsoft DataFabric : où en est-on avec ce nouveau service orienté données proposé par Microsoft.…

#DataOops

1
Episode 34 : DataLakeHouse et architecture médaillon / Nouveautés d’Oracle Database 23c 1:00:34

2 years之前1:00:34

1:00:34

DataLakehouse et Architecture Médaillon. Les nouveautés d'Oracle Database 23c

#DataOops

1
Episode 33 : Bases de données vectorielles essai avec SQL Server + Microsoft Fabric Partie 2 1:07:26

2 years之前1:07:26

1:07:26

Dans cette épisode on parle d'un essai d'implémentation de recherche sémantique et vectorielle avec SQL Server. Dans la seconde partie : Approfondissement de Microsoft Fabric.

#DataOops

1
Episode 32 : Avis sur Microsoft Fabric + Les bases de données vectorielles ou la mémoire des IAs 1:02:05

2 years之前1:02:05

1:02:05

Microsoft a lancé un nouveau service chapeau : Microsoft Fabric. Senser regrouper tous les services autour de l'analytique, ce service est plein de promesses. Premiers avis sur ce service avec Fabien Beaumont. Romain Ferraton aborde ensuite les bases de données vectorielles, support de la mémoire des IAs. Capables de recherches sémantiques accélérées les bases de données vectorielles ont le vent en poupe. Mais on peut aussi faire ce type de recherche semantique avec des bases classiques comme postgresql avec une extension (pgvector) voir même avec sql server, oracle ou n'importe quelle base de données relationnelles en faisant des calculs de distances. Ce qui manquera toutefois à ces bases non-spécialisées : des index adaptées aux vecteurs.…

#DataOops

1
Episode 31 : REX dataoops SQL Server et IOT, Observabilité, DataMesh 1:39:00

2 years之前1:39:00

1:39:00

4 sujets dans cet épisode : Une REX sur un problème de modélisation de données IOT dans SQL Server. L'arrivée des fonctionnalités spatiales sur DuckDB. Discussion sur l'observabilité : théorie et un exemple de log machine friendly avec Serilog. Discussion sur le datamesh

#DataOops

1
Episode 30 : Parquet to SQL / 3 000 milliards de lignes dans SQL Server 1:08:10

2 years之前1:08:10

1:08:10

On parle de chargement de données Parquet dans SQL Server via C# et bulkcopy. On parle également des bonnes pratiques pour sql server pour stocker 3000 milliards de lignes. Dernière partie avec une overview

#DataOops

1
Episode 29 : TPCH MSSQL entre dans la danse + ChatGpt Premiers tests 1:21:36

2 years之前1:21:36

1:21:36

TPCH : nouveaux tests avec SQL Server et influence de la collation sur les performances. Autres Tests TPCH SF100 : DuckDB & Hyper sur un laptop vs, Snowflake (XS to 4xLarge). Quelques mots sur nos premiers essais avec ChatGPT

#DataOops

1
Episode 28 : TPCH Cloud Databases vs DuckDB, les outils autour de Terraform et les extended events sur SQL Server. 1:40:07

2 years之前1:40:07

1:40:07

On parle un tout petit peu de chatGPT mais d'abord des évènements étendus (extended events) sur SQL Server et de leurs capacités à faire remonter des informations précieuses pour le diagnostique voir l'analyse du code. Ensuite nous abordons le benchmark TPCH et la comparaison des performances des bases Cloud comme comme Snowflake, BigQuery, SingleStore et Synapse vs DuckDB. Eric nous parle également des outils permettant se faciliter la vie avec Terraform.…

#DataOops

1
Episode 27 : Data Virtualisation + Hardware NVMe-oF

2 years之前

—

Data virtualisation remise au gout du jour avec sql server 2022, la data virtualisation permet d'accéder à de nombreuses sources (SGBDR, Datalake, Fichiers...) depuis un point unique. Ce type d'architecture permet de simplifier le paysage architectural. On en parle sur Dataoops. Les disques NVMe apparus il y a quelques années on permis d'accélerer considérablement les accès disques. Les SAN en bénéficient maintenant plus efficacement avec le NVMe-oF : NVMe over Fabric.…

#DataOops

1
Episode 26 : Big Data is Dead (DuckDB) / Data Gouvernance 1:17:52

2 years之前1:17:52

1:17:52

On discute de l'article Big Data is Dead : de Jordan Tigani. On discute des avantages de DuckDB. Puis un on aborde la data gouvernance avec Fabien

#DataOops

1
Episode 25 : DataLakeHouse, ADBC et Configuration VMWare pour les bases de données 1:16:13

2 years之前1:16:13

1:16:13

1) Premières impression sur le DatalakeHouse de Databricks. 2) Le protocole ADBC (Arrow Database Connectivity) 3) Bonnes pratiques de configuration des VMs pour les bases de données

#DataOops

1
Episode 24 : MongoDB avec Frédéric Favelin

2 years之前

—

MongoDB est devenu la principale base de données NoSQL du marché. De type document, elle cherche à toucher le plus de cas d'usages possibles. Frédéric Favelin Directeur Technique chez MongoDB viens nous parler de ses spécificités.

#DataOops

1
Episode 23 : PowerBI External Tools 56:56

2 years之前56:56

56:56

Les external tools de powerBI permettent d'augmenter la productivité des développements. Fabien nous explique comment et quels tools choisir

#DataOops

1
Episode 22 : Datalake & Datasharing + DevOps & FinOps + Silicon Chalet 1:35:03

2 years之前1:35:03

1:35:03

Un tour d'horizon sur les solutions Datalake du marché et discussion sur le Datasharing Coté Devops : comme le devops est perçu suivant le type d'entreprise FinOps : pilotage des couts News : Nouveau Meetup Silicon Chalet

#DataOops

1
Episode 21 : REX sur crash databases mssql + AWS AppRunner + les Certifications IT 1:31:52

3 years之前1:31:52

1:31:52

Episode 21 : Rex sur un crash d'une infrastructure virtuelle et l'impact sur les bases de données (MSSQL). Découverte de AWS App Runner et discussions sur les certifications IT

#DataOops

1
Episode 20 : Microsoft Dataverse & les secrets d’un stockage performant pour les bases de données

3 years之前

—

Microsoft Dataverse : une base de données universelle ? Retour sur EightKB 2022 et les indicateurs de performances critiques selon les fichiers utilisés par SQL Server (Journal, Datafiles, Backup Files) : Latence vs Bande Passante

#DataOops

1
Episode 19 : MS SQL Server 2022 nouveautés et AWS CloudFront CDN

3 years之前

—

Quelques nouveautés de SQL Server 2022 : optimisation des index columnStore, opérateur Is (Not) Distinct From, DateTrunc, DateBucket, Greatest, Least. 2ème partie avec Aws Cloudfront ou le CDN selon AWS. 3ème partie : Coups de coeurs avec Apache Arrow Flight SQL et HashiCorp Learn

#DataOops

1
Episode 18 : DuckDB et Apache Arrow 58:56

3 years之前58:56

58:56

DuckDB est une base de données OLAP in-process et très légère : très utile pour la préparation de données en SQL Surtout quand cette base est compilée en C++, très performante, dotée de nombreuses fonctions, capable de lire et écrire des fichiers csv ou parquet et utilisable via ODBC,JDBC, API python ou C++ ou tout simplement via CLI. Apache Arrow est un format pour la représentation colonnaire données analytiques et permet d'éviter la serialisation et la perte de temps associée.…

#DataOops

1
Episode 17 : Retours DevopsDays Genève + AWS S3 et Athena+

3 years之前

—

Retours sur les DevOpsDays de Genève 2022. Discussion sur AWS S3 et les services Analytiques dérivés AWS Athena et Glue. On parle également de Apache Parquet et du requêtage via SQL de ces fichiers ==> Datalake

#DataOops

1
Episode 16 : BigQuery & Etourno de Domwee

3 years之前

—

BigQuery et la sécurité des accès aux données et Domwee Etourno un ELT SAAS pour BigQuery et Snowflake

#DataOops

1
Episode 15 : BigQuery un datawarehouse serverless sur GCP 1:08:50

3 years之前1:08:50

1:08:50

BigQuery : un datawarehouse serverless sur GCP tarifé à la requête. Brice Michetti, spécialiste GCP et BigQuery depuis plus de 5 ans nous en parle

#DataOops

1
Episode 14 : Data Gouvernance // Monitoring de bases de données

3 years之前

—

Data Gouvernance : les rôles Monitoring de bases de données : 3 types d'outillage : les spécialisés, les outils d'APM et les frameworks de monitoring type ELK

#DataOops

1
Episode 12 : Datalake intro et aide pour les débutants dans le cloud 1:25:34

3 years之前1:25:34

1:25:34

On parle des bases d'un datalake et quelques conseils pour débuter ans le cloud

#DataOops

1
Episode 11 : Result Cache // FinOps & Ressources 1:03:58

3 years之前1:03:58

1:03:58

Le result cache (ou query cache) en base de données permet d'accélérer les requêtes répétitives et consommatrices sur les bases de données. Quelles databases disposent de cette fonctionnalité ? Optimiser sa consommation de ressources dans le cloud : le FinOps

#DataOops

1
Episode 10 : DataHub & Strategie Data 1:07:33

3 years之前1:07:33

1:07:33

Datahub : définition(s) et approche. Data stratégie : comment mieux intégrer et gérer la données dans l'entreprise

#DataOops

1
Episode 9 : Slowly Changing Dimensions // API 1:08:20

3 years之前1:08:20

1:08:20

Coté Modélisation : les SCD ou Slowly Changing dimensions (dimensions à évolution lente) ==> on discute des SCD1, SCD2, SCD3 et même SCD6. Eric nous parle API, REST bien sur !

#DataOops

1
Episode 8 : Bases Graphes Neo4j // Parallélisme dans les databases relationnelles 1:16:18

3 years之前1:16:18

1:16:18

Bases de données graphes // Performance & Database : Le parallélisme

#DataOops

1
Episode 7 : Gestion des plans d’exécution (SPM) | Les étapes pour construire son datavault | Introduction à Terraform 1:51:55

3 years之前1:51:55

1:51:55

3 parties dans cet épisode : la gestion des plans d'exécution particuliers dans les bases de données, les étapes pour concevoir son datavault et finalement une introduction a Terraform

#DataOops

1
Episode 6 : Plan d’exécution, Orchestrateur de containeurs et multi-temporalité dans le datavault

3 years之前

—

Le plan d'exécution dans une base de données : la base et quelques outils. L'orchestrateur de containers : pourquoi un orchestrateur et quel orchestrateur choisir en 2022. La multi-temporalité dans le datavault : snapshot or not snapshot !

#DataOops

1
Episode 5 : Clef en SHA256 (binary) ou BigInt ? // Indexation et InMemory 57:59

3 years之前57:59

57:59

Dans un datavault les clefs ne sont pas incrémentales, alors quelle technique utiliser : SHA256 ou fonction de hashache vers un entier ? Une partie sur l'indexation et l'ordre des colonnes, une autre sur le InMemory, la compression et le stockage colonne sur SQL Server, Oracle et HANA.

#DataOops

1
Episode 4 : performance et Data Vault, Devops et Docker, Indexation dans les bases de données 1:27:14

3 years之前1:27:14