DataOps
DataOps (Data Operations) est une approche Agile de la conception, de la mise en œuvre et de la maintenance d’une architecture de données distribuée. Pour mettre en place cette approche, il convient d’utiliser la technologie pour automatiser la conception, le déploiement et la gestion de la livraison des données avec des niveaux de gouvernance appropriés. L’utilisation des métadonnées permet également d’améliorer l’utilisabilité et la valeur des données dans un environnement dynamique.
Une gestion collaborative des données
Inspirée du mouvement DevOps, la stratégie DataOps vise à accélérer la production d’applications fonctionnant sur des frameworks de traitement Big Data. De même, elle cherche à briser les silos entre les opérations informatiques et les équipes de développement de logiciels, encourageant ainsi les parties prenantes du secteur à travailler également avec des ingénieurs de données, des scientifiques des données et des analystes. Cela permet de garantir que les données de l’organisation peuvent être utilisées de la manière la plus flexible et la plus efficace possible pour obtenir des résultats commerciaux positifs.
Puisqu’elle incorpore autant d’éléments du cycle de vie des données, l’approche DataOps couvre un certain nombre de disciplines des technologies de l’information, y compris le développement de données, leur transformation, leur extraction, leur qualité, leur gouvernance, le contrôle d’accès aux données, la planification de la capacité du centre de données et les opérations du système.
Les outils supportant cette méthode
Comme pour DevOps, il n’y a pas d’outils logiciels spécifiques à DataOps ; il n’existe que des cadres et des ensembles d’outils associés qui prennent en charge une approche DataOps de la collaboration et une agilité accrue. Ces derniers comprennent des outils ETL / ELT, de conservation et de catalogage de données, des analyseurs de journaux et des moniteurs de systèmes. Les outils qui supportent les architectures de micro services, ainsi que les logiciels open source qui permettent aux applications de mélanger des données structurées et non structurées, sont également associés au mouvement DataOps. Ces logiciels peuvent inclure MapReduce, HDFS, Kafka, Hive et Spark.
Comment fonctionne DataOps ?
L’objectif de l’approche est de combiner les méthodologies DevOps et Agile pour gérer les données en alignement avec les objectifs commerciaux. Par exemple, si l’objectif est d’augmenter le taux de conversion des prospects, la stratégie DataOps visera à positionner les données pour mieux recommander des produits marketing, convertissant ainsi plus de prospects. Les processus agiles sont utilisés pour la gouvernance des données et le développement d’analyses, tandis que les processus DevOps sont utilisés pour optimiser le code, les versions de produits et la livraison.
La création d’un nouveau code n’est qu’une partie de DataOps, car la rationalisation et l’amélioration de l’entrepôt de données sont aussi importantes.