Pipeline Data End-to-End: Arsitektur, Teknologi & Data Governance
Course ini mengajak peserta memahami evolusi arsitektur data dari ETL tradisional menuju ELT modern, konsep Medallion Architecture, serta pilar-pilar Data Governance seperti kualitas data, keamanan, metadata, dan lineage. Peserta akan melakukan praktik langsung membangun pipeline data menggunakan Airflow, Airbyte, SeaweedFS, dbt, dan PostgreSQL, dilanjutkan dengan validasi kualitas data, dokumentasi, visualisasi dashboard di Metabase, hingga penerapan siklus CI/CD menggunakan GitHub Actions pada environment masing-masing peserta. Materi tambahan (suplemen) memperluas wawasan mengenai teknologi lain seperti Kafka, Spark, Flink, ClickHouse, Elasticsearch, Docker, Kubernetes, serta perbandingan layanan cloud AWS, Azure, dan Google Cloud.
Setelah menyelesaikan course, peserta mampu:
- Memahami prinsip dasar arsitektur data modern dan bagaimana data diproses untuk menghasilkan nilai bisnis
- Memahami bagaimana tata kelola data menjaga kualitas, keamanan, konsistensi, dan kepercayaan terhadap data organisasi
- Memperoleh gambaran implementasi nyata Pipeline Data End-to-End, mulai dari ingestion menggunakan Airbyte hingga transformasi dan penyajian data
- Memahami bagaimana Data Governance mendukung kualitas data hingga tahap analitik
- Memperoleh gambaran implementasi modern data platform di industri serta arah pengembangan kompetensi profesional
- Mampu menerapkan CI/CD end-to-end pada environment sendiri, menghubungkan konsep CI/CD dengan praktik nyata pada pipeline yang telah dibangun
- Memahami lanskap teknologi data yang lebih luas di luar enam tool inti, termasuk kapan CI/CD relevan diterapkan pada data pipeline
- Memahami siklus hidup data secara menyeluruh serta ragam sumber, pola ingestion, dan kanal konsumsi data
- Mampu memetakan komponen platform ke layanan managed setara di tiga cloud provider utama beserta kriteria pengambilan keputusan
Topik utama yang dipelajari
- 01Strategi Arsitektur Data Modern
- 02Dasar-Dasar Data Governance
- 03Praktik Langsung – Pipeline Data Modern End-to-End
- 04Praktik Langsung – Data Governance & Analytics
- 05Praktik Terbaik, Strategi Implementasi & Jenjang Karier
- 06Praktik Langsung CI/CD: Dari Kode ke Production di Node Anda Sendiri
- 07Technology Stack Secara Mendalam (Suplemen)
- 08Data Lifecycle, Ingestion & Pola Konsumsi (Suplemen)
- 09Pilihan Teknologi Cloud Platform: AWS, Azure, Google Cloud (Suplemen)
Cocok untuk
- Data Engineer
- Data Analyst
- Business Intelligence Developer
- Database Administrator
- Software Engineer
- IT Professional
- Solution Architect
Prasyarat
Tidak ada prasyarat khusus yang disebutkan dalam silabus.
Laptop dan kebutuhan lab akan diinformasikan setelah jadwal training disepakati.