دانلود کتاب Data Engineering with Python: Work with massive datasets to design data models and automate data pipelines using Python (به فارسی: مهندسی داده با پایتون: کار با مجموعه داده های عظیم برای طراحی مدل های داده و خودکارسازی خطوط لوله داده با استفاده از پایتون) نوشته شده توسط «Paul Crickard»
اطلاعات کتاب مهندسی داده با پایتون: کار با مجموعه داده های عظیم برای طراحی مدل های داده و خودکارسازی خطوط لوله داده با استفاده از پایتون
موضوع اصلی: کامپیوتر – پایگاه داده
نوع: کتاب الکترونیکی
ناشر: Packt Publishing
نویسنده: Paul Crickard
زبان: english
فرمت کتاب: PDF (قابل تبدیل به سایر فرمت ها)
سال انتشار: 2020
تعداد صفحه: 356 / 357
حجم فایل: 10.51 مگابایت
کد کتاب: 183921418X , 9781839214189
توضیحات کتاب مهندسی داده با پایتون: کار با مجموعه داده های عظیم برای طراحی مدل های داده و خودکارسازی خطوط لوله داده با استفاده از پایتون
ساخت، نظارت و مدیریت خطوط لوله داده بلادرنگ برای ایجاد زیرساخت مهندسی داده به طور موثر با استفاده از پروژه‌های منبع باز آپاچی
ویژگی‌های کلیدی
- به خوبی در معماری داده‌ها، آماده‌سازی داده‌ها و مهارت‌های بهینه‌سازی داده‌ها با کمک مثال‌های عملی
- مدل‌های داده طراحی کنید و نحوه استخراج، تبدیل و بارگذاری داده‌ها (ETL) با استفاده از Python
- Schedule را بیاموزید. ، خودکارسازی و نظارت بر خطوط لوله داده پیچیده در تولید
توضیحات کتاب
مهندسی داده پایه و اساس علم داده و تجزیه و تحلیل را فراهم می کند و بخش مهمی از همه مشاغل را تشکیل می دهد. این کتاب به شما کمک می‌کند تا ابزارها و روش‌های مختلفی را که برای درک فرآیند مهندسی داده‌ها با استفاده از Python استفاده می‌شوند، کشف کنید.
این کتاب به شما نشان می‌دهد که چگونه با چالش‌هایی که معمولاً در جنبه‌های مختلف مهندسی داده با آن مواجه می‌شوید مقابله کنید. شما با مقدمه‌ای بر اصول مهندسی داده، همراه با فناوری‌ها و چارچوب‌های مورد نیاز برای ایجاد خطوط لوله داده برای کار با مجموعه داده‌های بزرگ شروع می‌کنید. شما یاد خواهید گرفت که چگونه داده ها را تبدیل و پاکسازی کنید و تجزیه و تحلیل انجام دهید تا بیشترین بهره را از داده های خود ببرید. همانطور که پیشروی می کنید، نحوه کار با داده های بزرگ با پیچیدگی های مختلف و پایگاه های داده تولیدی و ایجاد خطوط لوله داده را خواهید یافت. با استفاده از مثال‌های دنیای واقعی، معماری‌هایی می‌سازید که بر اساس آن‌ها نحوه استقرار خطوط لوله داده را یاد می‌گیرید.
در پایان این کتاب پایتون، به درک روشنی از تکنیک‌های مدل‌سازی داده‌ها دست خواهید یافت. و می‌تواند با اطمینان خطوط لوله مهندسی داده را برای ردیابی داده‌ها، اجرای بررسی‌های کیفیت و ایجاد تغییرات لازم در تولید بسازد.
آنچه یاد خواهید گرفت
- دریابید که چگونه مهندسی داده از گردش‌های کاری علم داده پشتیبانی می‌کند
li>
- کشف نحوه استخراج داده ها از فایل ها و پایگاه های داده و سپس پاکسازی، تبدیل، و غنی سازی آن ها
- پیکربندی پردازنده ها برای مدیریت فرمت های مختلف فایل و همچنین پایگاه های داده رابطه ای و NoSQL
- چگونگی پیاده سازی خط لوله و داشبورد داده برای تجسم نتایج را بیابید
- از مرحله بندی و اعتبارسنجی برای بررسی داده ها قبل از فرود در انبار استفاده کنید
- خطوط لوله بلادرنگ با مناطق مرحله بندی بسازید که انجام اعتبار سنجی و رسیدگی به خرابی ها
- با استقرار خطوط لوله در محصول مقابله کنید n محیط
این کتاب برای چه کسانی است
این کتاب برای تحلیلگران داده، توسعه دهندگان ETL، و هرکسی است که به دنبال شروع یا انتقال به رشته مهندسی داده یا تجدید دانش خود در زمینه مهندسی داده است. با استفاده از پایتون این کتاب همچنین برای دانشجویانی که قصد ایجاد حرفه ای در مهندسی داده یا متخصصان فناوری اطلاعات را دارند که برای یک انتقال آماده می شوند مفید خواهد بود. هیچ دانش قبلی در مورد مهندسی داده مورد نیاز نیست.
فهرست محتوا
- مهندسی داده چیست؟
- ساختن زیرساخت مهندسی داده ما
- خواندن و نوشتن فایل‌ها
- کار با پایگاه های داده
- پاکسازی، تبدیل و غنی سازی داده ها
- ساخت خط لوله داده 311
- ویژگی های خط لوله تولید
- li>
- کنترل نسخه با استفاده از رجیستری NiFi
- نظارت و ثبت خطوط لوله
- استقرار خطوط لوله شما
- ساخت خط لوله داده تولید
- ساخت یک خوشه کافکا
- جریان دهی داده با آپاچی کافکا
- پردازش داده با آپاچی اسپارک
- داده های لبه بلادرنگ با MiniFi، کافکا و اسپارک
- li>
- ضمیمه
Build, monitor, and manage real-time data pipelines to create data engineering infrastructure efficiently using open-source Apache projects
Key Features
- Become well-versed in data architectures, data preparation, and data optimization skills with the help of practical examples
- Design data models and learn how to extract, transform, and load (ETL) data using Python
- Schedule, automate, and monitor complex data pipelines in production
Book Description
Data engineering provides the foundation for data science and analytics, and forms an important part of all businesses. This book will help you to explore various tools and methods that are used for understanding the data engineering process using Python.
The book will show you how to tackle challenges commonly faced in different aspects of data engineering. You’ll start with an introduction to the basics of data engineering, along with the technologies and frameworks required to build data pipelines to work with large datasets. You’ll learn how to transform and clean data and perform analytics to get the most out of your data. As you advance, you’ll discover how to work with big data of varying complexity and production databases, and build data pipelines. Using real-world examples, you’ll build architectures on which you’ll learn how to deploy data pipelines.
By the end of this Python book, you’ll have gained a clear understanding of data modeling techniques, and will be able to confidently build data engineering pipelines for tracking data, running quality checks, and making necessary changes in production.
What you will learn
- Understand how data engineering supports data science workflows
- Discover how to extract data from files and databases and then clean, transform, and enrich it
- Configure processors for handling different file formats as well as both relational and NoSQL databases
- Find out how to implement a data pipeline and dashboard to visualize results
- Use staging and validation to check data before landing in the warehouse
- Build real-time pipelines with staging areas that perform validation and handle failures
- Get to grips with deploying pipelines in the production environment
Who this book is for
This book is for data analysts, ETL developers, and anyone looking to get started with or transition to the field of data engineering or refresh their knowledge of data engineering using Python. This book will also be useful for students planning to build a career in data engineering or IT professionals preparing for a transition. No previous knowledge of data engineering is required.
Table of Contents
- What is Data Engineering?
- Building Our Data Engineering Infrastructure
- Reading and Writing Files
- Working with Databases
- Cleaning, Transforming, and Enriching Data
- Building a 311 Data Pipeline
- Features of a Production Pipeline
- Version Control Using the NiFi Registry
- Monitoring and Logging Pipelines
- Deploying your Pipelines
- Building a Production Data Pipeline
- Building a Kafka Cluster
- Streaming Data with Apache Kafka
- Data Processing with Apache Spark
- Real-Time Edge Data with MiNiFi, Kafka, and Spark
- Appendix
برای دریافت کد تخفیف ۲۰ درصدی این کتاب، ابتدا صفحه اینستاگرام کازرون آنلاین (@kazerun.online ) را دنبال کنید. سپس، کلمه «بلیان» را در دایرکت ارسال کنید تا کد تخفیف به شما ارسال شود.