Hướng dẫn missing data in python - thiếu dữ liệu trong python
Làm sạch dữ liệu (data cleaning) là một công việc tẻ nhạt. Thực tế nó và chuẩn bị dữ liệu là phần tốn thời gian nhất của một dự án khoa học dữ liệu. Theo một nghiên cứu của IBM Data Analytsics thì 80% thời gian quý giá của một nhà khoa học dữ liệu được dành chỉ đơn giản là tìm kiếm, làm sạch và sắp xếp dữ liệu, chỉ còn lại 20% thời gian để thực sự làm phân tích. Show Xử lý missing data là một phần quan trọng trong làm sạch dữ liệu. Việc xử lý missing data nhanh chóng, gọn gàng giúp tiết kiệm rất nhiều thời gian cho dự án. Có nhiều công cụ mạnh làm tốt công việc này và một trong số đó là pandas. Pandas là một thư viện phân tích dữ liệu được sử dụng rộng rãi cho Python. Bạn có thể tham khảo cách cài đặt, khai báo và các thông tin cơ bản về pandas trong bài "Xử lý dữ liệu với Pandas trong Python". Giờ chúng ta hãy tìm hiểu sơ lược về missing data: Missing data là gì?Missing data là dữ liệu bị thiếu, được hiển thị như NaN, Nat, Null, N/A, v.v. Missing data xuất hiện do nhiều nguyên nhân như:
Missing data có thể được phân thành 3 loại: Missing at Random (dữ liệu khuyết ngẫu nhiên), Missing Completely at Random (dữ liệu thiếu hoàn toàn ngẫu nhiên) và Missing Not at Random (dữ liệu khuyết không ngẫu nhiên). Missing data trong pandasDo dữ liệu có nhiều dạng và hình thức nên pandas rất linh hoạt trong việc xử lý missing data. Missing data được đánh dấu mặc định là NaN để tăng tốc độ tính toán và thuận tiện. Tuy nhiên pandas cũng có thể dễ dàng phân biệt missing data vào các loại khác nhau: dấu phẩy động, số nguyên, boolean và đối tượng chung. 6, 7 và 8 (cho loại datetime64[ns]) là các giá trị missing tiêu chuẩn trong Pandas. Loại missing data mới ( 9), được giới thiệu trong Pandas 1.0, thể hiện cho missing data kiểu số nguyên.Ví dụ 1: Các loại missing data:
Output:
Thao tác với missing data trong pandasPandas cho phép bạn thao tác linh hoạt với missing data trong Series, DataFrame như tìm giá trị bị thiếu (missing value), xác định giá trị tồn tại (không bị thiếu), loại bỏ giá trị bị thiếu, chèn giá trị bị thiếu, điền vào giá trị bị thiếu, v.v. Bên dưới mình sẽ trình bày các ví dụ cụ thể cho các thao tác. Xác định giá trị bị thiếu và giá trị đang tồn tại: isna(), notna() Ví dụ 2: Xác định giá trị bị thiếu bằng 0 và 1
Output:
Ví dụ 3: Xác định giá trị tồn tại (existing values) bằng 2 và 3
Output:
Xóa giá trị bị thiếu: dropna() Ví dụ 4: Xóa giá trị thiếu bằng 4 và 5
Output:
Điền vào giá trị thiếu: fillna() Sử dụng 6 bạn có thể chèn vào các giá trị bị thiếu bằng dữ liệu khác theo một số cách:Ví dụ 5: Thay thế giá trị bị thiếu bằng một giá trị vô hướng (scalar value)
Output:
Ví dụ 6: 6 cũng có thể được sử dụng trên một cột cụ thể. 0Output: 1Ví dụ 7: Sử dụng tham số 8, các giá trị bị thiếu có thể được thay thế bằng các giá trị trước ( 9) hoặc sau ( 0) chúng. Key 1 sẽ giới hạn bao nhiêu giá trị trước/sau sẽ được lấy thay thế. 2Output: 3Chèn missing data Pandas cho phép bạn chèn giá trị vào missing data bằng 6 thì bạn cũng có thể làm ngược lại: chèn missing data vào vị trí đã có giá trị. Giá trị thiếu thực tế được sử dụng sẽ được chọn dựa trên dtype.Ví dụ 8: Chèn missing data cho các container (Series, DataFrame) chứa con số 4Output: 5Tạm kếtĐến đây mình đã trình bày về các thao tác với mising data hay sử dụng trong pandas. Hi vọng bài viết giúp ích cho các bạn. Các bạn có thể tìm hiểu thêm bằng cách truy cập các đường link trong phần tham khảo. Hãy để lời góp ý trong phần bình luận bên dưới. Cảm ơn các bạn đã đọc. Hẹn gặp lại trong các bài viết tiếp theo. Tham khảo1. http://pandas.pydata.org/pandas-docs/stable/user_guide/missing_data.html 2. https://pandas.pydata.org/pandas-docs/stable/user_guide/cookbook.html#cookbook-missing-data 3. https://towardsdatascience.com/handling-missing-values-with-pandas-b876bf6f008f |