Một cuộc thảo luận gần đây về danh sách gửi thư Python-Ideas cho thấy rõ rằng chúng tôi [tức là các nhà phát triển Python cốt lõi] cần cung cấp một số hướng dẫn rõ ràng hơn về cách xử lý các tác vụ xử lý văn bản kích hoạt các ngoại lệ theo mặc định trong Python 3, nhưng trước đó Rug by Python 2 của BLITHE giả định rằng tất cả các tệp được mã hóa trong Lat Latin-1. Mặc dù chúng tôi sẽ có một cái gì đó trong các tài liệu chính thức trước khi quá lâu, nhưng đây là nỗ lực sơ bộ của riêng tôi trong việc tóm tắt các tùy chọn để xử lý các tệp văn bản và sự đánh đổi khác nhau giữa chúng. Câu hỏi rõ ràng để đặt ra là những gì đã thay đổi trong Python 3 để các phương pháp phổ biến mà các nhà phát triển sử dụng để sử dụng để xử lý văn bản trong Python 2 hiện đã bắt đầu ném Sự khác biệt chính là hành vi xử lý văn bản mặc định trong Python 3 nhằm mục đích phát hiện các vấn đề mã hóa văn bản càng sớm càng tốt - khi đọc văn bản được mã hóa không đúng Trong mã hóa mục tiêu [được biểu thị bằng Điều này tương phản với cách tiếp cận Python 2 cho phép tham nhũng dữ liệu theo mặc định và kiểm tra chính xác nghiêm ngặt phải được yêu cầu một cách rõ ràng. Điều đó chắc chắn có thể thuận tiện khi dữ liệu được xử lý chủ yếu là văn bản ASCII, và một chút tham nhũng dữ liệu không có khả năng được phát hiện, chứ đừng nói đến việc gây ra vấn đề, nhưng nó hầu như không phải là nền tảng vững chắc để xây dựng các ứng dụng đa ngôn ngữ mạnh mẽ đã từng phải theo dõi một Tuy nhiên, Python 3 không cung cấp một số cơ chế để thư giãn các kiểm tra nghiêm ngặt mặc định để xử lý các trường hợp sử dụng xử lý văn bản khác nhau [đặc biệt, các trường hợp sử dụng trong đó việc xử lý tốt nhất là có thể chấp nhận được và không cần phải có tính đúng đắn nghiêm ngặt]. Bài viết này nhằm giải thích một số trong số họ bằng cách xem xét các trường hợp sẽ phù hợp để sử dụng chúng. Lưu ý rằng nhiều tính năng tôi thảo luận dưới đây cũng có sẵn trong Python 2, nhưng bạn phải truy cập rõ ràng chúng thông qua loại Để xử lý văn bản một cách hiệu quả trong Python 3, nó cần phải tìm hiểu ít nhất một lượng nhỏ về mã hóa Unicode và văn bản:Điều gì đã thay đổi trong Python 3? ¶
UnicodeDecodeError
và UnicodeEncodeError
trong Python 3.UnicodeEncodeError
].UnicodeError
sai lầm trong Python 2 sẽ biết].unicode
và mô -đun codecs
. Trong Python 3, họ là một phần của hành vi của loại str
và open
tích hợp.Unicode cơ bản
ascii
, chỉ có thể xử lý các điểm mã Unicode trong phạm vi 0-0x7F [nghĩa là ASCII là mã hóa 7 bit].UnicodeEncodeError
1 báo cáo mã hóa mà Python sẽ sử dụng theo mặc định cho hầu hết các hoạt động mà cả hai đều yêu cầu mã hóa và liên quan đến siêu dữ liệu văn bản trong hệ thống tệp [ví dụ: xác định kết quả của UnicodeEncodeError
2]UnicodeEncodeError
3 thậm chí không thể xử lý tên của họ, chứ đừng nói đến bất kỳ văn bản nào khác mà họ có thể muốn viết hoặc xử lý bằng ngôn ngữ mẹ đẻ của họ .
Người xử lý lỗi Unicode
Để giúp tiêu chuẩn hóa các kỹ thuật khác nhau để xử lý các lỗi mã hóa và giải mã unicode, Python bao gồm một khái niệm về trình xử lý lỗi Unicode được tự động gọi bất cứ khi nào gặp sự cố trong quá trình mã hóa hoặc giải mã văn bản.
Tôi sẽ không bao gồm tất cả chúng trong bài viết này, nhưng ba người có ý nghĩa đặc biệt:
UnicodeEncodeError
4: Đây là trình xử lý lỗi mặc định chỉ tăngUnicodeDecodeError
để giải mã các vấn đề vàUnicodeEncodeError
cho các vấn đề mã hóa.UnicodeEncodeError
7: Đây là trình xử lý lỗi mà Python sử dụng cho hầu hết các OS đối mặt với API để đối phó một cách duyên dáng với các vấn đề mã hóa trong dữ liệu do HĐH cung cấp. Nó xử lý các lỗi giải mã bằng cách đánh dấu dữ liệu trong một phần được sử dụng một chút của không gian điểm mã Unicode [đối với những người quan tâm chi tiết hơn, xem PEP 383]. Khi mã hóa, nó dịch các giá trị ẩn đó trở lại thành chuỗi byte gốc chính xác mà không thể giải mã chính xác. Giống như điều này rất hữu ích cho API HĐH, nó có thể giúp xử lý các vấn đề mã hóa một cách duyên dáng trong các bối cảnh khác.UnicodeEncodeError
8: Đây là một trình xử lý lỗi mã hóa chuyển đổi các điểm mã có thể được biểu diễn trong mã hóa mục tiêu thành chuỗi thoát số chuỗi python tương đương. Thật dễ dàng để đảm bảo rằngUnicodeEncodeError
sẽ không bao giờ bị ném, nhưng không mất nhiều thông tin trong khi thực hiện việc mất [vì chúng tôi không muốn mã hóa các vấn đề ẩn đầu ra lỗi, trình xử lý lỗi này được bật theo mặc định].
Tùy chọn nhị phân
Một thay thế luôn có sẵn là mở các tệp ở chế độ nhị phân và xử lý chúng dưới dạng byte chứ không phải là văn bản. Điều này có thể hoạt động trong nhiều trường hợp, đặc biệt là những trường hợp các điểm đánh dấu ASCII được nhúng trong dữ liệu nhị phân tùy ý thực sự.
Tuy nhiên, đối với cả dữ liệu văn bản của người Viking với dữ liệu văn bản không xác định và dữ liệu văn bản với mã hóa đã biết, nhưng có khả năng chứa các lỗi mã hóa, thường nên đưa chúng vào một dạng có thể được xử lý dưới dạng chuỗi văn bản. Cụ thể, một số API chấp nhận cả byte và văn bản có thể rất nghiêm ngặt về việc mã hóa các byte mà họ chấp nhận [ví dụ, mô-đun UnicodeDecodeError
1 chỉ chấp nhận dữ liệu ASCII thuần túy để xử lý như byte, nhưng sẽ vui vẻ xử lý các chuỗi văn bản có chứa không ACCII điểm mã].
Xử lý tệp văn bản
Phần này khám phá một số trường hợp sử dụng có thể phát sinh khi xử lý văn bản. Mã hóa văn bản là một chủ đề đủ phức tạp mà không có kích thước nào phù hợp với tất cả các câu trả lời - câu trả lời đúng cho một ứng dụng nhất định sẽ phụ thuộc vào các yếu tố như:
- Bạn có bao nhiêu quyền kiểm soát đối với các mã hóa văn bản được sử dụng
- Việc tránh thất bại chương trình có quan trọng hơn việc tránh tham nhũng dữ liệu hay ngược lại
- Lỗi mã hóa phổ biến như thế nào được dự kiến là và liệu chúng cần được xử lý một cách duyên dáng hay đơn giản là có thể bị từ chối như là đầu vào không hợp lệ
Các tệp trong mã hóa tương thích ASCII, nỗ lực tốt nhất là chấp nhận được.
Trường hợp sử dụng: Các tệp được xử lý là trong mã hóa tương thích ASCII, nhưng bạn không biết chính xác cái nào. Tất cả các tệp phải được xử lý mà không kích hoạt bất kỳ ngoại lệ nào, nhưng một số rủi ro tham nhũng dữ liệu được coi là chấp nhận được [ví dụ: đối chiếu các tệp nhật ký từ nhiều nguồn trong đó một số lỗi dữ liệu được chấp nhận, miễn là các bản ghi vẫn còn nguyên vẹn]. the files to be processed are in an ASCII compatible encoding, but you don’t know exactly which one. All files must be processed without triggering any exceptions, but some risk of data corruption is deemed acceptable [e.g. collating log files from multiple sources where some data errors are acceptable, so long as the logs remain largely intact].
Cách tiếp cận: Sử dụng mã hóa Latin-1-1 để ánh xạ các giá trị byte trực tiếp đến 256 điểm mã Unicode đầu tiên. Đây là Python 3 tương đương gần nhất cung cấp cho mô hình xử lý văn bản Python 2 cho phép. use the “latin-1” encoding to map byte values directly to the first 256 Unicode code points. This is the closest equivalent Python 3 offers to the permissive Python 2 text handling model.
Ví dụ: UnicodeDecodeError
2 UnicodeDecodeError
2
Ghi chú
Mặc dù mã hóa Windows ____23 đôi khi cũng được gọi là Lat Latin-1, nhưng nó không ánh xạ tất cả các giá trị byte có thể và do đó cần được sử dụng kết hợp với trình xử lý lỗi UnicodeEncodeError
7 để đảm bảo nó không bao giờ ném UnicodeDecodeError
. Mã hóa UnicodeEncodeError
3 trong Python ISO_8859-1: 1987, ánh xạ tất cả các giá trị byte có thể cho 256 điểm mã Unicode đầu tiên và do đó đảm bảo các lỗi giải mã sẽ không bao giờ xảy ra bất kể trình xử lý lỗi được cấu hình.
Consequences:
- Dữ liệu sẽ không bị hỏng nếu nó được đọc đơn giản, được xử lý dưới dạng văn bản ASCII và được viết lại.
- sẽ không bao giờ tăng unicodedecodeerror khi đọc dữ liệu
- vẫn sẽ tăng UnicodeEncodeError nếu CodePoint trên 0xFF [ví dụ: trích dẫn thông minh được sao chép từ chương trình xử lý văn bản] được thêm vào chuỗi văn bản trước khi nó được mã hóa trở lại byte. Để ngăn chặn các lỗi như vậy, hãy sử dụng trình xử lý lỗi
UnicodeEncodeError
8 [hoặc một trong các trình xử lý lỗi khác thay thế các điểm mã Unicode mà không có biểu diễn trong mã hóa mục tiêu với các chuỗi của các điểm mã ASCII]. - Tham nhũng dữ liệu có thể xảy ra nếu dữ liệu nguồn nằm trong mã hóa không tương thích ASCII [ví dụ: UTF-16]
- Tham nhũng có thể xảy ra nếu dữ liệu được ghi lại bằng cách sử dụng mã hóa khác với
UnicodeEncodeError
3 - Tham nhũng có thể xảy ra nếu các phần tử không ASCII của chuỗi được sửa đổi trực tiếp [ví dụ: đối với mã hóa chiều rộng biến như UTF-8 đã được giải mã là
UnicodeEncodeError
3 thay vào đó, cắt chuỗi tại một điểm tùy ý có thể chia ký tự đa byte thành hai miếng]
Các tệp trong mã hóa tương thích ASCII, giảm thiểu rủi ro tham nhũng dữ liệu
Trường hợp sử dụng: Các tệp được xử lý là trong mã hóa tương thích ASCII, nhưng bạn không biết chính xác cái nào. Tất cả các tệp phải được xử lý mà không kích hoạt bất kỳ ngoại lệ nào, nhưng một số lỗi liên quan đến Unicode đều được chấp nhận để giảm nguy cơ tham nhũng dữ liệu [ví dụ: đối chiếu các tệp nhật ký từ nhiều nguồn đối với các lỗi lập trình vi phạm giả định chỉ viết lại dữ liệu trong mã hóa ban đầu của nó] the files to be processed are in an ASCII compatible encoding, but you don’t know exactly which one. All files must be processed without triggering any exceptions, but some Unicode related errors are acceptable in order to reduce the risk of data corruption [e.g. collating log files from multiple sources, but wanting more explicit notification when the collated data is at risk of corruption due to programming errors that violate the assumption of writing the data back out only in its original encoding]
Cách tiếp cận: Sử dụng mã hóa ascii
với trình xử lý lỗi UnicodeEncodeError
7. use the ascii
encoding with the UnicodeEncodeError
7 error handler.
Ví dụ: UnicodeEncodeError
2 UnicodeEncodeError
2
Consequences:
- Dữ liệu sẽ không bị hỏng nếu nó được đọc đơn giản, được xử lý dưới dạng văn bản ASCII và được viết lại.
- sẽ không bao giờ tăng unicodedecodeerror khi đọc dữ liệu
- vẫn sẽ tăng UnicodeEncodeError nếu CodePoint trên 0xFF [ví dụ: trích dẫn thông minh được sao chép từ chương trình xử lý văn bản] được thêm vào chuỗi văn bản trước khi nó được mã hóa trở lại byte. Để ngăn chặn các lỗi như vậy, hãy sử dụng trình xử lý lỗi
UnicodeEncodeError
8 [hoặc một trong các trình xử lý lỗi khác thay thế các điểm mã Unicode mà không có biểu diễn trong mã hóa mục tiêu với các chuỗi của các điểm mã ASCII]. - cũng sẽ tăng unicodeEncodeError nếu một nỗ lực được thực hiện để mã hóa một chuỗi văn bản chứa các giá trị byte thoát ra mà không cho phép trình xử lý lỗi
UnicodeEncodeError
7 [hoặc một trình xử lý thậm chí có thể chịu được hơn nhưUnicodeEncodeError
8]. - Một số thư viện xử lý unicode đảm bảo chuỗi điểm mã là văn bản hợp lệ có thể phàn nàn về cơ chế thoát được sử dụng [Tôi sẽ không giải thích ý nghĩa của nó ở đây, nhưng cụm từ của Lone Lone Surrogate là một gợi ý rằng một cái gì đó dọc theo các dòng đó có thể là xảy ra - thực tế là người thay thế của người Hồi giáo cũng xuất hiện trong tên của người xử lý lỗi không phải là một sự trùng hợp ngẫu nhiên].
- Tham nhũng dữ liệu vẫn có thể xảy ra nếu dữ liệu nguồn nằm trong mã hóa không tương thích ASCII [ví dụ: UTF-16]
- Tham nhũng dữ liệu vẫn còn có thể nếu các phần thoát của chuỗi được sửa đổi trực tiếp
Các tệp trong một mã hóa cụ thể nền tảng điển hình
Trường hợp sử dụng: Các tệp được xử lý trong một mã hóa nhất quán, mã hóa có thể được xác định từ các chi tiết hệ điều hành và cài đặt ngôn ngữ và có thể từ chối xử lý các tệp không được mã hóa đúng. the files to be processed are in a consistent encoding, the encoding can be determined from the OS details and locale settings and it is acceptable to refuse to process files that are not properly encoded.
Cách tiếp cận: Chỉ cần mở tệp trong chế độ văn bản. Trường hợp sử dụng này mô tả hành vi mặc định trong Python 3. simply open the file in text mode. This use case describes the default behaviour in Python 3.
Ví dụ: UnicodeEncodeError
6 UnicodeEncodeError
6
Consequences:
UnicodeDecodeError
có thể bị ném khi đọc các tệp đó [nếu dữ liệu không thực sự trong mã hóa được trả về bởi ____10]UnicodeEncodeError
có thể bị ném khi viết các tệp đó [nếu cố gắng ghi ra các điểm mã không có biểu diễn trong mã hóa mục tiêu].- Trình xử lý lỗi
UnicodeEncodeError
7 có thể được sử dụng để có nhiều lỗi mã hóa hơn nếu cần phải nỗ lực tốt nhất để xử lý các tệp có chứa các lỗi đó thay vì từ chối chúng hoàn toàn như đầu vào không hợp lệ.
Các tệp trong một mã hóa nhất quán, được biết đến
Trường hợp sử dụng: Các tệp được xử lý trên danh nghĩa trong một mã hóa nhất quán, bạn biết mã hóa chính xác trước và có thể chấp nhận từ chối xử lý các tệp không được mã hóa đúng. Điều này ngày càng trở nên phổ biến hơn, đặc biệt là với nhiều định dạng tệp văn bản bắt đầu chuẩn hóa trên UTF-8 như mã hóa văn bản ưa thích. the files to be processed are nominally in a consistent encoding, you know the exact encoding in advance and it is acceptable to refuse to process files that are not properly encoded. This is becoming more and more common, especially with many text file formats beginning to standardise on UTF-8 as the preferred text encoding.
Cách tiếp cận: Mở tệp ở chế độ văn bản với mã hóa thích hợp open the file in text mode with the appropriate encoding
Ví dụ: UnicodeError
1 UnicodeError
1
Consequences:
UnicodeDecodeError
có thể bị ném khi đọc các tệp đó [nếu dữ liệu không thực sự trong mã hóa được chỉ định]UnicodeEncodeError
có thể bị ném khi viết các tệp đó [nếu cố gắng ghi ra các điểm mã không có biểu diễn trong mã hóa mục tiêu].- Trình xử lý lỗi
UnicodeEncodeError
7 có thể được sử dụng để có nhiều lỗi mã hóa hơn nếu cần phải nỗ lực tốt nhất để xử lý các tệp có chứa các lỗi đó thay vì từ chối chúng hoàn toàn như đầu vào không hợp lệ.
Các tệp trong một mã hóa nhất quán, được biết đến
Trường hợp sử dụng: Các tệp được xử lý trên danh nghĩa trong một mã hóa nhất quán, bạn biết mã hóa chính xác trước và có thể chấp nhận từ chối xử lý các tệp không được mã hóa đúng. Điều này ngày càng trở nên phổ biến hơn, đặc biệt là với nhiều định dạng tệp văn bản bắt đầu chuẩn hóa trên UTF-8 như mã hóa văn bản ưa thích. the files to be processed include markers that specify the nominal encoding [with a default encoding assumed if no marker is present] and it is acceptable to refuse to process files that are not properly encoded.
Cách tiếp cận: Trước tiên, hãy mở tệp ở chế độ nhị phân để tìm điểm đánh dấu mã hóa, sau đó mở lại ở chế độ văn bản với mã hóa được xác định. first open the file in binary mode to look for the encoding marker, then reopen in text mode with the identified encoding.
Ví dụ: UnicodeError
5 sử dụng các dấu hiệu mã hóa PEP 263 để phát hiện mã hóa các tệp nguồn Python [mặc định cho UTF-8 nếu không phát hiện dấu hiệu mã hóa]] UnicodeError
5 uses PEP 263 encoding markers to detect the encoding of Python source files [defaulting to UTF-8 if no encoding marker is detected]
Consequences:
- có thể xử lý các tệp trong các mã hóa khác nhau
- vẫn có thể tăng unicodedecodeerror nếu điểm đánh dấu mã hóa không chính xác
- phải đảm bảo điểm đánh dấu được đặt chính xác khi viết các tệp đó
- Ngay cả khi nó không phải là mã hóa mặc định, các tệp riêng lẻ vẫn có thể được đặt để sử dụng UTF-8 làm mã hóa để hỗ trợ mã hóa hầu hết tất cả các điểm mã Unicode
- Trình xử lý lỗi
UnicodeEncodeError
7 có thể được sử dụng để có nhiều lỗi mã hóa hơn nếu cần phải nỗ lực tốt nhất để xử lý các tệp có chứa các lỗi đó thay vì từ chối chúng hoàn toàn như đầu vào không hợp lệ.
Nhận xét được cung cấp bởi