Cách đọc tệp utf 8 trong python

Để đọc tệp ở dạng mã hóa Unicode (UTF-8) trong Python, bạn có thể sử dụng hàm open() tích hợp, chỉ định mã hóa là "utf-8". Đây là một ví dụ

with open("file.txt", "r", encoding="utf-8") as f:
    text = f.read()
    print(text)

Để ghi tệp ở dạng mã hóa Unicode (UTF-8) bằng Python, bạn có thể sử dụng hàm open() tích hợp với chế độ 'w' và chỉ định mã hóa là "utf-8". Đây là một ví dụ

with open("file.txt", "w", encoding="utf-8") as f:
    f.write("Hello, world!")

Xin lưu ý rằng trong ví dụ trên, tệp sẽ được tạo nếu không tồn tại và nếu tệp đã tồn tại, nó sẽ cắt bớt nội dung trước khi viết

Chuỗi là một trong những kiểu dữ liệu phổ biến nhất trong Python. Chúng được sử dụng để xử lý dữ liệu văn bản dưới mọi hình thức. Lĩnh vực Xử lý ngôn ngữ tự nhiên được xây dựng dựa trên một số loại xử lý văn bản và chuỗi. Điều quan trọng là phải biết về cách các chuỗi hoạt động trong Python. Các chuỗi thường dễ xử lý khi chúng được tạo thành từ các ký tự ASCII tiếng Anh, nhưng “các vấn đề” xuất hiện khi chúng ta nhập các ký tự không phải ASCII — ngày càng trở nên phổ biến trên thế giới, đặc biệt là. với sự ra đời của biểu tượng cảm xúc, v.v.

Cùng giải mã điều gì ẩn chứa trong những sợi dây

Nhiều lập trình viên sử dụng encode và decode với các chuỗi với hy vọng loại bỏ UnicodeDecodeError đáng sợ — hy vọng, blog này sẽ giúp bạn vượt qua nỗi sợ hãi khi xử lý các chuỗi. Dưới đây tôi sẽ sử dụng định dạng Hỏi và Đáp để thực sự có được câu trả lời cho các câu hỏi mà bạn có thể có, và tôi cũng đã có câu hỏi này trước khi bắt đầu tìm hiểu về chuỗi

1. dây được làm bằng gì?

Trong Python (2 hoặc 3), các chuỗi có thể được biểu diễn bằng byte hoặc điểm mã unicode
Byte là một đơn vị thông tin được xây dựng từ 8 bit - byte được sử dụng để lưu trữ tất cả các tệp trong đĩa cứng. Vì vậy, tất cả các tệp CSV và JSON trên máy tính của bạn đều được tạo bằng byte. Tất cả chúng ta đều có thể đồng ý rằng chúng ta cần byte, nhưng còn các điểm mã unicode thì sao?
Chúng tôi sẽ đến với họ trong câu hỏi tiếp theo

2. Unicode và điểm mã unicode là gì?

Trong khi đọc các byte từ một tệp, người đọc cần biết ý nghĩa của các byte đó. Vì vậy, nếu bạn viết một tệp JSON và gửi nó cho bạn của mình, bạn của bạn sẽ cần biết cách xử lý các byte trong tệp JSON của bạn. Trong khoảng 20 năm đầu tiên của máy tính, các ký tự tiếng Anh viết hoa và viết thường, một số dấu chấm câu và chữ số là đủ. Tất cả đều được mã hóa thành một danh sách 127 ký hiệu được gọi là ASCII. 7 bit thông tin hoặc 1 byte là đủ để mã hóa mọi ký tự tiếng Anh. Bạn có thể bảo bạn của mình giải mã tệp JSON của bạn bằng mã hóa ASCII và thế là xong — cô ấy sẽ có thể đọc những gì bạn gửi cho cô ấy

Điều này thật tuyệt trong vài thập kỷ đầu hoặc lâu hơn, nhưng dần dần chúng tôi nhận ra rằng có nhiều ký tự hơn là ký tự tiếng Anh. Chúng tôi đã thử mở rộng 127 ký tự thành 256 ký tự (thông qua Latin-1 hoặc ISO-8859–1) để tận dụng hết không gian 8 bit — nhưng điều đó là không đủ. Chúng tôi cần một tiêu chuẩn quốc tế mà tất cả chúng tôi đã đồng ý để xử lý hàng trăm, hàng nghìn ký tự không phải tiếng Anh

Trong đến Unicode

Unicode là tiêu chuẩn quốc tế trong đó ánh xạ các ký tự riêng lẻ và một số duy nhất được duy trì. Kể từ tháng 5 năm 2019, phiên bản Unicode mới nhất là 12. 1 chứa hơn 137 nghìn ký tự bao gồm các tập lệnh khác nhau bao gồm tiếng Anh, tiếng Hindi, tiếng Trung và tiếng Nhật, cũng như các biểu tượng cảm xúc. Mỗi ký tự 137 nghìn này được biểu thị bằng một điểm mã unicode. Vì vậy, các điểm mã unicode đề cập đến các ký tự thực tế được hiển thị
Các điểm mã này được mã hóa thành byte và được giải mã từ byte trở lại điểm mã. ví dụ. Điểm mã Unicode cho bảng chữ cái a là U+0061, biểu tượng cảm xúc 🖐 là U+1F590 và cho Ω là U+03A9

3 trong số các tiêu chuẩn mã hóa phổ biến nhất được xác định bởi Unicode là UTF-8, UTF-16 và UTF-32

3. Mã hóa Unicode UTF-8, UTF-16 và UTF-32 là gì?

Bây giờ chúng ta biết rằng Unicode là một tiêu chuẩn quốc tế mã hóa mọi ký tự đã biết thành một số duy nhất. Sau đó, câu hỏi tiếp theo là làm thế nào để chúng ta di chuyển những con số duy nhất này trên internet? . Sử dụng byte thông tin

UTF-8. Nó sử dụng 1, 2, 3 hoặc 4 byte để mã hóa mọi điểm mã. Nó tương thích ngược với ASCII. Tất cả các ký tự tiếng Anh chỉ cần 1 byte — khá hiệu quả. Chúng tôi chỉ cần nhiều byte hơn nếu chúng tôi đang gửi các ký tự không phải tiếng Anh
Đây là dạng mã hóa phổ biến nhất và theo mặc định là mã hóa trong Python 3. Trong Python 2, mã hóa mặc định là ASCII (không may)

UTF-16 là biến 2 hoặc 4 byte. Mã hóa này là tuyệt vời cho văn bản châu Á vì hầu hết nó có thể được mã hóa thành 2 byte mỗi. Nó không tốt cho tiếng Anh vì tất cả các ký tự tiếng Anh cũng cần 2 byte ở đây

UTF-32 được cố định 4 byte. Tất cả các ký tự được mã hóa bằng 4 byte nên cần rất nhiều bộ nhớ. Nó không được sử dụng thường xuyên
[Bạn có thể đọc thêm trong bài đăng StackOverflow này. ]

Chúng ta cần phương pháp encode để chuyển đổi các điểm mã unicode thành byte. Điều này thường xảy ra trong quá trình ghi dữ liệu chuỗi vào tệp CSV hoặc JSON chẳng hạn
Chúng tôi cần phương pháp decode để chuyển đổi byte thành điểm mã unicode. Điều này thường xảy ra trong quá trình đọc dữ liệu từ tệp thành chuỗi

Tại sao các phương pháp mã hóa và giải mã cần thiết?

4. Loại dữ liệu nào trong Python xử lý các điểm và byte mã Unicode?

Như chúng ta đã thảo luận trước đó, trong Python, các chuỗi có thể được biểu diễn bằng byte hoặc điểm mã unicode
Những điểm chính trong Python là
1. Python 2 sử dụng loại str để lưu trữ byte và loại unicode để lưu trữ các điểm mã unicode. Tất cả các chuỗi theo mặc định là loại

# strings is by default made of unicode code points
>>> print(len(“你好”)) 
2# Manually encode a string into bytes
>>> print(len(("你好").encode("utf-8")))  
6# You don't need to pass an argument as default encoding is "utf-8"
>>> print(len(("你好").encode()))  
6# Print actual unicode code points instead of characters [Source]
>>> print(("你好").encode("unicode_escape"))
b'\\u4f60\\u597d'# Print bytes encoded in UTF-8 for this string
>>> print(("你好").encode()) 
b'\xe4\xbd\xa0\xe5\xa5\xbd'

0 — là byte~ Và mã hóa mặc định là ASCII. Vì vậy, nếu một tệp đến là các ký tự Cyrillic, Python 2 có thể không thành công vì ASCII sẽ không thể xử lý các ký tự Cyrillic đó. Trong trường hợp này, chúng ta cần nhớ sử dụng

# strings is by default made of unicode code points
>>> print(len(“你好”)) 
2# Manually encode a string into bytes
>>> print(len(("你好").encode("utf-8")))  
6# You don't need to pass an argument as default encoding is "utf-8"
>>> print(len(("你好").encode()))  
6# Print actual unicode code points instead of characters [Source]
>>> print(("你好").encode("unicode_escape"))
b'\\u4f60\\u597d'# Print bytes encoded in UTF-8 for this string
>>> print(("你好").encode()) 
b'\xe4\xbd\xa0\xe5\xa5\xbd'

1 trong quá trình đọc tệp. Điều này thật bất tiện
2. Python 3 đã đến và sửa lỗi này. Theo mặc định, các chuỗi vẫn là loại ____20_______ nhưng giờ đây chúng có nghĩa là các điểm mã unicode — chúng tôi mang theo những gì chúng tôi thấy. Nếu chúng tôi muốn lưu trữ các chuỗi loại

# strings is by default made of unicode code points
>>> print(len(“你好”)) 
2# Manually encode a string into bytes
>>> print(len(("你好").encode("utf-8")))  
6# You don't need to pass an argument as default encoding is "utf-8"
>>> print(len(("你好").encode()))  
6# Print actual unicode code points instead of characters [Source]
>>> print(("你好").encode("unicode_escape"))
b'\\u4f60\\u597d'# Print bytes encoded in UTF-8 for this string
>>> print(("你好").encode()) 
b'\xe4\xbd\xa0\xe5\xa5\xbd'

0 này trong các tệp, chúng tôi sử dụng loại

# strings is by default made of unicode code points
>>> print(len(“你好”)) 
2# Manually encode a string into bytes
>>> print(len(("你好").encode("utf-8")))  
6# You don't need to pass an argument as default encoding is "utf-8"
>>> print(len(("你好").encode()))  
6# Print actual unicode code points instead of characters [Source]
>>> print(("你好").encode("unicode_escape"))
b'\\u4f60\\u597d'# Print bytes encoded in UTF-8 for this string
>>> print(("你好").encode()) 
b'\xe4\xbd\xa0\xe5\xa5\xbd'

4 thay thế. Mã hóa mặc định là UTF-8 thay vì ASCII. Hoàn hảo

5. Bất kỳ ví dụ mã nào để so sánh các loại dữ liệu khác nhau?

Vâng, hãy xem “你好” trong tiếng Trung có nghĩa là xin chào. Phải mất 6 byte để lưu trữ chuỗi này được tạo thành từ 2 điểm mã unicode. Hãy lấy ví dụ về hàm popular

# strings is by default made of unicode code points
>>> print(len(“你好”)) 
2# Manually encode a string into bytes
>>> print(len(("你好").encode("utf-8")))  
6# You don't need to pass an argument as default encoding is "utf-8"
>>> print(len(("你好").encode()))  
6# Print actual unicode code points instead of characters [Source]
>>> print(("你好").encode("unicode_escape"))
b'\\u4f60\\u597d'# Print bytes encoded in UTF-8 for this string
>>> print(("你好").encode()) 
b'\xe4\xbd\xa0\xe5\xa5\xbd'

5 để xem mọi thứ có thể khác nhau như thế nào trong Python 2 và 3 — và những điều bạn cần lưu ý

>>> print(len(“你好”))   # Python 2 - str is bytes
6>>> print(len(u“你好”))  # Python 2 - Add 'u' for unicode code points
2>>> print(len(“你好”))   # Python 3 - str is unicode code points
2

Vì vậy, thêm tiền tố vào một

# strings is by default made of unicode code points
>>> print(len(“你好”)) 
2# Manually encode a string into bytes
>>> print(len(("你好").encode("utf-8")))  
6# You don't need to pass an argument as default encoding is "utf-8"
>>> print(len(("你好").encode()))  
6# Print actual unicode code points instead of characters [Source]
>>> print(("你好").encode("unicode_escape"))
b'\\u4f60\\u597d'# Print bytes encoded in UTF-8 for this string
>>> print(("你好").encode()) 
b'\xe4\xbd\xa0\xe5\xa5\xbd'

6 trong Python 2 có thể tạo ra sự khác biệt hoàn toàn khiến mã của bạn hoạt động chính xác hay không — điều này có thể gây nhầm lẫn. Python 3 đã sửa lỗi này bằng cách sử dụng các điểm mã unicode theo mặc định — vì vậy,

# strings is by default made of unicode code points
>>> print(len(“你好”)) 
2# Manually encode a string into bytes
>>> print(len(("你好").encode("utf-8")))  
6# You don't need to pass an argument as default encoding is "utf-8"
>>> print(len(("你好").encode()))  
6# Print actual unicode code points instead of characters [Source]
>>> print(("你好").encode("unicode_escape"))
b'\\u4f60\\u597d'# Print bytes encoded in UTF-8 for this string
>>> print(("你好").encode()) 
b'\xe4\xbd\xa0\xe5\xa5\xbd'

5 sẽ hoạt động như bạn mong đợi với độ dài bằng 2 trong ví dụ trên

Hãy xem thêm các ví dụ trong Python 3 để xử lý các chuỗi

# strings is by default made of unicode code points
>>> print(len(“你好”)) 
2# Manually encode a string into bytes
>>> print(len(("你好").encode("utf-8")))  
6# You don't need to pass an argument as default encoding is "utf-8"
>>> print(len(("你好").encode()))  
6# Print actual unicode code points instead of characters [Source]
>>> print(("你好").encode("unicode_escape"))
b'\\u4f60\\u597d'# Print bytes encoded in UTF-8 for this string
>>> print(("你好").encode()) 
b'\xe4\xbd\xa0\xe5\xa5\xbd'

6. Đó là rất nhiều thông tin. Bạn có thể tóm tắt?

Chắc chắn rồi. Hãy xem tất cả những gì chúng tôi đã đề cập cho đến nay một cách trực quan
Theo mặc định trong Python 3, chúng tôi ở phía bên trái trong thế giới của các điểm mã Unicode cho chuỗi. Chúng ta chỉ cần quay đi quay lại các byte trong khi ghi hoặc đọc dữ liệu. Mã hóa mặc định trong quá trình chuyển đổi này là UTF-8, nhưng cũng có thể sử dụng các mã hóa khác. Chúng tôi cần biết bộ mã hóa nào đã được sử dụng trong quá trình giải mã, nếu không chúng tôi có thể gặp lỗi hoặc vô nghĩa

Sơ đồ trực quan về cách mã hóa và giải mã hoạt động cho chuỗi

Sơ đồ này đúng với cả Python 2 và Python 3. Chúng tôi có thể nhận được_______2_______8 do
1) Chúng tôi đang cố gắng sử dụng ASCII để mã hóa các ký tự không phải ASCII. Điều này sẽ xảy ra đặc biệt. trong Python 2 nơi bộ mã hóa mặc định là ASCII. Vì vậy, bạn nên mã hóa và giải mã byte rõ ràng bằng UTF-8
2) Chúng tôi có thể đang sử dụng bộ giải mã hoàn toàn sai. Nếu các điểm mã unicode được mã hóa bằng UTF-16 thay vì UTF-8, thì bạn có thể gặp phải các byte vô nghĩa trong vùng đất UTF-8. Vì vậy, bộ giải mã UTF-8 có thể không hoàn toàn hiểu được các byte

Một phương pháp hay là giải mã các byte của bạn theo UTF-8 (hoặc một bộ mã hóa được sử dụng để tạo các byte đó) ngay khi chúng được tải từ một tệp. Chạy quá trình xử lý của bạn trên các điểm mã unicode thông qua mã Python của bạn, sau đó ghi lại thành byte vào một tệp bằng bộ mã hóa UTF-8 cuối cùng. Cái này được gọi là Bánh mì Unicode. Đọc/xem bài nói xuất sắc của Ned Batchelder (@nedbat) về điều này

Nếu bạn muốn thêm thông tin về các chuỗi trong Python, vui lòng đề cập trong các nhận xét bên dưới vì nó sẽ giúp ích cho người khác. Điều này kết thúc blog của tôi về hướng dẫn Unicode, UTF-8 và chuỗi. Chúc may mắn trong những khám phá của riêng bạn với văn bản

Tái bút, hãy xem podcast mới của tôi. Nó có tên là “The Data Life Podcast”, nơi tôi nói về những chủ đề tương tự. Trong một tập gần đây, tôi đã nói về Tại sao Pandas là Excel mới. Bạn có thể nghe podcast tại đây hoặc bất cứ nơi nào bạn nghe podcast của mình

Cách đọc UTF

Công dụng của UTF là gì

UTF thế nào

Có thể UTF