好文分享 — CSVs Are Kinda Bad. DSVs Are Kinda Good.
相信多數人比較耳熟能詳的是 CSV 與 TSV 兩種資料格式:
- CSV (Comma-Separated Values):以半形逗號作為欄位分隔(delimiter)的資料格式。
- TSV (Tab-Separated Values):以 tab 字元
\t
作為欄位分隔的資料格式。
這 2 種格式分別遇到欄位值含有半形符號與 tab 字元或換行符號時,必須對欄位值以雙引號 "
進行包裝,如果欄位值內又包含雙引號,則又必須將欄位值內的雙引號做 escaping 或 double quote 處理,以確保 CSV 或 TSV 讀取解析不會有問題。
舉以下含有雙引號與半形逗號的 Python list 值為例:
a = ["dear user,", "this is a \"quote\""]
輸出成 CSV 時,我們可以選擇遇到雙引號時如何處理 "
:
import csv
a = ["dear user,", "this is a \"quote\""]
with open('output.csv', 'w') as csvfile:
writer = csv.writer(
csvfile,
quoting=csv.QUOTE_MINIMAL,
dialect=csv.Dialect.doublequote,
)
writer.writerow(a)
上述程式碼輸出到 output.csv 的內容如下:
"dear user,","this is a ""quote"""
可以看到欄位值遇到半形逗號時 ,
被前後加上雙引號 "
,而欄位值含有雙引號時 "
,雙引號又會被取代變成 ""
2 個雙引號,這 2 個行為分別對應到 quoting
與 dialect
2 個參數。
不同的參數組合可能會導致他人解析 CSV 檔案時,需要額外設定這些參數才能夠正確解析。
由於 CSV, TSV 有這些缺點,所以有些資料格式會使用 DSV (Delimiter-Separated Values),使用更少見的字元取代半形逗號與換行符號,這些字元可以自行指定,例如 |
或者 ;
,如此一來就不太需要額外處理 escaping 與 quoting 的問題。
前述 CSV 範例如果換成以 |
分隔的 DSV 會變成:
dear user,|this is a "quote"
不過 |
與 ;
等字元其實也有可能出現在欄位值,所以 “CSVs Are Kinda Bad. DSVs Are Kinda Good.” 1 文提供 1 個不錯的作法:
把欄位分隔符號換成 ASCII 的不可見字元 30 (RS, Record Separator),與換行符號換成 ASCII 的不可見字元 31 (US, Unit Separator)。
如此可以解決 DSV 仍有可能遇到 |
或者 ;
等符號的問題。