好文分享 — CSVs Are Kinda Bad. DSVs Are Kinda Good.
相信多數人比較耳熟能詳的是 CSV 與 TSV 兩種資料格式:
- CSV (Comma-Separated Values):以半形逗號作為欄位分隔(delimiter)的資料格式。
- TSV (Tab-Separated Values):以 tab 字元 \t作為欄位分隔的資料格式。
這 2 種格式分別遇到欄位值含有半形符號與 tab 字元或換行符號時,必須對欄位值以雙引號 " 進行包裝,如果欄位值內又包含雙引號,則又必須將欄位值內的雙引號做 escaping 或 double quote 處理,以確保 CSV 或 TSV 讀取解析不會有問題。
舉以下含有雙引號與半形逗號的 Python list 值為例:
a = ["dear user,", "this is a \"quote\""]
輸出成 CSV 時,我們可以選擇遇到雙引號時如何處理 ":
import csv
a = ["dear user,", "this is a \"quote\""]
with open('output.csv', 'w') as csvfile:
    writer = csv.writer(
        csvfile,
        quoting=csv.QUOTE_MINIMAL,
        dialect=csv.Dialect.doublequote,
    )
    writer.writerow(a)
上述程式碼輸出到 output.csv 的內容如下:
"dear user,","this is a ""quote"""
可以看到欄位值遇到半形逗號時 , 被前後加上雙引號 ",而欄位值含有雙引號時 ",雙引號又會被取代變成 "" 2 個雙引號,這 2 個行為分別對應到 quoting 與 dialect 2 個參數。
不同的參數組合可能會導致他人解析 CSV 檔案時,需要額外設定這些參數才能夠正確解析。
由於 CSV, TSV 有這些缺點,所以有些資料格式會使用 DSV (Delimiter-Separated Values),使用更少見的字元取代半形逗號與換行符號,這些字元可以自行指定,例如 | 或者 ;,如此一來就不太需要額外處理 escaping 與 quoting 的問題。
前述 CSV 範例如果換成以 | 分隔的 DSV 會變成:
dear user,|this is a "quote"
不過 | 與 ; 等字元其實也有可能出現在欄位值,所以 “CSVs Are Kinda Bad. DSVs Are Kinda Good.” 1 文提供 1 個不錯的作法:
把欄位分隔符號換成 ASCII 的不可見字元 30 (RS, Record Separator),與換行符號換成 ASCII 的不可見字元 31 (US, Unit Separator)。
如此可以解決 DSV 仍有可能遇到 | 或者 ; 等符號的問題。