思路:
從GBK編碼頁面收集漢字 http://ff.163.com/newflyff/gbk-list/
從實用角度下手,只選取“● GBK/2: GB2312 漢字”這一節(jié),共3755個漢字。
看規(guī)律:小節(jié)編碼從B0-D7,而針對漢字的編碼從A1-FE,即16*6-2=94,非常有規(guī)律性。
第一步:把常用的漢字用python提取出來,按順序存到一個字典文件里面,漢字用空格分隔。
第二步:根據(jù)編碼從A1-FE,每節(jié)94個漢字的規(guī)律,先定位節(jié)編碼,利用漢字在某一節(jié)的位置定位字符編碼
實施:
第一步:提取漢字
代碼如下:
刪除掉這些字符:
先把分割得到的list全部解碼,然后
代碼如下:
生成編碼系列:
行編碼為0-9 A-F,列編碼為A-F
從A1開始遞增,遇到邊界(A9-AA)要手動處理,用到了ord()和chr()函數(shù),在ASCII編碼和數(shù)字之間轉(zhuǎn)換。
代碼如下:
有了這個編碼序列后,就可以從gbk庫中刪除B0-D7字符了。
最后檢查到還有空格未刪除,空格的unicode碼是u3000
gbk.remove(u'u3000')
最后encode成UTF-8編碼保存到字典文件。
我把這個字典文件放到網(wǎng)盤上了,外鏈:http://dl.dbank.com/c0m9selr6h
第二步:索引漢字
索引就是個簡單算法,因為字典里面的漢子是按照原先順序存儲的,而且GBK編碼表2的3755個漢字嚴(yán)格遵守每節(jié)94個漢字的規(guī)律,那就來個簡單的除數(shù)取整+1來定位小節(jié)編碼,再用漢字索引-節(jié)索引*94得到漢字在這一小節(jié)中的索引,然后利用上面生成的A1-FE list和索引來定位第二編碼。
算法思路有了,編碼,然后調(diào)試
附上python代碼和注釋:
代碼如下:
#讀入字典
with open(gbkFile) as f:
gbk=f.read().split()
#生成A1-FE的索引編碼
t=['A1']
while True:
if t[-1]=='FE':
break
if (ord(t[-1][1])>=48 and ord(t[-1][1])<57) or (ord(t[-1][1])>=65 and ord(t[-1][1])<70):
t.append(t[-1][0]+chr(ord(t[-1][1])+1))
continue
if ord(t[-1][1])>=57 and ord(t[-1][1])<65:
t.append(t[-1][0]+chr(65))
continue
if ord(t[-1][1])>=70:
t.append(chr(ord(t[-1][0])+1)+chr(48))
continue
#依次索引每個漢字
l=list()
for st in s.decode('gb2312'):
st=st.encode('utf-8')
i=gbk.index(st)+1
#小節(jié)編碼從B0開始,獲取漢字的小節(jié)編碼
t1='%'+t[t.index('B0'):][i/94]
#漢字在節(jié)點中的索引號
i=i-(i/94)*94
t2='%'+t[i-1]
l.append(t1+t2)
#最后用空格分隔輸出
return ' '.join(l)
得承認(rèn)我的python代碼不是那么工整
附上我的微博ID:小欒Cooper
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。TEL:177 7030 7066 E-MAIL:11247931@qq.com