百度指紋算法是什么?
簡單來說搜索引擎指紋算法就和人的指紋一樣,看起來這個手指是差不多的,但是實際上每一個人的手指都有一個獨一無二的指紋,而我們所看到的網頁也是一樣的。不少網頁內容其實都是差不多的,但是每一個網頁搜索引擎抓取以后都會保存,然后建立一個指紋,可以理解為唯一標識符,而這個算法最大的好處就是可以通過這個唯一標識別符來計算網頁的重復。
搜索引擎網頁指紋技術在百度百科中的解釋是:提取一個信息的特征,通常是一組詞或者一組詞+權重,然后根據這組詞調用特別的算法,例如MD5,將之轉化為一組代碼,這組代碼就成為標識這個信息的指紋。搜索引擎在抓取內容之后,會首先剔除掉文章中的一些非特征信息關鍵詞,比如:你、我、他等稱謂;而且、但是等連接詞;哦、呢、吧等語氣詞。這些詞對于信息標識是沒有幫助的,然后就是對文字信息的提取與處理,經過一系列復雜的算法流程。
二、常見的搜索引擎指紋算法有哪些?
最簡單的指紋構造方式就是計算文本的md5或者sha哈希值,除非輸入相同的文本,否則會發生“雪崩效應”,極小的文本差異通過md5或者sha計算出來的指紋就會不同(發生沖撞的概率極低),那么對于稍加改動的文本,計算出來的指紋也是不一樣。
因此,一個好的指紋應該具備如下特點:
1、指紋是確定性的,相同的文本的指紋是相同的;
2、指紋越相似,文本相似性就越高;
3、指紋生成和匹配效率高。
上一篇
網站被關閉或站點已暫停如何解決?下一篇
建立優質關鍵詞詞庫的方法有哪些?