問題由來

前些天工作中遇到一個問題:

有 60萬 條短消息記錄日志,每條約 50 字,5萬 關鍵詞,長度 2-8 字,絕大部分為中文。要求將這 60萬 條記錄中包含的關鍵詞全部提取出來并統(tǒng)計各關鍵詞的命中次數(shù)。

本文完整介紹了我的實現(xiàn)方式,看我如何將需要運行十小時的任務優(yōu)化到十分鐘以內。雖然實現(xiàn)語言是 PHP,但本文介紹的更多的思想,應該能給大家一些幫助。


原始 - grep

設計

網(wǎng)友評論