01hr搜索引擎基本概念：爬取、索引、召回、粗排、精排、重排 爬取索引 搜索引擎爬取全网海量页面进行基本的质量评分过滤出小部分质量较佳的网页创建倒排索引（能够通过关键词查询文档） 召回 用户发起搜索请求搜索引擎先对关键词进行纠错处理拆成多个词项去索引中查找能够命中这些词项的文档，可能就是这个数 粗排 但是文档的实在数量太多了，一股脑的都推给用户显然很二逼，用户不可能都看完，只会看其中极小的一部分，另外也没法保证质量。 所以要从海量召回的文档中，删除其中内容高度重复的文档，并筛选与搜索词最相关的760个文档，展现给用户。 这个环节属于海选，需要大量计算，为了不让用户等待过长，一般用快捷优先且相对简单的处理方式，比如BM25、TFIDF、LDA，具体还有啥咱也不知道。 精排 之后就是对760篇文档排序的过程，最终的目的是让排序结果最大概率符合用户预期的结果，这样用户才更有可能点进去了解详情，从而提升搜索的业务价值。 这部分比海选要复杂的多，涉及一大堆数据挖掘、机器学习、用户行为分析、用户意图识别等算法，大概包括： 通过用户搜索词和前N次搜索词，结合历史日志中其他搜索该词的用户浏览行为，来揣测用户可能的搜索意图 文档的更新时间 文档的历史点击率 文档浏览后终结搜索的比例 用户的网络维度特征（IP、网络类型、地域。。。。） 与搜索词文本匹配度最高的TopN条文档 与搜索词潜在意图覆盖率最高的TopN条文档 。。。。太多了咱也不知道 上述过程，对应着搜索引擎中，爬取、索引、召回、粗排、精排的几个阶段，属于搜索引擎系统入门级的常识。 重排 现在精排后面，还有重排，根据用户的搜索场景（网络、设备、近期点击行为等）和媒体热点，实时调整排序，比如： 你用wifi跟手机网络，搜索结果可能有所不同 今天上午点击的某个结果，下午再次搜索时排名就上去了 上午媒体爆料一个叫GoGo闯神秘人和迪丽热巴约会了，然后下午GoGo闯的搜索结果，就跟上午完全不同了 02hr如何研究排名（一家之言） 研究收录vs研究排名 在16年以前，本渣觉得研究排名是最难的，后来搞了一堆单页站群、泛站群、资讯站群和少数几个单站，大概前后10万域名出头，发现搞定收录其实比搞定排名麻烦的多，甚至应付广告主没事总tm扣量、跑路不结算、域名被停止解析。。。。，我觉得都比研究排名麻烦。 因为在16年以前，本渣接触的都是大站，日UV百万级的，所以收录的问题不大，一般就是某个目录收录率低，但不存在完全不收录，或收录极其缓慢的问题。 毕竟，大站参与760名排序的概率很大的，But一堆海量小站，参与召回的机会都没有。 研究大站vs研究小站 所以，本渣觉得，大站与小站，研究排名，是两种路线： 大站研究的是，做的词怎样上首页。 小站研究的是，做哪些词能上首页。 研究的方法有两种：正推和逆推 03hr正推 正推就是假设一堆条件，挨个去测试，能否达到自己预期的结果。比如快排的开发，大部分都是正推的，需要大量测试 逆推就是通过分析已有的结果，找出其中共同的规律，需要大量观察 仅研究百度SEO排名规律上，正推的门槛极高。 比如，很久以前，本渣抓了1000个词（同一个词根）的搜索结果，把每个词的760个结果对应的网页全弄下来，最后我记得就不到40万篇，接近50的搜索结果都是重复的。 然后我把这批网页导入到xunsearch（一个开源的搜索引擎，并不是说这个好，而是本渣当时只会这个，还不知道有elasticsearch这个东西）并建立倒排索引。 同时我还把默认词库整理了下，让这部分行业词分词更准确。 我的想法是： 第一步：在xunsearch和baidu，同时搜索一个词，通过调整xunsearch搜索参数，调整出跟百度很接近的结果，比如top10文档大部分一样，只是顺序略有差别。 第二步：我就修改自己网页的内容，推到xunsearch更新下索引，再次xunsearch搜索下，如果top10能出来，线上网页就按本次修改的上线。如果没出来，就修改其他地方，直到能在Top10出现。 理想丰满，现实骨感。 反正第一步始终没出来，毕竟商业搜索引擎，和开源搜索引擎，很多地方是不同的。 但是这只能代表百度，因为其他搜索入口，如研究微信搜一搜、知乎、小红书的排名规律就容易的多，首先这些平台不存在收录的问题，内容不违规即是收录，二是影响排序的因子比百度少很多。 anyway，正推我是放弃了 04hr逆推 下面说说当时做的逆推的思路，相对来讲，逆推比正推省事很多。 长尾关键词 longlongtimeago，在做站群的时候，当时开发的还不是泛解析程序，能承载无限个关键词的。是库里有多少词，这个程序就生成多少对应数量的页面，或二级域名。 这意味着，如果库里面塞了一堆根本不可能排在首页的关键词，这是浪费系统资源的，毕竟新域名收录有限，自然希望收录的页面，都是大概率能上排名的页面。 一个流量词呢，在搜索结果表现，有4种特征： Top10结果爱站权重很高（平均权重7） Top10结果爱站权重很低（平均权重2） 搜索结果数很低（搜索结果数1000） 有高有低（平均权重24） 第一种可能这个词竞争度很大，或者本身是比较敏感的词，比如医疗养生类的，所以百度特意分流给了一些信任度高的大站 第二种可能这个词是违禁的，但百度有没来得发现，也可能这个词还没被很多人发现。这个可以根据搜索结果的标题，是否完全命中关键词来判断，能命中是前者，不能命中是后者 第三种是这个词是违禁的，且已经被百度发现删除 第四种是正常的词，比如不算热门的小说、漫画名啥的 已排名优先的清洗关键词措施，是找出第1种和第3种词，然后删除掉。 所以当时找词，比如从爱站导出来的竞品网站关键词，会先按如上方法洗词，洗完之后在上线。同等域名数量的情况下，能多出25的流量。 以上是研究长尾词能够大概率上首页的问题，下面来聊聊核心词的排名。 独立核心词排名 以前有一种刷词方法，比如核心词是SEO，会去同时刷创造出来的新词，比如SEO流量贩子，同时title也改成这个词。 经过恰如其分的刷量比例时间拉长，SEO与SEO流量贩子会产生关联，SEO流量贩子是SEO搜索意图中的一种 这样SEO流量贩子排名到首页后，在加大SEO的点击，这样核心词SEO上首页的概率，比直接硬点概率要大一些。 所以之前，SEO这个词，在百度指数的下拉，或百度搜索框的下来，总有一些烂七八糟的词 判断网页与核心词的真实相关性（排除点击加权） 当然，这个不是绝对，同时也跟百度认为网页本身与核心词有多大相关性有关。 比如很多刷快排的站，网页做的乱七八糟，可以说不符合SEO友好性，存在排名很大程度是点击加权，而非相关性，这样快排有点波动就容易被干。 识别这种情况，可以在搜索词后加个无关紧要的符号，比如华为工资。 搜索引擎对用户的Query，会先纠错在分词召回，纠错过程就包含去除烂七八糟的符号，之后再排序。 but，华为工资。这个词的排序没有点击加权因素在里面，因为没人点击这个词，同时这个符号对核心词华为工资相关性排序的影响很低，因为每篇文档都有一大堆句号。 所以你看华为工资。与华为工资的排序，几乎一样的。但对比seo。与seo的搜索结果，就非常奇妙了。 或者，也可以把主词拆开来搜索，比如华为工资华为工资，或者输入两次华为工资华为工资 海量核心词排名 但如果有很多核心词怎么办？ 比如某类词根，如： 关于XXX的作文 ｛城市｝公司 ｛古诗名称｝ 。。。。 longlongtimeago，本渣的做法是： 1）把这批词，全部扔到百度搜索框，依次提取下拉框的词 2）计算每个后缀的出现频次 3）选择频次最高标题完全命中关键词搜索结果少的词缀，作为网页title的补充 举个例子，比如｛城市｝公司，标题只写｛XX｝公司，有些浪费，因为这个词后面有人搜： ｛XX｝公司大全 ｛XX｝公司名录 ｛XX｝公司黄页 ｛XX｝公司排行 ｛XX｝公司排名 ｛XX｝公司代办 。。。。。。 但是又不能所有后缀都加上，所以疑问是：添加哪个后缀，能大概率让｛XX｝公司和｛XX｝公司｛后缀｝都有排名？ 全国300多个县级市，60城市，其下拉框都会出现排名，其实名录、黄页的出现频次也不少，跟排名差不多，但是这两个词缀做的人太多了，也就是搜索结果标题完全命中的数量比较多，所以最后用了排名，即title为：北京公司排名 结果是，二三线城市差不多都上去了。 一线城市没上去是因为，搜索需求太丰富，比如：代办、摇号、转让。。。
