这是一本关于搜索引擎的教科书,它从研究实践者的角度介绍了搜索引擎的相关技术及其产业,并试图协助读者成为搜索引擎领域的局内人。与传统的将搜索引擎作为信息检索系统实现的一个特殊实例的做法不同,作者试图把搜索引擎作为一个独立的研究课题,从纷繁复杂的互联网数据现象和搜索引擎工作案例中提炼知识点,对现代商业搜索引擎的体系结构、运行原理、运营机制和核心算法进行总结和讲解。
本书是清华大学计算机系与百度公司合作在清华大学开设的“搜索引擎技术基础”课程的教材,适合作为高等院校信息科学技术、图书馆学等相关专业本科生与研究生相关课程的教材,也可作为相关领域技术人员与搜索引擎技术爱好者的参考资料。
第1章 为什么要关注搜索引擎 1.1 互联网上最重要的应用系统 1.2 人类历史上最大规模的信息集散平台 1.3 学术界重要的技术研发平台 1.4 经济领域能够盈利的“生意”第2章 搜索引擎的基本概念与发展历史 2.1 互联网与万维网的发展 2.2 英雄辈出:搜索引擎的发展历史回顾 2.3 搜索引擎的定义与运行原理概述 2.4 总结:我们能够从历史中学到什么? 参考文献第3章 搜索引擎性能评价 3.1 搜索引擎评价与Cranfield评价体系 3.2 查询样例集合构建 3.2.1 查询样例集合构建中的真实性 3.2.2 查询样例集合构建中的代表性 3.2.3 查询样例集合构建中信息需求表述的完整性 3.3 正确答案集合构建 3.4 搜索引擎评价指标 3.5 搜索引擎性能评价的新进展 参考文献第4章 搜索引擎体系结构概述 4.1 数据抓取子系统的主要功能与性能需求 4.1.1 及时性 4.1.2 全面性 4.1.3 高效性 4.2 内容索引子系统的主要功能与性能需求 4.2.1 内容索引子系统的主要功能 4.2.2 倒排索引结构 4.2.3 内容索引子系统的性能需求 4.3 内容检索子系统的主要功能与性能需求 4.3.1 内容检索子系统与文本信息检索系统 4.3.2 内容检索子系统的相关性需求 4.3.3 内容检索子系统的查询理解需求 4.3.4 内容检索子系统的效率需求 4.4 链接结构分析子系统的主要功能与性能需求 4.4.1 基于链接结构分析评价数据质量 4.4.2 基于链接结构分析扩展文档描述 4.4.3 链接结构分析子系统的效率需求 4.5 搜索引擎体系结构设计理念 参考文献第5章 数据抓取子系统设计及核心算法 5.1 抓取系统的基本架构 5.2 数据抓取涉及的网络协议 5.2.1 URL规范 5.2.2 HTTP协议 5.2.3 User-Agent 5.2.4 robots协议 5.3 网页抓取技术 5.3.1 网页抓取的基本过程 5.3.2 基于异步I/O模型的抓取器 5.3.3 抓取压力控制 5.3.4 对URL重定向的支持 5.3.5 对HTTPS协议的支持 5.4 链接选取策略 5.4.1 爬虫的抓取方式 5.4.2 抓取优先级策略 5.4.3 网页的重访策略 5.4.4 链接去重策略 5.5 网页存储技术 5.5.1 分布式哈希存储系统 5.5.2 基于BigTable 的网页存储系统 参考文献第6章 内容索引子系统设计及核心算法 6.1 最小的语义单位——词项 6.1.1 中文分词问题 6.1.2 英文词干抽取 6.1.3 停用词去除 6.1.4 词项列表的构建 6.2 索引的数据结构 6.2.1 词项出现信息记录 6.2.2 倒排索引和正排索引 6.2.3 索引的并行存储结构 6.3 索引子系统的运行方式 6.3.1 预处理 6.3.2 建立索引 6.3.3 使用索引 参考文献第7章 内容检索子系统设计及其核心算法 7.1 文本信息检索模型 7.1.1 布尔模型 7.1.2 向量空间模型 7.1.3 概率模型 7.1.4 语言模型 7.2 内容检索子系统运行方式 7.2.1 内容相似程度 7.2.2 数据质量评估结果 7.2.3 用户偏好情况 7.2.4 竞价排名情况 7.2.5 合并排序依据 参考文献第8章 链接结构分析子系统设计及核心算法 8.1 万维网链接结构图 8.1.1 万维网链接图的规模 8.1.2 万维网链接图的连通情况 8.1.3 万维网链接图的人度和出度分布 8.2 超链接结构分析的基础 8.3 HITS算法的基本思路及实现 8.4 PageRank算法的基本思路及实现 8.5 链接结构分析结果的应用与排序因素融合 参考文献第9章 万维网数据质量评估 9.1 万维网数据质量评估困境 9.2 数据质量评估的解决思路 9.2.1 宏观粒度网络数据质量评估技术 9.2.2 微观粒度网络数据质量评估技术 9.2.3 冗余页面识别技术 9.2.4 网络数据质量评估方式总述 9.3 面向搜索引擎需求的网络数据质量定义 9.3.1 基于万维网链接结构分析的网页质量定义 9.3.2 基于搜索引擎用户信息需求分析的网页质量定义 9.4 基于万维网链接结构分析的网页质量评估 9.4.1 PageRank在真实万维网环境中的困境 9.4.2 用户访问数据与用户浏览关系图 9.4.3 基于用户浏览关系图的页面质量评估 9.5 基于搜索引擎用户信息需求分析的网页质量评估 9.5.1 网页查询无关特征 9.5.2 查询目标页面与普通页面的差异分析 9.5.3 查询目标页面与普通页面的长度特征差异 9.5.4 查询目标页面与普通页面的PageRank特征差异 9.5.5 基于用户信息需求分析的网页质量评估方法 9.5.6 基于用户信息需求分析的网页质量评估效果 参考文献第10章 万维网垃圾网页识别 10.1 垃圾网页作弊方式 10.1.1 基于内容的作弊方式 10.1.2 基于链接的作弊方式 10.1.3 垃圾网页作弊与搜索引擎优化 10.2 垃圾网页盈利方式 10.2.1 垃圾网页作弊目的及其分类 10.2.2 促进广告浏览及点击 10.2.3 促进移动增值服务订制 10.2.4 促进站点访问流量提升 10.2.5 欺诈和违法信息宣传 10.2.6 软件产品推广 10.2.7 垃圾网页作弊目的分布情况 10.3 垃圾网页识别方法 10.3.1 垃圾网页识别的效果评价 10.3.2 基于网页内容的垃圾网页识别 10.3.3 基于链接结构的垃圾网页识别 10.3.4 基于用户行为的垃圾网页识别 参考文献第11章 搜索引擎广告技术 11.1 引言 11.2 历史、现状和未来 11.3 搜索引擎付费搜索原理 11.4 搜索引擎广告的检索和匹配算法 11.5 计算广告学 参考文献第12章 中文搜索引擎的现状与未来 12.1 国内外搜索引擎市场的发展现状 12.2 搜索引擎的未来发展展望 12.2.1 手持设备搜索 12.2.2 暗网数据与用户产生内容(UGC)的获取 12.2.3 搜索引擎将成为社会和自然科学研究的重要平台? 12.2.4 搜索引擎向其他产业进军本书特色
《美学散步》内容简介:宗白华先生(1897—1986)是中国现代美学的先行者和开拓者,被誉为“融贯中西艺术理论的一代美学大师”,他
Matlabistheacceptedstandardforscientificcomputing,usedgloballyinvirtuallyallNeur...
家用游戏机简史 本书特色 本书以时间为轴,重新厘清了30余年游戏主机的成长历程,梳理了游戏产业的发展脉络。从幕后开发、技术变革、游戏策略等多重角度,解读五次游戏...
《历史文化名城名镇名村系列:沙沟镇》内容简介:本书是一本通俗读物、休闲读物,它不同于一般的学术著作。编者们力图运用通俗易懂
《华为的意志:华为经营逻辑的引擎》内容简介:一个企业活下去并非容易之事,企业要始终健康地活下去更难。因为它每时每刻都面对激
《西方女装百年图鉴》内容简介:时尚从来就如同俄狄浦斯轮回一般。上世纪30年代的妖艳迷人到80年代的过度膨胀,从美好年代的紧身
《精益创新:企业高效创新八步法》内容简介:本书是一部从创新战略到创新实践的工具书,作者借助对众多创新成功和失败企业的深入研
《中国基督教史纲》内容简介:《中国基督教史纲》是我国学者所撰的部也是影响优选的中国基督教通史或全史著作。《中国基督教史纲》
这是一本小题大作的书!书中谈的不是令人肃然起敬的建筑和艺术,而是把橡皮圈、马桶刷、胡椒罐和碗盘看待得和建筑、艺术一样认真
《协同无线通信原理与应用》系统深入地介绍了无线协同通信的历史背景、理论基础、基本原理、通信机制、关键算法、实际应用以及未
《移动通信原理与系统》较详细地介绍了移动通信的原理和实际的移动通信系统。《移动通信原理与系统》首先介绍了无线通信的传播环
《唐宋八大家文钞》内容简介:本书以“醇正”二字为标准。共十九卷,收“唐宋八大家”韩愈、柳宗元、欧阳修、苏洵、苏轼、苏辙、曾
《银行业产品管理实战精析》内容简介:本书是关于银行业产品管理实战方面的书籍,内容包括银行业产品管理体系、产品管理战略、产品
本书介绍了CATIAV5CAD部分的主要模块,分6章依次介绍CATIAV5的操作入门、草图设计、零件设计、曲面造型、装配设计和工程绘图。本
《Python Django Web典型模块开发实战》内容简介:Django是基于Python编程语言的三大网站框架之一,是一门需要以实践经验来巩固和提
Itsallinthename:LearnYouaHaskellforGreatGood!isahilarious,illustratedguidetothis...
Theworlds#1bookonnetworkandInternetsecurityhasbeenthoroughlyupdatedtoreflecttoda...
C和C++程序设计教程 本书特色 反映当前教学内容,突出理论知识的应用和实践技能的培养。注重社会发展和就业需求,培养适应职业岗位的综合能力,强化学生的应用技能。...
《包豪斯:大师和学生们》由弗兰克•惠特福德等所著,以时间为主线,通过在包豪斯学习和工作过的大师级人物的视角,精心梳理了包豪
随着Web2.0网站的蓬勃发展,如何成功地构建可扩展的Web站点成为网站开发人员必备的技能。本书是Flickr.com的主力开发人员讲解构建