(5人评价)
大数据实战之千万量级小说网站项目开发(存储、复杂搜索、推荐、分析)
价格 ¥ 399.00
课程介绍

随着时代的发展,小说已经成为了许许多多的人减压放松的目的,一部小说能够被人看到需要经过许许多多的代码和程序的编辑,从小说的存储、热度、排行、分类再到搜索,基于用户以往看过的小说进行的推荐,以及作者更新章节后的实时更新,小说后台对于每本书的热度、喜好程度进行权重的更新,这些都是在小说背后实实在在需要解决的问题。


本次课程就是针对百万小说数据的推荐、热度、内容等进行搜索、推荐、分析的项目.让大家在真实数据的实战中真真正正的掌握大数据存储、搜索及推荐等内容。


现在的网站小说越来越多,数据也越来越大,超大数据量的存储和精确且复杂的搜索、推荐等对网站提出了更高的需求,本次项目就是基于百万真实的小说数据,来为大家展示在大数据的背景下,小说的存储、搜索及推荐该如何进行的内容。

 


项目源代码以JAVA为基准,结合各个大数据框架,结合真实数据,展现一个完整的小说网站。
开发工具:IDEA

 

本课程包含的技术:
框架:Spark2.4.0、Elasticsearch6.7.0、Hbase1.2.0-cdh5.7.0、Hadoop1.2.0-cdh5.7.0,Zookeeper1.2.0-cdh5.7.0、Kibana6.7.0
其他工具:Mysql、Spring boot

第1章:小说网站架构讲解
1.1 网站背景
1.2 架构设计
1.3 架构选型
1.4 elasticsearch安装
1.5 elasticsearch安装踩坑集合
1.6 logstash安装
1.7 kibana安装

第2章、千万小说数据索引及存储
2.1 小说网站数据详解
2.2 mysql数据迁移到es
2.3 logstash配置编写
2.4 logstash数据迁移
2.5 小说存储及rowkey设计
2.6 小说导入javaBean类编写
2.7 小说数据迁移mr编写
2.8 数据导入rowkey代码编写
2.9 mr driver部分编写
2.10 数据迁移至hbase

第3章、网站复杂搜索功能实现
3.1 网站原始代码简介
3.2 网站搜索功能实现
3.3 网站添加搜索功能
3.4 搜索页面结果查看
3.5 小说搜索分词讲解
3.6 mapping分词器的添加分词功能
3.7 代码添加IK分词器
3.8 小说网站高亮搜索实现
3.9 拼音搜索功能实现
3.10 拼音搜索代码修改
3.11 从es获取小说详情页
3.12 收藏自增功能实现
3.13 es的乐观锁
3.14 小说章节数据迁移
3.15 小说章节查询功能实现
3.16 章节详情页搜索
3.17 网站最近更新小说功能实现
3.18 网站作品分类聚合展示功能
3.19 小说月周日热度榜
3.20 连载、完结top榜单
3.21 top10作家榜
3.22 新增作品功能实现

第4章、小说网站推荐引擎
4.1 推荐系统概述
4.2 推荐算法介绍
4.3 基于内容的推荐(一)
4.4 基于内容的推荐(二)
4.5 基于内容的推荐(三)
4.6 基于内容的推荐(四)
4.7 基于内容的推荐(五)
4.8 基于内容的推荐(六)
4.9 基于协同过滤的推荐(一)
4.10 基于协同过滤的推荐(二)
4.11 基于协同过滤的推荐(三)
4.12 基于关联规则的推荐(一)
4.13 基于关联规则的推荐(二)

第5章、网站分析相关 5.1 小说网站用户数据分析
5.2 es集群规划讲解
5.3 es集群监控
5.4 Hbase监控
5.5 项目总结

 

授课教师

学途无忧网讲师

课程特色

视频(57)
下载资料(1)