【解决方案】Java 互联网项目中消息通知系统的设计与实现(下)

前言

书接上回,消息通知系统(notification-system)作为一个独立的微服务,完整地负责了 App 端内所有消息通知相关的后端功能实现。该系统既需要与文章系统、订单系统、会员系统等相关联,也需要和其它业务系统相关联,是一个偏底层的通用服务系统。

App 端内的消息通知类型常见有这几项:评论通知、点赞通知、收藏通知、订单通知、活动通知、个人中心相关通知等。该系统在可拓展性、高性能、较高可用性、数据一致性等方面有较高要求,最终目的是提升用户粘性、加强 App 与用户的互动、支撑核心业务的发展。

文章的(上)篇将从需求分析、数据模型设计、关键流程设计这 3 部分来说明,(下)篇将从技术选型、后端接口设计、关键逻辑实现这 3 部分来进行说明。


四、技术选型

我将该系统需要使用到的关键技术选型做成表格,方便梳理:

【解决方案】Java 互联网项目中消息通知系统的设计与实现(下)

说明:

  • 可以用 Spirng Cloud 或者 Spirng Cloud Alibaba,哪个习惯用哪个,只要是能打包成一个可运行的微服务即可;
  • 也可以用非关系型数据库如 MongoDB 来代替 MySQL,表与表之间的关系不密切的前提下,性能会更高;
  • Redis 拿来做缓存中间件去存储非结构化的一些数据是非常合适的,很多场景下,突出的性能和便捷的 API 是它的优势;
  • MQ 其实是选用的,适合较为复杂的项目拿来异步/解耦,既可以 kafka 也可以 RabbitMQ,RocketMQ 是阿里亲生的,控制台用起来也方便;
  • 其它开源依赖最好使用 apache 的顶级项目或者 Spring 官方的,像 hutool 这种第三方的包其实不太推荐,安全风险可能会比较高。

五、后端接口设计

作为一个偏底层的公共服务,基本上都会先由上游的业务系统进行调用,再服务于用户(即 App 端)。下面设计两个 Controller 分别针对业务端和 App 端,大家可以先参考一下接口规范,也写了总体的思路注释,关键逻辑会在下一节再展开讲。

5.1业务系统接口

暴露给业务系统的有 3 个接口:

  1. 获取通知配置
  2. 发送通知
  3. 撤回通知
@RestController @RequestMapping("notice/api") public class NoticeApiController {      @Resource     private NotificationService notificationService;      /**      * 新增通知,业务系统用      * @param dto      * @return 消息系统唯一 id      */     @PostMapping("/add")     public Response<Long> addNotice(@Valid @RequestBody AddNoticeDTO dto){         //业务方调用该接口前需要先根据 sourceId 确认来源,实现就是先入数据库,再入 Redis         return ResponseBuilder.buildSuccess(this.notificationService.addNotice(dto));     }      /**      * 撤回通知(同批量撤回),业务系统用      * @param idList,需要撤回的消息主键 id 集合      * @return 是否成功:true-成功,false-失败      */     @PostMapping("/recall")     public Response<Boolean> recallNotice(@RequestBody List<Long> idList){         //撤回只需要考虑先更新数据库,后更新 Redis         return ResponseBuilder.buildSuccess(this.notificationService.recallNotice(idList));     }      /**      * 获取通知配置      * @param sourceId 业务系统标识      * @return 配置详情信息      */     @GetMapping("/getNoticeConfig")     public Response<NotificationConfig> getNoticeConfig(@RequestParam(value = "noticeId") String sourceId){         //每个业务系统调用前需要校验通知配置,以防非法调用         return ResponseBuilder.buildSuccess(this.notificationService.getNoticeConfig(sourceId));     }      } 

5.2App 端接口

开放给 App 端使用的有 2 个接口:

  1. 获取用户未读消息总数
  2. 获取用户消息列表
@RestController @RequestMapping("notice/app") public class NoticeAppController {      @Resource     private NotificationService notificationService;      /**      * 获取用户未读消息总数      */     @Auth     @GetMapping("/num")     public Response<NoticeNumVO> getMsgNum() {         //App 端的用户唯一 uuid         String userUuid = "";         return ResponseBuilder.buildSuccess(this.notificationService.getMsgNum(userUuid));     }      /**      * 获取用户消息列表      *      * @param queryDate:查询时间 queryDate      * @param pageIndex:页码,1开始      * @param pageSize:每页大小      * @param superType:消息父类型,1-评论、点赞、系统消息,2-通知,3-私信,4-客服消息      */     @Auth     @GetMapping("/list/{queryDate}/{pageIndex}/{pageSize}/{superType}")     public Response<List<Notification>> getNoticeList(@PathVariable String queryDate, @PathVariable Integer pageIndex,                                                       @PathVariable Integer pageSize, @PathVariable Integer superType) throws ParseException {         //App 端的用户唯一 uuid         String userUuid = "";         Date dateStr = DateUtils.parseDate(queryDate, new String[]{"yyyyMMddHHmmss"});         return ResponseBuilder.buildSuccess(this.notificationService.getNoticeList(userUuid, dateStr, pageIndex, pageSize, superType));     }  } 

六、关键逻辑实现

本小节会针对 APP 端的两个接口进行详细讲解,未读消息数和消息列表的实现需要 Redis + MySQL 的紧密配合。

6.1Redis存储结构

下面先着重介绍一下本系统的 Redis 缓存结构设计,全局只使用 Hash 结构,新增消息时+1,撤回消息时-1,已读消息时做算术更新:

【解决方案】Java 互联网项目中消息通知系统的设计与实现(下)

Redis-Hash 结构

说明:

  • Redis-key 是固定 String 常量 "sysName.notice.num.key";

  • Hash-key 为 App 端用户唯一的 userUuid;

  • Hash-value 为该用户接收的消息总数,新增 +1,撤回 -1。

如果大家对于 Redis 的基本结构还不太了解,参考下我的这篇博客:https://www.cnblogs.com/CodeBlogMan/p/17816699.html

下面是关键实现步骤的代码示例:

  1. 新增消息

        //先入 MySQL     Notification notification = this.insertNotice(dto);     //再入 Redis     redisTemplate.opsForHash().increment(RedisKey, dto.getTargetUserUuid(), 1); 
  2. 撤回消息

        //先更新 MySQL     this.updateById(notification);     //再更新 Redis     redisTemplate.opsForHash().increment(RedisKey, userUuid, -1); 

注意:

写操作和更新操作都是先操作数据库,然后再同步入 Redis。原因:数据库里的数据是源头,且存的是结构化的持久性数据;Redis 只是作为缓存,发挥 Redis 读取速度快的优点,存储的是一些 size 不大的热点数据。

6.2已读消息处理

已读和未读其实就是两种状态,Redis 里一开始存储的都是未读数,当用户点击查看列表时,前端会调用后端的消息列表接口,消息列表直接查数据库(记录了已读和未读状态),此时同步更新 Redis 里的未读消息数,那么此时:未读消息数 = Redis总数 - MySQL已读消息数。

下面的代码说得比较清楚了:

  1. 查询未读消息数

        Integer num;     //先读 redis,没有再读数据库,最后再把数据库读出的放回 redis     num = (Integer) redisTemplate.opsForHash().get(RedisKey, userUuid);     //防止一开始新增通知的时候没放进 redis 里,null 表示什么都没有,而不是 0     if (Objects.nonNull(num)) {         msgNumVO.setMsgNum(num);     }else {         num = this.getNoticeNum(userUuid, queryDate);         log.info("缓存中没有未读消息总数,查数据库:{}", num);         msgNumVO.setMsgNum(num);         //放入缓存,取出什么放什么         redisTemplate.opsForHash().put(RedisKey, userUuid, num);     } return num; 
  2. 查询消息列表

     wrapper.eq(Notification::getTargetUserUuid, userUuid)         .eq(Notification::getSuperType, superType)         .eq(Notification::getMsgStatus, StatusEnum.TRUE.getType())         .le(Notification::getCreateTime, dateTime)         .orderByDesc(Notification::getCreateTime);     List<Notification> queryList = pageInfo.getResult();     //查询后即要同步去更新数据库中该类型下的消息为已读     this.updateListBySuperType(wrapper);     long isReadNum;     isReadNum = queryList.stream().filter(val -> NumberUtils.INTEGER_ZERO.equals(val.getIsRead())).count();     //关键的一步,同步更新 redis 里的未读消息数     Integer redisNum = (Integer) redisTemplate.opsForHash().get(RedisKey.INITIAL_NOTICE_NUM_PERFIX, userUuid);     //要先判断 redis 里是否为 null,和 0 不一样     int hv = Objects.isNull(redisNum) ? 0 : (int) (redisNum - isReadNum);     redisTemplate.opsForHash().put(RedisKey, userUuid, Math.max(hv, 0)); return queryList; 

6.3缓存定时清除

由于在上述的 redis-hash 结构中并没有加入 expire 过期时间,那么显而易见的是这个结构随着时间增加会越来越大,最终导致形成一个大key,给 redis 的读/写性能带来影响。
所以这里需要给出一个方案来解决这个问题,我的核心思路是:

  • 每当写redis计数的时候同时用另一个 key 记操作时间,每10分钟执行一次定时任务;
  • 逐一将时间 key 的 value (即操作时间)根据 uuid 拿出来,如果当前系统时间 - 该uuid的操作时间>3600ms(即一个小时)那么就将该 uuid 的数据删除;
  • 下次调接口先读数据库,再写进 redis 里面,具体看代码。
@Component @Slf4j public class HandleNoticeCache {     private static final Long FLAG_TIME = 3600L;     @Resource     private RedisTemplate redisTemplate;     @Scheduled(cron = " * 0/10 * * * ? ")     public void deleteNoticeCache(){         HashOperations<String, String, Integer> hashOperations = redisTemplate.opsForHash();         //通知操作的全部 uuid,数据量一大可能导致 OOM         Set<String> uuidList = hashOperations.keys(RedisKey.NOTICE_NUM_TIME);         if (CollectionUtils.isNotEmpty(uuidList)){             uuidList.forEach(val -> {                 Integer operateTime = hashOperations.get(RedisKey.NOTICE_NUM_TIME, val);                 if (Objects.nonNull(operateTime)){                     //当前系统时间-操作的记录时间                    long resultTime =  System.currentTimeMillis() - operateTime;                    if (resultTime > FLAG_TIME){                        hashOperations.delete(RedisKey.NOTICE_NUM_PERFIX, val);                        log.info("删除通知的 uuid 为:{}", val);                        hashOperations.delete(RedisKey.COMMENT_NUM_PERFIX, val);                        log.info("删除评论通知的 uuid 为:{}", val);                }                 }             });         }     }  } 

本篇小结

到这里关于互联网消息通知系统的设计与实现就分享完了,至于源码我看在周末或者假期有没有时间发出来,之后自己的个人 git 开源仓库应该已经建设好了。

文章如有错误和不足,还望指正,同时也欢迎大家在评论区说出自己的想法!

发表评论

相关文章

当前内容话题
  • 0