一种消息审核的方法和装置.pdf

《一种消息审核的方法和装置.pdf》由会员分享，可在线阅读，更多相关《一种消息审核的方法和装置.pdf（23页珍藏版）》请在专利查询网上搜索。

1、(10)申请公布号 CN 102801640 A (43)申请公布日 2012.11.28 C N 1 0 2 8 0 1 6 4 0 A *CN102801640A* (21)申请号 201110133949.5 (22)申请日 2011.05.23 H04L 12/58(2006.01) H04L 29/08(2006.01) (71)申请人腾讯科技（深圳）有限公司 地址 518000 广东省深圳市福田区赛格科技 园2栋东403室 (72)发明人范质彬 舒军 熊欢 李莹 刘科 (74)专利代理机构北京三高永信知识产权代理 有限责任公司 11138 代理人罗振安 (54) 发明名称 一种消息。

2、审核的方法和装置 (57) 摘要 本发明提出了一种消息审核的方法和装置， 属于计算机领域，本发明通过接收微博消息，判断 微博消息是否适合传播，如果不适合传播，将微博 消息置为审核状态或根审核状态，当微博消息被 置为审核状态或根审核状态后，判断该微博消息 是否为恶意内容，如果为恶意内容，将微博消息置 为系统删除状态或根删除状态，可以将微博消息 置为多种状态，使得用户的体验更加良好，能够对 不同的应用场景分别处理，灵活应对各种场景，并 且能够便于在后续过程中对微博消息进行有效的 删除控制和恢复。 (51)Int.Cl. 权利要求书4页 说明书11页 附图7页 (19)中华人民共和国国家知识产权局 。

3、(12)发明专利申请 权利要求书 4 页 说明书 11 页 附图 7 页 1/4页 2 1.一种消息审核的方法，其特征在于，所述方法包括： 接收微博消息； 判断所述微博消息是否适合传播，如果不适合传播，将所述微博消息置为审核状态或 根审核状态； 当所述微博消息被置为审核状态或根审核状态后，判断所述微博消息是否为恶意内 容，如果为恶意内容，将所述微博消息置为系统删除状态或根删除状态。 2.根据权利要求1所述的方法，其特征在于，所述将所述微博消息置为审核状态或根 审核状态，具体包括： 判断所述微博消息处于消息根节点还是消息子节点，如果处于消息根节点，则将所述 微博消息置为根审核状态，如果处于消息子。

4、节点，则将所述微博消息置为审核状态。 3.根据权利要求2所述的方法，其特征在于，所述将所述微博消息置为系统删除状态 或根删除状态，具体包括： 当所述微博消息处于消息根节点时，将所述微博消息置为根删除状态，当所述微博消 息处于消息子节点时，将所述微博消息置为系统删除状态。 4.根据权利要求1所述的方法，其特征在于，所述接收微博消息之后，所述方法还包 括： 接收用户发送的删除消息的请求，将所述微博消息置为用户删除状态； 其中，当所述微博消息处于用户删除状态时，发表者可见所述微博消息，转播者可见所 述微博消息，旁观者通过转播者可见所述微博消息，发表者、转播者和旁观者均不能对所述 微博消息进行转播操作。

5、。 5.根据权利要求1所述的方法，其特征在于，所述微博消息被置为审核状态、根审核状 态、系统删除状态或根删除状态之后，所述方法还包括： 接收对所述微博消息进行恢复的请求，将所述微博消息置为正常状态。 6.根据权利要求1所述的方法，其特征在于，所述微博消息被置为审核状态、根审核状 态、系统删除状态或根删除状态之后，所述方法还包括： 将所述微博消息的转播消息置为与所述微博消息相同的状态。 7.根据权利要求1所述的方法，其特征在于，所述微博消息被置为审核状态、根审核状 态、系统删除状态或根删除状态之后，所述方法还包括： 接收访问者发出的对所述微博消息的转播消息的浏览请求； 判断所述微博消息的转播消息。

6、对所述访问者是否可见； 如果所述微博消息的转播消息对所述访问者可见，生成加密串，并将所述微博消息的 转播消息中的消息子节点信息和所述加密串返回给所述访问者； 接收所述访问者发送的所述微博消息的转播消息的消息根节点的ID和所述加密串； 对所述访问者发送的加密串进行解密，得到所述访问者的身份，并根据所述微博消息 的转播消息的消息根节点的ID判断所述微博消息的转播消息的消息根节点对所述访问者 的可见性，根据所述可见性重新为所述微博消息的转播消息重置状态； 其中，所述微博消息的转播消息包括所述微博消息的转播消息的消息根节点信息和消 息子节点信息，所述微博消息的转播消息的消息子节点信息中包括所述微博消息。

7、的消息根 节点的ID。 权 利 要 求 书CN 102801640 A 2/4页 3 8.根据权利要求7所述的方法，其特征在于，所述生成加密串，具体包括： 获取并对所述访问者的ID、所述微博消息的转播消息的发表者的ID、所述微博消息的 转播消息的消息根节点的ID、所述微博消息的发表者的ID、所述微博消息的转播消息的消 息根节点中存储的消息的发表者的ID、当前时间戳进行签名运算，得到所述加密串。 9.根据权利要求1-8所述的任一权利要求，其特征在于，当所述微博消息处于审核状 态时，发表者可见所述微博消息并在所述微博消息通过审核后可进行转播操作，转播者可 见所述微博消息并在所述微博消息通过审核后可。

8、进行转播操作，旁观者不可见所述微博消 息，可见所述微博消息的点评并在所述微博消息通过审核后可进行转播操作； 当所述微博消息处于根审核状态时，发表者可见所述微博消息并在所述微博消息通过 审核后可进行转播操作，转播者可见所述微博消息并在所述微博消息通过审核后可进行转 播操作，旁观者不可见所述微博消息并且不能进行转播操作； 当所述微博消息处于系统删除状态或根删除状态时，发表者、转播者和旁观者均不可 见所述微博消息且不能进行转播操作。 10.一种消息审核的装置，其特征在于，所述装置包括： 第一接收模块，用于接收微博消息； 第一审核模块，用于判断所述微博消息是否适合传播，如果不适合传播，将所述微博消 息。

9、置为审核状态或根审核状态； 第二审核模块，用于当所述微博消息被所述第一审核模块置为审核状态或根审核状态 后，判断所述微博消息是否为恶意内容，如果为恶意内容，将所述微博消息置为系统删除状 态或根删除状态。 11.根据权利要求10所述的装置，其特征在于，所述第一审核模块，具体包括： 第一判断单元，用于判断所述微博消息是否适合传播； 第二判断单元，用于当所述第一判断单元判断出所述微博消息不适合传播时，判断所 述微博消息处于消息根节点还是消息子节点； 第一审核单元，用于当所述第二判断单元判断出所述微博消息处于消息根节点时，将 所述微博消息置为根审核状态； 第二审核单元，用于当所述第二判断单元判断出所述。

10、微博消息处于消息子节点时，将 所述微博消息置为审核状态。 12.根据权利要求11所述的装置，其特征在于，所述第二审核模块，具体包括： 第三判断单元，用于判断所述微博消息是否为恶意内容； 第三审核单元，用于当所述第三判断单元判断出所述微博消息为恶意内容且所述第二 判断单元判断出所述微博消息处于消息根节点时，将所述微博消息置为根删除状态； 第四审核单元，用于当所述第三判断单元判断出所述微博消息为恶意内容且所述第二 判断单元判断出所述微博消息处于消息子节点时，将所述微博消息置为系统删除状态。 13.根据权利要求10所述的装置，其特征在于，所述装置还包括： 第二接收模块，用于在所述第一接收模块接收微博。

11、消息之后，接收用户发送的删除消 息的请求，将所述微博消息置为用户删除状态； 其中，当所述微博消息处于用户删除状态时，发表者可见所述微博消息，转播者可见所 述微博消息，旁观者通过转播者可见所述微博消息，发表者、转播者和旁观者均不能对所述 权 利 要 求 书CN 102801640 A 3/4页 4 微博消息进行转播操作。 14.根据权利要求10所述的装置，其特征在于，所述装置还包括： 第三接收模块，用于在所述第一审核模块将所述微博消息置为审核状态或根审核状 态、所述第二审核模块将所述微博消息置为系统删除状态或根删除状态之后，接收对所述 微博消息进行恢复的请求，将所述微博消息置为正常状态。 15.。

12、根据权利要求10所述的装置，其特征在于，所述装置还包括： 转播消息处理模块，用于在所述第一审核模块将所述微博消息置为审核状态或根审核 状态、所述第二审核模块将所述微博消息置为系统删除状态或根删除状态之后，将所述微 博消息的转播消息置为与所述微博消息相同的状态。 16.根据权利要求10所述的装置，其特征在于，所述装置还包括： 第四接收模块，用于在所述第一审核模块将所述微博消息置为审核状态或根审核状 态、所述第二审核模块将所述微博消息置为系统删除状态或根删除状态之后，接收访问者 发出的对所述微博消息的转播消息的浏览请求； 第一判断模块，用于判断所述微博消息的转播消息对所述访问者是否可见； 加密串生。

13、成模块，用于当所述第一判断模块判断得出所述微博消息的转播消息对所述 访问者可见时，生成加密串，并将所述微博消息的转播消息中的消息子节点信息和所述加 密串返回给所述访问者； 第五接收模块，用于接收所述访问者发送的所述微博消息的转播消息的消息根节点的 ID和所述加密串； 重置模块，用于对所述访问者发送的加密串进行解密，得到所述访问者的身份，并根据 所述微博消息的转播消息的消息根节点的ID判断所述微博消息的转播消息的消息根节点 对所述访问者的可见性，根据所述可见性重新为所述微博消息的转播消息重置状态； 其中，所述微博消息的转播消息包括所述微博消息的转播消息的消息根节点信息和消 息子节点信息，所述微博。

14、消息的转播消息的消息子节点信息中包括所述微博消息的消息根 节点的ID。 17.根据权利要求16所述的装置，其特征在于，所述加密串生成模块，具体包括： 加密串生成单元，用于当所述第一判断模块判断得出所述微博消息的转播消息对所述 访问者可见时，获取并对所述访问者的ID、所述微博消息的转播消息的发表者的ID、所述 微博消息的转播消息的消息根节点的ID、所述微博消息的发表者的ID、所述微博消息的转 播消息的消息根节点中存储的消息的发表者的ID、当前时间戳进行签名运算，得到所述加 密串； 发送单元，用于将所述微博消息的转播消息中的消息子节点信息和所述加密串返回给 所述访问者。 18.根据权利要求10-1。

15、7所述的任一权利要求，其特征在于，当所述微博消息处于审核 状态时，发表者可见所述微博消息并在所述微博消息通过审核后可进行转播操作，转播者 可见所述微博消息并在所述微博消息通过审核后可进行转播操作，旁观者不可见所述微博 消息，可见所述微博消息的点评并在所述微博消息通过审核后可进行转播操作； 当所述微博消息处于根审核状态时，发表者可见所述微博消息并在所述微博消息通过 审核后可进行转播操作，转播者可见所述微博消息并在所述微博消息通过审核后可进行转 权 利 要 求 书CN 102801640 A 4/4页 5 播操作，旁观者不可见所述微博消息并且不能进行转播操作； 当所述微博消息处于系统删除状态或根删。

16、除状态时，发表者、转播者和旁观者均不可 见所述微博消息且不能进行转播操作。 权 利 要 求 书CN 102801640 A 1/11页 6 一种消息审核的方法和装置 技术领域 0001 本发明涉及计算机领域，特别涉及一种消息审核的方法和装置。 背景技术 0002 微博，即微博客(MicroBlog)的简称，是一个基于用户关系的信息分享、传播以及 获取平台，用户可以通过WEB、WAP(Wireless Application Protocol，无线应用协议)以及 各种客户端组建个人社区，以140字左右的文字更新信息，并实现即时分享。 0003 在微博中包括原创消息和转播消息，原创消息为用户发表的。

17、原创，转播消息为用 户对原创消息的转发，并可自行加入点评消息。如图1和2所示，分别为用户的原创消息和 转播的微博。 0004 在微博的原创消息和转播实现中，一般将原创消息和转播作为消息根节点和消息 子节点进行处理。其中，消息根节点中的内容为原创微博消息，该消息不基于其他用户的微 博消息，是一条原创发表，类似发表新贴子；消息子节点为在其他用户(或自己)的某条消 息基础上进行转播操作，可以增加自己的转播点评(转播理由)，最终效果是原创内容和转 播点评的内容一同展示出来，类似于回贴概念。 0005 在现有情况下，一般对于用户发表的微博要进行审核，用删除的方式处理用户发 表的不当消息内容。当微博消息含。

18、有不当信息时，微博后台安全人员从后台对该消息进行 物理删除，使得消息停止传播。当消息内容不存在问题时，不对消息做任何处理。 0006 在发明人实现本发明的过程中，发明人发现现有技术至少存在如下缺点： 0007 在现有的消息根节点和消息子节点中不包括有丰富的状态标识，只能标识该节点 中的消息存在还是不存在。因此，在现有的对微博消息的审核并进行删除操作时存在如下 问题：1)从用户体验上看，用户能明显感受到自己的消息被删除，方式不够友好，给用户的 感觉是态度蛮横、强硬。2)不能灵活应对恶劣级别不同的场景。如，并不是所有消息内容都 要完全消失才是最好，更多情况下，希望是有限制范围的传播。3)特殊时间处。

19、理掉的消息， 事后无法原样恢复出来。4)已经传播开的消息，不容易控制让整个传播路径都一起消失。 发明内容 0008 为了解决现有技术中对微博发表的消息进行审核时存在的问题，本发明提出了一 种消息审核的方法和装置。所述技术方案如下： 0009 一种消息审核的方法，所述方法包括： 0010 接收微博消息； 0011 判断所述微博消息是否适合传播，如果不适合传播，将所述微博消息置为审核状 态或根审核状态； 0012 当所述微博消息被置为审核状态或根审核状态后，判断所述微博消息是否为恶意 内容，如果为恶意内容，将所述微博消息置为系统删除状态或根删除状态。 0013 进一步地，所述将所述微博消息置为审核。

20、状态或根审核状态，具体包括： 说 明 书CN 102801640 A 2/11页 7 0014 判断所述微博消息处于消息根节点还是消息子节点，如果处于消息根节点，则将 所述微博消息置为根审核状态，如果处于消息子节点，则将所述微博消息置为审核状态。 0015 进一步地，所述将所述微博消息置为系统删除状态或根删除状态，具体包括： 0016 当所述微博消息处于消息根节点时，将所述微博消息置为根删除状态，当所述微 博消息处于消息子节点时，将所述微博消息置为系统删除状态。 0017 进一步地，所述接收微博消息之后，所述方法还包括： 0018 接收用户发送的删除消息的请求，将所述微博消息置为用户删除状态；。

21、 0019 其中，当所述微博消息处于用户删除状态时，发表者可见所述微博消息，转播者可 见所述微博消息，旁观者通过转播者可见所述微博消息，发表者、转播者和旁观者均不能对 所述微博消息进行转播操作。 0020 进一步地，所述微博消息被置为审核状态、根审核状态、系统删除状态或根删除状 态之后，所述方法还包括： 0021 接收对所述微博消息进行恢复的请求，将所述微博消息置为正常状态。 0022 进一步地，所述微博消息被置为审核状态、根审核状态、系统删除状态或根删除状 态之后，所述方法还包括： 0023 将所述微博消息的转播消息置为与所述微博消息相同的状态。 0024 进一步地，所述微博消息被置为审核状。

22、态、根审核状态、系统删除状态或根删除状 态之后，所述方法还包括： 0025 接收访问者发出的对所述微博消息的转播消息的浏览请求； 0026 判断所述微博消息的转播消息对所述访问者是否可见； 0027 如果所述微博消息的转播消息对所述访问者可见，生成加密串，并将所述微博消 息的转播消息中的消息子节点信息和所述加密串返回给所述访问者； 0028 接收所述访问者发送的所述微博消息的转播消息的消息根节点的ID和所述加密 串； 0029 对所述访问者发送的加密串进行解密，得到所述访问者的身份，并根据所述微博 消息的转播消息的消息根节点的ID判断所述微博消息的转播消息的消息根节点对所述访 问者的可见性，根。

23、据所述可见性重新为所述微博消息的转播消息重置状态； 0030 其中，所述微博消息的转播消息包括所述微博消息的转播消息的消息根节点信息 和消息子节点信息，所述微博消息的转播消息的消息子节点信息中包括所述微博消息的消 息根节点的ID。 0031 进一步地，所述生成加密串，具体包括： 0032 获取并对所述访问者的ID、所述微博消息的转播消息的发表者的ID、所述微博消 息的转播消息的消息根节点的ID、所述微博消息的发表者的ID、所述微博消息的转播消息 的消息根节点中存储的消息的发表者的ID、当前时间戳进行签名运算，得到所述加密串。 0033 进一步地，对于上述任一方法，当所述微博消息处于审核状态时，。

24、发表者可见所述 微博消息并在所述微博消息通过审核后可进行转播操作，转播者可见所述微博消息并在所 述微博消息通过审核后可进行转播操作，旁观者不可见所述微博消息，可见所述微博消息 的点评并在所述微博消息通过审核后可进行转播操作； 0034 当所述微博消息处于根审核状态时，发表者可见所述微博消息并在所述微博消息 说 明 书CN 102801640 A 3/11页 8 通过审核后可进行转播操作，转播者可见所述微博消息并在所述微博消息通过审核后可进 行转播操作，旁观者不可见所述微博消息并且不能进行转播操作； 0035 当所述微博消息处于系统删除状态或根删除状态时，发表者、转播者和旁观者均 不可见所述微博。

25、消息且不能进行转播操作。 0036 一种消息审核的装置，所述装置包括： 0037 第一接收模块，用于接收微博消息； 0038 第一审核模块，用于判断所述微博消息是否适合传播，如果不适合传播，将所述微 博消息置为审核状态或根审核状态； 0039 第二审核模块，用于当所述微博消息被宿松第一审核模块置为审核状态或根审核 状态后，判断所述微博消息是否为恶意内容，如果为恶意内容，将所述微博消息置为系统删 除状态或根删除状态。 0040 进一步地，所述第一审核模块，具体包括： 0041 第一判断单元，用于判断所述微博消息是否适合传播； 0042 第二判断单元，用于当所述第一判断单元判断出所述微博消息不适合。

26、传播时，判 断所述微博消息处于消息根节点还是消息子节点； 0043 第一审核单元，用于当所述第二判断单元判断出所述微博消息处于消息根节点 时，将所述微博消息置为根审核状态； 0044 第二审核单元，用于当所述第二判断单元判断出所述微博消息处于消息子节点 时，将所述微博消息置为审核状态。 0045 进一步地，所述第二审核模块，具体包括： 0046 第三判断单元，用于判断所述微博消息是否为恶意内容； 0047 第三审核单元，用于当所述第三判断单元判断出所述微博消息为恶意内容且所述 第二判断单元判断出所述微博消息处于消息根节点时，将所述微博消息置为根删除状态； 0048 第四审核单元，用于当所述第三。

27、判断单元判断出所述微博消息为恶意内容且所述 第二判断单元判断出所述微博消息处于消息子节点时，将所述微博消息置为系统删除状 态。 0049 进一步地，所述装置还包括： 0050 第二接收模块，用于在所述第一接收模块接收微博消息之后，接收用户发送的删 除消息的请求，将所述微博消息置为用户删除状态； 0051 其中，当所述微博消息处于用户删除状态时，发表者可见所述微博消息，转播者可 见所述微博消息，旁观者通过转播者可见所述微博消息，发表者、转播者和旁观者均不能对 所述微博消息进行转播操作。 0052 进一步地，所述装置还包括： 0053 第三接收模块，用于在所述第一审核模块将所述微博消息置为审核状态。

28、或根审核 状态、所述第二审核模块将所述微博消息置为系统删除状态或根删除状态之后，接收对所 述微博消息进行恢复的请求，将所述微博消息置为正常状态。 0054 进一步地，所述装置还包括： 0055 转播消息处理模块，用于在所述第一审核模块将所述微博消息置为审核状态或根 审核状态、所述第二审核模块将所述微博消息置为系统删除状态或根删除状态之后，将所 说 明 书CN 102801640 A 4/11页 9 述微博消息的转播消息置为与所述微博消息相同的状态。 0056 进一步地，所述装置还包括： 0057 第四接收模块，用于在所述第一审核模块将所述微博消息置为审核状态或根审核 状态、所述第二审核模块将所。

29、述微博消息置为系统删除状态或根删除状态之后，接收访问 者发出的对所述微博消息的转播消息的浏览请求； 0058 第一判断模块，用于判断所述微博消息的转播消息对所述访问者是否可见； 0059 加密串生成模块，用于当所述第一判断模块判断得出所述微博消息的转播消息对 所述访问者可见时，生成加密串，并将所述微博消息的转播消息中的消息子节点信息和所 述加密串返回给所述访问者； 0060 第五接收模块，用于接收所述访问者发送的所述微博消息的转播消息的消息根节 点的ID和所述加密串； 0061 重置模块，用于对所述访问者发送的加密串进行解密，得到所述访问者的身份，并 根据所述微博消息的转播消息的消息根节点的I。

30、D判断所述微博消息的转播消息的消息根 节点对所述访问者的可见性，根据所述可见性重新为所述微博消息的转播消息重置状态； 0062 其中，所述微博消息的转播消息包括所述微博消息的转播消息的消息根节点信息 和消息子节点信息，所述微博消息的转播消息的消息子节点信息中包括所述微博消息的消 息根节点的ID。 0063 进一步地，所述加密串生成模块，具体包括： 0064 加密串生成单元，用于当所述第一判断模块判断得出所述微博消息的转播消息对 所述访问者可见时，获取并对所述访问者的ID、所述微博消息的转播消息的发表者的ID、 所述微博消息的转播消息的消息根节点的ID、所述微博消息的发表者的ID、所述微博消息 。

31、的转播消息的消息根节点中存储的消息的发表者的ID、当前时间戳进行签名运算，得到所 述加密串； 0065 发送单元，用于将所述微博消息的转播消息中的消息子节点信息和所述加密串返 回给所述访问者。 0066 进一步地，对于上述任一装置，当所述微博消息处于审核状态时，发表者可见所述 微博消息并在所述微博消息通过审核后可进行转播操作，转播者可见所述微博消息并在所 述微博消息通过审核后可进行转播操作，旁观者不可见所述微博消息，可见所述微博消息 的点评并在所述微博消息通过审核后可进行转播操作； 0067 当所述微博消息处于根审核状态时，发表者可见所述微博消息并在所述微博消息 通过审核后可进行转播操作，转播。

32、者可见所述微博消息并在所述微博消息通过审核后可进 行转播操作，旁观者不可见所述微博消息并且不能进行转播操作； 0068 当所述微博消息处于系统删除状态或根删除状态时，发表者、转播者和旁观者均 不可见所述微博消息且不能进行转播操作。 0069 本发明实施例提供的技术方案的有益效果是：可以将微博消息置为多种状态，使 得用户的体验更加良好，能够对不同的应用场景分别处理，灵活应对各种场景，并且能够便 于在后续过程中对微博消息进行有效的删除控制和恢复。 附图说明 说 明 书CN 102801640 A 5/11页 10 0070 为了更清楚地说明本发明实施例的技术方案，下面将对实施例中使用的附图并做 简。

33、单地介绍，显而易见地，下面所列附图仅仅是本发明的一些实施例，对于本领域普通技术 人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。 0071 图1为本发明背景技术中所提供的原创消息的微博截图； 0072 图2为本发明背景技术中所提供的转播微博截图； 0073 图3为本发明实施例1中所提供的一种消息审核方法的流程示意图； 0074 图4为本发明实施例2中所提供的微博消息的各种状态之间的转换示意图； 0075 图5为本发明实施例2中所提供的一种消息审核方法的流程示意图； 0076 图6为本发明实施例2中所提供的微博服务器对转播消息重新置状态的方法的流 程示意图； 0077 图。

34、7为本发明实施例2中所提供的微博中的转播消息的结构示意图； 0078 图8为本发明实施例3中所提供的一种消息审核的装置的结构示意图； 0079 图9为本发明实施例3中所提供的一种消息审核的装置中的第一审核模块的结构 示意图； 0080 图10为本发明实施例3中所提供的一种消息审核的装置中的第二审核模块的结 构示意图； 0081 图11为本发明实施例3中所提供的一种消息审核的装置的第二种结构示意图； 0082 图12为本发明实施例3中所提供的一种消息审核的装置的第三种结构示意图； 0083 图13为本发明实施例3中所提供的一种消息审核的装置的第四种结构示意图； 0084 图14为本发明实施例3中。

35、所提供的一种消息审核的装置的第五种结构示意图； 0085 图15为本发明实施例3中所提供的一种消息审核的装置中的加密串生成模块的 结构示意图。 具体实施方式 0086 为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明实施方 式作进一步地详细描述。 0087 实施例1 0088 本发明实施例1提出了一种消息审核方法，其流程如图3所示，该方法包括： 0089 步骤101、接收微博消息； 0090 步骤102、判断上述微博消息是否适合传播，如果不适合传播，将该微博消息置为 审核或根审核状态； 0091 步骤103、当微博消息被置为审核状态或根审核状态后，判断上述微博消息是否为 恶意内。

36、容，如果为恶意内容，将该微博消息置为系统删除或根删除状态。 0092 本发明实施例所提供的一种消息审核的方法，可以将微博消息置为多种状态，使 得用户的体验更加良好，能够对不同的应用场景分别处理，灵活应对各种场景，并且能够便 于在后续过程中对微博消息进行有效的删除控制和恢复。 0093 实施例2 0094 本发明实施例2提出了一种消息审核的方法，是在实施例1基础上改进而来。 0095 在本实施例中，通过将消息根节点和消息子节点增加更多的状态使得在消息审核 说 明 书CN 102801640 A 10 6/11页 11 过程时更加人性化，其中，增加的状态如表1所示： 0096 表1 0097 00。

37、98 0099 其中，原创发表者指发表微博消息的用户，转播者指对微博消息进行转发的用户， 旁观者指浏览微博消息的普通用户。 0100 如上表所示，当微博消息被置以正常状态时，原创发表者、转播者、旁观者均可见 该消息并且能对该消息进行转播操作； 0101 当微博消息被置以审核状态时，发表者可见该消息并在该消息通过审核后可进行 转播操作，转播者可见该消息并在该消息通过审核后可进行转播操作，旁观者不可见该消 息，对该消息的点评可见并在该消息通过审核后可进行转播操作； 0102 当该消息处于根审核状态时，发表者可见该消息并在该消息通过审核后可进行转 播操作，转播者可见该消息并在该消息通过审核后可进行转。

38、播操作，旁观者不可见该消息 并且不能进行转播操作； 0103 当该消息处于系统删除状态或根删除状态时，发表者、转播者和旁观者均不可见 该消息且不能进行转播操作。 0104 并且，如图4所示，在上述各种状态直接可以进行灵活的转变。 0105 如图5所示，一种消息审核方法，具体包括： 0106 步骤201、接收微博消息； 0107 需要说明的是，在本实施例中，微博消息可以是原创消息也可以是转播消息； 0108 进一步地，当微博的服务器接收到微博消息时，如果是原创消息，则创建消息根节 点来存储该消息，并为消息根节点分配ID，如果是转播消息，则创建消息子节点用来存储转 说 明 书CN 10280164。

39、0 A 11 7/11页 12 播消息，并为消息子节点分配ID，其中，转播消息包括用户的点评消息和被转播的原创消息 的消息根节点ID。 0109 步骤202、判断上述微博消息是否适合传播，如果适合传播，执行步骤208，如果不 适合传播，执行步骤203； 0110 步骤203、判断上述微博消息处于消息根节点还是消息子节点，如果是消息根节 点，执行步骤204，如果是消息子节点，执行步骤205； 0111 进一步地，判断微博消息处于消息根节点还是消息子节点，具体的为：如果微博消 息是原创消息，则处于消息根节点，如果微博消息是转播消息，则处于消息子节点。 0112 步骤204、将上述微博消息置为根审核。

40、状态，并执行步骤206； 0113 步骤205、将上述微博消息置为审核状态，并执行步骤206； 0114 步骤206、判断上述微博消息是否为恶意内容，如果是，执行步骤207，如果不是， 执行步骤208； 0115 步骤207、将上述微博消息置为根删除或系统删除状态； 0116 需要说明的是，将上述微博消息置为根删除状态还是系统删除状态依赖于该微博 消息是处于消息根节点还是消息子节点，当微博消息处于消息根节点时，将该微博消息置 为根删除状态，当微博消息处于消息子节点时，将该微博消息置为系统删除状态。 0117 步骤208、将上述微博消息置为正常状态。 0118 通过上述提供的对消息进行审核的方法。

41、，将用户发表的原创消息和转播消息可以 置为多种状态，可以使得用户的体验更加良好，且对不同的应用场景分别处理，能够灵活应 对各种场景，并且能够在后续的微博管理过程中进行有效的恢复和删除控制，下面举例进 行说明： 0119 进一步地，在本实施例中，在微博服务器接收到微博消息后，还可以包括： 0120 接收用户发送的删除消息的请求，将上述微博消息置为用户删除状态。 0121 进一步地，由于微博中消息的内容具有时效性，因此对处于审核状态、根审核状 态、系统删除状态和根删除状态的消息经常会有恢复需求，具体的为： 0122 微博服务器接收安全人员发送的对微博消息的恢复请求，将有恢复请求的微博消 息置为正常。

42、状态。 0123 进一步地，基于上述提供的消息审核方法，当微博消息被置为审核、根审核、系统 删除或根删除状态时，该微博消息的转播消息同时调整为与微博消息相同的状态。 0124 相应地，对于上述对处于审核状态、根审核状态、系统删除状态和根删除状态的消 息进行恢复时，需要说明的是： 0125 如果有恢复请求的消息处于审核状态、根审核状态、系统删除状态和根删除状态， 且有恢复请求的消息为原创消息，则当接收到对该原创消息的恢复请求时，将该原创消息 置为正常状态，并将该原创消息的转播消息置为正常状态。 0126 通过上述说明可以得到，由本实施例提供的对消息审核的方法，可以对微博中的 消息进行良好的恢复，。

43、且即使已经传播开来的消息，仍然能够对整个路径上的消息进行有 效的控制。 0127 进一步地，在对微博消息审核后，如果微博消息不适合传播，需要对微博消息进行 删除或置为审核状态处理，但是当一条微博被转播了很多次之后，消息量大，很难一次被重 说 明 书CN 102801640 A 12 8/11页 13 新置状态，根据上述提供的对消息审核的方法，本发明提出了对不适合传播或为恶意内容 的消息进行读触发的重新置状态的方法，当有访问者请求对用户发表的已经被置为根删除 或根审核状态的消息的转播消息进行访问时，对该微博消息的转播消息(以下简称转播消 息)进行重新置状态的方法，如图6所示，其中，转播消息被存储。

44、在消息子节点，当用户发出 对转播消息进行浏览的请求时，微博服务器对转播消息重新置状态的方法具体如下： 0128 S1、访问者发出对转播消息的浏览请求； 0129 其中，访问者浏览的转播消息在微博服务器中与该转播消息所属的消息子节点的 ID相对应。 0130 具体地，微博中的转播消息的结构如图7所示，包括消息子节点信息和消息根节 点信息，其中，消息子节点中存储有转播者增加的点评信息和消息根节点的ID，消息根节点 中存储有原创消息(即微博消息)。 0131 相应地，访问者对转播消息进行访问时，微博服务器首先获取消息子节点中存储 的信息，并从消息子节点信息中读取消息根节点的ID，通过消息根节点的ID。

45、获取消息根节 点中存储的内容。 0132 S2、判断该转播消息对访问者是否可见； 0133 进一步地，判断该转播消息的对访问者是否可见，具体包括： 0134 获取访问者的ID，并从消息子节点信息中读取该转播消息的作者的ID，根据访问 者的ID和该转播消息的作者的ID判断该转播消息对该访问者是否可见； 0135 需要说明的是，访问者的ID为访问者注册微博时的ID，例如可以为QQ号等，并且， 在消息子节点中还存储有被访问的转播消息的作者的ID。 0136 S3、如果转播消息对访问者可见，则生成加密串并将加密串和转播消息返回给访 问者； 0137 其中，生成加密串具体的包括：微博服务器获取访问者的I。

46、D、该转播消息的发表 者的ID、该转播消息对应的消息子节点的ID、该转播消息中的消息根节点的ID、消息根节 点中存储的微博消息的发表者的ID、当前时间戳，并使用签名算法对上述内容进行签名运 算，得到加密串。 0138 S4、访问者将加密串和转播消息中的消息根节点的ID发送给微博服务器； 0139 S5、微博服务器对加密串进行解密，得到访问者的ID，根据转播消息的消息根节点 的ID判断转播消息对访问者的可见性，并根据得到的可见性重新为转播消息重置状态； 0140 具体地，服务器接收到访问者加密串和转播消息中的消息根节点的ID后，判断该 消息根节点的状态，如果为根删除状态，则将转播消息对应的消息子。

47、节点重新置为系统删 除状态，如果消息根节点为根审核状态，则将转播消息对于的消息子节点重新置为审核状 态。 0141 根据上述S1到S5提供的对消息子节点重新置状态的方法，当所有转播消息都被 读到时，所有转播消息的消息子节点就都处理完毕了。该方法不要求精确找出所有消息子 节点，不会遗漏；另一方面，一次重新置状态失败时，下次读到，仍然有机会再校正一次；此 外，能够分散微博服务器进行重新置状态时的压力，使微博系统运行更平稳可靠。 0142 通过上述处理，微博发表者不会感受到消息丢失的异常，转播者也能正常查看，和 消息没处理时，体验一致。其他用户来访问时，该条消息就仿佛没有发表过一样，有效屏蔽 说 明。

48、 书CN 102801640 A 13 9/11页 14 了消息进一步传播。从用户体验上，我们在实现控制消息传播的条件下，同时给了用户更好 的体验。 0143 本实施例提供了一种消息审核的方法，可以将微博消息置为多种状态，使得用户 的体验更加良好，能够对不同的应用场景分别处理，灵活应对各种场景，并且能够便于在后 续过程中对微博消息进行有效的删除控制和恢复。 0144 实施例3 0145 本发明实施例3提出了一种消息审核的装置，其结构如图8所示，具体包括： 0146 第一接收模块301，用于接收微博消息； 0147 第一审核模块302，用于判断微博消息是否适合传播，如果不适合传播，将微博消 息置。

49、为审核状态或根审核状态； 0148 第二审核模块303，用于当微博消息被第一审核模块302置为审核状态或根审核 状态后，判断微博消息是否为恶意内容，如果为恶意内容，将微博消息置为系统删除状态或 根删除状态； 0149 其中，当微博消息处于审核状态时，发表者可见微博消息并在微博消息通过审核 后可进行转播操作，转播者可见微博消息并在微博消息通过审核后可进行转播操作，旁观 者不可见微博消息，可见微博消息的点评并在微博消息通过审核后可进行转播操作； 0150 当微博消息处于根审核状态时，发表者可见微博消息并在微博消息通过审核后可 进行转播操作，转播者可见微博消息并在微博消息通过审核后可进行转播操作，旁。