有关 Telegram 内容审核的一些细节
2024年3月，澳大利亚互联网安全监管机构 eSafety 开始对 Telegram 的审核实践进行调查。Telegram 向监管机构披露了其非法内容拦截系统的一些细节。
⦁ 私聊的审核
* Telegram 不会扫描私聊的聊天记录，也不会在其中检测非法内容。
* 仅当接受消息的人提交报告时，才能执行自动检查或将消息转发给审核人员。
⦁ 加密对话的审核
* 加密对话的消息不会转发给审核人员，即使其中一方提交了报告。
* 对于来自加密对话的报告，Telegram 使用的方式是：无法向公众披露的“替代信号”，而不是消息文本。
⦁ 频道和群组的审核
* 大多数私人频道和群组对审核人员不可见，除非其中一位成员提交了有关社区的报告。
* Telegram 的规则是禁止在公开可见的频道、群组、机器人等中宣扬暴力和传播非法色情内容。尽管如此，消息中不容忍服务任何部分的非法内容。
* 没有用户名的频道和群组不一定就是私有频道和群组：对于频道主和群主来说，如果频道或群组通过邀请链接向公众开放，则视为公开频道和公开群组
* 例如，如果私有频道和私有群组的链接发布在 Telegram 或其他社交网络的可公开访问部分，那么出于内容审核目的，此类私人频道和群组被视为可公开访问。
* 系统会扫描所有私人频道和群组中的照片和视频，以自动检测已知的非法内容。
⦁ 自动检测非法内容
* Telegram 可以自动检测照片、视频和文本中的非法内容，但它仅在特定情况下这样做。
* 除非其中一名成员提交报告，否则不会自动检测私有消息。
* 65% 的自动检测到的潜在极端主义内容被送交审核人员人工审核。
* 当检测到可能涉及虐待儿童的新非法内容时，要么立即自动处理，要么送交审核人员审查，“取决于相关模型能够做出判断的置信度，并结合其他因素”。
⦁ 已知的非法内容(极端主义和虐待儿童)
* Telegram 会自动检测所有部分的已知照片和视频，私聊除外。甚至还会自动检测私有频道和群组。
* 默认情况下，Telegram 不会自动检测消息文本。
* 如果有人在消息或对话中提交报告，Telegram 将会自动检测文本以查找与已知非法内容相匹配的内容。
⦁ 新的潜在非法内容(极端主义和虐待儿童)
* 系统会自动检测被举报项目的文本、图片和视频，包括：公开群组和对话、动态、头像、简介和用户名。
* 不会自动检测私聊消息、私有频道和私有群组中新的非法内容，除非提交了报告。
* 已删除的非法内容将添加到禁止内容的数据库中。
⦁ 自动化检测系统的技术结构
* Telegram 主要使用自有的特征数据库中的内容来自动检测非法内容。该数据库仅收集由其审核人员手动识别的材料。
* Telegram 还定期审查欧洲刑警组织的特征数据库，以将其集成到其系统中。
* 用于检测极端主义文本的模型和工具在大多数语言中都运行良好。
* Telegram 系统会跟踪群组管理员删除用户的时间、原因和频率，并在某些情况下采取适当的措施。AI 模型还会考虑这些指标，以确定举报的优先级并进行自动决策。
* Telegram 使用一些特征来识别与先前被禁止的群组相似的新群组 。
* 不使用链接黑名单。Telegram 表示，“相比静态链接黑名单，专注于基于机器学习的分类往往会产生更好的效果”。
* Telegram 表示，它对媒体来源进行“广泛监控”，并审查“未注册用户和受信任组织”通过电子邮件发送给 Telegram 的链接。
⦁ 有关审核的其他信息
* 删除频道和群组后，审核人员会手动检查用户用于查找该对话的最常用搜索查询。为了有可能将这些查询从 Telegram 的公共搜索中排除，从而限制将来类似内容的传播和可用性。
* 如果群组管理员自己没有违反 Telegram 的规则（例如，如果群组只是暂时受限），Telegram 审核人员可以自行决定暂时关闭群组，让群组管理员有机会删除违规行为。
* 但是，如果群组被用于分发违禁内容，无论是管理员还是成人有，此群组、群组管理员和违反 Telegram 使用条款的成员都可能被永久禁止。
* 当 Telegram 发现有用户传播极端主义内容时，它会检查“与该用户相关的进一步报告，以及该用户拥有或管理的任何群组”。Telegram 表示，任何被发现传播此类材料的社区也将被删除。
* 频道订阅者和群组成员“即使所加入的对话可能存在非法内容，但未参与管理、直接传播或推广违禁内容，也不会被自动封禁”。Telegram 表示，采取此举是为了避免对执法人员、记者、活动人士以及其他可能因客观原因加入此类群组的用户造成意外伤害。
* 鉴于虐待儿童行为的严重性，任何与之相关的违规行为通常会导致相关账号、频道和群组都会被永久删除。此类频道和群组的所有者的账号也可能被封禁。
#Telegram #教程 #TG小课堂
2024年3月，澳大利亚互联网安全监管机构 eSafety 开始对 Telegram 的审核实践进行调查。Telegram 向监管机构披露了其非法内容拦截系统的一些细节。
⦁ 私聊的审核
* Telegram 不会扫描私聊的聊天记录，也不会在其中检测非法内容。
* 仅当接受消息的人提交报告时，才能执行自动检查或将消息转发给审核人员。
⦁ 加密对话的审核
* 加密对话的消息不会转发给审核人员，即使其中一方提交了报告。
* 对于来自加密对话的报告，Telegram 使用的方式是：无法向公众披露的“替代信号”，而不是消息文本。
⦁ 频道和群组的审核
* 大多数私人频道和群组对审核人员不可见，除非其中一位成员提交了有关社区的报告。
* Telegram 的规则是禁止在公开可见的频道、群组、机器人等中宣扬暴力和传播非法色情内容。尽管如此，消息中不容忍服务任何部分的非法内容。
* 没有用户名的频道和群组不一定就是私有频道和群组：对于频道主和群主来说，如果频道或群组通过邀请链接向公众开放，则视为公开频道和公开群组
* 例如，如果私有频道和私有群组的链接发布在 Telegram 或其他社交网络的可公开访问部分，那么出于内容审核目的，此类私人频道和群组被视为可公开访问。
* 系统会扫描所有私人频道和群组中的照片和视频，以自动检测已知的非法内容。
⦁ 自动检测非法内容
* Telegram 可以自动检测照片、视频和文本中的非法内容，但它仅在特定情况下这样做。
* 除非其中一名成员提交报告，否则不会自动检测私有消息。
* 65% 的自动检测到的潜在极端主义内容被送交审核人员人工审核。
* 当检测到可能涉及虐待儿童的新非法内容时，要么立即自动处理，要么送交审核人员审查，“取决于相关模型能够做出判断的置信度，并结合其他因素”。
⦁ 已知的非法内容(极端主义和虐待儿童)
* Telegram 会自动检测所有部分的已知照片和视频，私聊除外。甚至还会自动检测私有频道和群组。
* 默认情况下，Telegram 不会自动检测消息文本。
* 如果有人在消息或对话中提交报告，Telegram 将会自动检测文本以查找与已知非法内容相匹配的内容。
⦁ 新的潜在非法内容(极端主义和虐待儿童)
* 系统会自动检测被举报项目的文本、图片和视频，包括：公开群组和对话、动态、头像、简介和用户名。
* 不会自动检测私聊消息、私有频道和私有群组中新的非法内容，除非提交了报告。
* 已删除的非法内容将添加到禁止内容的数据库中。
⦁ 自动化检测系统的技术结构
* Telegram 主要使用自有的特征数据库中的内容来自动检测非法内容。该数据库仅收集由其审核人员手动识别的材料。
* Telegram 还定期审查欧洲刑警组织的特征数据库，以将其集成到其系统中。
* 用于检测极端主义文本的模型和工具在大多数语言中都运行良好。
* Telegram 系统会跟踪群组管理员删除用户的时间、原因和频率，并在某些情况下采取适当的措施。AI 模型还会考虑这些指标，以确定举报的优先级并进行自动决策。
* Telegram 使用一些特征来识别与先前被禁止的群组相似的新群组 。
* 不使用链接黑名单。Telegram 表示，“相比静态链接黑名单，专注于基于机器学习的分类往往会产生更好的效果”。
* Telegram 表示，它对媒体来源进行“广泛监控”，并审查“未注册用户和受信任组织”通过电子邮件发送给 Telegram 的链接。
⦁ 有关审核的其他信息
* 删除频道和群组后，审核人员会手动检查用户用于查找该对话的最常用搜索查询。为了有可能将这些查询从 Telegram 的公共搜索中排除，从而限制将来类似内容的传播和可用性。
* 如果群组管理员自己没有违反 Telegram 的规则（例如，如果群组只是暂时受限），Telegram 审核人员可以自行决定暂时关闭群组，让群组管理员有机会删除违规行为。
* 但是，如果群组被用于分发违禁内容，无论是管理员还是成人有，此群组、群组管理员和违反 Telegram 使用条款的成员都可能被永久禁止。
* 当 Telegram 发现有用户传播极端主义内容时，它会检查“与该用户相关的进一步报告，以及该用户拥有或管理的任何群组”。Telegram 表示，任何被发现传播此类材料的社区也将被删除。
* 频道订阅者和群组成员“即使所加入的对话可能存在非法内容，但未参与管理、直接传播或推广违禁内容，也不会被自动封禁”。Telegram 表示，采取此举是为了避免对执法人员、记者、活动人士以及其他可能因客观原因加入此类群组的用户造成意外伤害。
* 鉴于虐待儿童行为的严重性，任何与之相关的违规行为通常会导致相关账号、频道和群组都会被永久删除。此类频道和群组的所有者的账号也可能被封禁。
#Telegram #教程 #TG小课堂
