数字花园
守门人与三层滤网
起点:一句话的重量
留言板开放的那一刻,一件常被忽略的事发生了:每一个陌生人写下的字,都会挂在你家的门上。
个人站点的站长是站点唯一的署名人。访客留下一句话,搜索引擎收录它,路人读到它,而责任落在域名的持有者头上。互联网上不缺这样的人——他们不会砸你的门,只会往你的门上贴纸条。有些纸条,代价以现实计。
所以内容安全在这座星球上不是”锦上添花的审核”,是地基工程。设计原则只有一条:宁可错杀,绝不放过。
滤网一:黑名单
第一层是最古老也最可靠的技术:一张清单。
涉政的人物、事件、立场主张——哪怕只是提及;暴恐威胁、武器毒品、色情、人身攻击、广告链接。命中任何一条,留言不进入公开视野半步。清单之上还叠了一道归一化:去掉空格与分隔符再比对,“空 格 隔 开”式的变体在它面前失效。
清单会误伤。误伤的代价被控制到最小:命中的话不消失,只是先进暗室——站长在后台看得见每一条,捞得回来。
滤网二:AI 判毒
黑名单挡得住清单上的词,挡不住清单外的千变万化。第二层交给一个跑了无数种语言的小模型:中、英、日、韩,同一套判据。
它的裁决只有三个去向:判干净,立即亮星;有一点拿不准,进暗室;连模型自己都出错了——也进暗室。系统里没有”赌一把”这个选项:异常即保守,是这套机制的性格,不是它的缺陷。
滤网三:守门人
最后一层是人。一道带令牌的暗门后面,是所有留言的全景:谁、何时、说了什么、被判了什么理由。待审的在这里捞回,越界的在这里销毁。
判毒的理由只在暗门后可见——理由是给守门人的工具,不是给试探者的路标。
不透露的艺术
这套机制最精细的部分,是它对访客”什么也不说”。
留言进了暗室,访客看到的只是一行平静的提示:“审核通过后,这颗星会亮起。“没有”被拦截”,没有”触发了规则”,没有是哪一层、哪一个词。试探者得不到任何可用于迭代的反馈——沉默不是隐瞒,是不给撞门的人画地图。
军规一条
公开的广场上,宽门好看,窄门安全。门可以窄,但钥匙必须在自己的手里——宁可慢一点亮,也不让一颗危险的星挂上自己的天空。
评论