문지기와 삼중 필터

출발점: 한마디의 무게

메시지 보드가 열린 그 순간, 쉽게 간과되는 일이 벌어진다: 날선 사람이 쓴 모든 글자가, 당신 집의 문에 걸린다.

개인 사이트의 서명인은 사이트 주인 단 한 사람이다. 방문자가 한마디를 남기고, 검색 엔진이 그것을 수록하고, 지나가는 사람이 그것을 읽는다 —— 그리고 책임은 도메인의 보유자의 어깨에 떨어진다. 인터넷에는 문을 부수지는 않을 사람들이 끊이지 않는다 —— 그들은 그저 당신의 문에 쪽지를 붙일 뿐이다. 그 쪽지 중에는, 대가가 현실로 계산되는 것들이 있다.

그래서 이 행성에서 콘텐츠 세이프티는 “있으면 좋은” 심사가 아니다. 기초 공학이며, 원칙은 단 하나다: 백 번을 거절해도, 한 번은 통과시키지 않는다.

필터 일: 블랙리스트

첫 번째 층은 가장 오래되고 가장 믿음직한 기술이다: 하나의 목록.

정치적 인물·사건·입장의 주장 —— 언급만 해도; 폭력적 협박, 무기와 마약, 선정성, 인신공격, 광고 링크. 하나라도 걸리면, 그 메시지는 공개의 시야에 반 걸음도 들어오지 못한다. 목록 위에는 정규화가 겹쳐 있다: 공백과 구분자를 제거한 뒤 대조한다. “띄 어 쓰 기”식 변체는 그 앞에서 무너진다.

목록은 오사한다. 오사의 대가는 최소로 억제되어 있다: 걸린 말은 사라지지 않는다. 다만, 먼저 암실에 들어갈 뿐 —— 문지기는 그 안에서 모든 것을 보고, 언제든 되돌릴 수 있다.

필터 이: AI의 판정

블랙리스트는 목록 위의 단어는 막는다. 목록 밖의 무한한 변체는 막지 못한다. 두 번째 층은 모든 언어를 읽어온 작은 모델에 맡긴다: 중국어, 영어, 일본어, 한국어, 하나의 기준.

그 판정에는 단 세 가지 행선지만 있다: 깨끗하다고 판되면, 별은 즉시 밝아진다; 조금이라도 의심스러우면, 암실로; 모델 자신이 틀렸을 때에도 —— 그래도 암실로. 이 시스템에는 “한 번 걸어보기”라는 선택지가 존재하지 않는다. 예외는 보수를 의미한다. 그것은 이 메커니즘의 결함이 아니라, 성격이다.

필터 삼: 문지기

마지막 층은 사람이다. 토큰이 있는 작은 문 뒤에는, 모든 메시지의 전경이 있다: 누가, 언제, 무엇을 말했고, 무엇으로 판정되었는지. 심사 대기인 것은 여기서 되돌리고, 선을 넘은 것은 여기서 없앤다.

판정의 이유는, 문 안쪽에서만 보인다 —— 이유는 문지기의 도구이지, 침입자의 이정표가 아니다.

침묵의 기술

이 메커니즘의 가장 정교한 부분은, 방문자에게 “아무 말도 하지 않는” 것이다.

메시지가 암실에 들어가면, 방문자의 눈에 닿는 것은 고요한 한 줄뿐이다: “승인되면, 이 별이 밝아집니다.” “차단되었다”도, “규칙에 걸렸다”도, 어느 층인지, 어떤 단어인지도 없다. 시험하는 자는 반복에 쓸 수 있는 피드백을 하나도 얻지 못한다 —— 침묵은 은폐가 아니다. 문을 두드리는 자에게 지도를 그려주지 않는 것이다.

군칙, 하나

공개된 광장에서, 넓은 문은 예쁘고, 좁은 문은 안전하다. 문은 좁아도 된다 —— 다만 열쇠는, 반드시 자기 손안에 있어야 한다. 천천히 밝아지는 별을 택하더라도, 위험한 별을 하늘에 걸지 말라.