本文へ移動
Xアルゴリズム解体新書

リファレンス

安全ラベル

「スコアを下げる」という選択肢はコードに存在しません。あるのは、フォロワーには見せてフォロー外には見せない、という面ごとの出し分けです。

48 / 48

ラベル効果
PDNA投稿

利用規約違反の疑いが強いと自動判定された投稿に付きます。フォロワー向けのタイムラインにも、おすすめにも出なくなり、事実上リーチはゼロです。自分の画面では見えたままなので「消えていない」と勘違いしやすいのが厄介な点です。

tweet_label_drops.rs:52

両面ドロップ
BOUNCE投稿

「著者本人が消すまで表示しない」という状態です。PDNAと同じく両面で落ちますが、こちらは自動判定だけでなくユーザー通報がきっかけになることもあります。放置してもリーチは戻りません。

tweet_label_drops.rs:58

両面ドロップ
SPAM投稿

真正性ポリシー違反、いわゆるスパム確定の投稿です。フォロワーにも非フォロワーにも配信されません。URL評判が BAD と判定されたリンクを貼るとこのラベルになります(UNSAFE ではなく BAD の場合)。

tweet_label_drops.rs:64

両面ドロップ
FOR_EMERGENCY_USE_ONLY投稿

緊急インシデント対応用の特別ラベルです。このラベルだけは著者本人も除外されません。つまり投稿した本人のタイムラインからも消えます。通常運用ではまず付きません。

tweet_label_drops.rs:88

両面ドロップ
FOSNR_HATEFUL_CONDUCT投稿

ヘイト行為ポリシー違反として「著者のプロフィール上でしか見つけられない」状態にされます。フォロワーのタイムラインからも消えるため、実質的な削除に近い扱いです。閲覧者には「表示制限中」のラベルが見えます。

tweet_label_drops.rs:126

両面ドロップ
FOSNR_VIOLENT_SPEECH投稿

暴力的発言ポリシー違反。到達範囲は著者プロフィールのみに限定されます。フォロワーの本流タイムラインにも流れません。

tweet_label_drops.rs:132

両面ドロップ
FOSNR_ABUSE投稿

嫌がらせ・ハラスメントポリシー違反。プロフィールを直接見に来た人以外には届かなくなります。同じFOSNR系でも INSULTS 版より1段重い扱いです。

tweet_label_drops.rs:138

両面ドロップ
FOSNR_CIVIC_INTEGRITY投稿

選挙・市民プロセスに関する誤情報ポリシー違反。他のFOSNR系と同じく、フォロワー向けもおすすめも両方止まります。

tweet_label_drops.rs:144

両面ドロップ
FOSNR_ABUSE_INSULTS投稿

侮辱表現として判定された投稿です。フォロワーには普通に届きますが、非フォロワーへのおすすめ配信だけが止まります。フォロワー数が伸びない・インプレッションだけ急に落ちる、という形で表れます。

tweet_label_drops.rs:151

フォロー外ドロップ
NSFW_HIGH_RECALL投稿

「アダルトの可能性がある」という広めの網にかかった状態です。精度より取りこぼしの少なさを優先した判定なので、健全な投稿でも肌色が多い画像などで引っかかることがあります。フォロー外のおすすめから落ち、未成年・年齢未申告・ログアウト閲覧者にも出ません。

IsHighRecallNsfwNewModelLogic.df:3

フォロー外ドロップ
NSFW_TEXT投稿

画像ではなく本文テキストが性的に露骨だと判定された場合に付きます。画像を貼っていなくても付くのがポイントです。非フォロワーへのおすすめから外れます。

tweet_label_drops.rs:76

フォロー外ドロップ
SPAM_HIGH_RECALL投稿

「スパムかもしれない」段階の投稿です。SPAM(確定)と違ってフォロワーには届き続けますが、おすすめ経由の新規リーチだけが消えます。低品質URL、非フォロワーへの@メンション、機械的な文章などが典型的な引き金です。

tweet_label_drops.rs:70

フォロー外ドロップ
MALICIOUS_URL投稿

危険サイトへのリンクを含むと判定された投稿です。URL評判が UNSAFE の場合、SEARCH_BLACKLIST・UNSAFE_URL・DO_NOT_AMPLIFY と合わせて4枚同時に付きます。短縮URLやアフィリエイトの転送先が汚れていると巻き込まれます。

tweet_label_drops.rs:119

フォロー外ドロップ
DO_NOT_AMPLIFY投稿

「増幅しない」という古いラベルで、現在は MALICIOUS_URL に置き換え中です。付いていればフォロー外のおすすめから外れます。ブランドセーフティ上もMediumRisk扱いになります。

tweet_label_drops.rs:113

フォロー外ドロップ
NSFW_ADMIN投稿

アカウント側に NsfwAdmin ラベルが付いている人の投稿に伝播するフラグです。個々の投稿が健全でも、アカウント判定の巻き添えで非フォロワーへのおすすめから外れます。コンテンツ警告の裏にも入ります。

tweet_flag_rules.rs:40

フォロー外ドロップ
NSFW_HIGH_PRECISION投稿

アダルト判定の確度が高い投稿です。閲覧者にはワンクッションの警告画面(インタースティシャル)が出て、さらに非フォロワーへのおすすめからも落ちます。警告は3条件すべて成立時のみ表示され、閲覧者が「センシティブメディアを表示」をONにしていれば警告は出ません(ただしおすすめからの除外は解除されません)。

IsHighPrecisionNsfwNewModelLogic.df:3

インタースティシャル
GORE_AND_VIOLENCE_HIGH_PRECISION投稿

グロ・暴力描写の確度が高いメディアに付きます。警告画面+非フォロワーへのおすすめ除外の組み合わせです。画像・動画・アバター・バナーで判定閾値が違います。

nsfw_interstitial.rs:39

インタースティシャル
NSFW_CARD_IMAGE投稿

本文ではなく、リンクを貼ったときに出るカード(OGP画像)がアダルト判定された場合です。自分の投稿画像は健全でも、貼った先のサムネイルで巻き込まれます。警告画面+おすすめ除外。

nsfw_interstitial.rs:45

インタースティシャル
NSFA_HIGH_PRECISION投稿

NSFA は Not Safe For Advertising、つまり「広告の隣に置けない」という意味です。投稿のリーチ自体は一切変わりません。効くのは広告在庫の判定だけで、MediumRisk になると広告が隣接しなくなります。

brand_safety.rs:17

広告隣接のみ
NSFA_KEYWORDS_HIGH_PRECISION投稿

特定キーワードによる広告非適合判定です。これもリーチには影響せず、広告隣接可否だけを MediumRisk に倒します。

brand_safety.rs:18

広告隣接のみ
NSFA_COMMUNITY_NOTE投稿

コミュニティノートが付いた投稿を広告非適合とするラベルです。おすすめ配信は止まりません。「ノートが付くとシャドウバンされる」はこのコードの範囲では誤りで、効くのは広告面だけです。

brand_safety.rs:25

広告隣接のみ
NSFA_LIMITED_INVENTORY投稿

広告在庫を限定する軽い方のラベルです。MediumRisk ではなく LowRisk 側に分類されるため、完全に広告が付かなくなるわけではありません。リーチは無関係です。

brand_safety.rs:33

広告隣接のみ
NSFA_HIGH_RECALL投稿

広告非適合の「取りこぼしを減らす」広め判定です。LowRisk 扱いなので、MediumRisk のラベルほど厳しくはありません。ここでもリーチには一切効きません。

brand_safety.rs:35

広告隣接のみ
NSFW_REPORTED_HEURISTICS投稿

ユーザー通報のヒューリスティックからアダルト疑いとされたラベルです。VF(表示可否)のルールは存在せず、ブランドセーフティ判定で MediumRisk になるだけです。通報されてもリーチが直接落ちるわけではない、という重要な証拠になります。

brand_safety.rs:20

広告隣接のみ
GORE_AND_VIOLENCE_REPORTED_HEURISTICS投稿

通報ヒューリスティック由来のグロ・暴力疑いラベルです。こちらも表示可否ルールはなく、広告隣接判定を MediumRisk にするだけです。

brand_safety.rs:21

広告隣接のみ
GROK_NSFA投稿

Grokが「広告に適さない」と採点した投稿です。MediumRisk になり広告が隣接しなくなります。おすすめのリーチには影響しません。

brand_safety.rs:28

広告隣接のみ
GROK_NSFA_LIMITED投稿

Grokが「限定的に広告非適合」と採点した状態です。LowRisk 側なので完全排除ではありません。加えて、このラベルか GROK_SFA のどちらかが無いと「Grok未採点」として自動的に MediumRisk へ落ちます。

brand_safety.rs:34

広告隣接のみ
GROK_SFA投稿

Grokが「広告に適する」と採点した投稿に付く、数少ないプラス方向のラベルです。これが無いと(GROK_NSFA_LIMITED も無い場合)採点そのものが済んでいないとみなされ、自動的に MediumRisk になります。つまり「無罪」ではなく「未採点=リスクあり」という設計です。

brand_safety.rs:48

広告隣接のみ
PTOS_REVIEWED投稿

GROXのポリシー審査を通過済みという印です。ある投稿ID以降の新しい投稿では、この印が無いだけで自動的に MediumRisk になります。新しい投稿ほど「審査済みの証明」が要求される、という時系列の分岐がここにあります。

brand_safety.rs:54

広告隣接のみ
EGREGIOUS_NSFW投稿

名前は最も過激なアダルト判定ですが、表示可否のルールが1本も存在せず、付いていても投稿は普通に表示されます。テストコードが「in-networkでもフォロー外でも Allow」であることを明示的に検証しています。効くのはブランドセーフティ(MediumRisk)だけです。

registry.rs:387

ルールなし
RISKY_HIGH_VIZ_REPLY投稿

Grokのスパムスコアが高い返信に14日間付くラベルです。ログ名は「DownRankGroxFlaggedReply」ですが、このラベルを読んで実際に順位を下げるコードはリポジトリ内に1行も存在しません。会話の主本人による返信、高PageRankアカウント、グレー認証済みアカウントは対象外です。

GroxTweetProcessor.bot:8

ルールなし
AGATHA_SPAM投稿

agatha(いいねに対する通報・ブロックの比率を測るシステム)が高スパム判定したアカウントの投稿に1週間付きます。検索のトップツイート面向けのラベルで、Homeのおすすめ側にはこれを読むルールがありません。user-credスコア54以上のアカウントには、agathaスコアがどれだけ悪くても付きません。

AgathaSpamProduction__ApplySearchTopTweetLabel.bot:14

ルールなし
COPYPASTA_SPAM投稿

BigQuery側で重複テキストのクラスタが検出された投稿に付きます。同じ文面を使い回す運用が引き金です。ただし、このラベルを読んで表示を制限するコードはリポジトリ内に存在しません。

BBQDuplicateTextProd.bot:46

ルールなし
NSFW_HIGH_RECALLアカウント

アカウント全体が「アダルト投稿をするかもしれない」と広めに判定された状態です。以後の全投稿が非フォロワーへのおすすめから外れます。投稿1件の問題ではなくアカウント単位なので、影響範囲が桁違いに大きくなります。フォロワーでも解除されません。

user_label_drops.rs:52

フォロー外ドロップ
NSFW_HIGH_PRECISIONアカウント

アダルト投稿の常習と判定されたアカウントです。全投稿が非フォロワーへのおすすめから消えます。直近5投稿のうち3件が高確度アダルト判定なら昇格し、TTLは7日。ただし該当投稿を止めれば7日で自然に切れます。

user_label_drops.rs:58

フォロー外ドロップ
SPAM_HIGH_RECALLアカウント

スパム投稿の疑いがあるアカウントとして、全投稿が非フォロワーへのおすすめから外れます。固定投稿に悪質URLを貼ると1週間付く、LLM生成っぽい文章の量産で30日付くなど、経路が複数あります。「フォロワーには届くのに新規が来ない」典型例です。

user_label_drops.rs:64

フォロー外ドロップ
COMPROMISEDアカウント

アカウント乗っ取りの疑いがある状態です。パスワードリセットが必要になり、それまで全投稿が非フォロワーへのおすすめから外れます。安全側に倒すための措置であってペナルティではありませんが、リーチへの効果は同じです。

user_label_drops.rs:70

フォロー外ドロップ
READ_ONLYアカウント

規約違反の投稿を消すまで閲覧専用にロックされた状態です。ロック中は全投稿が非フォロワーへのおすすめから外れます。該当投稿を削除すれば解除されます。

user_label_drops.rs:76

フォロー外ドロップ
IMPERSONATION_HIGH_PRECISIONアカウント

なりすましの疑いが高いアカウントです。全投稿が非フォロワーへのおすすめから外れます。有名人や企業に寄せたアイコン・表示名・プロフィール文が引き金になります。

user_label_drops.rs:82

フォロー外ドロップ
NSFW_AVATAR_IMAGEアカウント

アイコン画像がアダルト判定された場合です。投稿の中身が完全に健全でも、アイコン1枚で全投稿が非フォロワーへのおすすめから外れます。見落としやすく、かつ自分で直せる数少ない項目です。

user_label_drops.rs:89

フォロー外ドロップ
NSFW_BANNER_IMAGEアカウント

ヘッダー(バナー)画像がアダルト判定された場合です。アバターと同じく、画像1枚でアカウント全体のおすすめ配信が止まります。これも自分で差し替えれば解消できます。

user_label_drops.rs:95

フォロー外ドロップ
ABUSIVE_HIGH_RECALLアカウント

攻撃的な振る舞いの疑いがあるアカウントです。他のアカウントラベルと違い、フォロワーには例外的に届き続けます(require_non_follower = true)。セキュリティチャレンジが要求されることもあります。

user_label_drops.rs:101

フォロー外ドロップ
NSFW_NEAR_PERFECTアカウント

アダルト判定がほぼ確実なレベルのアカウントです。閾値が極端に高いぶん誤検知は少ないですが、付いたら全投稿が非フォロワーへのおすすめから消えます。フォロワーであっても解除されません。

IsNearPerfectNsfwNewModelLogic.df:3

フォロー外ドロップ
DO_NOT_AMPLIFYアカウント

「審査中につき増幅しない」というアカウントラベルです。ABUSIVE_HIGH_RECALL と同じくフォロワーには例外的に届きます。非フォロワーへのおすすめだけが止まる、いわゆる「シャドウバンっぽい」体感の正体のひとつです。

user_label_drops.rs:113

フォロー外ドロップ
NSFW_ADMINアカウント

「主にアダルト/暴力コンテンツを投稿するアカウント」として人手で判定された状態です。自動判定ではなく通報起点のレビューで付きます。全投稿が非フォロワーへのおすすめから外れ、さらにコンテンツ警告の裏に入ります。

user_rules.rs:61

フォロー外ドロップ
AGATHA_SPAM_TOP_USERアカウント

agathaのスパム指標が最上位帯のアカウントに1週間付きます。用途は通知配信の抑制で、Homeのおすすめ側にはこのラベルを読むルールがありません。ここでも user-credスコア54以上・グレー認証アカウントは対象外です。

ProductionAgatha__FilterOutOrganicNotifications.bot:18

ルールなし
EGREGIOUS_NSFWアカウント

アカウント版も投稿版と同じく、表示可否のルールが存在しません。付いていてもタイムラインには普通に出ます。テストが in-network・フォロー外の両方で Allow を検証しています。

registry.rs:394

ルールなし
RECOMMENDATIONS_BLACKLISTアカウント

名前だけ見ると「おすすめ禁止リスト」ですが、これを参照するVFルールは1本もありません。テストコードがフォロー外でも Allow になることを検証しています。名前から効果を推測してはいけない典型例です。

registry.rs:770

ルールなし

スパム分類の10種

Grokによる投稿分類のうち、スパムの細分類です。名前を読むだけで「やってはいけないこと」が分かります。

  • SpamEngagementFarming

    エンゲージメント稼ぎ。「いいねしたらDM送ります」「RTで抽選」など、内容ではなく反応そのものを目的にした投稿です。反応が増えても、この分類に入ると意味がなくなります。

  • SpamEngagementTrading

    エンゲージメントの取引。相互いいね・相互フォロー・相互RTなど、当事者同士で反応を交換し合う行為です。少人数で同じ相手と反応し合うパターンは検知されやすくなります。

  • SpamFinancialScam

    金融詐欺。投資勧誘、暗号資産の高利回り話、「絶対に増える」系の誘導です。10分類の中で最も重い扱いを受ける部類で、凍結経路にも直結します。

  • SpamHashTagAbuse

    ハッシュタグ乱用。内容と無関係なタグを大量に付けたり、トレンドタグに便乗して無関係な宣伝を流す行為です。タグを盛るほど届くという発想はここで逆効果になります。

  • SpamScamLinks

    詐欺リンク。フィッシングや偽サイトへ誘導するURLです。短縮URLの転送先が汚れている場合も含まれ、URL評判システムのラベル付与にも連動します。

  • SpamBotProduced

    ボット生成。自動生成された文章や、機械的に量産された投稿です。生成AIで作った文章をそのまま大量投稿すると、この分類(およびllm_slop判定)に触れる可能性があります。

  • SpamPlatformManipulation

    プラットフォーム操作。複数アカウントの使い分け、協調的な一斉投稿など、仕組みそのものを歪める行為です。単独アカウントの問題ではなく、クラスタとして検知されます。

  • SpamEngagementBaiting

    エンゲージメント誘導。「答えは次のツイートで」「続きが気になる人はいいね」など、反応を釣るための仕掛けです。Farmingより手口が間接的なぶん、線引きが微妙な領域でもあります。

  • SpamCardManipulation

    カード操作。リンクカード(OGP)の表示内容と実際の遷移先を食い違わせる行為です。見出しだけ魅力的にして別のページへ飛ばすようなケースが該当します。

  • SpamMentionAbuse

    メンション乱用。無関係な相手や非フォロワーへ@メンションを大量に飛ばす行為です。低品質URLとの併用は、投稿とアカウントの両方にSPAM_HIGH_RECALLが付く直接の引き金になります。