大規模なモデリングツールの急激な普及により、廃棄物の大量製造コストとロボットの相互作用が減少し続けています。 Reddit は、プラットフォームが大規模なモデルを使用して、より隠されている異常と合成動作を特定し、ユーザがゴミ情報へのアクセスを削減するために使用します。

インターセプトデータのプラットフォーム開示

Reddit は、現在、プラットフォームが毎日約 23 万件のごみコンテンツをアクセスし、約 25,000 の新しいごみの投稿やコメントをインターセプトしているブログ記事に書いています。 これらのツールは、主に偽の相互作用と古いシステムで検出することがより困難である人造パターンを識別するために使用されています。

同社によると、今年1月から3月にかけては、過去3ヶ月と比較して、廃棄物含有量に対する利用者の暴露が20パーセント減少しました。 これは、コンテンツクリアランスや異常な行動識別などのガバナンスのシナリオに大きなモデルが使用されていることを示しています。

プラットフォームへの負担が高まるAIコンテンツ

廃棄物情報は新しい問題ではありませんが、生成されたAIは、コンテンツ生産のしきい値を下げ、偽装する能力を高めます。 ソーシャルプラットフォームでは、このような分散、反復、シナジー要素をカバーするために、従来のルールシステムではより困難です。

Reddit のアプローチは、AI がひとつ手元に、増幅されたコンテンツガバナンスの圧力と、一方、プラットフォームがそのような問題に対処するためのツールになりました。 プラットフォームは、同じ技術によって駆動されるコンテンツの汚染を対抗するために同様の技術を使用しています。

自動検閲はまだ手動協同を要求します。

TechCrunch では、YouTube、Meta、Instagram では、AI で生成されたコンテンツを公開することができますが、通常は apostille が必要です。TikTok は、AI で生成されたコンテンツがどれだけ見えるかを調節するために、ユーザーのためのオプションも提供します。

また、プラットフォームがハットスピーチなどの違反に関する情報をより迅速にマークすることができることを意味し、AIが生成したコンテンツのより迅速な識別が指摘されました。 しかし、プラットフォーム ' s ガバナンスの研究者は、自動監査はまだ精度とパフォーマンスを向上させるために手動監査と組み合わせる必要があると主張しています。