misskey icon indicating copy to clipboard operation
misskey copied to clipboard

禁止ワードがトリガーされた時ユーザーと引っかかったワードを記録する

Open KisaragiEffective opened this issue 1 year ago • 10 comments

Summary

禁止ワードがトリガーされた時、トリガーしたユーザーとトリガーになったルールをモデレーションログに上げる

Purpose

サポートで役立ちそう

Do you want to implement this feature yourself?

  • [ ] Yes, I will implement this by myself and send a pull request

KisaragiEffective avatar Feb 14 '24 04:02 KisaragiEffective

#13210 を見る限りだとモデレーションログには上がってなさそうなので、原因の特定が難しそう

例:

  • https://nijimiss.moe/notes/01HPJT9B1ZK81RF1QR00EBBEVG
  • https://misskey.io/notes/9pou3bylbp7m0d97

KisaragiEffective avatar Feb 14 '24 04:02 KisaragiEffective

今思いついた: 管理画面で内容が引っかかるかどうかチェックする画面もあった方が良さそう→#13294

KisaragiEffective avatar Feb 14 '24 04:02 KisaragiEffective

モデレーションログとは別にユーザーの危険行為DBを作ったほうが良さそう

tamaina avatar Feb 14 '24 04:02 tamaina

それも考えましたが、あまり分ける意義を見出せませんでした…

KisaragiEffective avatar Feb 14 '24 04:02 KisaragiEffective

モデログはモデレーターの行為を監査するもので、禁止ワードが投稿されるというのはモデレーターが行った行為ではないからモデログに追加するのは違うわね

syuilo avatar Feb 14 '24 04:02 syuilo

なるほど

KisaragiEffective avatar Feb 14 '24 04:02 KisaragiEffective

自動化されたモデレーターが行った措置として記録するのもありかなと思いましたが、あまりいい筋ではなさそう?

KisaragiEffective avatar Feb 14 '24 04:02 KisaragiEffective

自動化されたモデレーターが行った措置として記録するのもありかなと思いましたが、あまりいい筋ではなさそう?

イメージ: DiscordのAutoMod image

KisaragiEffective avatar Feb 14 '24 04:02 KisaragiEffective

あー、それでもいいのか

(ユーザーをnullとかにすれば

tamaina avatar Feb 14 '24 04:02 tamaina

nijimiss.moeでは「チュッパチャプス問題」として知られている模様。なお、理由は機能が追加された理由のissueと同じスパマーを避けるための正規表現が入っているものによると推察される。

KisaragiEffective avatar Feb 14 '24 05:02 KisaragiEffective