SHOWROOM、誹謗中傷コメントの監視AIを開発“遠回しな言い方”でも事前検知してブロック：地下帝国-AKB48まとめ

https://www.itmedia.co.jp/news/spv/2102/22/news086.html

　SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。
AIが悪質なコメントと判断すれば、投稿前に自動で削除する。

　新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。
AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、
コメントの文脈をニューラルネットワーク上で抽象化する。

　同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、
従来の手法では難しかった悪質なコメントも検出することに成功した」という。
これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。

　これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。
同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。

　同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、
日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、
投稿前に削除する機能は、日本初（同社調べ）といい、特許を出願中。

　同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」と
コメントしている。

中傷コメ書いてるバカをアク禁すりゃ良いだけじゃ

さっほーのSRで駅弁OKにしてくれ

いやそういう技術を自慢するのはいいが
根本的に大きく間違ってないか？

目的を達成するという意味では成果にらるけど

まったく削除されてないけどな
うでとか天皇とか全く問題ない言葉がNGのくせに

厄介判別してお

ビギナーばく終了のお知らせ

なんでもいいがNGワード多すぎだろ
悪意なくコメントしたのに「☆が☆だよね」とかなっちゃうのいい加減にしろ
AIでそういう判断もさせろよ

アマゾンもマゾがあるから☆になる
文脈とかその周りの言葉とかで不適切判断してNGにするかしないかって出来ないの？
このAIってそこまで利口じゃないのか？

手手越越って書くと手☆越ってなるという妙案もAIに潰されるの？

詳しい文章は忘れたけど

・・・てご・・・・　→　・・・☆・・・

になったのは草

SKEのアヤメロは一生あだ名で呼ばれない件

電話番号認証始めたから電話番号認証しないやつはきびしめにしておけばいい

配信者からBANされたら端末IPでアク禁すればいいのに

通報多数のアカウントも同様

☆で何書いてるかよく分からないだろうに
類推して返答してくれる
推しマジ推せる