スポーツSNSコミュニティアプリ「GOATUS」に AI不適切表現チェック機能を実装　～投稿前にAIが“心ない言葉”を自動検知して通知～

サービス

2025年7月17日 11:00

株式会社ＮＴＴデータ関西(以下、ＮＴＴデータ関西)は、スポーツSNSコミュニティアプリ「GOATUS(ゴータス)」に、AIによる不適切表現チェック機能を新たに実装しました。

本機能は、投稿内容に差別的・攻撃的・暴力的・誹謗中傷などの表現が含まれる可能性がある場合、AIが自動で検知し、ユーザーにエラーを通知して投稿できない状態にします。これにより、投稿前の段階で内容の見直しを促し、SNS上の誹謗中傷という社会課題の解決につなげることができます。

GOATUSは本来、スポーツの感動を共有し、アスリートとファンが支え合う貴重な場を提供しています。今回実装されたAI機能によって、スポーツを愛するすべての人が安心してつながれる環境が整備され、より健全で前向きなコミュニティを構築することが可能となります。

ＮＴＴデータ関西は今後も、アスリートとファンが信頼と共感を育める空間を提供し、スポーツが持つポジティブな力を最大限に引き出し、日本のスポーツの振興に貢献します。

【背景】

SNSにおける誹謗中傷や不適切な投稿は、社会全体で深刻化しており、アスリートやファンにとって心理的な負担となるケースが増加しています。こうした誹謗中傷は、競技生活におけるモチベーションの低下を引き起こす要因ともなっており、特に試合後の批判的な投稿などが原因で、本来のパフォーマンスを発揮できなくなったり、競技を続けること自体が困難になったりする事例も見受けられます。こうした背景を受け、国会ではスポーツに関する権利保護や環境整備を強化する目的で、「スポーツ基本法」の改正に向けた動きも進んでおり、アスリートの心身の健全な活動を支える環境づくりが求められています。

GOATUSは、これまでも文言フィルタ機能、通報機能の設置や投稿のモニタリング体制の整備で十分に安心してご利用いただける環境でありましたが、より迅速かつ未然にリスクを防ぐため、AI技術を活用したリアルタイムのチェック体制を構築しました。この仕組みにより、ユーザーは自身の投稿内容を事前に見直すことができ、健全で良好なコミュニケーションの促進が期待されます。アスリートやファンにとって安全で安心な応援環境を提供することで、スポーツを通じた持続的な共感とファンエンゲージメントの形成に寄与します。

【AIによる不適切表現チェック機能について】

1. AIが投稿内容を自動チェックし、リアルタイムで判定

ユーザーが投稿する前に、その内容が差別や人格否定、過度な批判、暴言、不快な言葉づかいなどが含まれていないかを、AIがリアルタイムに自動で判定します。不適切な内容が検出された場合には、投稿前にエラーメッセージや警告が表示され、修正しない限り投稿できない仕組みになっています。

2. 高精度でリスクを検出

AIは、以下のようなカテゴリに対応し、さらにサブカテゴリごとに個別のスコアを算出して、投稿内容をより多面的かつ緻密に分析します。これにより、投稿が拡散される前に不適切な表現を未然に防ぐことができます。

・Hate(ヘイト)

・Harassment(嫌がらせ)

・Self-harm(自傷行為)

・Sexual(性的表現)

・Violence(暴力)

AIによる不適切表現チェック機能