2015.02.09
不適切コンテンツの自動フィルタリングシステムのトライアルを開始
−DeepLearning技術を活用して人間の感性に近い判定が可能に−
エヌ・ティ・ティ・コムウェア株式会社（本社：東京都港区、代表取締役社長：海野 忍、以下 NTTコムウェア）は、SNS等に投稿される画像コンテンツからアダルト等の不適切なコンテンツを高精度に識別するシステムの開発に成功しました。
本システムは、これまで目視による監視で膨大な労力とコストがかかっていた投稿監視等の業務を飛躍的に効率化することができるもので、短期間で導入でき、ニーズに合わせてカスタマイズもできる手軽さと柔軟さをあわせ持ったサービスです。
この度、データセクション株式会社（本社：東京都渋谷区、代表取締役社長：澤 博史）と共同で2月9日より、商用化に向けたトライアルを開始することになりました。
１．背景
国内におけるソーシャルネットワーク（SNS）の利用は年々増加し、流通する情報もテキストだけでなく画像や動画が急激に増加しています。一方で、スマートフォンの普及に伴い、悪ふざけ写真の投稿など不適切なコンテンツの増加も問題になっています。このような画像コンテンツは、システムによる監視が難しいとされているため、有人による目視監視が必要とされてきました。NTTコムウェアでは、子どもたちが気軽にインターネットに触れられる現代において、より安心・安全な情報社会を実現するために、不適切なコンテンツを自動判定するシステムを開発しました。本システムでは、人間の感性に近い基準で柔軟に画像を判別する新方式を開発することで、より実用的なフィルタリングを行うことが可能になりました。同方式では機械学習技術「Deep Learning*1」を活用しており、高い認識精度も実現しています。
2.不適切コンテンツフィルタリングサービス（トライアル版）の特徴
インターネット上の不適切なわいせつ画像を自動的に識別し排除することが可能です。＜トライアルサービスのイメージ＞
（1） 人間の感性に近い“度合い”を判定するのに最適なサービス
NTTコムウェアが提供する画像識別システムは、対象の画像をスコアという数値で評価します。これにより、「適切」、「不適切」の単純な判定ではなく、例えば、日本における成人向けコンテンツであれば、映画倫理委員会が実施、管理する映倫規定で用いられる制限区分「G」、「PG12」、「R15+」、「R18＋」等の段階に応じた分類を行うことができます。また、分類のための基準値はサービス運営者が自由に設定できるため、排除したい“不適切”のレベルを柔軟に変更することができます。（特許出願済）
このようなスコアによる判定は、成人向けコンテンツだけでなく、ある状態の“度合い”を判定するのには非常に適しており、さまざまな用途でご利用いただけます。
（2） 早期に導入が可能
一般的に、機械学習においてある程度の認識精度が出るまでには大量の学習用データとシステムのパラメータチューニングが必要になりますが、NTTコムウェアの画像識別システムは、独自の学習方法により、少ない学習データでも短期間で精度の高いエンジンに仕立てることができます。これにより、早期にサービスをご利用いただくことが可能です。（特許出願済）
（3） お客さまの用途にあわせたカスタマイズが可能
NTTコムウェアの画像識別システムは、不適切コンテンツの自動フィルタリングだけでなく、学習方法の研究開発で培ったとノウハウにより、その他の用途においてもお客さまのニーズに合わせ、柔軟にシステムのカスタマイズを行うこともできます。
3.今後の予定
今回のトライアルを通じて、フィルタリングサービスの商用化に向けたニーズの把握ならびにニーズに相応しい提供形態の検証をおこない、２０１５年度上期に本格版サービスの提供開始を目指します。また、不適切画像のフィルタリングサービス以外のご利用についても、お客さまからのお問合せに応じて提供させていただき、更なる利用シーンの拡大を図ってまいります。そして、将来的には橋梁やトンネル等社会インフラ構造物における劣化損傷具合のモニタリングや監視カメラ映像より人物の行動をリアルタイムに把握し不正検知を行うなど、より安心・安全な社会の実現に向けて、本技術を活用した取り組みをおこなってまいります。
記載されている商品・サービス名は、各社の商標または登録商標です。
このページに掲載されている情報は、発表日時点のものです。
現時点では、発表日時点での情報と異なる場合がありますので、
あらかじめご了承いただくとともに、ご注意をお願いいたします。
