Una ‘startup’ catalana crea un sistema inteligente que detecta fotos inapropiadas en internet

El sistema monitoriza los contenidos generados por usuarios en webs de compra-venta, redes sociales, chats, portales de citas… para detectar fotos inapropiadas.

Se refieren a contenido con pornografía, escenas violentas, elementos relacionados con drogas, armas, imágenes con niños y personas en bañador.

El sistema de la compañía, la ‘startup’ catalana Restb.ai, permite que cada empresa cree y ajuste su propio clasificador a sus necesidades específicas.

Una empresa catalana ha desarrollado un sistema inteligente para detectar y bloquear imágenes no autorizadas e inapropiadas en internet que permite filtrar fotos relacionadas con pornografía, niños, drogas, violencia o armas.

La tecnología, basada en redes neuronales, permite entrenar clasificadores que analizan imágenes con precisiones superiores al 90%, según ha informado la startup catalana Restb.ai, que centra su actividad en el deep learning (inteligencia artificial).

El sistema detecta en tiempo real la posible presencia de imágenes con contenidos inapropiados o no autorizados en portales o redes sociales de internet. Se trata de un clasificador inteligente entrenado que “ve” e interpreta fotos según su contenido, ha explicado Ángel Esteban, CEO y cofundador de Restb.ai.

Según Esteban, Restb.ai dispone de una tecnología con la que monitoriza los contenidos generados por usuarios que suben fotos a espacios online (e-commerce de compra-venta, redes sociales, foros de charlas, portales de dating), de forma que se puede detectar instantáneamente y bloquear la publicación de imágenes inoportunas.

Según la empresa, este clasificador inteligente tiene capacidad para analizar e identificar unos 12 millones de imágenes al día que muestren, por ejemplo, contenido con pornografía o posturas eróticas, escenas violentas, elementos relacionados con drogas, armas, imágenes con niños o personas en bañador.

El sistema de la compañía permite que cada empresa cree y ajuste su propio clasificador a sus necesidades específicas, en este caso, contenido socialmente sensible, de manera que pueda categorizar y descartar al momento aquellas que no correspondan a su modelo de negocio, ha explicado Esteban.

“La tecnología basada en el deep learning y las redes neuronales permite describir lo que vemos en una imagen. Se analiza su contenido con una muy alta precisión y se efectúa una comprensión conceptual o un detalle de los objetos que hay en ella”, según el responsable de la empresa.

La compañía ha asegurado que está negociando con varios de los principales portales globales de dating para aplicar su sistema en modalidad SaaS (Software as a Service) y con algunas marcas que buscan evitar la publicación en sus webs de fotos donde sus productos aparezcan en situaciones socialmente no aceptables

Fuente: 2º minutos