Volver al tablón
La Guía informa Redacción propia
COMUNIDAD

OpenAI presentó nuevas herramientas contra el abuso sexual infantil en internet

La empresa anunció un detector de imágenes abusivas, advertencias en ChatGPT y apoyo a investigadores. El acceso al clasificador estará destinado a organizaciones verificadas.

La Guía informa ✓ · 17/11 11:23

Imagen ilustrativa generada con IA

OpenAI anunció el 16 de noviembre medidas para combatir la explotación sexual infantil en internet. Entre ellas figura un clasificador de imágenes diseñado para detectar posible material de abuso, incluso generado con inteligencia artificial.

Según la compañía, la herramienta estará disponible sin costo mediante su API para organizaciones previamente evaluadas. Su función es ayudar a los equipos de seguridad a priorizar revisiones; una alerta automatizada no reemplaza la evaluación humana.

La empresa también incorporó advertencias ante intentos de obtener contenido abusivo en ChatGPT. Indicó que, en esos casos, eliminará la conversación señalada y suspenderá el acceso durante 24 horas, con restricciones mayores ante reiteraciones.

El anuncio incluye una guía para desarrolladores sobre prevención, detección y reporte, además de herramientas y capacitación para unidades policiales especializadas. OpenAI señaló que trabaja con organizaciones como NCMEC y Tech Coalition.

En sus evaluaciones internas, la firma estimó que el nuevo detector podría reducir un 48% las imágenes enviadas a revisión, manteniendo una detección similar a la del sistema anterior. Se trata de resultados comunicados por la propia empresa, no de una eficacia universal comprobada.

Referencias

Comentarios (0)

Todavía no hay comentarios. Sé el primero.

Para comentar tenés que estar registrado. La nota se lee sin login.

Entrar con Google Seguir en el tablón