AI

La industria tecnológica atiende los llamamientos para una mejor protección contra el abuso infantil en línea

La industria tecnológica atiende los llamamientos para una mejor protección contra el abuso infantil en línea



We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Según una investigación, hasta mil millones de niños de 2 a 17 años han sufrido algún tipo de abuso en 2014. Si bien los avances tecnológicos han traído muchos beneficios, el auge de Internet, las plataformas de redes sociales y la informática móvil también ha creado canales a través de qué abuso infantil y actos depredadores sobre los niños pueden ocurrir.

Los gobiernos de Five Eyes (Australia, Canadá, Nueva Zelanda, el Reino Unido y los EE. UU.) Están liderando la carga para obligar a las partes interesadas de la industria tecnológica a aumentar su participación e intensificar la lucha contra los actos y prácticas abusivas en línea. En una conferencia de prensa en el Departamento de Justicia de los Estados Unidos, el grupo dio a conocer once principios voluntarios para ayudar a prevenir y mitigar la explotación y el abuso sexual infantil en línea. En el evento estuvieron presentes representantes de los gigantes tecnológicos Facebook, Google y Microsoft.

Afortunadamente, el problema también está en la mira de determinadas iniciativas del sector tecnológico.

L1ght es una de las pocas empresas enfocadas en proteger la seguridad de los niños en línea. Posicionada como una empresa anti-toxicidad, L1ght se desarrolla como una plataforma que puede identificar y predecir con precisión el comportamiento y el contenido dañinos en línea, utilizando inteligencia artificial (IA). Esta capacidad puede ayudar a las plataformas en línea a tomar medidas rápidamente contra los usuarios y el contenido abusivo antes de que causen daños a los usuarios jóvenes de Internet.

Lucha contra el abuso en línea

Las plataformas en línea se han convertido en un medio para que los delincuentes y depredadores consuman y compartan contenido que involucre a niños abusados. UN New York Times informe encontró que 45 millones Las empresas de tecnología informaron fotos y videos en línea de niños que sufrían abusos en 2018. El mismo informe indicó que el ecosistema de Facebook se utilizó en 12 millones de casos que incluía tales imágenes.

La mayoría de las plataformas cuentan con medidas para prevenir la propagación de contenido dañino. Normalmente, el contenido puede someterse a revisión, moderación y filtrado. Facebook y YouTube ya cuentan con mecanismos para eliminar y etiquetar contenido abusivo y evitar que se vuelva a cargar. Facebook tiene agentes de moderación dedicados que revisan el contenido denunciado y marcado. Desafortunadamente, las lagunas en estas medidas aún permiten la difusión de contenido dañino, especialmente contenido nuevo compartido por infractores expertos en tecnología.

Entre los principios promovidos por el esfuerzo se incluyen: revisar a fondo los procesos de seguridad, comprender la naturaleza del abuso infantil en línea, identificar áreas de alto riesgo en las plataformas, identificar brechas en las medidas existentes, invertir en herramientas y soluciones innovadoras y responder a las amenazas en evolución.

Cómo puede ayudar la IA

Parece fortuito que a medida que se solicitan mejores soluciones, también surjan esfuerzos que apuntan a proporcionarlas. La plataforma de L1ght está preparada para convertirse en un cambio de juego en la lucha contra el contenido dañino y la explotación infantil. La compañía tiene algoritmos patentados que pueden analizar y etiquetar texto, imágenes, audio y contenido de video dañinos en tiempo real, que se pueden implementar e integrar con plataformas de redes sociales, aplicaciones de comunicación y mensajería y videojuegos en línea. Esto ayudaría a impulsar aún más las capacidades de las medidas de filtrado y moderación para que la plataforma pueda tomar medidas instantáneamente contra tales violaciones.

Su IA también puede aprender y adaptarse continuamente a los métodos cambiantes de los perpetradores. El filtrado de texto convencional basado en diccionario, por ejemplo, puede prevenir fácilmente palabras o expresiones abusivas conocidas, pero se pueden eludir usando código o ortografía.

L1ght recibió recientemente una financiación inicial de $ 15 millones para acelerar su desarrollo.

Un esfuerzo concertado

Lo que realmente se necesita en la lucha contra esta crisis que sigue creciendo es un esfuerzo concertado entre todas las partes interesadas. El establecimiento de esfuerzos globales, como WePROTECT Global Alliance, que está formada por gobiernos, agencias de aplicación de la ley, instituciones privadas y organizaciones sin fines de lucro que tienen como objetivo adoptar los principios y avanzar en la lucha contra el abuso infantil, es un paso en la dirección correcta. .

Los gigantes tecnológicos y sus plataformas en línea masivas soportan gran parte de la carga al establecer medidas que dificultarán que el contenido dañino se abra camino en sus plataformas. Los vínculos más estrechos entre las instituciones privadas y los organismos encargados de hacer cumplir la ley también deberían salvar la brecha entre la identificación de los perpetradores y las víctimas y el tratamiento adecuado. La aparición de nuevas soluciones destinadas específicamente a abordar el problema es definitivamente un avance positivo.


Ver el vídeo: Acoso sexual en el transporte de la CDMX. Ricardo Salas (Agosto 2022).