La IA de Instagram escanea fotos para llamar a las prostitutas en función de lo que llevan puesto

La política de censura de Instagram no tiene ningún sentido. Pero lo mínimo que pueden hacer es no llamar prostitutas a las mujeres por lo que visten.

La política de Instagram no tiene sentido

Como mencioné en un artículo anterior, las pautas de la comunidad de Instagram sobre la desnudez son muy confusas. Echa un vistazo a su regla sobre fondos en la lista de cosas que no debes publicar:

Ano visible y/o primeros planos completamente desnudos de las nalgas, a menos que se hayan retocado con Photoshop en una figura pública.

Por alguna razón, el mundo solo es seguro si publicas fotos de figuras públicas con traseros totalmente desnudos retocados con Photoshop o posiblemente fotos de anos visibles retocadas con Photoshop en figuras públicas, dependiendo de cómo leas esa oración. Tener una regla sobre qué tan cerca puede acercarse a un trasero completamente desnudo es una cosa, pero ¿qué pasa con cosas más extrañas como la bestialidad? Pensarías que sería un pase difícil, pero estarías equivocado. El día después del Día de Acción de Gracias de 2021, mientras todos estábamos digiriendo lentamente el pavo, el comité de pautas de desnudez en Instagram cambió su política para agregar una nueva categoría de cosas que permiten, pero tendrán restricciones de edad:

Imágenes que representan la animalidad en el arte real, siempre que se compartan de manera neutral o condenatoria y las personas o los animales representados no sean reales.

Afortunadamente, mantienen un registro de cambios, para que pueda ver lo que agregan, lo que eliminan y cuándo. Esto se agregó en la actualización del 24 de noviembre de 2021 a la política de desnudez.

Instagram usa IA para escanear publicaciones en busca de violaciones de políticas

Instagram describe su política en su blog aquí:

La tecnología de inteligencia artificial (IA) es fundamental para nuestro proceso de revisión de contenido. La IA puede detectar y eliminar contenido que infrinja nuestros Lineamientos de la comunidad antes de que alguien lo denuncie. Otras veces, nuestra tecnología envía contenido a equipos humanos de revisión para que lo examinen más de cerca y tomen una decisión al respecto. Estos miles de jueces de todo el mundo se enfocan en el contenido que es más dañino para los usuarios de Instagram.

y aquí:

Cómo detecta la tecnología las infracciones

ACTUALIZADO EL 19 DE ENERO DE 2022

Las personas en Facebook e Instagram publican miles de millones de piezas de contenido todos los días. Incluso con miles de revisores en todo el mundo, es imposible que lo revisen todo por sí mismos. Aquí es donde entra la inteligencia artificial de Meta.

El sistema es entonces verificado y entrenado por humanos:

Cuando construimos por primera vez una nueva tecnología para la aplicación de contenido, la entrenamos para buscar ciertas señales. Por ejemplo, algunas tecnologías buscan desnudos en las fotos, mientras que otras tecnologías aprenden a comprender el texto. Inicialmente, un nuevo tipo de tecnología puede tener poca confianza en cuanto a si un contenido viola nuestras políticas.

Los equipos de revisión pueden tomar la decisión final y nuestra tecnología puede aprender de cada decisión humana. Con el tiempo, después de aprender de miles de decisiones humanas, la tecnología se vuelve más precisa.

La política de Instagram sobre solicitación sexual parece razonable a primera vista

Esta es la política de la página de pautas de la comunidad:

No publique: contenido que ofrezca o solicite servicios comerciales para adultos, como solicitar, ofrecer o solicitar tarifas para servicios de acompañantes y servicios de dominación o fetiches sexuales pagados.

Contenido que implícita o indirectamente ofrece o solicita solicitación sexual y cumple con los dos criterios siguientes. Si no se cumplen ambos criterios, no se considera una infracción. Por ejemplo, si el contenido es una imagen dibujada a mano que representa actividad sexual pero no solicita ni ofrece solicitud sexual, no infringe:

Criterio 1: Oferta o solicitud: contenido que implícita o indirectamente (generalmente al proporcionar un método de contacto) ofrece o solicita la solicitud sexual.

Criterio 2: Elementos sugerentes: Contenido que realiza la oferta o solicitud antes mencionada utilizando uno o más de los siguientes elementos sexualmente sugerentes…

En resumen, no publiques cosas que directa o indirectamente intenten organizar la prostitución. La solicitud sexual indirecta requiere una publicación para 1) solicitar sexo a cambio de dinero y 2) contener elementos sugerentes. Si carece de estos dos elementos, no está en conflicto.

La IA de Instagram escanea las publicaciones de las mujeres y determina si están pidiendo sexo en función de lo que llevan puesto

Escanear una publicación en busca de desnudos es una cosa. Es un simple entrenamiento de la IA para ver si la parte inferior completamente desnuda ampliada está modificada con Photoshop en una figura pública o si los pezones están en un hombre o una mujer (no se permiten pezones femeninos, pero se convierten en pezones masculinos). Pero eso no es lo que hace Instagram. Se trata de leer las imágenes y los pies de foto y determinar si la mujer de la foto parece estar pidiendo sexo en función de su posición o de la ropa que lleva puesta. Lo hará independientemente de lo que diga el pie de foto. Lo sé porque esto me ha pasado más de 20 veces. Esto también le ha sucedido a numerosos amigos y colegas.

Aquí les dejo una imagen que publiqué en mis stories que fue eliminada porque al parecer las mujeres pedían sexo a cambio de dinero. Una compañía de ropa interior para la que trabajo publicó mis fotos en su feed todos los días durante aproximadamente dos semanas y publiqué una captura de pantalla del feed e Instagram no tendría nada de eso:

Aquí hay una imagen eliminada de una mujer parada junto a la ventana. No puedo mostrarles la imagen porque la han borrado, pero les puedo asegurar que ella no pidió sexo. Aquí está el título de esa foto que todavía está disponible para que la vea en la configuración de mi cuenta, donde se enumera mi contenido eliminado:

Lo importante de esta imagen en particular es que solicité una revisión y alguien que trabaja para Instagram la miró y aun así determinó que el sujeto de la imagen era de alguna manera un intercambio de sexo por dinero. He tenido dos casos en los que la imagen fue eliminada y revisada por un ser humano en Instagram y se tomó la decisión de que el sujeto de hecho intentaba ejercer la prostitución.

Mi historia eliminada no tenía más subtítulos que mi fanfarronería sobre «ser dueño de ese feed». Mis otras imágenes no tenían subtítulos que estuvieran cerca de violar las pautas. Si el pie de foto no tuvo nada que ver con eso, la decisión se basó únicamente en lo que llevaba puesto la modelo o en cómo se encontraba en su determinación de si estaba pidiendo sexo. Tenga en cuenta que estas no son violaciones de desnudez. Es específicamente Instagram el que cree que estas mujeres están tratando de que la gente tenga sexo con ellas por dinero.

Sus opciones para continuar con el caso son limitadas

Es prácticamente imposible encontrar una persona real en Instagram. Sin embargo, siempre puede utilizar la función Informar de un error en el menú de ayuda.

En tres ocasiones recibí una notificación de Instagram de que podía tomar mi caso con la lata. Consejo de Supervisión. La Junta de Supervisión es un comité de trabajadores de derechos humanos, políticos, educadores y ejecutivos corporativos que revisan los casos y determinan si los casos de violaciones son lo suficientemente graves como para ser revisados ​​como un comité para determinar si realmente ha habido una violación. Solo puede apelar las decisiones que tienen un número de referencia. No todas las decisiones tienen un número de referencia. No indican cómo determinan qué caso recibirá un número de referencia para su revisión por parte del Consejo de Supervisión.

Una vez que ingresa al Consejo de Supervisión e ingresa su número de referencia, tiene la oportunidad de completar la información sobre su apelación y los asuntos que cree que son relevantes para su caso.

Solo seleccionan un puñado de casos cada año. El mío no está seleccionado.