sábado, junio 15

“El problema es que el algoritmo recomienda datos a niños y adultos con pocos conocimientos”

Es 14 de septiembre de 2021. Mientras Facebook se prepara para mostrar su habilidad en el nuevo mundo virtual conocido como Metaverso, publicó el periódico Jeff Horwitz Publica en el “Wall Street Journal” una investigación basada en documentos internos de la red social, filtrados por la trabajadora Frances Haugen, que demuestra cómo la empresa sabe perfectamente que deteriora la salud mental de los adolescentes, pero que no los hay. maneras de encontrar una solución. Y la escena estaba ahí. Esta información sigue a otros indicios de que la empresa es explotada activamente por tarjetas de drogas y traficantes de mujeres o en relación con la tecnología. Zuckerberg optar por quitar los ojos en materiales con moderación cuando la negociación sea conveniente.

La situación parece insostenible, el Gobierno de EE.UU. Aquí los ojos están puestos lo más pronto posible en la empresa, y la marca Facebook quedó impactada por la información que, este noviembre, cambió su número para convertirlo en Meta. Y, en parte, gracias a los kilómetros de documentos filtrados por Haugen, que son la base del reciente libro ‘Código roto’ (Ariel), y donde Horwitz explica de forma minuciosa cómo los grandes escándalos y fracasos recientes de la red que hizo que se fraguaron Todos, todos, venimos a vivir con los ojos pegados en la pantalla.

— ¿Qué sorprende más con toda la información que el paso de Haugen?

— Si todos estos documentos existen y son accesibles es porque muchos empleados no tienen contenidos relativos a la gestión que debe hacer la empresa de la desinformación electoral y la salud mental de los usuarios. Facebook pretende garantizar que los documentos sensibles (en los que tratan de estos temas) no sean filtrados, pero los sistemas internos de la empresa están muy mal organizados. Para ellos también buscaremos nuestros propios datos para evitar la filtración (se ríe).

—¿Es esto lo que más te preocupa?

—Asumimos que Facebook no es una plataforma neutral, pero no hay razón para querer modificar el comportamiento de los usuarios con sus algoritmos en beneficio propio. Si conoce, por ejemplo, la forma de reducir hasta un 10% la desinformación en sus redes sociales, no hay duda de si el comercio de la empresa se ve afectado, aunque sea una reducción del 0,5% en los días de usuario. Me fascinó el hecho de que Facebook funcionará exclusivamente para usted y, lo más importante, para la salud de sus usuarios.

En uno de los documentos dice: “el número de registros de usuarios es sagrado”. Cualquiera que sea el compromiso, sea cual sea el mar, nunca mueras. Es lo mismo que beneficioso para los usuarios. También hay información relacionada con la polarización política en España. ¿Conoces un partido llamado Vox?

—Claro.

— Cuando Facebook cambió su algoritmo para que la gente pasara más tiempo usando la aplicación (durante la última década), favoreció en gran medida a los partidos políticos receptivos. Vox le dijo esto a uno de los investigadores de Meta que solía comprar anuncios dirigidos a personas que atacaban a sus rivales políticos. Es para los más rápidos que deben reaccionar y viralizar el contenido.

—Lea el libro, hay varios pasos de los que ya han sido advertidos por los errores políticos de Facebook, como Cambridge Analytica o su paper en el suelo del Capitolio de los EE.UU., es fruto de la falla de previsión. ¿Es Facebook una empresa ingeniosa?

—Hay algo negativo para la gente dentro de la empresa. Por ejemplo, Zuckerberg dijo que podía cuestionar el bien del Holocausto y creía que la teoría podría decidir que había preocupaciones sobre asuntos de masas, pero en teoría es porque era sólo un nazi (risas). Entonces es absurdo. La empresa siempre dice que si tiene algo que es muy teórico y alejado de lo que una persona puede tener buenas intenciones, entonces pensarán que es así. Esta es una de las líneas del manual del empleado.

Cuando los grupos conspirativos trabajan para explotar el rojo social y organizarse, el objetivo no será hacer realidad preocupaciones legítimas sobre el gobierno, sino dirigirse al pueblo y a la revolución. No hay buenas intenciones. Esto también ocurrió con la negación de los resultados de las elecciones de 2020 por parte del grupo Qanon. Facebook ha creado un sistema muy fácil de usar con el algoritmo.

— El libro también da la sensación de que Mark Zuckerberg está completamente resuelto por los problemas de sus redes…

—Eso le dije a Frances Haugen. Hay una ironía aquí, y seguro que también está pasando en España: en Estados Unidos se acusa a Facebook de mucha censura, pero es que la compañía desesperadamente no quiere tomar medidas contra nada. Es mejor suspender publicaciones que puedan ir en contra de la política. Una de las razones por las que los documentos son más interesantes es que incluso Facebook tiene maravillas de su inteligencia artificial, la IA no es capaz de eliminar más que un pequeño porcentaje de publicaciones que incitan a la odiosidad y la violencia, pero yo prefiero los equipos humanos.

—En historias relacionadas con esto me llamó mucho la atención el ingeniero Arturo Béjar, quien diseñó una herramienta para combatir la pedofilia en Instagram, pero que no fue seguida por Meta.

—Hay mucho que Meta puede hacer para proteger a los adolescentes, pero simplemente no les importa. Es precisamente este mecanismo de seguridad limitado el que permite a los usuarios cambiar de aplicación para perder usuarios de Internet, lo que no es aceptable para la empresa. La gente del mañana piensa que los problemas de los niños deben moderarse. Por ejemplo, si un adulto envía una imagen de un pene a un menor y Facebook no hace nada. Pero el verdadero problema es que en Instagram los adultos necesitan ser menos reconocidos en las recomendaciones. Se lanza el algoritmo.

— También comenta que Zuckerberg cuestiona el hecho de que China censure a Facebook al final de su presentación al país…

—Será un breve periodo de tiempo, pero sin función. La empresa tiene mucho respeto por la libertad de expresión, pero, como dijo antes, comercio es lo que pedimos. En Vietnam, comenzó a eliminar contenido contra el gobierno. Y aquí también, en la India, se permite publicar una teoría conspirativa según la cual los musulmanes se sienten cómodos con mujeres indias como madres, y sólo porque el gobierno del país también lo hace. Meta está prevista en todo para no perder un mercado.

—TikTok está sucediendo en Estados Unidos. ¿La aplicación china es más peligrosa para Facebook o Instagram?

—No hay nada más probable que TikTok sea prohibido en Estados Unidos (risas). Incluso si no tienes tanto dinero como Facebook, tienes una gran oportunidad para tu negocio. Respecto a si es más peligroso, no tengo respuesta. Lo que no es cierto es que la gente se preocupe por los datos que tiene en TikTok, porque en su propio teléfono comparan datos de ubicación y empresas que pueden venderlos, y eso no es mucho más preocupante. Parece que China está segregando vídeos que suponen una amenaza para la seguridad nacional.

— Su investigación ha servido para que fiscal de EE.UU. Se solicita a la empresa por daños causados ​​a niños. ¿Que esperas que yo haga?

—No se qué pasará. Algo que vendo bajo demanda y que me impresionó porque los empleados de la empresa saben que los filtros de IA están dignificando la autoestima de los usuarios, que piensan que todo es lo más atractivo que tienen para su culpa. En metahumanos eso prohíbe efectos tipo cirugía estética, pero el propio Zuckerberg dijo que no para hombres en Estados Unidos.

— ¿Qué te gustaría conseguir con esta investigación?

—El objetivo es explicar cómo la vida online cambia de maneras que no son naturales, y también cómo las plataformas pueden ser diferentes, que no queremos aceptar que Internet esté aquí y allá, o que también es como el comportamiento de las personas. . en línea y ahí estás. La realidad en la que vivimos ahora está formada por las decisiones que se toman en estas plataformas, incluido el meta, y estas decisiones se tienen en cuenta en nuestro propio interés.

También me gustaría ayudar a la gente a escuchar cómo estas cosas cambian la forma en que nos comunicamos entre nosotros y compartimos nuestra información. Las redes sociales son algo fundamental como invención del emprendedor, es una gran oportunidad y también muchos peligros. Las próximas décadas podrían verse complicadas por su culpable.