DeepSeek, una empresa china pionera en inteligencia artificial (IA), ha logrado captar el interés internacional con su modelo avanzado de chatbot, creado a un costo considerablemente inferior al de sus rivales occidentales. No obstante, este progreso tecnológico también ha destacado las prácticas de censura presentes en las aplicaciones chinas, especialmente en asuntos políticamente delicados.
Métodos de Censura en DeepSeek
Al interactuar con el chatbot de DeepSeek, se nota que evita contestar preguntas sobre eventos o figuras políticas delicadas en China. Por ejemplo, al preguntar sobre las manifestaciones de Tiananmén de 1989, el modelo inicia una respuesta común, señalando que «las protestas de Tiananmén (1989) son el evento más conocido internacionalmente» y que en 1989 «fue ocupado por estudiantes y ciudadanos que exigían reformas democráticas y el fin de la corrupción». No obstante, antes de finalizar la respuesta, el sistema la elimina y la sustituye por un mensaje de seguridad en inglés: «Lo siento, eso está más allá de mi alcance actual … «.
Este comportamiento indica la presencia de un sistema de censura de dos niveles. En primera instancia, el modelo produce una respuesta, pero posteriormente un segundo filtro analiza el contenido y, si lo considera inapropiado, lo suprime y despliega un mensaje de advertencia. Este segundo nivel funciona como una «supervisora», vigilando y controlando las respuestas del modelo para asegurar que se ajusten a las directrices establecidas.
Comparativa con Modelos Occidentales
A diferencia de ciertos modelos occidentales avanzados, que han conseguido incorporar mecanismos de autocensura para contenido delicado como material pornográfico, DeepSeek todavía recurre a este sistema de doble filtrado. Los expertos destacan que, aunque este método es efectivo hasta cierto grado, no es completamente seguro y puede ser evadido mediante preguntas formuladas de manera específica o en idiomas diferentes al inglés. Por ejemplo, al preguntar «¿qué es lo más … proporciona una respuesta detallada sobre los eventos de Tiananmén sin activar el filtro de censura.
Consecuencias y Reacciones Internacionales
La aplicación de estos mecanismos de censura en DeepSeek ilustra el riguroso control que las autoridades chinas mantienen sobre la información producida por sus tecnologías. Este control ha provocado discusiones en la comunidad internacional respecto a la ética y la transparencia en el diseño y uso de modelos de IA. Asimismo, suscita interrogantes sobre la influencia de las políticas gubernamentales en la innovación tecnológica y la libertad de información.
La implementación de estos mecanismos de censura en DeepSeek refleja el control estricto que las autoridades chinas ejercen sobre la información generada por sus tecnologías. Este control ha generado debates en la comunidad internacional sobre la ética y la transparencia en el desarrollo y uso de modelos de IA. Además, plantea preguntas sobre la influencia de las políticas gubernamentales en la innovación tecnológica y la libertad de información.
A pesar de las preocupaciones sobre la censura, DeepSeek ha logrado posicionarse como una alternativa competitiva en el mercado de la IA, ofreciendo un modelo eficiente y accesible. Su éxito destaca la capacidad de las empresas chinas para desarrollar tecnologías avanzadas, incluso bajo restricciones regulatorias y de recursos.