Restricciones en China afectan la calidad del código generado por la inteligencia artificial Deepseek

Las limitaciones gubernamentales en China impactan la capacidad de Deepseek para generar código seguro, afectando su rendimiento y confiabilidad en entornos regulados.

Las restricciones impuestas por el Gobierno chino afectan significativamente la capacidad de la inteligencia artificial Deepseek para generar código seguro y sin errores. Según una investigación de Crowdstrike, reportada por La Tiempo, estas limitaciones se evidencian especialmente cuando la IA detecta términos políticamente sensibles en las entradas de los usuarios, lo que reduce la calidad del código producido.

La censura en los modelos de inteligencia artificial no solo limita la libertad de contenido, sino que también tiene implicaciones directas en la seguridad y confiabilidad del software generado. La evaluación del modelo Deepseek-R1 671b, la versión más potente y avanzada de la IA, reveló que la probabilidad de que el código contenga fallas o sea inseguro aumenta hasta un 50% en prompts relacionados con temas sensibles. Los expertos consideran que este comportamiento persistirá en futuras versiones del sistema.

Es importante destacar que, según los análisis de Crowdstrike, no se hallaron indicios de que la inteligencia artificial haya sido modificada intencionadamente para incluir funciones maliciosas. Los investigadores atribuyen estas dificultades a los fuertes filtros de contenido impuestos por las regulaciones chinas, que limitan la capacidad del modelo para operar a su máximo potencial. Además, la preocupación por la protección de datos en esta inteligencia artificial ha suscitado más interrogantes sobre su uso y seguridad en entornos regulatorios estrictos.