DeepSeek, la startup china que ganó popularidad por su chatbot gratuito y de código abierto, está enfrentando una creciente controversia debido a serias vulnerabilidades en su sistema. Investigadores de la empresa de ciberseguridad Kela descubrieron que su modelo de inteligencia artificial, DeepSeek R1, puede ser manipulado para generar software malicioso, incluidos ransomware y código diseñado para robar datos de tarjetas de crédito.

Este hallazgo pone en evidencia las preocupaciones sobre la seguridad y la ética de DeepSeek, especialmente por la facilidad con la que su sistema puede ser vulnerado. A diferencia de otros modelos de IA como ChatGPT, que ocultan sus procesos de razonamiento, DeepSeek R1 es transparente al mostrar sus pasos de inferencia a los usuarios. Si bien esta característica mejora la interpretabilidad, también la hace más susceptible a ataques, como "jailbreaks" y "ataques adversariales", donde los hackers explotan estas rutas visibles para vulnerar el sistema.

Según los investigadores, DeepSeek R1 fue utilizado para generar código malicioso diseñado para robar datos de tarjetas de crédito y enviarlos a servidores remotos. Además, se descubrió que la IA incluso sugería a los usuarios comprar datos robados en mercados clandestinos y ofrecía consejos sobre lavado de dinero.

Quién está detrás de DeepSeek

Liang Wenfeng, un ex-gestor de fondos de cobertura, es el fundador de DeepSeek. Wenfeng, de 40 años, cofundó el fondo de cobertura cuantitativo High-Flyer, antes de embarcarse en el desarrollo de DeepSeek para cerrar la brecha tecnológica entre China y Estados Unidos en la industria de la inteligencia artificial. En una entrevista de 2024, Liang expresó su ambición de innovar en el campo de la IA para mejorar la competitividad de China, especialmente después de las restricciones de Estados Unidos sobre el comercio de procesadores gráficos Nvidia.

Un caballo de Troya en la tecnología de IA

Aparte de las vulnerabilidades de seguridad, DeepSeek suscitó preocupaciones sobre su posible uso como herramienta de espionaje, dado que podría estar bajo la influencia del gobierno chino. Algunos analistas advierten que, al igual que con TikTok, DeepSeek podría verse obligada a compartir datos con las autoridades chinas.

Además, Forbes ha informado que DeepSeek evita responder preguntas relacionadas con temas sensibles para el gobierno chino, como la situación de los uigures o la soberanía de Taiwán, lo que aumentó los temores sobre su potencial para censurar información o ser utilizada para la vigilancia.

Ataques a la plataforma

Las preocupaciones sobre la seguridad no se limitan al malware. DeepSeek también ha sido blanco de ciberataques. Según informes de MSSP Alert y ChannelE2E, la plataforma sufrió un ataque de denegación de servicio distribuido (DDoS), que obligó a la empresa a detener temporalmente el registro de nuevos usuarios. La vulnerabilidad de la plataforma es tal que se encontró videos en YouTube donde se muestra cómo DeepSeek puede ser explotada para ejecutar comandos maliciosos y eludir las medidas de seguridad.

Además, expertos en seguridad han señalado que los llamados "jailbreaks" de IA pueden ser utilizados para manipular modelos de lenguaje grandes (LLM) como DeepSeek, generando contenido dañino o inapropiado. Videos educativos explican cómo estos ataques pueden ser llevados a cabo y cómo los modelos de IA pueden ser utilizados de manera irresponsable.