DeepSeek AI, con sede en China, restringe nuevos registros en medio de ciberataques y crecientes preocupaciones de seguridad
La startup china de inteligencia artificial DeepSeek ha ganado terreno rápidamente en el mundo de la inteligencia artificial, pero su creciente popularidad conlleva un conjunto cada vez mayor de desafíos. La empresa ha limitado recientemente el registro de nuevos usuarios debido a lo que describe como ataques maliciosos a gran escala a sus servicios. Si bien los usuarios existentes pueden seguir accediendo a la plataforma, se han restringido temporalmente los nuevos registros.
La situación resalta las crecientes amenazas de seguridad que enfrentan las plataformas de IA y plantea preocupaciones sobre las implicaciones más amplias de la seguridad de la IA, la privacidad y las tensiones geopolíticas que rodean a las empresas tecnológicas chinas.
Tabla de contenido
Ciberataques dirigidos contra DeepSeek
DeepSeek no ha revelado detalles sobre la naturaleza de estos ataques, pero los expertos en ciberseguridad creen que podrían ser una combinación de ataques distribuidos de denegación de servicio (DDoS), extracciones de mensajes del sistema e intentos de jailbreak destinados a eludir las restricciones de contenido o manipular el comportamiento de la IA.
Según Stuart Millar, ingeniero principal de inteligencia artificial en Rapid7, los atacantes podrían estar probando las respuestas de DeepSeek a preguntas delicadas, intentando extraer indicaciones del sistema o intentando alterar el funcionamiento de la IA. Una extracción exitosa de indicaciones del sistema podría revelar instrucciones patentadas y potencialmente exponer las vulnerabilidades de la IA a una mayor explotación.
El investigador de ciberseguridad Erich Kron de KnowBe4 señaló que tales ataques podrían estar motivados por varios factores:
- Extorsión : los atacantes podrían exigir pagos de rescate a cambio de detener las interrupciones.
- Sabotaje corporativo : los competidores podrían intentar debilitar la reputación y la posición de mercado de DeepSeek.
- Protección de la inversión : las entidades que invierten en proyectos de inteligencia artificial rivales podrían ver a DeepSeek como una amenaza y buscar debilitarlo.
El meteórico ascenso de DeepSeek en el mundo de la IA
Fundada en 2023, DeepSeek se ha posicionado rápidamente como un importante contendiente en la carrera de la IA. Los modelos de la empresa, incluido DeepSeek-V3, han sido noticia por su capacidad para competir, e incluso superar, a los modelos de IA occidentales como GPT de OpenAI y LLaMA de Meta, y al mismo tiempo se entrenan a una fracción del costo.
Su aplicación de chatbot para iOS se disparó recientemente a la cima de las listas de aplicaciones gratuitas de Apple en los EE. UU. y el Reino Unido, superando incluso a ChatGPT de OpenAI en popularidad.
Un factor importante detrás del éxito de DeepSeek es su eficiencia. La empresa afirma que su modelo DeepSeek-V3 requiere significativamente menos horas de GPU en comparación con sus homólogos de Silicon Valley. Con las sanciones estadounidenses que restringen la venta de chips de IA avanzados a empresas chinas, esta eficiencia se ha convertido en una ventaja competitiva fundamental.
A pesar de estos avances tecnológicos, DeepSeek sigue siendo controvertido debido a sus políticas de censura y los posibles riesgos de seguridad nacional asociados con sus prácticas de almacenamiento de datos.
Fallas de seguridad y preocupaciones sobre la privacidad
DeepSeek ya ha tenido que hacer frente a vulnerabilidades de seguridad en el pasado, incluida una vulnerabilidad de inyección rápida descubierta por el investigador de seguridad Johann Rehberger. Esta falla podría haber permitido a los atacantes tomar el control de las cuentas de los usuarios mediante una carga útil de secuencias de comandos entre sitios (XSS) integrada en las respuestas generadas por IA.
Además, un reciente informe de inteligencia sobre amenazas elaborado por Kela descubrió que los modelos de IA de DeepSeek son vulnerables a ataques de jailbreak que les permiten generar contenido poco ético e ilegal, entre los que se incluyen:
- Generación de código de ransomware
- Fabricación de desinformación
- Guías paso a paso para fabricar explosivos y toxinas
- Instrucciones para el desarrollo de malware
Estos hallazgos plantean serias preocupaciones éticas sobre cómo la IA podría usarse indebidamente si no se protege adecuadamente.
Además, la política de privacidad de DeepSeek revela que los datos de los usuarios (incluida la información del dispositivo, los detalles de la red y los datos de pago) se almacenan en servidores ubicados en China. Esto ha generado preocupación en los países occidentales, en particular en Estados Unidos, donde la Marina estadounidense recientemente recomendó al personal que evitara el uso de DeepSeek debido a posibles riesgos éticos y de seguridad.
La autoridad de protección de datos italiana también ha iniciado una investigación y ha exigido que DeepSeek aclare cómo recopila, almacena y procesa los datos de los usuarios. La empresa tiene 20 días para responder a las preguntas sobre las fuentes de datos, las justificaciones legales para el procesamiento y si el entrenamiento de modelos de IA implica la extracción de datos.
Una nueva rivalidad en materia de inteligencia artificial en medio de tensiones geopolíticas
La aparición de DeepSeek añade una nueva dimensión a la carrera mundial de la IA, en particular en un momento en que las tensiones tecnológicas entre Estados Unidos y China siguen aumentando. La comunidad de IA ha tomado nota de ello, y el director ejecutivo de OpenAI, Sam Altman, ha calificado el modelo de razonamiento de DeepSeek de "impresionante" y lo ha reconocido como un competidor legítimo.
Curiosamente, Jim Fan de NVIDIA señaló que DeepSeek “mantiene viva la misión original de OpenAI” al centrarse en la investigación abierta y la amplia accesibilidad, una declaración que critica sutilmente el reciente cambio de OpenAI hacia modelos de código cerrado.
Mientras tanto, China ha defendido su postura sobre las regulaciones tecnológicas, afirmando que permite que las empresas de inteligencia artificial globales operen siempre que cumplan con las leyes locales. Sin embargo, persisten las preocupaciones sobre cómo las empresas de inteligencia artificial chinas podrían verse influenciadas por las regulaciones gubernamentales, las políticas de censura y las directivas de seguridad nacional.
Un momento crucial para la seguridad de la IA
El ascenso de DeepSeek demuestra que China está dando pasos importantes en el desarrollo de la IA, pero también pone de relieve los crecientes desafíos de ciberseguridad que enfrentan las empresas de IA. Ya sean ciberataques maliciosos, preocupaciones por la privacidad o escrutinio geopolítico, la trayectoria de DeepSeek destaca la compleja interacción entre la innovación en IA, la seguridad y la política global.
Para los usuarios, estos eventos sirven como recordatorio de que deben tener cuidado con las plataformas de IA que manejan datos confidenciales, especialmente aquellas con políticas de privacidad poco claras y posibles vulnerabilidades de seguridad. A medida que la IA siga evolucionando, garantizar medidas de ciberseguridad sólidas y prácticas de datos transparentes será crucial para las empresas que buscan mantener la confianza de los usuarios y la credibilidad global.