Por: Carlos A. FERREYROS SOTO
Doctor en Derecho
Universidad de Montpellier I Francia.
RESUMEN
Los investigadores del MIT han desarrollado un protocolo de seguridad innovador que protege los datos durante los cálculos de aprendizaje profundo basados en la nube. Esta técnica innovadora aprovecha las propiedades cuánticas de la luz para garantizar una transferencia segura de datos entre clientes y servidores en la nube.
El protocolo de seguridad funciona codificando los datos mediante luz láser en sistemas de comunicación de fibra óptica. Al explotar los principios fundamentales de la mecánica cuántica, hace que sea imposible para los atacantes copiar o interceptar información sin ser detectados. Este enfoque garantiza una seguridad sólida al tiempo que mantiene la precisión de los modelos de aprendizaje profundo.
Sus principales ventajas son:
Preservación de la privacidad: el protocolo permite a los usuarios aprovechar potentes modelos de aprendizaje profundo sin comprometer la privacidad de los datos2.
Protección contra actores maliciosos: un servidor malicioso solo podría obtener alrededor del 1 % de la información necesaria para robar datos del cliente2.
Fuga mínima de información: menos del 10 % de la información que un adversario necesitaría para recuperar información oculta se filtra durante las operaciones del cliente2.
Este innovador protocolo de seguridad aborda áreas sensibles como la atención médica, donde las preocupaciones por la privacidad han obstaculizado la adopción de herramientas de IA para analizar datos confidenciales de pacientes. Al combinar técnicas de aprendizaje profundo y distribución de claves cuánticas, este enfoque agrega una capa de seguridad crucial a las arquitecturas distribuidas al tiempo que permite una implementación práctica.
El presente artículo en inglés ha sido publicado en el sitio web de Science Daily, y traducido por el suscrito al castellano, incluye el enlace al texto original y reconoce la propiedad intelectual de sus autores y editores.
A fin de acceder a normas similares y estándares europeos, las empresas, organizaciones públicas y privados interesados en asesorías, consultorías, capacitaciones, estudios, evaluaciones, auditorías sobre el tema, sírvanse comunicar al correo electrónico:cferreyros@hotmail.com
____________________________________________________________
Nuevo protocolo de seguridad protege los datos de atacantes durante la computación en la nube
https://www.sciencedaily.com/releases/2024/10/241001142659.htm
La técnica aprovecha las propiedades cuánticas de la luz para garantizar la seguridad y preservar la precisión de un modelo de aprendizaje profundo.
Fecha: 1 de octubre de 2024
Fuente: Instituto Tecnológico de Massachusetts
Resumen: Los investigadores desarrollaron una técnica que garantiza que los datos permanezcan seguros durante la computación multipartita basada en la nube. Este método, que aprovecha las propiedades cuánticas de la luz, podría permitir que organizaciones como hospitales o empresas financieras utilicen el aprendizaje profundo para analizar de forma segura los datos confidenciales de pacientes o clientes.
Los modelos de aprendizaje profundo se utilizan en muchos campos, desde el diagnóstico sanitario hasta la previsión financiera. Sin embargo, estos modelos requieren un uso tan intensivo de recursos computacionales que requieren el uso de potentes servidores basados en la nube.
Esta dependencia de la computación en la nube plantea riesgos de seguridad importantes, en particular en áreas como la atención de la salud, donde los hospitales pueden dudar en utilizar herramientas de IA para analizar datos confidenciales de los pacientes debido a preocupaciones sobre la privacidad.
Para abordar este problema urgente, los investigadores del MIT han desarrollado un protocolo de seguridad que aprovecha las propiedades cuánticas de la luz para garantizar que los datos enviados hacia y desde un servidor en la nube permanezcan seguros durante los cálculos de aprendizaje profundo.
Al codificar datos en la luz láser utilizada en los sistemas de comunicaciones de fibra óptica, el protocolo explota los principios fundamentales de la mecánica cuántica, haciendo imposible que los atacantes copien o intercepten la información sin ser detectados.
Además, la técnica garantiza la seguridad sin comprometer la precisión de los modelos de aprendizaje profundo. En las pruebas, el investigador demostró que su protocolo podía mantener una precisión del 96 por ciento al tiempo que garantizaba medidas de seguridad sólidas.
«Los modelos de aprendizaje profundo como GPT-4 tienen capacidades sin precedentes, pero requieren recursos computacionales masivos. Nuestro protocolo permite a los usuarios aprovechar estos potentes modelos sin comprometer la privacidad de sus datos ni la naturaleza patentada de los propios modelos», afirma Kfir Sulimany, un posdoctorado del MIT en el Laboratorio de Investigación en Electrónica (RLE) y autor principal de un artículo sobre este protocolo de seguridad.
En el artículo, Sulimany cuenta con la colaboración de Sri Krishna Vadlamani, investigador posdoctoral del MIT; Ryan Hamerly, ex investigador posdoctoral que ahora trabaja en NTT Research, Inc.; Prahlad Iyengar, estudiante de posgrado en ingeniería eléctrica y ciencias de la computación (EECS); y el autor principal Dirk Englund, profesor de EECS, investigador principal del Grupo de Fotónica Cuántica e Inteligencia Artificial y de RLE. La investigación se presentó recientemente en la Conferencia Anual sobre Criptografía Cuántica.
Una vía de doble sentido para la seguridad en el aprendizaje profundo
El escenario de computación basado en la nube en el que se centraron los investigadores involucra dos partes: un cliente que tiene datos confidenciales, como imágenes médicas, y un servidor central que controla un modelo de aprendizaje profundo.
El cliente quiere utilizar el modelo de aprendizaje profundo para hacer una predicción, por ejemplo, si un paciente tiene cáncer basándose en imágenes médicas, sin revelar información sobre el paciente.
En este escenario, se deben enviar datos confidenciales para generar una predicción. Sin embargo, durante el proceso, los datos del paciente deben permanecer seguros.
Además, el servidor no quiere revelar ninguna parte del modelo propietario que una empresa como OpenAI invirtió años y millones de dólares en construir.
«Ambas partes tienen algo que quieren ocultar», añade Vadlamani.
En la computación digital, un actor malintencionado podría copiar fácilmente los datos enviados desde el servidor o el cliente.
Por otra parte, la información cuántica no se puede copiar a la perfección. Los investigadores aprovechan esta propiedad, conocida como principio de no clonación, en su protocolo de seguridad.
Para el protocolo de los investigadores, el servidor codifica los pesos de una red neuronal profunda en un campo óptico utilizando luz láser.
Una red neuronal es un modelo de aprendizaje profundo que consta de capas de nodos interconectados, o neuronas, que realizan cálculos sobre los datos. Los pesos son los componentes del modelo que realizan las operaciones matemáticas en cada entrada, una capa a la vez. La salida de una capa se introduce en la siguiente capa hasta que la capa final genera una predicción.
El servidor transmite los pesos de la red al cliente, que realiza operaciones para obtener un resultado en función de sus datos privados. Los datos permanecen protegidos del servidor.
Al mismo tiempo, el protocolo de seguridad permite al cliente medir solo un resultado y evita que copie los pesos debido a la naturaleza cuántica de la luz.
Una vez que el cliente introduce el primer resultado en la siguiente capa, el protocolo está diseñado para cancelar la primera capa para que el cliente no pueda aprender nada más sobre el modelo.
«En lugar de medir toda la luz entrante del servidor, el cliente sólo mide la luz que es necesaria para hacer funcionar la red neuronal profunda y envía el resultado a la siguiente capa. Luego, el cliente envía la luz residual de vuelta al servidor para realizar controles de seguridad», explica Sulimany.
Debido al teorema de no clonación, el cliente inevitablemente aplica pequeños errores al modelo mientras mide su resultado. Cuando el servidor recibe la luz residual del cliente, puede medir estos errores para determinar si se filtró alguna información. Es importante destacar que se ha demostrado que esta luz residual no revela los datos del cliente.
Un protocolo práctico
Los equipos de telecomunicaciones modernos suelen depender de fibras ópticas para transferir información debido a la necesidad de soportar un ancho de banda masivo a largas distancias. Como estos equipos ya incorporan láseres ópticos, los investigadores pueden codificar datos en luz para su protocolo de seguridad sin ningún hardware especial.
Cuando probaron su enfoque, los investigadores descubrieron que podía garantizar la seguridad del servidor y del cliente y al mismo tiempo permitir que la red neuronal profunda alcanzara una precisión del 96 por ciento.
La pequeña cantidad de información sobre el modelo que se filtra cuando el cliente realiza operaciones equivale a menos del 10 por ciento de lo que un adversario necesitaría para recuperar cualquier información oculta. En la dirección opuesta, un servidor malicioso solo podría obtener alrededor del 1 por ciento de la información que necesitaría para robar los datos del cliente.
«Puedes tener la garantía de que es seguro en ambos sentidos: del cliente al servidor y del servidor al cliente», afirma Sulimany.
«Hace unos años, cuando desarrollamos nuestra demostración de inferencia de aprendizaje automático distribuido entre el campus principal del MIT y el Laboratorio Lincoln del MIT, se me ocurrió que podíamos hacer algo completamente nuevo para proporcionar seguridad en la capa física, basándonos en años de trabajo de criptografía cuántica que también se había demostrado en ese banco de pruebas», dice Englund. «Sin embargo, hubo muchos desafíos teóricos profundos que se tuvieron que superar para ver si esta perspectiva de aprendizaje automático distribuido con privacidad garantizada podía hacerse realidad. Esto no fue posible hasta que Kfir se unió a nuestro equipo, ya que Kfir entendía de manera única los componentes experimentales y teóricos para desarrollar el marco unificado que sustenta este trabajo».
En el futuro, los investigadores quieren estudiar cómo se podría aplicar este protocolo a una técnica llamada aprendizaje federado, en la que varias partes utilizan sus datos para entrenar un modelo central de aprendizaje profundo. También se podría utilizar en operaciones cuánticas, en lugar de las operaciones clásicas que estudiaron para este trabajo, lo que podría proporcionar ventajas tanto en precisión como en seguridad.
Este trabajo fue apoyado, en parte, por el Consejo Israelí de Educación Superior y el Programa de Liderazgo STEM de Zuckerman.
Fuente de la historia:
Materiales proporcionados por Massachusetts Institute of Technology. Original written by Adam Zewe. Note: Content may be edited for style and length.
- Kfir Sulimany, Sri Krishna Vadlamani, Ryan Hamerly, Prahlad Iyengar, Dirk Englund. Quantum-secure multiparty deep learning. arXiv.org, 2024; DOI: 10.48550/arXiv.2408.05629
Citar esta página :
Massachusetts Institute of Technology. «New security protocol shields data from attackers during cloud-based computation.» ScienceDaily. ScienceDaily, 1 October 2024. <www.sciencedaily.com/releases/2024/10/241001142659.htm>.
