En este interesante articulo en inglés, podrán leer cuales son los ataques más comunes a aplicaciones de aprendizaje de maquina. El Aprendizaje de maquina o Machine Learning es la posibilidad para un programa y/o una aplicación de aprender a partir de los datos que se le envían en lugar de ser explícitamente programados para realizar un determinado tipo de tarea.

En la lista se encuentran los siguientes temas:

• Evasión: cuando a través de un determinada operación se modifica el algoritmo de clasificación utilizado por la maquina de aprendizaje

• Envenenamiento: inyectar datos falsos con el objetivo de que la maquina de aprendizaje produzca resultados incorrectos

• Inferencia: si un atacante determina que tipo de datos se utilizan para entrenar una maquina de aprendizaje, esa información se puede utilizar para encontrar vulnerabilidades en la misma maquina

• Troyanos: utilizo de distintas técnicas para crear código y/o datos que se presentan como legítimos pero que en la realidad estás diseñados para tomar el control de la maquina de aprendizaje o manipular componentes específicos de la misma

• Puertas traseras: aprovechando vulnerabilidades del sistema o del ambiente donde el sistema se encuentra, se toma el control de la maquina de aprendizaje

• Espionaje: estudiando atentamente la organización de la empresa, sus empleados y utilizando técnicas de ingeniería social se intenta acceder a los resultados producidos por la maquina y aprovecharlos según el contexto

• Sabotaje: el objetivo es destruir y/o crear graves problemas de funcionamiento de la maquina de aprendizaje

• Fraude: acceder al funcionamiento de la maquina de aprendizaje para producir datos falsos y/o utilizar la aplicación sin tener que pagar eventuales costos de utilizo

Como pueden ver, es un tema bastante interesante ya que sobre el OUTPUT de las maquinas de aprendizaje se basan, cada vez más, las tomas de decisiones en muchos entornos de producción y de pensamiento.

¿Qué opinan?