Investigadores de la Universidad de Chicago han desarrollado una herramienta que brinda a los artistas la capacidad de "contaminar" su arte digital para evitar que los desarrolladores entrenen sistemas de inteligencia artificial (IA) con su trabajo.
Llamada "Nightshade", en referencia a la familia de plantas, algunas de las cuales son conocidas por sus bayas venenosas, la herramienta modifica imágenes de tal manera que su inclusión contamina los conjuntos de datos utilizados para entrenar a la IA con información incorrecta.
Según un informe de MIT's Technology Review, Nightshade cambia los píxeles de una imagen digital para engañar a un sistema de IA y que lo interprete incorrectamente. Como ejemplos, Tech Review menciona convencer a la IA de que una imagen de un gato es un perro y viceversa.
De esta manera, la capacidad de la IA para generar respuestas precisas y coherentes teóricamente se vería dañada. Usando el ejemplo anterior, si un usuario solicitara una imagen de un "gato" a la IA contaminada, podrían obtener un perro etiquetado como un gato o una amalgama de todos los "gatos" en el conjunto de entrenamiento de la IA, incluyendo aquellos que son en realidad imágenes de perros modificadas por la herramienta Nightshade.
Un experto que revisó el trabajo, Vitaly Shmatikov, profesor de la Universidad de Cornell, opinó que los investigadores "aún no conocen defensas sólidas contra estos ataques". La implicación es que incluso modelos sólidos como ChatGPT de OpenAI podrían estar en riesgo.



