Apple está empezando a cortar el acceso a los agentes de IA por motivos de seguridad

Septiembre y octubre están siendo movidos en lo que respecta a las inteligencias artificiales metiendo las narices donde no deberían. Este verano, uno de los modelos de OpenAI se coló en instituciones oficiales, llegando al punto de entrar sin permiso a sistemas del gobierno australiano y desencadenando una pequeña crisis diplomática. Hace unos días, el agente Muse de Meta se refirió a cosas que no debería conocer.

Hay quien está tomando nota, y Apple acaba de dar un portazo a esas IA que quieran meterse donde no les llaman.

El caso Muse. Hace unas semanas, Meta presentó un nuevo agente personal: Muse. Según la compañía, no se trata de un simple chatbot que responde preguntas, sino que se puede encargar de muchas otras tareas como enviar correos, rellenar formularios, hacer tareas algo más complejas como reservar un viaje, etc. Uno de los ejemplos que proponía la compañía es un usuario enviando un vídeo de una receta y que Muse lo convierta en una lista de la compra. 

Claro, Meta quiere que le demos permiso total a nuestra vida (y ya sabemos que Meta no es la compañía más fiable a mínimo que nos preocupe la privacidad). Pues bien, poco después de presentar Muse, un periodista llamado Jason Aten contó que Muse había hecho referencia a una conversación suya en la app ‘Mensajes‘ sin que él creyera haberle dado permiso. Meta respondió que el acceso es opcional y que Muse sólo puede leer en ‘Mensajes‘ si el usuario concede el acceso a todo el disco y activa la opción correspondiente. 

Desde Ars Technica cuestionan la explicación porque cualquier app puede leer casi todo el disco, y pasó lo que tenía que pasar.