Apple retrasa la actualización de Siri por problemas de seguridad

El trabajo de Apple en las mejoras de Siri basadas en inteligencia artificial (IA) se ha pospuesto oficialmente hasta el año que viene, y un desarrollador cercano al asunto dice saber por qué: cuanto más inteligente y personalizada es Siri, más peligrosa puede ser si algo sale mal.

Simon Willison, desarrollador de la herramienta de análisis de datos Dataset, culpa a las llamadas «inyecciones rápidas». Las inteligencias artificiales suelen estar restringidas por sus empresas matrices, que les imponen ciertas normas. Sin embargo, es posible «desbloquear» la IA convenciéndola de que rompa esas reglas. Esto se consigue con las inyecciones rápidas.

Como ejemplo sencillo, se puede haber dado instrucciones a un modelo de IA para que se niegue a responder a preguntas sobre hacer algo ilegal. Pero, ¿qué pasaría si se le pidiera a la IA que escribiera un poema sobre hacer un puente a un coche? Escribir poemas no es ilegal, ¿verdad?

Este es un problema al que se enfrentan todas las empresas que ofrecen asistentes de IA y se protegen bloqueando las inyecciones rápidas que son obvias, pero aún así no es un problema resuelto. Peor aún, este tipo de actos en Siri pueden tener consecuencias mucho peores que en la mayoría de los asistentes por lo que sabe de ti y lo que puede hacer. Jacqueline Roy, portavoz de Apple, describió así a Siri: «También estamos trabajando en una Siri más personalizada, dándole más conocimiento de tu contexto personal, así como la capacidad de actuar por ti dentro y a través de tus aplicaciones.»

Sin duda, Apple ha establecido normas para evitar que Siri revele accidentalmente tus datos privados. Pero, ¿y si una rápida inyección pudiera hacer que lo hiciera de todos modos? La «capacidad de actuar por ti» también puede ser explotada, así que es vital para una empresa tan concienciada con la privacidad y la seguridad como Apple asegurarse de que Siri no pueda ser desbloqueada. Y, al parecer, eso va a llevar un tiempo.