Snapchat podría enfrentarse a una multa de millonaria después de que el organismo de control de datos del Reino Unido le enviara un aviso de ejecución preliminar por no haber evaluado supuestamente los riesgos para la privacidad que su chatbot de inteligencia artificial podría plantear a los usuarios y, en particular, a los niños.

La Oficina del Comisionado de Información (ICO) del país anglosajón ha descubierto que la evaluación de riesgos que Snap llevó a cabo antes de lanzar ‘My AI’ no "evaluó adecuadamente los riesgos para la protección de datos" de los usuarios, en particular de los menores de entre 13 y 17 años.

Snapchat tiene 21 millones de usuarios activos mensuales en el Reino Unido y ha demostrado ser especialmente popular entre los grupos demográficos más jóvenes: la empresa de estudios de mercado Insider Intelligence calcula que el 48% de los usuarios tienen 24 años o menos. Alrededor del 18% de los usuarios británicos tienen entre 12 y 17 años.

"Los resultados provisionales de nuestra investigación sugieren un preocupante fracaso por parte de Snap (la empresa matriz de Snapchat) a la hora de identificar y evaluar adecuadamente los riesgos para la privacidad de los niños y otros usuarios antes de lanzar My AI", dijo John Edwards, comisario de información.

La entidad regulatoria dijo que las conclusiones de su investigación eran provisionales y que Snap tiene hasta el 27 de octubre para presentar alegaciones antes de que se tome una decisión final sobre la adopción de medidas. "En este momento no se puede concluir que se haya producido una infracción de la ley de protección de datos ni que se vaya a emitir un aviso de ejecución", declaró la ICO.

Si se emite un aviso de ejecución definitivo, Snap se verá obligada a dejar de procesar datos en relación con 'My AI', lo que significa que tendrá que ser bloqueado para los clientes del Reino Unido hasta que la empresa lleve a cabo una "evaluación de riesgos adecuada" del servicio.

Si bien la prioridad de la ICO es detener cualquier posible violación de la privacidad y garantizar que 'My AI' cumpla la normativa, también tiene potestad para imponer una multa de hasta el 4% de la facturación global (Snap obtuvo unos ingresos globales de 4.600 millones de dólares el año pasado) o un máximo de 17,5 millones de libras.

El servicio 'My AI' funciona con la tecnología GPT de OpenAI, que ha estado a la vanguardia de la carrera armamentística mundial de la inteligencia artificial, y su lanzamiento supuso el primer ejemplo de IA generativa integrada en una gran plataforma de mensajería en el Reino Unido.

"Hemos dejado claro que las organizaciones deben considerar los riesgos asociados a la IA, junto con los beneficios", dijo Edwards. "El aviso preliminar de aplicación de hoy muestra que tomaremos medidas para proteger los derechos de privacidad de los consumidores del Reino Unido".

Snap lanzó en febrero la función 'My A'I para los usuarios de Snapchat+, el servicio de suscripción de la red social. Se extendió a toda su base de usuarios en abril.

"Estamos revisando de cerca la decisión provisional de la ICO", dijo un portavoz de Snap. "Al igual que el ICO, estamos comprometidos con la protección de la privacidad de nuestros usuarios.

"En línea con nuestro enfoque estándar para el desarrollo de productos, My AI pasó por un sólido proceso de revisión legal y de privacidad antes de ponerse a disposición del público. Seguiremos trabajando constructivamente con la ICO para asegurarnos de que se sienten cómodos con nuestros procedimientos de evaluación de riesgos".

Fuente: TheGuardian y ExchangeWire