RSF insta a Apple a retirar su nueva función de IA, que atribuyó erróneamente información falsa a la BBC

Reporteros Sin Fronteras (RSF) manifiesta su preocupación por los riesgos que las nuevas prestaciones de la inteligencia artificial (IA) representan para los medios, especialmente tras un reciente incidente en el que un producto de Apple generó resúmenes con informaciones falsas atribuidas a la BBC. Este caso pone en evidencia que los servicios basados en IA todavía carecen de la madurez necesaria para producir información precisa y fiable para el público.

La función “Apple Intelligence”, lanzada en el Reino Unido el 11 de diciembre, tardó menos de cuarenta y ocho horas en poner de manifiesto las limitaciones que la IA tiene para producir información fiable. El 13 de diciembre, la BBC anunció en su página web que había presentado una queja a Apple, a raíz de un resumen de notificaciones generado por la herramienta de Apple. Este atribuyó, de manera errónea, al medio británico el anuncio del suicidio de Luigi Mangione, principal sospechoso del asesinato del CEO de UnitedHealthCare, la mayor aseguradora de salud de Estados Unidos. La información resultó ser completamente falsa.

Este incidente resalta la incapacidad de los sistemas de IA para producir sistemáticamente información de calidad, incluso cuando se basan en fuentes periodísticas. La naturaleza probabilística de estos sistemas los descalifica como herramientas mediáticas fiables para el público.

«Las IA son máquinas de probabilidades, y la veracidad de la información no se decide lanzando un dado. RSF insta a Apple a asumir su responsabilidad y retirar esta función. La producción automatizada de informaciones falsas con las siglas de medios de comunicación socava su credibilidad y pone en peligro el derecho del público a recibir información fiable sobre la actualidad. La Ley Europea de IA, pese a ser la regulación más avanzada del mundo en esta materia, no clasifica a las IA generativas de información como sistemas de alto riesgo, dejando un vacío legal crítico que debe abordarse con urgencia».

Vincent Berthier |  Responsable del Área Tecnológica de RSF

En respuesta a los desafíos que plantea la IA en el espacio informativo, RSF ha promovido la Carta de París, que establece diez preceptos esenciales para garantizar la integridad de la información y preservar la función social del periodismo. Entre sus principios fundamentales, destaca: “Los titulares de derechos deben condicionar la reutilización de sus contenidos al respeto de la integridad de la información y de los principios fundamentales de la ética periodística”.