Controversia porque Reino Unido ya aplica inteligencia artificial en la toma de decisiones gubernamentales

Según una investigación de The Guardian, ciertos algoritmos usados por órganos estatales propician discriminación en procedimientos oficiales

Kevin Moreno

Por Kevin Moreno

Compartir

(Imagen Ilustrativa Infobae)(Imagen Ilustrativa Infobae)
_________

Funcionarios gubernamentales en Reino Unido están utilizando inteligencia artificial (IA) y algoritmos complejos para tomar decisiones que van desde quién recibe beneficios hasta quién debería tener su licencia de matrimonio aprobada, según una investigación realizada por el diario británico The Guardian.

El reporte revela que, en al menos ocho departamentos de Whitehall y en algunas fuerzas policiales, se está echando mano de la IA en diversas áreas, pero especialmente para asistir en decisiones relacionadas con bienestar, inmigración y justicia penal. Sin embargo, se ha descubierto que algunas de las herramientas utilizadas potencialmente pueden generar resultados discriminatorios.

Algunos casos destacados incluyen un algoritmo del Departamento de Trabajo y Pensiones (DWP) que, de acuerdo a un miembro del Parlamento, condujo erróneamente a que varias personas perdieran sus beneficios.

Además, una herramienta de reconocimiento facial empleada por la Policía Metropolitana demostró cometer más errores al reconocer rostros negros que blancos en ciertos escenarios. Asimismo, se usa un algoritmo del Ministerio del Interior para identificar matrimonios falsos, el cual ha seleccionado de manera desproporcionada a personas de determinadas nacionalidades.

Especialistas advierten que si los datos muestran evidencia de discriminación, es probable que la herramienta de IA también genere resultados discriminatorios. A pesar de ello, Rishi Sunak, Ministro de Hacienda del Reino Unido, ha elogiado recientemente cómo la tecnología podría transformar los servicios públicos, desde ahorrar tiempo a los maestros en la planificación de lecciones hasta ayudar a los pacientes del Servicio Nacional de Salud (NHS) a obtener diagnósticos más rápidos y pruebas más precisas.

Rishi Sunak elogia el potencial de la tecnología para transformar los servicios públicos (Europa Press/Tayfun Salci) Rishi Sunak elogia el potencial de la tecnología para transformar los servicios públicos (Europa Press/Tayfun Salci)
____________

Sin embargo, The Guardian señaló que la utilización de IA en el sector público no está exenta de controversias. En Países Bajos, por ejemplo, las autoridades fiscales la emplearon para detectar posibles fraudes en beneficios de atención infantil, pero fueron multados con €3,7 millones después de equivocarse repetidamente en las decisiones, sumiendo en la pobreza a decenas de miles de familias.

Ante este antecedente, los expertos temen un episodio similar en el Reino Unido, ya que los funcionarios británicos están utilizando algoritmos mal comprendidos para tomar decisiones que cambian vidas sin que las personas afectadas por estas decisiones siquiera lo sepan. Muchos están preocupados por la abolición de una junta asesora gubernamental independiente que fiscalizaba cómo se utilizaba la inteligencia artificial en los organismos del sector público.

Shameem Ahmad, director ejecutivo del Proyecto de Ley Pública, señaló que la IA posee un gran potencial para el bien social pero no se pueden ignorar los riesgos. Marion Oswald, profesora de derecho en la Universidad de Northumbria y ex miembro del consejo asesor del gobierno sobre ética de datos, añadió que hay una falta de coherencia y transparencia en la forma en que se está utilizando la IA en el sector público.

Próximamente, Sunak convocará a jefes de estado en Bletchley Park para una cumbre internacional sobre seguridad en IA. Se espera que la cumbre defina los términos para el desarrollo de esta tecnología en el mundo en los años venideros, centrándose en la amenaza potencial que los modelos algorítmicos avanzados representan para toda la humanidad.

Durante años, los funcionarios han dependido de herramientas algorítmicas menos sofisticadas para ayudar a tomar decisiones sobre la vida cotidiana de las personas. En algunos casos, estas son sencillas y transparentes, como las puertas de pasaportes electrónicas o las cámaras de reconocimiento de matrículas, ambas impulsadas por software de reconocimiento visual alimentado por IA. No obstante, otros casos presentan software más potente y menos obvio para quienes se ven afectados por él.

La Oficina del Gabinete lanzó recientemente un “estándar de informes de transparencia algorítmica”, que alienta a los departamentos y a las autoridades policiales a revelar voluntariamente donde usan la IA para ayudar a tomar decisiones que podrían tener un impacto material en el público en general. Seis organizaciones han enumerado proyectos según este nuevo estándar de transparencia.

La investigación de The Guardian mostró que al menos ocho departamentos de Whitehall usan la IA de una forma u otra, siendo algunos mucho más dependientes que otros. Por ejemplo, el NHS ha usado la IA en varios contextos, incluyendo durante la pandemia de coronavirus, cuando las autoridades la utilizaron para identificar a pacientes en riesgo a quienes se debía recomendar aislamiento.

Un algoritmo de reconocimiento facial ha demostrado cometer más errores al identificar rostros negros que blancos en el Reino Unido (Imagen ilustrativa Infobae).Un algoritmo de reconocimiento facial ha demostrado cometer más errores al identificar rostros negros que blancos en el Reino Unido (Imagen ilustrativa Infobae).
__________

El Ministerio del Interior dijo que utiliza la IA para la lectura de pasaportes en aeropuertos, para ayudar con la presentación de solicitudes de pasaportes y en la “herramienta de cribado de matrimonios falsos”, que señala posibles uniones ilegítimas para una investigación más profunda. Una evaluación interna de este órgano estatal vista por The Guardian muestra que la herramienta marca desproporcionadamente a personas de Albania, Grecia, Rumania y Bulgaria.

Por otro lado, el DWP tiene un “servicio de inteligencia y riesgo integrado”, que utiliza un algoritmo para ayudar a detectar fraudes y errores entre los beneficiarios de las prestaciones. La parlamentaria laborista Kate Osamor cree que el uso de este algoritmo puede haber contribuido a que decenas de búlgaros vieran suspendidos sus beneficios en los últimos años tras ser señalados falsamente como autores de posibles reclamaciones fraudulentas. El DWP insiste en que el algoritmo no tiene en cuenta la nacionalidad.

Ni el DWP ni el Ministerio del Interior proporcionaron detalles de cómo funcionan los procesos automatizados, pero ambos afirmaron que los procesos que utilizan son justos porque las decisiones finales las toman las personas. Sin embargo, muchos expertos temen que algoritmos sesgados conduzcan a decisiones finales sesgadas, porque los funcionarios solo pueden revisar los casos que se les señalan y a menudo tienen tiempo limitado para hacerlo.

**********

Inteligencia Artificial en el Gobierno. Fernando Mascarenhas

Artículo relacionadosMás del autor

30 Comentarios

Dejar respuesta

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

  1. El uso de inteligencia artificial en decisiones gubernamentales en el Reino Unido por medio de este articulo podemos ver que genera controversia, ya que se revela que algunos algoritmos pueden propiciar discriminación en áreas como bienestar, inmigración y justicia penal. Ejemplos incluyen un algoritmo del Departamento de Trabajo y Pensiones que erróneamente afectó los beneficios de personas y una herramienta de reconocimiento facial policial con errores en rostros negros. Expertos advierten sobre la falta de transparencia y coherencia en el uso de la IA en el sector público, mientras el gobierno británico busca impulsar la tecnología, generando preocupaciones sobre posibles consecuencias injustas.

  2. A pesar de los elogios, la utilización de IA en el sector público del Reino Unido no está exenta de controversias, con ejemplos negativos en otros países. Expertos temen episodios similares a los ocurridos en los Países Bajos, donde el uso de IA para detectar fraudes en beneficios de atención infantil resultó en decisiones incorrectas y multas significativas. La falta de transparencia y la posible discriminación en las decisiones automatizadas están generando preocupaciones, especialmente después de la abolición de una junta asesora gubernamental independiente que supervisaba el uso de IA en el sector público.

  3. El artículo nos habla sobre el uso de la inteligencia artificial (IA) en las decisiones gubernamentales de Reino Unido, que incluye beneficios y la aprobación de licencias de matrimonio. Estas herramientas pueden mejorar la eficiencia y la eficacia de los servicios públicos. Sin embargo, la falta de transparencia y sesgos en estos algoritmos, como la pérdida incorrecta de beneficios o errores en el reconocimiento facial, generan preocupación. La reciente eliminación de la junta asesora gubernamental encargada de supervisar y regular el uso ético de la IA, agrava estas preocupaciones. Por lo tanto, es importante considerar estos riesgos, garantizando que sean utilizados de manera responsable, transparente y justa.

  4. La utilización de inteligencia artificial (IA) por parte del gobierno británico para decisiones clave, como beneficios y licencias de matrimonio, plantea preocupaciones sobre posibles resultados discriminatorios, según una investigación de The Guardian. Casos destacados incluyen un algoritmo del Departamento de Trabajo y Pensiones que llevó a la pérdida errónea de beneficios y una herramienta de reconocimiento facial policial con errores al identificar rostros negros. Expertos advierten sobre el riesgo de discriminación y la falta de transparencia en el uso de la IA en el sector público. La abolición de una junta asesora independiente aumenta la inquietud

  5. Excelente artículo que nos muestra la gran importancia de las IA, incluso ahora podemos ver su uso en el proceso de toma de decisiones gubernamentales en el Reino Unido. Es impactante ver como varios departamentos gubernamentales emplean algoritmos de IA, especialmente en áreas como bienestar, inmigración y justicia penal, y puede llegar a ser preocupante, por ejemplo, un algoritmo del Departamento de Trabajo y Pensiones ha llevado a la pérdida de beneficios de algunas personas. Además, la herramienta de reconocimiento facial utilizada por la Policía Metropolitana ha mostrado más errores al identificar rostros negros que blancos. Es notorio el potencial transformador de las IA, sin embargo, la falta de coherencia y transparencia en su uso en el sector público ha generado preocupaciones.

  6. Como sabemos la inteligencia artificial está siendo aplicada en diversos ámbitos, en est artículo nos muestra como es aplicado en diversos procesos gubernamentales en el Reino Unido.Sin embargo, se han identificado que hay ciertos criterios éticos a prestar atención ya que se evidenció que estas herramientas pueden desarrollar resultados discriminatorios. La inteligencia artificial tiene el potencial de mejorar la eficiencia y la precisión en la toma de decisiones, pero los casos mencionados de resultados discriminatorios son alarmantes.Por ello considero que es necesario que exista una supervisión adecuada y mecanismos que validen completamente que este sistema no cause daño a las personas y no perpetúe sesgos y discriminación.

  7. El artículo resalta el creciente uso de la inteligencia artificial y algoritmos en la toma de decisiones gubernamentales en el Reino Unido, abordando preocupaciones sobre la posibilidad de resultados discriminatorios y falta de transparencia en el proceso. Asimismo, el uso de la IA en áreas críticas como bienestar, inmigración y justicia penal presenta desafíos éticos y de equidad que requieren una supervisión adecuada, pues se debe garantizar que los algoritmos utilizados sean justos y transparentes, ya que estas decisiones afectan la vida de las personas.

  8. “Cada máquina tiene inteligencia artificial. Y cuanto más avanzada se pone una máquina, más avanzada será la inteligencia artificial. Pero una máquina no puede sentir lo que está haciendo. Solo sigue las instrucciones – nuestras instrucciones – de los seres humanos”. –Abhijit Naskar, uno de los neurocientíficos más reconocidos del mundo.

  9. Es un artículo sumamente interesante, pues nos relata de cómo la Inteligencia Artifical se viene haciendo presente en decisiones gubernamentales en el ámbito estatal; especialmente en el caso del Reino Unido; sin embargo, es vital considerar que al ser una tecnología que está en sus primeros años de inicio; y que sin duda presenta un gran crecimiento exponencial, está no está exenta de errores, limitantes y que puede presentar sesgos. De ese modo, el basarnos sí o sí en la información que nos indica y tomarla como una verdad absoluta sería un grave error, especialmente si son decisiones tan importantes y que terminan impactando en la vida de muchas personas, e incluso en toda una nación.

  10. Las tecnologías disruptivas rara vez son bienvenidas por los trabajadores u otros actores con interés en mantener las cosas como están. La innovación exige adaptación, y la adaptación es costosa. La resistencia a las tecnologías revolucionarias de quienes tienen profesiones que les dan poder ha sido un factor importante de los periodos del pasado en que ha habido un estancamiento del crecimiento. Pero todo tiene solución.

  11. Los algoritmos y modelos predictivos controlan y estudian los hábitos de las personas, de esta forma la inteligencia artificial (AI) ayuda a las marcas políticas a tomar mejores decisiones, pudiendo en la actualidad persuadir mejor al mercado electoral. Muy interesante artículo.

  12. Todo tiene un límite para ser utilizado por el hombre, este antecefebte plantea una maenaza que ojala con el tiempo pueda corregirse ya que son herramientas que recién se están utilizando. Me parece una amenza, lo que indica The Guardian señaló que la utilización de IA en el sector público no está exenta de controversias. En Países Bajos, por ejemplo, las autoridades fiscales la emplearon para detectar posibles fraudes en beneficios de atención infantil, pero fueron multados con €3,7 millones después de equivocarse repetidamente en las decisiones, sumiendo en la pobreza a decenas de miles de familias.
    Buen artñiculo.

  13. De esto hay que cuidarse, ya es una clarinada de alerta, se ha descubierto que algunas de las herramientas utilizadas potencialmente pueden generar resultados discriminatorios.