Según una investigación del Senado, no parece haber ninguna barrera legal para que una persona anule un controvertido algoritmo que determina el apoyo financiero para los australianos mayores, a pesar de que a los asesores del gobierno se les prohíbe hacerlo.
La Herramienta de Evaluación Integrada (IAT), lanzada en noviembre como parte de las reformas de apoyo a las residencias de ancianos, se utiliza para evaluar la elegibilidad y establecer niveles de financiación para los servicios de atención a las personas mayores.
Sin embargo, Guardian Australia ha informado que el algoritmo a menudo subestima la necesidad y las críticas del IAT después de que el gobierno eliminó la capacidad de los evaluadores de anular un resultado incorrecto de apoyo domiciliario.
El miércoles por la noche, el personal del Departamento de Salud, Discapacidad y Envejecimiento confirmó que el Gobierno había buscado asesoramiento sobre cómo restaurar la función de anulación como parte de una audiencia de Apoyo en el Hogar.
La senadora de los Verdes, Penny Allman-Payne, preguntó al personal superior del departamento sobre “la base legal de la incapacidad de proporcionar anulación humana como parte de este proceso”.
El primer subsecretario del departamento, Robert Day, dijo: “La no anulación surge del hecho de que es un resultado objetivo”.
“Si tienes esos resultados de tu evaluación, obtienes ese nivel de calificación… no hay ningún elemento de discreción”, dijo Day.
El manual del usuario de IAT contiene una sección sobre la función de anulación, pero no vincula una prohibición clara de uso con una disposición específica de la Ley de atención a personas mayores.
El senador liberal Paul Scarr ha expresado anteriormente su preocupación sobre la legalidad de impedir que los evaluadores anulen el resultado, y le dijo al Senado el mes pasado que si bien el manual del usuario “se refiere a la Regla 81-10 de las Reglas de atención a personas mayores”, esas reglas “no hacen referencia alguna a evaluaciones anuladas”.
“Estas normas sobre el cuidado de personas mayores se han presentado a la comisión delegada de control legislativo, en la que yo pertenezco”, afirmó. “No había indicios de que se implementarían estas políticas que evitarían la anulación de las evaluaciones”.
Scarr dijo a Guardian Australia que era “muy preocupante” que un manual de usuario “pudiera forzar la toma de decisiones automatizada en circunstancias claramente inapropiadas”.
Esto se produce después de que un denunciante le dijera a Guardian Australia que el algoritmo a menudo deja a los australianos mayores sin financiación y atención adecuadas o degrada el apoyo que reciben.
Los funcionarios del departamento también confirmaron el miércoles que probaron el algoritmo en 2024 y 2025, pero solo con la anulación humana aún vigente. No se ha probado después de eliminar la capacidad de sobrescribir.
El componente algorítmico del IAT formó una parte importante del interrogatorio de los senadores durante la audiencia del miércoles.
“¿Cuál es el punto de tener a alguien que tiene experiencia… y no darle la oportunidad de hacer un cambio cuando ve un error?” preguntó el senador independiente David Pocock.
“¿Dónde está lo humano en todo esto?”
En respuesta, el personal del departamento dijo que no había manera de saber con qué frecuencia un revisor había expresado inquietudes sobre el resultado del IAT porque esos datos no fueron recopilados.
La investigación encontró que el departamento ha recibido 834 solicitudes de revisión interna de los resultados del IAT desde su lanzamiento en noviembre. Una revisión, que tarda una media de más de dos meses, es la única opción si el algoritmo ha cometido un error.
“Anoche aprendimos que las solicitudes de revisión de IAT se han disparado desde el 1 de noviembre y que la base legal y regulatoria para automatizar las clasificaciones y eliminar la supervisión humana es, en el mejor de los casos, dudosa”, dijo Allman-Payne a Guardian Australia el jueves.
“Está claro que eliminar la intervención humana y dejarla en manos del algoritmo tiene un impacto perjudicial en las personas mayores. Si las necesidades de atención evaluadas de las personas con enfermedades degenerativas como la enfermedad de la neurona motora se reducen, es evidente que algo anda mal”.
About The Author
