Encontrar una mejor manera
Cada vez que un residente de Amsterdam solicita beneficios, un trabajador social revisa la solicitud de irregularidades. Si una solicitud parece sospechosa, se puede enviar al departamento de investigaciones de la ciudad, lo que podría conducir a un rechazo, una solicitud para corregir errores de papeleo o una recomendación de que el candidato reciba menos dinero. Las investigaciones también pueden ocurrir más tarde, una vez que los beneficios se han disperso; El resultado puede obligar a los destinatarios a pagar fondos e incluso empujar a algunos endeudados.
Los funcionarios tienen una amplia autoridad sobre los solicitantes y los destinatarios de bienestar existentes. Pueden solicitar registros bancarios, convocar a los beneficiarios al Ayuntamiento y, en algunos casos, realizar visitas no anunciadas a la casa de una persona. A medida que se llevan a cabo investigaciones, o errores de papeleo fijos, los pagos muy necesarios pueden retrasarse. Y a menudo, en más de la mitad de las investigaciones de las aplicaciones, según las cifras proporcionadas por Bodaar, la ciudad no encuentra evidencia de irregularidades. En esos casos, esto puede significar que la ciudad ha “acosado erróneamente a las personas”, cube Bodaar.
El sistema Sensible Verify fue diseñado para evitar estos escenarios al reemplazar finalmente el trabajador social inicial que indica qué casos enviar al departamento de investigaciones. El algoritmo detectaría las aplicaciones para identificar a las que tienen más probabilidades de involucrar errores importantes, basados en ciertas características personales, y redirigir esos casos para un mayor escrutinio por parte del equipo de aplicación.
Si todo saliera bien, la ciudad escribió en su documentación interna, el sistema mejoraría el rendimiento de sus trabajadores sociales humanos, marcando menos Solicitantes de bienestar para la investigación al identificar un mayor que proporción de casos con errores. En un documento, la ciudad proyectó que el modelo evitaría que hasta 125 Amsterdammers individuales enfrenten el cobro de deudas y ahorre € 2.4 millones anuales.
Sensible Verify fue una perspectiva emocionante para funcionarios de la ciudad como De Koning, que administrarían el proyecto cuando se desplegó. Period optimista, ya que la ciudad estaba adoptando un enfoque científico, cube; “Vería si iba a funcionar” en lugar de tomar la actitud de que “esto debe funcionar, y pase lo que pase, continuaremos esto”.
Period el tipo de concept audaz que atrajo a técnicos optimistas como Loek Berkers, un científico de datos que trabajó en el management inteligente solo en su segundo trabajo fuera de la universidad. Hablando en un café escondido detrás del Ayuntamiento de Amsterdam, Berkers recuerda haber quedado impresionado por su primer contacto con el sistema: “Especialmente para un proyecto dentro del municipio”, cube, “fue una especie de proyecto innovador que estaba intentando algo nuevo”.
Sensible Verify hizo uso de un algoritmo llamado “máquina de impulso explicable”, que permite a las personas comprender más fácilmente cómo los modelos de IA producen sus predicciones. La mayoría de los otros modelos de aprendizaje automático a menudo se consideran “cajas negras” que ejecutan procesos matemáticos abstractos que son difíciles de entender tanto para los empleados encargados de usarlos como para las personas afectadas por los resultados.
El modelo de verificación inteligente consideraría 15 características, incluidas si los solicitantes habían solicitado o recibido beneficios previamente, la suma de sus activos y la cantidad de direcciones que tenían en el archivo, para asignar un puntaje de riesgo a cada persona. Evitaba a propósito los factores demográficos, como el género, la nacionalidad o la edad, que se pensaba que conducían al sesgo. También trató de evitar factores de “proxy”, como los códigos postales, que pueden no parecer sensibles en la superficie, pero puede volverse así si, por ejemplo, un código postal se asocia estadísticamente con un grupo étnico specific.
En un paso inusual, la ciudad ha revelado esta información y ha compartido múltiples versiones del modelo de verificación inteligente con nosotros, invitando efectivamente al escrutinio externo al diseño y función del sistema. Con estos datos, pudimos construir un destinatario hipotético de bienestar para obtener una concept de cómo un solicitante particular person sería evaluado por Sensible Verify.
Este modelo fue entrenado en un conjunto de datos que abarca 3.400 investigaciones anteriores de destinatarios de bienestar. La concept period que utilizaría los resultados de estas investigaciones, llevados a cabo por empleados de la ciudad, para determinar qué factores en las aplicaciones iniciales se correlacionaron con fraude potencial.
