ACM pide a los gobiernos y las empresas que dejen de usar el reconocimiento facial

Un grupo de políticas tecnológicas de la Asociación para Maquinaria de Computación (ACM) instó hoy a los legisladores a suspender inmediatamente el uso del reconocimiento facial por parte de empresas y gobiernos, citando prejuicios étnicos, raciales y de género documentados. en un carta (PDF) publicado hoy por el Comité de Política Tecnológica de los Estados Unidos (USTPC), el grupo reconoce que se espera que la tecnología mejore en el futuro, pero aún no está «suficientemente madura» y, por lo tanto, es una amenaza para los derechos humanos y legales de las personas.

«Las consecuencias de tal sesgo, señala USTPC, con frecuencia pueden extenderse y van mucho más allá de los inconvenientes causados ​​por lesiones profundas, particularmente a las vidas, los medios de subsistencia y los derechos fundamentales de las personas en grupos demográficos específicos, incluidas algunas de las poblaciones más vulnerables de nuestra sociedad». La carta dice:

Organizaciones que estudian el uso de la tecnología, como el Proyecto de formación perpetua de la Universidad de Georgetown, concluyen que el amplio despliegue de la tecnología tendrá un impacto negativo en la vida de los negros en los Estados Unidos. Grupos de defensa de la privacidad y la justicia racial como ACLU y la Liga de Justicia Algorítmica han apoyado el uso del reconocimiento facial en el pasado, pero con casi 100,000 miembros en todo el mundo, ACM es una de las organizaciones informáticas más grandes del mundo. ACM también alberga grandes conferencias anuales de IA como Siggraph y la Conferencia Internacional de Supercomputación (ICS).

La carta también prescribe principios para la regulación del reconocimiento facial en torno a cuestiones como la precisión, la transparencia, la gestión de riesgos y la responsabilidad. Los principios recomendados incluyen:

VB Transform 2020 en línea – 15-17 de julio. Únase a los principales ejecutivos de IA: Regístrese para la transmisión en vivo gratis.
  • Desglosar las tasas de error del sistema según la raza, el género, el sexo y otros datos demográficos apropiados
  • Los sistemas de reconocimiento facial deben someterse a auditorías de terceros y «supervisión gubernamental sólida»
  • Se debe notificar a las personas cuando se utiliza el reconocimiento facial, y se deben definir los casos de uso apropiados antes del despliegue
  • Las organizaciones que utilizan el reconocimiento facial deben rendir cuentas si un sistema de reconocimiento facial causa daño a una persona o cuando

La carta no pide una prohibición permanente del reconocimiento facial, sino una moratoria temporal hasta que se puedan establecer estándares de precisión para el rendimiento racial y de género, así como las leyes y reglamentos. Pruebas de los principales sistemas de reconocimiento facial en 2018 y 2019 por el proyecto Gender Shades y entonces el NIST del Departamento de Comercio Se encontraron sistemas de reconocimiento facial con prejuicios de raza y género, así como bajo rendimiento en personas que no se ajustan a una identidad de género única.

La declaración del comité llega al final de lo que ha sido un mes histórico para el software de reconocimiento facial. La semana pasada, los miembros del Congreso del Senado y la Cámara de Representantes presentaron una legislación que prohibiría a los empleados federales usar el reconocimiento facial y reducir los fondos para los gobiernos estatales y locales que optaron por seguir usando la tecnología. Los legisladores a nivel de ciudad, estado y nacional que consideran la regulación del reconocimiento facial con frecuencia citan el sesgo como un motivador importante para aprobar legislación contra su uso. Y Amazonas, IBMy Microsoft detuvo o finalizó la venta de reconocimiento facial para la policía poco después del apogeo de las protestas de Black Lives Matter que se extendieron a más de 2,000 ciudades en los EE. UU.

Citando los prejuicios de raza y género y la identificación errónea, el El Ayuntamiento de Boston se convirtió en una de las ciudades más grandes de los EE. UU. En imponer un reconocimiento facial prohibición. Ese mismo día, la gente se enteró de la historia del residente de Detroit Robert Williams, quien se cree que es la primera persona falsamente arrestada y acusada de un delito debido a un reconocimiento facial defectuoso. El jefe de policía de Detroit, James Craig, dijo el lunes que el software de reconocimiento facial que usa Detroit es inexacto el 96% del tiempo.

Source link

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *