La herramienta de reconocimiento facial de AWS para la policía destaca la controversia de la IA en algunos mercados
Rekognition de Amazon, diseñado para casos de uso de las fuerzas del orden público para el reconocimiento en tiempo real, ha provocado una reacción violenta de la ACLU.
Según los informes, Amazon está ofreciendo a las agencias de aplicación de la ley un servicio de reconocimiento facial basado en AWS que, según afirma, puede identificar a las personas en tiempo real. archivo obtenido En la solicitud de la Ley de Libertad de Información de la Unión Americana de Libertades Civiles.
el servicio se llama Identificación de Amazonasse dice que es capaz de detectar 100 caras por imagen, además de comparar las imágenes con una base de datos de fotos que contiene decenas de millones de rostros, según el documento.El representante de Amazon cita los propósitos de aplicación de la ley como un caso de uso común este video promocional.
Amazon no mantiene estas prácticas en secreto en absoluto. este comunicado de prensa A partir de noviembre de 2023, la Oficina del Sheriff del condado de Washington en Oregón «ha estado utilizando Amazon Rekognition durante el año pasado para reducir el tiempo de identificación de los sospechosos denunciados de 2 a 3 días a minutos y arrestar a los sospechosos en una semana. La técnica del primer sospechoso» .Amazon también lista El Departamento de Policía Metropolitana de Orlando, como cliente, utiliza la tecnología para «detectar y notificar al personal relevante en tiempo real».
Ver también: Inteligencia artificial: tendencias, obstáculos y ganancias potenciales (Tech Pro Research)
La divulgación pública llevó a la ACLU a investigar el cortejo de Amazon a las agencias de aplicación de la ley. archivos encontrados El grupo dijo que Amazon está brindando consultas gratuitas para los despliegues policiales de Orlando, y la ciudad de Orlando está utilizando la tecnología para analizar imágenes de «personas de interés» de «cámaras en toda la ciudad».
Amazon también promocionó la capacidad de usar Rekognition con imágenes de los sistemas de cámaras corporales de la policía, aunque la ACLU señaló que «después de que la ACLU expresó su preocupación en las conversaciones con Amazon», el sitio web de AWS menciona este tipo de interacción y agrega que dice que esta capacidad aún está permitida. bajo los términos de servicio de Amazon. Según la ACLU, el cambio «parece ser el grado en que responde a nuestras preocupaciones».
Naturalmente, el uso de servicios en la nube para crear una panóptico Puede haber preocupaciones entre los residentes locales que implementan la tecnología. En el mejor de los casos, esto se implementará después del referéndum, o al menos después de un período de comentarios públicos sobre la combinación de tecnología de vigilancia con reconocimiento facial masivo. La ACLU buscó documentos que indicaran que se había intentado tal divulgación, pero no encontró ninguno. Sin embargo, señaló la existencia de un correo electrónico interno de un empleado del condado de Washington que decía que «la ACLU puede ver esto como que el gobierno se está metiendo en la cama con grandes datos».
Una Informe de la placa base Señalando que la tecnología de reconocimiento facial de Amazon tiene brechas significativas en confiabilidad, citando documentos de capacitación que muestran que el software comparó fotos de OJ Simpson con fotos de hombres blancos con barba y cabello largo, con una tasa de coincidencia del 93.53 por ciento. De hecho, la única similitud visual entre los hombres de estas dos imágenes es que ambos tienen rostros.
La búsqueda de Amazon de hacer cumplir la ley parece estar en desacuerdo con sus valores corporativos. La ACLU se une a varios otros grupos de derechos civiles, incluidos Electronic Frontier Foundation (EFF) y Human Rights Watch, para resaltar esto. En una carta a Jeff Bezosafirmando que «Amazon se opone a la vigilancia encubierta del gobierno. Usted apoya personalmente las libertades de la Primera Enmienda y habla en contra de las prohibiciones musulmanas discriminatorias».
Este es un problema creciente en la industria tecnológica.Los empleados de Google llaman a la empresa detener su cooperación Trabajando con el ejército de EE. UU. en un proyecto para analizar videos de drones, y Google mismo ha maleza «No seas malvado» comienza con su código de conducta.
El creciente enfoque en el uso de tales tecnologías destaca la controversia potencial que puede surgir del despliegue de inteligencia artificial (IA) tanto en el sector público como en el privado. Las organizaciones interesadas en esta tecnología deben implementarla lentamente, examinando todas las ramificaciones éticas posibles antes de seguir adelante.
Conclusiones clave para los líderes tecnológicos:
- Amazon generó controversia al trabajar con las fuerzas del orden público para implementar su servicio de reconocimiento Rekognition.
- En las diapositivas de capacitación, el software Amazon Rekognition no pudo distinguir correctamente a OJ Simpson de un hombre de barba blanca y cabello largo.
