INTELIGENCIA ARTIFICIAL

Portland se convierte en la primera ciudad en prohibir a las empresas el uso de software de reconocimiento facial en público

facial recognition primipil
Imagen: iStock/primipil

La semana pasada, el Ayuntamiento de Portland dio pasos innovadores hacia el software de reconocimiento facial, Prohibido el uso público y privado Esta tecnología y dos nuevas regulaciones.

La prohibición, que entrará en vigencia en enero de 2023, impondrá multas de $1,000 por día a quienes violen la prohibición. El ayuntamiento aprobó las normas por unanimidad, recibiendo cientos de mensajes y testimonios criticando a las tiendas por empezar a utilizar herramientas de reconocimiento facial contra personas sospechosas de hurto.

San Francisco, Boston y Oakland aprobaron sus propias prohibiciones que limitan el uso de software de reconocimiento facial por parte de entidades gubernamentales, pero la prohibición de Portland se convirtió en la primera en el país en impedir que las empresas usen el reconocimiento facial en «espacios públicos».

Mirar: Navegando por la privacidad de los datos (PDF gratuito) (República tecnológica)

El alcalde de Portland, Ted Wheeler, dijo en una reunión del consejo de la ciudad el miércoles pasado: «Todos los habitantes de Portland tienen derecho a un gobierno de la ciudad que no use tecnología con evidentes prejuicios raciales y de género que pongan en peligro la privacidad personal».

«Esta es la primera legislación de este tipo en el país, y creo que en el mundo. Este es realmente un día histórico para la ciudad de Portland».

El debate sobre el software de reconocimiento facial sigue en marcha después de un verano de comunicados de prensa de alto perfil relacionados con la tecnología. Amazon, IBM y otras importantes empresas tecnológicas decidieron en junio suspender el uso del software de reconocimiento facial por parte de todos los departamentos de policía, después de años de investigación que demostraron que casi todas las herramientas disponibles tienen altas tasas de error, especialmente aquellas que no identifican a las personas con piel más oscura. facial. piel.

Más tarde ese mismo mes, la ACLU reveló que representaba a un hombre de Detroit que fue arrestado frente a su esposa e hijos por un error en el software de reconocimiento departamental del Departamento de Policía de Detroit.

LEER  Cómo la inteligencia artificial puede ayudar a las empresas a transformar los centros de contacto

Solo un día después, los senadores estadounidenses Ed Markey y Jeff Merkley anunciaron la Ley de Suspensión de Biometría y Reconocimiento Facial, que dijeron que se debía a un creciente cuerpo de investigación «que apunta a la inexactitud sistémica y los problemas de sesgo en la biometría».

Al igual que con otros desarrollos recientes relacionados con el reconocimiento facial, los expertos han elogiado y criticado la prohibición de Portland.Si bien muchos han enfatizado que existen numerosos estudios científicos que prueban el reconocimiento facial Todavía no está listo para un uso generalizadomientras que otros dicen que la prohibición relacionada con las empresas privadas va demasiado lejos.

Lou Morentin, vicepresidente de cumplimiento y gestión de riesgos de la firma de seguridad cibernética Cerberus Sentinel, dijo que la tecnología aún está en pañales y, sin importar lo que digan las empresas detrás de ella, todavía no existe una forma confiable de usarla con fines de identificación.

Si bien la tecnología se comercializó originalmente para grupos de seguridad y fuerzas policiales, varias empresas ahora están llevando el software de reconocimiento facial a los grandes almacenes y tiendas minoristas como una forma de lidiar con los ladrones.

Jacksons Food Store, con docenas de ubicaciones en Portland, Recientemente comencé a usar el sistema de reconocimiento facial. y otras tiendas importantes como Macy’s ha comenzado a implementarloslo que genera dudas sobre quién estará a cargo de la base de datos de fotos, qué sucederá si hay una identificación errónea y cuánto tiempo se conservarán las fotos.

«Como se ha destacado en diferentes contextos durante los últimos meses, el software está severamente limitado en términos de factores de identificación racial y de género. Confiar en una aplicación de este tipo ahora es, en el mejor de los casos, imprudente, lo que lleva no solo a una identificación errónea sino también a demandas por falsos positivos», dijo Morendin.

«Si bien la ciudad de Portland ha tomado una línea dura al prohibir estas aplicaciones, en última instancia, necesitamos una legislación a nivel federal. Hasta que se establezca una política nacional cohesiva, las agencias estatales y locales pueden crear una mezcla heterogénea desafiante y desafíos para los consumidores».

Un experto en seguridad cibernética y exasesor especial del Secretario de Marina, Robert Cartanach, criticó la prohibición y dijo que la ciudad no había considerado los beneficios potenciales del software de reconocimiento facial.

Reconoció que el uso indiscriminado y el abuso de la tecnología son bien conocidos, pero dijo que las ventajas del reconocimiento facial no deben empequeñecerse.

«¿Qué pasa con los beneficios potenciales, especialmente aquellos basados ​​en el consentimiento voluntario e informado? Inspección voluntaria en los aeropuertos, aumentando significativamente la eficiencia y la conveniencia; mejorando la seguridad en los espacios públicos para identificar a terroristas conocidos; asistencia invaluable para las fuerzas del orden público en emergencias», dijo Cartanach.

«Al prohibir y eliminar absolutamente cualquier oportunidad de equilibrar, el enfoque de Portland se adelanta a cualquier posible diálogo entre las partes interesadas y potencialmente impone una solución única para todos en un entorno politizado y de alta presión, por un posiblemente digno de una consideración más reflexiva. la cuestión de evaluarlo continúa surgiendo a medida que avanza la tecnología y continúan surgiendo sus usos beneficiosos”.

Otros dijeron que si bien la tecnología teóricamente podría tener usos positivos, las personas y las empresas detrás de la mayoría del software de reconocimiento facial desconocen cómo sus posibles imprecisiones podrían afectar la vida de alguien.

Incluso en sus primeros días de uso, la tecnología ha dado lugar a docenas de identificaciones erróneas y detenciones indebidas, lo que destaca sus problemas sociales y legales más profundos, dijo Chloé Messdaghi, vicepresidenta de estrategia de Point3 Security.

«Muchas, si no todas, las tecnologías de reconocimiento facial son desarrolladas por equipos con una aparente falta de diversidad y, como resultado, los sesgos inconscientes están arraigados en el código. Arrestos indebidos de evidencia frágil de herejía y violaciones de las libertades civiles de las personas, incluida la mayoría de su libertad personal y derechos de privacidad», dijo Mesdaghi.

«Incluso si no están sujetos a arresto u otra acción, puede violar el derecho a la privacidad de un individuo porque priva a las personas de la oportunidad de dar o negar su consentimiento y, al hacerlo, viola la asociación, reunión y expresión».

Lia Holland, residente de Portland y activista del grupo de defensa Fight for the Future, habló en una audiencia sobre la prohibición del reconocimiento facial de la ciudad y le dijo a Tecnopedia que las ordenanzas «están impulsadas por la necesidad de abordar la necesidad de abordar la promoción agresiva de la tecnología experimental». tecnología de reconocimiento facial para las empresas, las necesidades y el gobierno como una curita para los males sociales sistémicos”.

Según los informes, también criticó a Amazon. Gastar $24,000 cabildeando contra Los que lo dicen demuestran que el decreto que suspendieron en junio es hueco.

«Amazon se esconde detrás de la retórica mientras gasta dinero en silencio para asegurarse de que puedan hacer negocios como de costumbre una vez que el ojo público se vuelve hacia la próxima crisis. Imagínese que lo confundan con un carterista en Rite Aid cuando va a buscar su medicamento, las puertas no se abren «Sin tribunales, sin recursos. Solo un algoritmo que es deliberadamente demasiado complicado para ser examinado», dijo Holland.

«Las ciudades de todo el país ahora deben mirar hacia Portland y aprobar sus propias prohibiciones. Y el Congreso debe actuar para aprobar prohibiciones a nivel federal. Tenemos el impulso y la voluntad para luchar contra esta tecnología peligrosa y discriminatoria».

LEER  Revisión de Razer Lambda Tensorbook: esta computadora portátil de aprendizaje profundo es un hito en el poder puro de Linux

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba