AI Weekly: los peligros del análisis de inteligencia artificial para las cámaras corporales de la policía

Únase a los líderes del juego en línea en GamesBeat Summit Next el próximo 9 y 10 de noviembre. Obtenga más información sobre lo que viene a continuación.


En 2015, impulsado por los pedidos de una mayor responsabilidad policial, el gobierno federal proporcionó más de $ 23 millones a las agencias policiales locales y tribales para expandir el uso de cámaras corporales. En 2016, el 47% de las aproximadamente 15,300 agencias de aplicación de la ley de propósito general del país habían comprado cámaras corporales, según un informe de la Oficina de Estadísticas de Justicia, el estudio más reciente que mide el uso a nivel nacional.

Evidencia sobre su eficacia es mixto: una revisión exhaustiva reciente de 70 estudios sobre el uso de cámaras corporales encontró que no tuvieron efectos consistentes o estadísticamente significativos, pero los defensores afirman que las cámaras corporales pueden disuadir el mal comportamiento de los oficiales al tiempo que reducen el número de quejas de los ciudadanos. Sin embargo, un desafío tecnológico sobresaliente con las cámaras corporales es dar sentido a la cantidad de imágenes que producen. Según uno estimar, la cámara corporal de un oficial promedio grabará alrededor de 32 archivos, 7 horas y 20 GB de video por mes con una resolución de 720p.

Una startup relativamente nueva, Truleo, afirma resolver este problema con una plataforma que aprovecha la inteligencia artificial para analizar las imágenes de las cámaras corporales a medida que las recibe. Truleo, que ha recaudado 2,5 millones de dólares en fondos iniciales, convierte los datos en “conocimientos procesables”, afirma el director ejecutivo y cofundador Anthony Tassone, utilizando Procesamiento de lenguaje natural y modelos de aprendizaje automático para categorizar los incidentes capturados por las cámaras.

El Departamento de Policía de Seattle es uno de los primeros clientes de la empresa.

“Truleo analiza el flujo de audio dentro de los videos de la cámara corporal; analizamos la conversación entre el oficial y el público”, dijo Tassone a VentureBeat por correo electrónico. “Destacamos específicamente el lenguaje ‘arriesgado’ que usa el oficial, que con mayor frecuencia significa sacar a la superficie blasfemias dirigidas o usar un lenguaje extremadamente grosero. Sin embargo, también podemos resaltar los comandos de gritos de los oficiales, para que el personal de comando pueda evaluar la efectividad del cumplimiento del sujeto “.

IA potencialmente defectuosa

Tassone dice que los modelos de inteligencia artificial de Truleo fueron creados por sus científicos de datos y expertos en aplicación de la ley que buscaban “desescalada, marcación automática de incidentes o alerta temprana de interacciones volátiles” para generar informes con capacidad de búsqueda. Los modelos pueden reconocer si una llamada es sobre drogas, robo, persecución a pie y si hay blasfemias o gritos, afirma. Truleo cuantifica las clasificaciones como métricas, como el porcentaje de “interacciones negativas” que tiene un oficial mensualmente y qué lenguaje policial es “efectivo”.

“Obviamente, una llamada que termina en un arresto va a ser negativa. Pero, ¿qué pasa si un oficial tiene una cantidad abrumadora de interacciones negativas pero un número de arrestos por debajo del promedio? ¿Está pasando por algo en su vida personal? Quizás algo profundamente personal como un divorcio o tal vez le dispararon al oficial la semana pasada. Tal vez necesiten algo de tiempo para calmarse o ser entrenados por oficiales más experimentados. Queremos ayudar al personal de mando a ser más proactivo a la hora de identificar comportamientos riesgosos y mejorar las tácticas de servicio al cliente, antes de que el oficial pierda su trabajo o termine en las noticias ”.

Pero algunos expertos están preocupados por el potencial de uso indebido de la plataforma, especialmente en el ámbito de la vigilancia. “[Body cam] El metraje no solo contiene la actitud del oficial; también contiene todos los comentarios de la persona con la que estaban interactuando, incluso cuando no hubo ningún delito, y posiblemente conversaciones cercanas ”, dijo Os Keyes, investigador de inteligencia artificial de la Universidad de Washington, a VentureBeat por correo electrónico. “Este es precisamente el tipo de cosas que preocuparon a la gente cuando advirtieron sobre las implicaciones de las cámaras corporales: los agentes de policía como cámaras de vigilancia en movimiento”.

Truleo

Arriba: panel de análisis de Truleo.

Crédito de la imagen: Truleo

Keyes también señaló que el procesamiento del lenguaje natural y el análisis de sentimientos están lejos de ser ciencias perfectas. Aparte de prototipos, Los sistemas de inteligencia artificial luchan por reconocer ejemplos de sarcasmo, en particular los sistemas entrenados solo con datos de texto. Los modelos de procesamiento del lenguaje natural también pueden exhibir prejuicios a lo largo de líneas de raza, etnia y género, por ejemplo asociando “Inglés alineado en negro”Con mayor toxicidad o emociones negativas como ira, miedo y tristeza.

Los sistemas de reconocimiento de voz como el que utiliza Truleo también pueden discriminatorio. en un estudio Por encargo del Washington Post, los altavoces inteligentes populares fabricados por Google y Amazon tenían un 30% menos de probabilidades de entender los acentos no estadounidenses que los de los usuarios nativos. Más recientemente, el proyecto Voice Erasure de la Algorithmic Justice League fundar que los sistemas de reconocimiento de voz de Apple, Amazon, Google, IBM y Microsoft logran colectivamente tasas de error de palabras del 35% para las voces afroamericanas frente al 19% para las voces blancas.

“Si funciona, es peligroso. Si no funciona, que es mucho más probable, el mismo mecanismo a través del cual se está desarrollando e implementando es sí mismo una razón para desconfiar de él y de la gente que lo usa ”, dijo Keyes.

Según Tassone, Truleo consultó con funcionarios de las juntas de responsabilidad policial para definir qué interacciones deberían ser identificadas por sus modelos para generar informes. Para preservar la privacidad, la plataforma convierte el metraje en un archivo de audio MP3 durante el proceso de flujo ascendente “en la memoria” y elimina el flujo después del análisis en AWS GovCloud, escribiendo nada en el disco.

“La posición de Truleo es que estos datos pertenecen al 100% al departamento de policía”, agregó Tassone. “Nuestro objetivo es transcribir correctamente alrededor del 90% del archivo de audio … Más importante aún, clasificamos el evento dentro del audio correctamente más del 99% del tiempo … Cuando los clientes miran sus transcripciones, si algo es incorrecto, pueden hacer esos cambios en nuestro editor y envíelos a Truleo, que entrena automáticamente nuevos modelos con estas correcciones de errores “.

Cuando se le contactó para hacer comentarios, Axon, uno de los mayores productores mundiales de cámaras para cuerpos policiales, se negó a comentar sobre el producto de Truleo, pero dijo: “Axon siempre está explorando tecnologías que han [the] potencial para proteger vidas y mejorar la eficiencia de nuestros clientes de seguridad pública. Nos orientamos hacia el desarrollo de soluciones éticas y responsables que sean confiables, seguras y que preserven la privacidad “.

En una reciente pieza Para Security Info Watch, Anthony Treviño, ex subjefe de policía de San Antonio, Texas y asesor de Truleo, argumentó que las plataformas de análisis de cámaras corporales impulsadas por IA podrían usarse como una herramienta de enseñanza para las fuerzas del orden. “Por ejemplo, si una agencia se entera a través del análisis de audio de la cámara corporal que cierto oficial tiene una gran capacidad para reducir o controlar la fuerza letal durante situaciones volátiles, la agencia puede usar a esa persona como un recurso para mejorar el entrenamiento en toda la fuerza, ” el escribio.

Dados los defectos de la IA y estudios Sin embargo, al demostrar que las cámaras corporales no reducen la mala conducta policial por sí solas, el argumento de Treviño parece carecer de mérito. “Curiosamente, aunque su sitio web incluye muchas estadísticas sobre el ahorro de tiempo y costos, en realidad no comenta si cambia los resultados de alguna manera”, dijo el investigador de inteligencia artificial de la Universidad Queen Mary de Londres, Mike Cook, a VentureBeat a través de Email. “Truleo afirma que proporcionan ‘precisión humana a escala’, pero si ya dudamos de la precisión existente proporcionada por los humanos involucrados, ¿de qué sirve replicarla a escala? ¿De qué sirve una reducción del 50% en el tiempo de litigio si conduce a la misma cantidad de acciones policiales injustas, racistas o ilegales? Un sistema injusto que funcione más rápido sigue siendo injusto “.

Para obtener cobertura de IA, envíe sugerencias de noticias a Kyle Wiggers – y asegúrese de suscribirse al Boletín semanal de AI y marque nuestro canal de IA, La máquina.

Gracias por leer,

Kyle Wiggers

Redactor de AI

VentureBeat

La misión de VentureBeat es ser una plaza urbana digital para que los responsables de la toma de decisiones técnicas obtengan conocimientos sobre tecnología transformadora y realicen transacciones. Nuestro sitio ofrece información esencial sobre tecnologías y estrategias de datos para guiarlo a medida que dirige sus organizaciones. Te invitamos a convertirte en miembro de nuestra comunidad, para acceder a:
  • información actualizada sobre los temas de su interés
  • nuestros boletines
  • contenido exclusivo de líderes de opinión y acceso con descuento a nuestros preciados eventos, como Transformar 2021: Aprende más
  • funciones de red y más
Hágase miembro

Source: VentureBeat by feedproxy.google.com.

*The article has been translated based on the content of VentureBeat by feedproxy.google.com. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!

*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.

*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!