Cuatro preguntas sobre algoritmos – NEMO Kennislink

El jugador de ajedrez ruso Garri Kasparov en 2005 (no contra el equipo de ajedrez Deep Blue).

En 1997, la computadora Deep Blue derrotó a Garri Kasparov, el mejor jugador de ajedrez del mundo. En 2011, Computer Watson ganó el concurso de televisión Jeopardy! y en 2016 AlphaGo ganó el juego de mesa Go del campeón mundial. Los humanos están perdiendo rápidamente frente a las computadoras.

Los algoritmos están avanzando en muchos más lugares que solo los juegos. Ellos verifican su declaración de impuestos, determinan lo que ve en línea y organizan los pagos. Como resultado, todos tienen que lidiar con algoritmos, notados o desapercibidos. Esto a menudo tiene ventajas, pero también puede salir mal. Los algoritmos pueden discriminar y cometer errores que ningún otro humano cometería. ¿Deberíamos permitir que la computadora gobierne nuestro mundo? En esta sesión de preguntas y respuestas, aprenderá qué es un algoritmo, qué pueden y qué no pueden hacer, y cómo eso puede conducir a la discriminación.

1. ¿Qué es un algoritmo?

El matemático persa del siglo IX, Mohammed ibn Musa al-Khwarizmi, utilizó por primera vez la palabra algoritmo para describir una serie de cálculos.

Un algoritmo es un conjunto de reglas que ejecuta para obtener un resultado determinado. Esto incluye mucho: una receta para el pastel de manzana, reglas que le dicen cómo multiplicar números o un programa de computadora para un semáforo que asegura que el tráfico de una dirección a la vez ingrese a una intersección.

Por lo general, por algoritmos nos referimos a aplicaciones en tecnología, como aplicaciones o programas de computadora. Por ejemplo, los algoritmos se utilizan para ordenar, categorizar, asociar o filtrar información. Puedes encontrarlos, por ejemplo, en un motor de búsqueda que te brinda la información más importante sobre un tema determinado o en la computadora de un automóvil autónomo que distingue entre un ciclista y un automóvil. Piense también en una aplicación de citas que busque una coincidencia basada en perfiles o en un algoritmo de reconocimiento de voz que aísle su voz de ruidos ambientales perturbadores.

2. ¿Para qué se utilizan los algoritmos?

Los artículos que lees online, las personas con las que entras en contacto a través de las redes sociales, la recomendación de productos en las tiendas online, el control de tu administración financiera y el control de tu salud: no es exagerado decir que los algoritmos casi todos los aspectos de nuestras vidas han sido penetradas. NEMO Kennislink habló con varias personas en cuyas vidas los algoritmos juegan un papel de formas muy diferentes. Aquí destacamos tres que se benefician o tuvieron de los algoritmos.

Por ejemplo, Carlijn van der Kulk compra casi todo en línea: desde comestibles semanales hasta bikinis y velas. Los algoritmos ejecutan las tiendas web y hacen recomendaciones basadas en lo que Van der Kulk compró anteriormente. Además, varias empresas controlan el comportamiento de compra de Carlijn, de modo que también pueda recibir anuncios en otros sitios web de los artículos que vio en línea. Los algoritmos también están involucrados en los pagos. Establecen una conexión segura con el banco y, a veces, comprueban la solvencia del cliente por adelantado.

Gerita Groenbos tiene contacto semanal con otros enfermos a través de un grupo en Facebook. Su hija tiene el raro síndrome de Snijders Blok-Campeau, causado por una mutación genética que solo ocurre en unos pocos cientos de personas en todo el mundo. En el entorno protegido del grupo de Facebook, los miembros se hacen preguntas y se mantienen informados sobre su desarrollo personal. No importa que no hablen el idioma del otro, el algoritmo de Facebook se encarga de la traducción.

Durante años, Pieter Hoexum llevó a sus hijas a la escuela a pie, pero cuando ingresaron a la secundaria, esta fuente de ejercicio desapareció. Su esposa le regaló un podómetro que lo motiva a dar 250 pasos cada hora. Una simple notificación de la aplicación es suficiente para mantenerla en movimiento. “Incluso si se trata simplemente de tirar la basura”, dice. “Me muevo mucho más gracias a mi podómetro”.

3. ¿Qué pueden hacer los algoritmos y qué no?

Desde recomendar a su futuro socio hasta identificar tumores en un escaneo médico, desde cerrar la defensa contra inundaciones exactamente a tiempo hasta negociar acciones extremadamente rápido en la bolsa de valores. Parece que hay cada vez menos cosas que los algoritmos no pueden hacer, y en lo que pueden hacer ahora, son en muchos aspectos mejores que los humanos.

¿Ya tienes miedo de que las personas ya no sean necesarias para nada? Puedes comentar los ejemplos anteriores. Por ejemplo, un algoritmo solo es muy bueno en la tarea específica para la que fue diseñado. Un algoritmo que controla un automóvil autónomo incurrirá en grandes pérdidas en el mercado de valores, y dejar que su aplicación de citas controle la barrera contra las marejadas ciclónicas es una receta para el desastre.

Un algoritmo no es consciente del mundo. Reconoce sin esfuerzo un caballo en una foto, pero no tiene idea de qué es realmente un caballo. Es bueno para lo que está entrenado: reconocer objetos en una foto. Si una computadora vence a un humano en un juego de conocimiento, “como sucedió en el concurso de televisión estadounidense Jeopardy en 2011”: https: //www.nemokennislink.nl/publicaties/watson-weet-het-beter/, puede hacerlo porque el El algoritmo fue capaz de procesar rápidamente una enorme cantidad de información y reconocer en la pregunta qué información estaba buscando el maestro de pruebas. El algoritmo no posee ‘inteligencia general’ como la de un humano y eso hace posible pensar en la caja, de hecho, un algoritmo es muy malo en ese sentido, no hará sonar la alarma en el momento en que se encuentre con algo extraño, a menos que los programadores hayan puesto explícitamente esa función en él.

La foto fue producida por un algoritmo llamado ‘combinación inteligente’. Combina una imagen de un esquiador con una foto de fondo. El algoritmo solo reconoce una parte del esquiador.

4. ¿Cómo puede discriminar un algoritmo?

Ya se han identificado algoritmos discriminatorios en varios lugares, como al presentar una declaración de impuestos o al calcular la probabilidad de que una persona condenada por un delito repita un delito. Pero, ¿cómo puede un algoritmo discriminar sin conciencia y sin sesgos? Un algoritmo generalmente mira diferentes tipos de información, los combina de una manera predeterminada y produce un resultado. La discriminación puede entrar en ese proceso a través de la forma en que toma decisiones y cuando la información en sí contiene sesgos.

La primera deficiencia fue la base del asunto de la asignación, del que también fue víctima Sarah Alarda-Hensen. Entre 2004 y 2019, las autoridades fiscales etiquetaron erróneamente a decenas de miles de holandeses como estafadores utilizando un algoritmo que se suponía que detectaba el fraude con prestaciones por hijos. Una investigación de la Autoridad de Protección de Datos holandesa mostró que el algoritmo tenía en cuenta cuestiones como el origen y la doble nacionalidad. Eso fue injusto y dio lugar a decisiones discriminatorias. El origen de una persona no debe tenerse en cuenta para determinar si alguien es un fraude.

Pero la información con la que trabaja un algoritmo también puede contener prejuicios, como muestra la matemática británica Hannah Fry en su libro Algoritmos en el poder. En Estados Unidos, el algoritmo Compas calcula la probabilidad de que un condenado se repita. Los jueces usan esa información para dictar sentencia. Posteriormente (es decir, después de que se conociera realmente la reincidencia) resultó que se estimó erróneamente que el grupo de población negra tenía mayor reincidencia. Una de las razones de esto resultó ser el hecho de que la policía apunta desproporcionadamente a los estadounidenses negros por algunos delitos. El algoritmo continúa así la discriminación que ya está en el sistema, incluso cuando no se tienen en cuenta aspectos como la raza. El prejuicio todavía se infiltra en el sistema a través de factores como la situación de vida, que puede depender de la raza.

Parece difícil hacer tecnología neutra. Según Marleen Stikker, fundadora del instituto de investigación Waag, eso ni siquiera existe. En el próximo libro Down to Earth de Lianne Tijhaar, dice: “A menudo se dice que depende de lo que hagas con una tecnología: puedes construir una casa con un martillo, también puedes aplastarle la cabeza a alguien con él. Pero ese martillo tiene propiedades que le permiten asestar golpes duros. Tiene sentido. El uso ya está en gran parte en el diseño. Esto es aún más evidente con el software y los algoritmos. Los gerentes cambian a políticas basadas en datos asumiendo que los datos son objetivos. La realidad es que los datos no existen en la realidad. Siempre haces una selección. Si mide la seguridad de un municipio, primero necesita una definición de seguridad. Por eso es importante saber quién crea la base de datos. ¿Quién le paga a esa persona? ¿Qué intereses hay detrás?

En el tema Tus datos y tú, NEMO Kennislink colabora con NEMO en la exposición Pedazos de ti. Esta exposición para adultos, en la que experimentas cómo los rastros de datos que dejamos influyen en nuestras vidas, se podrá ver hasta el 9 de enero de 2022 en De Studio van NEMO en Marineterrein en Ámsterdam.


Source: Kennislink by www.nemokennislink.nl.

*The article has been translated based on the content of Kennislink by www.nemokennislink.nl. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!

*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.

*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!