La mayoría de los europeos reemplazarían al gobierno con IA, oof, están tan equivocados


A encuesta reciente realizado por investigadores del Centro IE para la Gobernanza del Cambio indica que la mayoría de las personas apoyarían la sustitución de los miembros de sus respectivos parlamentos por sistemas de inteligencia artificial.

¡Ay! La mayoría podría haberse equivocado en este. Pero nos meteremos en por qué en un momento.

La encuesta

Los investigadores entrevistaron a 2.769 europeos que representaban diferentes grupos demográficos. Las preguntas iban desde si preferirían votar a través de un teléfono inteligente hasta si reemplazarían a los políticos existentes con algoritmos si tuvieran la oportunidad.

Según la encuesta:

El 51% de los europeos apoya la reducción del número de parlamentarios nacionales y la asignación de esos escaños a un algoritmo. Más del 60% de los europeos de 25 a 34 años y el 56% de los de 34 a 44 años están entusiasmados con esta idea.

En la superficie, esto tiene mucho sentido: es más probable que las personas más jóvenes adopten una nueva tecnología, sin importar cuán radical sea.

Pero se vuelve aún más interesante cuando profundizas un poco las cosas.

De acuerdo a un informe de CNBC:

El estudio encontró que la idea era particularmente popular en España, donde el 66% de las personas encuestadas la apoyaba. En otros lugares, el 59% de los encuestados en Italia estaban a favor y el 56% de la gente en Estonia.

En el Reino Unido, el 69% de las personas encuestadas estaba en contra de la idea, mientras que el 56% estaba en contra en los Países Bajos y el 54% en Alemania.

Fuera de Europa, alrededor del 75% de las personas encuestadas en China apoyó la idea de reemplazar a los parlamentarios con IA, mientras que el 60% de los encuestados estadounidenses se opuso.

Es difícil extraer información de estos números sin recurrir a la especulación; cuando se considera la división política en el Reino Unido y los EE. UU., Por ejemplo, es interesante notar que las personas en ambas naciones todavía parecen preferir el status quo sobre un sistema de inteligencia artificial.

Este es el problema

Todas esas personas a favor de un parlamento de IA están equivocado.

La idea aquí, según el informe de la CNBC, es que esta encuesta capte el “espíritu de la época general” cuando se trata de la percepción pública de su actual humano representantes.

Esto parece indicar que la encuesta nos dice más sobre cómo se sienten las personas con respecto a sus políticos que sobre cómo se sienten las personas con respecto a la IA.

Pero nosotros De Verdad Necesitamos considerar qué significaría realmente un parlamentario de AI antes de comenzar a apoyar la idea.

Es posible que los gobiernos no operen de la misma manera en todos los países, pero si suficientes personas apoyan una idea, no importa lo mala que sea, siempre existe la posibilidad de que la gente obtenga lo que quiere.

Por qué un parlamentario de AI es una idea terrible

Aquí está la conclusión desde el principio: no solo estaría llena de prejuicios incorporados, sino que estaría entrenada con los prejuicios del gobierno que la implementa. Además, cualquier tecnología de IA aplicable en este dominio se consideraría IA de “caja negra” y, por lo tanto, sería incluso peor en explicar sus decisiones que los políticos humanos contemporáneos.

Y, finalmente, si entregamos los datos de nuestros constituyentes a un sistema de gobierno centralizado que tiene derechos parlamentarios, esencialmente estaríamos permitiendo que nuestros respectivos gobiernos utilicen el gerrymandering digital para realizar ingeniería social a gran escala.

Así es cómo

Cuando la gente imagina a un político robot, a menudo conceptualiza un ser que no puede ser corrompido. Los robots no mienten, no tienen agendas, no son xenófobos ni fanáticos, y no se los puede comprar. ¿Derecha?

Equivocado.

AI es inherentemente tendencioso. Cualquier sistema diseñado para sacar a la luz conocimientos basados ​​en datos que se apliquen a las personas automáticamente tiene sesgo construido en su núcleo.

La versión corta de por qué esto es cierto es la siguiente: piense en la encuesta de 2.769 personas mencionada anteriormente. ¿Cuántas de esas personas son negras? ¿Cuántos son maricones? ¿Cuántos son judíos? ¿Cuántos son conservadores? ¿Son 2.769 personas realmente suficientes personas para representar a toda Europa?

Probablemente no. Es solo una suposición bastante cercana. Cuando los investigadores realizan estas encuestas, intentan hacerse una idea general de cómo se siente la gente: esta no es información científicamente precisa. Simplemente no tenemos forma de obligar a todas las personas del continente a responder estas preguntas.

Así es como funciona la IA. Cuando entrenamos a una IA para que funcione, por ejemplo, para tomar datos relacionados con el sentimiento de los votantes y determinar si votar sí o no en una moción en particular, la entrenamos con datos que fueron generados, seleccionados, interpretados, transcritos e implementados por humanos.

En cada paso del proceso de entrenamiento de la IA, cada sesgo que se infiltra se exacerba. Si entrena a una IA con datos que presentan una cantidad desproporcionada de representación entre grupos, la IA desarrollará y amplificará el sesgo contra aquellos grupos con menos representación. Así es como funcionan los algoritmos dentro de una caja negra.

Y ahí radica nuestro segundo problema: la caja negra. Si un político toma una decisión que resulta en una consecuencia negativa, podemos pedirle a ese político que explique el motivo detrás de esa decisión.

Como ejemplo hipotético, si un político presionó con éxito para abolir todos los semáforos en su distrito y esa acción resultó en un aumento de accidentes, podríamos averiguar por qué votaron de esa manera y exigir que nunca lo vuelvan a hacer.

No puede hacer eso con la mayoría de los sistemas de inteligencia artificial. Los sistemas de automatización simples se pueden mirar a la inversa si algo sale mal, pero los paradigmas de IA que implican aprendizaje profundo y conocimientos emergentes, el mismo tipo que necesitaría usar para reemplazar a los miembros del parlamento con representación impulsada por IA, generalmente no pueden ser entendido al revés.

Los desarrolladores de inteligencia artificial esencialmente marcan la salida de un sistema como si estuvieran sintonizando una señal de radio de estática. Siguen jugando con los parámetros hasta que la IA comienza a tomar las decisiones que les gustan. Este proceso no se puede repetir a la inversa: no se puede girar el dial hacia atrás hasta que la señal vuelva a ser ruidosa para ver cómo se aclara.

Aquí está la parte aterradora

Los sistemas de inteligencia artificial se basan en objetivos. Cuando imaginamos las peores cosas que podrían salir mal cuando se trata de inteligencia artificial, podríamos estar pensando en robots asesinos, pero los expertos tienden a pensar objetivos desalineados es el mal más probable.

Básicamente, piense en desarrolladores de inteligencia artificial como Mickey Mouse en “El aprendiz de brujo” de Disney. Si el gran gobierno le dice a Silicon Valley que cree un parlamentario de IA, se le ocurrirá el mejor líder que posiblemente pueda crear.

Desafortunadamente, el objetivo del gobierno no es producir ni recolectar los mejores lideres. Es para servir a la sociedad. Esos son dos objetivos completamente diferentes.

La conclusión es que los desarrolladores de IA y los políticos pueden entrenar un sistema de IA para que muestre los resultados que deseen.

Si puedes imaginar el gerrymandering, como sucede en los EE. UU., pero a la escala en la que los “datos constituyentes” se ponderan más en los parámetros de una máquina, entonces puede imaginarse cómo los políticos podrían usar los sistemas de inteligencia artificial para automatizar el partidismo.

Lo último que tenemos que hacer, como comunidad global, es utilizar la inteligencia artificial para potenciar las peores partes de nuestros respectivos sistemas políticos.

¡Saludos humanoides! ¿Sabías que tenemos un boletín informativo sobre IA? Puedes suscribirte aquí mismo.


Source: The Next Web by feedproxy.google.com.

*The article has been translated based on the content of The Next Web by feedproxy.google.com. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!

*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.

*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!