El nuevo reglamento MI de la Comisión Europea está listo

Disiparía toda la desconfianza asociada con el uso de MI, al tiempo que haría más seguro el uso de sistemas de inteligencia artificial a través del marco y el nuevo plan de acción presentado hoy por la Comisión Europea.

Según la Comunicación de la Comisión, las normas del Reglamento abordarán adecuadamente los “riesgos específicos” que plantea el uso de sistemas MI.

los dos comisarios de la UE que firmaron el reglamento, Margrethe Vestager y Thierry Breton

Las nuevas normas deben aplicarse directamente de la misma manera en todos los Estados miembros, sobre la base de una definición atemporal de inteligencia artificial. Las reglas que introducen el enfoque basado en el riesgo identifican las siguientes categorías:

Riesgo inaceptable: Los sistemas de IM que claramente ponen en peligro la seguridad, los medios de vida y los derechos de las personas serán prohibidos por la regulación. Estos incluyen sistemas o aplicaciones de MI que manipulan el comportamiento humano para eludir el libre albedrío de los usuarios (por ejemplo, juguetes que alientan a los menores a participar en comportamientos peligrosos a través de servicios de asistencia por voz) y sistemas que permiten a los gobiernos “calificar socialmente”.

Alto riesgo: Los sistemas de MI clasificados como de alto riesgo incluyen, entre otros, tecnologías de MI en infraestructuras críticas, educación y capacitación, servicios públicos y privados básicos, aplicación de la ley y justicia. Estarán sujetos a los siguientes requisitos estrictos antes de ser comercializados:

  • deben existir sistemas adecuados de evaluación y mitigación de riesgos;
  • para minimizar los riesgos y los resultados discriminatorios, los conjuntos de datos utilizados para suministrar el sistema deben ser de alta calidad;
  • las actividades deben registrarse para garantizar la trazabilidad de los resultados;
  • la documentación detallada debe estar disponible, incluida toda la información relacionada con el sistema y su propósito que sea necesaria para que las autoridades evalúen la idoneidad del sistema;
  • los usuarios deben estar clara y adecuadamente informados;
  • se requieren medidas adecuadas de seguimiento humano para minimizar el riesgo;
  • el sistema debe caracterizarse por un alto grado de fiabilidad, seguridad y precisión.

Dentro de esto, todos los sistemas de identificación biométrica remota se consideran de alto riesgo y están sujetos a requisitos estrictos. Su uso en lugares públicos en tiempo real con fines policiales estará, por regla general, prohibido. Existen algunas excepciones estrictamente definidas, limitadas y reguladas a esto (por ejemplo, cuando el IM es absolutamente necesario para rastrear a un niño desaparecido, prevenir una amenaza terrorista específica e inminente, o detectar, localizar, identificar o enjuiciar al perpetrador o sospechoso de un delito). delito grave). Dicho uso debe ser autorizado por un órgano judicial u otro organismo independiente y está sujeto a determinadas restricciones en cuanto a duración, ámbito geográfico y bases de datos consultadas.

Riesgo limitado, es decir, sistemas de MI sujetos a una obligación de transparencia específica: al utilizar dichos sistemas de MI, como los robots de chat, los usuarios deben ser conscientes de que se están comunicando con una máquina y pueden usar esta información para decidir si continuar o detener la actividad.

Riesgo mínimo: La propuesta legislativa permite el uso gratuito de aplicaciones como los videojuegos basados ​​en inteligencia artificial o filtros de spam. La gran mayoría de los sistemas de inteligencia artificial entran en esta categoría. El proyecto de reglamento no interviene aquí, ya que estos sistemas de inteligencia artificial suponen solo un riesgo mínimo para los derechos o la seguridad de los ciudadanos.

La Comisión propone que las nuevas normas sean supervisadas por las autoridades nacionales competentes de vigilancia del mercado y que se espera que el establecimiento de un organismo europeo de inteligencia artificial facilite la aplicación de las normas y fomente el desarrollo de normas de inteligencia artificial. Además, la Comisión propone el desarrollo de códigos de conducta voluntarios para entornos de prueba regulatorios y de inteligencia artificial sin alto riesgo a fin de promover la innovación responsable.

El Parlamento Europeo y los Estados miembros deberían adoptar las propuestas de la Comisión para un enfoque europeo de la inteligencia artificial y los productos de ingeniería mecánica con arreglo al procedimiento legislativo ordinario. Una vez adoptados, los reglamentos serán directamente aplicables en toda la UE.


Source: HWSW Informatikai Hírmagazin by www.hwsw.hu.

*The article has been translated based on the content of HWSW Informatikai Hírmagazin by www.hwsw.hu. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!

*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.

*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!