Skip to content

La comisión europea regula el desarrollo de la inteligencia artificial

inteligencia artificial

“Habemus regulación”.

Reconocimiento facial, asistentes personales, Google Maps, ahorro de energía, chatbots, búsqueda de fotografías, … Los usas todos los días. Después de que la inteligencia artificial haya ido ganando cada vez más popularidad, la Comisión Europea anuncia una regulación estricta de este avance tecnológico. ¿Por qué? ¿Cuál es su objetivo? ¿Qué propone la nueva normativa? 

En Cibernos, hemos recopilado los puntos clave para comprender lo que propone la Unión Europea. ¡Te los contamos!

 

¿Cuáles son los objetivos de la UE con la normativa de la inteligencia artificial?

Hagamos memoria. La inteligencia artificial es una revolución tecnológica que lo está cambiando todo, y que permite que las máquinas actúen y piensen por su cuenta. Es una tecnología que nos resulta misteriosa, pero que está muy presente en nuestro día a día. Quizás, sea uno de los avances más importantes del mundo tecnológico en los últimos años. 

La cuestión es ¿qué objetivos persigue la UE con su nueva regulación de la inteligencia artificial? Te los contamos a continuación:

  • Fijar estándares internacionales en el sector de la inteligencia artificial.
  • Conseguir una posición de liderazgo mundial
  • Promover la innovación, garantizar la seguridad y proteger los derechos humanos. En otras palabras, “favorecer el fomento de una inteligencia artificial “centrada en el ser humano, sostenible, segura, inclusiva y fiable en la adopción, la inversión y la innovación en esta materia en toda la UE”. 
  • Reducir o evitar, en la medida de lo posible, los riesgos que entraña esta tecnología. Por ejemplo: “La opacidad de muchos algoritmos usados en los ámbitos de contratación, la asistencia sanitaria o la aplicación de la ley que pueden amenazar la seguridad de las personas y los derechos fundamentales”. (Cinco Días)
  • Establecer las reglas que fomenten esta tecnología debido a su rápido crecimiento. 
  • Analizar el futuro impacto de la inteligencia artificial en la era digital en la economía de la propia UE.
  • “Desarrollar una inteligencia artificial que genere confianza, elimine cualquier tipo de sesgo y discriminación, y contribuya al bien común al tiempo que asegure que las empresas y la industria prosperan y generan prosperidad económica”, en palabras del presidente de la nueva comisión.

Además de estos objetivos, se quiere que las normas contempladas en esta nueva regulación tengan en cuenta el respeto a la intervención y la supervisión humana.

 

¿A quién afectará el reglamento europeo?

¡Buena pregunta! Aunque todavía debe aprobarse por los Gobiernos de la UE y por la Eurocámara, ya se puede hacer una estimación de quiénes se verán afectados por la normativa. ¡Ahí van!

  • Todos los estados miembros.
  • Actores públicos y privados (dentro y fuera de la Unión Europea) cuando los sistemas de inteligencia artificial se ubiquen en la misma o su uso afecte a los ciudadanos que viven en los 27 países.
  • Proveedores y usuarios de sistemas de inteligencia artificial. Por ejemplo, una empresa encargada del desarrollo de un software de gestión documental inteligente y una gestoría que utiliza esta herramienta para digitalizar sus archivos.

Sin embargo, no se aplica a usos privados no profesionales. ¿Tienes alguna duda hasta el momento? Al margen de estos datos, hay un punto todavía más importante en cuanto a los sistemas de inteligencia artificial, y son los requisitos exigidos. ¡Veamos de qué se trata!

 

¿Cuáles son las exigencias del reglamento con los sistemas de inteligencia artificial?

O mejor dicho, cuáles serán esos requisitos que los sistemas deberán cumplir para poder salir al mercado y ser utilizados por las empresas y usuarios. La Comisión Europea establece que, antes de ser comercializados, deben atravesar una serie de procedimientos de evaluación y mitigación de riesgos. Además, deben contar con una serie de garantías de los datos que se utilizan, así como registrar la actividad mediante trazabilidad y contar con medidas de supervisión humana, entre otras cosas. 

El papel de la inteligencia en los espacios públicos también ha sido considerado en esta regulación. De esta forma, se prohíbe su utilización cuando se trate de permitir la identificación biométrica remota por las autoridades policiales a través del reconocimiento facial. Sin embargo, existen algunas excepciones, como “el uso para buscar a menores desaparecidos, la prevención de amenazas terroristas o localizar a un autor sospechoso de delitos”, entre otras cosas.

 

Cuatro cuestiones resueltas sobre la aplicación del reglamento

Seguramente, se te están pasando muchísimas preguntas por la cabeza. ¿Qué pasará con los filtros de correo basura que usan la IA? ¿Y con los chatbots? ¿Cómo se controlará el cumplimiento del reglamento? ¿Se penalizará a quienes se lo salten? 

Hemos hecho un recopilatorio de las principales dudas acerca de la normativa sobre la inteligencia artificial y queremos resolverlas contigo:

  • ¿Por qué se ha decidido regular la inteligencia artificial en Europa?

Porque este avance tecnológico puede exponer problemas no resueltos, como podría suceder con un robot que daña a un peatón en plena avenida pública. El objetivo es proteger a los usuarios y cubrir todo el ecosistema de riesgos en las distintas aplicaciones de la inteligencia artificial. De lo contrario, sería muy difícil determinar qué es una conducta negligente y qué no.

  • ¿Qué ventajas aporta la regulación?

En primer lugar, el uso responsable de la misma, así como la protección y el respaldo de la sociedad ante cualquier problema que pueda surgir de su utilización. Y, en segundo lugar, la armonización del mercado único digital.

  • ¿Afecta a los chatbots conversacionales?

La respuesta es SÍ, ya que forman parte del riesgo limitado en el que se necesitan aplicar obligaciones de transparencia. De esta manera, quienes usen los bots garantizarán que el usuario es consciente de que interactúa con una máquina. Como consecuencia, podrá decidir si quiere continuar interactuando o no.

  • ¿Qué sucederá con los filtros de correo basura?

Son considerados por el reglamento como riesgos mínimos o nulos, de tal forma que no establece medidas o requisitos para estos.

Además, quienes incumplan la normativa estarán sometidos a sanciones. “Las empresas tendrán que afrontar hasta el 6% de su facturación anual global o 30 millones de euros, según sea la cifra más alta”.

Síguenos cada semana en nuestro blog y no te pierdas las novedades del reglamento de robótica e inteligencia artificial en Europa.

Sobre el autor: Eliseo Martín

Eliseo Martín

La trayectoria profesional de Eliseo está a caballo entre áreas técnicas y marketing. Actualmente trabaja en el desarrollo de nuevos productos y servicios de Cibernos, tales como "Motor de Cumplimiento", producto específico para el control del cumplimiento, y "TaaS" (Truth as a Service) que utiliza Blockchain para la protección de las evidencias que deban ser utilizadas ante litigios (secretos empresariales, cumplimiento, publicaciones de los medios, actas de comités, tramitación en las AAPP,...).