sábado, mayo 17, 2025
Ciberseguridadtic
  • Inicio
  • Datos
    • Actualidad Datos
    • Entrevistas
    • Vídeos
    • Opinión
  • Endpoint
    • Actualidad Endpoint
    • Entrevistas
    • Vídeos
    • Opinión
  • Identidades
    • Actualidad Identidades
    • Entrevistas
    • Vídeos
    • Opinión
  • Infraestructuras
    • Actualidad Infraestructura
    • Entrevistas
    • Vídeos
    • Opinión
  • Mercado
  • Debates
    • Almuerzos TAI
      • Identidad digital: clave en la gestión de riesgos y cumplimiento normativo 2024
      • Desenmascarando al enemigo, Threat Attribution Engine y servicios de IA aplicada 2024
      • Colaboración segura nunca compromete la seguridad 2024
      • Unificar para identificar 2023
      • Transformando el comportamiento de los usuarios 2023
    • Debates TAI
      • Debate endpoints: XDR, IoT 2025
      • DSPM la nueva frontera de la seguridad de los datos 2025
      • Tendencias de ciberseguridad 2025
      • La seguridad empieza por la identidad 2024
      • Debate MDR 2024
      • Debate CSPM – CNAPP 2024
      • SASE: Protegiendo su negocio en un mundo cada vez más conectado 2024
      • Debate ciberinteligencia 2024
      • Debate seguridad OT 2024
      • Debate ransomware 2024
      • Debate seguridad en movilidad 2024
      • Debate seguridad sector sanitario 2024
      • Debate Zero Trust 2024
      • Debate seguridad de las aplicaciones 2023
  • Reportajes

    Seguridad para la inteligencia artificial: el nuevo frente crítico

    Xanthorox AI: El cibercrimen entra en la era de la autonomía total

    Security Report Iberia - Ciberseguridad TIC - Tai Editorial - España

    “El 95 % de la actividad de Check Point Software está centrada en evitar los ataques; no en reaccionar frente a ellos”

    NIS2: Empresas y expertos analizan los desafíos de su implementación en España

  • Revista Online
    • Mayo 2023
    • Abril 2023
    • Marzo 2023
    • Febrero 2023
  • FORO TAI
    • BLINDANDO EL FUTURO DIGITAL EN UN MUNDO INTERCONECTADO
    • LA INNOVACIÓN COMO ALIADA DE LA CIBERSEGURIDAD
    • EMPRESA TECNOLÓGICAMENTE MODERNA Y SEGURA
    • INNOVACIÓN DISRUPTIVA
  • Suscripciones
No Result
Ver todos los resultados
  • Inicio
  • Datos
    • Actualidad Datos
    • Entrevistas
    • Vídeos
    • Opinión
  • Endpoint
    • Actualidad Endpoint
    • Entrevistas
    • Vídeos
    • Opinión
  • Identidades
    • Actualidad Identidades
    • Entrevistas
    • Vídeos
    • Opinión
  • Infraestructuras
    • Actualidad Infraestructura
    • Entrevistas
    • Vídeos
    • Opinión
  • Mercado
  • Debates
    • Almuerzos TAI
      • Identidad digital: clave en la gestión de riesgos y cumplimiento normativo 2024
      • Desenmascarando al enemigo, Threat Attribution Engine y servicios de IA aplicada 2024
      • Colaboración segura nunca compromete la seguridad 2024
      • Unificar para identificar 2023
      • Transformando el comportamiento de los usuarios 2023
    • Debates TAI
      • Debate endpoints: XDR, IoT 2025
      • DSPM la nueva frontera de la seguridad de los datos 2025
      • Tendencias de ciberseguridad 2025
      • La seguridad empieza por la identidad 2024
      • Debate MDR 2024
      • Debate CSPM – CNAPP 2024
      • SASE: Protegiendo su negocio en un mundo cada vez más conectado 2024
      • Debate ciberinteligencia 2024
      • Debate seguridad OT 2024
      • Debate ransomware 2024
      • Debate seguridad en movilidad 2024
      • Debate seguridad sector sanitario 2024
      • Debate Zero Trust 2024
      • Debate seguridad de las aplicaciones 2023
  • Reportajes

    Seguridad para la inteligencia artificial: el nuevo frente crítico

    Xanthorox AI: El cibercrimen entra en la era de la autonomía total

    Security Report Iberia - Ciberseguridad TIC - Tai Editorial - España

    “El 95 % de la actividad de Check Point Software está centrada en evitar los ataques; no en reaccionar frente a ellos”

    NIS2: Empresas y expertos analizan los desafíos de su implementación en España

  • Revista Online
    • Mayo 2023
    • Abril 2023
    • Marzo 2023
    • Febrero 2023
  • FORO TAI
    • BLINDANDO EL FUTURO DIGITAL EN UN MUNDO INTERCONECTADO
    • LA INNOVACIÓN COMO ALIADA DE LA CIBERSEGURIDAD
    • EMPRESA TECNOLÓGICAMENTE MODERNA Y SEGURA
    • INNOVACIÓN DISRUPTIVA
  • Suscripciones
No Result
Ver todos los resultados
Ciberseguridadtic
No Result
Ver todos los resultados

Inicio Reportajes

La Ley de Inteligencia Artificial, paso a paso

Rosalía ArroyoPor: Rosalía Arroyo
diciembre 13, 2023 - Actualizado en diciembre 27, 2023
326
Visualizaciones
TwitterLinkedin

Con la creciente presencia de la Inteligencia Artificial en todos los aspectos de la vida cotidiana, la cuestión de los marcos legales se ha hecho urgente y necesaria para regular sus usos y proteger los datos. Durante años, la Comisión ha estado facilitando y mejorando la cooperación en materia de IA en toda la UE, impulsando su competitividad y garantizando la confianza basada en los valores de la UE. Tras la publicación de la Estrategia Europea sobre IA en 2018, el Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial (HLEG) desarrolló unas Directrices para una IA confiable en 2019 y una Lista de evaluación de una IA fiable en 2020. Paralelamente, El primer Plan Coordinado sobre IA se publicó en diciembre de 2018 como un compromiso conjunto con los Estados miembros.

El Libro Blanco de la Comisión sobre la IA, publicado en 2020, estableció una visión clara para la IA en Europa: un ecosistema de excelencia y confianza. Ahora, después de tres días de debate, Europa ha llegado a un acuerdo provisional sobre la Ley de Inteligencia Artificial, a primera de carácter general sobre IA que existe en el mundo, que describe un marco para el uso seguro y responsable de los sistemas de IA, respetando los derechos y valores fundamentales de la Unión Europea, al tiempo que deja espacio para las empresas europeas innovadoras en un mercado único en desarrollo para la IA. Esta Ley afectará a empresas como Google, OpenAI y otras que desarrollan sistemas de IA.

Se trata del final de un proceso legislativo que se inició en abril de 2021, cuando la Comisión Europea dio los primeros pasos para la que se ha convertido en la primera Ley que busca regular el uso de la Inteligencia Artificial, sobre la que Ursula von der Leyen, presidenta de la Comisión Europea, aseguró que está cambiando nuestra vida cotidiana, “si se utiliza de manera inteligente y amplia, la IA promete enormes beneficios para nuestra economía y sociedad”; “la Ley de IA de la UE es el primer marco jurídico integral sobre inteligencia artificial en todo el mundo”, decía von der Leyen, añadiendo que, al garantizar la seguridad y los derechos fundamentales de las personas y las empresas, la ley “apoyará el desarrollo, el despliegue y la adopción de una IA fiable en la UE”.

La idea principal de esta ley es poder regular la IA en función de su capacidad de causar daño a la sociedad siguiendo un enfoque basado en el riesgo: cuanto mayor es el riesgo, más estrictas son las reglas. El texto acordado aún no existe en su forma final ya que durante las negociaciones se hicieron varias sugerencias de último momento, pero la forma general no ha cambiado con respecto a la propuesta original de abril de 2021 de la Comisión Europea.

El enfoque europeo hacia una IA fiable

La Ley de Inteligencia Artificial incluye prohibiciones de los sistemas biométricos que identifican a las personas por características sensibles como la orientación sexual y la raza. También establece requisitos de transparencia para todos los modelos de IA de propósito general, como el GPT-4 de OpenAI, y normas más estrictas para los modelos “muy potentes”.

La normativa que debe cumplir la IA se basa en dos aspectos principales: el riesgo potencial asociado al uso de la tecnología y el impacto que conlleva. Si bien ambos criterios son importantes, no existe una forma única de determinar el riesgo y el impacto de la IA. Los organismos legislativos ya han identificado los sistemas de alto riesgo, que incluyen sistemas utilizados en los sectores bancario y de seguros, y sistemas que pueden influir en los resultados electorales. Estos sistemas deberán realizar una evaluación de riesgos, cuyo contenido aún no se ha compartido.

Por otro lado, los sistemas de IA de uso generalizado no dirigidos a un grupo específico de usuarios (IA de uso generalizado o GPAI) estarán sujetos a su propio conjunto de reglas. En este caso, los legisladores evaluarán cada tecnología en sí misma, ignorando los criterios propuestos anteriormente.

Enfoque basado en riesgo

Como hemos comentado, las nuevas normas se aplicarán directamente de la misma manera en todos los Estados miembros sobre la base de un enfoque basado en el riesgo:

Riesgo inaceptable: Se prohibirán los sistemas de IA que se consideren una clara amenaza para la seguridad, los medios de vida y los derechos de las personas. Esto incluye sistemas o aplicaciones de inteligencia artificial que manipulan el comportamiento humano para eludir el libre albedrío de los usuarios (por ejemplo, juguetes que utilizan asistencia de voz para fomentar comportamientos peligrosos de menores) y sistemas que permiten la «puntuación social» por parte de los gobiernos.

Alto riesgo: los sistemas de IA identificados como de alto riesgo incluyen la tecnología de IA utilizada en Infraestructuras críticas, formación educativa o profesional, componentes de seguridad de los productos o gestión de la migración, el asilo y el control de fronteras. Además, los sistemas de IA de alto riesgo estarán sujetos a obligaciones estrictas antes de poder comercializarse.

En particular, todos los sistemas de identificación biométrica remota se consideran de alto riesgo y están sujetos a requisitos estrictos. Su uso en espacios de acceso público con fines policiales está prohibido en principio. Las excepciones específicas están estrictamente definidas y reguladas (por ejemplo, cuando sea estrictamente necesario para buscar a un niño desaparecido, prevenir una amenaza terrorista específica e inminente o detectar, localizar, identificar o procesar a un autor o sospechoso de un delito grave).

Riesgo limitado, es decir, sistemas de IA con obligaciones específicas de transparencia: al utilizar sistemas de IA como los chatbots, los usuarios deben ser conscientes de que están interactuando con una máquina para poder tomar una decisión informada de continuar o dar un paso atrás.

Riesgo mínimo: La propuesta legal permite el uso gratuito de aplicaciones como videojuegos con IA o filtros de spam. La gran mayoría de los sistemas de IA entran en esta categoría. El proyecto de Reglamento no interviene aquí, ya que estos sistemas de IA representan un riesgo mínimo o nulo para los derechos o la seguridad de los ciudadanos.

En términos de gobernanza, la Comisión propone que las autoridades nacionales competentes de vigilancia del mercado supervisen las nuevas reglas, mientras que la creación de una Junta Europea de Inteligencia Artificial facilitará su implementación, además de impulsar el desarrollo de estándares para la IA.

Innovación y desarrollo

Para seguir siendo competitiva a nivel mundial, la Comisión Europea se compromete a fomentar la innovación en el desarrollo y el uso de la tecnología de IA en todas las industrias y en todos los Estados miembros a través del Plan Coordinado sobre IA que utilizará la financiación asignada a través de los programas Europa Digital y Horizonte Europa, así como el Mecanismo de Recuperación y Resiliencia que prevé un objetivo de gasto digital del 20 por ciento y los programas de la Política de Cohesión, para:

  • Crear condiciones propicias para el desarrollo y la adopción de la IA mediante el intercambio de conocimientos sobre políticas, datos y la inversión en capacidades informáticas críticas.
  • Fomentar la excelencia en IA estableciendo una asociación público-privada, creando y movilizando capacidades de investigación, desarrollo e innovación, y poniendo a disposición de las pymes y las administraciones públicas instalaciones de ensayo y experimentación, así como centros de innovación digital.
  • Garantizar que la IA sea una fuerza positiva en la sociedad promoviendo la visión europea de una IA sostenible y fiable a nivel mundial.
  • Desarrollar un liderazgo estratégico en sectores y tecnologías de alto impacto, incluido el medio ambiente, centrándose en la contribución de la IA a la producción sostenible, la salud ampliando el intercambio transfronterizo de información, así como el sector público, la movilidad, los asuntos internos y la agricultura, y la robótica.

El enfoque europeo hacia los nuevos productos

Los llamados productos de maquinaria cubren una amplia gama de productos profesionales y de consumo, desde robots hasta cortadoras de césped, impresoras 3D, máquinas de construcción y líneas de producción industrial.

La Machinery Regulation, un reglamento de la Unión Europea que regula la seguridad de las máquinas y entró en vigor en 2021, definió los requisitos de salud y seguridad para las máquinas. Si bien el Reglamento sobre IA abordará los riesgos de seguridad de los sistemas de IA, el nuevo Reglamento sobre máquinas garantizará la integración segura del sistema de IA en la maquinaria en general. Las empresas deberán realizar una única evaluación de la conformidad.

Además, el nuevo Reglamento sobre Maquinaria responderá a las necesidades del mercado aportando mayor claridad jurídica a las disposiciones actuales, simplificando la carga administrativa y los costes para las empresas al permitir formatos digitales para la documentación y adaptando las tasas de evaluación de la conformidad para las pymes, garantizando al mismo tiempo la coherencia con el marco legislativo para los productos de la UE.

La eficiencia energética es un factor importante a tener en cuenta en el desarrollo y uso de sistemas de IA. Los sistemas de IA pueden consumir mucha energía, por lo que es importante que se desarrollen de forma eficiente.

Transparencia

La nueva normativa europea sobre IA establece requisitos de transparencia para los sistemas de alto riesgo y los sistemas de propósito general con riesgo sistémico. Los creadores de estos sistemas deberán proporcionar documentación técnica, cumplir con las leyes de copyright europeas y redactar un resumen de los datos de entrenamiento. Sin embargo, aún no se ha especificado el grado de detalle o exhaustividad que deben tener estas obligaciones.

Además de estas medidas, los sistemas de propósito general con riesgo sistémico también deberán someterse a pruebas adicionales para evaluar los riesgos y tener la obligación de informar sobre «incidentes graves». Una novedad sorprendente es que estos modelos también deberán informar sobre su eficiencia energética.

En el caso de ChatGPT, el modelo de lenguaje creado por OpenAI, la nueva normativa significaría que la empresa tendría que declarar de forma transparente a la UE qué conjuntos de datos utilizó para entrenar el modelo y cuáles de ellos están protegidos por derechos de autor.

Incumplimiento

Las sanciones por incumplimiento de la Ley de IA son importantes y pueden tener un impacto grave en el negocio del proveedor o del imtegrador. Oscilan entre 10 y 40 millones de euros o entre el 2 % y el 7 % del volumen de negocios anual global, dependiendo de la gravedad de la infracción. Por lo tanto, es esencial que las partes interesadas se aseguren de comprender plenamente la Ley de IA y cumplir con sus disposiciones.

Entre los desafíos que se presentan destaca que la tecnología de la IA avanza rápidamente y plantea nuevos riesgos y oportunidades.

Tags: Ley de Inteligencia ArtificialNormativa

DESTACADO

Entrevistas

“ReeVo quiere ser la primera alternativa europea frente a los hiperescalares”

abril 30, 2025 - Actualizado en mayo 14, 2025

ReeVo se presenta como un proveedor europeo de servicios en la nube y ciberseguridad cuya misión es proteger los activos...

Leer másDetails
Actualidad Infraestructura

Proteger la IA y proteger con IA: la doble apuesta estratégica de Cisco en ciberseguridad

mayo 5, 2025 - Actualizado en mayo 6, 2025

En los últimos meses, Cisco ha dejado claro que la inteligencia artificial no sólo está cambiando la forma en que...

Leer másDetails
Actualidad Datos

Cefiros ofrecerá la solución de Arexdata para ayudar a las empresas a implementar la postura de Seguridad del Dato de la forma más eficiente

marzo 27, 2025

Cefiros ha llegado a un acuerdo de distribución para LATAM con Arexdata, la compañía española de soluciones DSPM que está...

Leer másDetails
Actualidad Infraestructura

Cefiros ofrecerá la solución de Plexicus para ayudar a las empresas a definir su postura de seguridad de aplicaciones 

marzo 10, 2025 - Actualizado en marzo 27, 2025

Cefiros ha llegado a un acuerdo de distribución para LATAM e Iberia con Plexicus, la compañía especializada en soluciones de...

Leer másDetails
Entornos

Factum: “La mediana empresa tiene que madurar mucho en seguridad, pero no saben cómo hacerlo”

septiembre 2, 2024 - Actualizado en septiembre 17, 2024

Factum es una empresa española. Nació en 2009 como compañía integradora especializada en todos los ámbitos de la seguridad IT...

Leer másDetails
Entrevistas

Trend Micro: “Estamos construyendo una compañía más cercana, proactiva y con visión de largo plazo”

abril 23, 2025 - Actualizado en mayo 14, 2025

Fundada hace más de tres décadas, Trend Micro ha experimentado una profunda evolución desde sus orígenes como fabricante de antivirus...

Leer másDetails
Entornos

“Sophos es la opción más sencilla, completa y consistente para cumplir con NIS2”

septiembre 2, 2024 - Actualizado en febrero 26, 2025

En un panorama de amenazas en constante evolución, las empresas no solo deben hacer frente a la seguridad de sus...

Leer másDetails
Entrevistas

Roberto López Gil (Teldat): “El mayor riesgo para un CISO es dejar de estar a la vanguardia”

abril 21, 2025 - Actualizado en mayo 14, 2025

Comprometida con la innovación y el desarrollo de tecnología propia, Teldat se posiciona como un actor clave en el ámbito...

Leer másDetails
Reportajes

NIS2: Empresas y expertos analizan los desafíos de su implementación en España

febrero 24, 2025 - Actualizado en marzo 5, 2025

La implementación de la Directiva NIS2 supone un reto para las empresas en España, según los expertos reunidos en un...

Leer másDetails
Sincategoria

La inteligencia artificial empodera la oferta de HP en el entorno del puesto de trabajo

septiembre 4, 2024

La inteligencia artificial se ha integrado en la oferta de HP en el entorno, crítico, del puesto de trabajo. Ordenadores,...

Leer másDetails
Sincategoria

HP avanza en su objetivo de conseguir un mundo más justo y sostenible

septiembre 18, 2024

Recientemente HP publicó su Informe de Impacto Sostenible 2023 donde se detallan los avances alcanzados por la compañía en materia...

Leer másDetails

SOBRE NOSOTROS

CiberseguridadTIC es una publicación de T.a.i. Editorial con información y análisis para las empresas y profesionales de seguridad

Contáctanos: correo@taieditorial.es

SÍGUENOS EN:

T.a.i. Editorial S.A. ®, marca registrada 2023 | Aviso Legal | Política de Privacidad | Política de Cookies | Anúnciese aquí

No Result
Ver todos los resultados
  • Inicio
  • Datos
    • Actualidad Datos
    • Entrevistas
    • Vídeos
    • Opinión
  • Endpoint
    • Actualidad Endpoint
    • Entrevistas
    • Vídeos
    • Opinión
  • Identidades
    • Actualidad Identidades
    • Entrevistas
    • Vídeos
    • Opinión
  • Infraestructuras
    • Actualidad Infraestructura
    • Entrevistas
    • Vídeos
    • Opinión
  • Mercado
  • Debates
    • Almuerzos TAI
      • Identidad digital: clave en la gestión de riesgos y cumplimiento normativo 2024
      • Desenmascarando al enemigo, Threat Attribution Engine y servicios de IA aplicada 2024
      • Colaboración segura nunca compromete la seguridad 2024
      • Unificar para identificar 2023
      • Transformando el comportamiento de los usuarios 2023
    • Debates TAI
      • Debate endpoints: XDR, IoT 2025
      • DSPM la nueva frontera de la seguridad de los datos 2025
      • Tendencias de ciberseguridad 2025
      • La seguridad empieza por la identidad 2024
      • Debate MDR 2024
      • Debate CSPM – CNAPP 2024
      • SASE: Protegiendo su negocio en un mundo cada vez más conectado 2024
      • Debate ciberinteligencia 2024
      • Debate seguridad OT 2024
      • Debate ransomware 2024
      • Debate seguridad en movilidad 2024
      • Debate seguridad sector sanitario 2024
      • Debate Zero Trust 2024
      • Debate seguridad de las aplicaciones 2023
  • Reportajes
  • Revista Online
    • Mayo 2023
    • Abril 2023
    • Marzo 2023
    • Febrero 2023
  • FORO TAI
    • BLINDANDO EL FUTURO DIGITAL EN UN MUNDO INTERCONECTADO
    • LA INNOVACIÓN COMO ALIADA DE LA CIBERSEGURIDAD
    • EMPRESA TECNOLÓGICAMENTE MODERNA Y SEGURA
    • INNOVACIÓN DISRUPTIVA
  • Suscripciones

© 2025 JNews - Premium WordPress news & magazine theme by Jegtheme.

Este sitio web almacena cookies técnicas esenciales para el buen funcionamiento de la página. Estas cookies sirven para mejorar nuestro sitio web y poder ofrecer su funcionalidad completa. No utilizamos cookies de seguimiento para publicidad, ni para redes sociales, ya que cuando comparte información con una red social, será al entrar en ésta cuando le pidan el consentimiento a esas cookies. Para conocer más acerca de las cookies que utilizamos, pulse en Política de cookies. Puede visitar nuestra política de privacidad para saber más sobre el tratamiento de sus datos Política de privacidad. Pulse en aceptar, para minimizar