Servicios de Asesoría y Capacitación Empresarial, S. C.

   

English

   

   

Français

   

   

Deutsch

OBJETIVO DEL CURSO.

Conocer y aplicar el Reporte Técnico ISO/IEC/TR 5469:2024 Inteligencia Artificial - Seguridad funcional y sistemas de inteligencia artificial para describir las propiedades, factores de riesgo, métodos y procesos disponibles relacionados con:

1. uso de la inteligencia artificial dentro de una función relacionada con la seguridad para realizar la funcionalidad;
   
   
2. uso de funciones relacionadas con seguridad no relacionada con inteligencia artificial para garantizar la seguridad de un equipo controlado por inteligencia artificial;
   
   
3. uso de los sistemas de inteligencia artificial para diseñar y desarrollar funciones relacionadas con la seguridad.

Nota 1: El uso de la tecnología de inteligencia artificial (IA) en la industria ha aumentado significativamente en los últimos años y se ha demostrado que la inteligencia artificial ofrece beneficios en ciertas aplicaciones. Sin embargo, existe información limitada sobre la especificación, el diseño y la verificación de sistemas de inteligencia artificial funcionalmente seguros o sobre cómo aplicar la tecnología de inteligencia artificial para funciones que tienen efectos relacionados con la seguridad. En el caso de las funciones realizadas con tecnología de inteligencia artificial, como el aprendizaje automático (ML), es difícil explicar por qué se comportan de una manera particular y garantizar su rendimiento. Por lo tanto, siempre que se utilice la tecnología de inteligencia artificial en general y, especialmente, cuando se utiliza para implementar sistemas relacionados con la seguridad, es probable que surjan consideraciones especiales.

Nota 2: el propósito del Reporte Técnico ISO/IEC/TR 5469:2024 es permitir al desarrollador de sistemas basados en la seguridad para aplicar apropiadamente tecnologías de inteligencia artificial como parte de las funciones de seguridad mediante el fomento de la conciencia de las propiedades, factores de riesgo de seguridad funcional, métodos de seguridad funcional disponibles y restricciones potenciales de tecnologías de inteligencia artificial. El Reporte Técnico ISO/IEC/TR 5469:2024 también proporciona información sobre los desafíos y conceptos de solución relacionados con la seguridad funcional de los sistemas de inteligencia artificial.

DURACIÓN DEL CURSO: 32 horas.

TEMARIO DEL CURSO.

El temario del curso es el siguiente:

1. Introducción.

1. Objeto y campo de aplicación.
   
   
2. Referencias normativas.
   
   
3. Términos y definiciones.
   
   
4. Términos abreviados.
   
   
5. Visión general de la seguridad funcional.
   1. Generalidades.
   2. Seguridad funcional.
      
      
6. Uso de la tecnología de inteligencia artificial en sistemas eléctricos / electrónicos / electrónicos programables relacionados con la seguridad.
   1. Descripción del problema.
   2. Tecnología de inteligencia artificial en sistemas eléctricos / electrónicos /electrónicos programables relacionados con la seguridad.
      
      
7. Elementos de tecnología de inteligencia artificial y el principio de realización de tres etapas.
   1. Elementos de tecnología para la creación y ejecución de modelos de inteligencia artificial.
   2. El principio de realización de tres etapas de un sistema de inteligencia artificial.
   3. Derivación de criterios de aceptación para el principio de realización de tres etapas.
      
      
8. Propiedades y factores de riesgo relacionados de sistemas de inteligencia artificial.
   1. Visión general.
      1. Generalidades.
      2. Algoritmos y modelos.
         
         
   2. Nivel de automatización y control.
      
      
   3. Grado de transparencia y explicabilidad.
      
      
   4. Aspectos relacionados con los ambientes.
      1. Complejidad del ambiente y especificaciones vagas.
         
         
      2. Aspectos relacionados con cambios en el ambiente.
         1. Deriva de los datos.
         2. Concepto de la deriva.
            
            
      3. Aspectos relacionados con el aprendizaje del ambiente.
         1. Algoritmos de jaqueo de recompensas.
         2. Exploración segura.
            
            
   5. Resiliencia a entradas adversas e intencionalmente maliciosas.
      1. Visión general.
      2. Mitigaciones generales.
      3. Ataques al modelo de inteligencia artificial: aprendizaje automático adversario.
         
         
   6. Aspectos de hardware de inteligencia artificial.
      
      
   7. Madurez de la tecnología.
      
      
9. Técnicas de verificación y validación.
   1. Visión general.
      
      
   2. Problemas relacionados con la verificación y validación.
      1. La no existencia de una especificación a priori.
      2. La no separabilidad de un comportamiento particular del sistema.
      3. Limitación de la cobertura de la prueba.
      4. Naturaleza no previsible.
      5. Derivas y mitigaciones de riesgo de largo plazo.
         
         
   3. Posibles soluciones.
      1. Generalidades.
         1. Instrucciones para la mitigación del riesgo.
         2. Métricas de inteligencia artificial y verificación y validación de seguridad.
            
            
      2. Relación entre distribuciones de datos y HARA.
      3. Preparación de datos y validación y verificación a nivel modelo.
      4. Selección de las métricas de inteligencia artificial.
      5. Pruebas a nivel sistema.
      6. Técnicas de mitigación para limitación de tamaño de datos.
      7. Notas y recursos adicionales.
         
         
   4. Pruebas virtuales y físicas.
      1. Generalidades.
      2. Consideraciones sobre pruebas virtuales.
      3. Consideraciones sobre pruebas físicas.
      4. Evaluación de la vulnerabilidad a fallas aleatorias de hardware.
         
         
   5. Seguimiento a retroalimentación de incidentes.
      
      
   6. Una nota sobre inteligencia artificial explicable.
      
      
10. Medidas de control y mitigación.
    1. Visión general.
       
       
    2. Consideraciones de arquitectura del subsistema de inteligencia artificial.
       1. Visión general.
       2. Mecanismos de detección para el cambio.
       3. Uso de una función de supervisión con restricciones para controlar el comportamiento de un sistema dentro de límites seguros.
       4. Redundancia, conceptos de ensamble y diversidad.
       5. Diseño del sistema de inteligencia artificial con evaluación estadística.
          
          
    3. Aumento de la confiabilidad de los componentes que contienen tecnología de inteligencia artificial.
       1. Visión general de los métodos de los componentes de inteligencia artificial.
       2. Uso de aprendizaje robusto.
       3. Tecnologías de optimización y compresión.
       4. Mecanismos de atención.
       5. Protección de datos y parámetros.
          
          
11. Procesos y metodologías.
    1. Generalidades.
    2. Relaciones entre el ciclo de vida de la inteligencia artificial y el ciclo de vida de la seguridad funcional.
    3. Fases de la inteligencia artificial.
    4. Documentación y artefactos de seguridad funcional.
    5. Metodologías.
       1. Visión general.
       2. Modelos de falla.
       3. Análisis del modo y efecto de la falla del proceso para el entrenamiento fuera de línea de una tecnología de inteligencia artificial.
          
          
12. Anexo A Aplicabilidad de IEC 61508-3:2010 Seguridad funcional de los sistemas eléctricos / electrónicos/ electrónicos programables relacionados con la seguridad funcional para elementos de tecnología de inteligencia artificial Parte 3: Requisitos de software, a elementos de de tecnología de inteligencia artificial.
    1. Visión general.
    2. Análisis de aplicabilidad de técnicas y medidas en IEC 61508-3:2010 Anexo A y B a elementos de tecnología de inteligencia artificial.
       
       
13. Anexo B Ejemplos de aplicar el principio de realización de tres etapas.
    1. Visión general.
    2. Ejemplo para un caso de uso automotriz.
    3. Ejemplo para un caso de uso de robótica.
       
       
14. Anexo C Proceso posible y tecnología útil para la verificación y validación.
    1. Generalidades.
    2. Distribución de datos y HARA.
    3. Cobertura de datos para riesgos identificados.
    4. Diversidad de datos para riesgos identificados.
    5. Confiabilidad y robustez.
       
       
15. Anexo D Mapeo entre ISO/IEC 5338:2023 Tecnología de la información - Inteligencia artificial - Procesos del ciclo de vida de un sistema de inteligencia artificial y la serie IEC 61508.
    
    
16. Taller de ejercicios de interpretación y aplicación del Reporte Técnico ISO/IEC/TR 5469:2024.

Regresar a los cursos de sistemas de gestión de inteligencia artificial.

Regresar a los cursos de sistemas de gestión.