| Protección de datos | Los datos sensibles pueden revelarse a través de mensajes, salidas del sistema o componentes conectados al sistema. | Restringir el acceso a los datos y establecer políticas para el uso de herramientas de IA autorizadas. |
| Cumplimiento de la normativa | Un flujo de trabajo basado en inteligencia artificial procesa datos o genera resultados que incumplen los requisitos normativos del sector o locales. | Comprueba los requisitos de cada caso de uso y documenta los controles y procedimientos de verificación aplicables. |
| Resultados inexactos | Las respuestas que parecen plausibles pueden contener errores. | Basar las respuestas en datos fiables y verificar los resultados que tengan consecuencias importantes. |
| Sesgo e imparcialidad | El contenido o las recomendaciones generados pueden estar sesgados en contra de determinados grupos. | Resultados de pruebas realizadas con diversos grupos de usuarios y decisiones de revisión que tienen un impacto significativo. |
| Transparencia y auditabilidad | No se informa a los usuarios de que están interactuando con una IA, y los empleados no pueden verificar las fuentes de las respuestas ni realizar un seguimiento de las acciones del agente. | Indica el uso de la IA, cita las fuentes (siempre que sea posible) y registra las acciones significativas. |
| Propiedad intelectual | El contenido generado puede reproducir material protegido por derechos de autor o plantear dudas sobre los derechos de uso. | Comprueba los datos introducidos, las condiciones del proveedor del servicio y los resultados del sistema antes de la publicación. |
| Inyección inmediata | El contenido malicioso puede manipular el comportamiento del sistema de IA. | Considera que el contenido externo no es fiable y comprueba los flujos de trabajo asociados. |
| Acciones no controladas de los agentes | El agente realiza una acción no deseada en el sistema empresarial. | Restringir los derechos de acceso, llevar un registro de actividades y exigir autorización para las operaciones importantes. |
| Coste y retorno de la inversión | Los costes de uso e integración aumentan sin que ello aporte un valor empresarial claro. | Realiza un seguimiento de los resultados del uso del sistema, así como de los costes de su implantación. |
| Falta de implicación y de competencias | No hay ningún equipo encargado de verificar los resultados, supervisar el rendimiento ni resolver los problemas. | Asignar claramente las responsabilidades, definir los procedimientos de verificación y escalado, y organizar cursos de formación para el personal que utilice el sistema. |
Contrátanos
Sobre nosotros
Opinión de un cliente
