¿De quién es realmente un agente de inteligencia artificial?

Cada vez es más común que empresas y desarrolladores presenten agentes de inteligencia artificial como productos propios. Se diseñan interfaces, se crean instrucciones específicas, se alimentan con información determinada y se integran a procesos concretos hasta construir una herramienta que, frente al usuario, parece funcionar como una unidad. Sin embargo, en la mayoría de los casos estos agentes dependen de modelos desarrollados por terceros, infraestructura en la nube, APIs, bases de datos y distintos proveedores que intervienen en su funcionamiento. Esto obliga a cuestionar hasta qué punto puede afirmarse que un agente realmente pertenece a quien lo desarrolla o configura.

El problema parte de entender al agente de inteligencia artificial como un producto completamente independiente. En realidad, su funcionamiento suele depender de una cadena tecnológica en la que participan distintos actores. El desarrollador puede ser responsable de la configuración, de la lógica de negocio, de la información con la que alimenta el sistema o de la forma en que conecta distintas herramientas, pero ello no significa que sea propietario ni que tenga control absoluto sobre todos los componentes que permiten que el agente funcione.

Esta distinción se vuelve especialmente relevante cuando se analiza la responsabilidad. Mientras todo funciona correctamente, la intervención de terceros puede pasar prácticamente inadvertida. El problema aparece cuando existe una falla, una filtración de información, un resultado incorrecto o cualquier afectación derivada del funcionamiento del sistema. En ese momento ya no basta con afirmar que el agente fue desarrollado por una determinada empresa, porque puede existir una diferencia importante entre quien ofrece el servicio y quien provocó técnicamente la falla.

Pensemos, por ejemplo, en un agente utilizado para analizar contratos. La empresa que lo desarrolla puede haber creado la plataforma, definido sus instrucciones y organizado la experiencia del usuario, pero el procesamiento de la información podría realizarse mediante un modelo externo y almacenarse temporalmente en infraestructura perteneciente a otro proveedor. Si se produce una vulneración de información confidencial, atribuir automáticamente toda la responsabilidad al desarrollador puede ignorar cómo funciona realmente el sistema. Sin embargo, permitir que éste simplemente se deslinde argumentando que el problema ocurrió en un servicio externo tampoco resulta suficiente.

Quien desarrolla y comercializa un agente toma decisiones que tienen consecuencias directas sobre su funcionamiento. Decide qué modelos utilizar, con qué proveedores trabajar, qué información será enviada a cada servicio, qué permisos se concederán y qué medidas de seguridad se implementarán. Aunque no controle cada elemento de la infraestructura, existe un nivel de decisión suficiente para exigir que conozca razonablemente la arquitectura tecnológica que ofrece a sus clientes y los riesgos asociados a ella.

Esto tampoco implica que deba responder de manera absoluta por cualquier problema relacionado con el sistema. La responsabilidad tendría que analizarse de acuerdo con el grado de control y participación de cada actor. Una falla directamente vinculada con la configuración realizada por el desarrollador no puede tratarse igual que una interrupción provocada exclusivamente por un proveedor externo. De la misma forma, también puede existir responsabilidad del propio usuario cuando utiliza el agente fuera de las condiciones para las que fue diseñado o toma decisiones relevantes sin la supervisión necesaria.

Por ello, el debate sobre los agentes de inteligencia artificial no debería concentrarse únicamente en determinar quién es su propietario. Resulta más útil identificar quién controla cada parte del sistema, qué decisiones toma cada participante y qué capacidad tiene para prevenir o corregir un problema. En una tecnología construida a partir de múltiples proveedores, la responsabilidad necesariamente tendrá que distribuirse de acuerdo con esas funciones.

También existe una consecuencia práctica importante. Las empresas que desarrollen agentes no deberían limitarse a conocer únicamente la capa visible de su producto. Tendrán que saber qué servicios intervienen en cada proceso, qué información recibe cada proveedor y qué sucede con los datos durante su recorrido. Mientras más compleja sea la cadena tecnológica, mayor será la necesidad de poder reconstruirla cuando ocurra un incidente.

Uno de los principales retos de los agentes de inteligencia artificial será precisamente éste. No parece correcto afirmar que una persona es propietaria absoluta de un sistema construido sobre componentes que pertenecen y son operados por distintas empresas. Al mismo tiempo, la participación de terceros no debería convertirse en una forma de diluir cualquier responsabilidad. Quien decide integrar diferentes tecnologías y ofrecerlas como un solo producto debe asumir responsabilidad por las decisiones que efectivamente se encuentran bajo su control, mientras que los demás participantes deberán responder por aquellas que correspondan a su propia intervención.

La discusión, entonces, tendría que alejarse de la pregunta tradicional sobre quién creó el agente y concentrarse cada vez más en determinar quién tomó cada decisión dentro de su funcionamiento, qué nivel de control tenía sobre ella y si puede demostrar cómo ocurrió.

Pablo Payán Flores escribe para el blog de IUDEX, la IA legal especializada en derecho mexicano. Contacto: pablopayan@iudex.mx.