Como vemos en el día a día, la mayoría de industrias están viviendo un cambio fundamental donde la Inteligencia Artificial (IA) esta teniendo un papel muy relevante. Vemos como los llamados Early Adopters están avanzando en su liderazgo y aceleran las ventajas que le dan los datos, ya sean propios o generados por su ecosistema.

En este artículo me gustaría hablar del uso de la tecnología de la IA para dar valor a las empresas o entidades públicas pero de forma responsable.

¿Por qué la Inteligencia Artificial?

La Inteligencia Artificial es la tecnología que nos permite ampliar nuestro ingenio como seres humanos y nos proporciona tres capacidades fundamentales: Razonar, Entender e Interactuar de forma ágil, rápida y escalable.

Permitirme hacer una pausa para dar una definición de estos tres conceptos tan importantes:

  • Razonar – Capacidad para aprender y formar conclusiones con datos imperfectos
  • Entender – Capacidad para interpretar el significado de los datos, incluyendo texto, voz, imágenes
  • Interactuar – Capacidad para interactuar con las personas de maneras naturales

Es decir, un sistema basado en la IA nos permite aprender y llegar a conclusiones con la información disponible. Así mismo, nos ayuda a interpretar el significado de los datos independientemente de su fuente. Por ejemplo, una grabación de una conversación o imágenes tomadas por una cámara de seguridad. Por último, nos permite interactuar con personas de manera natural sin impactar a su experiencia como usuario ni incrementar costes.

Cuando usamos tecnologías de IA, debemos conocer los potenciales riesgos que su uso podría conllevar y evitar así, posibles perjuicios en temas como la equidad, la fiabilidad, la seguridad e incluso la privacidad.

Las fuentes de error se resumen en tres categorías:

  • los datos usados por los modelos de aprendizaje,
  • los propios modelos o algoritmos que utilizamos,
  • y los escenarios de uso, especialmente relativos a su evolución a lo largo del ciclo de vida del producto o servicio.

Principios de la IA

Permitirme explicarlo usando el caso de Microsoft ya que es la empresa donde trabajo actualmente y donde me consta de primera mano que están comprometidos a generar confianza en la tecnología y su uso, abarcando la privacidad, la seguridad, la IA responsable, así como la seguridad digital.

¿Cómo lo hace Microsoft? Parte de la respuesta la encontramos en la tecnología que desarrollan y de su riguroso proceso metodológico en las fases de diseño, desarrollo, pruebas y monitorización . No obstante, me quiero centrar en sus seis principios para crear sistema basado en la IA ya que a mi entender, es algo que todos podemos reproducir y que me consta, Microsoft aplica en la fase de aceptación y calidad de sus servicios antes de ponerlo a disposición de sus clientes y socios.

Estamos hablando de la creación de sistemas justos, que sean fiables y seguros, que garanticen la privacidad de la información, que sea inclusivo, que este dotado de sistemas transparentes con elementos de auditoria y seguimiento. Finalmente, algo que personalmente considero fundamental, ser responsables del uso de los sistemas basados en IA impacta a nuestro negocio, y a las personas que lo usan directa e indirectamente.

Estos principios de IA capturan perfectamente la perspectiva empresarial sobre las influencias más importantes de las tecnologías de IA, balanceando los beneficios de la IA como a sus potenciales riegos y los daños asociados derivados de su utilización y el uso indebido de las tecnologías de IA.

Tipos de Casos Sensibles

Si bien es cierto que todas las soluciones de IA deben seguir los valores y principios que comente anteriormente, como arquitectas y arquitectos debemos reconocer que no todas las soluciones tienen el mismo impacto en las personas, la organización e incluso en la sociedad.

Soy de la opinión que es nuestra responsabilidad conocer los tres tipos de casos de uso sensibles que participan en la toma de decisiones automatizadas y modelos de recomendación:

  • Denegación de Servicios – Soluciones que pueden impactar directamente en la denegación de servicios. Por ejemplo, financiamiento, prestamos, hipotecas, seguros, inscripción educativa, reclutamiento, o acceso a la atención médica.
  • Riesgo de daño – Soluciones que pueden crear un riesgo significativo de daño físico o emocional de una organización, colectivo o individuo. Por ejemplo, sistemas que participan en la toma de decisiones de vida o muerte, como en el uso militar, o la prestación de servicios Médicos.
  • Libertad personal y privacidad – Soluciones que pueden crear una restricción significativa de la libertad personal o la privacidad. Por ejemplo, en la aplicación de la ley o de las políticas existentes.

Conclusiones

A modo de cierre, cuando estamos diseñando y desarrollando sistemas de tecnologías de información (TI) basados en IA, como arquitectas y arquitectos, debemos hacer una pausa para validar que no estamos delante de un caso sensible, y en caso de que así sea, escalarlo a la dirección de la organización para buscar una solución. Por ello, recomiendo a todas organizaciones ya sean públicas o privadas crear una oficina de responsabilidad para IA que ayuden de forma proactiva y reactiva a garantizar que los sistemas de TI adopten o conlleven a casos de uso sensibles.

Cuando estés diseñando una nueva solución o capturando requerimientos para mejorar una existente, te recomiendo que hagas las siguientes tres preguntas:

  • La primera relativa al propósito del sistema – ¿Se utilizará la tecnología para aumentar las capacidades de las personas e incrementar el impacto positivo en las personas y la sociedad?
  • La segunda es relativa a la Capacidad tecnológica – ¿La tecnología de IA y las personas son capaces de realizar las tareas que la solución debe hacer?
  • Y la última es sobre la Calidad y Fiabilidad – ¿La tecnología será efectivamente diseñada, operada y mantenida por una parte responsable?

Si la respuesta es no o no estamos convencidas o convencidos, entonces podríamos estar ante un caso de uso sensible relativo al propósito del sistema, su capacidad tecnológica o su calidad y fiabilidad. Llegado el caso, busca ayuda y contribuyamos a crecer el negocio con un uso responsable de IA.

Para más información, te sugiero que leas mi artículo en la revista digital Architecture & Governance donde profundizo un poco más y describo como dar más transparencia a los sistemas basados en la IA.