¿Sabías que existe la intensión de un proyecto de ley que busca reglamentar los sistemas de inteligencia artificial, la robotización y las tecnologías ligadas a las diferentes áreas de aplicación? Este proyecto tiene como objetivo principal establecer un marco jurídico acorde a la Inteligencia Artificial, referido al desarrollo, comercialización y utilización de estas tecnologías. Con esto, se intenta evitar riesgos y efectos negativos en los usuarios de dichos sistemas, amparando así los derechos fundamentales de nuestros ciudadanos.
1-. ¿Cuál es tu opinión sobre regular los sistemas de inteligencia artificial y robotización?
De todas maneras es necesario regular estos sistemas, tanto los de inteligencia artificial como los de automatización. Más que nada ver esto desde la perspectiva de que uno no puede darle completa autonomía a estos sistemas sin tener una base importante donde uno pudiese auditarlos en cualquier momento del tiempo, dado que estos sistemas ejecutan tareas y toman decisiones que tienen consecuencias que pueden ser positivas, negativas o nulas pero eventualmente deben ser auditables. La regulación siempre busca el equilibrio por si las cosas salen mal.
Ahora, un tema importante con la Inteligencia Artificial es que tenemos un espectro muy amplio con los tipos de soluciones respecto a las distintas industrias. Probablemente hay industrias más críticas que otras, donde uno podría regular con mayor precisión el uso de inteligencia artificial o procesos automatizados en el área de la salud o de las leyes por ejemplo, donde tendería a pensar que esos sectores son los más críticos, probablemente también incluiría el sector financiero, pero no por la parte operacional sino lo que tiene que ver con procesos que involucren o generen una consecuencia en las personas.
A modo personal, soy un creyente de la autorregulación en este aspecto incluyendo lineamientos bases del regulador (del gobierno), ya que esto cambia tan rápido que creo que es muy difícil hacer regulaciones precisas, pero sí creo que se pueden hacer regulaciones más globales, donde uno le coloca condiciones de borde a estos sistemas.
Por ejemplo, si hablamos sobre la ley de protección de datos, a mi parecer, los sistemas de inteligencia artificial nuevos en su mayoría usan data sintética y son igual de precisos que cuando usan la data real. Entonces, supongamos que tenemos una base de datos de comportamiento y compra de los clientes de una multitienda, y desarrollo un modelo que me permite recomendar compras futuras, eso tiene un cierto nivel de precisión, pero hoy los sistemas nuevos son capaces de generar clientes ficticios con data ficticia, crear un modelo y aplicarlos sobre clientes reales y tiene casi la misma efectividad que el modelo que fue entrenado con data real. Por lo tanto, la ley de protección de datos ya no cumple el objetivo desde el punto de vista técnico, entonces ¿de qué te sirve la ley de protección de datos si ya no necesito los datos de la persona?; podría servirte para otras cosas, pero en el fondo al punto que quiero llegar es ¿qué tanto se puede meter un modelo de inteligencia en leer tus patrones e inducirte a un comportamiento?, creo que eso es poco regulable por eso es importante la autorregulación.
2-. ¿Qué piensas sobre la creación de una comisión nacional de inteligencia artificial?
Me parece bien. Claro que esta comisión debe tener un balance súper bien calibrado entre expertos e industria, y acá haré la separación de los dos entre: el lado político y la sociedad civil, y debe ser complementario. En el caso de expertos me refiero al punto de vista académico, investigadores. Es necesario que esta comisión tenga agentes externos, o sea que hayan miembros de la comisión que estén afuera de Chile.
Por otro lado, en la industria creo necesario que participen expertos en el desarrollo e implementación, porque uno no puede hacer esto sin la industria, ya que es ella la que conoce cuál es la aplicabilidad de estos sistemas en la práctica. Piensa que hoy para poder hacer tus modelos de inteligencia artificial tienes código abierto y tienes la nube, eso quiere decir que cualquier persona puede entrenar relativamente gratis un modelo de inteligencia artificial, puesto que está lleno de conocimiento en internet, por lo tanto niños de colegio hoy hacen sus propios modelos de inteligencia artificial para distintas cosas, entonces tendrías que parar el código abierto, bajar la nube o regular la nube, para parar el desarrollo de la IA, y esas acciones son imposibles, impracticables. Hoy hay una preocupación y muchos quieren parar esto pero en la práctica es imposible parar el desarrollo de la inteligencia artificial, no hay forma.
El lado político es sumamente importante porque ellos son los reguladores, son quienes hacen encajar esto dentro de las leyes existentes, o si habrá que crear nuevas entidades del estado para poder fiscalizar este tipo de desarrollo. La sociedad civil no puede faltar porque esto tendrá un impacto importante en la sociedad, cada desarrollo de la inteligencia artificial irá afectando cada vez más en las personas. De forma positiva en algunas cosas y de forma negativa en otras, soy un convencido que la sociedad en general no tiene la capacidad de adaptarse tan rápido para poder mantenerse vigente en esta era de la inteligencia artificial; hay mucha gente que va a quedar fuera, y hay que hacer algo con esas personas, personas que no tendrán la posibilidad de poder capacitarse para poder mantenerse activos laboralmente, entonces hay que hacer algo con eso, y aunque es complejo que la gente pueda reconvertirse rápidamente, de igual forma es importante capacitar la mayor cantidad de profesionales respecto del desarrollo y uso de inteligencia artificial. El primer grupo será el que se encargue de desarrollar las futuras herramientas de acuerdo a las necesidades particulares de cada organización y el segundo grupo son los que incorporaran estas herramientas en sus tareas diarias, lo que traerá como consecuencia un incremento en su productividad y resultados. Por tanto la sociedad civil juega un rol fundamental en esta comisión.
Así es como creo que debería ser integrada esta comisión, muy balanceada, no debería existir una sobre ponderación de ninguna de las proporciones que nombré anteriormente.
3-. A tu juicio, al incumplir las normas ¿Cómo deberían ser las sanciones?
Es una pregunta difícil porque las sanciones generalmente son económicas, se establecen sanciones económicas muy altas bajo la ley de protección de datos por ejemplo. Creo que hoy hay industrias que tienen tal capital, que la sanción económica no necesariamente les afecta de sobremanera, hoy vemos empresas en distintos rubros pagan multas millonarias y todo sigue exactamente igual.
Entonces deben existir sanciones adecuadas a los distintos niveles de desarrollo en el que se encuentre cada empresa, porque corremos el riesgo de que haya concentración, si las sanciones son muy altas y los requisitos para poder cumplir con las regulaciones también son muy altos, eventualmente lo que pasaría es que las grandes empresas tecnológicas van a monopolizar el desarrollo de inteligencia artificial y todos los emprendedores o investigadores más pequeños quedarían fuera, supongamos que si dentro de la regulación te piden que dentro de tu empresa tengas un auditor de modelos de inteligencia artificial, probablemente un start up no va a tener el capital para invertir en algo así, por lo tanto automáticamente queda fuera, esto es algo que una empresa grande sí podría hacer sin problemas; todo esto nos indica que acá debe existir un balance, un afinamiento que considere múltiples factores respecto de las sanciones.
4-. ¿Hay algo más que quieras agregar sobre el tema?
Pienso que esto es algo disruptivo que viene a cambiar nuestra forma de hacer las cosas, esto afectará salud, educación, cómo interactuamos, cómo convivimos, el acceso al conocimiento. La inteligencia artificial lo que viene a hacer, bajo mi perspectiva, es que viene a democratizar el acceso a la inteligencia, ya que hoy una persona que no tiene conocimiento sobre un tema puede pedirle a la inteligencia artificial desarrollar un proceso X y la inteligencia artificial te lo va a decir, te va a entregar una buena solución. No es lo mismo que ir a Google, encontrar distintas fuentes de información, seleccionarlas, armar la respuesta y entregarla, la IA nos viene a entregar un salto cuántico en este tipo de cosas. Viene a cambiarlo todo de una forma radical.
Hay que ser conscientes que esto tiene de dulce y agraz. Y yo creo que no hay como zafar de eso, no es como las revoluciones industriales que hubo anteriormente, donde se hicieron las primeras máquinas o líneas de producción, donde todo el proceso demoraba años, hoy es completamente diferente, es como “hoy alguien inventó una herramienta tecnológica en Irlanda” y eso, en segundos está acá.
Si el mercado no parte hoy con esto, entonces van a quedar fuera. Y para esto la automatización de los procesos en clave, es el desde. Hay que incorporarlo en todo nivel de procesos.
Rodrigo Prado / Managing Partner – Primus
