- Representantes de los Colegios Profesionales de Ingeniería en Informática, junto a personas vinculadas a las Administraciones Públicas, a la Universidad y al mundo jurídico analizan los aspectos legales y éticos de este avance tecnológico
- “Una inteligencia artificial diseñada por profesionales será una inteligencia artificial segura y útil para la sociedad”, señalan los Colegios Profesionales de Ingeniería Informática del Principado de Asturias
La Semana de Impulso TIC celebró este martes su segunda sesión. En este caso se trató de una mesa de trabajo que congregó a representantes de los Colegios Profesionales de Ingeniería Informática, a personas vinculadas a las Administraciones Públicas, a la Universidad y al mundo jurídico. El tema que se puso encima de la mesa fue la inteligencia artificial en las Administraciones Públicas, sus aspectos legales y éticos.
Al término de la mesa de trabajo, celebrada en Espacio Maqua, se establecieron una serie de conclusiones.
“La aparición de productos y servicios informáticos nuevos que utilizan inteligencia artificial es una oportunidad para mejorar los procesos y la productividad en todos los sectores empresariales e industriales y, también, en las Administraciones Públicas.
Sin embargo, el uso de estos sistemas en determinados ámbitos o aplicaciones tiene indudables implicaciones éticas y legales. ¿Qué sucedería si un sistema que utilizara técnicas de inteligencia artificial para reconocer a personas en la frontera de un país sugiriera con más frecuencia detener a personas con unas determinadas características físicas? Este escenario es real, existen sistemas de reconocimiento de personas que, por fallos en su diseño, actúan de manera discriminatoria.
En esta mesa redonda hemos puesto en común qué usos se está dando a la inteligencia artificial en las administraciones públicas y qué límites legales o éticos existen en la aplicación de esta tecnología. También hemos reflexionado sobre si es necesario adoptar cambios regulatorios en este ámbito. Desde un punto de vista práctico se habla de qué criterios deben tenerse en cuenta al provisionar este tipo de sistemas informáticos y qué acciones deben llevarse a cabo para evitar situaciones de discriminación algorítmica.
Estamos especialmente interesados, asimismo, en los sistemas que dan apoyo a la toma de decisiones o, incluso, toman decisiones de manera autónoma. Como sociedad debemos asegurarnos de definir qué papel debe jugar la inteligencia artificial en la toma de decisiones porque, en caso de que esas decisiones se demuestren que son erróneas ¿qué consecuencias podría haber y quién se hace responsable?
Desde los colegios oficiales creemos que estas reflexiones son cruciales hoy en día y forman parte del debate abierto en la sociedad desde la aparición de nuevas soluciones de inteligencia artificial. Es preciso plantear la regulación de la inteligencia artificial contando con la opinión experta de los profesionales y teniendo en cuenta los derechos de los ciudadanos y el interés general.
Una inteligencia artificial diseñada por profesionales será una inteligencia artificial segura y útil para la sociedad”.
Algunos de los asistentes, también valoraron las aportaciones en esta sesión. Es el caso de Alejandro José Huergo Lora, que destacó que «las Administraciones Públicas deben aprovechar la digitalización mucho más y utilizarla para ser más ágiles y eficientes, reduciendo, por ejemplo, los retrasos que existen para reconocer algunas prestaciones sociales o para tramitar licencias. La digitalización y la IA deben ir a favor de los ciudadanos y utilizarse para hacerles la vida más fácil”.
La Semana de Impulso TIC prosigue este miércoles desde el Centro Niemeyer. Allí se celebrará la tercera jornada desde las 10:00 horas. El título de la sesión será: “Transformando el futuro financiero: el rol fundamental de la ingeniería informática”.
La XIII Semana de Impulso TIC ya está en marcha