La Inteligencia Artificial está ocupando cada día más un lugar muy importante en nuestras vidas que, con seguridad, agilizan la resolución de muchas cuestiones cotidianas. Se trata de una de las innovaciones tecnológicas más transformadoras al presente y se ha vuelto tan útil en varios aspectos, que casi nos parece imprescindible en muchos de ellos
En esta nota nos interesa analizar el uso de la IA desde el punto de vista del Derecho. Y en esta área, si bien es cierto que la automatización de tareas está cambiando la forma de trabajar y de tomar decisiones, no es menos cierto los peligros que conlleva y los problemas legales que se presentan en cuanto a la responsabilidad legal, la privacidad y protección de datos y el sesgo algorítmico.
Responsabilidad legal
Con relación a la responsabilidad legal el problema está dado en que la IA, en lugar de basarse en decisiones humanas, lo hace a partir de algoritmos y datos, lo cual nos lleva a preguntarnos quién es el responsable. En el ámbito legal, por ejemplo, ¿quién es el responsable en caso de una mala interpretación de la ley?; ¿qué ocurre si en base a las respuestas que nos brinda la IA se toma una decisión equivocada plasmada en una sentencia? La responsabilidad, ¿sería del fabricante del sistema, del programador o del usuario final? Normalmente recae en el usuario final. Pero hay casos particulares, como los vehículos sin conductor o los drones. ¿Quién es el responsable en caso de accidentes?
Privacidad y protección de datos
Es sabido que la IA recopila muchísimos datos personales, algunos de carácter estrictamente confidencial, lo cual nos lleva a plantearnos cómo proteger los datos y cómo alinearnos a la transparencia y al consentimiento requerido legalmente para estos casos.
Recordemos que en nuestro país está vigente la Ley 25.326, de Protección de los Datos Personales, que dispone no solamente los principios generales para la protección de datos y los derechos de los titulares de los mismos, sino también quiénes son los usuarios y responsables de los archivos, registros y bancos de datos, las funciones y atribuciones de los organismos de control, las sanciones que corresponden a los responsables, que van desde las administrativas, la responsabilidad por daños y perjuicios derivados de la inobservancia de la ley, hasta sanciones penales que incluyen penas de prisión.
El objetivo de la ley es “… la protección integral de los datos personales asentados en archivos, registros, bancos de datos, u otros medios técnicos de tratamiento de datos, sean éstos públicos, o privados destinados a dar informes, para garantizar el derecho al honor y a la intimidad de las personas…” (Artículo 1).
Establece la necesidad del consentimiento del titular de los datos personales dados en forma libre, expresa e informada, debiendo constar por escrito o cualquier otro medio que se le equipare (Artículo 5).
Asimismo, la ley legisla sobre la Acción de protección de los datos personales o de hábeas data, dentro de cuyas normas destacamos el artículo 40 referido a la Confidencialidad de la información, que no la pueden alegar los archivos, registros o bancos de datos públicos para evitar la remisión de informes, excepto “… el caso en que se afecten las fuentes de información periodística”. En el inciso 2 de dicho artículo, se dejan a salvo los casos incluidos en las excepciones al derecho de acceso, rectificación o supresión, autorizadas por la presente ley o por una ley específica.
A la luz de esta ley, cabe preguntarnos si los datos que utiliza la IA están reñidos o no con la observancia de la misma, muchas de cuyas normas son de orden público.
Sesgo algorítmico
Este es otro problema que se presenta al utilizar los sistemas de IA ya que al estar basados en algoritmos y datos, pueden estar sujetos a sesgos o prejuicios. Así, podemos encontrar distorsiones en los datos utilizados para desarrollar un modelo de IA. Puede deberse a muchos factores, entre los cuales encontramos la inclusión de datos incorrectos o incompletos, la exclusión de cierta categoría de datos o la selección de algunos de ellos que reflejan solamente una realidad parcial o limitada, pudiendo dar lugar a predicciones incorrectas o sesgadas en el mundo, las cuales distan de la verdad.
Debido a los cuestionamientos que genera la utilización indiscriminada de datos y la necesidad de protegernos, la Agencia de Acceso a la Información Pública (AAIP), por Resolución 161/2023, creó un “Programa de transparencia y protección de datos personales en el uso de la inteligencia Artificial”, instruyendo a las Direcciones Nacionales de Evaluación de Políticas de Transparencia y protección de datos personales para la realización conjunta de acciones necesarias para la ejecución del programa, y el establecimiento de mecanismos adecuados para su monitoreo y evaluación.
Asimismo, mediante la Disposición 2/2023 emanada de la Jefatura de Gabinete de Ministros, se aprobaron las “RECOMENDACIONES PARA UNA INTELIGENCIA ARTIFICIAL FIABLE”, plasmadas en los ANEXOS I y II. Este último contiene el esquema gráfico de las etapas de Proyectos de Inteligencia Artificial, en tanto el ANEXO I, contempla las recomendaciones que buscan dar herramientas para las personas que usan la IA, incluyendo aspectos éticos, distintos usos de la IA, los diferentes riesgos asociados y los instrumentos de control para identificar responsabilidades, entre otras cuestiones.
Recientemente, la AAIP publicó, el 27 de septiembre de 2024, la Guía de la AAIP para usar la Inteligencia Artificial de manera responsable, trabajo que se enmarca en el “Programa Nacional de Transparencia y Protección de datos personales en el uso de la inteligencia Artificial de la AAIP “(Res.161/2023), que busca impulsar procesos de análisis, regulación y fortalecimiento de capacidades para acompañar el desarrollo y uso de la IA, tanto en el sector público como en el privado, buscando que las entidades que usen estas herramientas garanticen el derecho a la transparencia y a la protección de datos personales de la ciudadanía.
Su objetivo es atender riesgos y preocupaciones en el uso de la Inteligencia Artificial (IA), tanto en los procesos que buscan personalizar experiencias de usuarios, tomar decisiones basadas en evidencia, como en aquellos orientados a automatizar procesos, reducir tiempos y mejorar resultados, entre otros, siendo sus recomendaciones más destacadas, las siguientes:
• Realizar evaluaciones de impacto, que permitan identificar y mitigar potenciales riesgos en materia de protección de datos antes de implementar sistemas basados en Inteligencia Artificial.
• Armar equipos multidisciplinarios, los que facilitarán el abordaje de desafíos técnicos y éticos de la IA.
• Cumplir con el principio de explicabilidad, para que los sistemas de IA puedan ser transparentes y explicables.
• Proteger los datos personales, incluyendo medidas de seguridad que garanticen el correcto tratamiento de estos datos y los derechos de sus titulares.
• Considerar el ciclo de vida completo de la IA, considerando las recomendaciones específicas.
Beneficios de su aplicación en el ámbito del Derecho
No podemos negar los beneficios que tiene la utilización de la IA en esta área, entre los cuales podemos mencionar: la automatización de las tareas legales repetitivas, con lo cual se ahorra tiempo y recursos, reduciendo costos permitiendo enfocarnos en tareas más complejas; el análisis de grandes cantidades de datos con velocidad y precisión, la identificación de patrones y tendencias en leyes y jurisprudencias.
Teniendo en cuenta todas estas ventajas por un lado, pero riesgos por el otro, y las recomendaciones y normas vigentes que buscan proteger la transparencia y los datos personales, el desafío que se plantea nos conmina a hacer un uso responsable de la IA, a fin de extraer la mayor eficiencia con su utilización, sin vulnerar el derecho de las personas.
Por último, tener en cuenta estas normas, las guías y las recomendaciones, permite a las personas humanas y jurídicas conocer herramientas para reclamar sus derechos cuando éstos son afectados.
Fuentes:
• Prigioni F.(20 de marzo de 2023): “Inteligencia Artificial y Derecho”. Columna de la Revista Pensamiento Penal. Recuperado en https://www.pensamientopenal.com.ar/doctrina/90667-inteligencia-artificial-y-derecho
• Ley 25.326 Protección de Datos Personales. Recuperado en https://servicios.infoleg.gob.ar/infolegInternet/anexos/60000-64999/64790/texact.htm
• Resolución 161/2023-AAIP, Recuperado en https://www.boletinoficial.gob.ar/detalleAviso/primera/293363/20230904
• Disposición 2/2023 Jefatura de Gabinete de Ministro. RECOMENDACIONES PARA UNA INTELIGENCIA ARTIFICIAL FIABLE. Recuperado en https://www.argentina.gob.ar/normativa/nacional/disposici%C3%B3n-2-2023-384656/texto
