El avance acelerado de los modelos de lenguaje y la automatización reavivó a nivel global el debate sobre los límites de la tecnología. En este escenario de incertidumbre, Juan Corvalán, director del Laboratorio de Innovación e Inteligencia Artificial de la Universidad de Buenos Aires (UBA IALAB), analizó el impacto y los riesgos latentes de las herramientas generativas, marcando que, por primera vez en la historia, la humanidad convive con un desarrollo capaz de tomar decisiones de manera autónoma.
De la Comarca Petrolera a las cumbres mundiales de tecnología
Corvalán posee un estrecho vínculo con la comarca petrolera: cursó sus estudios primarios en la Escuela N.° 22 de Plaza Huincul y completó el nivel secundario en el CPEM N° 6 de Cutral Co. Con el paso de los años, el hoy doctor en Ciencias Jurídicas y máster en Inteligencia Artificial se consolidó como una palabra autorizada en la materia a nivel internacional.
Además de dirigir el UBA IALAB, el Tratado de Inteligencia Artificial y Derecho y el posgrado homónimo en la UBA, es co-creador de Prometea —el primer sistema predictivo de IA en Iberoamérica, auditado por el Banco Interamericano de Desarrollo (BID)— y se desempeñó como disertante en instituciones de la talla del MIT, Oxford y la Cumbre Mundial de IA.
Un cambio de paradigma que genera temor legítimo
Para el especialista, el recelo o temor que despierta esta disciplina en el ámbito académico y social se fundamenta en la velocidad de su evolución y en la autonomía del software. Aunque las personas controlan y programan el código base, la IA genera resultados y respuestas que no fueron estipulados de forma explícita en su diseño.
Corvalán trazó un paralelismo para explicar el funcionamiento actual de la IA generativa: comparó la capacidad de simulación de los algoritmos con el trabajo de un actor que imita a un artista, logrando una representación idéntica sin que ello implique que el intérprete sienta o comprenda la vida real del personaje. Sin embargo, advirtió que la tecnología a gran escala ya es capaz de superar la base de datos con la que fue entrenada, abriendo la puerta para que en las próximas décadas las máquinas puedan automejorarse sin supervisión, aproximándose a una "IA fuerte o general" que escape del dominio humano.
Al catalogar este proceso como "la revolución de las revoluciones", el director del laboratorio identificó dos realidades contrapuestas:
·Beneficios significativos: Ofrece herramientas para optimizar la salud, prolongar la expectativa de vida y maximizar la eficiencia de prácticamente cualquier actividad humana.
·Desafíos y temores: Plantea el dilema de si la sociedad cuenta con la capacidad de reconvertir laboral y educativamente a los ciudadanos en plazos de tiempo tan acotados.
Las pruebas a ChatGPT y los márgenes de error
Desde el UBA IALAB se realizó un seguimiento pormenorizado de los modelos de lenguaje multipropósito. Ante la aparición de la versión de acceso público ChatGPT 3.5, un equipo multidisciplinario sometió al sistema a rigurosos testeos.
Al replicar los mismos exámenes tras el lanzamiento de la versión GPT-4, los investigadores constataron una disminución notoria en diversos errores técnicos. No obstante, Corvalán subrayó que los sesgos informativos y las respuestas discriminatorias continúan siendo muy elevados, alcanzando casi un 40%. Fue en este marco donde el académico lanzó una de sus advertencias más categóricas:
“ChatGPT alucina, inventa, fantasea, distorsiona. Es crítico usarlo con responsabilidad para tareas que tienen impacto en las personas”.
Efectos negativos actuales y el dilema de la regulación
El experto derribó el mito de que los perjuicios de la IA pertenecen exclusivamente al futuro o a la ciencia ficción. Sostuvo que en la actualidad la tecnología ya incide directamente sobre la privacidad, la intimidad y la protección de datos personales a raíz del procesamiento automatizado.
Asimismo, enumeró una serie de problemáticas vigentes:
·La proliferación de sesgos de máquina que propician la discriminación.
·La producción masiva de desinformación e informaciones inexactas capaces de desestabilizar procesos democráticos.
·El potenciamiento de delitos complejos en la internet profunda (dark web), tales como el abuso sexual infantil y la sexualización de las mujeres mediante avatares ultra realistas.
Respecto a la toma de decisiones, Corvalán recordó que a través del deep learning (redes neuronales artificiales), los algoritmos ya determinan los contenidos que consumen los usuarios en plataformas cotidianas como Netflix, Spotify, Instagram o TikTok, definiendo la dinámica del entorno digital moderno.
Finalmente, el abogado y tecnólogo enfatizó que el debate actual debe migrar de los principios éticos abstractos —sobre los cuales ya existe un relativo consenso— hacia el cumplimiento de normativas jurídicas concretas y vinculantes. Debido a que la IA carece de fronteras físicas o territorialidad específica, Corvalán propuso la necesidad de suscribir un Tratado Internacional de Inteligencia Artificial que funcione bajo la órbita de un organismo global encargado de auditar las aplicaciones de mayor riesgo, con el fin de aportar previsibilidad a las futuras generaciones.
Corvalán, en paralelo, participa de una consulta pública para definir a los referentes del país en IA de Derecho. Este jueves en la noche estaba en segundo escalón del podio. Los interesados en expresar su opinión, pueden hacer en este link:
https://ninolegal.com/referentes-ia-derecho-argentina-2026/juan-corvalan
