Cada día que pasa, las diferentes plataformas de inteligencia artificial (IA) se profundizan, avanzan e integran en la rutina de formas que apenas se notan. No obstante, algunos expertos han comenzado a alertar sobre los riesgos del uso excesivo de la IA, por lo que han surgido debates en diferentes niveles y escenarios que plantean desde problemas sociales inmediatos como la “desinformación”, “manipulación” y hasta amenazas de “pérdida de control” a largo plazo.

En esa línea, Gustavo Béliz, exministro del Interior y miembro de la Academia de Ciencias Sociales del Vaticano, alertó sobre la “preocupación” de los propios científicos que la desarrollan. Subrayó el debate ético que impulsa el Vaticano ante las “líneas rojas” de la IA general y el peligro de la “agencia autónoma”, donde las máquinas tomen decisiones desalineadas de los humanos. El exfuncionario llamó a un debate ético urgente, en el marco del cierre del encuentro anual de Agronegocios “Transformación digital en primera persona”, del Centro de Agronegocios y Alimentos de la Universidad Austral, que se realizó este martes en el Malba. Allí se habló del uso de las plataformas y cómo las empresas de tecnología las aplican al agro.

“Profundiza el cambio”: el Gobierno implementó una fuerte desregulación en agroquímicos

Béliz destacó que, por el impulso del Papa Francisco, el Vaticano comenzó a analizar este fenómeno a través de un trabajo que comenzó con la publicación “Algoritmo Holandia” y que ha congregado a premios Nobel y científicos de primer nivel para debatir sobre IA y biotecnología. Dijo que la Academia de Ciencias Sociales ha intensificado su trabajo, reuniendo recientemente a 50 de los “científicos top a nivel mundial” en debates de frontera sobre IA.

“En ese seminario analizamos varias cuestiones: la ética no es menor”, afirmó. Béliz señaló que, si bien existen “enormes oportunidades” para el desarrollo humano y la paz, también hay riesgos significativos. “Me tocó firmar hace unas semanas un llamamiento con otros científicos mundiales, sobre las líneas rojas que no puede pasar un sistema de inteligencia artificial general”, afirmó.

Además, citó, entre otros referentes, al economista del Instituto Tecnológico de Massachusetts, David Autor, mientras destacó que “hay mucho miedo” en torno a la IA. Subrayó que esta preocupación no proviene de “comentaristas de café”, sino de los propios científicos que desarrollaron los modelos de lenguaje. “Nos están diciendo ‘cuidado’, porque si la inteligencia artificial traspasa ciertos límites, puede convertirse en un riesgo existencial para la humanidad”, advirtió y diferenció tres tipos de “agencias” con las que se convive.

En primer lugar citó la agencia humana, es decir, la toma de decisiones con libre albedrío. Y, segundo, la agencia híbrida, aquella donde las decisiones que toman mediadas por la tecnología (como los smartphones). Habló también de la agencia autónoma, que sería un riesgo: “Las máquinas tomando decisiones por sí mismas, desalineadas de lo que es el diseño de los que la fabricamos”. Aunque aclaró que aún no se ha llegado a esa “inteligencia general autónoma”, el debate científico sitúa su llegada en un plazo que va “de 7 meses a 2 años”, mientras otros lo ven imposible.

Describió el estado actual como una “gran fábrica” holística e indicó que la IA generativa (como ChatGPT) ya está siendo superada por “agentes colaborativos” y que esto presenta oportunidades geopolíticas para la Argentina y la región.

En la agroindustria mencionó la necesidad de potenciarse en infraestructura, donde surge la necesidad de agregar valor a minerales críticos, generar data centers sostenibles y mejorar la conectividad (especialmente la brecha rural-urbana) para “achicar costos”.

En el caso de la bioingeniería, aseguró que el debate va más allá de los drones. Mencionó a Jennifer Doudna (creadora de Crispr y miembro de la Academia) y los debates éticos sobre los “bebés de diseño”. “También puede mejorar la calidad del cacao, del arroz, del trigo”, contrapuso al destacar el potencial de la tecnología aplicada con ética.

Con respecto de la inversión en seguridad, criticó que solo entre el 3% y el 4% de la inversión mundial en IA se destina a la seguridad de los modelos, confiabilidad, evitar “alucinaciones”, calidad de datos. Dijo también que “están surgiendo muchas nuevas ocupaciones o profesiones”. Paradójicamente, citó a Geoffrey Hinton, uno de los llamados “padres” de la IA, y sostuvo que la profesión del futuro podrían ser los “plomeros”, dado que el código, antes la gran habilidad de los profesionales, hoy lo hacen las máquinas.

El riesgo principal, finalizó, es que el ser humano no adopte la tecnología adecuadamente. “Ese es el principal riesgo que enfrenta hoy la humanidad. Convertirnos nosotros en un artefacto, en lugar de la tecnología ser un artefacto para el resto de un mundo muy apropiado”.