La Unión Europea (UE) se propone ser el primer bloque a nivel mundial en adoptar un marco legal integral para limitar los excesos de la IA, pero al mismo tiempo garantizar la innovación.

Entre las preocupaciones centrales de la iniciativa europea están la difusión de contenidos peligrosos, la manipulación de la opinión mediante la creación de imágenes falsas y sistemas de vigilancia masiva.

El gran público descubrió su inmenso potencial a finales del año pasado con el lanzamiento del generador de contenido editorial ChatGPT, de la empresa californiana OpenAI, capaz de escribir ensayos, poemas o traducciones en apenas segundos.

Ante estos rápidos cambios, la Comisión Europea propuso hace dos años un proyecto de ley general, y los países del bloque solamente definieron su posición a fines de 2022. Ahora, los eurodiputados definirán su postura en esta votación.

El nuevo paso abrirá una fase de difíciles negociaciones entre los europarlamentarios y los países miembros, y por ello la vicepresidenta de la Comisión Europea, Margrethe Vestager, llamó el lunes a no perder el tiempo.

“Realmente espero que podamos terminar [las negociaciones] este año”‘, dijo.

El retraso se explica en parte por la irrupción en el debate público de las llamadas inteligencias artificiales de propósito general, capaces de realizar una amplia variedad de tareas, incluidas las IA generativas como ChatGPT.

– Discusión compleja –

En su propuesta, los eurodiputados quieren obligar a los proveedores a implementar protecciones contra el contenido ilegal y revelar los datos protegidos por derechos de autor utilizados para desarrollar sus algoritmos.

Quieren también prohibir los sistemas de reconocimiento de emociones y eliminar la identificación biométrica remota de personas en lugares públicos por parte de las fuerzas represivas.

También tienen la intención de prohibir la recolección masiva de fotos en internet para entrenar algoritmos sin el consentimiento de las personas involucradas.

Para el eurodiputado liberal rumano Dragos Tudorache, uno de los ponentes del proyecto, se trata de un “texto muy complejo y hemos añadido un nuevo régimen de reglas dedicadas a la IA generativa” según dijo a la AFP.

El corazón del proyecto consiste en una lista de reglas impuestas solo a las aplicaciones que serán consideradas de “alto riesgo” por las propias empresas.

Sin embargo, para Pierre Larouche, experto en derecho digital de la Universidad de Montreal e investigador del Centro de Regulación en Europa (CERRE, en inglés), los eventuales riesgos de la IA generativa no requieren un tratamiento aparte.

“No veo la razón del Parlamento. No veo en qué se diferencian estos riesgos de lo que ya se había anticipado” en la propuesta lanzada por la Comisión hace dos años, dijo el experto a la AFP.

La propuesta de la Comisión Europea, presentada en abril de 2021, ya impulsaba un marco para los sistemas de inteligencia artificial que interactúan con humanos.

Así, imponía el control humano sobre la máquina, divulgación de documentación técnica, o incluso la implementación de un sistema de gestión de riesgos.

El gigante de las redes sociales presentó esta semana robots conversacionales dotados de personalidad que permiten crear imágenes y texto, e interactúan con los usuarios en lenguaje corriente.

El anuncio de Meta llegó tras meses de una frenética carrera en el desarrollo de la última generación de la inteligencia artificial (IA). 

A la cabeza, OpenAI -con ChatGPT- y los grupos Google y Microsoft, que compiten en funcionalidades diseñadas para ayudar en las búsquedas a los humanos a hacer búsquedas en línea, a ser más productivos o incluso a educar a sus hijos.

Pero Meta no está rezagado, afirmó a la AFP Andrew Bosworth, en una entrevista durante el evento anual para desarrolladores del grupo californiano.

“Hay muchas herramientas novedosas, como Stable Diffusion para generar imágenes, aunque requieren mucho tiempo y desarrollo”, señaló el directivo, más conocido por el apodo Boz.

“Queríamos que los resultados fueran geniales y rápidos, incluso en teléfonos móviles”, cuando los usuarios creen miniaturas directamente en sus mensajes, con comandos como “un erizo en bici” o “feliz cumpleaños a un corredor de maratones”.

– De Galactica a Llama –

En noviembre de 2022, dos semanas antes de que ChatGPT capturara la imaginación de decenas de millones de personas, Meta sacó su propio robot conversacional de IA generativa, especializado en búsquedas científicas.

Bautizado Galactica, podía “redactar artículos” y “resolver problemas matemáticos”, pero a veces se inventaba las respuestas. Meta lo retiró rápidamente de circulación.

“Si fuera solo por mí, yo lo habría dejado”, comentó Bosworth. “Advertimos que nuestro chatbot era capaz de decir cualquier cosa”, y los usuarios debían tener eso en mente.

Pero luego de años de controversia alrededor de la moderación de contenidos en sus plataformas, la casa matriz de Facebook tiene menos margen de error que sus competidores ChatGPT, Bing (Microsoft) o Bard (Google).

Las lecciones aprendidas de Galactica ayudaron a Meta a afinar Llama 2, la segunda versión de su modelo de lenguaje, que desde este verano estuvo disponible en código abierto.

Deben establecerse límites editoriales a las aplicaciones: si están demasiado libres, existe el riesgo de que hagan declaraciones peligrosas; mientras que si son muy restringidas, pueden ser aburridas.

Para sus propios personajes virtuales -como “Becca, una madre dedicada a su perro” o “Max, un experimentado subjefe de cocina”- Meta probablemente apostará al inicio por ser prudente y “liberarlos con el tiempo”, indicó Bosworth.

– Piernas y ojos –

Empleado de Facebook desde 2006, en 2017 Boz creó el departamento que se convertiría en “Reality Labs”, dedicado a la realidad virtual y aumentada, y pasó a primera plana a finales de 2021, cuando la empresa se convirtió en Meta para marcar su giro al metaverso.

Esta estrategia desató las burlas y críticas de analistas y observadores, pues los avances no fueron tan rápidos como se esperaba.

Reconoce que la adopción de la red social virtual Horizon Worlds ha sido un poco lenta, aunque “la mayor parte del tiempo que se pasa en realidad virtual ahora consiste en socializar”.

En su presentación el miércoles Meta hizo hincapié en la realidad “mixta”. Sus nuevas gafas conectadas permiten a los usuarios, por ejemplo, difundir en directo lo que ven.

Y el nuevo dispositivo Quest 3 -con un precio de 500 dólares- tramita mucho mejor las transiciones del entorno físico al universo inmersivo, por ejemplo para evitar que el usuario choque con sus muebles en un partido de tenis virtual.

Sin embargo, las personas todavía no podrán ver a los ojos a los usuarios de Quest. “Tratamos y el resultado puede ser bastante desagradable”, explicó el directivo.

Crear interacciones virtuales auténticas (con avatares cada vez más realistas) o en el mundo real (pese al casco que esconde el rostro), requiere de muchos pulsos entre la tecnología y los costos.

El mundo de la tecnología espera con ansia el lanzamiento del Apple Vision Pro, con un precio de 3.500 dólares, mucho mayor en comparación con los 500 dólares del Quest 3. 

Para su primer casco de realidad virtual, Apple puso a punto un dispositivo ultraperfeccionado, que comercializará a inicios de 2024.

“No hay nada en ese casco que nosotros no podamos construir”, dijo Boz. Pero Meta nunca ha creído que construir algo tan costoso “vaya a ayudar a nuestros desarrolladores a alcanzar una audiencia tan grande como para que valga la pena”.

Sobre el aprovechamiento de la IA en Paraguay, el experto manifestó que esta es una herramienta que está disponible desde que se lanza, con resultados inmediatos. Con esta inteligencia podemos resolver problemas matemáticos, optimizar recursos y tiempos en empresas y en el gobierno mismo, además de realizar trámites en línea. Además, explicó que con esta tecnología se pueden eliminar procesos arcaicos, como tener que ir a consultar a una ventanilla y que el proceso sea lento, todo se puede optimizar con la Inteligencia Artificial.

“Realmente es inmenso el beneficio que trae la IA y estoy seguro de que Paraguay sobre todo, con todo el retraso económico y tecnológico que tenemos, la IA debería ser la prioridad número uno de todas las empresas, porque es un puente que nos conecta a la modernidad”, declaró en una entrevista con Paraguay Tv.

Así también, expuso que existen muchos temores con el uso de esta nueva tecnología, sin embargo, afirma que: “hoy en día, posiblemente, estamos viendo unos avances tecnológicos que van a marcar un antes y un después en la historia de la humanidad, porque el cambio con la IA es increíble y las oportunidades que trae son realmente infinitas”.

Anteriormente, Nico trabajó para Meta, empresa fundada por Mark Zuckerberg, asistiendo en el equipo de WhatsApp. Actualmente, con Trady cuentan con un equipo de más de 20 personas distribuidas por toda Latinoamérica, entre países como Ecuador, República Dominicana, Argentina, Paraguay, Perú, y Estados Unidos en Norteamérica. El objetivo es lograr que la oficina de Trady sirva como un hub de desarrollo de nuevas tecnologías.

Te puede interesar: Paraguay condena nuevas trabas de Argentina