Borrar información errónea, un desafío de la inteligencia artificial

La inteligencia artificial tiene una materia pendiente.

Brian Hood descubrió un día que ChatGPT le atribuía un pasado criminal, pero para resolver este error, este político australiano indagó en un problema que plantea también un desafío para los ingenieros: cómo enseñar a la Inteligencia Artificial (IA) a borrar información errónea.

Hood intentó una solución convencional y amenazó con demandar por difamación a OpenAI, la empresa creadora de ChatGPT.

Pero entrenar a este tipo de robot es un proceso lento y costoso, por lo que este problema expone a la luz un desafío que será crucial en los próximos años, especialmente de cara a la reglamentación en la Unión Europea sobre protección de los datos personales.

Hood afirma que sus comunicaciones con OpenAI no fueron de gran ayuda, pero que sus quejas, que inundaron los medios, solucionaron el problema cuando la empresa actualizó la aplicación y el robot dejó de repetir estas afirmaciones falsas sobre sus antecedentes penales.

“Irónicamente, la gran cantidad de [información en] prensa sobre mi historia corrigió los registros”, relató a AFP Hood, que es alcalde de la ciudad de Hepburn, en Australia.

La empresa OpenAI no respondió a las peticiones de comentarios sobre este tema.

“La capacidad de eliminar datos de las bases de datos de entrenamiento es un tema crítico de cara al futuro”, señaló Lisa Given, de la Universidad RMIT de Melbourne, en Australia.

En el caso de los buscadores de internet, es posible borrar entradas, pero este proceso no es tan simple con los modelos basados en la IA.

En respuesta a este desafío, un grupo de científicos está estudiando un nuevo campo denominado el “desaprendizaje automático”, que trata de entrenar algoritmos para que “olviden” datos que sean problemáticos.

 

– “Una herramienta interesante” –

 

Un experto en este campo, Meghdad Kurmanji de la Universidad de Warwick en el Reino Unido, explicó a AFP que este tema comenzó a cobrar relevancia en los últimos tres o cuatro años.

Entre quienes se apuntaron a este desafío está Google DeepMind, la división de IA del gigante californiano.

Los expertos de Google redactaron junto a Kurmanji un artículo publicado el mes pasado en el que proponen un algoritmo para depurar los datos seleccionados de las bases que componen los algoritmos en los que se basan ChatGPT y el chatbot Bard de Google.

Además, Google lanzó una competencia en junio para medir distintos métodos para “desaprender”, que hasta ahora atrajo a más de 1.000 participantes.

Kurmanji afirma que “desaprender” puede ser una “herramienta muy interesante” para que los motores de búsqueda administren las peticiones para eliminar contenido, por ejemplo, debido a asuntos relacionados con las leyes sobre la privacidad.

El experto afirmó además que el algoritmo también logró buenos resultados en pruebas de eliminación de material protegido por derechos de autor y en la corrección de sesgos.

 

– “No es la panacea” –

 

Lisa Given señaló que todavía hay mucho desconocimiento sobre cómo funcionan estos sistemas e incluso sobre cuáles son las bases de datos que sirven como entrenamiento para estas máquinas, por lo que encontrar una solución puede ser un proceso largo.

Michael Rovatsos, de la Universidad de Edimburgo, apuntó que quedan aristas técnicas por resolver, por ejemplo qué hacer si una compañía recibe una ola de peticiones para eliminar contenido.

Añadió que el desaprendizaje no resuelve temas más amplios que enfrenta la industria de la IA, como la forma en que la que se recopilan los datos, quién se beneficia de su uso o quién asume la responsabilidad si un algoritmo causa un daño.

“La solución técnica no es la panacea”, afirmó.

En un momento en que la investigación sobre este campo está en pañales y la regulación es casi inexistente, Hood, que es un ferviente defensor del la IA, pese a su experiencia, señaló que todavía estamos en una era de soluciones anticuadas.

“Cuando los chatbot generan basura, los usuarios simplemente necesitan revisar todo dos veces”, afirmó.

Leé también


 

La NASA lanza una misión al asteroide ‘Dios del Caos’, que se aproxima a la Tierra

Imagen ilustrativa.

El Apophis pasará excepcionalmente cerca en el 2029.

La sonda espacial OSIRIS-REx de la NASA pasó por la Tierra a finales de septiembreentregó unas muestras de rocas y polvo recogidas del asteroide Bennu. De inmediato, y sin apagar sus motores, se embarcó en una misión adicional: estudiar el Apophis, un asteroide que se espera pase muy cerca de nuestro planeta en el 2029.

En este contexto, la NASA anunció el pasado viernes que la sonda ha sido rebautizada oficialmente como ‘OSIRIS-APEX’, acrónimo en inglés de Orígenes, Interpretación Espectral, Identificación de Recursos y Seguridad – Explorador Apophis. Además, Dani Mendoza DellaGiustina, quien fuera investigadora principal adjunta de la OSIRIS-REx, también estará al mando de esta nueva misión extendida.

El asteroide 99942 o Apophis, que debe su nombre al dios egipcio considerado la encarnación del caos, no chocará contra la Tierra, pero sí estará excepcionalmente cerca, a unos 32.000 kilómetros, el 13 de abril de 2029.

Esta distancia lo pone más cerca a nuestro planeta que algunos satélites y se prevé que eso no solo provoque cambios en su órbita, sino terremotos y deslizamientos en su superficie. “OSIRIS-APEX estudiará Apophis inmediatamente después de tal paso, permitiéndonos ver cómo cambia su superficie al interactuar con la gravedad de la Tierra”, dijo Amy Simon, científica del proyecto.

Asimismo, está dentro de los planes que, para el 2 de abril de 2029, las cámaras de la sonda comiencen a tomar imágenes del asteroide a medida que se acerque. Luego del encuentro cercano con la Tierra, operará en sus proximidades durante los 18 meses siguientes. En ese lapso llevará a cabo muchas de las mismas investigaciones que OSIRIS-REx realizó en Bennu, con el uso de instrumentos generadores de imágenes, espectrómetros, y un altímetro láser para mapear su superficie y analizar la composición química.

Si bien la entonces OSIRIS-REx recolectó agua y altas cantidades de carbono de Bennu, se estima que las muestras recogidas de Apophis sean bastante diferentes, ricas en silicato y níquel-hierro, materiales de los que están principalmente compuestos estos asteroides rocosos, denominados ‘tipo S’.

De acuerdo con la NASA, da la casualidad de que la mayoría de los asteroides potencialmente peligrosos conocidos también son de ese tipo. “Lo que el equipo aprenda sobre Apophis puede ofrecer información a la investigación de defensa planetaria, una de las principales prioridades de la NASA”, asegura la agencia.

Por otro lado, según explica Mendoza DellaGiustina, Apophis ayudará a los científicos a aprender más sobre cómo se forman los sistemas solares y los planetas. “Sabemos que las fuerzas de marea y la acumulación de escombros son procesos fundamentales que podrían desempeñar un papel en la formación de planetas. Podrían informar cómo pasamos de los escombros del sistema solar primitivo a planetas en toda regla”, explicó.

Se estima que asteroides del tamaño de este ‘Dios del Caos’, de unos 340 metros de diámetro, solo se acercan tanto a la Tierra una vez cada 7.500 años. “Aprendimos mucho en Bennu, pero ahora tenemos aún más preguntas para nuestro próximo objetivo”, dijo Simon.

Leé también


 

Fotos| Revelan terrible descubrimiento de una momia que murió en el parto

Momia egipcia de una adolescente que murió durante el parto.

Los restos de la fallecida pertenecen al período tardío de Egipto.

Los autores de un estudio revisaron a una momia egipcia, de una adolescente que murió durante el parto, después de más de un siglo, y le realizaron una tomografía computarizada del cuerpo, que reveló la presencia de un segundo feto en la cavidad torácica de la mujer, lo que indicaba que estaba embarazada de gemelos, según un artículo publicado en International Journal of Osteoarchaeology.

La cabeza del primer bebé quedó atrapada en el canal del parto, lo que provocó la muerte tanto de los bebés como de la madre, informó IFL Science.

El estudio descubrió que, al morir, la joven fue momificada junto con el niño, cuyos restos fueron colocados entre las piernas de la madre, a excepción de la cabeza, cuyos huesos quedaron dentro de la pelvis. Es decir, el niño fue decapitado durante el parto. 

La muerte del bebé y su madre probablemente ocurrieron debido al llamado parto de nalgas, donde el bebé sale con los pies primero, lo que hace el proceso mucho más complicado y peligroso.

Los investigadores suponen que con el tiempo el cuerpo de la fallecida se descompuso y el feto se desplazó desde el útero hasta la cavidad torácica.

La momia examinada pertenecía a una mujer de entre 14 y 17 años. Sus restos fueron encontrados en 1908 durante las excavaciones de la necrópolis de El Bagawat.

La joven pesaba entre 45 y 55 kilogramos. Los científicos estiman que la mujer tenía entre 34 y 40 semanas de embarazo cuando comenzó el parto.

Los restos de la fallecida pertenecen al período tardío de Egipto (desde el 664 a.C., hasta 332 a.C.), reza la anotación del estudio.

“Este examen de la madre y sus hijos al nacer reconfirma cuán peligrosos eran el embarazo, el parto y el alumbramiento, especialmente durante este período”, indicó el estudio. “El parto en el antiguo Egipto se consideraba un evento religioso, no médico”, explicaron los científicos.

“La mayor parte de la documentación descubierta describe hechizos y encantamientos recitados para proteger a la madre y al bebé durante y después del nacimiento“, sostuvieron los investigadores, al indicar que un hechizo alude a que el nacimiento de gemelos se veía de forma negativa.

Leé también


 

Descubren nueva evidencia de que una luna de Saturno podría albergar vida

Foto: NASA.

"Nuestro trabajo aporta más evidencia de que Encélado alberga algunas de las moléculas más importantes tanto para crear los componentes básicos de la vida como para mantener esa vida mediante reacciones metabólicas", señalan los científicos.

El Laboratorio de Propulsión a Chorro (JLP, por sus siglas en inglés) de la NASA informó este jueves que un grupo de investigadores había confirmado la presencia de nuevas moléculas orgánicas en una columna gigante de hielo y vapor que brota de la superficie de Encélado, una de las 146 lunas de Saturno, lo que indica que este cuerpo celeste podría albergar vida.

Las imágenes obtenidas en la década de 1980 por la sonda espacial Voyager demostraron que Encélado, que tiene alrededor de 500 kilómetros de ancho, cuenta con una superficie blanca y brillante, por lo que se le considera el cuerpo celeste más reflectante del sistema solar. De acuerdo con la NASA, debido a que este pequeño satélite natural refleja mucha luz solar, la temperatura de su superficie es extremadamente fría, alcanzando los -201 °C.

En 2005, el orbitador Cassini identificó partículas de agua helada y gas que brotaban desde la superficie de la luna a una velocidad de 400 metros por segundo. Los científicos explicaron que las continuas erupciones de agua terminaron por generar un enorme halo de fino polvo de hielo alrededor de Encélado, donde una parte de este material formó uno de los anillos de Saturno.

Asimismo, detallaron que estos estallidos provenían de grietas en la corteza de la luna, que son relativamente cálidas. A partir de los datos obtenidos del Cassini, se pudo conocer que debajo de la superficie helada de Encélado hay un océano líquido que alimenta los brotes de agua.

Detectando fuentes químicas adicionales

En 2017 se identificaron moléculas orgánicas en una de las columnas de hielo y vapor. Al respecto, los especialistas sugirieron que la combinación de dióxido de carbono, metano, amoníaco, hidrógeno y agua podrían conducir a la metanogénesis, un proceso metabólico que conlleva la producción de metano y que fue fundamental para la formación de vida en la Tierra.

En un nuevo estudio recientemente publicado en la revista Nature Astronomy, se reportó la existencia de “fuentes químicas de energía adicionales, mucho más potentes y diversas que la producción de metano”.

Los especialistas indicaron que los nuevos compuestos orgánicos detectados son cianuro de hidrógeno, acetileno, propileno y etano. Con su presencia se demuestra que “existen muchas vías químicas para sustentar potencialmente vida en el océano subterráneo de Encélado”, describieron en la publicación.

“Nuestro trabajo aporta más evidencia de que Encélado alberga algunas de las moléculas más importantes tanto para crear los componentes básicos de la vida como para mantener esa vida mediante reacciones metabólicas”, sostuvo el científico de la universidad de Harvard que trabajó en el proyecto Jonah Peter.

Encélado no solo parece cumplir los requisitos básicos para ser habitable, sino que ahora también tenemos una idea de cómo podrían formarse allí las biomoléculas complejas y qué reacciones químicas podrían estar involucradas”, concluyó.

Leé también