Fuente: AFP

Desde hace varios años, este ganador del Premio Turing (2018), también conocido como el Nobel de la informática, viene advirtiendo de los riesgos asociados al desarrollo de la IA, ya sea en términos de uso malicioso o de que el propio software salga mal.

“Los sistemas más avanzados ya están mostrando signos de autopreservación y comportamiento engañoso”, explica el investigador en un comunicado publicado este martes.

“Y esto sólo va a acelerarse a medida que aumenten sus capacidades y autonomía”, anuncia.

Su nueva organización sin ánimo de lucro, llamada LawZero, pretende ser “una respuesta a estos retos”.

Varios ejemplos recientes han confirmado que la IA ha alcanzado recientemente nuevos niveles de sofisticación, entre ellos un estudio de la start-up Anthropic.

En una simulación, la nueva interfaz de IA generativa de Anthropic, Claude 4, fue advertida de su inminente sustitución por un ingeniero de software.

Acorralada, intentó por iniciativa propia chantajear al ingeniero para disuadirle de deshacerse de ella.

Una de las misiones de LawZero es “proponer una forma de supervisar a los agentes de IA”, la nueva generación de modelos generativos de IA capaces de realizar un sinfín de tareas de forma autónoma, desde buscar en Internet hasta llamar a un cliente o escribir un programa en código.

“Uno de los primeros objetivos es desarrollar una forma de IA que pueda utilizarse como salvaguarda para garantizar que la IA se comporta bien”, describe Bengio en un vídeo de la web de LawZero.

“La IA puede ser extremadamente beneficiosa si nos aseguramos de que no va a hacer daño a la gente”, “ya sea porque esté en las manos equivocadas o de forma autónoma”, agrega.

LawZero también quiere trabajar en una IA con autonomía limitada para su uso en investigación científica.

La organización cuenta ya con más de 15 investigadores y ha recibido varias aportaciones económicas, una de ellas de Schmidt Sciences, organización benéfica creada por el ex jefe de Google Eric Schmidt y su esposa Wendy.

LawZero se puso en marcha bajo los auspicios del Instituto de Montreal para el Aprendizaje de Algoritmos (Mila), fundado en 1993 por Bengio.

“En las próximas semanas, TikTok probará mejoras en los sistemas de detección para identificar cuentas dedicadas a la publicación de ‘spam’ generado por IA sobre temas que pueden afectar la confianza del público o al bienestar de los usuarios”, indicó el grupo en un comunicado.

Los temas incluyen la política, la actualidad, la salud y los consejos financieros, un tipo de contenido que, según la compañía, perjudica “la visibilidad de los creadores originales”.

La plataforma considera cuentas de “spam” aquellas que producen contenidos de IA “de baja calidad y muy estandarizados” y muestran una “concentración” de temas de alto riesgo que pueden dañar la confianza pública y compran o venden seguidores.

TikTok, al igual que otras redes sociales, se está viendo afectada por la proliferación de contenidos generados por IA, que se utilizan para generar gran audiencia a bajo costo.

Este fenómeno es conocido como “basura digital” (“AI slop”) y se refiere a contenidos de mala calidad, a veces absurdos.

Fuente: AFP

La empresa OpenAI presentó GPT-Live, una función que permite conversar con ChatGPT de manera más fluida, con respuestas inmediatas y un intercambio que se asemeja al de una charla entre dos personas.

Puede interesar: Jaque en las redes: Hackean la cuenta de Instagram de Celeste Amarilla

A diferencia de los asistentes de voz tradicionales, GPT-Live no obliga al usuario a esperar el final de cada respuesta para volver a hablar. La conversación sigue su curso de manera natural, incluso cuando ambas partes intervienen casi al mismo tiempo.

OpenAI, la empresa estadounidense detrás de ChatGPT, desarrolló GPT-Live con el objetivo de acercar la inteligencia artificial a una experiencia más humana. La compañía, fundada por un grupo de investigadores y emprendedores tecnológicos, se consolidó como una de las principales referentes mundiales en el desarrollo de este tipo de herramientas.

En otro capítulo de expresiones similares, pero distintas, hoy nos ocupamos de: demás, de más y dé más:

Demás (el resto): pronombre indefinido utilizado para aludir a los otros o al resto de las personas o cosas. Algunos ejemplos son:

Los demás viven bien

Nos quedamos en casa, mientras los demás se van al parque.

¿Podés dejar un poco para los demás?

De más (exceso): preposición y adverbio de cantidad. Se refiere al exceso de algo.

Ese gesto está de más

Hoy tomé de más y me hizo mal

Lea también: Los significados de la palabra indio: una acepción negativa entre ellos

Hablaste de más y no mediste las consecuencias

Dé más (imperativo): verbo dar en imperativo y adverbio de cantidad. Se refiere a una orden en la que se utiliza el pronombre usted.

Dé más a los necesitados

Dé más esfuerzo

Dé más cariño a sus hijos

Además, HOY: ¿Se escribe mayúscula o minúscula después de dos puntos ?

La sección RAE del diario HOY tiene como fin promover el buen uso del idioma español, con el sustento de lo que dicta la RAE, máxima autoridad de la lengua que, con el correr de los años, va cambiando algunas reglas y proponiendo adaptaciones según la necesidad.