OpenAI, respaldada por Microsoft, fue notificada de la pesquisa en un cuestionario de 20 páginas, en el que se le pide a la empresa que describa incidentes en los que usuarios fueron falsamente difamados y que comparta los esfuerzos de la compañía para garantizar que no vuelvan a suceder.

La investigación del regulador estadounidense fue reportada en primer lugar por el diario The Washington Post.

El lanzamiento de ChatGPT por parte de OpenAI en noviembre pasado sorprendió al mundo al mostrar el poder de los grandes modelos de lenguaje (o LLM, por sus siglas en inglés), una forma de inteligencia artificial (IA) conocida como “IA generativa” que puede producir en segundos contenido similar al creado por el ser humano.

En medio del revuelo por las capacidades de la tecnología, las autoridades recibieron informes de que estos modelos también podrían generar contenido ofensivo, falso o simplemente extraño, llamado a veces “alucinaciones”.

Puede interesar: Aplazan ejecución de reo en EEUU por falta de inyecciones letales

La presidenta de la Comisión de Comercio, Lina Khan, se dirigió a una audiencia del comité del Congreso el miércoles y, aunque no mencionó la investigación, dijo a los legisladores que su agencia tenía preocupaciones sobre la producción potencialmente difamatoria de ChatGPT.

“Hemos escuchado sobre reportes en los que la información sensible de la gente aparece en respuesta a una pregunta de otra persona”, señaló Khan.

“Hemos oído hablar de calumnias, declaraciones difamatorias, cosas totalmente falsas que están surgiendo. Ese es el tipo de fraude y engaño que nos preocupa”, añadió.

La investigación de la autoridad reguladora se centra en cómo este aspecto podría perjudicar a los usuarios, según el cuestionario, pero también profundiza en el uso de datos privados por parte de OpenAI para construir su modelo, líder en el mundo.

Lea también: Pelos en la ‘puerta trasera’: ¿Por qué los tenemos y para qué sirven?

El GPT-4 de la compañía es la tecnología base detrás de ChatGPT, así como decenas de otros programas de empresas que pagan una cuota a OpenAI para acceder a su modelo para sus propios usos.

En un tuit, el director general de OpenAI, Sam Altman, lamentó que la noticia acerca de la investigación fuera filtrada a los medios, lo cual “no genera confianza”.

Agregó que “por supuesto” OpenAI cooperará con la Comisión Federal de Comercio y aseguró que es “muy importante para nosotros que nuestra tecnología sea segura y favorable al consumidor, y estamos confiados de cumplir la ley”.

Una investigación de la Comisión de Comercio no implica necesariamente otras acciones y esa entidad podrá cerrar el caso si está satisfecha con la respuesta de la empresa examinada.

Si el regulador percibe prácticas ilegales o inseguras, exigirá medidas correctivas y posiblemente iniciará una demanda.

OpenAI y la Comisión de Comercio no respondieron a una solicitud de comentarios.

Por Robert Bourgoing (@robertb_py)

El nombre del momento en el mundo de la inteligencia artificiales DeepSeek, el chatbot de origen chino que causa furor a nivel mundial.

No en vano ha logrado posicionarse como una de las aplicaciones más descargada en las principales tiendas de aplicaciones, Play Store y App Store.

Nota relacionada: DeepSeek, la nueva IA china que causa revuelo y genera otra tensión con EEUU

Diversos medios especializados reportan, en solo 72 horas, la versión mobile de DeepSeek se ha convertido en la app gratuita de IA más descargada en Estados Unidos.

Haciendo un análisis a nivel mundial, la cuestión sigue por el mismo camino, ya que DeepSeek obtuvo más de 10 millones de descargas en la tienda de Google y una cantidad cercana en la de Apple, ubicándose entre las listas de aplicaciones más populares.

Estas cifras demuestran el rotundo éxito de la plataforma en un territorio que, para el país asiático, de un tiempo a esta parte se ha convertido en “lugar de difícil acceso” debido a las múltiples restricciones del Gobierno estadounidense.

Leé también: El grupo chino Alibaba lanza un modelo de IA para competir con ChatGPT

Solo hay que recordar el veto al popular fabricante de teléfonos y dispositivos electrónicos Huawei y la prohibición de exportación de chips NVIDIA a China, situaciones que no han sido impedimento para que DeepSeek pueda colarse entre los usuarios norteamericanos.

DeepSeek se encuentra disponible de forma gratuita tanto en la Play Store como en la App Store. Para poder utilizarla, solo basta con registrarse con un correo electrónico o número de teléfono.

Pekín, China | AFP | 

El anuncio llega días después de la irrupción de un nuevo modelo de IA de la start-up china DeepSeek, que tomó a contrapié a Silicon Valley y puso en cuestión el dominio estadounidense en esta tecnología en auge.

Mientras las empresas estadounidenses gastaron miles de millones de dólares para desarrollar sus modelos de IA, sus competidores chinos consiguieron hacerlo con costes significativamente menos elevados.

En un artículo en un blog, el equipo de desarrollo de Qwen asegura que su modelo es más potente que DeepSeek V3 y que había mostrado resultados comparables a los líderes de la industria, como el GPT-4 de OpenAI o Claude-3.5-Sonnet de la también estadounidense Anthropic.

El modelo de IA, entrenado con más de 20 billones de datos, no fue comparado con DeepSeek R3, el último modelo de esta nueva empresa china que ha provocado un terremoto en el sector desde su lanzamiento el 20 de enero.

Qwen2.5-Max está ya disponible para los desarrolladores a través de la nube de Alibaba y accesible a través de Qwen Chat, el agente conversacional de la plataforma.

El sistema es compatible con la interfaz de programación de OpenAI, lo que hace más fácil su integración en las empresas u organizaciones que ya usen servicios de IA similares.

Por Robert Bourgoing (@robertb_py)

El reñido campo de la inteligencia artificial (IA), que día a día presenta novedades y avances, sumó recientemente a un nuevo competidor: DeepSeek.

Esta herramienta de inteligencia artificial de origen chino logró ganar mucha popularidad, a pocas horas del lanzamiento de su último modelo de lenguaje, DeepSeek V3, a tal punto de que varios lo consideran como un digno rival para sus “hermanos” norteamericanos, ChatGPT y Gemini.

LOS PUNTOS A FAVOR DE DEEPSEEK

Diversos medios especializados pusieron a prueba esta IA, que demostró resultados notables en las pruebas ejecutadas. Uno de ellos es Genbeta, que resaltó la rapidez con que brinda las respuestas y la posibilidad de ver en tiempo real lo que DeepSeek está “pensando” al contestar algún comando.

Esto es posible gracias a la integración del llamado “razonamiento profundo” o “R1″, que básicamente muestra todos los pasos que fueron seguidos tras recibir una orden o ‘prompt’ para poder brindar una respuesta final a la consulta planteada por el usuario.

Uno de sus puntos más destacados es que se trata de un modelo mucho más eficiente y preciso en sus respuestas, utilizando una menor cantidad de recursos para ser entrenado, en comparación a ChatGPT. Así también, resaltan las amplias capacidades que posee en su versión gratuita y el hecho de ser ‘open source’ (de código abierto).

Gracias a este último punto, DeepSeek brinda la posibilidad de ser escrutado de forma libre por cualquier usuario o desarrollador, a fin de analizar la estructura de su código fuente y realizar cualquier tipo de modificación para poder perfeccionarlo o introducirle mejoras.

Otro punto a favor es que, a diferencia de las versiones de pago ChatGPT Plus y Gemini Advanced, donde se debe abonar una suscripción para acceder a todas las capacidades y los modelos más potentes, DeepSeek ofrece todo sin restricciones y de forma gratuita.

CONTROVERSIA Y DUDAS

Un estudio llevado a cabo por la empresa de ciberseguridad Kela logró descubrir que DeepSeek R1 puede ser manipulado para crear malware, incluyendo ransomware y código para robar datos de tarjetas de crédito.

Los investigadores concluyeron que los pasos de razonamiento mostrados por DeepSeek R1 al ejecutar un comando aumentan su susceptibilidad a “jailbreaks” y ataques “adversariales”, ya que los actores maliciosos pueden explotar estas rutas de razonamiento visibles para identificar y atacar vulnerabilidades.

Otra arista controvertida de DeepSeek guarda relación con el bajo costo y el rápido progreso de la empresa china detrás de esta IA, por lo que se especula que podría ser un “cisne negro” que acabe afectando a las acciones tecnológicas estadounidenses.

A su vez, existen cuestionamientos sobre los términos y condiciones de servicio al utilizar la plataforma, así como dudas respecto a la privacidad de los datos que posteriormente son alojados en servidores chinos. A esto se le suman las acusaciones de censura, ya que se ha comprobado que DeepSeek evita responder preguntas sobre temas políticamente sensibles relacionados con China.

GUERRA CON ESTADOS UNIDOS

En una de las últimas noticias vinculadas a DeepSeek, OpenAI acusó a la startup china detrás de su desarrollo de una “destilación” para construir su chatbot de inteligencia artificial.

Según manifestó la firma al medio Financial Times, DeepSeek generó una gran cantidad de respuestas de ChatGPT y usó esos resultados para entrenar su propio modelo de lenguaje (LLM), logrando así construirlo por una fracción del costo de los miles de millones invertidos en entrenar ChatGPT.

Este episodio se suma a la larga lista de conflictos en el campo tecnológico entre Estados Unidos y China, incluyendo el veto a la exportación de procesadores NVIDIA y las restricciones contra la firma Huawei.

Para el país del norte, la (exitosa) incursión de una nueva IA “made in China” es motivo de preocupación, no solo por la conocida rivalidad entre ambas potenciales sino también por el omnipresente temor a un posible espionaje o robo de datos de usuarios estadounidenses.