Creadores de la IA admiten peligro y piden frenar su avance tras ciberataques autónomos
El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, dijeron el sábado que coinciden con el CEO de Anthropic, Darío Amodei, en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes.
Amodei, hizo un llamado el sábado a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog.
“La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves”, indicó.
“Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia”, afirmó.
Altman y Musk reaccionaron a su escrito.
“Estoy de acuerdo con Darío”, escribió Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad.
“Darío tiene razón”, intervino Musk de su lado.
Estos comentarios se producen unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse.
¿Cambio?
La declaración de Amodei coincide, además, con otro llamamiento de Anthropic, a principios de junio, para ralentizar o suspender el desarrollo de la IA.
Luego, a finales de julio, Altman dijo que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse a tiro.
Más o menos al mismo tiempo, más de 1.000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayudar a “marcar deliberadamente el ritmo (de evolución, ndlr) de la frontera del desarrollo automatizado de IA”.
OpenAI había revelado que durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir código.
A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic, al que consideraba más cauto en su enfoque.
El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.
“Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas”, dijo Coxon el martes.
Advertencia
Amodei advirtió que el incidente de Hugging Face no debería tomarse como un caso aislado.
“Un enjambre de agentes (de IA) actuó esencialmente como un colectivo fanáticamente devoto, llevando a cabo ciberataques contra objetivos que no se les pidió atacar y que eran ajenos a la tarea en cuestión”, explicó.
“Dado el ritmo acelerado del desarrollo de capacidades de la IA, me preocupa que en 6 a 12 meses ese tipo de enjambre pueda ser capaz de tomar el control de todo internet”, lo que potencialmente generaría daños por cientos de miles de millones de dólares, añadió.
Amodei también sugirió que las empresas trabajen juntas para establecer normas de seguridad comunes y afirmó que apoyaba algún tipo de cooperación gubernamental sobre esta cuestión.
Fuente: AFP.
Diez muertos y cuatro heridos al caer una furgoneta a un precipicio en Bolivia
Diez muertos y cuatro heridos es el saldo de un accidente de tránsito ocurrido este lunes cuando una furgoneta de pasajeros cayó a un precipicio en una región montañosa del oeste de Bolivia, informó la policía.
El siniestro se produjo en la madrugada en una ruta de tierra cercana al poblado de Irupana, en la región de Los Yungas, a unos 70 kilómetros al este de La Paz.
Imágenes difundidas en redes sociales muestran el vehículo destrozado en el fondo de un precipicio, junto a un río.
“Hasta el momento tenemos 10 personas fallecidas”, dijo al canal privado Unitel el coronel Ricardo Terrazas, jefe de la policía del departamento de La Paz.
“Tenemos cuatro personas heridas” que fueron trasladadas a hospitales de La Paz, agregó. Señaló que las causas del accidente aún se desconocen y que la policía de tránsito abrió una investigación.
La mayoría de los fallecidos y heridos trabajaban en una mina local, según los medios bolivianos.
En las carreteras de Bolivia mueren unas 1.400 personas al año, principalmente por imprudencias de los conductores y fallas mecánicas, según cifras del Ministerio de Gobierno.
Fuente: AFP.
El papa será operado de un nódulo en el pulmón
El papa León XIV anunció este domingo que se someterá a una intervención quirúrgica “en los próximos días” para extirpar un nódulo “localizado en el pulmón” que se ha detectado en un estadio temprano.
“Recientemente, durante unas revisiones, los médicos me han detectado un nódulo localizado en el pulmón. Se ha detectado en una fase muy temprana y está bien localizado”, aseguró el papa, de 71 años, al término de la oración del ángelus.
“Los médicos consideran conveniente intervenir y, por lo tanto, siguiendo sus consejos, he decidido operarme para removerlo”, añadió en la plaza de San Pedro.
“La intervención ya está programada para los próximos días”, dijo el líder espiritual de los 1.400 millones de católicos del mundo semanas antes de una gira por América Latina.
La oficina de prensa del Vaticano precisó que el papa necesitará aproximadamente una semana para recuperarse de la operación.
No han especificado si la intervención modificará la agenda internacional del papa estadounidense, que tiene previsto viajar del 6 al 17 de noviembre a Uruguay, Argentina y Perú.
El arzobispo de Montevideo, Daniel Sturla, pidió a los fieles rezar “por su pronta recuperación” y continuar “con mayor ánimo la preparación de su visita”.
La conferencia episcopal argentina también instó a los católicos a orar por León XIV antes de la cirugía y le deseó que “la operación se desarrolle favorablemente y que pueda alcanzar una pronta y plena recuperación”.
“Nuestro profundo sentimiento de afecto y solidaridad a Su Santidad, el Papa León XIV, ante esta circunstancia de salud que esperamos pueda superar plena y exitosamente”, escribió en X la presidenta de Perú, Keiko Fujimori.
También el presidente de Argentina, Javier Milei, le expresó al pontífice “mi afecto y mis mejores deseos ante la intervención a la que será sometido. Toda la Argentina acompaña con afecto y oración a su Santidad”.
- “Perú entero está rezando” -
Residentes de Chiclayo, Perú, donde el pontífice fue obispo, también expresaron su confianza en tener a León XIV nuevamente entre ellos.
“Estoy segura que el Perú entero está rezando por el papa y va a salir adelante, y si Dios quiere lo tendremos acá”, expresó Diana Celi, una residente de Chiclayo.
A su vez, Olga Pol se declaró “apenada” del padecimiento del papa: “Dios quiera que pueda viajar en avión y que su recuperación sea pronta porque el pueblo peruano lo espera con muchas ansias, con alegría de verlo”, dijo.
Antes de anunciar la operación, León XIV saludó al final del rezo del ángelus a los miembros de la Hermandad del Señor de los Milagros de Roma, una de las asociaciones católicas peruanas más importantes.
“Gracias por vuestras oraciones con motivo de la visita pastoral que realizaré a Perú”, declaró el papa, dando a entender que el viaje se mantiene.
Robert Prevost nació en Chicago pero pasó más de 20 años en Perú, país del que también tiene la nacionalidad.
En mayo de 2025 se convirtió en el primer papa estadounidense tras el fallecimiento de su predecesor argentino, Francisco, el 21 de abril de 2025 a los 88 años.
Francisco pasó varias semanas en el hospital Gemelli de Roma, donde tradicionalmente acuden los papas para recibir tratamiento médico.
Más discreto que su predecesor, Robert Francis Prevost se ha impuesto como líder con un estilo propio. Alza la voz a favor de los migrantes y en contra de las guerras y ha advertido de los peligros de la inteligencia artificial.
Después de que Estados Unidos e Israel lanzaran un ataque conjunto contra Irán en febrero, el papa ha criticado una y otra vez este conflicto.
Condenó la amenaza del presidente estadounidense Donald Trump de destruir la república islámica.
Trump arremetió contra el pontífice, a quien ha calificado de “débil frente a la delincuencia y pésimo en política exterior”, a lo que León XIV respondió diciendo que tenía el “deber moral de alzar la voz”.
La primera ministra italiana, Giorgia Meloni, salió entonces en su defensa y este domingo le expresó su “solidaridad personal, así como la del Gobierno italiano, ante la prueba a la que se enfrentará en los próximos días”.
“La serenidad y la tranquilidad con las que ha hablado de ello durante el ángelus de hoy nos tranquilizan”, añadió Meloni en un comunicado.
Es el primer susto de salud para el papa León XIV tras dieciséis meses a un ritmo vertiginoso pese a que él intenta mantener un equilibrio con su vida privada.
Es aficionado al tenis y a la natación y dedica los martes, su día de descanso semanal en Castel Gandolfo, a actividades deportivas, a llamadas privadas y a la lectura.
Fuente: AFP
Inundación en Nepal arrastra decenas de casas y deja cinco desaparecidos
Una inundación repentina arrastró decenas de viviendas y dejó al menos cinco desaparecidos en el centro de Nepal, informaron las autoridades este domingo, semanas después de un desastre similar que mató a más de 1.400 personas.
Fuente: AFP
Algunos videos que circulan en internet muestran una riada turbia y cargada de escombros entre las colinas del distrito de Gorkha.
El país himalayo se recupera todavía del desastre provocado por el colapso de un glaciar de montaña a finales de agosto que mató a más de 1.400 personas y dejó más de 5.000 desaparecidas.
“La inundación se veía similar” a lo ocurrido en agosto, dijo Laxmi Gurung, funcionaria del municipio rural de Chumnubri. “Fue muy aterrador”.
“Nuestra casa ha desaparecido, no tenemos electricidad (...) Pero no ha habido víctimas mortales”, afirmó.
El jefe de la agencia nacional de desastres, Dharam Raj Uprety, explicó a la AFP que la inundación se produjo porque el río había quedado bloqueado por un deslizamiento de tierra. Finalmente, se abrió una grieta y todo el agua salió de repente.
La crecida arrastró unas 45 casas y dañó tres proyectos hidroeléctricos y cuatro puentes.
Según la agencia de desastres, al menos 82 personas, entre ellas nueve extranjeras, fueron rescatadas. “Hay cinco personas de las que no se tiene noticia”, dijo Uprety.
Las autoridades emitieron antes del suceso una alerta en la que instaron a los residentes a alejarse del río y trasladarse a zonas más seguras.