ChatGPT, diez riesgos y diez oportunidades para la seguridad

A lo largo de estos meses se ha popularizado enormemente el uso de ChatGPT, uno de los últimos desarrollos de inteligencia generativa que se han puesto a disposición del público en general, motivando gran curiosidad y debate.

Se trata de una forma de aprendizaje automática, basada en modelos de lenguaje, capaz de generar contenido nuevo en cualquier formato (texto, imagen, video, voz, código). Pero este tipo de avances no son nuevos. Hace unas semanas, Microsoft presentó su propuesta de Bing con IA (Inteligencia Artificial), cuya potencialidad, de hecho, es mucho mayor que la de ChatGPT; y, en breve, se espera el lanzamiento de Bard, la solución de Google. Junto a ellas, están proliferando multitud de propuestas que no se limitan a ofrecer resultados textuales basados en modelos de lenguaje, sino a la generación y combinación de cualquier tipo de contenido.

Teniendo en cuenta el rápido avance de estas tendencias, Prosegur Research, el Insight&trends center de Prosegur, ha analizado las implicaciones de ChatGPT desde la perspectiva de la seguridad, y ha identificado los principales riesgos y oportunidades que se abren con su aplicación a diferentes ámbitos.

Los principales diez riesgos para la seguridad que se derivan de ChatGPT, según el análisis de Prosegur Research, son los siguientes:

1- Polarización social: las IA generativas, dada su capacidad de producir contenidos multimedia, pueden ser utilizadas para difundir mensajes de odio o discriminación, así como mensajes de carácter radical o extremista.

2- Phishing: generación automatizada de correos de apariencia real con objeto de engañar a usuarios a efectos de acceder a información confidencial o a los sistemas informáticos.  Hay que tener en cuenta que las IA generativas redactan con gran calidad, lo que invalida las sospechas que sí puede despertar un phishing con baja calidad.

3- Desinformación: a través de la generación de noticias falsas, se trata de influir en la opinión pública, dañar la cohesión social o afectar a procesos electorales. La desinformación es una clara cuestión que afecta a la seguridad nacional, dañando la cohesión social y los principios democráticos.

4- Doxing: la desinformación también es susceptible de afectar a empresas y organizaciones, con la difusión de bulos, informaciones sesgadas, la creación de falsos perfiles laborales, o la manipulación de documentos para dañar la credibilidad de las organizaciones. Su finalidad puede ir desde la parodia hasta el ataque a la reputación o la influencia en los mercados.

5- Fuga de información y robo de datos: empresas como Amazon o Google han alertado a sus empleados sobre los riesgos de compartir información sobre la empresa en ChatGPT y aplicaciones similares, que posteriormente pudiera ser desvelada en las respuestas que ofrece a usuarios.

Puede interesar: Twitter restablece insignia azul para algunos medios y celebridades

6- Fraudes y estafas: son tipologías delictivas que están creciendo con durante estos últimos años. Los fraudes tradicionales, existentes en todos los sectores económicos, son potenciados por el uso de internet, redes sociales y nuevas tecnologías. Las IA generativas pueden contribuir a diseñar fraudes con mucha más calidad, así como a perfilar objetivos.

7- Generación de chatbots maliciosos con objetivos delictivos: pueden interactuar con individuos para la obtención de información sensible o fines ilícitos económicos.

8- Suplantaciones de identidad: mediante la utilización de las denominadas “deep fakes” y la capacidad de la IA para generar textos imágenes, videos e, incluso, simular la voz. Con el apoyo de la creación de avatares que integren todos estos elementos, se aumenta la verosimilitud de la identidad.

9- Generación de código malicioso, como virus, troyanos, malware, ransomware, spyware: el objetivo es cometer ciberdelitos de diferente naturaleza.

10- Lucha de poder geopolítico y geoeconómico: en un contexto de poderes difusos y fragmentados, el liderazgo ya no sólo se mide por la capacidad económica, la diplomática o la militar. Ya en el año 2017, Vladimir Putin señaló que quien dominara la IA dominaría el mundo. La geopolítica y la geoeconomía presentan nuevos riesgos, pero también oportunidades para estados y empresas que sean capaces de leer el futuro. Los datos, junto a las tecnologías, están en el centro de configuración del poder, lo que genera una asimetría entre quienes disponen de ellos y quienes no.

Sin embargo, la tecnología, como gran factor de cambio de nuestras sociedades, generalmente no nace orientada hacia un uso malicioso. Por este motivo, Prosegur Research también ha querido analizar aquellas oportunidades que ChatGPT puede generar en el campo de la seguridad, entre las que destacan las siguientes.

1- Automatización de tareas rutinarias en funciones de seguridad: podría potenciar las competencias más humanas y facilitar el bienestar de los empleados, al eliminar tareas repetitivas y tediosas.

2- Generación de chatbots atractivos: con un perfil más amable y humano, para mejorar la interacción con clientes y con otras personas.

3- Acceso a ingentes cantidades de información de interés para la seguridad, de una manera estructurada por el uso del lenguaje natural: En este caso, se potencian las capacidades de inteligencia de fuentes abiertas (OSINT), siendo siempre conscientes de la criticidad de evaluar la fiabilidad de las fuentes y la credibilidad de la información.

4- En análisis de riesgos: puede apoyar la detección y catalogación de riesgos para las organizaciones.

5- Reconocimiento de patrones, dentro del amplio conjunto de datos e información que estas aplicaciones manejan: el valor no estaría únicamente en el patrón, sino en la anomalía, es decir, aquello que se sale de lo habitual y puede contribuir a generar una señal débil o una alerta temprana.

Lea también: WhatsApp permitirá guardar los mensajes temporales

6- En análisis de inteligencia puede contribuir a la generación de hipótesis, la identificación de tendencias y la construcción de escenarios en seguridad: aunque la IA no puede sustituir la creatividad humana sí puede resultar un complemento interesante para pensar fuera de la caja.

7- Estructuración de recomendaciones en cuestiones de seguridad: desde cómo defenderse de un ciberataque hasta qué medidas de seguridad adoptar previamente o durante un viaje. No sustituye de ninguna manera la labor de un analista de seguridad internacional, pero apoya algunas tareas.

8- Analítica predictiva: puede facilitar ciertas predicciones, con sus probabilidades asociadas, en base a la ingente cantidad de datos en que se basa.

9- En ciberseguridad puede apoyar la detección de phishing, probar y testar código, identificar vulnerabilidades, generar contraseñas seguras, o simular conversaciones con actores adversarios, o incluso con potenciales objetivos, para poder anticipar sus acciones.

10- Aprendizaje: las IA generativas pueden ser un primer punto para el aprendizaje sobre cuestiones vinculada a seguridad, sobre tecnologías, sobre riesgos. Especialmente serán de interés en la medida en que faciliten fuentes y estas sean cada vez más refinadas.

Elon Musk oficializa el dominio “X.com”

El multimillonario estadounidense Elon Musk anunció el viernes en la red social X que “todos los sistemas de base” de su plataforma, antes Twitter, están “ahora activos” bajo el nombre de dominio “X.com”, oficializando su nueva identidad.

El logo X, negro y blanco, aparecía desde finales de julio al conectarse a la red social, pero su dominio seguía siendo “Twitter.com”.

X.com era el nombre y la página web del banco digital fundado por Elon Musk en 1999, que más tarde se convirtió en el servicio de pago en línea PayPal.

Musk recuperó igualmente este símbolo para la compañía aeroespacial SpaceX, la sociedad X Corp que adquirió Twitter, la empresa emergente dedicada a la inteligencia artificial (IA), presentada en julio, e incluso para el nombre de uno de sus hijos, un niño llamado X Æ A-12.

Grok, el primer modelo de IA generativa de su empresa xAI, es accesible desde el jueves en Europa “para los abonados Premium de X”, anunció el jueves la red social.

“Cuando acaben las elecciones europeas [6-9 de junio de 2024], continuaremos el despliegue de tendencias contextualizadas para todos los usuarios”, precisó.

Desde la compra de Twitter en 2022 por 44.000 millones de dólares, Musk habló a menudo de transformar su proyecto en una superaplicación con múltiples facetas, con servicios financieros, como WeChat en China.

Desde el lanzamiento de la interfaz de IA generativa ChatGPT (OpenAI), esta tecnología se encuentra en el centro de una feroz competencia entre los gigantes del sector, principalmente Microsoft y Google, pero también Meta (Facebook e Instagram) y empresas emergentes como Anthropic o Mistral AI.

Fuente: AFP

Profesores generados por IA dan clase en una universidad de Hong Kong

Con un casco de realidad virtual, unos estudiantes de una universidad de Hong Kong viajan a un pabellón en las nubes para seguir una clase de la teoría de juegos explicada por un Albert Einstein creado con inteligencia artificial (IA).

La experiencia forma parte de un curso piloto de la Universidad de Ciencia y Tecnología de Hong Kong (HKUST) para probar el uso de “profesores” generados por esta tecnología en auge en el mundo.

El profesor Pan Hui, responsable de este proyecto, considera que esta herramienta puede ser de gran ayuda para los centros educativos ante la falta de personal en muchos países del mundo.

“Los profesores generados por IA pueden aportar diversidad (...) e incluso una narración inmersiva”, explica Hui a la AFP.

La difusión de herramientas como ChatGPT generó esperanzas de mejoras en productividad y enseñanza, pero también temores sobre las posibilidades que ofrecían para el engaño y el plagio o la sustitución de profesores.

En este curso “Redes sociales para los creativos”, estos maestros digitales abordan con una treintena de estudiantes cuestiones relativos a las tecnologías inmersivas y el impacto de las plataformas digitales.

Una vez que se carga el contenido de la formación al programa, este genera automáticamente los profesores, cuya apariencia, voz y gesticulación son personalizables.

Los avatares pueden aparecer en una pantalla o a través de cascos de realidad virtual.

El curso es híbrido porque Hui interviene también en las clases. Pero la IA, asegura, le ha permitido librarse de sus tareas más “pesadas”.

- Profesores de dibujos manga -

La estudiante de doctorado Lerry Yang considera que esta mezcla de universos reales y virtuales y la personalización de los profesores digitales mejora su aprendizaje.

Si un profesor digital “me hace más receptiva a nivel mental o me parece más accesible y amable, esto borra la sensación de distancia entre el profesor y yo”, asegura a la AFP esta joven que dedica su doctorado al metaverso.

Abordar el auge de la IA es un desafío común para el profesorado. Algunos deciden limitar su uso o intentan encontrar identificar de forma fiable los plagios.

Aunque al principio se mostraron dubitativas, la mayoría de universidades de Hong Kong autorizaron el año pasado a sus estudiantes usarla con condiciones variables.

En su curso piloto, Hui experimenta con avatares de género y orígenes étnicos distintos o con apariencia de figuras célebres del mundo académico como el economista John Nash o el mismo Einstein.

“Hasta ahora, el tipo de profesores [generados por IA] más populares son mujeres jóvenes y bellas”, dice.

Los personajes de dibujos animados japoneses, con los que también han experimentado, no generan unanimidad, explica la estudiante de doctorado Christie Pang, que colabora con Hui.

“Algunos estudiantes sentían que no podían confiar en lo que decía” el avatar digital, afirma.

- Mejor el real -

Para Pan Hui, la fiabilidad de los profesores generados por IA puede superar en el futuro la de los seres humanos reales. Pero es preferible que ambos tipos de maestros convivan, considera.

“Como profesores universitarios, nosotros nos ocuparemos mejor de nuestros estudiantes en lo que afecta, por ejemplo, a su inteligencia emocional, su creatividad y su pensamiento crítico”, explica.

Por ahora, esta tecnología está lejos de representar una amenaza seria para el personal académico.

Los avatares no pueden interactuar con los alumnos y, como todos los contenidos creados por la IA, pueden ofrecer respuestas falsas o extrañas, lo que algunos llaman “alucinaciones”.

Cecilia Chan, profesora de la Universidad de Hong Kong (KHU), sondeó el año pasado a más de 400 estudiantes: una mayoría de ellos prefería los tutores de carne y hueso.

Los alumnos “prefieren todavía hablar con una persona real porque un profesor de verdad puede compartir su experiencia, dar comentarios y demostrar empatía”, afirma Chan, cuyos trabajos se centran en el uso de la IA en la educación.

“¿Preferirías escuchar un ‘bravo’ de parte de un ordenador?”, pregunta la investigadora.

Sin embargo, los estudiantes ya recurren a herramientas basadas en la IA en su aprendizaje, como “hace todo el mundo”, dice Chan.

En la Universidad de Ciencia y Tecnología de Hong Kong, uno de los alumnos de Hui, Yang, lo confirma: “No se puede ir en contra del desarrollo de esta tecnología”.

© Agence France-Presse


Ya se puede escribir con letras de colores y diferentes estilos en WhatsApp: este es el truco

A través de apps de terceros, es posible instalar una serie de herramientas de personalización para darle un nuevo look a tus chats.

Con más de 2 mil millones de usuarios activos en todo el mundo, WhatsApp es el rey indiscutible de las apps de mensajería instantánea. Sin embargo, a pesar de su popularidad, WhatsApp carece de una función muy pedida por los usuarios: la posibilidad de cambiar el color y estilo de la letra en los mensajes.

Por ahora, el texto de los chats solo se puede enviar en negrita, itálica o tachado. Pero existe un truco para hacer más divertidos tus mensajes.

A través de apps de terceros, es posible instalar una serie de herramientas de personalización para darle un nuevo estilo a tus chats.

Es importante aclarar que estas apps no forman parte de WhatApp ni son desarrolladas por Meta. Y aunque en teoría no ocasionan ningún perjuicio en tu cuenta, ni te piden claves de acceso, cualquier problema que pueda ocasionar su uso, no será atendido por el soporte oficial de la plataforma de mensajería.

Paso a paso: cómo cambiar el color de la letra en WhatsApp

El truco para cambiar el estilo de la letra en WhatsApp es utilizar aplicaciones externas, como Stylish Text, BlueWords o Fancy Text Generator. Estas apps te permiten escribir mensajes con una amplia gama de colores, estilos de fuente e incluso agregar decoraciones a las conversaciones.

Usar estas aplicaciones es muy fácil. Solo tendrás que descargarlas desde el App Store de Apple o Google Play Store y comenzar a usarlos. Cada una de ella tiene una interfaz diferente, pero todas funcionan igual: escribís el texto, le cambiás el estilo, copiás, y luego en WhatsApp, lo pegás. ¡Y listo!