Por: Natalia Rojas Neri

A mediados de mayo de este 2023 el CEO de la empresa OPEN AI, Sam Altman fue llamado a declarar ante el Congreso de los Estados Unidos. Los legisladores estadounidenses, y la población usuaria de ChatGPT en general, escucharon las declaraciones de Altman con cautelosa atención, con el antecedente de que existen muchas compañías que desarrollan tecnología y desconocen de los alcances reales de sus algoritmos.

Una rápida introducción.

En la compleja era digital que nos toca compartir, el desarrollo de sistemas que emplean alguna forma de inteligencia artificial (IA), la tecnología ha alcanzado nuevos hitos y posibilidades, transformando la forma en que podemos interactuar y aprovechar de la ciencia IA y de sus alcances. Una de las últimas innovaciones en este campo es ChatGPT ( abreviación de “Chat Generative Pre-trained Transformer”), un modelo de lenguaje basado en inteligencia artificial desarrollado por OpenAI, y que tiene la capacidad de comprender y generar texto de manera conversacional. Ésta solución, basada en IA, ha despertado un gran interés y debate en la comunidad tecnológica. Desde su presentación al público en general, ChatGPT ha demostrado ser una herramienta asombrosa para la comunicación y el procesamiento del lenguaje natural. Gracias a su capacidad para mantener diálogos fluidos y coherentes, ChatGPT se ha convertido en una opción popular para aplicaciones de chatbot, asistentes virtuales y servicios de atención al cliente automatizados. Su habilidad para entender preguntas, proporcionar respuestas contextualmente relevantes y ofrecer información precisa ha llevado a una experiencia de usuario mejorada en diversas plataformas.

No obstante, con el surgimiento de la herramienta también han surgido preocupaciones legítimas sobre su uso y su potencial destructivo. La cuestionante ética y la responsabilidad en la implementación de la inteligencia artificial se ha vuelto más relevante que nunca.

ChatGPT pertenece al campo especializado de la IA, denominado “Generative AI” o IA Generativa, la cual es un  subdominio del “Deep Learning” o Aprendizaje profundo y a su vez este es un subdominio del aprendizaje automático o “Machine Learning”. En palabras de la misma IA ChatGPT, este se define como:

Un modelo de lenguaje amplio entrenado por OpenAI usando un algoritmo de aprendizaje profundo llamado transformador. Fue entrenado en una cantidad masiva de datos de texto de internet y otras fuentes, con el objetivo de ser capaz de comprender el lenguaje natural y dar respuestas muy parecidas a las que daría un humano a preguntas o indicaciones.

Image Credit: Business vector created by www.freepìk.com

Con referencia a la seguridad ¿cuáles son las limitaciones impuestas a ChatGPT por OpenAI que afectan a la ciberseguridad?

Si bien ChatGPT puede ser utilizado como un gran asistente para ingenieros informáticos y consultores en ciberseguridad, la solución tiene algunas limitaciones impuestas por sus desarrolladores dentro de lo que puede hacer como por ejemplo:

• No ofrece respuestas de carácter dañino: ante alguna consulta dañina o nociva la IA se limita a dar una respuesta, y se adhiere a la política de casos de uso de Open AI. No obstante, es posible que se desvíe de las restricciones o protecciones y produzca resultados incorrectos o indeseables.
• Puede ofrecer respuestas obsoletas: por la falta de conocimiento específico de dominio (domain specific knowledge o “DSK”) o de conocimiento empírico pueden dar como resultado a respuestas incompletas y también información obsoleta. Hoy en día esta su base de datos está actualizada al 2021.
• Resumen de textos: puede dar poca importancia a partes de un texto que podrían ser consideradas como importantes, por un humano. La respuesta va a depender significativamente de la manera en la que se formula una consulta.
• Cálculos complejos: puede realizar tareas simples como conversiones de texto-Base64, no obstante, para cálculos más complejos como cálculos de algoritmo hash puede dar resultados incorrectos, por ser cálculos más complejos.
• Python Scripts: puede que realice códigos que no funcionen. Por lo que se recomienda que ChatGPT sea utilizado como un asistente tecnológico y no así como un reemplazo.

¿Qué riesgos pueden haber por el uso malicioso de ChatGPT?

Al ser Chat GPT un modelo de lenguaje prácticamente nuevo en nuestro medio muchas dudas, inquietudes y también preocupaciones surgen por su uso. A continuación se identificarán y calificarán algunos potenciales riesgos asociados al uso malicioso de la IA según la organización sin fines de lucro Cloud Security Alliance (CSA) que son expertos en el tema de ciberseguridad en Cloud Computing:

1. Enumeración: Enumeración es la acción de extraer de un sistema nombres de usuario, nombres de dispositivo, nombres de directorios, y otra información reservada. La CSA la califica como de riesgo medio, de impacto bajo y probabilidad alta  de que ocurra.
2. Foothold assistance: Este concepto, mismo que traducido al español significa “asistencia para establecer una base sólida” o “asistencia para establecer una posición sólida”, se refiere al proceso de ayudar a atacantes a establecer una ventaja inicial o un punto de apoyo dentro de un sistema o red objetivo en el panorama tecnológico. Esto involucra el aprovechamiento de vulnerabilidades o puntos débiles, para ganar acceso no autorizado. Posterior a ello, los atacantes pueden obtener información y lanzar ataques para cumplir con sus objetivos. CSA la califica como de riesgo medio, impacto medio, probabilidad media  de que ocurra.
3. Reconocimiento: CSA califica que tiene un riesgo bajo, impacto medio, y probabilidad baja de que ocurra. Este hace referencia a la fase inicial de recolección de información sin interactuar directamente con el sistema o la red de destino. El reconocimiento puede realizarse por varios métodos como el Reconocimiento pasivo, reconocimiento activo, y la Ingeniería social.
4. Phishing:  El objetivo principal del phishing es engañar a las personas haciéndoles creer que están interactuando con una institución de confianza, como un banco, una empresa legítima o un servicio en línea, cuando en realidad están proporcionando información a un estafador. De esta manera, obtienen información confidencial de sus víctimas. Con ayuda de la IA pueden realizar correos que parezcan legítimos sin esfuerzos. Esto resalta la importancia de concienciación y mejora de las medidas de seguridad para protegerse de intentos de phishing. CSA califica a las actividades definidas como phishing como de riesgo medio, de impacto bajo, y con probabilidad alta  de ocurrencia.
5. Código Polimórfico:  El término “código polimórfico” se refiere a un tipo de código que tiene la capacidad de modificar su propia estructura utilizando un motor polimórfico o técnica de “mutación”. Aunque se altera, el código mantiene su funcionalidad original. De esta manera, el malware polimórfico puede cambiar su apariencia, contenido y firma, con el objetivo de evadir la detección y ocultar su intención maliciosa. Pero eso podría ser utilizado para generar un shellcode polimórfico. La CSA califica como de riesgo alto, impacto alto y probabilidad media.

Image Credit: www.analyticsinsight.net

Jailbreaking ChatGPT

Si bien existen más posibilidades con finalidades que atentan contra la ciberseguridad y la integridad de datos de los usuarios de internet en general, se ha puesto de moda también entre los especialistas de seguridad  y los hackers, es el “Jailbreaking”. Este término fue utilizado principalmente para desbloquear o rootear teléfonos móviles, en particular a los de la marca iPhone. Por las características de ChatGPT, su forma de aprender y obedecer las instructivas, el jailbreaking está siendo usado para desbloquear limitaciones de la herramienta, buscando que la carencia de restricciones lo haga más libre y potencie sus capacidades. Lamentablemente este uso no sigue solamente el buen uso de la ciencia y de la educación, y tiene potenciales muy negativas por sus potencialidades para actividades ilícitas, exponencialmente peligrosas en el área de la ciberseguridad.

Entonces, ¿es ChatGPT una amenaza para la seguridad informática?

La primera respuesta es que sí, evidentemente la herramienta puede ser usada de forma maliciosa e ilegal en el área de la seguridad informática, pero no es solamente un instrumento con connotaciones negativas, sino también una potencial herramienta para mejorar sistemas en cuanto a su seguridad, y la ejecución de procedimiento en favor de una mejor y más efectiva. Al igual que cualquier herramienta o arma, depende mucho del portador de la misma y de la intencionalidad con la que se maneja; puede ser usada para destruir, efectivamente, pero también para construir.

En tal sentido es necesario que la regulación y normativas que regulen las limitaciones y el uso del público internauta en general se apuren, y que como siempre, la ciencia jurídica procure como pueda mantener el paso y el ritmo en el que avanza la tecnología.