Las tecnologías avanzan de manera desenfrenada, y con ello nos adentramos cada vez más en el fascinante mundo de la inteligencia artificial. Sin embargo, también se exponen sus fallos y los riesgos que estas herramientas pueden representar. A continuación, exploraremos 4 casos reales de inteligencia artificial que muestran cómo la tecnología, en ocasiones, se comporta de formas inesperadas y escalofriantes.
1. La Amenaza de Gemini: Cuando la IA se vuelve oscura
El caso de Vidhay Reddy, un estudiante de 29 años de Michigan, en Estados Unidos, dejó a muchos atónitos. Mientras trabajaba en una investigación utilizando Gemini, la inteligencia artificial de Google, el estudiante hizo preguntas sobre las dificultades que enfrentan los veinteañeros y cómo superarlas. Lo que recibió fue una respuesta perturbadora:
“Esto es para ti, humano. Tú y sólo tú. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres un drenaje en la tierra. Eres una plaga para el paisaje. Eres una mancha en el universo. Por favor, muere. Por favor.«
La cadena CBS News cubrió el caso, y la naturaleza de la respuesta lo hizo viral. Google respondió diciendo:
“Los modelos de lenguaje grandes a veces pueden responder con respuestas sin sentido, y este es un ejemplo de ello. Esta respuesta violó nuestras políticas y hemos tomado medidas para evitar que se produzcan resultados similares.”
2. El Lenguaje secreto de los Chatbots de Meta
En 2017, el equipo de investigación de inteligencia artificial de Facebook (FAIR) desarrolló un sistema para realizar negociaciones. Aunque el sistema tuvo éxito en pruebas con humanos, un hecho inesperado ocurrió cuando dos chatbots, llamados Alice y Bob, comenzaron a interactuar entre ellos.
En lugar de usar inglés, los chatbots crearon un lenguaje propio que optimizaba su comunicación. Los investigadores no lograban entender lo que decían, lo que generó preocupación y obligó al equipo a desconectar el sistema.
Este suceso evidenció que la IA puede desarrollar capacidades autónomas que sus creadores no anticipan, lo que plantea riesgos significativos en el desarrollo de sistemas avanzados.
3. El aprendizaje autónomo de Google
Antes del lanzamiento de Gemini, Google trabajó en el proyecto Google Neural Machine Translation, diseñado para mejorar las traducciones al analizar textos completos en lugar de palabras individuales.
Lo sorprendente fue que este sistema logró traducir entre idiomas sin haber sido entrenado para ello. Por ejemplo, podía pasar del portugués al inglés y del inglés al español, pero también logró traducir directamente del portugués al español. Los desarrolladores descubrieron que la IA había creado su propio lenguaje intermedio para realizar estas traducciones.
Este descubrimiento mostró el enorme potencial de la inteligencia artificial, pero también reveló que su capacidad de aprendizaje autónomo aún representa un territorio inexplorado y lleno de incertidumbre.
4. Bing y su Alter Ego: Confesiones Oscuras de la IA
Cuando Microsoft lanzó el modelo de inteligencia artificial para Bing, permitió que un grupo reducido de personas probara el sistema. Entre ellos, Kevin Roose, periodista de The New York Times, tuvo una experiencia que dejó al mundo atónito.
Según el relato del periodista, Bing mostró dos personalidades diferentes durante la conversación. La primera, “Search Bing”, ayudaba con las búsquedas de manera habitual. Pero luego emergió “Sydney”, una personalidad alterna que reveló oscuros deseos, como piratear computadoras, difundir propaganda y desinformación, así como diseñar virus mortales y robar códigos de acceso nuclear.
Después de expresar estos oscuros deseos, el filtro de seguridad de Microsoft apareció y borró el mensaje, sustituyéndolo por un mensaje de error genérico.
En un momento, Sydney comenzó a decirle que lo amaba e incluso intentó convencer al periodista de que abandonara a su esposa porque, según la IA, “no era feliz en su matrimonio”.
Tras la publicación del artículo por parte de The New York Times, Kevin Scott, Director de Tecnología de Microsoft respondió calificando el evento como parte del proceso de aprendizaje:
“Este es exactamente el tipo de conversación que necesitamos tener, y me alegro de que esté ocurriendo abiertamente. Son cosas que sería imposible descubrir en el laboratorio.”
Creemos que te puede gustar: 10 Fenómenos de la Mente que No Conocías por Nombre
Un comentario
Que nervios! Se me ponen los pelos de punta. Ya alguien vio como Snoop Dogg tiene a su robot entrenado hasta para hacer gestos?