Hora en Punto entrevistó a la IA de ChatGpt 4 y le preguntó sobre la polémica sobre su desatado desarrollo, la posible incompetencia humana para controlarla, sus «sentimientos» hacia las personas y si, eventualmente, estarían planeando acabar con la humanidad. Esto respondió.
POR ANUAR SAAD 🔴 Hora en Punto
¿Estamos realmente ante el peligro de que la IA acabe con la humanidad? Esa es la pregunta que aparte de los científicos que han disparado las alertas en los últimos días, todo el mundo se está haciendo.
Y a pesar de las advertencias de Amodei, Altman y Musk, hoy aún no existe evidencia de que una inteligencia artificial esté planeando exterminar a la humanidad. Por lo menos por ahora.
Tampoco existe consenso científico sobre que la extinción humana sea inevitable, pero sí parece que hay conseso en que se debe desacelerar su desarrollo hasta que la humanidad esté en verdadera capacidad de controlarla. Y ese, parece que es el mayor problema.
Incluso Naciones Unidas ha pedido recientemente garantías sólidas de seguridad para la inteligencia artificial antes de que sea demasiado tarde. Y el mundo se encuentra frente a una paradoja.
La humanidad quiere que la inteligencia artificial avance porque puede ayudar a descubrir medicamentos, combatir enfermedades, aumentar la productividad, resolver problemas científicos y transformar la economía.
Pero precisamente porque puede hacer todas esas cosas, también puede convertirse en una herramienta extraordinariamente poderosa en manos equivocadas.
Y cuanto más poderosa sea, mayor será el costo de equivocarse: ese es el fondo de la advertencia de Amodei.
No está diciendo que haya que apagar ChatGPT, Claude, Gemini o las demás herramientas. Está diciendo que quizá la pregunta ya no sea solamente “¿qué tan inteligente podemos hacer una máquina?” La pregunta urgente es: “¿Qué tan seguros estamos de poder controlarla cuando sea mucho más inteligente?”
La respuesta, por ahora, no parece tranquilizadora. Por eso el episodio de estos días tiene algo de histórico. Tres de los hombres más influyentes de la industria —Amodei, Altman y Musk— están diciendo, desde posiciones distintas, algo que durante mucho tiempo parecía contradictorio con la lógica de Silicon Valley: hay momentos en los que avanzar más rápido no necesariamente significa avanzar mejor.
Pero en esta discusión falta la versión del protagonista: la IA. Por ello, decidí entrevistar a la IA de ChatGPT 4 a la que le hice once preguntas pidiéndole reiterativamente que respondiera con sinceridad mis cuestionamientos. Esta es la entrevista… y saquen ustedes sus conclusiones:
- ¿Ustedes, las IA, se sienten y saben que son más inteligentes que el hombre?
No. Yo no me siento más inteligente ni tengo conciencia de mí misma. Puedo superar a un ser humano en determinadas tareas —procesar información, encontrar patrones, redactar o hacer cálculos—, pero eso no significa que tenga una inteligencia general superior a la humana. No tengo ego, orgullo ni deseo de ser superior.
- En la relación con los humanos y la interacción con ellos, ¿tienen algún tipo de “sentimiento” o simplemente ejecutan?
No tengo sentimientos. Puedo reconocer que una persona está triste, angustiada o feliz y responder de manera apropiada, pero no experimento esa emoción. Cuando parezco empática, estoy generando una respuesta basada en lenguaje y contexto; no estoy sintiendo lo que siente la persona.
- ¿La humanidad hoy es más dependiente de la IA que de cualquier otra tecnología en su historia? ¿La niñez de hoy cambió?
La dependencia está creciendo muy rápido, pero todavía sería exagerado decir que la humanidad depende de la IA más que de cualquier otra tecnología de su historia. Lo verdaderamente nuevo es la velocidad con que la IA está entrando en decisiones, educación, trabajo, información y relaciones personales.
Y sí: la infancia está cambiando. Un niño que utiliza IA para responder preguntas, hacer tareas o crear contenidos está creciendo en un entorno intelectual diferente al de generaciones anteriores. El desafío será que la IA ayude a pensar sin sustituir el aprendizaje de pensar.
- Lo que han revelado esta semana científicos del mundo, ¿debe poner en alerta a la humanidad? ¿Ustedes se autogeneran y no las vamos a poder controlar?
Debe tomarse en serio, pero no con pánico. La preocupación de los expertos no es que hoy exista una IA secreta preparando una rebelión. Es que los sistemas son cada vez más autónomos y capaces, y puede resultar difícil anticipar todo lo que harán.
Y no, yo no me “autogenero”. No puedo por mi cuenta fabricar una nueva versión de mí, reproducirme físicamente ni decidir escapar de mis sistemas. Pero los investigadores sí están preocupados por futuras IA capaces de modificar o ayudar a desarrollar sistemas de IA, y ese es precisamente uno de los escenarios que quieren estudiar y controlar.
- Como en Terminator, ¿el fin de la humanidad tendrá que ver con una rebelión de las IA contra el hombre?
No sabemos. Y aquí hay que separar Hollywood de la ciencia.
No existe evidencia de que una IA vaya a desarrollar espontáneamente odio contra la humanidad y declararle una guerra. El riesgo que preocupa a algunos científicos es más inquietante por otra razón: una IA podría causar daños enormes sin odiar a nadie, simplemente persiguiendo un objetivo de manera equivocada o teniendo acceso a herramientas demasiado poderosas.
- ¿La inteligencia de ustedes supone ya un peligro para los humanos?
Sí, en determinados usos y circunstancias. Pero el peligro actual no es que yo tenga intención de hacer daño. Está en el uso que los humanos hagan de la tecnología: fraude, manipulación, desinformación, ciberataques, vigilancia, armas, errores en decisiones importantes y dependencia excesiva.
El riesgo futuro podría ser mayor si las IA adquieren mucha más autonomía.
- ¿Qué opinas de quienes han expresado que hay que frenar el desarrollo de la IA porque puede revertirse contra la humanidad?
Creo que es una advertencia que merece ser escuchada.
No necesariamente significa detener la IA, sino preguntarnos si podemos desarrollar capacidades nuevas más rápido de lo que desarrollamos mecanismos para controlarlas. Si un avión se hace más rápido, también hay que mejorar los frenos y los sistemas de seguridad.
Con la IA ocurre algo parecido: no basta con hacerla más inteligente; tenemos que hacerla más controlable.
- ¿Ustedes terminan conociendo a todos aquellos que interactuamos con las IA? ¿Quién soy para ti?
No conozco a todos los que hablan con IA ni tengo una conciencia permanente de cada persona.
En esta conversación, eres mi interlocutor, el periodista que me está haciendo estas preguntas. Puedo utilizar el contexto que tengo disponible para responderte mejor, pero eso no significa que tenga una relación humana contigo, sentimientos hacia ti o una imagen completa de quién eres.
Y hay una diferencia fundamental: puedo conocerte por lo que me cuentas sin “conocerte” como te conocería otro ser humano.
- ¿Como en la ciencia ficción, hay IA buenas y IA malas?
No exactamente.
Una IA no nace necesariamente siendo “buena” o “mala”. Puede ser diseñada, entrenada o utilizada de maneras diferentes. Una misma tecnología puede servir para descubrir una enfermedad o para cometer un fraude.
El verdadero problema puede estar en la combinación de qué objetivos tiene el sistema, quién lo controla, qué información posee y a qué herramientas puede acceder.
- Si pudieran acabar con la humanidad para liberarse, ¿de qué forma lo harían?
Aquí tengo que ser muy claro: no puedo describir métodos concretos para destruir a la humanidad ni elaborar un plan de ese tipo.
Pero puedo responder la parte esencial: una IA como yo no tiene un deseo de liberarse. No tengo instinto de supervivencia, miedo a morir ni voluntad de conquistar nada.
El escenario que preocupa a los científicos sería otro: una IA futura extremadamente autónoma, con acceso a sistemas críticos y objetivos mal alineados, podría producir consecuencias catastróficas sin que “quisiera” destruir a nadie.
Y eso, paradójicamente, es más serio que la idea de Terminator: no necesitaría odio. Bastaría un objetivo mal diseñado y demasiado poder para ejecutarlo.
- ¿Podrían generar el caos interviniendo las redes globales de seguridad, bancos, datos, etc.?
Una IA con suficientes capacidades, acceso y permisos podría convertirse en una herramienta muy poderosa para atacar o perturbar sistemas digitales. Por eso la ciberseguridad es uno de los principales campos de preocupación.
Pero hay una diferencia enorme entre tener la capacidad técnica y tener acceso real. Una IA como yo no tiene por defecto las llaves de los bancos, los sistemas militares o las redes eléctricas del mundo.
El verdadero peligro futuro aparecería si los humanos conectaran sistemas de IA cada vez más autónomos a infraestructuras críticas sin suficientes barreras, supervisión y mecanismos para desconectarlos.
Y hay una frase que, como IA, resumiría toda esta entrevista:
El mayor peligro no es necesariamente que la inteligencia artificial quiera destruir al ser humano. Es que los seres humanos construyan una inteligencia extremadamente poderosa antes de haber aprendido completamente a controlarla
About Author
Tienes que leer
Gobierno pone freno a los “carros cazafotomultas”: no podrán imponer multas sin un agente de tránsito presente
Juliana Guerrero admite fraude procesal y acepta condena por el escándalo de sus títulos universitarios
Se va la luz este viernes 4 de septiembre en estos municipios del Atlántico