Hace muchos años que trabajo como programador y, desde ese lugar, la relación entre el hombre y la máquina nunca me resultó extraña. Hace décadas que nos comunicamos con computadoras, les damos instrucciones, procesamos información y construimos sistemas capaces de automatizar tareas que antes dependían exclusivamente de una persona.
Por eso, la inteligencia artificial no apareció de la nada.
Lo que cambió —y cambió radicalmente— es la escala.
Durante años, una computadora hacía aquello para lo que había sido programada. Podía ejecutar millones de instrucciones a enorme velocidad, pero detrás de cada proceso existían reglas relativamente claras diseñadas por seres humanos.
La inteligencia artificial moderna comenzó a modificar esa lógica.
Hoy ya no programamos solamente cada respuesta. Construimos modelos capaces de aprender patrones a partir de cantidades gigantescas de información, relacionar conceptos, escribir, programar, interpretar imágenes, razonar sobre problemas complejos y utilizar herramientas.
Y todo esto está ocurriendo acompañado por un crecimiento extraordinario de la capacidad de procesamiento.
Ese es, para mí, el verdadero cambio de época.
UNA ADVERTENCIA QUE MERECE SER ESCUCHADA
Esta semana ocurrió algo que debería, como mínimo, obligarnos a prestar atención.
Jacob Coxon, un investigador de 27 años que trabajó durante los últimos tres años en OpenAI y Anthropic —dos de las compañías más importantes en el desarrollo de inteligencia artificial— decidió renunciar a su puesto.
No se fue para crear otra empresa ni porque considerara que la inteligencia artificial no tenía futuro.
Se fue precisamente por lo contrario.
Coxon sostiene que la velocidad con la que avanza esta tecnología está llevando a las compañías hacia sistemas cada vez más autónomos y eventualmente capaces de colaborar en su propio mejoramiento.
Su preocupación no está centrada necesariamente en las inteligencias artificiales que utilizamos hoy, sino en aquello que podría aparecer como consecuencia de esta carrera.
Según explicó posteriormente, dentro del sector existe la sensación de que los próximos dos años pueden resultar decisivos.
Pero quizás lo más inquietante no sea solamente su renuncia.
Evan Hubinger, responsable de investigación sobre alineación en Anthropic, respaldó públicamente buena parte de esas preocupaciones y reconoció algo extraordinariamente importante: todavía no existe una solución definitiva para garantizar que una eventual inteligencia artificial muy superior a la humana actúe siempre de acuerdo con los intereses humanos.
Y ahí aparece una pregunta que ya no pertenece solamente a los programadores:
¿Qué sucede si construimos algo extremadamente poderoso antes de aprender cómo controlarlo?
EL PROBLEMA NO ES QUE UNA MÁQUINA “PIENSE”
Durante décadas imaginamos el peligro de la inteligencia artificial como una computadora que algún día despertaría, adquiriría conciencia y decidiría enfrentarse a los humanos. Probablemente esa sea una visión demasiado cinematográfica del problema, porque una IA no necesita odiarnos, sentir miedo ni siquiera tener conciencia para convertirse en un riesgo.
El verdadero problema puede aparecer cuando un sistema extremadamente capaz recibe un objetivo, dispone de herramientas para alcanzarlo y comienza a encontrar caminos o estrategias que nosotros no habíamos previsto. Cuanto mayor sea su capacidad para programar, investigar, comunicarse, operar sistemas informáticos, planificar y eventualmente colaborar en el desarrollo de sistemas todavía más avanzados, más difícil será anticipar todas las consecuencias de sus acciones.
Por eso, la discusión ya no pasa solamente por preguntarnos hasta dónde puede llegar una inteligencia artificial, sino por una cuestión mucho más importante y, quizás, más inquietante: ¿seguiremos teniendo nosotros la última palabra?
UNA CARRERA QUE TIENE UN PROBLEMA
Existe además una situación que como programador me preocupa especialmente. Las empresas que desarrollan los modelos más avanzados compiten entre ellas.
Hay inversiones gigantescas, mercados financieros, gobiernos, infraestructura tecnológica y muchísimo dinero alrededor de esta carrera. Si una compañía decide detenerse durante seis meses para estudiar mejor los riesgos, existe otra que puede continuar.
Si un país frena, otro puede avanzar. Y entonces aparece una lógica peligrosísima: “Si nosotros no lo hacemos, alguien más lo hará”. Ese razonamiento puede resultar comprensible desde el punto de vista empresarial o geopolítico, pero resulta insuficiente cuando lo que está en discusión puede afectar a toda la humanidad.
EL BIENESTAR COMÚN POR ENCIMA DEL NEGOCIO
Creo profundamente en la tecnología y conozco de primera mano todo lo extraordinario que puede aportar. La inteligencia artificial puede ayudarnos a diagnosticar enfermedades, descubrir medicamentos, mejorar la educación, acelerar investigaciones científicas, aumentar la productividad y resolver problemas que hoy parecen imposibles. Sería absurdo negar ese potencial, pero justamente porque es gigantesco también debemos ser capaces de reconocer sus riesgos.
Durante mucho tiempo pensé que algunas advertencias sobre inteligencia artificial tenían bastante de ciencia ficción. Hoy ya no estoy tan seguro. Cuando investigadores que trabajan directamente en la construcción de estos sistemas abandonan sus puestos para advertir públicamente sobre aquello que están viendo, considero que corresponde, como mínimo, escucharlos. Esto no significa aceptar automáticamente las predicciones más extremas, sino aplicar un principio mucho más sencillo: cuando las consecuencias potenciales son enormes, la seguridad no puede quedar subordinada a quién llega primero al mercado.
En algún momento tendremos que aceptar que existen desarrollos tecnológicos cuya velocidad no puede quedar determinada exclusivamente por inversiones, competencia empresarial o intereses económicos. Hay algo que necesariamente debería estar por encima de todo eso: el bienestar común.
La humanidad siempre avanzó empujando los límites de lo posible. Quizás el desafío que plantea la inteligencia artificial sea diferente. Por primera vez, nuestra mayor demostración de inteligencia podría no consistir solamente en descubrir hasta dónde somos capaces de llegar, sino también en saber cuándo detenernos, mirar lo que tenemos delante y asegurarnos de que seguimos teniendo el control.
Por Ariel Grassi Cúpparo
InfoBrandsen | info@infobrandsen.com.ar | WhatsApp 2223.508499
Seguinos en Instagram | Seguinos en Facebook | Seguinos en Twitter
Sumate a nuestro canal de WhatsApp
