El horno no está para bollos
Más de mil ingenieros de laboratorios de vanguardia en California firmaron una carta reclamando controlar y frenar, a nivel mundial, la carrera por la IA.
Periodista, conductor y realizador televisivo, columnista en medios de difusión nacional. Nativo de Coronel Dorrego, alterna residencia entre Sauce Grande y Capital Federal. Conduce el ciclo ESAS PEQUEÑAS COSAS en BVC Bahía Blanca.
Es una frase familiar que de pibes venimos escuchando. Según el diccionario, indica que hay preocupaciones graves y que, en ese momento, no se toleran tonterías, juegos o distracciones. Hoy, los testimonios de personas que trabajan en empresas líderes en el desarrollo de la IA le dan plena vigencia.
En febrero pasado, el egipcio Mrinank Sharma, jefe del equipo de investigación de salvaguardas de la empresa Anthropic, renunció a su cargo declarando que «el mundo está en peligro». Denunció, además, que el desarrollo actual busca crear asistentes capaces de distorsionar el comportamiento humano y restar humanidad a las interacciones sociales.
¿Qué hizo Sharma? Abandonó su cargo corporativo para dedicarse a escribir poesías que entrecrucen la verdad científica con la mirada poética.
También en febrero pasado Zoe Hitzig, investigadora de alto rango en OpenAI, renunció y publicó un ensayo en el diario The New York Times. Allí se refirió a la manipulación invisible y advirtió que los nuevos modelos de IA tienen un potencial sin precedentes para manipular a los usuarios de formas que ni siquiera alcanzamos a comprender, y mucho menos a prevenir.
A fines de julio, más de mil ingenieros de laboratorios de vanguardia de IA en California firmaron una carta abierta reclamando controlar y frenar, a nivel mundial, la carrera por la IA. Leo Gao, investigador de OpenAI, acompañó su firma de adhesión con un párrafo inquietante: el mundo se encuentra sumido en una carrera mortal hacia una explosión de la IA, en la que la capacidad para crear sistemas cada vez más potentes alcanza un punto crítico que podría generar una reacción en cadena incontrolable. Y agregó que ningún actor está dispuesto a detenerse por su cuenta, razón por la cual «debemos coordinar nuestros esfuerzos para frenar esta carrera si queremos sobrevivir».
En paralelo, ejecutivos y personal calificado de empresas del Silicon Valley decidieron renunciar a sus puestos de trabajo, afirmando que «vieron el abismo».
Como Sharma, algunos optaron por mudarse a vivir en contacto con la naturaleza, la música, los libros y la poesía.
Algo habrán observado para provocar un giro tan radical en sus vidas y, además, hacer pública esa decisión.
Lo más reciente se conoció ayer: Jacob Coxon, joven investigador de Anthropic, renunció y alertó sobre el peligro de la IA.
«Puede matarnos antes de 2030», fue el impactante mensaje que provocó conmoción mundial, con más de 50 millones de visualizaciones.
Evan Hubinger, jefe del joven investigador en Anthropic, salió en su apoyo. Dijo que tenía razón y sostuvo que la probabilidad de extinción en los próximos años supera el 10%.
La inteligencia artificial plantea una paradoja inédita y preocupante: quienes más la conocen desde adentro son, al mismo tiempo, los que más temen sus consecuencias.
Intuyen que en el afán por hacerla cada vez más inteligente, pueden terminar creando un Frankenstein que luego nadie pueda controlar.
El desafío de hoy no es prohibir sino regular la IA. Que los estados y la propia inteligencia humana sea capaces de ponerle los límites.
Mientras esto no suceda, esta vez, de verdad, el horno no está para bollos..