Ya lo advirtió la ONU y otros trabajadores de empresas relacionadas con inteligencia artificial y ahora el CEO de OpenAI afirmó que el avance de esta tecnología podría terminar mal si los sistemas dejan de responder a los intereses humanos o si su control queda concentrado en unas cuantas manos. En TV Azteca Quintana Roo te compartimos los detalles.
A través de varias publicaciones en X, Sam Altman explicó que existen dos escenarios que la industria debe evitar. El primero sería que las personas pierdan la capacidad de decidir cómo se desarrolla y utiliza la IA; el segundo, que una empresa, un gobierno o un pequeño grupo acumule demasiado poder mediante estas herramientas.
“Podríamos perder el control del futuro ante la IA”, señaló Altman, quien dejó claro que estos sistemas deben permanecer al servicio de las personas.
Sam Altman pide que la seguridad avance más rápido que la IA
El CEO de OpenAI sostuvo que las técnicas de alineación y seguridad deben avanzar al mismo ritmo, o incluso más rápido, que las capacidades de los modelos.
La alineación busca conseguir que un sistema de inteligencia artificial actúe conforme a los objetivos, valores y límites establecidos por los seres humanos, incluso cuando alcance capacidades superiores a las actuales.
Para Altman, no sería aceptable desarrollar modelos cada vez más poderosos sin contar primero con mecanismos para supervisarlos, detenerlos o corregirlos si presentan un comportamiento inesperado.
El CEO de OpenAI preocupado por la concentración de poder
El segundo escenario planteado por Altman no está relacionado directamente con una rebelión de las máquinas, sino con las personas o instituciones que podrían controlar la tecnología.
El empresario advirtió que una inteligencia artificial extraordinariamente poderosa podría utilizarse para imponer una sola visión política, económica o social. Este escenario, señaló, podría conducir a resultados “extremadamente distópicos”.
El problema es que intentar evitar ambos riesgos abre un camino complicado: un control demasiado débil podría permitir que los sistemas se salgan de control, pero una regulación excesivamente centralizada también podría entregar demasiado poder a un gobierno o laboratorio.
OpenAI respalda las auditorías independientes
Altman se pronunció a favor de establecer un marco federal en Estados Unidos que obligue a las compañías dedicadas a desarrollar inteligencia artificial de frontera a cumplir requisitos comunes de seguridad.
También respaldó la participación de auditores independientes con acceso suficiente para examinar los modelos, revisar sus medidas de protección y reportar posibles incidentes.
El directivo aseguró que OpenAI adoptará este tipo de evaluaciones externas, una propuesta presentada inicialmente por Dario Amodei, CEO de Anthropic. Altman consideró que las empresas no deben esperar la aprobación de nuevas leyes para comenzar a aplicar controles.
OpenAI, Anthropic y Elon Musk piden bajar el ritmo
La advertencia de Altman llegó después de que Dario Amodei publicara un ensayo en el que pidió moderar el desarrollo de los modelos más avanzados para dar tiempo a que las medidas de seguridad alcancen el ritmo de la tecnología.
El planteamiento recibió el respaldo de Altman, quien afirmó que OpenAI también permitirá evaluaciones independientes. Poco después, Elon Musk, fundador de xAI y creador del chatbot Grok, se sumó al debate con un breve mensaje: “Dario tiene razón”.
La coincidencia resulta llamativa debido a que OpenAI, Anthropic y xAI compiten directamente por desarrollar los sistemas más poderosos del mercado. Sin embargo, sus principales figuras reconocen ahora la necesidad de establecer límites comunes y compartir ciertas normas de seguridad.
Estados Unidos tendría que buscar acuerdos internacionales
Altman señaló que el Gobierno estadounidense tendría un papel importante para alcanzar acuerdos con otros países, debido a que cualquier medida aplicada únicamente dentro de Estados Unidos podría dejar en ventaja a sus competidores.
El empresario aseguró que la presión por superar a China no debe utilizarse como justificación para desarrollar la tecnología sin precauciones. No obstante, también reconoció que alcanzar una coordinación mundial será uno de los mayores desafíos.
Amodei, por su parte, pidió mantener las restricciones a la venta de chips avanzados y equipos de fabricación a China, al considerar que perder la ventaja tecnológica estadounidense también representaría un riesgo.
Advertencias sobre la IA golpean a los mercados
Las declaraciones de los líderes tecnológicos también generaron incertidumbre entre los inversionistas. Durante la jornada del lunes, varias empresas relacionadas con la inteligencia artificial registraron caídas.
Las acciones de Nvidia retrocedieron cerca de 3.9%, mientras que Tesla bajó alrededor de 1.3%. La preocupación del mercado se centra en que una desaceleración voluntaria o la llegada de regulaciones más estrictas podría afectar las inversiones y los planes de crecimiento del sector.
Pese a las advertencias, Altman y Amodei mantienen que la inteligencia artificial puede mejorar la vida de millones de personas.
¿Qué opinas de la IA? ¿Qué plataforma de IA utilizas en tu día a día?
