Sam Altman, director ejecutivo de OpenAI, volvió a encender el debate sobre la seguridad de la inteligencia artificial. En una serie de publicaciones en su cuenta de X, el empresario describió dos escenarios en los que el avance de esta tecnología podría «salir muy mal» y que, a su juicio, deben evitarse a toda costa.
El primero de esos riesgos, explicó, es perder el control del futuro ante la IA, una posibilidad que calificó sin rodeos de «inaceptable». «Estamos sin reservas del lado de la Humanidad, y la IA debe siempre servir a las personas», afirmó, al tiempo que insistió en que las técnicas de alineación y seguridad deben mantenerse por delante del crecimiento de las capacidades de los modelos.
El segundo peligro que señaló tiene que ver con la concentración de poder. Según Altman, un mundo en el que una inteligencia artificial extraordinariamente poderosa quedara en manos de una sola persona o empresa para imponer su visión «podría ser extremadamente distópico».
Para el directivo, evitar ambas amenazas exige caminar por un «angosto camino intermedio». Puso como ejemplo el riesgo de que un país o un laboratorio acumule demasiado poder, y reconoció que, en ambos casos, Estados Unidos tiene muchas posibilidades de ser el escenario.
Su propuesta concreta pasa por un marco legal federal que establezca requisitos de seguridad consistentes para la llamada IA de frontera, es decir, los modelos más avanzados. Aunque no cree que haya que esperar una legislación antimonopolio para empezar a generar confianza.
Altman se mostró entusiasmado con la idea de contar con auditores independientes que vigilen el cumplimiento de esas normas, y defendió la colaboración entre laboratorios para formular la mejor versión de estándares compartidos en desalineación, monitoreo y seguridad.
Eso sí, aclaró que ese control del ritmo no significa detenerse. «El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento de lo que podría ser de otra manera», sostuvo, y agregó que ninguna presión competitiva debería justificar la imprudencia ni permitir que las capacidades se adelanten al alineamiento.
Editado por: Lu Hanover / Stars World Production
