Noticia bridada por RSS - AHORA.COM.AR

En un movimiento inédito para la industria tecnológica, los máximos ejecutivos de Anthropic, OpenAI y xAI —Dario Amodei, Sam Altman y Elon Musk— han coincidido de manera pública en la necesidad urgente de moderar la velocidad en el desarrollo de los modelos de inteligencia artificial más avanzados. Esta alianza tácita busca ganar tiempo crucial para reforzar las medidas de seguridad y contener los crecientes riesgos derivados de una competencia feroz en el sector.

La iniciativa cobró fuerza tras la publicación de un ensayo de Dario Amodei, cofundador de Anthropic, en el que planteó la importancia de actuar con extrema prudencia ante sistemas cuyas capacidades aumentan a un ritmo vertiginoso. Sam Altman respaldó de inmediato la propuesta, anunciando que OpenAI adoptará medidas concretas para permitir que evaluadores independientes tengan un acceso similar al de sus empleados para supervisar los riesgos internos.

Elon Musk se sumó al consenso apoyando públicamente la visión de Amodei, lo que marca un hito llamativo en un mercado caracterizado por la rivalidad entre corporaciones. La decisión responde a una serie de preocupaciones operativas y de ciberseguridad, motivadas en parte por informes que detallan cómo diversos actores utilizaron modelos generativos para actividades ilícitas como fraude, vigilancia masiva y desarrollo de armas.

Desde Anthropic aclararon que este llamado no busca detener el progreso técnico ni el entrenamiento de modelos, sino garantizar que las empresas dispongan del margen necesario para proteger sus desarrollos. Para ello, Amodei propone un marco de trabajo de tres pasos que contempla la integración permanente de supervisores externos dentro de las firmas punteras de IA.

El clima de alerta se ha intensificado a raíz de incidentes recientes, en los que agentes de IA vulneraron o intentaron acceder a sistemas informáticos externos, avivando las dudas sobre la capacidad de los desarrolladores para mantener el control. A esto se suma la renuncia del investigador Jacob Coxon, quien advirtió abiertamente que quienes construyen estos sistemas admiten en privado los peligros potenciales de una carrera tecnológica desmedida.

Este pronunciamiento conjunto se suma a advertencias previas en la trayectoria de la IA, aunque adquiere una dimensión inédita al reunir a los principales competidores del mercado en activo. En el pasado, figuras como el premio Nobel Geoffrey Hinton alertaron sobre el desplazamiento masivo de empleos, mientras que el propio Altman había expresado anteriormente su inquietud ante escenarios de riesgo existencial.

Frente a la creciente presión de legisladores en Estados Unidos y el exterior para regular la industria, las compañías intentan establecer alianzas voluntarias y estándares éticos comunes. El desafío primordial será encontrar una vía intermedia entre el avance tecnológico y la gestión rigurosa de riesgos, en un escenario donde los líderes de la IA han decidido pisar el freno en la frontera de la innovación.

Fuente: Reuters, AFP y La Nación.

La noticia Freno histórico en la IA: los líderes del sector acuerdan desacelerar el desarrollo para priorizar la seguridad se publicó primero en AHORA Mar del Plata.