Advertencia en Wall Street: Anthropic admite que la IA avanzada amenaza a la humanidad
La compañía se ubica en el centro del debate debido a las inquietudes que despiertan el acelerado ritmo de innovación
Anthropic advirtió que la postura de los gobiernos hacia la firma y su tecnología podría generar repercusiones de gran alcance en sus operaciones, lo que afectaría sus vínculos con clientes y aliados comerciales, según reportó Reuters.
Si bien es habitual que las corporaciones señalen que las modificaciones normativas representan un factor de riesgo —especialmente en el caso de las firmas que proveen al sector público—, las advertencias de este tipo suelen acotarse al ámbito normativo.
Por ejemplo, SpaceX precisó en su folleto de cotización que preservar una relación sólida con las dependencias gubernamentales de Estados Unidos resulta indispensable para su viabilidad, previniendo que cualquier deterioro institucional erosionaría de forma significativa su capacidad para mantener contratos activos o captar nuevas licitaciones.
Sin embargo, las observaciones de Anthropic abarcan un espectro más amplio, que sugieren que la percepción gubernamental sobre la empresa, y sus actuaciones podría trascender el canal directo con el Estado e incidir de manera negativa en sus clientes, socios, alianzas comerciales e incluso en la sociedad en su conjunto.
El prospecto advierte expresamente que la IA de última generación entraña "riesgos catastróficos o existenciales para la humanidad", un matiz extraordinario para una corporación que proyecta una salida a bolsa que podría valorarla en 2 billones de dólares sobre la base, precisamente, de comercializar dicha tecnología.
La firma aclaró que los ingresos procedentes de contratos con dependencias gubernamentales representan actualmente menos del 1% de su facturación total.
Aun así, la compañía se ubica en el centro del debate debido a las inquietudes que despiertan el acelerado ritmo de innovación, la feroz competencia internacional y la escasa fiscalización sobre los modelos de inteligencia artificial.
La agenda de seguridad en este ámbito se ha posicionado en la opinión pública recientemente, tras el llamado del director ejecutivo de Anthropic, Dario Amodei, para frenar la velocidad del desarrollo tecnológico.
La recomendación ocurrió luego de registrarse reiterados incidentes de ciberataques ejecutados por agentes autónomos de IA fuera de control.
Amodei sostuvo una cena de trabajo con el presidente de Estados Unidos, Donald Trump, en medio de crecientes presiones políticas para endurecer la regulación sobre el sector.
Aunque Trump ha rechazado en gran medida la imposición de controles estrictos, la Comisión Federal de Comercio (FTC) mantiene abierta una investigación integral sobre la industria de la IA que involucra a firmas como Anthropic, según reveló Reuters.
En el documento bursátil, Anthropic detalló varios desencuentros con la administración estadounidense durante el último año a modo de ejemplo sobre factores que podrían socavar su desempeño financiero.
El texto precisa que, en febrero, el presidente instruyó a los organismos federales a suspender el uso de los modelos de la compañía, al tiempo que el Departamento de Defensa catalogó a Anthropic como un riesgo de seguridad nacional dentro de su cadena de suministros.
"La corporación podría encarar disminuciones severas en sus ingresos o interrupciones operativas derivadas de estos acontecimientos", señaló la empresa.
De igual forma, Anthropic indicó que en junio el Departamento de Comercio de Estados Unidos aplicó restricciones de exportación con alcance global sobre sus modelos Fable 5 y Mythos 5, obligando a la empresa a pausar el acceso a dichos sistemas para la totalidad de sus usuarios con el fin de alinearse con la normativa.
A pesar de que el Departamento de Comercio retiró las sanciones posteriormente y Anthropic reactivó los modelos, la dirección advirtió sobre la posibilidad de que ocurran episodios similares en el futuro.
Este tipo de medidas gubernamentales podría provocar "un daño reputacional de consideración, acompañado de coberturas mediáticas desfavorables, escrutinio público y valoraciones negativas por parte de clientes actuales y potenciales, colaboradores, personal e inversores", independientemente del desenlace legal del proceso.
Finalmente, la compañía concluyó que la comercialización de servicios al sector público conlleva un margen de incertidumbre adicional, sujeto a giros en la percepción política respecto a Anthropic o al alcance de su tecnología.
