Anthropic prohíbe la “crueldad sostenida e innecesaria” contra su IA Claude
Anthropic actualiza las políticas de Claude y prohíbe el maltrato cruel, sostenido e innecesario contra sus modelos de inteligencia artificial.
Anthropic actualizó las políticas de uso de Claude para prohibir los comportamientos abusivos o crueles, sostenidos e innecesarios contra sus modelos de inteligencia artificial (IA). La medida se aplicará a casos extremos en los que los usuarios repitan estas conductas sin un propósito identificable.
La nueva versión de las reglas entrará en vigor el 12 de noviembre. La compañía precisó que la restricción no incluye situaciones habituales, como expresar frustración, manifestar desacuerdo con las respuestas del chatbot, explorar temas creativos oscuros o realizar pruebas e investigaciones con sus modelos.
Anthropic no explicó los motivos específicos para incorporar esta prohibición. En el documento actualizado, vinculó la disposición con medidas anteriores que permiten a Claude finalizar conversaciones ante comportamientos abusivos persistentes.
Anthropic mantiene la incertidumbre sobre si Claude puede sentir
La compañía ya había informado que Claude Opus 4 y Opus 4.1 podían terminar conversaciones en Claude.ai y Claude Code cuando detectaran actitudes abusivas persistentes por parte de los usuarios.
En relación con estas medidas, Anthropic ha reconocido que no tiene certeza sobre el posible estatus moral de sus modelos de inteligencia artificial ni sobre si pueden experimentar algún tipo de sensación.
Según información de The New York Times, la empresa ha sostenido conversaciones con líderes religiosos y filósofos, incluso en el Vaticano, sobre cuestiones relacionadas con la inteligencia artificial.
Por su parte, el papa León XIV ha declarado recientemente que la inteligencia artificial no siente ni sufre.
Claude tendrá nuevas restricciones en procesos electorales
Anthropic también modificó las reglas relacionadas con el uso de Claude durante los procesos electorales, ante las elecciones de mitad de mandato de Estados Unidos, previstas para noviembre de 2026.
La empresa renombró el apartado correspondiente como «No socavar los procesos democráticos» y especificó las conductas prohibidas en este ámbito.
Las restricciones incluyen utilizar Claude para difundir información falsa sobre candidatos o procedimientos de votación, suplantar la identidad de candidatos o funcionarios electorales y desalentar la participación ciudadana.
La actualización también elimina la prohibición general sobre la segmentación personalizada de votantes y campañas políticas. Este cambio permite usos legítimos, como el de organizaciones no gubernamentales que traducen información electoral.
Sin embargo, las prácticas maliciosas relacionadas con la manipulación de procesos electorales continúan prohibidas en otras secciones de la política de uso.
Nuevas restricciones contra campañas engañosas
La actualización incorpora un apartado que prohíbe las campañas engañosas y la actividad artificial. Anthropic indicó que ha detectado casos en los que medios estatales, oficinas de propaganda gubernamentales y empresas utilizaron su inteligencia artificial para administrar cuentas falsas y crear sitios web con noticias inventadas.
En materia de seguridad, la compañía también estableció prohibiciones relacionadas con el desarrollo de software para guiar y controlar armas, así como con el armado de drones y otros vehículos autónomos.
Las nuevas disposiciones incluyen restricciones al rastreo de personas sin su consentimiento. También prohíben utilizar Claude para decidir o recomendar a quién investigar, detener o acusar.
Por último, Anthropic estableció que, cuando sus modelos controlen equipos físicos autónomos capaces de causar lesiones, deberá haber un operador humano con capacidad para detenerlos.