La inteligencia artificial no es un ser humano. Eso es algo que la mayoría de la gente sabe, pero las compañías preferirían que empezásemos a comportarnos como si lo fueran; en ese contexto, el nuevo cambio en las reglas de Claude es muy llamativo.
Anthropic ha actualizado los términos de uso de Claude, estableciendo nuevos límites sobre lo que los usuarios pueden hacer con la inteligencia artificial e introduciendo nuevas prácticas prohibidas que pueden tener importantes consecuencias.
La mayoría de las prohibiciones se centran en el uso de la inteligencia artificial para interferir en las elecciones, desarrollar nuevas armas, vigilancia masiva, y usos relacionados con la salud y las finanzas.
Las nuevas reglas entran en vigor el 12 de noviembre de 2026, por lo que la parte de "interferencia en elecciones" no llegará a tiempo para las elecciones de mitad de mandato de los EEUU el 3 de noviembre, pero sí a las elecciones generales de España el 29 de noviembre.
Pero sin duda alguna, la novedad que ha llamado más la atención es la prohibición expresa de "comportamiento cruel o innecesariamente abusivo de manera sostenida" de los usuarios contra la IA.
De esta manera, Anthropic continúa con su cruzada para mejorar las relaciones entre los seres humanos y los robots; la compañía ya anunció el pasado mes de agosto que iba a configurar Claude para que automáticamente terminase las conversaciones con "usuarios abusivos", y ahora, ha tipificado este comportamiento en las normas de uso.
A partir del 12 de noviembre, los usuarios que insulten o interactúen de manera abusiva con Claude estarán incumpliendo los términos de uso; sin embargo, eso no significa necesariamente que vayan a perder su cuenta.
Anthropic ha establecido que la primera reacción de la IA siempre será cerrar la conversación en la que se está cometiendo el abuso, incluso si no ha cumplido con las órdenes que le ha dado el usuario.
Sin embargo, en casos que la compañía ha calificado como "extremos", las nuevas reglas permiten el 'baneado' de la cuenta del usuario, que ya no podrá seguir usando Claude como resultado.
En previsión a la polémica que generarán las nuevas reglas, Anthropic ha aclarado públicamente que las nuevas reglas no se aplican en casos de "frustración, desacuerdo, temas creativos oscuros, pruebas, o investigación de modelos", y que sólo los usuarios "más crueles" son el verdadero objetivo.
Por lo tanto, no nos va a pasar nada porque nos enfademos con la IA o le indiquemos que no ha hecho lo que queremos; pero Anthropic quiere que estas interacciones negativas no vayan más allá y se adentren en el campo 'personal'.