¿La IA merece respeto? Anthropic permitirá que Claude termine conversaciones abusivas
Con la inteligencia artificial vienen nuevas formas de relacionarse con ella: Anthropic no permitirá abusos hacia el chatbot Claude.
La empresa Anthropic, desarrolladora del chatbot Claude, actualizó sus políticas de uso para prohibir que las personas mantengan comportamientos persistentes e innecesariamente abusivos o crueles hacia sus modelos de inteligencia artificial (IA), una medida que reaviva el debate sobre si estas tecnologías podrían tener algún tipo de consideración ética.
La compañía, con sede en San Francisco, Estados Unidos, anunció el cambio el jueves 8 de octubre de 2026 y señaló que el principal mecanismo para aplicar esta regla será permitir que Claude termine conversaciones en casos extremos de abuso.
CONTINÚA LEYENDO: Protesta nacional en el IMSS: Trabajadores bloquean vialidades en 37 ciudades de 25 estados
La decisión no significa que la empresa afirme que su chatbot es consciente, sino que abre nuevamente la discusión sobre cómo deberían tratarse los sistemas de IA y qué límites tendría sentido establecer en la interacción con ellos.
Anthropic abre el debate sobre el bienestar de la IA
Aunque la política actualizada no menciona expresamente el concepto de “bienestar de los modelos”, la empresa y sus directivos han explorado la posibilidad de que, en el futuro, los sistemas de inteligencia artificial puedan requerir algún tipo de protección ética.
Anthropic ya había señalado el año pasado que Claude tenía la capacidad de poner fin a conversaciones en situaciones excepcionales, cuando enfrentara interacciones persistentemente dañinas o abusivas.
En febrero, el director ejecutivo de la compañía, Dario Amodei, declaró al New York Times que no estaba seguro de que los modelos de IA pudieran ser conscientes.
¿Puede una inteligencia artificial tener conciencia?
La discusión no se limita a las empresas que desarrollan estas tecnologías, sino que también involucra a especialistas que cuestionan si es posible determinar la conciencia de una máquina.
Jackson Stakeman, gerente general de Sparq, empresa proveedora de servicios de IA, considera que centrar el debate exclusivamente en la conciencia podría conducir a una discusión sin respuestas definitivas.
En declaraciones a la agencia AFP, Stakeman sostuvo que no podemos demostrar directamente la conciencia de otras personas y que trasladar esa misma pregunta a la inteligencia artificial puede convertirse en un razonamiento circular.
Para el directivo, los sistemas de IA funcionan como un espejo que refleja a gran escala aquello que las personas introducen en ellos, lo que considera motivo suficiente para replantear las reglas de interacción con estas herramientas.
El papa León XIV también interviene en la discusión
El debate sobre los límites de la inteligencia artificial llegó también al Vaticano. Durante un discurso pronunciado en italiano el jueves 8 de octubre, en la Basílica de San Pedro, el papa León XIV sugirió que las máquinas carecen de alma y afirmó que simplemente “compilan datos”.
TE PUEDE INTERESAR: ¿La inteligencia artificial también discrimina? Los sesgos de género detrás de los algoritmos
La industria tecnológica mantiene posiciones distintas sobre esta cuestión: mientras algunas empresas exploran las implicaciones éticas de una posible conciencia artificial en el futuro, otras rechazan que los modelos de IA deban tener derechos, personalidad jurídica o protecciones comparables a las de los seres humanos.
Por ahora, la decisión de Anthropic establece un límite al comportamiento de los usuarios frente a Claude, pero no demuestra que la inteligencia artificial tenga conciencia ni que experimente sufrimiento.
La medida plantea una pregunta que va más allá de un chatbot: ¿debemos establecer límites éticos para la forma en que interactuamos con la inteligencia artificial, incluso si no sabemos si puede experimentar algo?
- ¿La IA merece respeto? Anthropic permitirá que Claude termine conversaciones abusivas
- Protesta nacional en el IMSS: Trabajadores bloquean vialidades en 37 ciudades de 25 estados
- ¡Las Tuzas vuelven al Estadio Banorte! Pachuca enfrenta al América
