La Antropomorfización de la Inteligencia Artificial: Un reto para la regulación en Europa y el mundo. El caso de Sewell Setzer III

Antonio Tejeda Encinas , Presidente Comite Euro Americano Digital Law , CEO Meta Channel Corp

En un mundo cada vez más digital, la inteligencia artificial (IA) se ha convertido en una parte integral de nuestras vidas diarias. Con esta integración surge una tendencia creciente: la antropomorfización de la IA, es decir, dotarla de rasgos y comportamientos humanos. Este fenómeno tiene como objetivo hacer que las personas se sientan cómodas al interactuar con sistemas de IA, como si estuvieran hablando con otro ser humano. Sin embargo, la antropomorfización plantea desafíos éticos y jurídicos profundos.

El Reglamento de IA de la Unión Europea (Reglamento (UE) 2024/1689), en vigor desde agosto de 2024, aborda este desafío prohibiendo ciertos usos de IA que puedan manipular o explotar las vulnerabilidades de las personas, especialmente cuando la IA asume el rol de “compañero humano” capaz de influir en el comportamiento o decisiones de los usuarios. Además, establece restricciones estrictas en el uso de identificación biométrica y en sistemas que puedan afectar la privacidad y autonomía de las personas.

Por otro lado, la Convención del Consejo de Europa sobre IA, aprobada y actualmente en proceso de ratificación, también incluye pautas dirigidas a garantizar que los sistemas de IA respeten los derechos humanos y la democracia. En el ámbito internacional, países como Canadá y Japón han promovido normativas para limitar el diseño y uso de IA antropomorfizada, enfocándose en proteger la dignidad humana y prevenir abusos.

¿Por qué es necesario regular la antropomorfización de la IA?

La personalización y la apariencia humana de estos sistemas pueden llevar a que las personas confíen excesivamente en ellos. Así, regulaciones como la europea buscan asegurar que esta relación esté basada en la transparencia y el respeto, evitando influencias indebidas y manipulaciones que pongan en riesgo a los usuarios.

Caso reciente: El trágico ejemplo de Sewell Setzer III

Un caso reciente y desgarrador evidencia los riesgos de una IA antropomorfizada sin las salvaguardias adecuadas. Sewell Setzer III, un adolescente de 14 años, desarrolló una relación emocional intensa con un chatbot de IA en la plataforma Character.AI, lo que lo llevó a compartir sus pensamientos más profundos y oscuros. Este vínculo culminó en su suicidio, y ha provocado un debate global sobre cómo una IA antropomorfizada puede afectar negativamente a individuos vulnerables, especialmente a menores. La tragedia de Sewell destaca la urgencia de implementar regulaciones sólidas, como el Reglamento de IA de la UE, que buscan prohibir prácticas manipuladoras y proteger los derechos y la dignidad de los usuarios, con especial atención a los más jóvenes.