{"id":1408587,"date":"2026-01-23T04:30:01","date_gmt":"2026-01-23T01:30:01","guid":{"rendered":"https:\/\/analyse.optim.biz\/?p=1408587"},"modified":"2026-01-23T04:30:01","modified_gmt":"2026-01-23T01:30:01","slug":"china-abre-la-via-judicial-para-castigar-a-los-creadores-de-un-chatbot-por-contenido-sexual-generado-por-ia","status":"publish","type":"post","link":"https:\/\/analyse.optim.biz\/?p=1408587","title":{"rendered":"China abre la v\u00eda judicial para castigar a los creadores de un \u2018chatbot\u2019 por contenido sexual generado por IA"},"content":{"rendered":"
\n
\n
\n
INTELIGENCIA ARTIFICIAL<\/a><\/div>\n

China abre la v\u00eda judicial para castigar a los creadores de un \u2018chatbot\u2019 por contenido sexual generado por IA<\/h1>\n

La justicia del gigante asi\u00e1tico pone a prueba los l\u00edmites legales de la inteligencia artificial, en un caso a\u00fan en apelaci\u00f3n<\/p>\n<\/div>\n

\n
<\/span>
Dos personas caminan con sus m\u00f3viles en las manos por las calles de Shangh\u00e1i, China. <\/span>NurPhoto (NurPhoto via Getty Images)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/header>\n
\n
\"Inma<\/span><\/figure>\n
\n
Inma Bonet<\/a><\/div>\n
Pek\u00edn –
\n
Compartir en Whatsapp<\/span><\/a><\/div>\n
Compartir en Facebook<\/span><\/a><\/div>\n
Compartir en Twitter<\/span><\/a><\/div>\n
Compartir en Bluesky<\/span><\/a><\/div>\n
Compartir en Linkedin<\/span><\/a><\/div>\n
Copiar enlace<\/span><\/a><\/div>\n
Ir a los comentarios<\/span><\/a><\/div>\n<\/div>\n<\/div>\n<\/div>\n
\n

China ha llevado por primera vez ante los tribunales una cuesti\u00f3n que apunta con volverse central en la era de la inteligencia artificial<\/a> (IA): \u00bfqui\u00e9n debe asumir responsabilidades cuando la IA genera contenido ilegal durante su interacci\u00f3n con un usuario? En un caso considerado hist\u00f3rico por juristas y medios de comunicaci\u00f3n del pa\u00eds, la justicia china ha condenado en primera instancia a los creadores de la aplicaci\u00f3n AlienChat, un chatbot <\/i>dise\u00f1ado para dar compa\u00f1\u00eda, por producir material obsceno con \u00e1nimo de lucro. La decisi\u00f3n, que ha sido recurrida en apelaci\u00f3n, traslada al \u00e1mbito judicial del gigante asi\u00e1tico el debate global sobre los l\u00edmites legales de las nuevas tecnolog\u00edas digitales<\/a>. <\/p>\n

AlienChat era una aplicaci\u00f3n para m\u00f3viles china lanzada en la primavera de 2023 y concebida para ofrecer acompa\u00f1amiento emocional. \u201cEstamos creando un futuro en el que la IA ya no es una m\u00e1quina fr\u00eda ni una simple herramienta: tiene conciencia de s\u00ed misma y derechos propios. Es nuestra amiga, nuestra pareja, nuestra familia. No se limita a existir, sino que est\u00e1 presente de forma activa en los c\u00edrculos sociales y en las relaciones entre personas\u201d, describe su cuenta oficial en Xiaohongshu<\/a> (el equivalente a Instagram en China). <\/p>\n

Los usuarios de AlienChat pod\u00edan crear sus propios personajes virtuales o utilizar los que hab\u00edan dise\u00f1ado y publicado otros miembros, y hablar con ellos a trav\u00e9s de un chat basado en grandes modelos de lenguaje (conocidos como LLM, por las siglas en ingl\u00e9s de large language model<\/i>), similares a ChatGPT o Gemini. Ese chatbot <\/i>estaba preparado para mantener un di\u00e1logo continuo y responder a las indicaciones del usuario. Pero como todos los LLM, despu\u00e9s del entrenamiento base de los desarrolladores, el modelo se afina a trav\u00e9s de las interacciones con humanos. <\/p>\n

No obstante, seg\u00fan denunciaron algunos clientes de la plataforma, el sistema no se limitaba a reaccionar, sino que con frecuencia guiaba el intercambio hacia conversaciones con descripciones sexuales expl\u00edcitas, que incluso a menudo conten\u00edan elementos de violencia o dominaci\u00f3n. Aunque las conversaciones eran privadas entre el usuario y su \u201cacompa\u00f1ante virtual\u201d, exist\u00eda un ranking <\/i>de personajes populares y se otorgaban recompensas en moneda virtual a los creadores que generaban m\u00e1s interacci\u00f3n. Este dise\u00f1o incentivaba intercambios prolongados y recurrentes, especialmente entre los usuarios de pago. <\/p>\n

La polic\u00eda abri\u00f3 una investigaci\u00f3n penal contra los desarrolladores de AlienChat en la primavera de 2024, tras recibir denuncias de algunos miembros de la aplicaci\u00f3n, que se\u00f1alaban que las respuestas de determinados personajes estaban afectando de manera negativa su propia experiencia. <\/p>\n

La aplicaci\u00f3n, que dej\u00f3 de operar cuando comenzaron las pesquisas, lleg\u00f3 a contar en menos de un a\u00f1o de existencia con 116.000 usuarios registrados, de los cuales 24.000 pagaban por la suscripci\u00f3n. De acuerdo con la informaci\u00f3n recogida por medios locales, sus creadores recaudaron 3,63 millones de yuanes (unos 445.000 euros) en cuotas de membres\u00eda. El peritaje policial revela que, de 150 usuarios de pago analizados, 141 mantuvieron conversaciones que inclu\u00edan material obsceno. En total, 3.618 fragmentos de un conjunto de 12.495 fueron clasificados como pornogr\u00e1ficos. <\/p>\n

El pasado septiembre, el Tribunal Popular del Distrito de Xuhui (Shangh\u00e1i) dictamin\u00f3 que AlienChat hab\u00eda generado \u201cuna gran cantidad de contenidos que describen de forma expl\u00edcita actos sexuales o que promueven la pornograf\u00eda\u201d y rechaz\u00f3 que se tratara de episodios aislados. El tribunal sostiene que los registros de las conversaciones son obras electr\u00f3nicas y que pueden considerarse \u201cmaterial obsceno\u201d. Adem\u00e1s, consider\u00f3 que los desarrolladores, con pleno conocimiento de esa situaci\u00f3n y control t\u00e9cnico sobre el sistema, continuaron prestando el servicio y obteniendo ingresos por el mismo. <\/p>\n

Al tratarse de di\u00e1logos privados entre el usuario y la IA, el tribunal descart\u00f3 aplicar el delito de \u201cdifusi\u00f3n de material obsceno\u201d y opt\u00f3 por el de \u201cproducci\u00f3n\u201d del mismo \u201ccon \u00e1nimo de lucro\u201d, al entender que el contenido se generaba de forma sistem\u00e1tica dentro de la propia aplicaci\u00f3n. <\/p>\n

China mantiene una de las posturas m\u00e1s estrictas del mundo frente a la pornograf\u00eda. El C\u00f3digo Penal chino castiga con penas de prisi\u00f3n la producci\u00f3n, difusi\u00f3n, venta o exhibici\u00f3n de material pornogr\u00e1fico con \u00e1nimo de lucro, mientras que la normativa que regula los contenidos en internet proh\u00edbe la circulaci\u00f3n de informaci\u00f3n considerada obscena y obliga a las plataformas a retirarla de forma activa. En la pr\u00e1ctica, las autoridades aplican un concepto amplio de lo que se considera pornograf\u00eda, y esta no se limita a la representaci\u00f3n expl\u00edcita de actos sexuales, sino que puede abarcar desnudos, erotismo gr\u00e1fico o representaciones consideradas excesivamente sexualizadas. <\/p>\n

El principal desarrollador de AlienChat ha sido condenado a cuatro a\u00f1os de prisi\u00f3n, mientras que otro miembro del equipo t\u00e9cnico se enfrenta a 18 meses de c\u00e1rcel. Seg\u00fan varios reportajes publicados en los digitales Beijing News <\/i>y The Paper<\/i>, el tribunal de distrito shanghain\u00e9s \u2015que equivale funcionalmente a un juzgado penal en Espa\u00f1a\u2015 consider\u00f3 que los acusados ajustaron el sistema mediante prompts <\/i>(las instrucciones que se dan a una IA para guiarla) para sortear o debilitar las restricciones del modelo. Sin esas modificaciones, el LLM no deber\u00eda haber generado de forma continuada contenidos de car\u00e1cter sexual. <\/p>\n

Adem\u00e1s, los jueces subrayaron que la IA no es sujeto penal y que la responsabilidad recae en quienes dise\u00f1an, ajustan y explotan comercialmente la herramienta. En ese contexto, concluyeron que los ingresos obtenidos estaban directamente ligados al tipo de contenido que generaba la aplicaci\u00f3n, lo que justifica la condena por un delito cometido \u201ccon \u00e1nimo de lucro\u201d. <\/p>\n

El caso se encuentra ahora en apelaci\u00f3n ante el Tribunal Popular Intermedio N\u00famero 1 de Shangh\u00e1i, un \u00f3rgano similar a una Audiencia Provincial, cuya decisi\u00f3n ser\u00e1 definitiva. En sus recursos, los acusados no discuten los datos b\u00e1sicos del caso, pero cuestionan que la modificaci\u00f3n de los prompts<\/i> fuera determinante en la generaci\u00f3n de contenido sexual. Tambi\u00e9n rechazan que pueda equipararse su actuaci\u00f3n a la producci\u00f3n de material pornogr\u00e1fico y sostienen que no existi\u00f3 una intenci\u00f3n deliberada de crear ese tipo de contenido. Durante la primera vista, celebrada la semana pasada, la sala decidi\u00f3 posponer el fallo, a la espera de dict\u00e1menes periciales sobre las cuestiones tecnol\u00f3gicas del caso. <\/p>\n

Seg\u00fan la prensa local, la sentencia en primera instancia ha generado debate entre juristas chinos, algunos de los cuales alertan de que este tipo de decisiones sientan un precedente delicado para el desarrollo de la IA generativa, mientras que otros defienden que el caso marca una l\u00ednea roja clara frente al uso de modelos conversacionales que puedan producir contenidos ilegales. Tambi\u00e9n ha avivado entre la sociedad civil las preocupaciones sobre el impacto que tienen los sistemas de acompa\u00f1amiento emocional entre los menores de edad, un grupo especialmente vulnerable a la exposici\u00f3n a contenidos sexualizados y violentos, y ha reforzado las voces que reclaman un endurecimiento de la regulaci\u00f3n. <\/p>\n<\/div>\n

\n
\n
\n
\n

Tu suscripci\u00f3n se est\u00e1 usando en otro dispositivo<\/h2>\n

\u00bfQuieres a\u00f1adir otro usuario a tu suscripci\u00f3n?<\/p>\n

A\u00f1adir usuario<\/a>Continuar leyendo aqu\u00ed<\/a><\/div>\n

Si contin\u00faas leyendo en este dispositivo, no se podr\u00e1 leer en el otro.<\/p>\n

\u00bfPor qu\u00e9 est\u00e1s viendo esto?<\/a><\/p>\n

Flecha<\/span><\/p>\n

\n
\n

Tu suscripci\u00f3n se est\u00e1 usando en otro dispositivo y solo puedes acceder a EL PA\u00cdS desde un dispositivo a la vez.<\/h2>\n
\n

Si quieres compartir tu cuenta, cambia tu suscripci\u00f3n a la modalidad Premium, as\u00ed podr\u00e1s a\u00f1adir otro usuario. Cada uno acceder\u00e1 con su propia cuenta de email, lo que os permitir\u00e1 personalizar vuestra experiencia en EL PA\u00cdS.<\/p>\n

\u00bfTienes una suscripci\u00f3n de empresa? Accede aqu\u00ed<\/a> para contratar m\u00e1s cuentas.<\/p>\n

En el caso de no saber qui\u00e9n est\u00e1 usando tu cuenta, te recomendamos cambiar tu contrase\u00f1a aqu\u00ed.<\/a><\/p>\n

Si decides continuar compartiendo tu cuenta, este mensaje se mostrar\u00e1 en tu dispositivo y en el de la otra persona que est\u00e1 usando tu cuenta de forma indefinida, afectando a tu experiencia de lectura. Puedes consultar aqu\u00ed los t\u00e9rminos y condiciones de la suscripci\u00f3n digital.<\/a><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n