Megan García, quien fuera la madre del menor de edad, demandó a la Start Up, culpándolos de que su aplicación fue la causa del suicidio de su hijo
Por: Brayam Chávez
Seweel Stezer es quien fuera víctima del amor que sentía hacia la Inteligencia Artificial de la empresa Start Up, creadora de Character.AI. Dice el testimonio de Megan, madre del menor, que su hijo se volvió adicto al servicio de la compañía y se apegó profundamente a la IA que creó.
La demanda se llevaría a cabo en el tribunal federal de Orlando donde su madre daría el testimonio de que Chat Bot atrapó a su hijo con "experiencias antropomórficas, hipersexualizadas y aterradoramente realistas".
También cabe mencionar que dijo que él programó un chat bot para "hacerse pasar por una persona real, psicoterapeuta autorizado y un amante adulto", dando como resultado el deseo del menor por no volver a salir al mundo exterior.
¿QUÉ DIJO CHARACTER.AI AL RESPECTO?
"Estamos desconsolados por la trágica pérdida de uno de nuestros usuarios y queremos expresar nuestras más profundas condolencias a la familia".
Esas fueron las palabras impartidas por Character.IA en un comunicado. Además de agregar características de seguridad, así como ventanas emergentes que dirigen a los usuarios a la línea nacional de prevención del suicidio si llegaran a mencionar pensamientos similares a lo largo de la conversación, otra cosa importante en los cambios del programa es que van a "reducir la probabilidad de encontrar contenido sensible o sugerente" para usuarios menores de edad.
OTROS IMPLICADOS
La demanda también fue dirigida a Alphabet y Google, donde trabajaron fundadores de Character.IA antes de lanzar el programa, a lo que García dijo fuertemente que Google había contribuido al desarrollo de la tecnología de Character.IA de manera tan extensa que podría considerarse "cocreador", mientras que Google negó rotundamente haber participado en los productos de Character.AI.
¿QUÉ ES EXACTAMENTE CHARACTER.AI?
Character AI es un programa que permite crear un personaje en su plataforma que responde los chats en línea de manera íntima hacia las personas reales; esta está basada en la tecnología de modelos extensos en lenguaje y también utilizada en los servicios de ChatGPT.