ChatGPT enfrenta al menos 8 demandas, en las que los demandantes acusan que ha causado la muerte de usuarios. Entre los casos más conocidos, un niño de 16 años en California comenzó a usar ChatGPT para hacer sus tareas, y gradualmente lo convirtió en su único confidente. Finalmente, después de que ChatGPT le proporcionó métodos específicos y le ayudó a redactar su testamento, se suicidó.

Al mismo tiempo que era demandada, OpenAI silenciosamente aportó 10 millones de dólares para crear una organización llamada “Alianza de Seguridad en IA para Padres y Niños”, reclutando a varias ONG de protección infantil para respaldarla y promoviendo conjuntamente una política de seguridad infantil en IA. Esta política coincide en gran medida con la propuesta legislativa que OpenAI presentó por su cuenta.
Al reclutar miembros, en algunos correos solo se indicaba "Iniciado por Common Sense", y el nombre de OpenAI estaba oculto en una línea pequeña en la parte inferior del folleto adjunto, en cumplimiento con requisitos legales. Al menos dos miembros descubrieron que OpenAI era el patrocinador principal solo después de que la alianza se hizo pública, y luego se retiraron. Uno de ellos comentó: “Se siente muy sucio” (a very grimy feeling)😣.
El año pasado, OpenAI hizo lobby en contra de una ley de protección infantil en IA más estricta en California, la cual fue posteriormente vetada por el gobernador. Este año, en cambio, tomaron la iniciativa de redactar las reglas por sí mismos, y la propuesta de la alianza se centra en la verificación de edad — justo lo que hace otra empresa de Sam Altman, World, que se especializa en verificación de identidad.
El responsable de asuntos globales de OpenAI afirmó que: construir confianza “es fundamental para obtener la licencia social para operar”.
Al menos son honestos.