Dado que la IA a veces puede generar ilusiones, provocando información incorrecta o distorsionada, se recomienda a los usuarios que verifiquen los documentos de referencia. Resulta que esto también puede llevar a problemas. Según un informe del lunes de Futurism, ChatGPT puede proporcionar a los usuarios enlaces a sitios web que albergan software malicioso.
Este hallazgo se hizo durante el proceso de verificación del conocimiento de ChatGPT sobre los eventos actuales. Cuando se le preguntó sobre William Goines, quien recibió la Estrella de Bronce y fue el primer miembro afroamericano de los Navy SEAL en fallecer, Futurism informó que la respuesta de ChatGPT incluía un enlace a un "sitio web fraudulento".
Específicamente, ChatGPT-4o propone acceder a un sitio web llamado "County Local News" para obtener más información sobre Goines. Sin embargo, el sitio web genera inmediatamente falsas alertas emergentes que, al hacer clic en ellas, infectarán la computadora del usuario con software malicioso. Un sitio web similar también se propone para otros temas.
Al probar a Goines con el recordatorio proporcionado por Futurism, la respuesta de ChatGPT no incluye ningún enlace a ningún sitio web.
Los desarrolladores de IA han invertido mucho en combatir la desinformación y el uso malicioso de los chatbots, pero proporcionar enlaces a otros sitios web también conlleva riesgos adicionales. Un sitio web vinculado puede ser legítimo y seguro cuando las empresas de IA recopilan datos, pero luego puede ser infectado o apropiado por estafadores.
Según Jacob Kalvo, cofundador y CEO de Internet Live Proxy, proveedor de datos y privacidad, los enlaces enviados deben ser verificados continuamente.
Kalvo dijo:
"Los desarrolladores pueden asegurarse de aplicar mecanismos de filtrado adecuados para evitar que los chatbots proporcionen enlaces a sitios web maliciosos. Esto puede complementarse con algoritmos de procesamiento del lenguaje natural (NLP) avanzados que pueden entrenar a un chatbot para identificar URL basándose en modelos conocidos de URL maliciosas. Además, no se debe pasar por alto la retención de una lista negra de sitios web, que se actualiza constantemente y monitorea nuevas amenazas".
Kalvo también recomienda verificar los enlaces del sitio web, la reputación del dominio y monitorear en tiempo real para identificar y abordar cualquier actividad sospechosa rápidamente. Kalvo dijo:
Esto facilita la colaboración continua con expertos en seguridad cibernética para superar las nuevas amenazas a medida que surgen. Solo a través de la IA y las habilidades humanas, los nuevos desarrolladores pueden crear un entorno mucho más seguro para los usuarios.
Kalvo también enfatiza la necesidad de gestionar cuidadosamente los datos de entrenamiento del modelo de IA para evitar la entrada y suministro de contenido dañino, así como la necesidad de pruebas y actualizaciones periódicas para mantener la integridad de los datos.
Cuando se le preguntó sobre el informe, OpenAI dio una respuesta similar a Futurism, diciendo que están trabajando con socios de publicación de noticias para combinar 'habilidades de conversación con su contenido de noticias más reciente, asegurando una distribución adecuada', pero esta función aún no está disponible.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
ChatGPT puede llevar a los usuarios a sitios web maliciosos
Dado que la IA a veces puede generar ilusiones, provocando información incorrecta o distorsionada, se recomienda a los usuarios que verifiquen los documentos de referencia. Resulta que esto también puede llevar a problemas. Según un informe del lunes de Futurism, ChatGPT puede proporcionar a los usuarios enlaces a sitios web que albergan software malicioso.
Este hallazgo se hizo durante el proceso de verificación del conocimiento de ChatGPT sobre los eventos actuales. Cuando se le preguntó sobre William Goines, quien recibió la Estrella de Bronce y fue el primer miembro afroamericano de los Navy SEAL en fallecer, Futurism informó que la respuesta de ChatGPT incluía un enlace a un "sitio web fraudulento".
Específicamente, ChatGPT-4o propone acceder a un sitio web llamado "County Local News" para obtener más información sobre Goines. Sin embargo, el sitio web genera inmediatamente falsas alertas emergentes que, al hacer clic en ellas, infectarán la computadora del usuario con software malicioso. Un sitio web similar también se propone para otros temas.
Al probar a Goines con el recordatorio proporcionado por Futurism, la respuesta de ChatGPT no incluye ningún enlace a ningún sitio web.
Los desarrolladores de IA han invertido mucho en combatir la desinformación y el uso malicioso de los chatbots, pero proporcionar enlaces a otros sitios web también conlleva riesgos adicionales. Un sitio web vinculado puede ser legítimo y seguro cuando las empresas de IA recopilan datos, pero luego puede ser infectado o apropiado por estafadores.
Según Jacob Kalvo, cofundador y CEO de Internet Live Proxy, proveedor de datos y privacidad, los enlaces enviados deben ser verificados continuamente.
Kalvo dijo:
"Los desarrolladores pueden asegurarse de aplicar mecanismos de filtrado adecuados para evitar que los chatbots proporcionen enlaces a sitios web maliciosos. Esto puede complementarse con algoritmos de procesamiento del lenguaje natural (NLP) avanzados que pueden entrenar a un chatbot para identificar URL basándose en modelos conocidos de URL maliciosas. Además, no se debe pasar por alto la retención de una lista negra de sitios web, que se actualiza constantemente y monitorea nuevas amenazas".
Kalvo también recomienda verificar los enlaces del sitio web, la reputación del dominio y monitorear en tiempo real para identificar y abordar cualquier actividad sospechosa rápidamente. Kalvo dijo:
Esto facilita la colaboración continua con expertos en seguridad cibernética para superar las nuevas amenazas a medida que surgen. Solo a través de la IA y las habilidades humanas, los nuevos desarrolladores pueden crear un entorno mucho más seguro para los usuarios.
Kalvo también enfatiza la necesidad de gestionar cuidadosamente los datos de entrenamiento del modelo de IA para evitar la entrada y suministro de contenido dañino, así como la necesidad de pruebas y actualizaciones periódicas para mantener la integridad de los datos.
Cuando se le preguntó sobre el informe, OpenAI dio una respuesta similar a Futurism, diciendo que están trabajando con socios de publicación de noticias para combinar 'habilidades de conversación con su contenido de noticias más reciente, asegurando una distribución adecuada', pero esta función aún no está disponible.