Tu nuevo asistente de IA escribirá poesía por ti, generará ideas para tu negocio, revisará tus correos electrónicos en busca de errores y puede que incluso apruebe tu examen de MBA, aunque solo con una calificación notable.
Pero, ¿confiarías en un asistente de inteligencia artificial bienintencionado que a veces puede ofrecer respuestas plausibles pero inexactas? Además, ¿ve alguien más las consultas que envías y, en caso afirmativo, ¿quién? En otras palabras, ¿hasta qué punto es seguro ChatGPT?
ChatGPT y otros grandes modelos lingüísticos (también llamados LLM por sus siglas en inglés) pueden ofrecer oportunidades de eficiencia tanto en casa como en el trabajo, pero junto a estas oportunidades también existen riesgos relacionados no sólo con la precisión y la parcialidad, sino también con el tratamiento de la información personal y la seguridad.
A continuación, te explicamos cómo utilizar ChatGPT de forma segura para todas tus necesidades.
Cuidado con la imprecisión y el sesgo de la IA
Para entrenar a ChatGPT, se le entregan conjuntos de datos que no ha visto previamente, con el fin de determinar su capacidad de predicción a medida que revisa los datos. En pruebas posteriores, se compara su rendimiento con los nuevos datos.
Como tal, la capacidad de ChatGPT para proporcionar información de calidad depende de la información que se le haya proporcionado. La versión actual de ChatGPT sólo está entrenada con datos hasta 2021. Además, es probable que los datos que alimentan los modelos contengan pruebas contradictorias, opiniones y conclusiones poco fiables, por lo que los problemas de sesgo son tan inevitables como los de precisión.
Para uso personal y profesional, la clave para sortear los problemas de precisión y parcialidad con ChatGPT es la vigilancia. Comprobar los datos estadísticos, utilizar múltiples fuentes de información e interactuar de forma crítica con el contenido generado por IA, teniendo en cuenta que la IA generativa puede no entender temas complejos o matizados, son medidas que pueden mitigar los problemas de precisión.
Redes sociales: conozca qué es “sludge content” en TikTok e Instagram
Dado que los LLM sólo pueden trabajar con los datos que se les facilitan -y siempre que esos datos generen imprecisiones y sesgos-, será necesario que intervengan seres humanos en el proceso para identificarlos y eliminarlos, afirma la Harvard Business Review.
Vigilancia de la información personal o sensible
A pesar de que las visitas al sitio web han descendido por tercer mes consecutivo, ChatGPT siguió teniendo 180,5 millones de usuarios únicos en agosto de 2023. La vuelta al colegio de los estudiantes en septiembre pudo haber provocado un repunte del tráfico, ya que el sector educativo avanza en la adopción de la IA, aunque con cautela.
Muchas aplicaciones y sitios web gratuitos ganan dinero recopilando y vendiendo datos, y ChatGPT funciona de forma similar. Garantizar la seguridad de tus datos personales, de tu familia y de la organización para la que trabajas es una parte importante de las buenas prácticas de seguridad online.
ChatGPT no almacena datos específicos del usuario, ni detalles de las interacciones más allá de la conversación inmediata que está manteniendo. Pero sí guarda todas las conversaciones que mantienes con él, las almacena y utiliza estos datos para mejorar su modelo lingüístico. Así, los entrenadores humanos que trabajan entre bastidores en OpenAI podrán ver las conversaciones y las consultas.
Para garantizar un entorno más seguro para tu información personal y tu seguridad, evita compartir información privada con ChatGPT. Considera desactivar el historial de chats y el entrenamiento de modelos. Pero ten en cuenta que, aunque desactives el historial, tus chats seguirán almacenados en los servidores de OpenAI durante 30 días para que el personal pueda supervisar si se producen abusos.
Y si no te parece suficiente, puedes solicitar la eliminación de toda tu cuenta y sus datos enviando un correo electrónico a dsar@openai.com.
Por último, ten cuidado al instalar extensiones y aplicaciones en tu computadora o teléfono. Algunas aplicaciones y navegadores que afirman incorporar la funcionalidad ChatGPT a tu navegador podrían estar recopilando tus datos.
Fuente: tynmagazine.com