/ viernes 3 de mayo de 2024

Falsas, machistas y xenofóbicas, así son las respuestas de ChatGPT: ingeniero

Señala que puede dar respuestas con sesgo, machistas y xenofóbicas, además de causar daños en el mundo real y difundir información falsa

Urge regular el uso de la aplicación ChatGPT de inteligencia artificial porque pese a que tiene innumerables beneficios en distintas áreas, también representa un riesgo para otras, dado que puede dar respuestas con sesgo, machista y xenofóbico, puede causar daños en el mundo real y difunde información falsa muy rápido, explica el doctor Adolfo Guzmán Arenas, Premio Nacional de Ciencias y Artes en 1993.

Ante estudiantes y profesores del Instituto de Investigaciones en Inteligencia artificial de la Universidad Veracruzana que celebran 30 años de la creación de Maestría en Inteligencia Artificial (IA), comentó que habría que tomar en México como base lo hecho por el Parlamento Europeo que promulgó un acta que regula la IA enfocado en los riesgos. “Es decir, toma precauciones sobre esta tecnología”.

Detalla que en cambio, en Estados Unidos están a la zaga porque ellos la crearon ya que no hacen esfuerzo por lograr una legislación federal. “Es un poco de atole con el dedo, porque la empresa que la maneja dice que hará lo posible por cumplir, lo que es una amenaza seria”.

¿Cuáles son los peligros de usar la tecnología de ChatGPT?

El especialista explica que hay muchos peligros con esta tecnología del ChatGPT porque con base en sus datos, genera respuestas incorrectas, porque al hacerle una pregunta el generará la respuestas con la información que tiene y no siempre será la verdadera o la necesaria.

El ingeniero en Comunicaciones y Electrónica de la Escuela Superior del Instituto Politécnico Nacional (IPN) señala que los usuarios deben usar esta tecnología como un ente con gran imaginación, no crean todo lo que dice, hay que verificar, revisar y desconfiar.

¡Suscríbete a nuestro canal de YouTube! Aquí podrás encontrar contenido de calidad y de los temas más relevantes de Veracruz

Urge regular el uso de la aplicación ChatGPT de inteligencia artificial porque pese a que tiene innumerables beneficios en distintas áreas, también representa un riesgo para otras | Foto: David Bello / Diario de Xalapa

En el caso de los gobiernos, precisó que hay que pugnar por una legislación basada en riesgos para garantizar la seguridad de los sistemas, pero que respete los valores fundamentales y los derechos humanos.

Hoy la IA, dijo, ya reemplaza a trabajadores como redactores, decodificadores o asistentes legales, personal en bancos | Foto: David Bello / Diario de Xalapa

Indica que hay temas que deben ser prohibidos como los de alto riesgo, que pongan en peligro la vida de las personas. “La severidad de las reglas depende del daño potencial que los sistemas pueden causar a la sociedad”.

Expuso que esta tecnología ha llegado con serios peligros y riesgos porque genera respuestas incorrectas, dado que se basa el responder con lo que le parece correcto y da le mejor respuesta que se le ocurre basado en los datos con los que cuenta.

Doctor Adolfo Guzmán Arenas, Premio Nacional de Ciencias y Artes en 1993 | Foto: David Bello / Diario de Xalapa


Advierte de su uso en temas como el cumplimiento de la ley, control fronterizo, migración y asilo. En administración de justicia, productos específicos de seguridad como en aviones.

¿A quiénes reemplaza la IA?

Hoy la IA, dijo, ya reemplaza a trabajadores como redactores, decodificadores o asistentes legales, personal en bancos, por lo que preocupa los daños que puede causar al mundo real, “así que es necesario que este país legisle en esta materia”, concluyó.

Mantente informado de este y más temas en nuestro canal de YouTube ↓

Urge regular el uso de la aplicación ChatGPT de inteligencia artificial porque pese a que tiene innumerables beneficios en distintas áreas, también representa un riesgo para otras, dado que puede dar respuestas con sesgo, machista y xenofóbico, puede causar daños en el mundo real y difunde información falsa muy rápido, explica el doctor Adolfo Guzmán Arenas, Premio Nacional de Ciencias y Artes en 1993.

Ante estudiantes y profesores del Instituto de Investigaciones en Inteligencia artificial de la Universidad Veracruzana que celebran 30 años de la creación de Maestría en Inteligencia Artificial (IA), comentó que habría que tomar en México como base lo hecho por el Parlamento Europeo que promulgó un acta que regula la IA enfocado en los riesgos. “Es decir, toma precauciones sobre esta tecnología”.

Detalla que en cambio, en Estados Unidos están a la zaga porque ellos la crearon ya que no hacen esfuerzo por lograr una legislación federal. “Es un poco de atole con el dedo, porque la empresa que la maneja dice que hará lo posible por cumplir, lo que es una amenaza seria”.

¿Cuáles son los peligros de usar la tecnología de ChatGPT?

El especialista explica que hay muchos peligros con esta tecnología del ChatGPT porque con base en sus datos, genera respuestas incorrectas, porque al hacerle una pregunta el generará la respuestas con la información que tiene y no siempre será la verdadera o la necesaria.

El ingeniero en Comunicaciones y Electrónica de la Escuela Superior del Instituto Politécnico Nacional (IPN) señala que los usuarios deben usar esta tecnología como un ente con gran imaginación, no crean todo lo que dice, hay que verificar, revisar y desconfiar.

¡Suscríbete a nuestro canal de YouTube! Aquí podrás encontrar contenido de calidad y de los temas más relevantes de Veracruz

Urge regular el uso de la aplicación ChatGPT de inteligencia artificial porque pese a que tiene innumerables beneficios en distintas áreas, también representa un riesgo para otras | Foto: David Bello / Diario de Xalapa

En el caso de los gobiernos, precisó que hay que pugnar por una legislación basada en riesgos para garantizar la seguridad de los sistemas, pero que respete los valores fundamentales y los derechos humanos.

Hoy la IA, dijo, ya reemplaza a trabajadores como redactores, decodificadores o asistentes legales, personal en bancos | Foto: David Bello / Diario de Xalapa

Indica que hay temas que deben ser prohibidos como los de alto riesgo, que pongan en peligro la vida de las personas. “La severidad de las reglas depende del daño potencial que los sistemas pueden causar a la sociedad”.

Expuso que esta tecnología ha llegado con serios peligros y riesgos porque genera respuestas incorrectas, dado que se basa el responder con lo que le parece correcto y da le mejor respuesta que se le ocurre basado en los datos con los que cuenta.

Doctor Adolfo Guzmán Arenas, Premio Nacional de Ciencias y Artes en 1993 | Foto: David Bello / Diario de Xalapa


Advierte de su uso en temas como el cumplimiento de la ley, control fronterizo, migración y asilo. En administración de justicia, productos específicos de seguridad como en aviones.

¿A quiénes reemplaza la IA?

Hoy la IA, dijo, ya reemplaza a trabajadores como redactores, decodificadores o asistentes legales, personal en bancos, por lo que preocupa los daños que puede causar al mundo real, “así que es necesario que este país legisle en esta materia”, concluyó.

Mantente informado de este y más temas en nuestro canal de YouTube ↓

Ecología

¿Listo para ver cocodrilos y jaguares? Naturalia abrirá sus puertas este 24 de noviembre

El santuario de vida silvestre Naturalia albergará 300 animales que podrán ser observados por los visitantes

Local

Pese a rachas de 100 km por hora, Frente Frío 10 dejó saldo blanco en zona conurbada

Pescadores del muelle de Veracruz no podrán salir a pescar, lo que los repercute económicamente

Local

Habrá análisis minucioso del presupuesto estatal 2025: Comisión de Hacienda

El Proyecto de Presupuesto de Egresos para 2025 contempla un gasto neto total de 175 mil 245 millones 285 mil 470 pesos

Cultura

Basílica Menor de Nuestra Señora de Guadalupe espera más de 10 mil peregrinos en Xalapa

El año anterior se recibieron alrededor de 150 peregrinaciones pero la mayoría llega de forma imprevista, no todas se anotan

Policiaca

Trabajador de Pemex cae a un canal de aguas pluviales en Coatzacoalcos

El accidente del trabajador de PEMEX ocurrió cuando se registraba un intenso aguacero a causa del paso del Frente Frío número 10 por la entidad

Policiaca

Hombre resulta herido tras tocar cables de electricidad en colonia de Xalapa

El hombre aparentemente laboraba como albañil en un segundo piso de una vivienda de la calle Buenos Aires de la colonia Reforma de Xalapa