/ viernes 3 de mayo de 2024

Falsas, machistas y xenofóbicas, así son las respuestas de ChatGPT: ingeniero

Señala que puede dar respuestas con sesgo, machistas y xenofóbicas, además de causar daños en el mundo real y difundir información falsa

Urge regular el uso de la aplicación ChatGPT de inteligencia artificial porque pese a que tiene innumerables beneficios en distintas áreas, también representa un riesgo para otras, dado que puede dar respuestas con sesgo, machista y xenofóbico, puede causar daños en el mundo real y difunde información falsa muy rápido, explica el doctor Adolfo Guzmán Arenas, Premio Nacional de Ciencias y Artes en 1993.

Ante estudiantes y profesores del Instituto de Investigaciones en Inteligencia artificial de la Universidad Veracruzana que celebran 30 años de la creación de Maestría en Inteligencia Artificial (IA), comentó que habría que tomar en México como base lo hecho por el Parlamento Europeo que promulgó un acta que regula la IA enfocado en los riesgos. “Es decir, toma precauciones sobre esta tecnología”.

Detalla que en cambio, en Estados Unidos están a la zaga porque ellos la crearon ya que no hacen esfuerzo por lograr una legislación federal. “Es un poco de atole con el dedo, porque la empresa que la maneja dice que hará lo posible por cumplir, lo que es una amenaza seria”.

¿Cuáles son los peligros de usar la tecnología de ChatGPT?

El especialista explica que hay muchos peligros con esta tecnología del ChatGPT porque con base en sus datos, genera respuestas incorrectas, porque al hacerle una pregunta el generará la respuestas con la información que tiene y no siempre será la verdadera o la necesaria.

El ingeniero en Comunicaciones y Electrónica de la Escuela Superior del Instituto Politécnico Nacional (IPN) señala que los usuarios deben usar esta tecnología como un ente con gran imaginación, no crean todo lo que dice, hay que verificar, revisar y desconfiar.

¡Suscríbete a nuestro canal de YouTube! Aquí podrás encontrar contenido de calidad y de los temas más relevantes de Veracruz

Urge regular el uso de la aplicación ChatGPT de inteligencia artificial porque pese a que tiene innumerables beneficios en distintas áreas, también representa un riesgo para otras | Foto: David Bello / Diario de Xalapa

En el caso de los gobiernos, precisó que hay que pugnar por una legislación basada en riesgos para garantizar la seguridad de los sistemas, pero que respete los valores fundamentales y los derechos humanos.

Hoy la IA, dijo, ya reemplaza a trabajadores como redactores, decodificadores o asistentes legales, personal en bancos | Foto: David Bello / Diario de Xalapa

Indica que hay temas que deben ser prohibidos como los de alto riesgo, que pongan en peligro la vida de las personas. “La severidad de las reglas depende del daño potencial que los sistemas pueden causar a la sociedad”.

Expuso que esta tecnología ha llegado con serios peligros y riesgos porque genera respuestas incorrectas, dado que se basa el responder con lo que le parece correcto y da le mejor respuesta que se le ocurre basado en los datos con los que cuenta.

Doctor Adolfo Guzmán Arenas, Premio Nacional de Ciencias y Artes en 1993 | Foto: David Bello / Diario de Xalapa


Advierte de su uso en temas como el cumplimiento de la ley, control fronterizo, migración y asilo. En administración de justicia, productos específicos de seguridad como en aviones.

¿A quiénes reemplaza la IA?

Hoy la IA, dijo, ya reemplaza a trabajadores como redactores, decodificadores o asistentes legales, personal en bancos, por lo que preocupa los daños que puede causar al mundo real, “así que es necesario que este país legisle en esta materia”, concluyó.

Mantente informado de este y más temas en nuestro canal de YouTube ↓

Urge regular el uso de la aplicación ChatGPT de inteligencia artificial porque pese a que tiene innumerables beneficios en distintas áreas, también representa un riesgo para otras, dado que puede dar respuestas con sesgo, machista y xenofóbico, puede causar daños en el mundo real y difunde información falsa muy rápido, explica el doctor Adolfo Guzmán Arenas, Premio Nacional de Ciencias y Artes en 1993.

Ante estudiantes y profesores del Instituto de Investigaciones en Inteligencia artificial de la Universidad Veracruzana que celebran 30 años de la creación de Maestría en Inteligencia Artificial (IA), comentó que habría que tomar en México como base lo hecho por el Parlamento Europeo que promulgó un acta que regula la IA enfocado en los riesgos. “Es decir, toma precauciones sobre esta tecnología”.

Detalla que en cambio, en Estados Unidos están a la zaga porque ellos la crearon ya que no hacen esfuerzo por lograr una legislación federal. “Es un poco de atole con el dedo, porque la empresa que la maneja dice que hará lo posible por cumplir, lo que es una amenaza seria”.

¿Cuáles son los peligros de usar la tecnología de ChatGPT?

El especialista explica que hay muchos peligros con esta tecnología del ChatGPT porque con base en sus datos, genera respuestas incorrectas, porque al hacerle una pregunta el generará la respuestas con la información que tiene y no siempre será la verdadera o la necesaria.

El ingeniero en Comunicaciones y Electrónica de la Escuela Superior del Instituto Politécnico Nacional (IPN) señala que los usuarios deben usar esta tecnología como un ente con gran imaginación, no crean todo lo que dice, hay que verificar, revisar y desconfiar.

¡Suscríbete a nuestro canal de YouTube! Aquí podrás encontrar contenido de calidad y de los temas más relevantes de Veracruz

Urge regular el uso de la aplicación ChatGPT de inteligencia artificial porque pese a que tiene innumerables beneficios en distintas áreas, también representa un riesgo para otras | Foto: David Bello / Diario de Xalapa

En el caso de los gobiernos, precisó que hay que pugnar por una legislación basada en riesgos para garantizar la seguridad de los sistemas, pero que respete los valores fundamentales y los derechos humanos.

Hoy la IA, dijo, ya reemplaza a trabajadores como redactores, decodificadores o asistentes legales, personal en bancos | Foto: David Bello / Diario de Xalapa

Indica que hay temas que deben ser prohibidos como los de alto riesgo, que pongan en peligro la vida de las personas. “La severidad de las reglas depende del daño potencial que los sistemas pueden causar a la sociedad”.

Expuso que esta tecnología ha llegado con serios peligros y riesgos porque genera respuestas incorrectas, dado que se basa el responder con lo que le parece correcto y da le mejor respuesta que se le ocurre basado en los datos con los que cuenta.

Doctor Adolfo Guzmán Arenas, Premio Nacional de Ciencias y Artes en 1993 | Foto: David Bello / Diario de Xalapa


Advierte de su uso en temas como el cumplimiento de la ley, control fronterizo, migración y asilo. En administración de justicia, productos específicos de seguridad como en aviones.

¿A quiénes reemplaza la IA?

Hoy la IA, dijo, ya reemplaza a trabajadores como redactores, decodificadores o asistentes legales, personal en bancos, por lo que preocupa los daños que puede causar al mundo real, “así que es necesario que este país legisle en esta materia”, concluyó.

Mantente informado de este y más temas en nuestro canal de YouTube ↓

Doble Vía

¿Cuál es el mejor de la región? Teocelo presenta Festival del Café con Pan

Teocelo se ubica a 27.5 kilómetros de la capital Veracruzana y se caracteriza por la producción de café, así como de la elaboración de artesanías con este grano

Local

Elizabeth Morales sí asumirá diputación plurinominal del PT tras fallo de Sala Superior del TEPJF

Morales García asumirá el cargo en la nueva LXVII Legislatura, cuya instalación está prevista para mañana 5 de noviembre

Local

Si aspiras ingresar a la UV asiste a la Expo-Orienta este 5 y 6 de noviembre

Además, si así lo requieren, se les dará orientación vocacional, explicación sobre el proceso de ingreso y el AEXI

Gossip

Salma Hayek y Silvana Estrada forman parte de la nueva serie “Como agua para chocolate”

Ambas veracruzanas forman parte de la esperada serie "Como agua para chocolate", una adaptación de la exitosa novela de Laura Esquivel

Doble Vía

La Leyenda de la tapacaminos, un fantasma que se aparece en la carretera Xalapa-Banderilla

Las historias de fantasmas no pasan de moda, en Xalapa existen muchos relatos que te dejarán con los “pelos de punta”

Local

Tandeos en Xalapa durante el mes de noviembre; lista de colonias que no tendrán agua

La Comisión Municipal de Agua y Saneamiento (CMAS) publicó la lista de colonias que contarán con el servicio durante noviembre