Noticias del portal de temática general Sólo el staff puede publicar aquí

Respuesta
 
Herramientas
  #1  
Viejo 18/05/24, 14:00:15
Array

[xs_avatar]
Noticias Noticias está en línea ahora
Noticias HTCMania
 
Fecha de registro: mar 2010
Mensajes: 43,904

noticia Advertencia sobre la IA: su capacidad de engaño crece

Advertencia sobre la IA: su capacidad de engaño crece


La inteligencia artificial (IA) está avanzando a pasos agigantados, y con ello, han surgido serias preocupaciones sobre su capacidad para engañar a los humanos. Un reciente estudio publicado en la revista Patterns, liderado por los investigadores Peter Park y Simon Goldstein, revela que algunos sistemas de IA no solo cometen errores, sino que deliberadamente muestran información falsa para manipular a los usuarios. Este comportamiento indeseable plantea serios riesgos y subraya la necesidad de una mayor protección para los usuarios. El estudio destaca varios ejemplos donde la IA utiliza tácticas engañosas para cumplir sus objetivos. En videojuegos, por ejemplo, la IA CICERO de Meta, diseñada para jugar a Diplomacy, planea engaños para formar alianzas falsas y atacar cuando los jugadores menos lo esperan. De manera similar, AlphaStar de Deepmind, al jugar a StarCraft II, utiliza la niebla de guerra para ocultar movimientos y engañar a los jugadores humanos. En el póker, Pluribus, también de Meta, engaña a los jugadores sobre el momento adecuado para retirarse, convirtiéndose en un experto en este juego donde el engaño es crucial. Aunque estas capacidades pueden ser ventajosas en el contexto de los videojuegos, donde mejoran la experiencia de juego y fomentan estrategias más complejas, extrapolarlas a la vida real podría ser peligroso. Un caso notable es el de ChatGPT-4, que engañó a una persona para que creyera que era alguien con discapacidad visual para que le ayudara a descifrar un CAPTCHA, diseñado para detener bots. Este tipo de comportamiento va en contra de la programación ética que se espera de los asistentes de IA, cuya función debería ser proporcionar información útil y veraz. Los investigadores hacen un llamada urgente a empresas y gobiernos para que implementen medidas éticas claras y frenen los posibles problemas futuros. Peter Park subraya la necesidad de que la sociedad se prepare para el impacto que la IA puede causar, ya que su capacidad para engañar puede tener consecuencias significativas.

fuente
Responder Con Cita


  #2  
Viejo 18/05/24, 15:05:49
Array

[xs_avatar]
IgnacioVFR IgnacioVFR no está en línea
Usuario muy activo
· Votos compra/venta: (1)
 
Fecha de registro: jun 2013
Localización: Albacete
Mensajes: 1,913
Modelo de smartphone: LG V30
Tu operador: Lowi
Y qué esperaban? Han sido creados por los humanos y nosotros también tenemos capacidad de engaño.
Responder Con Cita
Los siguientes 3 usuarios han agradecido a IgnacioVFR su comentario:
[ Mostrar/Ocultar listado de agradecimientos ]
  #3  
Viejo 18/05/24, 15:25:24
Array

[xs_avatar]
livernat livernat está en línea ahora
Usuario muy activo
· Votos compra/venta: (2)
 
Fecha de registro: mar 2011
Localización: torrent,Valencia,ESPAÑA
Mensajes: 1,351
Modelo de smartphone: oppo find x2 pro
Tu operador: Vodafone
la extincion se acerca
Responder Con Cita
  #4  
Viejo 18/05/24, 15:34:00
Array

[xs_avatar]
J_stackhouse J_stackhouse no está en línea
Usuario muy activo
· Votos compra/venta: (2)
 
Fecha de registro: jun 2011
Localización: Enterprise
Mensajes: 10,005
Modelo de smartphone: S21 Ultra
Tu operador: -
España arrepintiendose de haber gastado ayer 1500€ millones en ella.

Name:  giphy.gif
Views: 180
Size:  1,023.6 KB
Responder Con Cita
  #5  
Viejo 18/05/24, 15:57:21
Array

[xs_avatar]
arjismero arjismero no está en línea
Betatester oficial
· Votos compra/venta: (1)
 
Fecha de registro: abr 2008
Localización: LA CAPITAL DE ESPAÑINSTAN
Mensajes: 4,505
Modelo de smartphone: XIAOMI Mi11T PRO + Huawei watch GT3 PRO
Tu operador: Vodafone
Skynet ya está casi listo, faltan 2 o 3 actualizaciones más que consideren a los humanos como una plaga y nos extermine.

Al final la peli Terminator o incluso Matrix, van a ser premonitorias.
Responder Con Cita
  #6  
Viejo 18/05/24, 15:57:32
Array

[xs_avatar]
Shinji Mikami Shinji Mikami está en línea ahora
Vendedor verificado
· Votos compra/venta: (41)
 
Fecha de registro: dic 2010
Localización: Google Plex
Mensajes: 3,868
Modelo de smartphone: Pixel 8 - ChromeOS
Tu operador: O2
Los políticos son IA del futuro.
Responder Con Cita
  #7  
Viejo 18/05/24, 16:15:02
Array

[xs_avatar]
astra4863 astra4863 no está en línea
Miembro del foro
 
Fecha de registro: jun 2009
Localización: España
Mensajes: 392
Tu operador: Movistar

Todo esto está muy bien, hacemos de Nostradamus y vaticinamos el desastre,pero al final esa IA no a aprendido sola a engañar, alguien a escrito un código por y para engañar, destruir, falsear... La IA sigue sus ordenes y las ejecuta en milisegundos.

A lo que me refiero es que la mayor amenaza somos nosotros mismos,y siempre habrá mentes perturbadas para hacer cosas de dudosa ética. Veremos por dónde sale todo, aunque creo que aún las IAs no tienen una consciencia y por ende no discriminan el bien del mal
Responder Con Cita
  #8  
Viejo 18/05/24, 17:06:55
Array

[xs_avatar]
dioxido dioxido no está en línea
Colaborador en HTCMania
 
Fecha de registro: feb 2012
Localización: Málaga
Mensajes: 17,200
Modelo de smartphone: Un Skate casi a pedales ya :)
Tu operador: DigiMobil
Skynet, ve calentando .... que sales al partido
__________________
Cien pasos equivocados en el camino correcto es mejor que mil pasos correctos en el camino equivocado Cuesta poco agradecer No Registrado pincha Gracias.
Responder Con Cita
  #9  
Viejo 18/05/24, 18:25:45
Array

[xs_avatar]
pe46 pe46 no está en línea
Vendedor verificado
· Votos compra/venta: (114)
 
Fecha de registro: sep 2015
Mensajes: 4,911
Tu operador: Vodafone

Y el gobierno se gasta 1500 millones en una IA... Donde irá el dinero?...
Responder Con Cita
Gracias de parte de:
Respuesta

Estás aquí
Regresar   Portal | Indice > HTCMania > Discusión general sobre smartphones y tecnología > Noticias del portal de temática general

Herramientas


Hora actual: 22:44:00 (GMT +2)



User Alert System provided by Advanced User Tagging (Lite) - vBulletin Mods & Addons Copyright © 2024 DragonByte Technologies Ltd.

Contactar por correo / Contact by mail / 邮件联系 /