Los resúmenes de IA de Google ya están difundiendo estafas

[Noticias]

Los resúmenes de IA de Google ya están difundiendo estafas

Los nuevos resúmenes de IA de Google han comenzado a propagar información fraudulenta, generando un nuevo escenario de riesgo incluso para usuarios con experiencia tecnológica. Un reciente caso en Estados Unidos, revelado por The Washington Post, mostró cómo un usuario recibió un número falso de atención al cliente directamente en un resumen de Google, sin necesidad de entrar a ninguna web. La llamada terminó en una estafa de 768 dólares. El problema no reside en una técnica de fraude nueva —el uso de números falsos lleva años siendo común—, sino en que ahora es la propia IA de Google quien puede mostrar esos datos directamente en sus respuestas. Si los números aparecen repetidamente en fuentes poco fiables, el sistema puede interpretarlos como válidos y presentarlos como oficiales. Google ha asegurado que ya ha eliminado los ejemplos detectados y que, en general, sus resúmenes dirigen a fuentes fiables. No obstante, los expertos cuestionan que la IA no priorice bases de datos verificadas como Google Business Profiles y advierten de que este tipo de errores son una puerta abierta para los ciberdelincuentes. El riesgo va más allá de los teléfonos: ya se han detectado resúmenes que ofrecen URLs falsas, lo que puede derivar en ataques de phishing. Además, la confianza excesiva en lo que aparece en primer lugar en Google —y ahora en los resúmenes IA— puede hacer que los usuarios dejen de contrastar la información. La solución pasa por fomentar la verificación en fuentes oficiales, evitar actuar con inmediatez y mantener un pensamiento crítico frente a los resultados generados por IA.

fuente

[SAMURAI1973]

Originalmente Escrito por Noticias

Los resúmenes de IA de Google ya están difundiendo estafas

Los nuevos resúmenes de IA de Google han comenzado a propagar información fraudulenta, generando un nuevo escenario de riesgo incluso para usuarios con experiencia tecnológica. Un reciente caso en Estados Unidos, revelado por The Washington Post, mostró cómo un usuario recibió un número falso de atención al cliente directamente en un resumen de Google, sin necesidad de entrar a ninguna web. La llamada terminó en una estafa de 768 dólares. El problema no reside en una técnica de fraude nueva —el uso de números falsos lleva años siendo común—, sino en que ahora es la propia IA de Google quien puede mostrar esos datos directamente en sus respuestas. Si los números aparecen repetidamente en fuentes poco fiables, el sistema puede interpretarlos como válidos y presentarlos como oficiales. Google ha asegurado que ya ha eliminado los ejemplos detectados y que, en general, sus resúmenes dirigen a fuentes fiables. No obstante, los expertos cuestionan que la IA no priorice bases de datos verificadas como Google Business Profiles y advierten de que este tipo de errores son una puerta abierta para los ciberdelincuentes. El riesgo va más allá de los teléfonos: ya se han detectado resúmenes que ofrecen URLs falsas, lo que puede derivar en ataques de phishing. Además, la confianza excesiva en lo que aparece en primer lugar en Google —y ahora en los resúmenes IA— puede hacer que los usuarios dejen de contrastar la información. La solución pasa por fomentar la verificación en fuentes oficiales, evitar actuar con inmediatez y mantener un pensamiento crítico frente a los resultados generados por IA.



fuente

Sorpresa!!!!!.

Saludos y buenas tardes, compañeros.

[yomismovoy]

Otro motivo para irse a Apple.

[SAMURAI1973]

Originalmente Escrito por yomismovoy

Otro motivo para irse a Apple.

Otro motivo para quitar la mierda de la IA.

Saludos y buenas tardes, compañero.

[trekyto]

La culpa no es de la IA es de Google, de siempre le ha dado igual quien le pague sean estafadores o empresas legales.

[xmigoll]

Voy a eliminar de la ecuación a todos aquellos y aquellas que les falta una neurona, son monguers o tienen el intelecto justo para no cargarse encima.
Voy a trasladar el caso a España, dejo de lado los EEUU que tiene su matices.
¿Donde está la responsabilidad del usuario a la hora de buscar la información? Porque como se ha dicho, el problema de derivar a usuarios a números PREMIUM simulando resolver problemas -te tienen 50 minutos y te dan una factura de 100 euros-, desde el buscador, no es nuevo.
¿Por qué el usuario medio no se informa, primero que se pueden establecer bloqueos en las líneas o, informarse sobre la normativa existente sobre los números de ATC de las compañías?
Pues porque es más fácil meterse el dedo en el culo y no preocuparse de nada. Que te lo den todo hecho... Y aquí pasa lo que pasa.
Pues pueden buscar mañana una información en Google y la IA decirles que para resolver cualquier cosa se metan un extintor por el ano. Que va el usuario y se lo mete con el consiguiente desgarro o fisura anal.
No së, me parece muy bien que se reporten estos fallos para que la IA mejore, pero derivar toda la responsabilidad a Google me parece, cuando menos, falto de responsabilidad

[mrscratch]

Originalmente Escrito por xmigoll

Voy a eliminar de la ecuación a todos aquellos y aquellas que les falta una neurona, son monguers o tienen el intelecto justo para no cargarse encima.
Voy a trasladar el caso a España, dejo de lado los EEUU que tiene su matices.
¿Donde está la responsabilidad del usuario a la hora de buscar la información? Porque como se ha dicho, el problema de derivar a usuarios a números PREMIUM simulando resolver problemas -te tienen 50 minutos y te dan una factura de 100 euros-, desde el buscador, no es nuevo.
¿Por qué el usuario medio no se informa, primero que se pueden establecer bloqueos en las líneas o, informarse sobre la normativa existente sobre los números de ATC de las compañías?
Pues porque es más fácil meterse el dedo en el culo y no preocuparse de nada. Que te lo den todo hecho... Y aquí pasa lo que pasa.
Pues pueden buscar mañana una información en Google y la IA decirles que para resolver cualquier cosa se metan un extintor por el ano. Que va el usuario y se lo mete con el consiguiente desgarro o fisura anal.
No së, me parece muy bien que se reporten estos fallos para que la IA mejore, pero derivar toda la responsabilidad a Google me parece, cuando menos, falto de responsabilidad

Aunque te doy la razón en el 120% también tienes que pensar que hay gente muy limitada en la tecnología.
Y tú dirás "pues que no la usen"
Pero por desgracia día a día se obliga al mundo a depender de la tecnología y eso nos hace creer que todo lo que sale por la pantalla es bueno y verdad (antes pasaba con la tele)

Entonces una persona mayor que busca el teléfono de la compañía del agua, y como resultado se encuentra con un número de estafa.
Pues no es problema único de la persona, sino del sitio que le ha dado esa información.

[carapapa]

Originalmente Escrito por yomismovoy

Otro motivo para irse a Apple.

jajajajjaja ajajajaj, a ver si vendes ya tu libro!

[ganterjunior]

Tenemos humanos como nuestro presi que nos vende que los incendios de nuestro país es por el cambio climático...

Así que no me sorprende que una IA te pueda estafar...

[pozainax]

Originalmente Escrito por ganterjunior

Tenemos humanos como nuestro presi que nos vende que los incendios de nuestro país es por el cambio climático...

Así que no me sorprende que una IA te pueda estafar...

Totalmente de acuerdo, yo diría que aquí en Galicia es 90% ineptitud, recortes y excasa prevención, pero nada nuevo. Ya estamos acostumbrados, unos eucaliptos o unos parques eólicos para reforestar y listo.

[yomismovoy]

Originalmente Escrito por mrscratch

Aunque te doy la razón en el 120% también tienes que pensar que hay gente muy limitada en la tecnología.
Y tú dirás "pues que no la usen"
Pero por desgracia día a día se obliga al mundo a depender de la tecnología y eso nos hace creer que todo lo que sale por la pantalla es bueno y verdad (antes pasaba con la tele)

Entonces una persona mayor que busca el teléfono de la compañía del agua, y como resultado se encuentra con un número de estafa.
Pues no es problema único de la persona, sino del sitio que le ha dado esa información.

Efectivamente, el problema lo tendrá el usuario pero no será culpa suya.

[yomismovoy]

Originalmente Escrito por carapapa

jajajajjaja ajajajaj, a ver si vendes ya tu libro!

Voy a presentarlo al Nadal. Te lo firmo, si quieres.

[xmigoll]

Originalmente Escrito por mrscratch

Aunque te doy la razón en el 120% también tienes que pensar que hay gente muy limitada en la tecnología.

Y tú dirás "pues que no la usen"

Pero por desgracia día a día se obliga al mundo a depender de la tecnología y eso nos hace creer que todo lo que sale por la pantalla es bueno y verdad (antes pasaba con la tele)



Entonces una persona mayor que busca el teléfono de la compañía del agua, y como resultado se encuentra con un número de estafa.

Pues no es problema único de la persona, sino del sitio que le ha dado esa información.

Se "obliga" porque el usuario cede y tiende a ser "vago" y al que se lo hagan porque "soy mayor". Para mí eso no es una excusa. Al igual que no es una excusa decir que tengo una limitación psíquica para poder saltarte las normas y hacer lo que te sale de las narices. Eso es lo que hace a la gente estar limitada.
Y ojo que ya he dicho al principio que iba a sacar de la ecuación a todos estos que les falta un verano.
Con esto no estoy quitando responsabilidad a las empresas que también dejan a la mano de Dios que sus propios clientes busquen la información para acceder a sus servicios. Yo mismo he luchado muchos años para que las empresas donde he prestado servicios -telecomunicaciones principalmente-, fueran más, digamos, proactivas a la hora de hacer que el cliente entienda, comprenda y asimile, las normas de seguridad y tenga claras la forma de contactar con su empresa de referencia. Por eso digo que es un trabajo de todos, clientes, empresas, pero que no hay que olvidar la dejadez del cliente que porque paga, se piensa que lo tiene todo hecho.

[yomismovoy]

Originalmente Escrito por xmigoll

Se "obliga" porque el usuario cede y tiende a ser "vago" y al que se lo hagan porque "soy mayor". Para mí eso no es una excusa. Al igual que no es una excusa decir que tengo una limitación psíquica para poder saltarte las normas y hacer lo que te sale de las narices. Eso es lo que hace a la gente estar limitada.
Y ojo que ya he dicho al principio que iba a sacar de la ecuación a todos estos que les falta un verano.

Verano no sé si te falta, pero de empatía no andas muy sobrado.