Al final, según los propios documentos de Apple, el sistema solo va a generar el hash de la imagen y a comprobarlo contra la bbdd de hashes cuando la imagen se va a guardar en iCloud.

En https://www.apple.com/child-safety/p...al_Summary.pdf se puede leer el siguiente párrafo

Before an image is stored in iCloud Photos, an on-device matching process is performed for that image against the database of known CSAM hashes. This matching process is powered by a cryptographic technology called private set intersection, which determines whether there is a match without revealing the result. The device creates a cryptographic safety voucher that encodes the match result. It also encrypts the image’s NeuralHash and a visual derivative. This voucher is uploaded to iCloud Photos along with the image.

Es decir, que si alguien tiene desactivada la sincronización de fotos a iCloud, el sistema no hace nada en el dispositivo.

En parte, esto lo hacen todos los proveedores Cloud, porque están obligados a informar si tienen alojado en sus servidores cierto tipo de contenidos como ese. Microsoft tiene PhotoDNA https://www.microsoft.com/en-us/photodna y Google tiene su propio sistema para lo mismo https://blog.google/technology/safet...-abuse-online

La diferencia es que Apple calcula el hash en el dispositivo antes de guardar la información en iCloud, y los otros proveedores suelen hacerlo en los servidores y no los dispositivos.

Y bueno, este tipo de sistemas tienen unos cuantos problemillas... que seguro que precisamente los hijos de p... a los que quieren coger acabarán explotando https://slazebni.cs.illinois.edu/fal...dversarial.pdf

Otra cosa son otras de las medidas anunciadas, como las que afectan a iMessage por ejemplo...

Edito: y por cierto, por ahora esta funcionalidad solo estará activa en USA.