Apple introducirá con iOS y iPadOS una tecnología criptográfica con la que limitar la distribución de material de abuso sexual infantil en servicios como iCloud, y empleará aprendizaje automático en el dispositivo para advertir de contenido sexual explícito en su aplicación Messages.
La compañía tencológica ha compartido las novedades en materia de protección infantil, nuevas herramientas diseñadas con especialistas que procuran resguardar a los pequeños de predadores que emplean servicios digitales para llegar hasta ellos.
Una de las primordiales preocupaciones en este área es la compartición de material de abuso sexual infantil. Apple ha anunciado «nuevas aplicaciones criptográficas» en las próximas versiones de iOS y iPadOS que dejarán advertir las imágenes de este género que estén guardadas en iCloud.
La compañía explica que este procedimiento no escanea las imágenes en la nube, sino se fundamenta en una comparación en el dispositivo de las imágenes conocidas proporcionadas por organizaciones de seguridad infantil antes que sean subidas a iCloud.
Lo que se equipara no es la imagen en sí, sino más bien los ‘hashes’ de las imágenes, una suerte de huella digital. Una tecnología criptográfica llamada ‘intersección de conjuntos privados’ es la que determina si hay una coincidencia sin descubrir el resultado, y se anexa a la imagen una vez subida a iCloud.
La tecnología de ‘umbral de intercambio secreto’ asegura un elevado nivel de coincidencia, y es entonces cuando Apple recibe una alarma, a fin de que los equipos humanos la examinen. Si se confirma, se desactiva la cuenta del usuario y se manda un informe a las asociaciones pertinentes y a la Policía.
Contenido sensible en Messages
La aplicación Messages incorporará nuevas herramientas que alertarán a los usuarios (pequeños y progenitores) del envío o bien la recepción de contenidos sensibles, que advertirá material sexualmente explícito a través del análisis a través de aprendizaje automático en el propio dispositivo.
Caso de que se trate de un contenido recibido, la aplicación lo diluirá y va a mostrar una advertencia, recursos informativos e inclusive asegurará que «está bien si no desea ver esa foto». Asimismo se puede informar a los pequeños de que los progenitores van a ser notificados si decide ver la imagen. Si se trata del envío de este género de contenidos, el menor va a recibir una advertencia y los progenitores una notificación.
Esta novedad va a estar libre en las cuentas familiares de iCloud para iOS quince, iPadOS quince y macOS Monterey.
Recursos auxiliares con Siri y Search
La compañía asimismo ha reforzado Siri y Search a fin de que puedan proveer de recursos con los que los pequeños puedan estar seguros en Internet, mas asimismo van a poder intervenir caso de que adviertan que la busca es de contenido de abuso sexual infantil.
La actualización de Siri y Search va a llegar con iOS quince, iPadOS quince, watchOS ocho y macOS Monterey.