Apple ieplānoto Child Safety funkcionalitāti jau pieminējām vienā no iepriekšējām Kiberpodkāsta epizodēm.

Neural Hash algoritms

Šonedēļ tika veiksmīgi atgūts (reverse engineered) algoritms, ko Apple izmantos, bērnu pornogrāfijas materiālu atpazīšanai iCloud mākoņglabātuvē. Šis algoritms darbosies uz iCloud pirms fotogrāfiju augšupielādes mākonī un pārbaudīs attēlu līdzību zināmiem aizliegtiem materiāliem, izmantojot neirālās hešsummas (Neural Hash).

Pētnieki atklāja, ka bilžu līdzības pārbaudē lietotais algoritms pieļauj hash collision tipa uzbrukumus, t.i. uzbrucēji var izveidot attēlu, ko algoritms uzskatīs par līdzīgu izvēlētajam hešam no CSAM datubāzes, lai gan reāli nekādus pornogrāfiskos materiālus šis attēls nesaturēs un vispār no cilvēku viedokļa izskatīsies ļoti tuvu jebkurai iepriekš izvēlētajai bildei.

Pavērtās diskreditācijas iespējas

Hash collissions iespējamība paver šāda veida uzbrukumu pret žurnālistiem, politiķiem vai citām personām, ja uzbrukuma mērķis ir diskreditācija un reputācijas graušana:

1. paņemt kādu nevainīgu bildi, piemēram ar vāveri, kurpi vai bumbu
2. pamainīt tajā dažus pikseļus līdz neirālais hešs pietuvojas kādam aizliegtam fotoattēlam no CSAM datubāzes
3. nosūtīt bildi, kas cilvēku redzes līmenī joprojām atgādina vāveri, kurpi vai bumbu, kādam mērķim (piem. politiķim vai žurnālistam)
4. sagaidīt, ka — mērķim saglabājot bildi savā telefonā (kuru arī viņš uzskatīs par vāveres, kurpes vai bumbas attēlu) — upura iPhone atpazīs bildi kā bērnu pornogrāfiju un ziņos par to Apple
5. Apple, saņemot pietiekami lielu skaitu ziņojumu (šobrīd 30), nodos šo informāciju policijai
6. policija uzsāks lietas izmeklēšanu pret izvēlēto upuri, radot būtiskus reputācijas zaudējumus pat neskatoties uz to, ka nekādi bērnu pornogrāfiskie materiāli galu galā atrasti netiks

Apple reakcija

Apple apgalvo, ka algoritma versija, kas pieejama pētniekiem, nav aktuāla un gala versija šāda veida uzbrukumus nepieļaus.

Atsauces

• https://www.apple.com/child-safety/pdf/Security_Threat_Model_Review_of_Apple_Child_Safety_Features.pdf
• https://github.com/AsuharietYgvar/AppleNeuralHash2ONNX/issues/1
• https://blog.roboflow.com/neuralhash-collision/
• https://www.macrumors.com/2021/08/18/apple-explains-neuralhash-collisions-not-csam-system/