Apple akan menghadirkan fitur untuk memeriksa pelecehan anak pada perangkatnya. Fitur tersebut dapat mengetahui ponel kita ada hal berbau seksual atau tidak. Namun, fitur ini masih terbatas untuk wilayah Amerika Serikat.
Pihak Apple memperkenalkan tiga langkah fitur baru yang akan mereka luncurkan. Fitur-fitur ini dapat menerima pesan, foto, dan informasi tambahan pada perangkat Apple. Menurut pernyataaan dari pihak Apple, fitur baru ini akan hadir pada akhir tahun mendatang
Fitur pertama, memeriksa konten pesan anak-anak untuk foto yang dianggap eksplisit secara seksual. Jika seorang anak menerima pesan seperti itu, maka pesan tersebut akan diburamkan secara otomatis.
Selain itu, anak tersebut akan mendapatkan peringatan bahwa pesan tersebut sensitif dan akan diberikan informasi mengenai pesan tersebut. Anak pun nantinya akan diberikan opsi untuk memblokir kontak pengirim pesan.
Jika anak memilih opsi untuk melihat pesan, maka akan muncul notifikasi bahwa orang tua mereka akan diberi tahu mengenai hal ini. Setelah itu, Apple pun akan memberi informasi mengenai hal tersebut ke pihak orang tua.
Perlindungan serupa juga diterapkan saat anak-anak mengirim pesan yang dianggap melanggar. Anak-anak akan diperingatkan sebelum foto dikirim dan orang tua dapat mengatur notifikasi ketika anak mereka mengirim foto yang memicu fitur ini.
Pada fitur kedua, Apple akan melakukan scan otomatis pada perpustakaan foto untuk mencari gambar yang berkaitan dengan pelecehan seksual anak. Scan ini akan menggunakan database gambar pelecehan yang disediakan oleh organisasi keselamatan anak. Namun, pihak Apple menjelaskan bahwa mereka akan tetap mempertimbangkan privasi dari pengguna.
Jika ditemukan gambar yang mirip dengan database yang tersedia, maka gambar tersebut akan diungkap ke Apple. Pihak Apple pun dapat melihat isi dari gambar yang telah dilaporkan. Jika gambar tersebut memang berkaitan dengan pelecehan anak, maka akun pengguna akan dinonaktifkan dan dilaporkan ke pihak berwenang.
Namun, fitur kedua ini mengalami kontroversi yang luar biasa sebelum peluncurannya. Ahli Kriptografi Matthew Green mengungkapkan bahwa dia dan sejumlah pakar keamanan dan privasi memperingatkan bahwa fitur ini bisa saja disalahgunakan.
Sementara itu untuk fitur ketiga, Apple akan menambahkan informasi baru ke Siri dan pencarian. Informasi tersebut akan memberi tahu anak-anak dan orang tua untuk menangani kemungkinan pelecehan anak. Pengguna pun dapat bertanya lebih spesifik, kemudian Siri atau laman pencarian akan memberikan informasi yang lebih detail.