Perpaduan AI-manusia Facebook untuk transkripsi audio kini menghadapi pengawasan privasi di Eropa – TechCrunch


Facebook regulator privasi utama di Eropa sekarang meminta perusahaan untuk informasi rinci tentang pengoperasian fitur suara-ke-teks di Facebook Messenger aplikasi dan bagaimana mematuhi hukum Uni Eropa.

Kemarin Bloomberg melaporkan bahwa Facebook menggunakan kontraktor manusia untuk menyalin pesan audio pengguna aplikasi – namun kebijakan privasinya tidak menyebutkan secara jelas fakta bahwa orang yang sebenarnya mungkin mendengarkan rekaman Anda.

Halaman di pusat bantuan Facebook juga mencakup "catatan" yang mengatakan "Suara ke Teks menggunakan pembelajaran mesin" – tetapi tidak mengatakan bahwa fitur ini juga diberdayakan oleh orang-orang yang bekerja di Facebook untuk mendengarkan.

Seorang juru bicara Komisi Perlindungan Data Irlandia mengatakan kepada kami: "Lebih jauh ke keterlibatan kami yang berkelanjutan dengan Google, Apple dan Microsoft terkait dengan pemrosesan data pribadi dalam konteks transkripsi manual rekaman audio, kami sekarang mencari informasi terperinci dari Facebook tentang pemrosesan yang dimaksud dan bagaimana Facebook percaya bahwa pemrosesan data tersebut sesuai dengan kewajiban GDPR mereka "

Laporan Bloomberg mengikuti wahyu serupa tentang teknologi asisten AI yang ditawarkan oleh raksasa teknologi lainnya, termasuk Apple, Amazon, Google dan Microsoft – yang juga telah menarik perhatian dari regulator privasi Eropa dalam beberapa pekan terakhir.

Ini memberitahu kita bahwa hype sekitar asisten suara AI adalah masih menutupi backend teknologi yang jauh lebih rendah. Bahkan ketika cambuk dari masalah pemasaran pembelajaran mesin telah digunakan untuk menyelubungi komponen 'turk mekanik' (yaitu manusia) yang diperlukan agar teknologi memenuhi tuntutan tersebut.

Ini memang kisah yang sangat lama. Kecerdasan: Penuh dasawarsa lalu, sebuah startup di Inggris bernama Spinvox, yang mengklaim memiliki teknologi pengenal suara canggih untuk mengonversi pesan suara menjadi pesan teks, dilaporkan sangat bergantung pada pusat-pusat panggilan di Afrika Selatan dan Filipina … dikelola oleh, ya, manusia sebenarnya.

Kembali ke teknologi "mutakhir" saat ini, setelah laporan Bloomberg Facebook mengatakan bahwa mereka menangguhkan transkripsi manusia awal bulan ini – bergabung dengan Apple dan Google dalam menghentikan ulasan manual cuplikan audio untuk AI suaranya masing-masing. (Amazon sejak itu menambahkan opsi keluar ke pengaturan aplikasi Alexa.)

Kami bertanya kepada Facebook di mana di aplikasi Messenger telah memberi tahu pengguna bahwa kontraktor manusia mungkin digunakan untuk menyalin obrolan suara / pesan audio mereka; dan bagaimana ia mengumpulkan persetujuan pengguna Messenger untuk bentuk pemrosesan data ini – sebelum menangguhkan ulasan manusia.

Perusahaan tidak menanggapi pertanyaan kami. Sebaliknya seorang juru bicara memberi kami pernyataan berikut: "Sama seperti Apple dan Google, kami menghentikan ulasan audio manusia lebih dari seminggu yang lalu. "

Facebook juga menggambarkan cuplikan audio yang dikirim ke kontraktor sebagai topeng dan tidak diidentifikasi; mengatakan mereka hanya dikumpulkan ketika pengguna memilih transkripsi di Messenger; dan hanya digunakan untuk meningkatkan kinerja transkripsi AI.

Ini juga mengulangi bantahan lama oleh perusahaan untuk kekhawatiran pengguna tentang penyadapan umum oleh Facebook, mengatakan itu tidak pernah mendengarkan mikrofon orang tanpa izin perangkat atau tanpa aktivasi eksplisit oleh pengguna.

Namun, bagaimana Facebook mengumpulkan izin untuk memproses data adalah pertanyaan kunci.

Perusahaan baru-baru ini, misalnya, menggunakan aliran persetujuan manipulatif untuk mendorong pengguna di Eropa untuk beralih pada teknologi pengenalan wajah – memutar kembali sikap sebelumnya, diadopsi sebagai tanggapan terhadap intervensi peraturan sebelumnya, dari mematikan teknologi di seluruh blok.

Jadi banyak yang bertumpu pada bagaimana tepatnya Facebook menggambarkan pemrosesan data pada titik mana pun yang meminta pengguna untuk menyetujui pesan suara mereka ditinjau oleh manusia (dengan asumsi itu mengandalkan persetujuan sebagai dasar hukum untuk memproses data ini).

Bundling persetujuan ke dalam T & C umum untuk menggunakan produk ini juga tidak mungkin sesuai dengan hukum privasi Uni Eropa, mengingat bahwa Peraturan Perlindungan Data Umum blok tersebut mensyaratkan persetujuan untuk tujuan terbatas, serta sepenuhnya informasi dan diberikan secara bebas.

Jika Facebook mengandalkan kepentingan yang sah untuk memproses cuplikan audio pengguna Messenger untuk meningkatkan kinerja AI-nya, ia perlu menyeimbangkan kepentingannya sendiri dengan risiko apa pun terhadap privasi orang.

Suara AI sangat bermasalah dalam hal ini karena rekaman audio juga dapat menangkap data pribadi non-pengguna – mengingat bahwa orang-orang di sekitar perangkat (atau bahkan orang di ujung saluran telepon yang meninggalkan Anda pesan) dapat mengambil data pribadi mereka tanpa pernah memiliki kesempatan untuk menyetujui agar kontraktor Facebook mendengarnya.

Kebocoran cuplikan Asisten Google untuk pers Belgia baru-baru ini menyoroti sifat sensitif dari rekaman dan risiko identifikasi ulang yang ditimbulkan oleh rekaman tersebut – dengan wartawan dapat mengidentifikasi beberapa orang dalam rekaman tersebut.

Beberapa laporan pers juga menyarankan kontraktor yang dipekerjakan oleh raksasa teknologi secara rutin mendengar detail intim yang ditangkap melalui berbagai produk yang mencakup kemampuan untuk merekam audio dan mengalirkan data pribadi ini ke cloud untuk diproses.