კომენტარი: Apple-ის ბავშვთა დაცვის ზომებს არაერთგვაროვანი რეაქცია მოჰყვა ექსპერტების მხრიდან
გუშინდელი განცხადება დაადასტურა რომ კომპანია დაიწყებს ბავშვებზე ძალადობის ფოტოების სკანირებას iPhone-ებზე. ამ ამბავს არაერთგვაროვანი რეაქცია მოჰყვა ექსპერტების მხრიდან, როგორც კიბერუსაფრთხოების, ასევე ბავშვთა უსაფრთხოების სფეროში.
სანამ დეტალები ცნობილი იქნებოდა და Apple-ის განცხადება ორ მათგანს ეხებოდა…
CSAM სკანირების შეშფოთება
თავდაპირველი შეშფოთება მოიცავდა იმ ფაქტს, რომ ციფრული ხელმოწერები ბავშვთა სექსუალური ძალადობის მასალებისთვის (CSAM) მიზანმიმართულად ბუნდოვანია, რათა დაუშვას ისეთი რამ, როგორიცაა მოსავალი და სხვა გამოსახულების კორექტირება. ეს ქმნის ცრუ პოზიტივის რისკს, შემთხვევით (პირველს ეხება) ან მავნე ქმედებებს (შეხება ორი).
Apple-მა მიმართა მათ იმით, რომ გამოაცხადა, რომ მოქმედება არ იქნება გამოწვეული ერთი შესატყვისი სურათით. მათ, ვინც აგროვებს ასეთ მასალას, ხშირად აქვთ მრავალი სურათი, ამიტომ Apple-მა თქვა, რომ გარკვეული ბარიერი იქნება საჭირო ანგარიშის გენერირებამდე. კომპანიამ არ გამოავლინა რა არის ბარიერი, მაგრამ თქვა, რომ მან შეამცირა ცრუ პოზიტივის შანსი ტრილიონიდან ერთზე ნაკლებამდე. პირადად მე ეს სრულიად მაკმაყოფილებს.
თუმცა, კიდევ ორი რისკი რჩება.
ავტორიტარული მთავრობების ბოროტად გამოყენება
ციფრული თითის ანაბეჭდის შექმნა შესაძლებელია ნებისმიერი მასალის ტიპი, არა მხოლოდ CSAM. რა უნდა შეაჩეროს ავტორიტარულ მთავრობას მონაცემთა ბაზაში პოლიტიკური კამპანიის პლაკატების ან მსგავსი სურათების დამატებაში?
ასე რომ, ინსტრუმენტი, რომელიც შექმნილია სერიოზული კრიმინალების სამიზნეზე, შეიძლება ტრივიალურად იყოს ადაპტირებული, რათა გამოავლინოს ისინი, ვინც ეწინააღმდეგება მთავრობას ან მის ერთ ან რამდენიმე პოლიტიკას.
პოტენციური გაფართოება შეტყობინებებში
თუ იყენებთ ბოლომდე დაშიფრულ შეტყობინებების სერვისს, როგორიცაა iMessage, Apple-ს არ აქვს საშუალება დაინახოს ამ შეტყობინებების შინაარსი. თუ მთავრობა მივა სასამართლოს ბრძანებით, Apple-ს შეუძლია უბრალოდ მხრები აიჩეჩა და თქვას, რომ არ იცის რა ითქვა.
მაგრამ თუ მთავრობა დაამატებს თითის ანაბეჭდებს ტექსტის ტიპებისთვის - ვთქვათ დაგეგმილი პროტესტის თარიღი, დრო და ადგილი - მაშინ მას ადვილად შეუძლია შექმნას პოლიტიკური ოპონენტების მონაცემთა ბაზა.
Electronic Frontier Foundation (EFF) ხაზი გაუსვა ბოროტად გამოყენების რისკს , მიუთითებს იმაზე, რომ არც Apple-ისთვის და არც მომხმარებლებისთვის არ არსებობს გზა ციფრული თითის ანაბეჭდების აუდიტის ჩასატარებლად. მთავრობას შეუძლია უთხარი Apple, რომ ის შეიცავს მხოლოდ CSAM ჰეშებს, მაგრამ კომპანიისთვის ამის გადამოწმების საშუალება არ არსებობს.
ამჟამად, პროცესი იმაში მდგომარეობს, რომ Apple ხელით განიხილავს დროშის მქონე სურათებს და მხოლოდ იმ შემთხვევაში, თუ მიმოხილვა დაადასტურებს შეურაცხმყოფელ მასალას, კომპანია დეტალებს გადასცემს სამართალდამცავებს. მაგრამ კიდევ ერთხელ, არ არსებობს გარანტია, რომ კომპანიას მიეცემა უფლება გააგრძელოს ეს პროცესი.
კრიპტოგრაფიის აკადემიკოსი მეთიუ გრინი გაიმეორა ეს წერტილი მისი წინასწარი განცხადების ტვიტერების შემდეგ.
ვინც აკონტროლებს ამ სიას, შეუძლია მოძებნოს ნებისმიერი კონტენტი, რომელიც მას სურს თქვენს ტელეფონში, და თქვენ ნამდვილად არ გაქვთ საშუალება იცოდეთ რა არის ამ სიაში, რადგან ის თქვენთვის უხილავია (და მხოლოდ რამდენიმე გაუმჭვირვალე რიცხვი, მაშინაც კი, თუ თქვენ გატეხავთ თქვენს ტელეფონი სიის მისაღებად.)
EFF ამბობს ეს უფრო მეტია ვიდრე თეორიული რისკი:
ჩვენ უკვე ვნახეთ ეს მისია მოქმედებაში. ერთ-ერთი ტექნოლოგია, რომელიც თავდაპირველად შეიქმნა ბავშვთა სექსუალური ძალადობის სურათების სკანირებისთვის და ჰეშირებისთვის, შეიცვალა და შეიქმნა ა ტერორისტული შინაარსის მონაცემთა ბაზა რომ კომპანიებს შეუძლიათ წვლილი შეიტანონ და მიიღონ წვდომა ასეთი შინაარსის აკრძალვის მიზნით. მონაცემთა ბაზა, რომელსაც მართავს ტერორიზმის წინააღმდეგ ბრძოლის გლობალური ინტერნეტ ფორუმი (GIFCT), შემაშფოთებელია გარე ზედამხედველობის გარეშე, მიუხედავად მოწოდებები სამოქალაქო საზოგადოებისგან . მიუხედავად იმისა, რომ შეუძლებელია იმის ცოდნა, გადაჭარბებულია თუ არა მონაცემთა ბაზა, ჩვენ ვიცით ეს პლატფორმები რეგულარულად მონიშნეთ კრიტიკული შინაარსი როგორც ტერორიზმი, მათ შორის ძალადობისა და რეპრესიების დოკუმენტაცია, კონტრმეტყველება, ხელოვნება და სატირა.
ჰონგ კონგში, მაგალითად, ჩინეთის მთავრობის კრიტიკა კლასიფიცირებულია ტერორიზმის იმავე დონეზე და ისჯება უვადო თავისუფლების აღკვეთით.
iMessage სკანირების შეშფოთება
ასევე გაჩნდა შეშფოთება AI-ზე დაფუძნებული სკანირების შესახებ, რომელიც ჩატარდება iMessage-ის ფოტოებზე. ეს სკანირება არ ეყრდნობა ციფრულ ხელმოწერებს, სამაგიეროდ ცდილობს შიშველი ფოტოების იდენტიფიცირებას მანქანური სწავლის საფუძველზე.
კიდევ ერთხელ, Apple-ს აქვს ჩაშენებული დაცვა. ეს არის მხოლოდ საეჭვო შიშველი ფოტოებისთვის. ის გავლენას ახდენს მხოლოდ ბავშვთა ანგარიშებზე, როგორც ოჯახის ჯგუფების ნაწილი. ბავშვი გაფრთხილებულია, რომ შემომავალი შეტყობინება შეიძლება იყოს შეუსაბამო და შემდეგ ირჩევს, ნახოს თუ არა. გარე მოხსენება არ იქმნება, მხოლოდ მშობელს ეცნობება, საჭიროების შემთხვევაში.
მაგრამ ისევ, მოლიპულ ფერდობზე არგუმენტი წამოიჭრება. ეს არის ყველა კონტროლი, რომელიც მოქმედებს ახლავე, მაგრამ ეკითხება EFF რა მოხდება, თუ რეპრესიული მთავრობა აიძულებს Apple-ს შეცვალოს წესები?
მთავრობებმა, რომლებიც ჰომოსექსუალობას კანონგარეშე აცხადებენ, შეიძლება მოითხოვონ კლასიფიკატორის გაწვრთნა, რათა შეზღუდოს აშკარა LGBTQ+ შინაარსი, ან ავტორიტარულმა რეჟიმმა შეიძლება მოითხოვოს კლასიფიკატორისგან შეძლოს პოპულარული სატირული სურათების ან საპროტესტო ფლაერების დანახვა.
ორგანიზაცია ასევე ამტკიცებს, რომ ცრუ მატჩები არის გარკვეული რისკი.
ჩვენ ვიცით მრავალწლიანი დოკუმენტაციისა და კვლევის შედეგად, რომ მანქანათმცოდნეობის ტექნოლოგიებს, რომლებიც გამოიყენება ადამიანის ზედამხედველობის გარეშე, აქვთ კონტენტის არასწორად კლასიფიკაციის ჩვევა, მათ შორის, სავარაუდოდ, სექსუალურად გამოხატული შინაარსის ჩათვლით. როდესაც ბლოგის პლატფორმა Tumblr-მა 2018 წელს დააწესა სექსუალური შინაარსის ფილტრი, მან ცნობილი გახდა, რომ ქსელში სხვა სახის გამოსახულება დაიჭირა, მათ შორის პომერანიელი ლეკვების სურათები, მთლიანად ჩაცმული ინდივიდების სელფები და სხვა. Facebook-ის მცდელობამ გააკონტროლოს სიშიშვლე, გამოიწვია ისეთი ცნობილი ქანდაკებების სურათების წაშლა, როგორიცაა კოპენჰაგენის პატარა ქალთევზა.
ისევ და ისევ, ეს არ არის პრობლემა Apple-ის ამჟამინდელ დანერგვასთან დაკავშირებული უსაფრთხოების ზომების გამო, მაგრამ ტექნოლოგიის შექმნას, რომელსაც შეუძლია პირადი შეტყობინებების შინაარსის სკანირება, აქვს დიდი პოტენციალი სამომავლო ბოროტად გამოყენებისთვის.
EFF ასევე ხაზს უსვამს ბავშვთა დაცვის ზოგიერთი ექსპერტის მიერ წამოჭრილ საკითხს: რომ მშობელი ან კანონიერი მეურვე ყოველთვის არ არის უსაფრთხო ადამიანი, რომელსაც გაუზიარებს ბავშვის პირადი შეტყობინებები.
ეს სისტემა მშობლებს, რომლებსაც შვილების საუკეთესო ინტერესები არ აქვთ მხედველობაში, მისცემს მათ მონიტორინგისა და კონტროლის კიდევ ერთ საშუალებას.
ზოგიერთი დისკუსია ხაზს უსვამს იმ სახიფათო თოკზე გავლას, რომელიც Apple ცდილობს. მაგალითად, ერთ-ერთი დაცვა არის ის, რომ მშობლებს ავტომატურად არ აფრთხილებენ: ჯერ ბავშვს აფრთხილებენ და შემდეგ აძლევენ არჩევანს, ნახოს თუ არა სურათი. თუ ისინი აირჩევენ არა, გაფრთხილება არ გენერირებულია. დევიდ ტიელი იყო ერთ-ერთი იმ მრავალთაგან, ვინც აღნიშნა აშკარა ხარვეზზე:
დაბოლოს, აშკარად ჩანს, რომ როდესაც დიალოგის წინაშე ვდგავართ, რომელშიც ნათქვამია: „ჩვენ ვაპირებთ ვუთხრათ შენს მშობლებს“, საუბარი დაუყოვნებლივ გადავა სხვა პლატფორმაზე, პოტენციურად Facetime-ზე, სადაც ეს მექანიზმები უსარგებლოა. 14/
— დევიდ ტიელი (@elegant_wallaby) 2021 წლის 6 აგვისტო
Apple-ის ბავშვთა დაცვის ზომები ყველას ვერ მოეწონება
აქ ყველა მხარს უჭერს Apple-ის განზრახვებს და პირადად მე სრულიად კმაყოფილი ვარ ცრუ პოზიტივისგან ბარიერის დაცვით. Apple-ის სხვა გარანტიები ასევე გააზრებული და ეფექტური უნდა იყოს. კომპანიას უნდა მოწონება იმის გამო, რომ ცდილობს სერიოზული საკითხის ფრთხილად გადაჭრას.
ამავდროულად, მოლიპულ ფერდობის რისკები ძალიან რეალურია. უკიდურესად ხშირია მთავრობისთვის - თუნდაც შედარებით კეთილგანწყობილი ხელისუფლებისთვის - მისიის შიშის ჩადება. იგი ჯერ შემოაქვს კანონს, რომელსაც ვერავინ ვერ დაუპირისპირდება, შემდეგ კი აფართოებს მის ფარგლებს, ზოგჯერ სალამურ სტილს, თითო ნაჭერი. ეს განსაკუთრებით საშიშია ავტორიტარულ რეჟიმებში.
პირიქით, თქვენ შეიძლება ამტკიცებდეთ, რომ ამ სისტემის საჯაროდ გახდომით, Apple-მა უბრალოდ ხელი დაარტყა. ახლა ყველამ, ვისაც აქვს CSAM თავის iPhone-ზე, იცის, რომ უნდა გამორთოს iCloud, ხოლო მოძალადეებმა იციან, თუ სურთ ბავშვებისთვის შიშველი სურათების გაგზავნა, მათ არ უნდა გამოიყენონ iMessage. ასე რომ, თქვენ შეიძლება ამტკიცებდეთ, რომ Apple-ს ეს საერთოდ არ უნდა გაეკეთებინა, ან შეგიძლიათ ამტკიცებდეთ, რომ ეს უნდა გაეკეთებინა არავის უთხრას.
რეალობა ისაა, რომ აქ არ არსებობს სრულყოფილი გამოსავალი და Apple-ის ნებისმიერ პოზიციას აქვს როგორც სარგებელი, ასევე რისკი.
გუშინ, სანამ სრული დეტალები გახდებოდა ცნობილი, თქვენი დიდი უმრავლესობა . სად დგახართ ახლა, როცა დეტალები - და უსაფრთხოების ზომები - ცნობილია? გთხოვთ კიდევ ერთხელ მიიღოთ ჩვენი გამოკითხვა და გაგვიზიარეთ თქვენი აზრი კომენტარებში.
ფოტო: დევიდ უოტკისი / ამოფრქვევა
![‘ARK: Survival Evolution’ იწყებს დინოზავრის გადარჩენის თამაშის iOS- ზე, უფასო თამაში [ვიდეო]](https://macosxhints.ch/img/apple/48/ark-survival-evolved-dinosaur-survival-game-launches-ios.jpg)
