კომპანია „მეტადან“ გაჟონილი შიდა დოკუმენტებით ირკვევა, რომ „ფეისბუქმა“ იცოდა, მისი პლატფორმის ზოგიერთ ქვეყანაში ძალადობის წასაქეზებლად გამოყენების შესახებ, მაგრამ ამის შესაკავებლად საკმარისად ეფექტურად არ იმოქმედა.

მამხილებლის დოკუმენტებზე დაყრდნობით მომზადებული ჟურნალისტური პროექტის „ფეისბუქის ქაღალდების“ მიხედვით, კომპანიას დეზინფორმაციასთან ბრძოლის სისტემა აქვს შემუშავებული, თუმცა ის უთანასწორო და ზოგიერთი ქვეყნისთვის არასაკმარისია.

მამხილებლის მოპოვებული მასალებით ირკვევა, რომ “ფეისბუქი“ დეზინფორმაციას სხვადასხვა ქვეყანაში სხვადასხვა დონეზე ებრძვის, ზოგან ამისთვის დიდ რესურსებს დებს, ზოგან კი მინიმალურს.

არასამთავრობო ორგანიზაციები და სამოქალაქო აქტივისტები ამტკიცებენ, რომ სოციალურ ქსელში გავრცელებულ დეზინფორმაციას ქვეყნებში ძალადობის წახალისება შეუძლია.

ვის უფრო მეტად იცავს „ფეისბუქი“

„ფეისბუქის“ შიდა დოკუმენტებით ჩანს, რომ კომპანიას დეზინფორმაციასთან და სიძულვილის ენასთან ბრძოლისთვის ქვეყნები პრიორიტეტების მიხედვით კატეგორიებად აქვს დაყოფილი.

გამოცემა Verge-ის რედაქტორი ქეისი ნიუტონი ამ თემაზე „ფეისბუქიდან“ გაჟონილ მასალებს გაეცნო და კომპანიის ახლანდელ და ყოფილ თანამშრომლებს ესაუბრა.

„ფეისბუქის ქაღალდების“ მიხედვით, 2019 წელს მსოფლიოს ქვეყნებში არჩევნებამდე ერთი წლით ადრე „ფეისბუქის“ ის თანამშრომლები შეიკრიბნენ, რომლებსაც ქსელში ზიანის პრევენცია ევალებათ. ამ შეხვედრაზე კომპანიის ლიდერებმა დაასახელეს ქვეყნები, სადაც „ფეისბუქზე“ დეზინფორმაციისგან გაძლიერებული დაცვისთვის ინვესტიციას ჩადებდნენ. „ფეისბუქმა“ მსოფლიო კატეგორიებად დაიყო.

0. ე.წ ნულ საფეხურზე „ფეისბუქისთვის“ ყველაზე პრიორიტეტულ ქვეყნებში ბრაზილია, ინდოეთი და აშშ მოხვდნენ. ეს იმას ნიშნავდა, რომ ამ ქვეყნებში „ფეისბუქმა“ შექმნა „ომის ოთახები“ - ექსპერტებით დაკომპლექტებული ჯგუფი, რომელიც მუდმივ რეჟიმში ამოწმებდა არჩევნებში ჩარევის საფრთხეებს, ყალბ ამბებს, დეზინფორმაციას და ქსელს განუწყვეტლივ აკვირდებოდა. პრობლემის შემთხვევაში კი ჯგუფი ქვეყანაში ადგილობრივი არჩევნების წარომადგენლებს აცნობებდა.

1. მომდევნო ანუ „პირველ საფეხურზე“ მოხვედრილ ქვეყნებს, მათ შორის გერმანიას, ინდონეზიას, ირანს, ისრაელსა და იტალიას, „ფეისბუქზე“ უმაღლესი პრიორიტეტის მქონე ქვეყნების მსგავსი რესურსები ჰქონდათ, თუმცა გარკვეული გამონაკლისებით.

2. „მეორე საფეხურზე“ „ფეისბუქმა“ 22 ქვეყანა შეიყვანა. მათ შემთხვევაში ქსელის მუდმივი მონიტორინგი არ ჩატარდებოდა.

3. მსოფლიოს დანარჩენი სახელმწიფოები კი „მესამე საფეხურზე“ გადანაწილდა. აქ „ფეისბუქი“არჩევნებთან დაკავშირებულ მასალებს იმ შემთხვევაში განიხილავდა, თუ მას კონტენტის მოდერატორები მიაწვდიდნენ. წინააღმდეგ შემთხვევაში, არ ჩაერეოდა.

კონტენტის მოდერაციის ეს სისტემა დეტალურად მამხილებლის მოპოვებულ დოკუმენტებშია აღწერილი.

უთანასწორო მიდგომა

„ფეისბუქი“ უმაღლესი პრიორიტეტის მქონე ქვეყნებს პლატფორმაზე კონტენტის გაძლიერებულ მოდრეაციას სთავაზობს. ეს მოიცავს კომპანიის სტანდარტების ოფიციალურ ენებზე თარგმნას, ხელოვნური ინტელექტის პროგრამის ისე შექმნას, რომ ამ კატეგორიაში შემავალი ქვეყნების ენებზე სიძულვილის ენა და დეზინფორმაცია ამოიცნოს. ასევე ვირუსული კონტენტის გასაანალიზებლად, საზიანო, შეცდომაში შემყვან და ძალადობის წამქეზებელ ინფორმაციაზე მუდმივი რეაგირების გუნდის დაკომპლექტებას.

მაგრამ ამ სახელმწიფოებს მიღმა რჩება ისეთი ქვეყნები, სადაც კონფლიქტებსა და არეულობებს მშვიდობიანი ადამიანების სიცოცხლე ეწირება.

მაგალითად ეთიოპიაში, მიანმარში და სხვა ქვეყნებში შესაძლოა კომპანიის სტანდარტები და წესები მათ ენებზე ნათარგმნიც არ იყოს. არც სიძულვილისა და დეზინფორმაციის ამომცნობი ალგორითმები იყოს შესაბამისად განვითარებული, არ არსებობდნენ ფაქტების გადამმოწმებლები და არასდროს იხსნებოდეს „ომის ოთახები“.

„ფეისბუქის“ მამხილებელი ფრენსის ჰაუგენი ამბობს, რომ მისთვის კომპანიის შიდა დოკუმენტების შეგროვების მთავარი მოტოვაცია იმაზე ყურადღების მიპყრობა იყო თუ, „როგორ ცუდად უმკლავდება „ფეისბუქი“ ისეთ ადგილებს, როგორიც ეთიოპიაა“. მამხილებლის შეფასებით, „ფეისბუქი“ საკუთარ პლატფორმას არაინგლისურენოვან ქვეყნებში შესაბამისად ვერ აკონტროლებდა.

არასაკმარისი რესურსი

The Guardian-ის ინფორმაციით, მიანმარის 53-მილიონიანი მოსახლეობის თითქმის ნახევარი “ფეისბუქს“ იყენებს და მათი დიდი ნაწილისთვის სოციალური ქსელი ინფორმაციის მიღების მთავარი წყაროა. ქვეყანაში 2021 წლის თებერვალში სამხედრო გადატრიალება მოხდა, რასაც მასშტაბური საპროტესტო გამოსვლები მოჰყვა. უფლებადამცველი ჯგუფის Global Witness-ის გამოძიებით დადგინდა, რომ „ფეისბუქის“ ალგორითმი ხელს უწყობდა თავისივე სტანდარტების საწინააღმდეგო, სამხედრო გადატრიალების მოწინააღმდეგეებისადმი ძალადობის წამქეზებელი პოსტების გავრცელებას.

„ფეისბუქის ქაღალდების“ მიხედვით, მიანმარში, პაკისტანსა და ეთიოპიაში „ფეისბუქს“ არ ჰქონდა დეზინფორმაციასთან ბრძოლის საკმარისი სისტემა იმის მიუხედავად, რომ ამ ქვეყნებს „მაღალი რისკის“ სტატუსი მიანიჭა.

კომპანიის თანამშრომლები შიდა მიმოწერებში იმეორებდნენ, რომ „ფეისბუქი“ „რისკის წინაშე მყოფ ქვეყნებში“, როგორიც ეთიოპიაა, ძალადობის წამახალისებელი პოსტების გავრცელებას ვერ აჩერებდა და კომპანიის იმჟამინდელი სტრატეგია საკმარისი არ იყო.

მეტიც, „ფეისბუქის ქაღალდები“ აჩვენებს, რომ კომპანიას ამერიკის შეერთებულ შტატებშიც კი, სადაც კონტენტის მოდერაციაზე ყველაზე მეტს ხარჯავს, პლატფორმაზე დეზინფორმაციის სიმრავლის პრობლემა აქვს.

2019 წლით დათარიღებული ჩანაწერების მიხედვით, მოდერატორების სამუშაო დატვირთვის შემსუბუქების იმედით, პოსტებზე მიღებული საჩივრების საქმეს კომპანია ავტომატურად ხურავდა, თუკი პოსტს ცოტა ნახვა ჰქონდა ან გასაჩივრებული საკითხი მძიმე არ იყო.

ჩანაწერების ავტორის ინფორმაციით, მოდერატორების შეფასებით, სიძულვილის ენასთან დაკავშირებული საჩივრების 75% „ფეისბუქის“ სტანდარტებს არ არღვევდა და აჯობებდა მოდერატორებს დრო უფრო მძიმე დარღვევების ძიებისთვის დაეთმოთ.

მამხილებლის მოპოვებული დოკუმენტებიდან ირკვევა ისიც, რომ კონტენტის მოდერაციისთვის გამოყოფილი ბიუჯეტი არასაკმარისი იყო, რის გამოც შესაძლებლობები მცირდებოდა. ჩანაწერის მიხედვით, მას შემდეგ, რაც ქვეყანას „პრიორიტეტი“ ენიჭება სიძულვილის ენის ამომცნობის სისტემის შექმნას ერთი წელი სჭირდება.

„ფეისბუქის“ წარმომადგენელი შიდა დოკუმენტებში წერს, რომ ამომცნობი სისტემების შექმნას პრიორიტეტი სჯობს იმ ქვეყნებში მიენიჭოს, სადაც მუდმივად ძალადობრივი ვითარებაა, ვიდრე იქ სადაც ასეთი ვითარება დროებითია და ამ შემთხვევაში სწრაფი რეაგირების ინსტრუმენტებს უნდა დაეყრდნონ.

Verge-ის ჟურნალისტი, ქეისი ნიუტონი ამბობს, რომ ასობით დოკუმენტის გაანალიზებისა და ფეისბუქის ამჟამინდელ და ძველ თანამშრომლებთან ინტერვიუების შემდეგ ნათელია, რომ კომპანიის თამაშრომლების ნაწილი ცდილობს შეამციროს პლატფორმის გამოწვევები. ზოგიერთ შემთხვევაში კი თანამშრომლებს უჭირთ მაგალითად, ისეთი შემთხვევების ახსნა, თუ რატომ უჩვენებს ალგორითმი კაცებს უფრო მეტ „სამოქალაქო კონტენტს“, ვიდრე ქალებს; ან რატომ მისცა საშუალება პროგრამულმა ხარვეზმა შრი-ლანკურ ძალადობრივ ჯგუფს ფეისბუქის ჯგუფში სამ დღეში ნახევარი მილიონი ადამიანი, მათი თანხმობის გარეშე დაემატებინა. ეს კი მისი აზრით, აჩენს განცდას, რომ „ფეისბუქში“ არავინ არის ბოლომდე დარწმუნებული რა ხდება.

“ფეისბუქის“ პასუხი

რესურსების განაწილება: Verge-ის ჟურნალისტს „ფეისბუქის“ ადამიანის უფლებათა პოლიტიკის დირექტორმა მირანდა სისსონსმა უთხრა, რომ რესურსების გადანაწილების მათი გზა გაეროს ბიზნესისა და ადამიანის უფლებათა პრინციპებთან დაკავშირებით სახელმძღვანელო წესების საუკეთესო პრაქტიკებს მიჰყვება.

სისსონსის თქმით, იდეალურ შემთხვევაში კომპანიის სტანდარტებსა და ხელოვნური ინტელექტის მიერ კონტენტის მოდერაციის საშუალებებს ყველა იმ ქვეყნის ენაზე გადათარგმნიდნენ, სადაც „ფეისბუქი“ მუშაობს. თუმცა გაეროსაც კი მხოლოდ 6 ოფიციალური ენა აქვს. „ფეისბუქზე“ დღეს 70-ზე მეტ ენაზე გამოქვეყნებულ კონტენტს მოდერაციას მშობლიურ ენაზე მოლაპარაკე ადამიანები უწევენ.

ფეისბუქის წარმომადგენლისვე განმარტებით, კომპანიის სისტემები რეგულარულად აკვირდება მსოფლიოში პოლიტიკური არასტაბილურობისა და ძალადობის ესკალაციის სხვა რისკებს, რათა კომპანიამ ვითარების შესაბამისად ადაპტირება შეძლოს.

ეთიოპია: „მეტას“ ( „ფეისბუქის“ აპლიკაციის მფლობელი კომპანია) განცხადებით, ეთიოპია კოფლიქტისა და ძალადობის კუთხით მაღალი რისკის კატეგორიის ქვეყნებში ორი წლის წინ გადაიყვანეს. ამ პერიოდში ინვესტიცია ჩადეს სიძულვილის ენის შემცველი კონტენტის ყველა იმ ენაზე ამოცნობისთვის, რომლებზეც ეთიოპიის მოსახლეობა საუბრობს. ქვეყანაში ვითარების გაუარესების შემდეგ კი ხალხის უსაფრთხოებისთვის დამატებითი ნაბიჯები გადადგეს, მათ შორის წაშალეს ოპოზიციისადმი კრიტიკული პოსტებით გამორჩეული ყალბი ანგარიშების ქსელი.

„ფეისბუქი“ მიიჩნევს, რომ თავად არ უნდა იყოს „სიმართლის არბიტრი“, ამიტომ ალგორითმის გარდა, საკუთარ პლატფორმებზე პოტენციური დეზინფორმაციის ამოცნობას, განხილვას და შეფასებას ფაქტების გადამმოწმებელ პარტნიორ ორგანიზაციებს ანდობს. კომპანია ეთიოპიაში ასეთ ორ ორგანიზაციასთან თანამშრომლობს, რომლებსაც საერთო ჯამში სრულ განაკვეთზე ფაქტების ექვსი გადამმოწმებელი ჰყავთ დასაქმებული.

„ფეისბუქის“ წარმომადგენელი ამბობს, რომ კომპანიას მსოფლიოს მასშტაბით პლატფორმაზე უსაფრთხოებისთვის ინვესტიციის სახით 13 მილიარდი აშშ დოლარი აქვს ჩადებული, 40 ათასი ადამიანი ჰყავს დასაქმებული და ფაქტების გადამოწმებელ 80 ორგანიზაციასთან პარტნიორობს. მათი „გამოცდილება კი აჩვენებს, რომ ძალადობას აშშ-ის გარეთაც ისეთივე ინტენსივობით ებრძვიან, როგორც შეერთებულ შტატებში.“

ეთიოპიაში შიდა კონფლიქტის ესკალაციასთან ერთად, ქვეყნის მთავრობა „ფეისბუქს“ მომხმარებლების დაბლოკვასა და „ეთიოპიის შესახებ ჭეშმარიტი რეალობის“ ამსახველი პოსტების წაშლაში ადანაშაულებს. ის „ფეისბუქის“, „ვოთსაფისა“ და „ტვიტერის“ ჩასანაცვლებლად საკუთარი სოციალური ქსელის შექმნაზე მუშაობს.