მეტას ხელოვნური ინტელექტი ბავშვთა ძალადობის გამომძიებლებს „უსარგებლო“ შეტყობინებებით ავსებს, აცხადებენ სამართალდამცავი ორგანოების წარმომადგენლები

მეტას მიერ ხელოვნური ინტელექტის გამოყენება თავისი პლატფორმების გასაკონტროლებლად წარმოქმნის დიდი რაოდენობით დაბალხარისხიან შეტყობინებებს, რომლებიც რესურსებს ხარჯავს და ანელებს ბავშვთა ძალადობის გამოძიებებს, ნათქვამია The Guardian-ის მოხსენებაში. ეს ამბავი მას შემდეგ გავრცელდა, რაც გასულ კვირას ნიუ-მექსიკოს სამართალდამცავმა ორგანოების წარმომადგენლებმა განაცხადეს, რომ ხელოვნური ინტელექტის მიერ გენერირებული მოხსენებები გადატვირთავს გამომძიებლებს და ანელებს ბავშვთა ექსპლუატაციის საქმეებს. ბავშვთა წინააღმდეგ ინტერნეტ დანაშაულების სამუშაო ჯგუფის პროგრამის ოფიცრებმა კონკრეტულად მოიხსენიეს მეტას ავტომატიზებული სისტემები და განაცხადეს, რომ ისინი ყოველთვიურად ათასობით გამოუსადეგარ შეტყობინებას აგენერირებენ, რომლებიც სამართალდამცავ ორგანოებს ეგზავნება. „მეტასგან უამრავ შეტყობინებას ვიღებთ, რომლებიც უბრალოდ უსარგებლოა“, – განაცხადა ბენჯამინ ცვაიბელმა, ნიუ-მექსიკოს ICAC-ის სამუშაო ჯგუფის სპეციალურმა აგენტმა, კომპანიის წინააღმდეგ შტატის სასამართლო პროცესზე. კიდევ ერთმა ICAC-ის ოფიცერმა, ანონიმურად საუბრისას, The Guardian-ს განუცხადა, რომ დეპარტამენტის კიბერშეტყობინებები გაორმაგდა 2024 წლიდან 2025 წლამდე. „ეს საკმაოდ გადატვირთულია, რადგან ამდენ მოხსენებას ვიღებთ, მაგრამ მოხსენებების ხარისხი ნამდვილად არასაკმარისია სერიოზული ზომების მისაღებად“, – განაცხადეს მათ. Decrypt-თან გაზიარებულ განცხადებაში, მეტას სპიკერმა განაცხადა, რომ კომპანია დიდი ხანია თანამშრომლობს სამართალდამცავ ორგანოებთან და აღნიშნა, რომ იუსტიციის დეპარტამენტმა და დაკარგული და ექსპლუატირებული ბავშვების ეროვნულმა ცენტრმა შეაქეს მისი შეტყობინების პროცესი. „2024 წელს, ჩვენ მივიღეთ 9,000-ზე მეტი გადაუდებელი მოთხოვნა აშშ-ის ორგანოებისგან და გადავწყვიტეთ ისინი საშუალოდ 67 წუთში, ხოლო ბავშვთა უსაფრთხოებისა და სუიციდის შემთხვევებისთვის კიდევ უფრო სწრაფად“, – განაცხადა სპიკერმა. „მოქმედი კანონმდებლობის შესაბამისად, ჩვენ ასევე ვატყობინებთ ბავშვთა სექსუალური ექსპლუატაციის სურათებს NCMEC-ს და ვეხმარებით მათ მოხსენებების პრიორიტეტიზაციაში, საქმის მართვის ხელსაწყოს შექმნიდან კიბერშეტყობინებების მარკირებამდე, რათა მათ იცოდნენ, რომელია გადაუდებელი“, – დაამატეს მათ. ICAC-ის ოფიცრებმა, თუმცა, განაცხადეს, რომ მეტას მიერ გაგზავნილი ზოგიერთი მოხსენება არ არის კრიმინალური ხასიათის, ზოგიერთს კი აკლია სანდო მტკიცებულებები საქმის გასაგრძელებლად. ზრდა მოჰყვა მოხსენების აქტს (Report Act), რომელიც კანონად იქცა 2024 წლის მაისში და გააფართოვა შეტყობინების მოთხოვნები, რათა მოიცავდეს დაგეგმილ ან გარდაუვალ ძალადობას, ბავშვთა სექსუალურ ტრეფიკინგს და მასთან დაკავშირებულ ექსპლუატაციას, ამასთანავე ავალდებულებს კომპანიებს, უფრო დიდხანს შეინახონ მტკიცებულებები. მეტა რჩება NCMEC-ის CyberTipline-ისთვის შეტყობინებების უმსხვილეს წყაროდ, რაც შეადგენს 2024 წელს მიღებული 20.5 მილიონი შეტყობინების დაახლოებით ორ მესამედს, რაც შემცირებულია 2023 წლის 36.2 მილიონიდან. შემცირება ნაწილობრივ მიეწერება მეტას შეტყობინების პრაქტიკის ცვლილებებს. 2025 წლის აგვისტოს მთლიანობის ანგარიშში, მეტამ განაცხადა, რომ Facebook-მა, Instagram-მა და Threads-მა 2025 წლის მეორე კვარტალში NCMEC-ს გაუგზავნეს 2 მილიონზე მეტი CyberTip მოხსენება. მათგან 528,000-ზე მეტი ეხებოდა ბავშვებთან შეუსაბამო ურთიერთობებს, ხოლო 1.5 მილიონზე მეტი ეხებოდა ბავშვთა სექსუალური ძალადობის მასალის გაზიარებას ან ხელახლა გაზიარებას. ამ მაჩვენებლების მიუხედავად, ჯ.ბ. ბრანჩმა, Public Citizen-ის პოლიტიკის ადვოკატმა, განაცხადა, რომ ხელოვნურ ინტელექტზე გაზრდილმა დამოკიდებულებამ მოხსენების აქტი ნაკლებად ეფექტური გახადა საქმეების განმხილველი გამომძიებლებისთვის, ამტკიცებდა რა, რომ მიუხედავად იმისა, რომ ალგორითმები დიდი ხანია ეხმარებოდნენ მოდერატორების სამუშაო დატვირთვის შემცირებაში, ადამიანური შემფასებლები ყველაზე ეფექტური ფილტრი იყვნენ. „პრობლემის ნაწილი ის არის, რომ ბევრმა ამ ტექნოლოგიურმა კომპანიამ გაათავისუფლა კონტენტის მოდერატორები და შეცვალა ისინი ხელოვნური ინტელექტის უსაფრთხოების ფუნქციებით“, – განუცხადა ბრანჩმა Decrypt-ს. „შედეგად, სიფრთხილის გადაჭარბებული ზომების გამო, ხდება ცრუ დადებითი შედეგების გადაჭარბებული რაოდენობის შერჩევა.“ წარსულში, ბრანჩის თქმით, განხილვის ჯაჭვში, როგორც წესი, უფრო მეტი ადამიანური შემფასებელი იყო, რომლებსაც შეეძლოთ ისეთი კონტენტის იდენტიფიცირება და წაშლა, რომელიც ესკალაციას არ საჭიროებდა. „რადგან ამ კომპანიებმა ადამიანური კონტენტის მოდერატორები ან შემფასებლები ამოიღეს ჯაჭვიდან, ბევრად მეტი რამ გადის, რადგან მათ სურთ სიფრთხილის გამო შეცდომა დაუშვან“, – თქვა მან. „ისინი ძირითადად უფრო ფართო ბადეს აგდებენ და იჭერენ ისეთ რაღაცებს, რაც არც კი კვალიფიცირდება, და ამისთვის ძლიერად ეყრდნობიან ხელოვნური ინტელექტის ინსტრუმენტებს.“ გამომძიებლები ამბობენ, რომ ხელოვნური ინტელექტის მიერ გენერირებული მცდარი შეტყობინებების გავლენა ახლა იგრძნობა იმ სამუშაო ჯგუფებში, რომლებიც მათ განიხილავენ. „ეს მორალს კლავს. ჩვენ ვიხრჩობით შეტყობინებებში და გვინდა გავიდეთ და ეს საქმე გავაკეთოთ“, – განაცხადა ICAC-ის ოფიცერმა. „ჩვენ არ გვაქვს საკმარისი პერსონალი ამის შესანარჩუნებლად. შეუძლებელია, რომ გავუმკლავდეთ შემოსულ ნაკადს.“ თქვენი კარიბჭე Web3-ის სამყაროში. უახლესი ამბები, სტატიები და რესურსები, რომლებიც ყოველკვირეულად იგზავნება თქვენს შემოსულებში. © შემდეგი თაობის მედია კომპანია. 2026 Decrypt Media, Inc.