მეტას ხელოვნური ინტელექტი ბავშვთა ძალადობის გამომძიებლებს „უსარგებლო“ შეტყობინებებით ავსებს, აცხადებენ სამართალდამცავი ორგანოების წარმომადგენლები

Meta’s AI Floods Child Abuse Investigators With 'Junk' Tips, Law Enforcement Officials Claim $65,576.00 $1,925.37 $610.94 $1.35 $0.999965 $81.78 $0.282213 $1.046 $0.093293 $48.87 $0.276164 $0.999825 $463.07 $8.79 $27.19 $0.169744 $333.77 $8.70 $0.999187 $0.157591 $0.999824 $0.00929446 $0.09956 $0.999908 $54.15 $8.90 $217.63 $0.898727 $0.00000576 $1.29 $0.075533 $0.111702 $5,243.00 $1.63 $1.44 $5,273.23 $3.76 $0.630509 $1.00 $1.12 $0.999977 $0.996858 $112.75 $0.691675 $174.58 $76.35 $0.169992 $0.00000368 $0.067169 $2.17 $0.999841 $0.0000016 $1.091 $2.49 $8.63 $0.999216 $0.25641 $0.108472 $11.00 $6.95 $0.388644 $8.34 $0.00179024 $1.79 $0.057746 $63.72 $1.85 $0.01557971 $0.854914 $0.102141 $1.00 $1.24 $0.02974036 $0.00936045 $3.38 $0.086445 $114.42 $0.999869 $0.988677 $0.03608086 $1.42 $0.939606 $1.028 $1.11 $0.03392217 $0.00735348 $0.616515 $0.080779 $34.38 $0.100027 $1.096 $0.998271 $0.151804 $1.00 $0.00000596 $0.01281118 $0.998961 $0.258743 $1.089 $1.18 $0.068733 $0.999858 $0.677483 $1.29 $0.00676443 $0.234467 $33.35 $0.04768814 $0.383105 $168.65 $0.999385 $0.497639 $0.242097 $0.157232 $0.999642 $0.0337715 $0.07946 $0.00000034 $1.019 $1.35 $0.958223 $0.00000033 $1.63 $3.36 $123.82 $0.055221 $0.34013 $15.66 $3.08 $0.01598294 $1.41 $0.996332 $0.066682 $0.04978142 $0.319686 $0.02621087 $0.0056226 $0.297825 $0.00002849 $0.989841 $0.374396 $0.228976 $16.88 $0.074694 $0.299433 $0.119631 $0.04845479 $1.53 $1.32 $0.00253183 $0.00242777 $6.02 $0.00004201 $1.84 $0.998639 $0.083528 $1.31 $0.04077497 $0.02043709 $0.99999 $11.01 $0.984022 $0.999931 $0.118852 $1.076 $0.499404 $22.79 $1.26 $0.091956 $0.00000098 $0.204728 $4.59 $0.097674 $0.00200988 $0.865434 $0.053764 $2.73 $5,031.39 $1.00 $0.187766 $0.096857 $0.078944 $0.186312 $0.00483052 $1.00 $18.50 $0.01916474 $0.999838 $0.00367261 $2.16 $2.07 $0.16627 $0.166306 $0.02288086 $0.02005095 $1.79 $48.00 $0.051836 $0.106959 $0.591716 $0.996634 $1.74 $3.39 $1.26 $0.156082 $0.04030956 $1.00 $0.0000074 $0.998501 $0.303874 $0.165288 $0.310823 $0.39636 $0.136698 $1.016 $0.62315 $0.26276 $4.46 $0.132411 $1,095.96 $0.606745 $0.080028 $0.074242 $0.091524 $1.61 $0.279451 $0.129165 $0.00146892 $0.075952 $1.001 $0.296026 $0.0039133 $0.02100317 $0.241561 $7.86 $0.212492 $10.28 $0.995526 $1.08 $2.31 $0.114737 $0.331903 $0.998569 $0.999915 $0.99942 $1.064 $0.999536 $0.186528 მეტას მიერ ხელოვნური ინტელექტის გამოყენება თავისი პლატფორმების გასაკონტროლებლად წარმოქმნის დიდი რაოდენობით დაბალი ხარისხის მოხსენებებს, რომლებიც რესურსებს ხარჯავს და ბავშვთა ძალადობის გამოძიებას ანელებს, ნათქვამია The Guardian-ის მოხსენებაში. ეს ამბავი მას შემდეგ გავრცელდა, რაც ნიუ-მექსიკოს სამართალდამცავი ორგანოების წარმომადგენლებმა გასულ კვირას განაცხადეს, რომ AI-ის მიერ გენერირებული მოხსენებები გამომძიებლებს გადატვირთავს და ბავშვთა ექსპლუატაციის საქმეებს ანელებს. ბავშვთა წინააღმდეგ ინტერნეტ დანაშაულების სამუშაო ჯგუფის (Internet Crimes Against Children Task Force) პროგრამის ოფიცრებმა კონკრეტულად დაასახელეს მეტას ავტომატიზებული სისტემები და განაცხადეს, რომ ისინი ყოველთვიურად ათასობით გამოუყენებელ შეტყობინებას აგენერირებენ, რომლებიც სამართალდამცავ ორგანოებს ეგზავნება. „მეტასგან ბევრ შეტყობინებას ვიღებთ, რომლებიც უბრალოდ ნაგავია“, – განაცხადა ბენჯამინ ცვაიბელმა, ICAC-ის სამუშაო ჯგუფის სპეციალურმა აგენტმა ნიუ-მექსიკოში, კომპანიის წინააღმდეგ შტატის სასამართლო პროცესზე. კიდევ ერთმა ICAC-ის ოფიცერმა, ანონიმურად საუბრისას, The Guardian-ს განუცხადა, რომ დეპარტამენტის კიბერშეტყობინებები გაორმაგდა 2024 წლიდან 2025 წლამდე. „ეს საკმაოდ გადამეტებულია, რადგან ამდენ მოხსენებას ვიღებთ, მაგრამ მოხსენებების ხარისხი ნამდვილად არასაკმარისია სერიოზული ზომების მისაღებად“, – განაცხადეს მათ. Decrypt-თან გაზიარებულ განცხადებაში, მეტას სპიკერმა განაცხადა, რომ კომპანია დიდი ხანია თანამშრომლობს სამართალდამცავ ორგანოებთან და აღნიშნა, რომ იუსტიციის დეპარტამენტმა და დაკარგული და ექსპლუატირებული ბავშვების ეროვნულმა ცენტრმა (National Center for Missing & Exploited Children) შეაქეს მისი მოხსენების პროცესი. „2024 წელს, ჩვენ მივიღეთ 9,000-ზე მეტი გადაუდებელი მოთხოვნა აშშ-ის ხელისუფლებისგან და გადავწყვიტეთ ისინი საშუალოდ 67 წუთში, ხოლო ბავშვთა უსაფრთხოებისა და სუიციდის შემთხვევებისთვის კიდევ უფრო სწრაფად“, – განაცხადა სპიკერმა. „მოქმედი კანონმდებლობის შესაბამისად, ჩვენ ასევე ვატყობინებთ ბავშვთა სექსუალური ექსპლუატაციის სავარაუდო გამოსახულებებს NCMEC-ს და ვეხმარებით მათ მოხსენებების პრიორიტეტიზაციაში, საქმის მართვის ხელსაწყოს შექმნიდან დაწყებული კიბერშეტყობინებების მარკირებამდე, რათა მათ იცოდნენ, რომელია გადაუდებელი“, – დაამატეს მათ. ICAC-ის ოფიცრებმა, თუმცა, განაცხადეს, რომ მეტას მიერ გაგზავნილი ზოგიერთი მოხსენება არ არის კრიმინალური ხასიათის, ზოგიერთს კი აკლია სანდო მტკიცებულებები საქმის გასაგრძელებლად. ზრდა მოჰყვა „მოხსენების აქტს“ (Report Act), რომელიც კანონად იქცა 2024 წლის მაისში და გააფართოვა მოხსენების მოთხოვნები, რათა მოიცავდეს დაგეგმილ ან გარდაუვალ ძალადობას, ბავშვთა სექსუალურ ტრეფიკინგს და მასთან დაკავშირებულ ექსპლუატაციას, ამასთან, კომპანიებს ავალდებულებს მტკიცებულებების უფრო დიდხანს შენახვას. Meta რჩება NCMEC-ის CyberTipline-ისთვის მოხსენებების უმსხვილეს წყაროდ, რაც შეადგენს 2024 წელს მიღებული 20.5 მილიონი შეტყობინების დაახლოებით ორ მესამედს, რაც შემცირებულია 2023 წლის 36.2 მილიონიდან. კლება ნაწილობრივ მიეწერება მეტას მოხსენების პრაქტიკაში ცვლილებებს. 2025 წლის აგვისტოს მთლიანობის ანგარიშში, Meta-მ განაცხადა, რომ Facebook-მა, Instagram-მა და Threads-მა 2025 წლის მეორე კვარტალში NCMEC-ს 2 მილიონზე მეტი CyberTip მოხსენება გაუგზავნეს. მათგან 528,000-ზე მეტი ეხებოდა ბავშვებთან შეუსაბამო ურთიერთობებს, ხოლო 1.5 მილიონზე მეტი ეხებოდა ბავშვთა სექსუალური ძალადობის მასალის გაზიარებას ან ხელახლა გაზიარებას. ამ მონაცემების მიუხედავად, ჯ.ბ. ბრანჩმა, Public Citizen-ის პოლიტიკის ადვოკატმა, განაცხადა, რომ AI-ზე გაზრდილმა დამოკიდებულებამ „მოხსენების აქტი“ ნაკლებად ეფექტური გახადა საქმეების განმხილველი გამომძიებლებისთვის, ამტკიცებდა რა, რომ მიუხედავად იმისა, რომ ალგორითმები დიდი ხანია ეხმარებოდნენ მოდერატორების სამუშაო დატვირთვის შემცირებაში, ადამიანური შემფასებლები ყველაზე ეფექტური ფილტრი იყვნენ. „აქ პრობლემის ნაწილი ის არის, რომ ბევრმა ამ ტექნოლოგიურმა კომპანიამ გაათავისუფლა კონტენტის მოდერატორები და შეცვალა ისინი AI უსაფრთხოების ფუნქციებით“, – განუცხადა ბრანჩმა Decrypt-ს. „შედეგად, სიფრთხილის გადაჭარბებული ზომების გამო, ცრუ დადებითი შედეგების სიჭარბეა შერჩეული.“ წარსულში, ბრანჩის თქმით, განხილვის ჯაჭვში, როგორც წესი, უფრო მეტი ადამიანური შემფასებელი იყო, რომლებსაც შეეძლოთ ისეთი კონტენტის იდენტიფიცირება და წაშლა, რომელიც ესკალაციას არ საჭიროებდა. „რადგან ამ კომპანიებმა ადამიანური კონტენტის მოდერატორები ან შემფასებლები ამოიღეს ჯაჭვიდან, ბევრად მეტი რამ გადის, რადგან მათ სურთ სიფრთხილის მხარეს იყვნენ“, – თქვა მან. „ისინი ძირითადად უფრო ფართო ბადეს აგდებენ და იჭერენ ისეთ რაღაცებს, რაც არც კი კვალიფიცირდება, და ამისთვის ძლიერად ეყრდნობიან AI ინსტრუმენტებს.“ გამომძიებლები ამბობენ, რომ მცდარი AI-ის მიერ გენერირებული შეტყობინებების გავლენა ახლა იგრძნობა სამუშაო ჯგუფებში, რომლებიც მათ განიხილავენ. „ეს მორალს კლავს. ჩვენ ვიხრჩობით შეტყობინებებში და გვინდა გავიდეთ და ეს საქმე გავაკეთოთ“, – განაცხადა ICAC-ის ოფიცერმა. „ჩვენ არ გვყავს საკმარისი პერსონალი ამის შესანარჩუნებლად. შეუძლებელია, რომ გავუმკლავდეთ შემოსულ ნაკადს.“ თქვენი კარიბჭე Web3-ის სამყაროში უახლესი ამბები, სტატიები და რესურსები, რომლებიც ყოველკვირეულად იგზავნება თქვენს შემოსულებში. © შემდეგი თაობის მედია კომპანია. 2026 Decrypt Media, Inc.