in

კონტენტის ტოქსიკურობას უკვე Mindshare-ის AI განსაზღვრავს

GroupM-ის Mindshare-მა ანალიტიკური ინსტრუმენტი შეიმუშავა, რომელიც უმცირესობათა თემებზე არსებულ სარედაქციო შინაარსზე სოციალურ გავლენას აფასებს. Impact Index აკონტროლებს, აანალიზებს და ანაწილებს შინაარსს საზოგადოებრივი გავლენის პოზიტიურ, ნეიტრალურ, უარყოფით და ტოქსიკურ კატეგორიებში. იდეა კი ერთი წლის წინ Mindshare-ის წარმომადგენლებს რეიჩელ ლოვენშტეინსა და ჯარედ გრინს გაუჩნდათ. 

ამ პროექტის მიზანია ადამიანის უსაფრთხოების ინსტრუმენტის შექმნა. ალგორითმი ფართოდ გავრცელებულ ონლაინ ტოქსიკურობასა და იმ როლს მიმართავს, რომელიც ამ რიტორიკის მონეტიზაციაში რეკლამის განმთავსებლებმა შეიძლება შეასრულონ, — აცხადებს ლოვენშტეინი.

უშუალოდ ალგორითმზე კი socialcontext.ai-დან, რომელიც ამ საქმეში Mindshare-ის პარტნიორია, 10-ზე ნაკლებმა ადამიანმა იმუშავა. მათი მიზანი იყო, შეექმნათ ის, რაც ბრენდის უსაფრთხოების ევოლუციას წარმოადგენდა. თანაც, სხვა მსგავსი ინსტრუმენტები ბრენდების შინაარსს დიდად ზღუდავდა… 

თავდაპირველად Impact Index ფოკუსირდება ფერადკანიანი ამერიკელების გარშემო, თუმცა შემდეგ ისეთ საკითხებს მოიცავს, როგორებიცაა LGBTQ+ საზოგადოება, ქალები და ა. შ. ამასთან, იმ განმარტებებზეც შეთანხმდნენ, რის მიხედვითაც სარედაქციო შინაარსს ნეიტრალურად, უარყოფითად, პოზიტიურად ან ტოქსიკურად მიიჩნევდნენ. 

ტოქსიკურ შინაარსს მკაფიო მიზანი აქვს, დაარწმუნოს მკითხველი, რომ ინდივიდი თავისი რასის მიხედვით უნდა შეფასდეს. ასე რომ, სისტემა აფასებს კონტენტს, რომელიც ამბობს „ამ შავკანიანმა ეს გააკეთა, შემდეგი ნაბიჯი კი იმის განსაზღვრაა, არის თუ არა ეს სტერეოტიპული, განზოგადებული თუ არასწორი, — ამბობს კრის ვარგო, socialcontext.ai-დან.

ხოლო მას შემდეგ, რაც დეფინიციები გამყარდა, გუნდს რამდენიმე თვის განმავლობაში ალგორითმის გამოკვება ათასობით სტატიით მოუწია, იმის გასაგებად თუ, რა კონცეფციები იყო დაკავშირებული კონკრეტულ საკითხებთან, რათა საბოლოო პროგნოზიც გაეკეთებინა. მას შეუძლია თქვას: „მე დავაკვირდი სტატიას და 99%-ით სავარაუდოა, რომ ეს რასობრივი მრავალფეროვნების პროპაგანდაა ან სტატია, რომელიც აფროამერიკელების შესახებ პოზიტიური კუთხით საუბრობს“.

Excel-ის საკმაოდ დაძაბული მსოფლიო ჩემპიონატი

Microsoft-ის 1538 ემოჯის გარდაქმნა ყველას შეეძლება