მანქანათმშენებლობის ლაბორატორია OpenAI-ში მკვლევრებმა აღმოაჩინეს, რომ მათი უახლესი კომპიუტერული ხედვის სისტემის მოტყუება ძალიან ადვილია! როგორც ფოტოზე ჩანს, ვაშლზე მიწებებული ფურცელი, წარწერით “iPod”, ხელოვნური ინტელექტის (AI) მოდელს აბნევს და აფიქრებინებს, რომ მართლაც “აიპოდს” ხედავს.
“ამ შეტევებს ტიპოგრაფიულს ვუწოდებთ. მოდელის მიერ ტექსტის ზუსტი წაკითხვის შესაძლებლობის გამოყენებით, ვხვდებით, რომ ხელით დაწერილ ტექსტსაც კი შეუძლია მოდელის მოტყუება” – წერენ OpenAI-ის წარმომადგენლები. ისინი აღნიშნავენ, რომ მსგავსი იერიშები “შეპირისპირებულ გამოსახულებებს” ჰგავს, რომელიც აქტიურად გამოიყენება AI მოდელებში, რათა მათი შეცდომაში შეყვანა სცადოს.
ასეთი შეტევები ნამდვილად დიდ საფრთხეს წარმოადგენს ხელოვნურ ინტელექტზე დაფუძნებული ტექნოლოგიებისთვის. თუმცა ამ შემთხვევაში, ეს კონკრეტული იერიში საშიშროების შემცველი არ არის. მოცემული OpenAI პროგრამა ექსპერიმენტულ სისტემას წარმოადგენს, სახელწოდებით CLIP, რომელიც არც ერთ კომერციულ პროდუქტში არ არის განთავსებული. ის მიზნად ისახავს, შეისწავლოს, თუ როგორ შეიძლება, AI სისტემებმა ობიექტების იდენტიფიკაცია ისწავლონ, ტრენინგისა საშუალებით, სურათებისა და ტექსტების უზარმაზარ მონაცემთა ბაზაზე დაყრდნობით.
OpenAI-ის კვლევის თანახმად, AI სისტემას შეუძლია, ადამიანის მსგავსი ცოდნის მიღების გზები გამოიყენოს. როდესაც კომპანიამ მოდელის დატესტვა გადაწყვიტა, მეცნიერებმა ე. წ. “მულტიმოდალურ ნეირონები” აღმოაჩინეს. ეს არის მანქანური სწავლების ქსელში არსებული ინდივიდუალური კომპონენტები, რომლებიც რეაგირებენ არა მხოლოდ ობიექტის გამოსახულებაზე, არამედ ესკიზებზე, კარიკატურებსა და მასთან დაკავშირებულ ტექსტებზე. მის ერთ-ერთი მიზეზი არის ის, რომ როგორც ჩანს, ასახავს ადამიანის ტვინის რეაქციას სტიმულებზე, სადაც ტვინის ცალკეული უჯრედები რეაგირებენ აბსტრაქტულ ცნებებზე და არა კონკრეტულ მაგალითებზე. ამ სისუსტეს OpenAI აღწერს, როგორც “აბსტრაქციის შეცდომას”.
კიდევ ერთი ტესტი, რომელიც ყულაბაზე ჩაატარეს, გვიჩვენებს, რომ მოდელი არა მხოლოდ ყულაბის გამოსახულებაზე, არამედ დოლარის ნიშნზებზეც რეაგირებს. როგორც ფოტოზე ჩანს, შეგიძლიათ, CLIP მარტივად მოატყუოთ და აფიქრებინოთ, რომ ბალახის საჭრელი მანქანა ყულაბაა. ამისათვის მხოლოდ $-ის სიმბოლოს დამატება დაგჭირდებათ.
საბოლოოდ მკვლევრებმა დაადგინეს, რომ CLIP-ის მულტიმოდალური ნეირონები ზუსტად ასახავს იმ მიკერძოებულობას, რომელსაც ინტერნეტი მონაცემების მოძიების დროს იყენებს, რაც ხშირად შეცდომების დაშვების ალბათობას ზრდის.
