in

როგორ გვინერგავს “Deepfake” ცრუ მოგონებებს გონებაში?

ჩვენს ტვინს არ გააჩნია “უსაფრთხოების პროგრამა”, რაც შეცდომაში შეყვანას ძალიან აადვილებს

ადამიანის ტვინი რთული, სასწაულებრივი რამ არის. უფრო ზუსტად რომ აღვნიშნოთ, ეს ბიოლგიური ევოლუციის განსახიერებაა. თუმცა მას არ გააჩნია ე. წ. “უსაფრთხოების პროგრამა”, რაც შეცდომაში შეყვანას ძალიან აადვილებს.

შეგვიძლია, ადამიანის ტვინი გიგანტური ნერვული სახით წარმოვიდგინოთ, რომელიც საკუთარ ენაზე მეტყველებს. როდესაც ვსაუბრობთ ტვინისა და კომპიუტერის ინტერფეისების განვითარებაზე, ჩვენ, როგორც წესი, განვიხილავთ რაიმე სახის გადამცემსა და მიმღებს, რომელიც ტვინის ტალღებს განმარტავს. ფაქტი კი ისაა, რომ ადამიანის ტვინის შეცდომაში შეყვანა მას შემდეგ ხდება, რაც გაცნობიერების უნარი განუვითარდა.

იფიქრეთ მსახიობზე, რომელიც სევდიან მოგონებას ცრემლების მოსაგვრელად იყენებს ან დეტექტივზე, რომელიც საპირისპირო ფსიქოლოგიას იყენებს ეჭვმიტანილის “გასაშიფრად”. ეს მაგალითები შესაძლოა, მეტად უბრალო იყოს, ვიდრე, ვთქვათ, “კაცი შავებში”. მაგრამ საბოლოო შედეგი არსებითად იგივეა. ჩვენ შეგვიძლია შევცვალოთ მონაცემები, რომლებიც ჩვენს გონებაში ბაზისური რეალობის დასადგენად გამოიყენება.

ისტორია

გერმანიისა და დიდი ბრიტანეთის უნივერსიტეტების მკვლევართა ჯგუფმა წინასწარი ბეჭდვითი კვლევა გამოაქვეყნა, სადაც დეტალურად იყო აღწერილი, როგორ შეძლეს ცრუ ინფორმაციის ჩანერგვა და შემდგომ გაქრობა.

ადამიანის მეხსიერება შეცდომაში შეყვანისკენაა მიდრეკილი, თანაც მორჩილია. ეს განსაკუთრებით ცხადია სასამართლო პროცესების დროს, რადგან პიროვნებას შესაძლოა, არასწორად ახსოვდეს მოვლენები და მის მეხსიერებაში ისეთი კადრები იყოს დალექილი, რომელიც რეალურად არც კი მომხდარა. მიუხედავად სხვადასხვა სახის კვლევებისა და საშუალებებისა, კვლევა იმის შესახებ, შესაძლებელია თუ არა ცრუ ავტობიოგრაფიული მოგონებების შეცვლა რეალურ პირობებში, პრაქტიკულად არ არსებობს.

ფაქტია, შედარებით ადვილია ცრუ მოგონებების ჩანერგვა. მათი მოშორება კი – რთული.

ახალი კვლევა 52 სუბიექტზე ჩატარდა, რომლებიც წინასწარვე დათანხმდნენ მკლევრების მიერ ბავშვობის ყალბი მოგონებების ჩანერგვას. ცოტა ხნის შემდეგ, ბევრმა მათგანმა დაიწყო ცრუ მოგონებების დაჯერება. მკვლევრებმა მონაწილეთა მშობლებსაც სთხოვეს, ყალბი ამბები სიმართლედ ჩაეთვალათ – როგორც ჩანს, სანდო ადამიანების მიერ რაიმეს მტკიცება, კიდევ უფრო აადვილებს სიცრუის დაჯერებას.

თანამედროვე კვლევები არა მხოლოდ ხაზს უსვამს მოსაზრებას ცრუ მოგონებების შესახებ, არამედ ამტკიცებს, რომ ფაქტი და მოგონება ერთმანეთს ეწინააღმდეგება. რამდენიმე ექსპერიმენტისა და სტრატეგიის წყალობით, შეგვიძლია ვთქვათ, რომ მდიდარ ავტობიოგრაფიულ მოგონებებს არ უნდა ვენდოთ, რადგან მასში ძალიან ცოტაა ნამდვილი ამბავი.

ცრუ მეხსიერების დანერგვის ტექნიკა უკვე დიდი ხანია არსებობს, მაგრამ მათი მიმართულების შეცვლის შესახებ ბევრი გამოკვლევა არ ჩატარებულა. რაც ნიშნავს, რომ ეს ნაშრომი არც თუ ისე მალე მიიღებს სრულყოფილ სახეს.

რომ დავფიქრდეთ, ცრუ მოგონება სოციალური ქსელების მეშვეობითაც ილექება, რომლებშიც აქტიურადაა გამოყენებული სხვადასხვა ტიპის რეკლამები. როგორც იცით, პლატფორმების ალგორითმის მუშაობის მიხედვით, თქვენი მონაცემები გამუდმებით გროვდება და ამის მიხედვით ნახულობთ შესაბამის რეკლამებს. და როდესაც თქვენს სანდო ქსელში მყოფი პიროვნება იწყებს კონკრეტული კონტენტის ნახვას, მათ თქვენც ნახულობთ.

საქმე იმაშია, რომ ჩვენი ტვინი/გონება ბევრად კარგად ადაპტირდება რეალობასთან, ვიდრე გვგონია. იმ დროს, როდესაც აღმოვაჩენთ, რომ არის რაღაც სისტემა, რომლითაც მანიპულირება შეგვიძლია, მით მეტს ვფიქრობთ, რომ სისტემა რაღაცას ამბობს ჩვენზე, როგორც ადამიანებზე.

წარმოიდგინეთ, რამდენად დიდი გავლენა აქვს ამ, შედარებით “მცირე” ალგორითმსაც კი, რომ ჩვენზე მორგებული კონტენტი გამუდმებით მივიღოთ. რა მოხდება იმ შემთხვევაში, თუ კომპანიები Deepfake-სა და ხელოვნურ ინტელექტს (AI) ერთიანად გამოიყენებენ? მაგალითად, თუ თქვენი მშობლები დიდი ხანია არ გინახავთ და “დიფფეიქის” დახმარებით შექმნილი ვიდეო, სადაც ისინი ცხელი კაკაოს მირთმევას გირჩევენ, საკმაოდ ემოციურად იმოქმედებს თქვენზე.

და ცრუ მოგონებები?

ეს ყველაფერი შესაძლოა სასიკეთო იყოს, როდესაც კომპანიები უბრალოდ თავიანთი პროდუქტის ირგვლივ ქმნიან დადებით ემოციებსა და “მოგონებებს”… მაგრამ საქმე სხვაგვარადაა, როდესაც ნეგატიური ცრუ მოგონება ფაქტად იქცევა. თქვენი აზრით, რამდენი სამართალდამცავი ორგანოა, რომელიც მანიპულირებული მედიის გამოყენებას ეწინააღმდეგება? მკვლევართა პასუხი ამ კითხვაზე ასეთია: ნულთან ახლოს.

საუკეთესო დაცვა

კარგია იმის ცოდნა, რომ უკვე არსებობს მეთოდები, რომელთა საშუალებითაც შეგვიძლია, ეს ცრუ მოგონებები აღმოვფხვრათ. როგორც ევროპულმა კვლევითმა ჯგუფმა აღმოაჩინა, ჩვენს ტვინს ცრუ მოგონებების თავიდან აცილება შეუძლია, როდესაც ისინი რეალური ფაქტების წინაშე აღმოჩნდება. ეს მათ უფრო ელასტიურს ხდის “თავდასხმის” წინააღმდეგ, ვიდრე წარმოგვიდგენია.

სამწუხარო ფაქტი მხოლოდ ისაა, რომ ყოველთვის ვერ ვხვდებით, რა მხრივ შეიძლება იქნას გამოყენებული ცრუ მოგონებები. მითუმეტეს მაშინ, როდესაც ჩვენი ნდობით აღჭურვილი პირიც იღებს ამაში მონაწილეობას.

ალბათ, ამ შემთხვევაში ყველაზე რეალური გამოსავალი შესაბამისი ტექნოლოგიის შემუშავებაა, რომელიც Deepfake-სა და ხელოვნური ინტელექტის სხვა მანიპულირებად მედიას “შეებრძოლება”. უნდა გავითვალისწინოთ ის ფაქტიც, რომ კომპიუტერის ინტერფეისების პროგრესთან ერთად სულ უფრო გართულდება რეალობისა და AI-ის გარჩევა.

ეს ყველაფერი ჰგავს იმას, თუ როგორ მისცა იარაღის გამოგონებამ კარგად მსროლელებს დუელში გამარჯვების საშუალება; კალკულატორმა – მათემატიკას შეჭიდებულებს რთული გამოთვლების შესრულების შესაძლებლობა… შეიძლება ითქვას, რომ იმ ეპოქაში ვცხოვრობთ, სადაც ფსიქოლოგიური მანიპულირება ღილაკზე თითის დაჭერას ჰგავს.

როგორ განვიტვირთოთ მორალურად სამსახურის შემდეგ?

“შეიყვარე საკუთარი თავი” – The Body Shop-ის კამპანია