ყოველ ჯერზე, როცა ჩატბოტთან ვურთიერთობთ, დიდი შანსია, რომ ჩვენი ნებისმიერი ფრაზა თუ პრომპტი მხოლოდ კითხვებზე პასუხის გასაცემად არ გამოიყენებოდეს. პლანეტაზე არსებული თითქმის ყველა ხელოვნური ინტელექტის კომპანია მომხმარებლის მიერ მიწოდებულ ინფორმაციას საკუთარი მოდელების გასაწვრთნელად იყენებს. ეს კი პირდაპირ საფრთხეს უქმნის როგორც ჩვენს პირად კონფიდენციალობას, ისე დამსაქმებლის სენსიტიურ ინფორმაციას. თუმცა, ამ რისკების შემცირება მარტივად შეგვიძლია, თუ ჩატბოტებს ჩვენი მონაცემების სატრენინგოდ გამოყენებას ავუკრძალავთ.
იმისათვის, რომ ჩატბოტმა კომპეტენტური და ზუსტი პასუხები გაგვცეს, მის უკან მდგარმა დიდმა ენობრივმა მოდელმა ინფორმაციის უზარმაზარი მასივი უნდა გადაამუშაოს და შეითვისოს. ამ პროცესს „გაწვრთნა“ ეწოდება. რაც უფრო მეტ ინფორმაციაზე იწვრთნება მოდელი, მით უფრო ჭკვიანი ხდება ის. ამ მონაცემებს ალგორითმები უამრავი წყაროდან აგროვებენ, იქნება ეს საჯარო ვებსაიტები, სოციალური ქსელები, ენციკლოპედიები თუ YouTube-ის ვიდეოები. სამწუხაროდ, ხშირად ეს ავტორების, მხატვრების, მუსიკოსებისა და სხვა შემოქმედების ნებართვის გარეშეც ხდება.
გარდა საჯარო სივრცისა, ეს მოდელები სატრენინგო მასალას უშუალოდ ჩვენგანაც იღებენ. ყოველ ჯერზე, როცა ჩატბოტს რაიმე ინფორმაციას ვაწვდით, AI კომპანია მას, დიდი ალბათობით, თავისი სისტემის გასაუმჯობესებლად იყენებს, რაც ჩვენი კონფიდენციალურობისთვის საკმაოდ სერიოზული საფრთხეა.
ზოგადად, საუკეთესო გამოსავალია, არ მივცეთ ენობრივ მოდელებს ჩვენი მონაცემებით სწავლის უფლება, განსაკუთრებით მაშინ, თუ დიალოგისას პირად და სენსიტიურ დეტალებს ვუმხელთ. როცა ჩატბოტს საკუთარ ფიზიკურ თუ მენტალურ ჯანმრთელობაზე, ფინანსებსა და პირად ურთიერთობებზე ვესაუბრებით, უნდა გვესმოდეს, რომ ეს მონაცემები, როგორც წესი, მოდელის შემდგომი განვითარებისთვის გამოიყენება. მარტივად რომ ვთქვათ, ჩვენი ყველაზე ინტიმური ფიქრები, წუხილები და პრობლემები ალგორითმის ნაწილი ხდება.
მართალია, ხელოვნური ინტელექტის კომპანიები გვარწმუნებენ, რომ სატრენინგოდ გამოყენებამდე ჩვენს მონაცემებს ანონიმურს ხდიან, მაგრამ რეალურად, მხოლოდ მათი სიტყვის ნდობა გვიწევს. მონაცემების ანონიმიზაციის შემთხვევაშიც კი, არავინაა დაზღვეული, რომ მომავალში ვინმე ბოროტმოქმედი არ გამოიყენებს სპეციალურ ტექნიკას, რომელიც ჯანმრთელობის, იურიდიული თუ ფინანსური საკითხების შესახებ დაწერილ პრომპტებს პირდაპირ ჩვენს ვინაობასთან დააკავშირებს.
სიფრთხილე ორმაგად აუცილებელია, თუ AI ჩატბოტს სამსახურებრივი მიზნებისთვის ვიყენებთ. მასში კლიენტების ან მომხმარებლების კონფიდენციალური ინფორმაციის შეყვანით, შესაძლოა დამსაქმებელი სერიოზული იურიდიული და მარეგულირებელი რისკების წინაშე დავაყენოთ. ამის გარეშეც, არსებობს საფრთხე, რომ შემთხვევით გავთქვათ კომპანიის კორპორაციული საიდუმლოებები, მაგალითად, დახურული პროგრამული კოდი ან გაყიდვების მონაცემები. ჩატბოტმა შეიძლება დაგვეხმაროს და სასურველი პასუხი გაგვცეს, მაგრამ სანაცვლოდ ჩვენს ინფორმაციას შეისრუტავს და სამუდამოდ დაიმახსოვრებს.
სწორედ ამიტომ, ჩატბოტისთვის ჩვენს მონაცემებზე წვდომის შეზღუდვა ძალიან გონივრული ნაბიჯია. ეს არანაირად არ იმოქმედებს მის მიერ გაცემული პასუხების ხარისხზე, სამაგიეროდ, მაქსიმალურად დაგვაზღვევს, რომ ჩვენი ინფორმაცია ენობრივ მოდელში სამუდამოდ არ ჩაილექოს. სასიხარულოა, რომ დღეს უკვე ყველაზე პოპულარული და სანდო ჩატბოტები – OpenAI-ის ChatGPT, Google-ის Gemini, Anthropic-ის Claude და Perplexity – მომხმარებლებს ამ არჩევანს აძლევენ.
მონაცემთა გამოყენების შესაზღუდად, თითოეულ პლატფორმას თავისი სპეციფიკური, თუმცა მარტივი გზა აქვს. მაგალითად, ChatGPT-ში პარამეტრების განყოფილებაში, მონაცემთა მართვის მენიუდან უნდა გავთიშოთ ფუნქცია, რომელიც მოდელის ყველასთვის გაუმჯობესებას გულისხმობს. Gemini-ის შემთხვევაში, პროცესი პირდაპირ აპლიკაციების აქტივობების პარამეტრების გვერდიდან იმართება, სადაც ჩართული რეჟიმი უნდა გამოვრთოთ და ამომხტარ ფანჯარაში არჩევანი დავადასტუროთ. რაც შეეხება Claude-ს, აქაც პროფილის პარამეტრებიდან კონფიდენციალურობის მენიუში შევდივართ და მოდელის გაუმჯობესებაში დახმარების ფუნქციას ვთიშავთ. მსგავსი პრინციპია Perplexity-შიც, სადაც პრეფერენციების განყოფილებაში AI-ის მიერ მონაცემების შენახვის ფუნქციის დეაქტივაცია მოგვიწევს.
ამ ნაბიჯების გადადგმის შემდეგ, ოთხივე ტექნოლოგიურმა გიგანტმა უნდა შეწყვიტოს ჩვენი პრომპტებისა და მოწოდებული ინფორმაციის თავისი მოდელების სატრენინგოდ გამოყენება. თუმცა, რადგან ამ კომპანიებს საკუთარ სისტემებზე დამოუკიდებელი აუდიტორებისთვის წვდომა არ მიუციათ, კვლავ მხოლოდ მათი პირობის იმედად ვრჩებით.
წყარო: Fastcompany
