ჩეტბოტთან საუბარი შეიძლება, ძირითადად, ორგვარად წარიმართოს — ის ან გენიალურ პასუხებს გვიბრუნებს, ანდაც რაღაც სრულიად შეუსაბამოს გვწერს. ამის ფონზე, არაერთხელ გაგვჩენია კითხვა, რა ლოგიკითაა დაკავშირებული ეს გადაკვეთის წერტილები და სწორედ ამას უკავშირდება OpenAI-ის ახალი ხელსაწყოს ამოქმედებაც. ეს უკანასკნელი უფრო გამჭვირვალე აღქმას გვთავაზობს იმისა, როგორ ურთიერთობს ენის დამუშავების მოდელი (LLM) ადამიანებთან.
LLM-ებს ერთგვარი ნეირონები აქვს, რომლებიც მოდელს კონკრეტული შაბლონების არჩევაში ეხმარება. როდესაც მომხმარებელი ჩეტბოტს წერს, სისტემამ შეიძლება საკვანძო სიტყვებზე გააკეთოს აქცენტი და ასე მიაკვლიოს პოტენციურ პასუხებს. მაგალითად, თუ ChatGPT-ს მარველის სამყაროს შესახებ ჰკითხავთ, ის „მარველი ნეირონებს“ აირჩევს და პასუხებსაც მასში არსებული ინფორმაციის საფუძველზე დააგენერირებს. ასეთ დროს ზოგიერთი პასუხი რელევანტურია, თუკი საკვანძო სიტყვები სწორად დაემთხვა — ამიტომაცაა იმაში დახელოვნება საჭირო, თუ როგორ უნდა ვესაუბროთ ხელოვნურად შექმნილ ენის მოდელებს.
რაც შეეხება უშუალოდ ახალ ხელსაწყოს, მას შეუძლია, ჩეტბოტის „ტვინის“ პაწაწინა ნაწილები შეამოწმოს და ახსნას, რატომ წავიდა სისტემა კონკრეტული გზით. უფრო ზუსტად რომ წარმოიდგინოთ, ის ცალკეულ სიტყვებზე ამახვილებს ყურადღებას, რომლებიც ჩეტბოტმა დაამუშავა და ნეირონების კონკრეტული ნაწილის „განათებას“ ელოდება. შემდეგ ინფორმაცია GPT-4-ს ეგზავნება და უკვე ეს უკანასკნელი უხსნის მომხმარებელს, რა და რატომ უპასუხა მოდელმა.
„ამ მეთოდის გამოყენებით, შეგვიძლია, თითოეული ნეირონისთვის რაიმე სახის წინასწარი ახსნა მივიღოთ, თუ რას და რატომ აკეთებს. ამავდროულად, შევაფასებთ, რამდენად შეესაბამება ეს ახსნა რეალურ ქცევას“, — განმარტავენ კომპანიაში.
მთლიანობაში, ყველა — 307,200 ნეირონის ახსნაა შესაძლებელი ინსტრუმენტის საშუალებით. ასეთ სისტემას ერთ მშვენიერ დღესაც შეეძლება, უკეთ გაიგოს, რატომ იკვეთება მიკერძოების საკითხები და როგორ შეიძლება მათი გარღვევა.
